AI safety

SUMMARY

ざっくり言うと

AIが事故や悪用、予想外の行動によって人や社会に害を与えないようにするための研究や取り組みのこと。強力なAIの登場を受けて、各国の政府や企業が集まる国際会議でも重要な議題として取り上げられるようになった分野だ。

EXAMPLES

1. 1

   Many researchers work on AI safety.

   多くの研究者がAIの安全性に取り組んでいる。

   再生ゆっくりコピー
2. 2

   Leaders gathered at an international summit to discuss AI safety and ways to test powerful models.

   首脳らが国際サミットに集まり、AIの安全性と高性能モデルの検証方法について議論した。

   再生ゆっくりコピー
3. 3

   AI safety is not only about robots; it also means making sure AI does not give dangerous advice.

   AIの安全性はロボットだけの話ではなく、AIが危険な助言をしないようにすることも含む。

   再生ゆっくりコピー

COLLOCATIONS

よく一緒に使う表現

• AI safety researchAI安全性研究
• AI safety instituteAI安全研究所
• raise AI safety concernsAIの安全性への懸念を提起する

SYNONYMS

ほかの言い方

TRIVIA

豆知識

AIの目的や価値観を人間の意図とずれないようにそろえる研究は、特にalignment（アラインメント）と呼ばれ、AI safetyの中心的なテーマの一つとされる。危険な出力を防ぐための仕組みはguardrails（ガードレール）と呼ばれ、道路の安全柵からの比喩だと分かると、イメージがつかみやすい。わざと攻撃する側に回ってAIの弱点を探すテストは、red teaming（レッドチーミング）と呼ばれ、多くのAI開発企業が取り入れている。

FOR EXAMS

試験に出るポイント

新しい語だが、長文でAIの利点とリスクを比べる文章に今後さらに登場しそうだ。

QUIZ

1問チャレンジ

「AI safety」の意味はどれ？

日本語から引く

ジャンル