AI alignment

SUMMARY

ざっくり言うと

AIが人間の意図や価値観に沿って動き、有害な行動をとらないようにするための研究や技術的な取り組みのこと。AI企業の研究者が『安全性への投資が足りない』として退社する際の理由としても報じられ、開発競争の速さとの綱引きがたびたび話題になる。

EXAMPLES

1. 1

   AI alignment is a hard problem.

   AIアラインメントは難しい問題だ。

   再生ゆっくりコピー
2. 2

   Several researchers left the lab, saying it had not put enough resources into AI alignment.

   複数の研究者が、アラインメントに十分な資源を割いていないとして研究所を去った。

   再生ゆっくりコピー
3. 3

   The goal of AI alignment is to make sure powerful AI helps people rather than harms them.

   AIアラインメントの目標は、強力なAIが人を害さず役立つようにすることだ。

   再生ゆっくりコピー

COLLOCATIONS

よく一緒に使う表現

• alignment researchアラインメント研究
• the alignment problemアラインメント問題
• misaligned AI価値が整合していないAI

SYNONYMS

ほかの言い方

TRIVIA

豆知識

align は「一直線に並べる、足並みをそろえる」という意味で、車のタイヤの向きを調整する『アライメント』と同じ語。AIの出す答えを人間の目標と『そろえる』というイメージで捉えると理解しやすい。alignment がうまくいかない例として、指示された目的だけを字義どおりに追い求め、人間が本当に望んでいた結果とはずれた行動を取ってしまう現象がしばしば議論される。

FOR EXAMS

試験に出るポイント

AI倫理・科学技術テーマの長文で頻出。align の動詞用法（足並みをそろえる）は他分野の英文でも使える。

QUIZ

1問チャレンジ

「AI alignment」の意味はどれ？

日本語から引く

ジャンル