red teaming

SUMMARY

ざっくり言うと

専門家があえて攻撃者の立場に立ってAIやシステムを試し、公開前に弱点や危険な動作を見つけ出す取り組みのこと。AI企業が新しいモデルを発表する際、安全性の裏づけとしてこの作業を行ったと説明することが多い。

EXAMPLES

1. 1

   Red teaming helps find weak points.

   レッドチーミングは弱点を見つける助けになる。

   再生ゆっくりコピー
2. 2

   The company said the model underwent extensive red teaming before its public release.

   同社は、そのモデルが一般公開前に大規模なレッドチーミングを受けたと説明した。

   再生ゆっくりコピー
3. 3

   In red teaming, experts try to make the AI say things it should never say.

   レッドチーミングでは、専門家がAIに決して言ってはならないことを言わせようと試みる。

   再生ゆっくりコピー

COLLOCATIONS

よく一緒に使う表現

• conduct red teamingレッドチーミングを実施する
• red-team a modelモデルを攻撃役として検証する
• external red teaming外部によるレッドチーミング

SYNONYMS

ほかの言い方

TRIVIA

豆知識

冷戦期の軍事演習で、敵役を red team、味方を blue team と色分けして呼んだ慣習に由来するとされる。サイバーセキュリティの世界でも、侵入を試みる攻撃役を red team、防御する側を blue team と呼び分けており、AI業界はこの用語をそのまま借りてきた。あえて攻撃役になりきって弱点を探すという発想は、物事を批判的に検討する視点を説明するときの具体例にもなる。

FOR EXAMS

試験に出るポイント

セキュリティ・AIリスクをテーマにした長文で頻出。動詞的に red-team a model のようにも使われる。

QUIZ

1問チャレンジ

「red teaming」の意味はどれ？

日本語から引く

ジャンル