「安全制限の回避」は英語で何という？

ANSWER

AIやスマートフォンなどに設けられた安全上の制限を、巧妙な指示や改造によってくぐり抜けること。動詞としても使われ、AIに危険な情報を答えさせる手口を報じる記事で頻出する。スマホの制限を外す改造を指す語としても使われる。

日本語から言ってみよう

1. ユーザーたちがそのチャットボットの制限を回避する方法を見つけた。

   英語を見る

2. 開発元は、モデルをだまして危険な手順を答えさせる脱獄手法を修正した。

   英語を見る

3. AIを脱獄させようとすると、サービスの利用規約違反になり得る。

   英語を見る

いっしょに使う表現

• jailbreak a chatbotチャットボットを脱獄させる
• jailbreak prompt脱獄用プロンプト
• resistant to jailbreaks脱獄に強い