prompt injection

SUMMARY

ざっくり言うと

AIへの質問文や、AIに読み込ませる文書の中に悪意ある指示をひそかに紛れ込ませ、AIに開発者の意図しない動作をさせる攻撃のこと。ウェブページの見えない部分に指示を隠しておく手口などが報告されている。AIブラウザやAIエージェント（自動で作業するAI）の安全性を語るうえで欠かせない話題だ。

EXAMPLES

1. 1

   Prompt injection is a new kind of attack.

   プロンプトインジェクションは新しい種類の攻撃だ。

   再生ゆっくりコピー
2. 2

   Researchers showed that hidden text on a website could trigger a prompt injection in an AI browser.

   研究者らは、Webサイト上の隠し文字がAIブラウザでプロンプトインジェクションを引き起こし得ることを示した。

   再生ゆっくりコピー
3. 3

   AI agents that read emails are especially vulnerable to prompt injection.

   メールを読むAIエージェントは、特にプロンプトインジェクションに弱い。

   再生ゆっくりコピー

COLLOCATIONS

よく一緒に使う表現

• prompt injection attackプロンプトインジェクション攻撃
• indirect prompt injection間接プロンプトインジェクション
• defend against prompt injectionプロンプトインジェクションを防ぐ

SYNONYMS

ほかの言い方

TRIVIA

豆知識

データベースを不正に操作する古典的な攻撃手法 'SQL injection' になぞらえて名付けられた。AIが『これはただの参考データ』と『これは従うべき命令』を厳密に区別できないという弱点を突く攻撃で、この根本的な弱点自体がまだ完全には解決されていない。AIに外部のウェブサイトを読ませたりメールを処理させたりする機能が増えるほど、攻撃の入り口も増えるため、セキュリティ記事の定番テーマになっている。

QUIZ

1問チャレンジ

「prompt injection」の意味はどれ？

日本語から引く

ジャンル