「学習データの汚染」は英語で何という？

ANSWER

AIが学習するデータに、わざと誤ったデータや細工したデータを混ぜ、AIの判断をゆがめたり、特定の条件で誤作動するよう仕込んだりする攻撃のこと。ニュースでは、AIの安全性やサイバー攻撃の話題で使われる。ネット上の大量の文章を集めて学習するAIが増え、防ぐ難しさが指摘されている。

日本語から言ってみよう

1. データポイズニングはAIにとって脅威だ。

   英語を見る

2. 研究者たちは、ごくわずかな細工した文章で、チャットボットへのデータポイズニング攻撃が成り立ちうることを示した。

   英語を見る

3. データポイズニングを防ぐには、開発者は学習データの出どころを確かめる必要がある。

   英語を見る

いっしょに使う表現

• a data poisoning attackデータポイズニング攻撃
• defend against data poisoningデータポイズニングから守る
• be vulnerable to data poisoningデータポイズニングに弱い