algorithmic bias

SUMMARY

ざっくり言うと

AIやプログラムが、学習したデータの偏りなどのせいで、特定の性別や人種などを不公平に扱ってしまうこと。採用選考や融資審査など、生活に直結する場面でAIが使われるほど注目される問題で、公平性の議論の中心になっている。

EXAMPLES

1. 1

   Algorithmic bias can hurt people without anyone noticing.

   アルゴリズムの偏りは、誰も気づかないうちに人を傷つけることがある。

   再生ゆっくりコピー
2. 2

   Regulators are asking companies to test their hiring software for algorithmic bias.

   規制当局は企業に対し、採用ソフトにアルゴリズムの偏りがないか検証するよう求めている。

   再生ゆっくりコピー
3. 3

   If the training data is unbalanced, algorithmic bias is hard to avoid.

   学習データに偏りがあると、アルゴリズムの偏りは避けにくい。

   再生ゆっくりコピー

COLLOCATIONS

よく一緒に使う表現

• address algorithmic biasアルゴリズムの偏りに対処する
• audit for algorithmic biasアルゴリズムの偏りを監査する
• concerns over algorithmic biasアルゴリズムの偏りをめぐる懸念

SYNONYMS

ほかの言い方

TRIVIA

豆知識

bias は「斜め・傾き」が原義で、そこから「偏見」の意味になった語。AIそのものに悪意はなく、人間社会にすでにある偏りを映したデータを学ぶことで偏りが生まれることが多い点がポイントだ。採用ソフトが特定の性別を不利に扱っていたと発覚した海外の事例など、AIと公平性を扱う記事の定番テーマになっている。対策としては fairness（公平性）を測る仕組みづくりが進められている。

FOR EXAMS

試験に出るポイント

AIと社会をテーマにした長文で、fairness や discrimination と一緒に出やすい語。

QUIZ

1問チャレンジ

「algorithmic bias」の意味はどれ？

日本語から引く

ジャンル