algorithm bias

SUMMARY

意味と背景

自動で判断する仕組みが、特定の人に不利な結果を出してしまうこと。採用や与信、顔の認識などで問題になってきた。過去のデータをそのまま学ぶと、その中にあった偏りまで受け継いでしまう点が根にある。機械が判断すれば公平、とは限らない。

EXAMPLES

1. 1

   Researchers found algorithm bias in the hiring tool.

   研究者は採用の仕組みに偏りを見つけた。

   再生ゆっくりコピー
2. 2

   The company stopped using the system.

   その会社はその仕組みの利用をやめた。

   再生ゆっくりコピー
3. 3

   Auditors now check the results regularly.

   検証する担当が今は定期的に結果を確かめている。

   再生ゆっくりコピー

COLLOCATIONS

よく一緒に使う表現

• training data学習に使うデータ
• audit an algorithm仕組みを検証する
• fairness公平さ

SYNONYMS

ほかの言い方

TRIVIA

豆知識

bias はもともとボウリングに似た球技で、球が片側へそれていく性質を指した語だった。そこから「かたより」の意味になり、統計でも日常でも使われる。学ばせるもとのデータは training data と呼ばれ、ここにある偏りがそのまま出力に現れることを、garbage in, garbage out（ごみを入れればごみが出る）という古い言い回しで説明することがある。

QUIZ

1問チャレンジ

日本語から引く

ジャンル