model distillation

SUMMARY

ざっくり言うと

大きくて高性能なAIの出力を手本にして、より小さく軽いAIを学習させ、性能をできるだけ近づける手法のこと。手本役の大きいAIを teacher、学ぶ側の小さいAIを student と呼び、開発費を抑えつつ実用的な性能を得る手段として広まった。

EXAMPLES

1. 1

   Model distillation makes AI smaller and cheaper.

   モデル蒸留はAIを小さく安くする。

   再生ゆっくりコピー
2. 2

   The AI developer accused a rival of using model distillation to copy its technology in violation of its terms.

   そのAI開発企業は、競合が規約に反してモデル蒸留で自社技術を模倣したと非難した。

   再生ゆっくりコピー
3. 3

   Thanks to model distillation, some AI tools can now run on a smartphone.

   モデル蒸留のおかげで、スマホ上で動くAIツールも出てきた。

   再生ゆっくりコピー

COLLOCATIONS

よく一緒に使う表現

• knowledge distillation知識蒸留
• distill a modelモデルを蒸留する
• distilled model蒸留モデル

SYNONYMS

ほかの言い方

TRIVIA

豆知識

液体を煮詰めてエッセンスだけを取り出す『蒸留』になぞらえた命名で、AIの『知識』のエッセンスを取り出すイメージ。あるAI企業が、ライバル企業のAIの出力を無断で使って model distillation を行ったのではないかと、規約違反を指摘された騒動も話題になった。小型AIでも大型AIに近い性能を出せることが分かり、開発コストの常識を揺さぶった手法でもある。

QUIZ

1問チャレンジ

「model distillation」の意味はどれ？

日本語から引く

ジャンル