神経科学の手法でゲーム機のチップを調べたら?「脳がわかる」の意味を問うた実験

神経科学の手法でゲーム機のチップを調べたら?「脳がわかる」の意味を問うた実験

読む前に予想してみよう!

神経科学の解析手法をコンピューターのチップに当てはめると、チップの仕組みがきれいに分かった

研究カード(どんな研究?)
対象
1970年代のマイクロプロセッサ(MOS 6502)のシミュレーション
規模
トランジスタ3,510個・ゲーム3本
研究の種類
計算機シミュレーションによる方法論の検証
確かさ
★★★☆☆
3秒でわかる

仕組みが完全にわかっている昔のゲーム機のチップに、脳研究の解析手法を当てはめたら?脳に似た「それっぽい結果」は出たが、チップの仕組みはほとんど見えなかった。

ひとことで言うと答えがわかっている機械で、脳を調べる道具を「テスト」してみたら…

論文スペック表研究デザイン・規模・結果・その後(玄人向け)
研究デザイン
計算機シミュレーションによる方法論の検証
対象
MOS 6502 のトランジスタ単位シミュレーション(Visual6502 が復元した回路図)
データ
回路図に含まれるトランジスタ3,510個(エンハンスメント型)・ゲーム3本(ドンキーコング、スペースインベーダー、ピットフォール)
適用した手法
コネクトーム解析、損傷実験、チューニングカーブ、集団の相関、局所場電位、グレンジャー因果、次元削減
主な結果
1本のゲームだけを止めるトランジスタが186個見つかったが、ゲーム専用の働きではなかった。ほかの手法も脳に似た構造は出すが、階層的な仕組みは読み取れなかった
評価の限界
損傷の判定は「最初の1フレームを描画できるか」という粗い指標。チップはデジタルで、脳のアナログで生物物理的に複雑な性質や可塑性を欠く(ただし著者らは、違いだけを理由に手法の失敗を片づけることはできないとも述べる)
もくじ
  1. 発端:「生物学者はラジオを直せるか?」
  2. 方法:チップを「モデル生物」として扱う
  3. 結果1:「ドンキーコング専用トランジスタ」の正体
  4. 結果2:脳に「そっくり」なデータ、でも中身は見えない
  5. 「理解した」とは、どういう状態か
  6. 研究史の中の位置づけ
  7. まとめ

脳を本当に理解したいなら、何が必要でしょうか。

よく聞く答えは「もっとデータを」です。何千、何万というニューロンを同時に記録し、配線図(コネクトーム)を丸ごと描き、強力なアルゴリズムで解析すれば、いずれ脳の仕組みが見えてくるはずだ――。

2017年、二人の研究者がこの楽観に、ユニークな方法で待ったをかけました。仕組みが100%わかっている機械に、神経科学の手法をそのまま当てはめてみたのです。選ばれたのは、1970年代に生まれ、初期の家庭用ゲーム機やパソコンに使われたマイクロプロセッサ「MOS 6502」。もし脳研究の道具が本当に強力なら、この小さなチップの仕組みくらいは見抜けるはずです。

結果は、ちょっと笑えて、かなり考えさせられるものでした。

01発端:「生物学者はラジオを直せるか?」

この研究には、有名な“元ネタ”があります。

2002年、細胞死(アポトーシス)を研究していた生物学者ラゼブニク(Lazebnik)さんが、学術誌『Cancer Cell』に「生物学者はラジオを直せるか?」というエッセイを書きました。

もし生物学者が、壊れたラジオを生物と同じやり方で調べたら――。同じラジオを大量に集め、金属の粒を撃ち込んで部品をランダムに壊し、「この部品が壊れると音が出なくなる」と記録していく。壊れると困る部品には名前をつけていく。でも、それでラジオが直せるほど理解できるだろうか? ラゼブニクさんは、部品のリストを集めることと、システムを理解することは違う、と皮肉ったのです。

2017年の論文の著者、ジョナス(Jonas)さんとコーディング(Kording)さんは、このエッセイを出発点にしました。ただし、ラジオは脳と比べると単純すぎる。そこで、もっと複雑で、なおかつ人間が完全に理解している装置として、マイクロプロセッサを選んだのです。

02方法:チップを「モデル生物」として扱う

使われたのは、MOS 6502というチップです。初期のアップル社のパソコンなどに使われ、アタリ社の家庭用ゲーム機(VCS)にも、ほぼ同じ中身の兄弟チップ(6507)が載っていました。

脳研究では夢のような「全部の同時記録」や「一つずつの破壊」も、このチップなら何度でもできる。データ不足という言い訳がきかない、理想的な実験環境です。

03結果1:「ドンキーコング専用トランジスタ」の正体

まず、損傷実験です。トランジスタを1個ずつ壊して、それぞれのゲームが起動するかを調べました。

  • 1,565個は、壊しても3本とも問題なく動いた
  • 1,560個は、壊すと3本とも動かなくなった
  • 200個は、2本のゲームだけを止めた
  • 186個は、1本のゲームだけを止めた

(数字は論文の記載どおりです。足すと3,511個になり、総数3,510個と1個ずれますが、原文のままにしています。)

最後の186個は「そのゲームに特化した部品」に見えます。「ドンキーコング・トランジスタ発見!」と見出しをつけたくなるところです。

ところが、著者たちは、これらがゲーム専用の働きをしているわけではないと指摘します。実際には、全加算器(足し算の回路)のような単純な機能を担う部品でした。あるゲームで重要に見えるかどうかは、部品の役割を間接的にしか示さず、ほかのゲームにも当てはまるとは限りません。損傷の結果は、そのとき何のプログラムが動いていたかに左右されるのです。

部品を一つずつ壊して、何が動かなくなるかを調べる。脳の損傷研究と同じ発想だ
部品を一つずつ壊して、何が動かなくなるかを調べる。脳の損傷研究と同じ発想だ

04結果2:脳に「そっくり」なデータ、でも中身は見えない

ほかの手法でも、似たことが起きました。

  • チューニングカーブ:画面のピクセルの明るさに、きれいに「反応」しているように見えるトランジスタが見つかった。でも、それらはピクセルの明るさを直接扱う部品ではなかった
  • 集団の相関:トランジスタどうしの一対一の相関は弱いのに、全体としては強く協調していた。これは実際の神経データでもよく報告されるパターン
  • 局所場電位(LFP):チップの領域ごとの活動をまとめると、脳の信号に似た周波数の特徴(おおよそべき乗則にしたがうパワー)や、領域ごとの「リズム」が現れた。でも著者らによれば、その周波数や場所は計算の副産物で、情報の流れについてはほとんど何も教えてくれなかった
  • グレンジャー因果:領域どうしの影響関係を推定すると、正しいつながりも一部見つかったが、実際とは違う結論も出た
  • 次元削減:3,510個の状態を少数の成分にまとめると、成分はクロック信号や読み書きの切り替え信号とよく対応した。けれど、それで「プロセッサがどう計算しているか」がわかるわけではない

まとめると、どの手法も「脳研究で見たことがあるような、面白い構造」は見つけた。でも、命令を読み、計算し、記憶するというチップの階層的な仕組みは、ほとんど浮かび上がらなかったのです。

著者たちは、データの量が問題なのではなく、今の解析アプローチそのものが、意味のある理解にたどり着けないおそれがある、と結論づけました。

05「理解した」とは、どういう状態か

では、チップを「理解している」とはどういうことでしょう。著者たちは、視覚研究者マー(Marr)らが示した3つのレベルを手がかりにしています。

  1. 計算のレベル:そのシステムは何の問題を解いているのか
  2. アルゴリズムのレベル:どんな手順で解いているのか
  3. 実装のレベル:それを物理的にどう作っているのか

プロセッサなら、エンジニアは三つのレベルを行き来しながら、「命令を読み込む部分」「計算する部分」「記憶する部分」がどうつながり、入力が出力にどう変わるかを説明できます。神経科学の手法は、主に実装のレベルのデータを大量に集めるものです。そこから上のレベルへ自動的にたどり着ける保証はない、というのがこの研究の警告でした。

ここから玄人ゾーン

ここまで読めば要点はつかめています。この先は反論・方法論・未解決の問いまで踏み込みます。

06研究史の中の位置づけ

この論文は、巨大データ時代の神経科学に向けた方法論のチェックとして位置づけられます。

背景には、2010年代に世界各地で始まった大型の脳研究プロジェクトがあります。記録技術が進み、何千ものニューロンを同時に測れるようになった一方で、「そのデータから何がわかれば“理解”なのか」という問いは、置き去りにされがちでした。

チップの研究が示したのは、解析手法の“検定試験”という発想です。正解のわかった系(チップや、人工ニューラルネットワーク、シミュレーションした神経回路)で、手法が正しい答えを取り出せるかを先に確かめる。これは、統計の世界で「答えがわかっている人工データで手法を検証する」のと同じ考え方で、神経データ解析でも重視されるようになっています。

07まとめ

神経科学の手法でゲーム機のチップを調べたら、「ドンキーコング専用」に見える部品も、脳波そっくりのリズムも見つかった。でも、チップの仕組みはほとんど見えなかった。

この研究は「脳研究は無駄だ」と言っているのではありません。データを集めることと、仕組みを理解することは別の仕事だ、そして道具は正解のわかった相手で先に試そう、という提案です。次に「脳の○○を担う部位を発見」というニュースを見たら、それは「ドンキーコング・トランジスタ」ではないか、少しだけ疑ってみてください。

この研究を英語で読もう原田英語の English CornerIn 2017, Eric Jonas and Konrad Kording asked a simple question. 音声 4択クイズ9問A2・B1・B2タップして開く

原田英語の English Corner

この研究を英語で読もう

In 2017, Eric Jonas and Konrad Kording asked a simple question. If neuroscientists studied a computer chip with their usual methods, would they understand it? They chose the MOS 6502, a processor from the 1970s that was used in early home computers.

Engineers know everything about it, down to each of its 3,510 transistors. The researchers simulated the chip running three games, including Donkey Kong, and treated the games as its behavior. They removed transistors one at a time, measured activity, and looked for brain-like rhythms. Some results looked exciting.

For example, 186 transistors stopped only one game when removed. But these parts were not special to any game. They did simple jobs, like adding numbers. The methods found patterns, but they could not show how the chip actually works.

130 words ・ CEFR B1

和訳を見る

2017年、エリック・ジョナスさんとコンラッド・コーディングさんは、単純な問いを立てた。神経科学者がいつもの方法でコンピューターチップを研究したら、それを理解できるだろうか?彼らが選んだのは、初期の家庭用コンピューターに使われた1970年代のプロセッサ、MOS 6502だ。

技術者は、3,510個のトランジスタ一つひとつに至るまで、このチップのすべてを知っている。研究者たちはドンキーコングを含む3本のゲームを動かすチップをシミュレーションし、ゲームをチップの「行動」とみなした。トランジスタを一つずつ取り除き、活動を測り、脳に似たリズムを探した。中には心躍る結果もあった。

たとえば186個のトランジスタは、取り除くと1本のゲームだけが止まった。しかしこれらの部品は、どのゲームにとっても特別なものではなかった。数を足すような単純な仕事をしていたのだ。手法はパターンを見つけたが、チップが実際にどう動くかは示せなかった。

4択リーディングクイズ

Q1. Why did the researchers choose a microprocessor?

Q2. What happened when each of the 186 transistors was removed?

Q3. What does the author suggest about the "one-game" transistors?

重要単語

  • microprocessorB2
    名詞マイクロプロセッサThe microprocessor runs every instruction in the game. micro(小さい)+ processor(処理装置)。CPU とほぼ同じ意味で使われる。
  • transistorB2
    名詞トランジスタ(電気のスイッチ部品)A transistor works like a tiny on-off switch. transfer + resistor から作られた語。現代のチップには数十億個が入っている。
  • lesionC1
    名詞損傷、病変A lesion in one area can change behavior. 医学では「病変」。lesion study で「損傷研究」。発音はリージョン。
  • simulateB2
    動詞(コンピューターで)再現する、模擬するThe team simulated the chip on a modern computer. 名詞は simulation。similar(似た)と同じ語源で「似せて作る」。
  • hierarchyC1
    名詞階層The chip has a clear hierarchy of parts. 形容詞 hierarchical(階層的な)。会社の上下関係にも使う。
  • ground truthC1
    名詞(句)(検証用の)正解Without ground truth, we cannot check our method. もとは地図作りで「現地で確かめた事実」。機械学習やデータ科学で頻出。
  • catalogB2
    動詞・名詞目録にする/目録Biologists cataloged every broken part. アメリカ式つづり。イギリス式は catalogue。
昔のゲーム機のチップを「脳」に見立て、神経科学の解析手法を総動員してみた研究がある。脳波っぽい波も、特定のゲームにだけ必要に見える部品も見つかった。でも、チップの仕組みはほとんどわからなかった。「理解する」とは何かを問う一本。

押すと「マジかリスト」に保存されます

出典・参考文献(4件)タップで表示

原典ガイド:入門から読むと入りやすく、必読は議論の土台、発展はその先の論点です。

  1. 必読Jonas & Kording (2017) Could a Neuroscientist Understand a Microprocessor?, PLOS Computational Biologydoi.org本論文。損傷実験の内訳と、局所場電位・次元削減の結果を扱う節が読みどころ
  2. 入門Lazebnik (2002) Can a biologist fix a radio?—Or, what I learned while studying apoptosis, Cancer Celldoi.org出発点になったエッセイ「生物学者はラジオを直せるか?」。専門知識がなくても読める
  3. 発展Krakauer, Ghazanfar, Gomez-Marin, MacIver & Poeppel (2017) Neuroscience Needs Behavior: Correcting a Reductionist Bias, Neurondoi.org行動の分析を先に行うべきだと説く、神経科学の「還元主義への偏り」への批判
  4. 発展Lillicrap & Kording (2019) What does it mean to understand a neural network?, arXivarxiv.org学習の規則や目的から「理解」を定義し直そうとする論考