神経科学の手法でゲーム機のチップを調べたら?「脳がわかる」の意味を問うた実験

読む前に予想してみよう!
神経科学の解析手法をコンピューターのチップに当てはめると、チップの仕組みがきれいに分かった
脳に似たデータのパターンは見つかったが、情報処理の階層的な仕組みはほとんど読み取れなかった。
- 対象
- 1970年代のマイクロプロセッサ(MOS 6502)のシミュレーション
- 規模
- トランジスタ3,510個・ゲーム3本
- 研究の種類
- 計算機シミュレーションによる方法論の検証
- 確かさ
- ★★★☆☆
仕組みが完全にわかっている昔のゲーム機のチップに、脳研究の解析手法を当てはめたら?脳に似た「それっぽい結果」は出たが、チップの仕組みはほとんど見えなかった。
ひとことで言うと答えがわかっている機械で、脳を調べる道具を「テスト」してみたら…
論文スペック表研究デザイン・規模・結果・その後(玄人向け)
- 研究デザイン
- 計算機シミュレーションによる方法論の検証
- 対象
- MOS 6502 のトランジスタ単位シミュレーション(Visual6502 が復元した回路図)
- データ
- 回路図に含まれるトランジスタ3,510個(エンハンスメント型)・ゲーム3本(ドンキーコング、スペースインベーダー、ピットフォール)
- 適用した手法
- コネクトーム解析、損傷実験、チューニングカーブ、集団の相関、局所場電位、グレンジャー因果、次元削減
- 主な結果
- 1本のゲームだけを止めるトランジスタが186個見つかったが、ゲーム専用の働きではなかった。ほかの手法も脳に似た構造は出すが、階層的な仕組みは読み取れなかった
- 評価の限界
- 損傷の判定は「最初の1フレームを描画できるか」という粗い指標。チップはデジタルで、脳のアナログで生物物理的に複雑な性質や可塑性を欠く(ただし著者らは、違いだけを理由に手法の失敗を片づけることはできないとも述べる)
もくじ
脳を本当に理解したいなら、何が必要でしょうか。
よく聞く答えは「もっとデータを」です。何千、何万というニューロンを同時に記録し、配線図(コネクトーム)を丸ごと描き、強力なアルゴリズムで解析すれば、いずれ脳の仕組みが見えてくるはずだ――。
2017年、二人の研究者がこの楽観に、ユニークな方法で待ったをかけました。仕組みが100%わかっている機械に、神経科学の手法をそのまま当てはめてみたのです。選ばれたのは、1970年代に生まれ、初期の家庭用ゲーム機やパソコンに使われたマイクロプロセッサ「MOS 6502」。もし脳研究の道具が本当に強力なら、この小さなチップの仕組みくらいは見抜けるはずです。
結果は、ちょっと笑えて、かなり考えさせられるものでした。
01発端:「生物学者はラジオを直せるか?」
この研究には、有名な“元ネタ”があります。
2002年、細胞死(アポトーシス)を研究していた生物学者ラゼブニク(Lazebnik)さんが、学術誌『Cancer Cell』に「生物学者はラジオを直せるか?」というエッセイを書きました。
もし生物学者が、壊れたラジオを生物と同じやり方で調べたら――。同じラジオを大量に集め、金属の粒を撃ち込んで部品をランダムに壊し、「この部品が壊れると音が出なくなる」と記録していく。壊れると困る部品には名前をつけていく。でも、それでラジオが直せるほど理解できるだろうか? ラゼブニクさんは、部品のリストを集めることと、システムを理解することは違う、と皮肉ったのです。
2017年の論文の著者、ジョナス(Jonas)さんとコーディング(Kording)さんは、このエッセイを出発点にしました。ただし、ラジオは脳と比べると単純すぎる。そこで、もっと複雑で、なおかつ人間が完全に理解している装置として、マイクロプロセッサを選んだのです。
02方法:チップを「モデル生物」として扱う
使われたのは、MOS 6502というチップです。初期のアップル社のパソコンなどに使われ、アタリ社の家庭用ゲーム機(VCS)にも、ほぼ同じ中身の兄弟チップ(6507)が載っていました。
脳研究では夢のような「全部の同時記録」や「一つずつの破壊」も、このチップなら何度でもできる。データ不足という言い訳がきかない、理想的な実験環境です。
03結果1:「ドンキーコング専用トランジスタ」の正体
まず、損傷実験です。トランジスタを1個ずつ壊して、それぞれのゲームが起動するかを調べました。
- 1,565個は、壊しても3本とも問題なく動いた
- 1,560個は、壊すと3本とも動かなくなった
- 200個は、2本のゲームだけを止めた
- 186個は、1本のゲームだけを止めた
(数字は論文の記載どおりです。足すと3,511個になり、総数3,510個と1個ずれますが、原文のままにしています。)
最後の186個は「そのゲームに特化した部品」に見えます。「ドンキーコング・トランジスタ発見!」と見出しをつけたくなるところです。
ところが、著者たちは、これらがゲーム専用の働きをしているわけではないと指摘します。実際には、全加算器(足し算の回路)のような単純な機能を担う部品でした。あるゲームで重要に見えるかどうかは、部品の役割を間接的にしか示さず、ほかのゲームにも当てはまるとは限りません。損傷の結果は、そのとき何のプログラムが動いていたかに左右されるのです。

04結果2:脳に「そっくり」なデータ、でも中身は見えない
ほかの手法でも、似たことが起きました。
- チューニングカーブ:画面のピクセルの明るさに、きれいに「反応」しているように見えるトランジスタが見つかった。でも、それらはピクセルの明るさを直接扱う部品ではなかった
- 集団の相関:トランジスタどうしの一対一の相関は弱いのに、全体としては強く協調していた。これは実際の神経データでもよく報告されるパターン
- 局所場電位(LFP):チップの領域ごとの活動をまとめると、脳の信号に似た周波数の特徴(おおよそべき乗則にしたがうパワー)や、領域ごとの「リズム」が現れた。でも著者らによれば、その周波数や場所は計算の副産物で、情報の流れについてはほとんど何も教えてくれなかった
- グレンジャー因果:領域どうしの影響関係を推定すると、正しいつながりも一部見つかったが、実際とは違う結論も出た
- 次元削減:3,510個の状態を少数の成分にまとめると、成分はクロック信号や読み書きの切り替え信号とよく対応した。けれど、それで「プロセッサがどう計算しているか」がわかるわけではない
まとめると、どの手法も「脳研究で見たことがあるような、面白い構造」は見つけた。でも、命令を読み、計算し、記憶するというチップの階層的な仕組みは、ほとんど浮かび上がらなかったのです。
著者たちは、データの量が問題なのではなく、今の解析アプローチそのものが、意味のある理解にたどり着けないおそれがある、と結論づけました。
05「理解した」とは、どういう状態か
では、チップを「理解している」とはどういうことでしょう。著者たちは、視覚研究者マー(Marr)らが示した3つのレベルを手がかりにしています。
- 計算のレベル:そのシステムは何の問題を解いているのか
- アルゴリズムのレベル:どんな手順で解いているのか
- 実装のレベル:それを物理的にどう作っているのか
プロセッサなら、エンジニアは三つのレベルを行き来しながら、「命令を読み込む部分」「計算する部分」「記憶する部分」がどうつながり、入力が出力にどう変わるかを説明できます。神経科学の手法は、主に実装のレベルのデータを大量に集めるものです。そこから上のレベルへ自動的にたどり着ける保証はない、というのがこの研究の警告でした。
ここまで読めば要点はつかめています。この先は反論・方法論・未解決の問いまで踏み込みます。
06研究史の中の位置づけ
この論文は、巨大データ時代の神経科学に向けた方法論のチェックとして位置づけられます。
背景には、2010年代に世界各地で始まった大型の脳研究プロジェクトがあります。記録技術が進み、何千ものニューロンを同時に測れるようになった一方で、「そのデータから何がわかれば“理解”なのか」という問いは、置き去りにされがちでした。
チップの研究が示したのは、解析手法の“検定試験”という発想です。正解のわかった系(チップや、人工ニューラルネットワーク、シミュレーションした神経回路)で、手法が正しい答えを取り出せるかを先に確かめる。これは、統計の世界で「答えがわかっている人工データで手法を検証する」のと同じ考え方で、神経データ解析でも重視されるようになっています。
07まとめ
神経科学の手法でゲーム機のチップを調べたら、「ドンキーコング専用」に見える部品も、脳波そっくりのリズムも見つかった。でも、チップの仕組みはほとんど見えなかった。
この研究は「脳研究は無駄だ」と言っているのではありません。データを集めることと、仕組みを理解することは別の仕事だ、そして道具は正解のわかった相手で先に試そう、という提案です。次に「脳の○○を担う部位を発見」というニュースを見たら、それは「ドンキーコング・トランジスタ」ではないか、少しだけ疑ってみてください。
この研究を英語で読もう原田英語の English CornerIn 2017, Eric Jonas and Konrad Kording asked a simple question.
音声
4択クイズ9問A2・B1・B2タップして開く
原田英語の English Corner
この研究を英語で読もう
Scientists use many tools to study the brain. But do these tools really work? Two researchers tested them on a computer chip from the 1970s. People built this chip, so we know exactly how it works. The researchers made the chip play three old video games.
Then they studied it like a brain. They found patterns that looked like brain data. But the tools did not explain how the chip really works.
72 words ・ CEFR A2
和訳を見る
科学者は脳を研究するために多くの道具を使います。でも、それらの道具は本当に役に立つのでしょうか?2人の研究者が、1970年代のコンピューターチップでそれを試しました。このチップは人が作ったものなので、仕組みは正確にわかっています。研究者たちはチップに古いテレビゲームを3本動かさせました。
それから、脳のようにチップを調べました。脳のデータに似たパターンは見つかりました。でも、その道具ではチップが本当はどう動いているのかを説明できませんでした。
4択リーディングクイズ
Q1. What is the passage mainly about?
脳研究の道具を、仕組みのわかったチップで試した話なので B。
Q2. How many video games did the chip play?
made the chip play three old video games とあるので C。
Q3. In this passage, "exactly" means ...
exactly は「正確に、完全に」。人が作ったので仕組みを正確に知っている、という意味なので A。
In 2017, Eric Jonas and Konrad Kording asked a simple question. If neuroscientists studied a computer chip with their usual methods, would they understand it? They chose the MOS 6502, a processor from the 1970s that was used in early home computers.
Engineers know everything about it, down to each of its 3,510 transistors. The researchers simulated the chip running three games, including Donkey Kong, and treated the games as its behavior. They removed transistors one at a time, measured activity, and looked for brain-like rhythms. Some results looked exciting.
For example, 186 transistors stopped only one game when removed. But these parts were not special to any game. They did simple jobs, like adding numbers. The methods found patterns, but they could not show how the chip actually works.
130 words ・ CEFR B1
和訳を見る
2017年、エリック・ジョナスさんとコンラッド・コーディングさんは、単純な問いを立てた。神経科学者がいつもの方法でコンピューターチップを研究したら、それを理解できるだろうか?彼らが選んだのは、初期の家庭用コンピューターに使われた1970年代のプロセッサ、MOS 6502だ。
技術者は、3,510個のトランジスタ一つひとつに至るまで、このチップのすべてを知っている。研究者たちはドンキーコングを含む3本のゲームを動かすチップをシミュレーションし、ゲームをチップの「行動」とみなした。トランジスタを一つずつ取り除き、活動を測り、脳に似たリズムを探した。中には心躍る結果もあった。
たとえば186個のトランジスタは、取り除くと1本のゲームだけが止まった。しかしこれらの部品は、どのゲームにとっても特別なものではなかった。数を足すような単純な仕事をしていたのだ。手法はパターンを見つけたが、チップが実際にどう動くかは示せなかった。
4択リーディングクイズ
Q1. Why did the researchers choose a microprocessor?
Engineers know everything about it とあり、正解がわかっている系だから選ばれたので B。
Q2. What happened when each of the 186 transistors was removed?
186 transistors stopped only one game when removed とあるので C。
Q3. What does the author suggest about the "one-game" transistors?
these parts were not special to any game. They did simple jobs とあるので B。特別に見えても実は一般的な仕事をしていた。
In 2002, the biologist Yuri Lazebnik imagined biologists trying to fix a broken radio by shooting many identical radios with metal particles and cataloging which damaged parts made them fall silent. In 2017, Eric Jonas and Konrad Kording tried a version of this idea for real. Their subject was the MOS 6502, a 1970s processor whose 3,510 transistors had been mapped from microscope images.
Because the chip could be simulated perfectly, the team had what neuroscientists dream of: complete wiring, every unit recorded at once, and the freedom to disable any part. With three games standing in for behavior, they applied lesion studies, tuning curves, oscillation analysis, Granger causality and dimensionality reduction. Many results resembled real brain findings. Some transistors seemed tuned to pixel brightness, and spatially pooled activity showed brain-like rhythms. Little of it revealed the chip's layered design of instruction decoding, arithmetic and memory.
But a chip is digital, designed and fixed, while a brain evolves and learns, so failure here does not prove failure there. The authors accept this but argue that the difference alone cannot excuse the methods. Analysis methods, they propose, should first be checked on systems where the answer is already known.
198 words ・ CEFR B2
和訳を見る
2002年、生物学者ユーリ・ラゼブニクさんは、生物学者が壊れたラジオを直そうとして、同じラジオを大量に集めて金属の粒を撃ち込み、どの部品が壊れると音が出なくなるかを目録にしていく姿を想像した。2017年、エリック・ジョナスさんとコンラッド・コーディングさんは、その発想を本当に試した。対象はMOS 6502という1970年代のプロセッサで、その3,510個のトランジスタは顕微鏡画像から配線図が作られていた。チップは完璧にシミュレーションできるので、チームは神経科学者が夢見るものを手にしていた。
完全な配線図、全ユニットの同時記録、そしてどの部分でも止められる自由だ。3本のゲームを行動の代わりにして、損傷研究、チューニングカーブ、振動の解析、グレンジャー因果、次元削減を適用した。多くの結果は実際の脳の知見に似ていた。ピクセルの明るさに反応しているように見えるトランジスタもあり、空間的にまとめた活動には脳に似たリズムが現れた。しかし、命令の解読、計算、記憶というチップの階層的な設計は、ほとんど見えてこなかった。
ただし、チップはデジタルで、設計され、変化しないのに対し、脳は進化し学習する。だから、ここでの失敗が脳での失敗を証明するわけではない。著者たちもこれを認めているが、違いがあるというだけで手法の失敗を言い逃れることはできない、と論じている。彼らの提案は、解析手法はまず答えがすでにわかっているシステムで確かめるべきだ、というものだ。
4択リーディングクイズ
Q1. What did Lazebnik's radio story criticize?
壊れた部品を目録にしていく姿を描いており、部品のリスト集めでは理解にならないという批判なので B。
Q2. Which of these was NOT available to Jonas and Kording?
完全な配線図・全ユニットの同時記録・どこでも止められる自由はあった。チップは designed and fixed で学習しないので D。
Q3. Why does the author say failure with the chip "does not prove failure" with the brain?
a chip is digital, designed and fixed, while a brain evolves and learns と、両者の重要な違いを理由に挙げているので B。
重要単語
- microprocessorB2名詞マイクロプロセッサThe microprocessor runs every instruction in the game.
micro(小さい)+ processor(処理装置)。CPU とほぼ同じ意味で使われる。 - transistorB2名詞トランジスタ(電気のスイッチ部品)A transistor works like a tiny on-off switch.
transfer + resistor から作られた語。現代のチップには数十億個が入っている。 - lesionC1名詞損傷、病変A lesion in one area can change behavior.
医学では「病変」。lesion study で「損傷研究」。発音はリージョン。 - simulateB2動詞(コンピューターで)再現する、模擬するThe team simulated the chip on a modern computer.
名詞は simulation。similar(似た)と同じ語源で「似せて作る」。 - hierarchyC1名詞階層The chip has a clear hierarchy of parts.
形容詞 hierarchical(階層的な)。会社の上下関係にも使う。 - ground truthC1名詞(句)(検証用の)正解Without ground truth, we cannot check our method.
もとは地図作りで「現地で確かめた事実」。機械学習やデータ科学で頻出。 - catalogB2動詞・名詞目録にする/目録Biologists cataloged every broken part.
アメリカ式つづり。イギリス式は catalogue。
この話題を TED で聞く
同じテーマの TED・TED-Ed を、
TED HACK で。英語の見どころ・使える表現・学習ミッションつきの日本語ガイドです。(運営:原田英語)
このネタ、誰かに教えたくなった?
昔のゲーム機のチップを「脳」に見立て、神経科学の解析手法を総動員してみた研究がある。脳波っぽい波も、特定のゲームにだけ必要に見える部品も見つかった。でも、チップの仕組みはほとんどわからなかった。「理解する」とは何かを問う一本。
押すと「マジかリスト」に保存されます
出典・参考文献(4件)タップで表示
原典ガイド:入門から読むと入りやすく、必読は議論の土台、発展はその先の論点です。
- 必読Jonas & Kording (2017) Could a Neuroscientist Understand a Microprocessor?, PLOS Computational Biologydoi.org本論文。損傷実験の内訳と、局所場電位・次元削減の結果を扱う節が読みどころ
- 入門Lazebnik (2002) Can a biologist fix a radio?—Or, what I learned while studying apoptosis, Cancer Celldoi.org出発点になったエッセイ「生物学者はラジオを直せるか?」。専門知識がなくても読める
- 発展Krakauer, Ghazanfar, Gomez-Marin, MacIver & Poeppel (2017) Neuroscience Needs Behavior: Correcting a Reductionist Bias, Neurondoi.org行動の分析を先に行うべきだと説く、神経科学の「還元主義への偏り」への批判
- 発展Lillicrap & Kording (2019) What does it mean to understand a neural network?, arXivarxiv.org学習の規則や目的から「理解」を定義し直そうとする論考
※本記事は上記の研究・公開資料をもとに、原田英語が独自の言葉で解説したものです。引用は著作権法第32条の範囲で行い、出典を明記しています。画像はすべてオリジナルのイメージです。研究結果には限界や個人差があります。誤りのご指摘は原田英語のお問い合わせフォームから。











