HN 日本語サマリー

← 一覧へ戻る
科学・技術

コンピュータ科学者は脳を構築できるか?

Could a computer scientist build a brain? (stankerstjens.github.io)

65 pointsby ogundipeore38 コメント

要約

この記事は、コンピュータ科学者の視点から、ゲノムにエンコードされた情報のみを使用して、単一の細胞から脳がどのように自己組織化するかを工学的問題として探求しています。ゲノムサイズと開発時間の制約から、生物が実際に使用する発達戦略に似たアルゴリズム的解決策が導き出されることを示唆しています。

全文翻訳

コンピュータ科学者は脳を構築できるか?

  1. コンピュータ科学者は脳を構築できるか?
  2. 問題とその制約
  3. 戦略1:同一性アプローチ
  4. 戦略2:ガイドポストアプローチ
  5. 戦略3:座標アプローチ
  6. ノイズの役割
  7. 可塑性
  8. 考察
  9. 注釈
  10. 参考文献

Stan Kerstjens & Anthony M. Zador

Cold Spring Harbor Laboratory

DOI10.5281/zenodo.21938144 2026年8月14日

連絡先:kerstje@cshl.edu

単一の細胞から始まり、ゲノムにエンコードされた情報のみを使用して、脳はどのように配線されるのか?これを工学的な問題として提起します。つまり、単一の細胞が実行して自身を脳へと構築するためのプログラムを作成するのです。プログラムはゲノムに収まるほど小さく、発生時間内に完了するほど高速でなければなりません。生物学をほとんど知らないコンピュータ科学者は、発生生物学が実験的に却下してきた明白な戦略が、なぜ大規模になると失敗するのかをすぐに理解するでしょう。ゲノムはシナプスごとの配線を保存するには小さすぎ、盲目的にターゲットを探す軸索は時間がかかりすぎます。これらの同じアルゴリズム的制約は、生物が実際に使用する発生戦略に似たソリューションへと設計を導きます。思考実験では、生物学者がラジオを修理したり1、マイクロプロセッサを理解したりすることについて、落胆させる結論に達しましたが2、ここでは良いニュースがあります。脳の設計は、それを分解することからではなく、そもそもゲノムがどのようにそれを指定しなければならないかを問うことから回復できるかもしれません。

コンピュータ科学者に脳の完全な配線図を与え、「単一の細胞がこのネットワークを構築するために実行するプログラムを書いてください」と依頼したと仮定しましょう。プログラムは、約1ギガバイトのゲノムサイズの命令セットに収まり、最大約1年という発生時間枠内に終了しなければなりません。課題は、アルゴリズムがスケーリングしなければならないことです。それは、C. elegansの302個のニューロン、ハエの105個のニューロン、マウスの108個のニューロン3、そして人間の脳の1010個のニューロン(図1)に対しても機能しなければなりません。生物学の発生を全く知らない人が、この問題にどのようにアプローチするでしょうか?

図1 情報ギャップ。 様々な生物における脳のサイズとゲノムサイズの比較。ゲノムサイズは約1桁しか変化しませんが、脳のサイズは8桁に及びます。破線は、最も単純な可能な接続エンコーディング(ニューロンペアごとに1ビット、合計n²ビット)がゲノム内にちょうど収まる場所を示しています※。緑色の領域では、ゲノムはこのエンコーディングを可能にするのに十分な大きさです。赤色の領域では、脳は大きすぎます。C. elegansのみが明確に実現可能な領域にあり、したがって隣接行列でエンコードできる可能性があります。他の種の脳は、異なる戦略でエンコードされなければなりません。未解決の問題は、計算上の制約にもかかわらず、これらをエンコードおよび構築できる戦略は何かということです。データソース:ゲノムアセンブリ長16–21およびニューロン数3,4,22–24。

コンピュータ科学者は、実質的にチューリング5、フォン・ノイマン6、ワディントン7、ブレナー8の精神に則ってタスクを形式化しています。彼らは皆、ゲノムを生物の記述ではなく、生物を構築するための指示セットと見なしていました。タスクを形式化することは、実現可能で扱いやすいアルゴリズム戦略を特定するのに役立ちます。この演習を進める中で、小規模な神経系で機能する戦略が、ネットワークが成長するにつれて大きな壁にぶつかることがわかり、制約はフィールドを少数のソリューションクラスに絞り込みます。理論と実験の収束は、両方の方向性に情報を提供します。発生神経科学者にとっては、一般的な分子メカニズムを明確に定義されたアルゴリズム問題のソリューションとして形式化し、それらのメカニズムのどの特徴が計算上の必要条件であり、どれが自由に変動できるかを選び出します。理論家にとっては、生物学的発生は、まだ未解決の計算タスクを解決するシステムとして提示されます。現代の機械学習は、コンパクトな記述から大規模な機能ネットワークを生成する方法をまだ知りません。代わりに、ディスクからコピーされた大規模な格納済み重み行列、または桁違いに大きいトレーニングセットに依存しています9。初期の接合子はまさにそのような記述を含んでおり、発生プロセスを分析することは、人工システムのための新しいアルゴリズムのインスピレーションとなるかもしれません。

問題とその制約

発生プログラムを書くとは、どういう意味でしょうか10–14?コンピュータ科学者は、エンジニアが回路基板にはんだ付けするように、外部からニューロンを配置して配線することはできません。代わりに、単一の初期細胞に入る一連の指示を書き、その後立ち去らなければなりません。この初期細胞は分裂し、各娘細胞は同じプログラムを継承して独立に実行します。プログラムの各インスタンスは、局所的に感知できるもの、つまり自身の内部状態と、同じコードを実行している隣接細胞からの分子信号のみを読み取ることができます。細胞は脳を構築するアクションを実行します:分裂、移動、分子キューを読み取ってナビゲートし、到着時にシナプスを形成する成長円錐の伸長。すべての信号は他の細胞が同じコードを実行して生成されたものであるため、構築プロセス全体は分散的かつ再帰的です。プログラマーの唯一のレバーは、開始時にゲノムにロードする命令セットと、細胞の初期状態です。

プログラムは、実用的な制約を尊重しながら、正しいネットワークを生成する必要があります。ここでは2つの側面に焦点を当てます。ゲノムに収まるほど短く、合理的な時間内に完了する必要があります。人間の脳には約10¹⁰個のニューロンがあり、それぞれが最大約10⁴個のターゲットと接続を形成し15、合計で最大約10¹⁴個の接続があります。

プログラムは2つの厳格な制約を満たす必要があります。

情報制約。 脳を構築するための指示は、最終的にゲノムに格納されなければなりません。ゲノムは約3×10⁹個の塩基対を含んでいます21。各塩基対は2ビットを表します。したがって、ゲノムの総情報量は約6×10⁹ビット、または配線に専念し、他の生物には何も残さないと仮定した場合の寛大な上限として約10¹⁰ビットです。この上限は、ゲノムに冗長性がなく、すべてのヌクレオチドが脳の配線に費やされていると仮定しているため寛大です。指示がこの予算を超える配線戦略は、生物が使用するものではありません。予算は種間でそれほど大きく変動しません。C. elegansと人間のゲノムサイズの違いは1桁未満ですが、ニューロン数の違いは8桁以上です(図1)。哺乳類の脳を配線するアルゴリズムは、ニューロン数に対してサブ線形にスケーリングする必要があります。

時間制約。 配線プロセスは、発生時間枠内に完了する必要があります。成長率が制限されている場合25–27、総軸索長と発生時間は比例します。過剰な軸索長(一時的または永続的)を必要とする戦略は、時間がかかりすぎます。実行可能な戦略は、総軸索長と総発生時間の両方をニューロン数のサブ線形に保つ必要があります。

コンピュータ科学者は、次のいくつかのセクションで、図2〜5に示す3つのアプローチを検討します。コンピュータ科学者は、各アプローチを問題の制約に対して評価し、いずれの制約も違反しない戦略を見つけるまで続けます。今のところ、彼は決定論的で活動に依存しないプロセスに限定します。各細胞はニューロン活動からのフィードバックなしにプログラムを実行し、ノイズの影響を受けません。特に可塑性は、既に存在する接続に対して機能します。まず、軸索が適切な集団に到達する問題から検討します。確率論的プロセスと活動依存性可塑性については、後のセクションで簡単に説明します。

戦略1:同一性アプローチ

図2 同一性アプローチ。 各ニューロンはターゲットIDのリストを格納します。図2〜5では、脳はn個のニューロンを持ち、それぞれがm個のターゲットに接続し、最大10¹⁰ビットのゲノムから構築され、tは共通の配線ルールを共有する細胞タイプの数です。「時間」はターゲットあたりの総軸索長を意味し、ボトルネックはニューロンが生成できる軸索の長さです。「空間」はゲノム命令のビット数を意味します。

1974年のチューリング賞講演28で、ドナルド・クヌースは「早期の最適化はすべての悪の根源である」†と述べました。彼の有名な格言を尊重して、私たちのコンピュータ科学者はまず最も単純なアルゴリズム(図2)を追求します。すべてのニューロンに一意のIDラベルを割り当て、ゲノムに各ニューロンのターゲットラベルのリストを格納し、各成長円錐がリストを反復処理して各ターゲットにナビゲートし、シナプスを形成するようにします。しかし、成長円錐はどのようにして特定のラベルを持つ細胞を見つけるのでしょうか?マップや空間構造を利用できない場合、成長円錐ができる最善のことは、体系的に検索し、一致するものを見つけるまで細胞を訪れることです。

この問題は、ソートされていないライブラリから本を見つけることに似ています。平均して、検索は棚の半分を通過した後に正しい本を見つけます。最悪の場合、すべてを通過します。検索コストはコレクションのサイズに比例して増加します。n個のニューロンがあり、ナビゲート可能な構造がない場合、成長円錐は1つのターゲットを見つけるために最大n個の細胞を通過しなければなりません。したがって、ターゲットあたりの総軸索長はO(n)であり、脳のサイズに比例して線形に増加します。n≈10¹⁰個のニューロンが約1,300 cm³の体積に詰め込まれた人間の脳では、約15 cmの幅があり4、平均細胞間隔は約50 μmであるため、O(n)の検索はターゲットあたり約500 kmの軸索を伸ばすことになり、これはニューロンが発生期間(数週間から数ヶ月)に生成(および刈り込み)できる量よりも桁違いに大きいです27,29。

しかし、軸索長だけが問題ではありません。ターゲットリストはゲノムから来る必要があり、これはすべての細胞で同じです。したがって、ニューロンのゲノムは、自身のターゲットだけでなく、n個のニューロンすべてに対する配線リストを含まなければなりません。図1は、隣接行列エンコーディングがO(n²)ビット、つまり10²⁰ビットのオーダーの情報コストを発生させることを示しました。しかし、これは脳の配線が非常に疎であるという事実を利用していません。ほとんどのニューロンペアは接続しません。すべてのニューロンペアをリストする代わりに、各ニューロンについて隣接ニューロンのラベルのリストをエンコードする方がはるかに経済的です。各ニューロンを一意にラベル付けするには、いくつのビットが必要ですか?1ビットで2つの細胞を区別できます。2ビットで4つ、3ビットで8つです。追加のビットごとに、区別できるラベルの数が2倍になるため、n個の細胞をラベル付けするには、ラベルあたり約log₂nビット、10¹⁰個のニューロンで約33ビットが必要です。n個のニューロンそれぞれがm個のターゲットラベルのリストを必要とし、各ラベルはlog₂nビットの長さです。必要な総ストレージはn×m×log nビット、つまりO(nm log n)ビットです。人間の脳の場合、これは約3×10¹⁵ビットとなり、ゲノムの10¹⁰ビット容量(ゲノムのすべてのビットが脳の配線に費やされたと仮定した寛大な上限であり、もちろんそうではありません)を依然として桁違いに超えています。

戦略1は両方の制約を満たせません。必要な軸索長を生成するのにかかる時間が長すぎ、指示リストが大きすぎます。

発生神経科学も同様の結論に達しました。スペリーの化学親和性仮説は、各ニューロンが分子アイデンティティを持ち、戦略1の中心的なアイデアであるラベルマッチングによってターゲットを見つけると提案しました30。再生実験(切断された軸索が元のターゲットを再発見した)から推論して、スペリーは「文字通り数百万、おそらく数十億の化学的に分化したニューロンタイプがあり、それぞれが他のすべてと区別できる」と推測しました30。この仮説は生成力があり、アイデンティティ分子の生産的な探求を推進しました。その探求は驚くべき分子的多様性(Drosophila Dscam1は10,000を超えるアイソフォームを生成します31、脊椎動物のプロトカドヘリンは組み合わせ的なアイデンティティコードを作成します32)を発見しましたが、この多様性はグローバルなターゲット選択ではなく、局所的な自己回避を媒介します33,34。その後、この分野は精密な鍵と鍵穴のプロファイルから、分子機械に実装された論理認識ルールへと移行しました34–36。これは、スケーリングの議論が支持するのと同じ移行です。

戦略2:ガイドポストアプローチ

図3 ガイドポストアプローチ。 各ニューロンはターゲットへの一連のウェイポイントを格納します。経路長はn¹/³に比例します。これは、n個のニューロンが3次元空間を満たし、その線形範囲が立方根として増加するためです。

検索問題—ターゲットを効率的に見つけること—はより明白な失敗であるため、コンピュータ科学者はまずそれに取り組みます(図3)。昔のソートされていないライブラリに戻りましょう。棚をさまよう代わりに、誰かが一連のランドマークを提供します。白鯨を見つけるには、まず戦争と平和がある棚に行き、そこから高慢と偏見を探し、そこから失楽園を探します。これはターゲットの近くにあります。各ランドマークは、成長円錐がその場所に到着したときに認識できるマーカーです。成長円錐はそれらを物理的な経路に沿って順番に読み取ります。成長円錐は決して盲目的に検索せず、常に次のステップを知っています。

これはナビゲーション問題を解決します。戦略1では、指示がないため、成長円錐は細胞ごとに検索する必要があり、ニューロン数nに比例する経路長を生成しました。ランドマークは、その網羅的な検索を直接的な歩行に変えます。成長円錐は、各ステップで誘導され、ターゲットに向かってまっすぐ進みます。3次元空間をまっすぐ歩くことは、網羅的な検索よりもはるかに短いです。なぜなら、3次元に詰め込まれたn個のニューロンは、O(n¹/³)細胞幅しか離れていないからです。ターゲットあたりの軸索長はO(n)からO(n¹/³)に減少します。

しかし、ストレージ問題は悪化します。方向は出発点に固有です。異なる棚から出発する人は、完全に異なるランドマークのセットを必要とします。各ニューロンは異なる場所から出発するため、各ニューロンは各ターゲットに対して独自のランドマークセットを必要とします。各パスにk個のウェイポイントが必要な場合、ゲノムはn×m×kラベルを格納する必要があり、各ラベルは以前と同様にlog nビットをコストとします。空間複雑度はO(nmk log n)であり、戦略1よりもk倍になります。ガイドポストアプローチは1つの問題をもう1つの問題に交換します。パスは短くなりますが、指示は膨張します。

軸索誘導のガイドポストモデル34,37–39は、長い軸索軌跡が連続する分子選択ポイントによって区切られた短いセグメントに分割される現象を文書化しています。このモデルは非常に生産的でした。組織の境界をナビゲートし、正中線を横切り、ターゲット領域に入る方法を説明しています。しかし、軸索が複数の選択ポイントで曲がるのを見ることは、それらのポイントがどのように指定されるかを説明するものではありません。各キューが独立しており、ゲノムに1つのウェイポイントずつ配置されている場合、コストは各ステップで増加し、スケーリングの議論はこのバージョンを排除します。より安価な代替案は、キューが独立しておらず、基盤となる順序の読み出しであるということです。これは戦略3が行う動きです。アルファベットを知らない読者が、ライブラリがソートされているか、単に棚ごとに標識されているかを知ることができないのと同様に、軌跡だけでは両方の戦略を区別できません。

コンピュータ科学者は正しい軌道に乗っています。ガイドポストによるナビゲーションは機能します。問題は、ガイドポストが任意であることです。それぞれがゲノムが指定し、成長円錐が認識するように教えられる必要がある、場当たり的な分子マーカーです。コンピュータ科学者が必要としているのは、体系的なガイドポストセットです。そこでは、すべての場所が予測可能なアドレスを持っています。

戦略3:座標アプローチ

図4 座標アプローチ、外部グリッド上。 細胞にはアドレスがあり、配線ルールはそれらのアドレスに対するコンパクトな変換です。このバージョンは、変位ルールを持つ外部デカルトグリッドを使用します。これは実装不可能であり、どの細胞も組織内部から読み取ることができないグローバル座標系を必要とするためです。

図5 座標アプローチ、内部階層上。 階層は再帰的な分割(図6を参照)によって構築され、細胞は自身が分裂する際に生成できます。ビットマスクは、ソースセルのアドレスのどのビットを反転させるかを指定するバイナリパターンです。マスク1000を任意の4ビットアドレスに適用すると、最初のビットが反転し、各細胞が対側パートナーに接続されます。特定のタイプのすべてのニューロンが独自のアドレスに同じマスクを適用するため、ルールはニューロンごとではなく、タイプごとに1回格納されます。

ガイドポストに構造をもたらす最も明白な試みは、座標グリッドです。ライブラリに戻りましょう。白鯨は3階の南東の角、壁から12フィート、2番目の棚にあります(図4)。この種のアドレスがあれば、どの読者も各出発点に対してカスタム指示なしでどの本でも見つけることができます。しかし、外部座標系には深刻な欠陥があります。ライブラリが改築され、より高い建物に移転したり、フロアを再配置したりした場合、すべてのアドレスを書き直す必要があります。ラベルは外部フレーム内の位置を表し、フレームが移動するとラベルは壊れます。これはx、y、z座標を持つデカルトグリッドであり、脳にとっても同じ欠陥があります。脳は単一の細胞から構築され、組織は成長するにつれて形状が変化し、固定された外部フレームに結び付けられたどのアドレスも、フレームが移動するたびに書き直されます。

しかし、デカルトグリッドが脆弱であるだけでなく、完全に実装不可能であるさらに深い理由があります。上記の議論は外部から書かれています。誰かが細胞に座標をスタンプしていると仮定し、スタンプが移動することを心配しています。細胞の視点から見ると—コンピュータ科学者が立ち去ったので、これは唯一重要です—スタンプするものがそもそもありません。デカルトアドレス(x、y、z)は、定規と原点を前提としていますが、どちらも細胞の外、さらには生物の外にあります。特権的な参照フレームはありません。

アルファベット順は、相対座標で参照フレームを提供することでこれを解決します。誰かが本がどのフロアや棚にあるかを知る必要はありません。順序自体が、座標を記憶する必要なしに、どの本が他の本に対してどこに位置するかを示します。各本に位置を割り当てるのと同じ順序が、高速検索を可能にします。ラックの中央付近から始め、タイトルがそれより前か後かを確認し、繰り返します。各ステップで残りの棚が半分になります。1,000冊の本のライブラリでは約10回の分割(2¹⁰=1024)しか必要ありません。100万冊のライブラリでは20回で済みます。ステップ数はO(log n)として成長します。非常にゆっくりと、nが大きくなってもです。ソートプロセスは、一度に座標系とナビゲーション構造を構築します。ガイドポストはまだ存在します—それらは各棚の本のアルファベット順のIDです—しかし、それらは外部参照フレームからではなく、ライブラリの組織から生じます。

細胞分裂は、発生中の組織にこの種​​の順序を提供する可能性を秘めています(図5)。プロジェニターが分裂するたびに、2つの娘細胞が生成されます。各娘細胞が分裂ツリー内の位置をエンコードするラベルを継承する場合—各分裂で1ビットずつ拡張されるバイナリアドレス—d = log₂n回のラウンド後、すべての細胞は空間全体で辞書順に並べられた一意のdビットアドレスを持ちます40(図6)。3回の分裂ラウンドを考えてみましょう。最初の分裂は組織を2つに分割します。一方の娘は0、もう一方は1とラベル付けされます。2回目の分裂は各半分を再度分割し、2番目のビットを付加します:00、01、10、11。3回目のラウンド後、3ビットアドレスを持つ8つの細胞があります。プレフィックス01を共有する2つの細胞は、2回目のラウンドの同じ娘細胞から派生し、組織内で近くに位置します。最近の祖先を共有する細胞は似たアドレスを持ち、ツリーは組織の空間構造を反映しています。アドレスの各ビットは空間軸に対応します。最初の分裂は左と右を分離するかもしれません。2番目は前方と後方を、3番目は内側と外側を分離するかもしれません。生物学的な用語では、各ビットは娘集団間の分子的な区別です—一方の系統で発現するがもう一方では発現しない転写因子、または異なるアイデンティティを持つ2つのサブドメインに領域を分割する勾配41,42。細胞の完全なアドレスは、それが組織内のどこに位置するかを指定します。この座標系は外部参照を必要としません。細胞分裂によって生成されるプロセスで自由に生成され、各分裂で継承されます。マップは成長し続けます。早期に配線された軸索は、後続の軸索がたどる足場として機能し、時間とともにナビゲート可能な構造を拡張します38,43。脳の形状が変わっても、配線ルールを書き直す必要はありません。

図6 階層的な組織構造とコンパクトな配線ルール。 ツリーは再帰的な分割によって構築されたHツリーです。各分割はバイナリアドレスを1ビット拡張するため、3回のラウンド後、すべてのリーフは一意の3ビットラベルを持ちます。各ビットは空間軸をエンコードします:左右はビット1、前後方向はビット2、内外側方向はビット3、そして解剖学的なラベルは色分けされています。3つの色付きパネルは、同じツリーに対して1ビット反転ルールをそれぞれ描いており、反転されたビットはすべてのアドレスで強調表示されています。ビット1(赤)を反転させると、各ニューロンが対側パートナーに接続されます。ビット2(緑)を反転させると、前後方向のパートナーが接続されます。ビット3(シアン)を反転させると、内外側方向のパートナーが接続されます。各ルールは、すべてのニューロンで共有されるコンパクトな変換であり、成長円錐はアドレスをナビゲートすることで評価できます。

座標系はナビゲーションを解決できます。各分岐点で、成長円錐はターゲットアドレスの1ビットをチェックし、組織の対応する半分を選択します。アドレス全体をO(log n)ビット比較で読み取ります。物理的な経路長は依然としてO(n¹/³)であり、戦略2と同じです。戦略2に対する利点は、情報コストではなく時間コストにあります。また、配線ルールを記述するための自然な言語も提供します。

この言語で最も単純なルールは「最も近い4つの隣接細胞(北、南、東、西)に接続する」ですが、これはグリッドしか生成しません。構造化されたアドレスは、より豊かなルールを可能にします。アドレスの単一ビット反転は、ニューロンを脳の反対側にある対側パートナーに接続できます。別のビット反転は、異なる領域や異なる層の細胞に接続できます。異なる細胞タイプは異なるルールを持つことができ、複雑な回路の形成を可能にします44。

メカニズムは単純です。細胞のアドレスの各ビットは発生階層内の位置をエンコードするため、特定ビットの位置が異なる2つの細胞は、その分割の反対側に位置します。ビット1が異なる細胞は対側パートナーです。ビット2が異なる細胞は前後方向のパートナーです。「対側パートナーに接続する」は、「ビット1を反転させる」に翻訳されます。ルールはビットマスクとして記述できます。これは、反転するビットを指定するバイナリパターンです(図6)。ソースアドレスにマスク101を適用すると、最初のビットと3番目のビットが反転し、ターゲットアドレスが生成されます。ゲノムはこのマスクを1回だけ格納し、そのタイプのすべてのニューロンが独自のアドレスに適用します。特定の変換は模式的であり、実際のマッピングには複数の分子信号が関与します。重要な特性は依然として保持されます。ルールは、タイプごとにすべてのニューロンで共有され、その長さはnではなくlog nに比例します。

どの言語にも言えることですが、この言語では、一部のことは言いやすく、他のことは言いにくいです。対側投射、地形図、層状ターゲティング、領域間接続はすべて、発生アドレスに対するコンパクトな変換として安価に表現できます42,45。しかし、「脳全体に散らばった47個の任意のニューロンに接続する」のようなルールは、戦略1と同じくらい高価になります(ただし、戦略2よりは安価です)。座標システムは、脳の配線のほとんどがアドレスに対するコンパクトな変換として記述できるという賭けです。そうであれば、ゲノムの予算は十分です。そうでなければ、どの座標システムも役に立ちません。

数字はそれを裏付けています。各ルールはlog₂nビットの長さで、10¹⁰個のニューロンでは約33ビットです。t≈10³個の細胞タイプ46とm=10⁴個のターゲット/タイプの場合、総ストレージはO(tm log n)≈3×10⁸ビットとなり、ゲノム内に快適に収まります。対照的に、戦略1のニューロンあたりのターゲットリストは約3×10¹⁵ビット、つまりゲノム容量の約30万倍が必要であり、戦略2はパスあたりのk個のウェイポイントの係数だけ悪化します。ターゲットあたりのパス長は、戦略2と戦略3の両方でO(n¹/³)です。それらを分けるのは情報です。

バイナリアドレスは、転写因子とシグナル伝達分子の組み合わせパターンに対応し、脳の領域ごとに区別します。神経管の左右への最初の分割は1つの「ビット」であり、正中線を横切る差次的な遺伝子発現によって維持されます47。前後軸および背腹軸に沿った後続の分割は、さらにビットを追加し、組織を転写因子が発現する離散領域に分割します41,48,49。この階層をナビゲートする成長円錐は、各境界で分子マーカーを読み取ります。これは、各分岐点でビットをチェックする生物学的な等価物です。結果として得られる座標系は一時的なものではありません。細胞は、パターン化シグナルが消えた後も、位置の永続的な細胞自律的な記憶を保持します50。これは、差次的なメチル化51などのエピジェネティックメカニズムによって維持されます。この位置記憶は、配線に機能的な結果をもたらします。神経支配を失った筋肉は、位置的に一致する脊髄セグメントからの運動軸索によって優先的に再神経支配されます52,53。発生によってインストールされた座標系は、軸索が読み取ることができる永続的な分子特性になります。

この階層は、複数の重複するメカニズムから生じる可能性が高いです48,54。モルフォゲン勾配が遺伝子制御ネットワーク49,55–58の上流で作用すること、そしておそらく細胞系統自体42,59–62が関与しています。最近の研究では、系統が直接的な役割を果たす可能性が示唆されています。細胞系統ツリーは、軸索がナビゲートするために読み取る分子アドレスのグローバル空間をインストールできます40。予測される階層構造は、マウスとゼブラフィッシュの両方の脳全体の遺伝子発現パターンに現れています63。

戦略3は強力な予測を立てます。脳がアドレスシステムを使用して自己配線する場合、そのアドレスシステムは実際のマップであり、遺伝子発現で記述され、脳全体に広がっています。それは早期に配置され、成人期までそのまま残ります。2つの結果が導き出されます。第一に、マップは可視的であるべきです。成人脳の遺伝子発現からそれを読み取れるはずです63。第二に、そのマップに適用される少数のルールが、どのニューロンがどのニューロンに接続するかを予測できるはずです40。

ノイズの役割

これまで定式化された問題は、特定の配線図を生成するプログラムを作成することでした。これは、動物ごとにほぼ同一に配線されているC. elegansの302個のニューロンと約7,000個のシナプスにとって、問題ステートメントの妥当な近似です22,64。しかし、脳が大きくなるにつれて、発生は確率論的な結果を許容し、単一の図を指定するのではなく、分布を指定するようになります65,66。同一の双子の脳でさえ、同じように配線されているわけではありません67,68。進化は、その分布のほとんどが良い配線図を表すようなルールを選択します。ほとんどの配線図は、そこからサンプリングされたもので、機能する脳を表します。

ノイズはアルゴリズムをより速く、より単純にすることができます69。領域Aの各ニューロンが領域Bから約10個の入力をサンプリングする必要があり、Aの各細胞が無相関なサブセットを取得すると仮定します。この目標は、「候補ターゲットそれぞれに確率10/nで接続する」というルールで簡単に達成できます。各ニューロンは、回路が必要とする無相関なサブセットの異なるランダムなセットを取得します。このルールは、それが引き出す熱的および分子的な変動が常に存在するからです。決定論的なルール「無相関なセットを作るターゲットBの最も近い10個のニューロンに接続する」も同様に要件を満たします。しかし、確率論的な選択なしでは、Aのニューロンは、すべてのセットが無相関であることを保証するために、隣接細胞と明示的に交渉しなければなりません。決定論的に相関を削除すると、ノイズを無料のリソースとして使用する確率論的アルゴリズムによって回避されるオーバーヘッドが発生します。一般に、ノイズは独立変数を必要とするアルゴリズムを促進します。

しかし、ノイズは万能薬ではありません。変動を安価にする同じノイズは、一貫性を高価にすることもできます。領域Aは領域Bから10個の入力をランダムにサンプリングできますが、そのままにしておくと、ノイズが誤って領域Cからサンプリングしたり、少なすぎたり多すぎたりする可能性があります。初期発生で修正されない小さなエラーは、後段階で致命的となることがよくあります。フォン・ノイマン70とワディントン7は両方とも、ノイズの多いプロセスがどのように信頼性の高い結果を生み出すかを検討しました。離散化は、コンピュータと生物の両方にとってソリューションとして浮上しました。コンピュータのメモリには2つの離散的なビンがあります:0と1。電圧はビン内でノイズが多く変動する可能性がありますが、それらを分離するしきい値を超えない限り、計算は影響を受けません。ワディントンの「運河化」は同じ原則に基づいています。発生軌跡は、離散数の運河に分類されます。運河内のノイズによる変動は、軌跡が運河の境界を超えない限り、同じ発生結果をもたらします。離散化のコストは、しきい値と境界にあります。境界はゲノムで指定する必要があり、より重い変動に対して堅牢なより高い境界は、より高いコストを発生させます71,72。

特定のインスタンスではなく、配線図の分布を指定することには潜在的な利点があります。よりコンパクトなルールにつながる可能性があります。より多くの可能性を残すルールは、詳細を固定するルールよりも多くの情報が必要になることがよくあります73,74。特定のニューロンターゲットを指定するルール—ニューロン845845を領域Xにあるターゲットニューロン342342に接続する—は、「領域Xにナビゲートし、タイプYの任意のパートナーに接続する」と言うだけのルールよりも多くの情報ビットを必要とします。分布と確率論が有利か不利かは、特定のアルゴリズムとユースケースによって異なります。進化は、重みと活性を調べることによって、勾配降下法と進化がデータから得た行動および計算戦略の特別なケースとアルゴリズムを見つけた可能性があります。より短い発生プログラムからそれらを読み取ることは、より簡単な問題かもしれません。

可塑性

可塑性は、初期ルールが実行された後に配線を微調整します。可塑性には2つの形態があります。1つは自発的な活動に基づく形態で、最終的にゲノムに由来する情報のみを使用します。したがって、導入部で定義された問題、つまりゲノムに収まる指示から配線図を構築するプログラムを見つけるという問題にうまく適合します。もう1つ—経験依存性可塑性—はその問題を超えて、ゲノム外の外部世界からの情報をインポートします。

内部形態は、初期配線が広すぎた分布を狭めます。建築家は壁と配管を設置するのに十分な精度で計画を描きますが、請負業者は木材の反りや基礎の沈下を正確に予測できないため、現場でドアやトリムを調整します。網膜波、シナプス競争、刈り込みは請負業者の役割を果たします75–77。ゲノムは、「共同活動中のシナプスを強化する」または「最も弱い接続を刈り込む」といったルールを指定します。活動は、どの特定のパターンがそれを満たすかを決定します。発生中、この活動は内部的に生成される可能性があります。網膜波は、目が開く前に網膜を駆け巡ります75。回路が落ち着くパターンは、依然としてゲノムが指定したものであり、上記で議論したような競争ベースのルールです。この種のフィードバックは、発生にかかる時間や収束の信頼性を変更する可能性がありますが、ゲノムが既に保持している情報以上のものは追加しません。回路は、自身が生成する信号を使用して、ゲノム指定の回答に向かって洗練されます。

経験依存性可塑性は、生物外部からの情報に依存します。ゲノムには、母国語の語彙、家族の顔、果樹の場所は含まれていません。自然選択は、たとえ可能であっても、この情報を保存しません。なぜなら、それは進化が追跡できるよりも速く変化するからです。ゲノムは、人間の言語や自然画像の一般的な構造など、情報吸収を容易にする事前情報を保存できます78。ゲノムは、環境から供給されるデータで実行される経験依存性ルールを提供します。これは、前のセクションの確率論的ルールが細胞から供給されるノイズで実行されるのと同様です。コネクトームは、遭遇するノイズと曝露される環境入力の両方に対して実行されるゲノムプログラムの結果です。

機械はしばしば共有されるため、2つの形態は似ています。発生中に補正フィードバックを提供する可塑性は、後に学習をサポートするのと同じ装置であることがよくあります79,80。それらの情報的役割は異なります。1つはゲノムが既に含意している回答に収束し、もう1つはゲノムが残した実際の空白を埋めます。共有メカニズムは、共通の進化の起源を反映しています。ゲノムはゼロから学習を発明したわけではありません。それはすでに、内部生成された波に対して回路を微調整するために使用されていた、活動に応答して接続性を調整するシステムを持っていました。このシステムを経験依存性学習に再利用するには、ほとんど新しい分子装置は必要なく、主に参照点を供給するものが自発的な活動から感覚世界へと変化しただけかもしれません。

考察

2つの影響力のある思考実験は、生物学の方法が既知の真実を持つシステムの設計を回復できるかどうかを問いました。ラゼブニクは、生物学者がラジオを修理できるかどうかを尋ねました1。ジョナスとコーディングは、神経科学者がマイクロプロセッサを理解できるかどうかを尋ねました2。どちらも同じ落胆させるような答えを返しました。病変研究、活動相関、次元削減は、これらの単純な工学システムの論理さえも回復できませんでした。これらの思考実験は、これらの方法がラジオやマイクロプロセッサの論理を回復できないため、配線と活動から脳を説明することを期待する理由はほとんどないと主張しています。

この問題は、ラジオやマイクロプロセッサとのアナロジーに限定されません。訓練された人工ニューラルネットワークの理解は、同じ困難な問題の重要な例であり、人工知能のサブフィールドである「メカニズム解釈可能性」によって対処されています81。人工ネットワークでは、シナプス重みと活性が知られています。しかし、訓練された人工ネットワーク内のニューロンと回路がどのように計算するかを説明する進歩は遅々としています。神経科学に触発されたアプローチを使用して、研究者たちは、例えば、大規模言語モデル(LLM)でゴールデンゲートブリッジを表すユニットの集団を特定しました。それらのユニットを人工的に活性化させることは、光遺伝学を連想させる介入であり、モデルをほとんどすべての会話を橋に誘導させ、多くの面白い会話を生み出しました82。しかし、重みと活性に関する実質的に無制限のデータへの完全なアクセスがあっても、これらの方法は、言語モデルが人間の思考の印象的なシミュラクラとしてどのように振る舞うかを理解すること、またはそれをより信頼性が高く、堅牢にするためにどのように再形成するかについて、わずかな進歩しか得られていません。

人工ネットワークと生物学的ネットワークは、説明の長さが異なります。人工ニューラルネットワークのレシピは単純に見えます:目的、学習ルール、アーキテクチャ、データセット。しかし、データセットはトレーニングデータであり、最新のLLMの場合、インターネットのほとんどが含まれています9。トレーニングの行為は、これらのデータを重みのリストに圧縮します。このプロセスの生物学的アナロジーは経験依存性学習ではなく、進化であり、数百万年のデータをキャプチャして圧縮しました78。しかし、長い戦略1タイプのリストではなく、進化はより短い発生プログラムをゲノムに格納し、それを実行するとそれらの重みが生成されます83。勾配降下法と進化がデータから得た行動および計算戦略を、重みと活性を調べることによって読み取ることに、私たちは限定的な成功しか収めていません。より短い発生プログラムからそれらの戦略を読み取ることは、より簡単な問題かもしれません。

数十年にわたる分子遺伝学は、発生プログラム—モルフォゲン、転写因子、ガイダンスキューとその受容体—を驚くほど詳細に解剖してきました84,85。ここでは、アルゴリズム理論を形式化する一歩を踏み出します。ゲノムが明示的な情報と時間予算内で脳全体の接続性をどのように指定するか、そしてそれらの予算がどのメカニズムを強制するかについての説明です。私たちは2つの基本的な制約から始めました。ゲノムが格納できる情報と、発生が許容される時間です。その演習を進める中で、両方の制約が厳しいことがわかりました。脳を指定するほとんどの方法は、一方または両方を失敗させます。生き残った戦略は、狭いクラスに分類されます。細胞分裂によって設定される階層的な座標、それらの座標に対するコンパクトな変換として書かれた配線ルール、そして各ルールがニューロンごとではなく細胞タイプごとに1回格納されることです86。これは、発生が実際に行っていることに近いものです。これらの制約を通して見ると、数十年にわたって解明されてきた分子メカニズムは、アルゴリズムのステップとしてキャストできます。各メカニズムについて、制約がそれを強制するか、または自由に変動させるかを尋ねることができます。

進化、発生、学習は、複数の時間スケールで動作する1つのプロセスです。進化は、数億年にわたって系統の経験をゲノムに圧縮します。発生は、その圧縮された記録を数時間から数年にわたってネットワークに展開します。学習は、単一の生涯内で結果を微調整します。ゲノムは、長期的な経験が蓄積される場所です。発生はそれを展開する方法です。可塑性は、世界が進化の追跡よりも速く動くときの迅速な修正です。発生プログラムをアルゴリズムとして読み取ることは、あらゆるスケールでの経験がどのように構造になるかを見ることです。

注釈

  1. *本文中の戦略1は、わずかにタイトなエンコーディング(nm log nビット、n²より小さいのは、実際の脳は疎であるため。もし密であれば、n²の方が安価になる)を使用しています。実現可能性の図は同じであり、n²はニューロン数のみに依存するため、よりクリーンな境界です。 ↩
  2. *(少なくともそのほとんど)プログラミングにおいて。 ↩

参考文献

  1. Lazebnik, Y. Can a biologist fix a radio? Or, what I learned while studying apoptosis. Cancer Cell 2, 179–182 (2002).
  2. Jonas, E. & Kording, K. P. Could a neuroscientist understand a microprocessor? PLOS Computational Biology 13, e1005268 (2017).
  3. Herculano-Houzel, S., Mota, B. & Lent, R. Cellular scaling rules for rodent brains. Proceedings of the National Academy of Sciences 103, 12138–12143 (2006).
  4. Azevedo, F. A. C. et al. Equal numbers of neuronal and nonneuronal cells make the human brain an isometrically scaled-up primate brain. The Journal of Comparative Neurology 513, 532–541 (2009).
  5. Turing, A. M. On Computable Numbers, with an Application to the Entscheidungsproblem. Proceedings of the London Mathematical Society s2-42, 230–265 (1937).
  6. von Neumann, J. Theory of Self-Reproducing Automata (University of Illinois Press, Urbana and London, 1966).
  7. Waddington, C. H. The Strategy of the Genes: A Discussion of Some Aspects of Theoretical Biology (George Allen & Unwin, London, 1957).
  8. Brenner, S. Life's code script. Nature 482, 461–461 (2012).
  9. Grattafiori, A. et al. The Llama 3 herd of models (2024). arXiv:2407.21783.
  10. Zubler, F. & Douglas, R. A framework for modeling the growth and development of neurons and networks. Frontiers in Computational Neuroscience 3, 25 (2009).
  11. Zubler, F. et al. An Instruction Language for Self-Construction in the Context of Neural Networks. Frontiers in Computational Neuroscience 5, 57 (2011).
  12. Zubler, F. et al. Simulating Cortical Development as a Self Constructing Process: A Novel Multi-Scale Approach Combining Molecular and Physical Aspects. PLOS Computational Biology 9, e1003173 (2013).
  13. Bauer, R. et al. Developmental Self-Construction and -Configuration of Functional Neocortical Neuronal Networks. PLOS Computational Biology 10, e1003994 (2014).
  14. Bauer, R., Zubler, F., Hauri, A., Muir, D. R. & Douglas, R. J. Developmental Origin of Patchy Axonal Connectivity in the Neocortex: A Computational Model. Cerebral Cortex 24, 487–500 (2014).
  15. Braitenberg, V. & Schüz, A. Cortex: Statistics and Geometry of Neuronal Connectivity (Springer, Berlin, Heidelberg, 1998), second edition edn.
  16. The C. elegans Sequencing Consortium. Genome sequence of the nematode C. elegans: a platform for investigating biology. Science 282, 2012–2018 (1998).
  17. Adams, M. D. et al. The genome sequence of Drosophila melanogaster. Science 287, 2185–2195 (2000).
  18. Mouse Genome Sequencing Consortium. Initial sequencing and comparative analysis of the mouse genome. Nature 420, 520–562 (2002).
  19. Howe, K. et al. The zebrafish reference genome sequence and its relationship to the human genome. Nature 496, 498–503 (2013).
  20. Hoskins, R. A. et al. The Release 6 reference sequence of the Drosophila melanogaster genome. Genome Research 25, 445–458 (2015).
  21. Nurk, S. et al. The complete sequence of a human genome. Science 376, 44–53 (2022).
  22. White, J. G., Southgate, E., Thomson, J. N. & Brenner, S. The structure of the nervous system of the nematode Caenorhabditis elegans. Philosophical Transactions of the Royal Society of London. B, Biological Sciences 314, 1–340 (1986).
  23. Hinsch, K. & Zupanc, G. K. H. Generation and long-term persistence of new neurons in the adult zebrafish brain: a quantitative analysis. Neuroscience 146, 679–696 (2007).
  24. Dorkenwald, S. et al. Neuronal wiring diagram of an adult brain. Nature 634, 124–138 (2024).
  25. Gomez, T. M. & Spitzer, N. C. In vivo regulation of axon extension and pathfinding by growth-cone calcium transients. Nature 397, 350–355 (1999).
  26. Ruthel, G. & Hollenbeck, P. J. Growth Cones Are Not Required for Initial Establishment of Polarity or Differential Axon Branch Growth in Cultured Hippocampal Neurons. Journal of Neuroscience 20, 2266–2274 (2000).
  27. Hutchins, B. I. & Kalil, K. Differential Outgrowth of Axons and their Branches Is Regulated by Localized Calcium Transients. Journal of Neuroscience 28, 143–153 (2008).
  28. Knuth, D. E. Computer programming as an art. Communications of the ACM 17, 667–673 (1974).
  29. Kalil, K., Li, L. & Hutchins, B. I. Signaling mechanisms in cortical axon growth, guidance, and branching. Frontiers in Neuroanatomy 5, 62 (2011).
  30. Sperry, R. W. Chemoaffinity in the orderly growth of nerve fiber patterns and connections extit{}. Proceedings of the National Academy of Sciences 50, 703–710 (1963).
  31. Schmucker, D. et al. Drosophila Dscam is an axon guidance receptor exhibiting extraordinary molecular diversity. Cell 101, 671–684 (2000).
  32. Wu, Q. & Maniatis, T. A striking organization of a large family of human neural cadherin-like cell adhesion genes. Cell 97, 779–790 (1999).
  33. Zipursky, S. L. & Sanes, J. R. Chemoaffinity revisited: Dscams, protocadherins, and neural circuit assembly. Cell 143, 343–353 (2010).
  34. Sanes, J. R. & Zipursky, S. L. Synaptic specificity, recognition molecules, and assembly of neural circuits. Cell 181, 536–556 (2020).
  35. Hassan, B. A. & Hiesinger, P. R. Beyond molecular codes: simple rules to wire complex brains. Cell 163, 285–291 (2015).
  36. Pasterkamp, R. J. & Kolodkin, A. L. SnapShot: Axon Guidance. Cell 153, 494–494.e2 (2013).
  37. Tessier-Lavigne, M. & Goodman, C. S. The molecular biology of axon guidance. Science 274, 1123–1133 (1996).
  38. Raper, J. & Mason, C. Cellular strategies of axonal pathfinding. Cold Spring Harbor Perspectives in Biology 2, a001933 (2010).
  39. Stoeckli, E. T. Understanding axon guidance: are we nearly there yet? Development 145, dev151415 (2018).
  40. Kerstjens, S., Michel, G. & Douglas, R. J. Constructive connectomics: How neuronal axons get from here to there using gene-expression maps derived from their family trees. PLOS Computational Biology 18, e1010382 (2022).
  41. Bishop, K. M., Goudreau, G. & O'Leary, D. D. M. Regulation of area identity in the mammalian neocortex by Emx2 and Pax6. Science 288, 344–349 (2000).
  42. McConnell, S. K. & Kaznowski, C. E. Cell cycle dependence of laminar determination in developing neocortex. Science 254, 282–285 (1991).
  43. Ware, M., Dupé, V. & Schubert, F. R. Evolutionary conservation of the early axon scaffold in the vertebrate brain. Developmental Dynamics 244, 1202–1214 (2015).
  44. Kebschull, J. M. et al. Cerebellar nuclei evolved by repeatedly duplicating a conserved cell-type set. Science 370, eabd5059 (2020).
  45. Dasen, J. S., Tice, B. C., Brenner-Morton, S. & Jessell, T. M. A Hox regulatory network establishes motor neuron pool identity and target-muscle connectivity. Cell 123, 477–491 (2005).
  46. Yao, Z. et al. A high-resolution transcriptomic and spatial atlas of cell types in the whole mouse brain. Nature 624, 317–332 (2023).
  47. Signore, I. A., Palma, K. & Concha, M. L. Nodal signalling and asymmetry of the nervous system. Philosophical Transactions of the Royal Society B: Biological Sciences 371, 20150401 (2016).
  48. Lumsden, A. & Krumlauf, R. Patterning the vertebrate neuraxis. Science 274, 1109–1115 (1996).
  49. Sagner, A. & Briscoe, J. Establishing neuronal diversity in the spinal cord: a time and a place. Development 146, dev182154 (2019).
  50. Donoghue, M. J., Morris-Valero, R., Johnson, Y. R., Merlie, J. P. & Sanes, J. R. Mammalian muscle cells bear a cell-autonomous, heritable memory of their rostrocaudal position. Cell 69, 67–77 (1992).
  51. Donoghue, M. J., Patton, B. L., Sanes, J. R. & Merlie, J. P. An axial gradient of transgene methylation in murine skeletal muscle: genomic imprint of rostrocaudal position. Development 116, 1101–1112 (1992).
  52. Wigston, D. J. & Sanes, J. R. Selective reinnervation of intercostal muscles transplanted from different segmental levels to a common site. Journal of Neuroscience 5, 1208–1221 (1985).
  53. Laskowski, M. B. & Sanes, J. R. Topographic mapping of motor pools onto skeletal muscles. Journal of Neuroscience 7, 252–260 (1987).
  54. von der Malsburg, C. Ordered Retinotectal Projections and Brain Organization. In Yates, F. E., Garfinkel, A., Walter, D. O. & Yates, G. B. (eds.) Self-Organizing Systems: The Emergence of Order, Life Science Monographs, 265–277 (Springer US, Boston, MA, 1987).
  55. Turing, A. M. The Chemical Basis of Morphogenesis. Philosophical Transactions of the Royal Society of London. Series B, Biological Sciences 237, 37–72 (1952).
  56. Wolpert, L. Positional information and the spatial pattern of cellular differentiation. Journal of Theoretical Biology 25, 1–47 (1969).
  57. Wolpert, L. Positional information revisited. Development 107, 3–12 (1989).
  58. Davidson, E. H. & Erwin, D. H. Gene Regulatory Networks and the Evolution of Animal Body Plans. Science 311, 796–800 (2006).
  59. Yu, Y.-C., Bultje, R. S., Wang, X. & Shi, S.-H. Specific synapses develop preferentially among sister excitatory neurons in the neocortex. Nature 458, 501–504 (2009).
  60. McKenna, A. et al. Whole-organism lineage tracing by combinatorial and cumulative genome editing. Science 353, aaf7907 (2016).
  61. Raj, B. et al. Simultaneous single-cell profiling of lineages and cell types in the vertebrate brain. Nature Biotechnology 36, 442–450 (2018).
  62. Klingler, E. et al. Temporal controls over inter-areal cortical projection neuron fate diversity. Nature 599, 453–457 (2021).
  63. Kerstjens, S., Engert, F., Douglas, R. J. & Zador, A. M. A lineage-based model of scalable positional information in vertebrate brain development. Neuron 114, 1623–1634.e2 (2026).
  64. Witvliet, D. et al. Connectomes across development reveal principles of brain maturation. Nature 596, 257–261 (2021).
  65. Huberman, A. D., Feller, M. B. & Chapman, B. Mechanisms underlying development of visual maps and receptive fields. Annual Review of Neuroscience 31, 479–509 (2008).
  66. Hiesinger, P. R. & Hassan, B. A. The Evolution of Variability and Robustness in Neural Development. Trends in Neurosciences 41, 577–586 (2018). URL https://www.cell.com/trends/neurosciences/abstract/S0166-2236(18)30154-1.
  67. Mitchell, K. J. Innate: How the wiring of our brains shapes who we are (Princeton University Press, 2018).
  68. Ballouz, S. et al. The transcriptional legacy of developmental stochasticity. Nature Communications 14, 7226 (2023).
  69. Motwani, R. & Raghavan, P. Randomized Algorithms (Cambridge University Press, Cambridge, 1995).
  70. Von Neumann, J. The General and Logical Theory of Automata. In Design of Computers, Theory of Automata and Numerical Analysis, vol. 5 of John von Neumann: Collected Works, 288–326 (Pergamon Press, Oxford, 1976), repr edn.
  71. Carlson, J. M. & Doyle, J. Complexity and robustness. Proceedings of the National Academy of Sciences 99, 2538–2545 (2002).
  72. Doyle, J. C. & Csete, M. Architecture, constraints, and behavior. Proceedings of the National Academy of Sciences 108, 15624–15630 (2011).
  73. Shannon, C. E. A Mathematical Theory of Communication. Bell System Technical Journal 27, 379–423 (1948).
  74. Li, M. & Vitányi, P. An Introduction to Kolmogorov Complexity and Its Applications. Texts in Computer Science (Springer International Publishing, Cham, 2019), fourth edition edn.
  75. Meister, M., Wong, R. O. L., Baylor, D. A. & Shatz, C. J. Synchronous bursts of action potentials in ganglion cells of the developing mammalian retina. Science 252, 939–943 (1991).
  76. Kolodkin, A. L. & Tessier-Lavigne, M. Mechanisms and molecules of neuronal wiring: a primer. Cold Spring Harbor Perspectives in Biology 3, a001727 (2011).
  77. Hiesinger, P. R. Brain wiring with composite instructions. BioEssays 43, e2000166 (2021).
  78. Zador, A. M. A critique of pure learning and what artificial neural networks can learn from animal brains. Nature Communications 10, 3770 (2019).
  79. Citri, A. & Malenka, R. C. Synaptic plasticity: multiple forms, functions, and mechanisms. Neuropsychopharmacology 33, 18–41 (2008).
  80. Ewald, R. C. & Cline, H. T. NMDA receptors and brain development. In Van Dongen, A. M. (ed.) Biology of the NMDA Receptor, chap. 1 (CRC Press/Taylor & Francis, Boca Raton, FL, 2009).
  81. Bereska, L. & Gavves, E. Mechanistic interpretability for AI safety — A review (2024). arXiv:2404.14082.
  82. Templeton, A. et al. Scaling monosemanticity: Extracting interpretable features from Claude 3 Sonnet. Transformer Circuits Thread (2024). URL https://transformer-circuits.pub/2024/scaling-monosemanticity/.
  83. Shuvaev, S., Lachi, D., Koulakov, A. & Zador, A. Encoding innate ability through a genomic bottleneck. Proceedings of the National Academy of Sciences 121, e2409160121 (2024).
  84. Kolodkin, A. L. & Pasterkamp, R. J. SnapShot: Axon Guidance II. Cell 153, 722–722.e1 (2013).
  85. Sanes, D. H., Reh, T. A., Harris, W. A. & Landgraf, M. Development of the Nervous System (Academic Press, an imprint of Elsevier, London, United Kingdom ; San Diego, CA, United States, 2019), fourth edition edn.
  86. Simon, H. A. The Architecture of Complexity. Proceedings of the American Philosophical Society 106, 467–482 (1962).