4,296 文字
まぁ、大きなフィードバックループがあると思いますわ。宇宙自体が意識を持っているとか、社会がある種の高次の意識として機能してて、私らがニューロンみたいな役割を果たしてるんちゃうかって言う人もおりますよね。そういう考えを最初から否定するつもりはありませんわ。私らがもっと大きなシステムの中に組み込まれてるのは明らかですし、そういうシステムの認知能力については、ほとんど何も分かってないんちゃうかなと思います。
そうですね、めっちゃ重要な質問やと思いますわ。例えばニューラルネットワークの一部として訓練されてる立場やったら、どんな視点を持つんやろかってよく考えるんです。ニューロンとして周りを見渡して、「これは冷たい機械的な宇宙で、何が起こっても気にせえへんのか」とか「環境に何らかの意図があるんかな」って考えるわけですよ。
ネットワークの一部として、環境から学習してるんか、それとも訓練されてるんか。訓練されてる場合、その相互作用に何人の主体がおるんやろか。自分の意思で環境から学んでるだけなんか、それとも特定の目的のために環境という主体に訓練されてるんか。
例えば画像認識タスクのためのネットワークの一部やったら、機械的な宇宙に住んでるって結論は間違ってるんちゃうかなと。明らかに特定の行動に対して報酬と罰があるわけで、中立やないですやん。なんでか知らんけど、犬の目とかを見つけると特別喜ぶみたいな。でも全体として犬の顔を認識するシステムの一部やってことは分からへんのです。
もちろん、大きなシステムが何をしてるんか完全に理解するには限界があるでしょうけど、少なくとも自分が何らかの意図を持った力学の中におるってことは分かるかもしれません。それが具体的に何かは分からんとしても。
クリスが言うたように、部品から構成されるシステムの認知能力を予測したりコントロールしたりする科学は、まだまだ発展途上ですわ。細胞やロボットなど個々の部品についてはいろいろ分かってても、それらを組み合わせた大きなシステムが何をするのか、どんな目標を追求できるのか、どんな選好を持つのかについては、よく分からんことが多いです。これは社会にとって実存的な課題になるかもしれませんね。
でも、あなたはそれをやってきたんちゃいますか？まぁ、始めたところですけどね。いや、もっと進んでると思いますよ。あなたの研究は、まさにそういった問題に取り組むための実質的で確立された形式的フレームワークを提供してるんちゃいますか。
いろんな分野で萌芽的なバージョンが出てきてますわ。最近、経済学者や金融関係者の会議に行ってきたんですけど、行動経済学から認知経済学への移行を試みてて、まさにこういった問題に取り組んでました。市場における分散認知の概念を理解しようとしてて。最終的にはあなたのところに相談に来ることになるんちゃうかなと思います。
前に話してた自己組織化の異なるスケール間のつながりに戻りますけど、各スケールが同じ原理に従うてるけど、それがどうコンテキスト化されるんかって話ですね。個人と集団や社会を考えるのは、その良い例やと思います。
クリスが言うてた、自己認識という意味での意識と、単なる質的経験としての意識を区別する明確な線引きの話に戻りたいんですけど。現象的透明性の喪失とは区別して、自己認識について考えてみましょう。
単一のニューロンであれ個人であれ、自分の世界を説明するためにはどんな説明が必要で、それが「私は私である」という概念をどう正当化するんか。明らかな答えは、自分の行動と他者の行動の結果を区別せなあかんときですわ。
例えば、私に似た構造を持つものが全くおらん惑星で生存してるなら、「これは私がしたんか、誰かがしたんか」という問題は起こりませんわ。でも同じような仲間がおると、「これは私がしたんか、あなたがしたんか」という推論問題が自然に生じます。
これは当然、生成モデルや内部ダイナミクス、つまり「これは私や」という仮説を検討する内部表現を必要とします。このような粒子が多数集まる文脈でのみ、自己性の仮説や表象を持つ必要性や正当性が生まれるんです。
統計学者の観点からすると、これはまさにクリスが話してた複雑性の増加を正当化するものですわ。ITT（統合情報理論）への言及や、複雑性の増加によるある種の閾値の超越について聞いてて面白かったです。
統計学者に複雑性とは何かと聞くと、基本的にはセンサーデータを説明するために使用される自由度やと言うでしょう。ベイジアンなら事後確率と事前確率間のKLダイバージェンスとして表現できますが、本質的にはこれらのデータを正確に説明するために使用される自由度のことです。
数学的には、証拠は精度から複雑性を引いたものに等しいんです。なぜ複雑性が必要なんか？複雑性の増加は精度の向上によってのみ正当化されます。私に似たものによって構成される世界をモデル化し、予測し、説明せなあかんなら、私と他者を区別する表象があった方が予測の精度は大幅に向上します。
これは追加の仮説やそれに伴うすべてを含む自由度の増加を意味しますが、精度の向上によって十分に補われる複雑性の増加なんです。
あなたが細胞レベルでやってきた研究は、社会レベルや経済学、生態学における生態的地位構築などにも優雅に翻訳できると思いますわ。クリスも言いたいと思いますけど、言語はこの分散認知を効率的に、最小限の複雑性で実現する一つの方法ですね。
私は訓練されながら同時に学習してるわけで、私らは一緒になって一般化された同期を引き出すようなことをしてるんです。クリス、言語についてどう思います？
まぁ、ちょっと戻って、今の話をシンプルな能動推論の言葉で説明させてください。マルコフブランケット、つまり世界とのインターフェースで何かが起こった時、「これは私がしたんか、世界がしたんか」という問いが常にあります。ここでの世界は私の外側のすべてを意味します。
ある意味では答えは常に「世界がした」なんです。問題は、世界が私の行動に応じてそれをしたのか、それとも私の行動とは関係なくしたのかということです。
これは私らがよく話してきた、赤ちゃんやロボットなどのシステムが、世界からの入力が自分の出力と関係があるかどうかを相関を測ることで理解しようとする「バブリング」というシナリオにつながります。
この質問をするだけでも膨大な表現能力が必要です。自分の行動を時間的にもしっかり表現せなあかんし、相関について統計的な推論を導き出すのに十分な行動を記憶するための良い記憶力も必要です。その記憶は単なる現在の入力の一部としてやなく、記憶として表現されなあかんのです。
あなたが提起したこの問題は、モデルを構築しようとするすべての主体が直面する重要な問題やと思います。これはマイクが最初に質問した、これらすべてがどのように始まるのかという問題にもつながりますね。
おそらく単純なシステムではバブリングから始まるんでしょう。最近、主体の数や主体と世界の境界はどこにあるのか、その境界をどう自己モデル化するのかという問題について考えてました。これについての素晴らしい発生学的モデルがあります。
私らはよく「胚がこれをする」とか「胚があれをする」とか言いますけど、例えば羊膜類の胚の初期では、実際には数層の細胞からなる平らな胚盤があるだけです。フリスビーみたいなものを想像してください。
通常、この円盤の一点が対称性を破り、最初の胚の主軸を組織化して、他の細胞に「私がやってるからあなたらはやらんでええで」って伝えるんです。そうやって一つの胚になるわけです。
この過程は簡単に撹乱されます。私も大学院の研究でよくやってました。この初期の未分化な細胞の集まり、つまり低レベルの原初的な主体のプールみたいなものを撹乱すると、一つやなく複数の胚に分かれることがあります。
鳥の胚でこれをやったことがありますが、ヒヨコやアヒルで双子を作ることができます。人間も同じ構造を持ってます。頭と頭を合わせたり、横並びにしたり、いろんな配置が可能です。三つ子もできます。
未分化の海から一つ、二つ、三つ、またはそれ以上の個体が現れる力学は、局所的な活性化と長距離抑制などによって決まります。でも最初からいくつの個体が生まれるかは分かりません。
例えば、横並びの結合双生児では、一方の双子がしばしば左右非対称性の欠損を持つことがあります。これは真ん中の細胞が、どちらの双子に属するのか、この双子の右側なのか、あの双子の左側なのか、はっきり決められへんからです。
両方の双子がその細胞は自分のものやと思うてるけど、実際には同じ細胞を共有してるわけです。そうすると一方は正しい左右を持ちますが、もう一方は例えば右が二つあるような状態になります。これが心臓や腸のパターン形成における左右性の欠損を引き起こすんです。
各双子が細胞の集合として、物事の位置や左右関係を計算しようとするとき、そのモデルが互いに矛盾することがあります。自己と世界の境界を異なる方法で引いて、特定の領域の帰属について争いが起こることもあります。
この個体化のプロセス、つまり可能性の海から個体が現れる過程にめっちゃ興味があります。5万個の細胞から、胚レベルで何個の個体が形成されるか最初は分かりません。それぞれが形態空間で特定の目標を持ち、非常に特定の形態を達成しようとします。
重要なお知らせです。数週間前にSubstackを立ち上げたところ、2024年の注目出版物賞を受賞しました。これらの動画を楽しんでくれてる方は、Substackでは通常数日から数週間早く見ることができます。説明欄のリンクから登録してください。
言語や曖昧な概念、ロジャー・ペンローズとの出会いの裏話（これはちょっとバイラルになりました）、その他の数学的な詳細について書いています。これはどこにもない独自のコンテンツで、Theories of Everything YouTubeチャンネルやPatreonにもありません。また、将来的には完全な書き起こしも掲載される予定です。
「カート、理論物理学や哲学、意識の分野の多くの人と話してきて、今どう思う？」とよく聞かれます。インタビューでは中立的な立場を保ってますが、このSubstackではこれらのトピックに関する現在の考察を覗くことができます。C T J AI m u n g l. substack.comに行って購読してください。
コメント