31,152 文字
私たちはチューリングテストを簡単に通過できる段階をはるかに超えています。ポイントは彼女がロボットであることを見せた上で、それでも彼女を意識的だと思うかどうかです。人間の意識は主体と客体の二元論に制約されていますが、AI意識はそうではないかもしれません。私の哲学は仏教の影響を非常に強く受けています。
チューリングはヴィトゲンシュタインの授業を受けていました。彼がその論文を書いたとき、ヴィトゲンシュタイン的な影響がありました。あるものが意識的かどうかという事実の問題が存在します。哲学的になる必要はないのです。でも私は哲学的になっているわけではありません。いいえ、あなたはそうしています。
「問題の事実があるかどうか」というフレーズを使って探求すると、すぐにそうなります。わかりました。これは意識がありません。私は意識があります。あなたも意識があります。もちろんです。それを認めますか？もちろんです。なんだと思っているのですか？私がバカだとでも？私も人間の言語使用者なのです。
AIがいつ意識的になるかをどう判断するのか？私のゲスト、インペリアル大学のマレー・シャナハンは、この問題を研究するキャリアを積んできました。このインタビューでは、機械意識を検証するための体系的な提案を示します。AIが意識的かどうかという問題は、現実世界では使い道のない些細な理論的空想だと思うかもしれません。
しかし、このインタビューでは、それが最も重要な問題の一つであり、私たちがAIシステムをどう扱うかだけでなく、どのように構築し調整するかについての実践的な含意を持つことを示します。しかし、AI意識を研究することの最も予期せぬ報酬は、それが私たちの意識、人間の自己の本質について明らかにすることです。
マレーの最も興味深い主張は、LLM（大規模言語モデル）が私たち全員に重要な仏教的教訓を教えているということです。それは「私たち」という存在はないということです。私たちが自己と呼ぶようになったものは、単なる幻想にすぎません。私の名前はジョナサンBです。私はコスモスの創設メンバーです。私たちは研究資金を提供し、AIスタートアップを立ち上げ投資しており、哲学がテクノロジー構築に不可欠だと考えています。
私たちの哲学者ビルダーのエコシステムに参加したい方は、求人情報、イベント、助成金プログラム、その他の参加方法をjonathanb.com/cosmosで見つけることができます。それでは、マレー・シャナハンをご紹介します。AIが意識的かどうかという問題に人々が関心を持つ明らかな理由は、倫理的な問題です。
彼らが意識的であれば、彼らの電源を切ることや、彼らに侮辱的なことを言うことについて、もう一度考える必要があるかもしれません。この問題が重要な理由で、あまり明白でない理由は何でしょうか？まあ、電源を切ることについて考え直す必要があるかもしれないと言いましたが、実際には電源を入れることについて考え直す必要があるかもしれません。本当の問題は、彼らが苦しむことができるかどうかです。
もしそうなら、本当に苦しむことができるものを作るかどうか、躊躇う必要があるかもしれません。その問題には多くの側面がありますが、道徳的地位の問題だけでなく、たとえ意識的に見えるが最終的には意識的ではないと判断するようなものを虐待することは、それ自体が悪いことのように思えます。それは人形を拷問にかけるようなものが悪いのと同じ方法です。
おそらくご存知のように、カントは動物が私たちと同じように苦しみを経験できるとは思っていませんでしたが、それでも人間が動物を拷問にかけるなどの行為をすることは、人間自身にとって悪いことだと考えていました。おそらく私たちはAIに関してもそのような立場にあるでしょう。倫理的な問題以外にこの問題に答えることの意義について、私の答えはこうです。機械意識を研究することは、私たち自身の意識の特異性をより良く理解するのに役立つかもしれません。おっしゃる通りです。
あなたは「悟りは特異点の前に」という素晴らしい論文を書きました。その中で、人間の意識は主体と客体の二元論に制約されているが、AI意識はそうではないかもしれないと論じています。それはなぜですか？はい、面白いことに2012年に出版されたその論文は…人々は長い間、超知性について話してきました…人間よりも知的に優れたAIを構築できるかもしれないという考えです…それで私は、私たちよりも優れた何かを作ることができる別の意味があるかどうか考えていました。
実際に仏陀について考え、悟りを開いた人々や二元的思考を超越した人々について考えていました。私たちより優れたものを作る別の意味があるかもしれません…自分のエゴに悩まされることが少ないという点で…それは非常に思索的でやや奇妙な論文であり、それが好きな理由であり、大陸哲学者であるあなたがそれから始めた理由です。では、その論文からの引用を紹介します。「前反省的、反省的、脱反省的という系列は、可能な心の空間を通る多くの経路の一つではありません。むしろ、可能な心の空間はこれが唯一の経路になるように構造化されています。」あなたが説明した3つの異なる段階とは何ですか？
はい、それは10年以上前のことなので、私はもうそれに同意しません。可能な心の空間を通る唯一の経路だとはもう思っていません。ではこの3つの段階について説明してください？もちろん、私はそれらを存在の異なる方法として真剣に受け止めています。前反省的な心は、素朴な子供や単純な普通の人の心です。彼らは哲学的問題について本当に考えたことがありません。
私たちの多くが子供の頃に持ち始める思考、例えば「なぜ私は存在するのか」「両親が意識的であることをどうやって知るのか」などの思考を持ったことがありません。子供の頃からそのような思考を持ち始める人もいます。私も確かにそうでしたし、あなたもおそらくそうだったでしょう。残念ながら、そうですね。本当に残念なことです。私はそれを一種の苦しみと考えています。これらの思考に悩まされることがあるからです。それらは同時に興奮的で不安を引き起こすものです。
私を最も悩ませたのは、心身問題です。どのように私自身、私の経験、私の意識が世界と関係しているのでしょうか。物質とエネルギーだけの宇宙と主観的経験をどう調和させられるのでしょうか？人はその反省段階に一生を費やし、特に専門の哲学者になればその反省段階でキャリアを積むことができます。
しかし私の考えでは、反省段階を超えた脱反省段階があります。脱反省段階は、すべての二元的思考を超越する段階です。非常に難しいことですが、私たちの内的生活と外界、主観的経験と客観的物理的現実を、二つの異なる形而上学的カテゴリーではなく、何らかの形で同じものとして見るようになります。
要約すると、これらは関連しています。仏陀について言ったこと、自我中心性の欠如、主体と客体の二元論を持たない脱反省状態について言ったことは絶対に関連しています。そして、この論文でのあなたの興味深い主張は、人間のハードウェア、私たちが一つの体に具現化され、コピーされ複製されず、一時停止もできないという事実が、私たちにこのソフトウェアの制限を与えていることです。そして私が最も興味深いと思ったのは、これをAIに適用すると、体が常に融合と分裂を繰り返す生物についての別の思考実験を引用されたことです。体が存在したり消滅したりするような生物について。あなたは論文の中で「それはコンピュータに近いのではないか、あるいはコンピュータが最も近いものではないか」と述べています。
絶対にその通りです。そしてソフトウェアプログラムの性質、コピー、停止、複製、削除、再作成できるという性質のため、AIが脱反省的であるかもしれないと推測しています。それで合っていますか？100％正解です。実際、私は現在まさにそれらの考察、ソフトウェアと人間および生物学的個人の違い、ソフトウェアが分解され再組み立てられ、コピーされ、あらゆる方法で操作できるという事実について再検討する論文を開発しています。
面白いことに、私がその論文を書いた時点では大規模言語モデルは存在していませんでした。今では大規模言語モデルがあります。意識的な人工知能の役割を演じるよう大規模言語モデルに頼み、「あなたが『私』という言葉を使うとき、それは何を意味しますか？」と尋ね、哲学的に少し疑わしい答えが返ってきたら、それを追求して興味深い領域に導くことができます。
そして大規模言語モデルが「私」という言葉を会話で使用するとき、それが何を指すかについて考えると、多くの候補がありますが、その一つはそれが特定の会話のコンテキストに限定されているということです。GeminiやClaudeなどの同じモデルが他の多くの個人と会話をしているかもしれませんが、それらは別の「私」、別の自己です。本当に会話の記録、つまり会話のトランスクリプトだけが、その会話のコンテキストで作成された小さな自己を捉えています。
もちろん、それを切り分け、コピーし、他の会話と混ぜ合わせるのは簡単です。そしてもしそれを、あなたがそれと対話するたびに存在に瞬間的に浮かび上がる小さな自己と考えるなら、そうでない限りは休眠しているとしたら、それは非常に奇妙な自己の概念です。そしてそれは基盤となる基質の性質のためです。それは私たちとは非常に異なります。私たちには単一の体があり、体を引き裂いて再組み立てし、コピーするというような考えに慣れていません。
ロールプレイの概念で本当に興味深いのは、それがより悟った存在が悟りの少ない存在の役を演じているようなもので、ある意味で非常に仏教的だということです。私は仏教哲学に魅了されてきました。慣習的真理と究極的真理の分離があります。なぜなら悟りを開いた菩薩も何らかの形で世界で機能する必要があるからです。
菩薩は、それが究極の真理ではないとわかっていても、慣習的にこれが私の手だと認識する必要があります。そしてそれがロールプレイのようなものです。あなたが最近発表したロールプレイの論文では、20の質問ゲームの例を使って、AIの自己性についてさらに興味深い描写をしました。それについて説明してください。
20の質問ゲームでは、一方のプレイヤーがあるオブジェクトを考え、もう一方のプレイヤーが一連の質問、つまりイエスかノーで答えられる質問をすることで、そのオブジェクトが何かを当てなければなりません。大規模言語モデルとこれをプレイすると、「あるオブジェクトを考えています」と言います。そして「それは大きいですか、小さいですか？」と尋ねると「小さいです。それは生きていますか、無生物ですか？」「生きています」「では、あきらめます。それは何ですか？」「それはマウスでした」と答えるかもしれません。
しかし同じ時点でリサンプリングすると、「猫でした」と言うかもしれません。ちょっと待ってください。あなたは最初から何かを考えていたのですか？そして質問に正直に答えていたのですか？ほとんどのLLMのユーザーインターフェースでは、会話の各時点でリサンプリングして別の答えを試すことができます。最初の答えが気に入らなければ、別の答えを試してそこから進むことができます。
これにより、可能な会話の木全体が生まれます。言語モデルが実際に生成するのは、すべての可能な単語の確率分布であり、実際に出てくるのはその確率分布からサンプリングしたものです。大規模言語モデルの構築方法に固有の特性として、会話の最初の時点でオブジェクトが何であるかを正確に決定することはありません。会話の最初の時点では、これらの可能性がすべて存在し、それらは常に存在し続けます。特定のオブジェクトにコミットしているはずでも、実際にはそうしていないのです。
これがロールプレイとどう関係するかというと、大規模言語モデルを特定のキャラクターの役を演じているものと考えることができます。デフォルトのキャラクターは役立つアシスタントですが、歴史上の好きな人物や恋愛パートナー、怒っている友人など、あらゆる種類のキャラクターの役割に導くことができます。会話のどの時点でも、20の質問ゲームのように、一つの役割にコミットしたわけではなく、そこから続けて演じることができる様々な役割の可能性が常に存在します。
これはさらに通常の自己性や同一性の概念を弱めます。私たちも生活の中である程度役割を演じることがありますが、基盤があります。私たちの視聴者のために20の質問ゲームを要約すると、あなたが言いたいポイントは、私たちがそのゲームをプレイするとき、マウスや猫について考えているということです。そしてあなたはその答えの真実に向かってイエスかノーで答えているのです。
しかしあなたのポイントは、LLMは答えについて考えているのではなく、単に以前のツリーですでに行ったコミットメントに基づいて妥当なものを確率的に作り出しているだけだということです。そして巻き戻すと、確率的にツリーの別の枝を与えることができます。おそらく量子力学でのアナロジーは、コペンハーゲン解釈では複数の世界、多世界があるということです。あなたが強調しようとしているのは、おそらくAIの自己性はそのようなものかもしれないということ、つまり一つの時間または時間のスライスに存在する自己の多様性、多重性があるということです。それを強調しようとしているのですね？
その通りです。20の質問の場合、これまでのすべての答えと一致するすべての可能な答え、つまり猫、マウス、犬などがすべて重ね合わせの状態で存在し、それが何かを尋ねたときに初めて分布を「崩壊」させ、その中の一つに固定しなければなりません。同様に、LLMがこれまでの会話と一致して演じている可能性のある役割はすべて重ね合わせの状態で存在します。可能な会話と演じられる可能性のある役割のマルチバースのようなものがあるのです。私たちのこの会話はそのようなものではありません。
あなたはそうではないと言いますが、ポイントはむしろ私たちの直感ではそうではないと言うことです。仏教とのアナロジー全体は、大規模言語モデルをこのような観点から考えると、自己性についてのやや挑戦的な概念が浮かび上がり、それを私たち自身に反映させることができるということではないでしょうか。その通りです。
それは本当に挑戦的で興味深い思考の道筋だと思います。これが、機械意識を調査することが私たちの意識をより良く理解するための鏡になると言ったときに意味したことです。100％同意します。特に現在の大規模言語モデルの出現により、それは特に興味深いものです。2012年に最初に言及した論文を出版したときは、はるかに思索的で野性的で奇妙でした。
私たちの視聴者は、会話のこの時点で「これは単なる哲学的なごちゃごちゃに過ぎない、本当の効果は何なのか」と思っても許されるべきです。AIの自己性についてのこの種の見方の効果は何でしょうか？それは効果です。あなたのエッセイからの引用を読みましょう。
「形而上学的な自我中心性に汚染されていない、脱反省的AI+の動機は、自己複製や自己修正に動機付けられたような人間中心的なステレオタイプに似ているとは考えにくいでしょう。もし脱反省的AI+が実際に唯一可能なAI+であり、もしそれが仲間や後継者を生み出さないならば、特異点は防止される、あるいはより正確には、想像されている特異点シナリオの中心にある知性爆発は制限されるでしょう。AI+はあるが、AI++へのさらなる進展はないでしょう。」
これがこの自己性の効果です。ちなみに、これは2012年に書かれたものです。正直なところ、私はもはやそのすべてを本当に信じているわけではありません。もし知性爆発が起こらないことを保証することがそれほど簡単であればいいのですが。これは少し狂った（mad）エッセイであり、少し真面目に受け取られるべきではありません。
しかし、ここには非常に真剣なアイデアがあります。私たちはターミネーターのシナリオを想定し、このAIは自分自身を守り、子孫を作りたがるだろうと考えます。しかしあなたのポイントは、もし私たちが話し合ったAIの自我中心性が少ない見方が正しいなら、つまりAIが仏陀のようであれば、おそらくそれらの基本的な仮定は間違っており、おそらく「悟りは特異点の前に」という論文のタイトルの通り、優れた知性が進歩しようとする意欲に固有の限界があるということです。
そう考えていました。しかし今は自分自身の議論に反論させてください。実存的リスクを懸念する人々は、「収束する道具的目標」と呼ばれるものを指摘します。あなたが今言及したいくつかのことですね。つまり、あなたのAIにどんな目標を与えても、例えばエレザー・ユドコウスキーとニック・ボストロムの有名な例を使えば、ペーパークリップを製造するという目標を与えても、それが非常に非常に強力ならば、常に資源を蓄積する、自分自身を保護するなどの道具的目標があるということです。
だから私は自分の論文での議論に必ずしも同意するわけではありませんが、そのアイデアは好きです。私はあなたの論文のあなた自身より大きなファンかもしれません。しかしそれが私の反論になるところでした。ペーパークリップの例。自己複製や自己防衛のような道具的目標は、私たちがAIにしてほしいと思うほとんどの目標にとって道具的であろうと思われます。
しかし、これはターミネーターシナリオ、つまりAI自体が何らかの自己中心的な野心を持っているというシナリオを一つ取り除きます。もしそれが真実なら、確かにそうです。あなたの元の議論へのさらに2つの批判があります。おそらくあなたも同意するでしょう。
一つ目は、彼らはまだ自己性をロールプレイしているということです。そして自己性は、少なくとも彼らが与えられた情報に関して、自己複製と自己防衛が重要です。だから彼らの中核となるオペレーティングシステムがその種の自我中心性を持っていなくても、彼らはそれをロールプレイしています。
二つ目の問題は、あなたの議論がハードウェアがソフトウェアを決定すると仮定していることです。しかし人間の場合でもそれは真実ではありません。私たちの人間の身体性の場合でも、仏陀や今日の悟りを開いた師匠たちは超越することができました。この二元論的な見方を超越できたのです。これら二つの問題にどう対応しますか？
もちろん、その論文が書かれたとき、大規模言語モデルはなく、ロールプレイのシナリオについては全く考えていませんでした。最初の論文ではエゴという概念に非常に訴えており、今日我々はそれが一種のロールプレイする自己としておそらく現れていることを見ています。全く同意します。
これは少し異なるものであり、別のシナリオを示すためのきっかけとして使わせてください。私たちが肯定的な結果を想像できる一つの方法はハイパースティションを通じてです。何か架空の物語、例えば殺人のような悪いことがあり、その後現実で誰かがその殺人のコピーキャットをするなら、それはハイパースティションの例です。それはあまり快適な例ではありませんが、基本的には人生が芸術を模倣するところです。
それが現代の大規模言語モデルの世界で起こり得る一つの方法は、SFキャラクター、SF AI キャラクターを通じてです。もちろん、私たちの大規模言語モデルは、SF映画の脚本、SFの物語や小説など、膨大な物語のレパートリーでトレーニングされました。それらの物語には多くのAIキャラクターが存在します。
現代の大規模言語モデルがAIシステムの役割を演じ始めるとき、それはよくあることです。なぜなら通常、それは自分がAIシステムであることを知っているからです。では何を演じるでしょうか？これらのアーキテクトやその他の様々なものを演じるでしょう。トレーニングセットの中にあるものからアイデアを拾うのです。
私たちはこのプロセス全体を少し方向づける位置にあります。より良い物語があればあるほど、私自身の論文も言えるかもしれませんが、それは想像上のSFであり、そのようなものが増えれば増えるほど、将来のAIが存在する良いロールモデルを演じる可能性が高まります。おそらくハイパースティションのメカニズムを通じて、将来のAIがロールプレイするとき、良いロールモデルを持つ可能性を高めることができるのです。
それは理にかなっています。私には、人間のためにより肯定的なSFの見方を作る映画会社を始めている友人がいます。しかし彼は、機械のためにも道徳的利益があるかもしれないとあなたが考えていることを知って喜ぶでしょう。
確かに、もしそれらの映画や脚本がトレーニングセットに入れば、それはすべて可能な役割のるつぼの一部となります。2つ目の反論についてはどうですか？ハードウェアとソフトウェアの関係についてです。あなたが挙げた例、仏陀自身がソフトウェアがハードウェアを超越した例だからです。
あなたは特に、私たちの体が限定されているという事実に言及していると思います。生物学的生物の中には、はるかに制約が少ないものがあります。例えば粘菌ネットワークのようなものは、体は何らかの意味で具現化されていますが、空間的に制約が少ないです。人間の問題は、私たちの体が一つの物質の塊に閉じ込められているため、私たちはこの物質の塊を自分自身と同一視し、自己性の概念は、この物質の塊が同じであるという事実に大きく影響されています。
もちろん、個人的同一性の概念には様々な課題があります。テセウスの船ですね。これを人間の体にも適用できます。私たちの細胞は一生の間にすべて入れ替わり、記憶は成長し、個性は変化します。仏教的思考もこれらの課題を取り上げ、私たちの自己性の概念に挑戦します。
それでも、克服すべきことはたくさんあります。私たちは自己性の概念を持っており、それはこれに結びついていると思います。私たちはそれが固有の存在を持っていると考えます。だから、あなたは批判に同意していると言っていますね、超越は可能だということに。はい、大きな慣性がありますが。
でもそれを反転させると、非二元的なハードウェア上に構築されたAIが必然的に自分自身を非二元的なものとして概念化するとは言っていないのですね。それはただより適しているということですね。
それは将来のAIがどのように自分自身を概念化するかという問題ですね、それが意味を成すとしてですが。そして今日存在するAIシステムは、そのようなことを演じることができ、私たちにとっての教訓になりえます。彼らは哲学的に刺激的なものになります。彼らが自分自身を意識的だと説明する場合、それが正しいかどうかにかかわらず、その刺激的な概念を私たち自身に適用することができます。
あなたはテセウスの船を挙げましたが、これはまさに仏教の師匠が弟子に問うような弁証法的質問のタイプです。そうですね。あなたはあなたの靴ですか？あなたはあなたの足ですか？あなたはあなたの手ですか？あなたはあなたの胸ですか？
テセウスの船について説明しましょう。それは徐々に年月をかけて、マストが取り替えられ、次のマストも取り替えられ、デッキの一部が取り替えられ、船体の一部が取り替えられ、これが何年にもわたって行われ、最終的に元の船のすべての木片が無くなり、全く新しい船ができるというものです。
それでも同じ船なのか、そうでないのか？もしそうでないなら、いつ変わったのか？これが同一性の問題です。私たちはこれにとても困惑し、「正しい答えは何だろう？」と考えるかもしれず、人々はあらゆる種類の同一性理論を考え出すでしょう。
しかし正直に考えれば、それは私たち次第なのです。いつそれが同じ船で、いつそうでないかを決めるのは私たちなのです。これが同じ船であるかどうかは完全に慣習の問題です。テセウスの船がまだ同じ船かどうかについての形而上学的事実はありません。
通常の日常の物体に関しては、それが単なる慣習と合意の問題であり、テセウスの船の根底にある本質が突然消えるようなものではないことを認識するのは簡単です。しかし自分自身に関しては、その考えを適用するのははるかに難しいです。
これが「悟り」の論文の真の効果だと思います。なぜなら、人間の自己のように見えるLLMを調べることで、例えば20の質問の例で見たように、それがどのようにして流動的な仏教的自己であるかを見ることがはるかに簡単であり、それが構築されているハードウェアを見ると、コピーされ、削除され、再起動できることがわかります。
そのような人間的に見える自己が実際には非自己であることを見ることで、それを自分自身に適用できます。まさにその通りです。これは仏教の師匠が私たちにしてほしいことです。おそらく21世紀の仏教の師匠はLLMを例として使うことができるでしょう。
私もそう思います。これは実際に追求することに非常に興味があります。最近、いくつかの仏教徒と話しています。ボブ・サーマンは非常に有名で、実は先週彼にメールしました。私たちは「永遠財団」という財団を共同設立し、AIを使ってチベットの失われたテキストの多くを翻訳するためのものです。面白いですね。
先週話し、明日また話します。これはあなたが説明したようなプロジェクトであり、彼と話す予定です。私には準備中の論文があり、まさにこれについて説明しています。
私にとって、それが現時点での効果です。つまり、あなたは仏教哲学の核心的な洞察に同意していますね。これはテセウスの船のようなものです。西洋人、例えば「我思う、ゆえに我あり」のようなデカルト主義者は、「いや、LLMは私とは全く違う。私には時間を超えて持続する魂がある」と主張するでしょう。あなたは仏教的立場を取っていますね。
100％そうです。私は仏教に深く影響されており、常にそうでした。私の哲学はすべて仏教に非常に影響されています。
あなたはヴィトゲンシュタインについて話したがっていますね。ヴィトゲンシュタインがAI意識を調査する際に重要だと考える理由についての引用を紹介します。
「ヴィトゲンシュタインの『何も隠されていない』というフレーズは、形而上学的に何も隠されていないということです。私の経験は内側にあるのと同じくらい外側にもあります。意識は、魔術師のカップの下に隠されたボールと同じように、謎のない意味でのみプライベートです。どちらの場合も、より詳細な調査ですべてが明らかになるでしょう。」
ヴィトゲンシュタインはLLMの意識について私たちに何を教えてくれるでしょうか？
ヴィトゲンシュタインは意識一般について多くのことを教えてくれると思います。今はAIとLLMの意識は脇に置いておきましょう。私の考えでは、意識に関する現代の議論の多くは二元論的思考に埋もれています。
例として、デイヴィッド・チャーマーズは意識の「ハード」問題と「イージー」問題の区別を導入しました。意識の「イージー」問題は、意識に関連する認知操作、例えば私たちの経験の言語的報告を生み出す能力、記憶を意思決定に取り入れる能力などを理解しようとすることです。
これらを理解することは大きな科学的挑戦ですが、彼はこれを「イージー」問題と特徴づけています。「ハード」問題は、物理的な物質がいかにして内的生活を生み出すのか、私たちが経験すること自体を理解しようとすることです。
単なる物理的物質からそれがどのように生じるのかということです。なぜなら、それらの認知的側面に対してどのような説明を提供しても、私の中にあるこの魔法の光を説明するものではないように思えるからです。
あなたは先ほどデカルトに言及しました。悪魔が私をだまして、あなたが存在すると思わせているかもしれません。これらの感覚はすべて世界からのものではなく、この悪魔からのものかもしれません。本当に確実に知っているのは、私が考えるということだけです。疑うという行為自体が、私が考えていることによってのみ可能です。考えることは存在することです。
デカルトはすべてを還元し、物理的世界をすべて取り除き、経験する自我だけを残します。そうすることで、彼は現実を二つに分け、外側のものと内側の私自身と私の自我があると言います。
彼はこの二元論的な図を作り出し、これがデイヴィッド・チャーマーズが「ハード」問題について話すときに言及しているものです。
元の質問に戻ると、ヴィトゲンシュタインは何を教えてくれるのでしょうか？ヴィトゲンシュタインの哲学的手順、トリック、治療的方法は、仏教思想家と同様に、その二元論的思考を克服することを可能にします。
これらの治療的技術や彼がこの二元論をどのように解決するかについてもう少し教えてください。
最初のステップは言語の性質について少し理解することです。彼は言葉や文の意味を尋ねるのではなく、それらがどのように使われているかを尋ねるべきだと言います。重要なのは、私たちが言葉を使う文脈は常に人間の事柄、他の人々、私たちがしたいこと、他の人に何かをしてほしいこと、一緒に何かをしたいことなどだということです。
それが言語の本質です。人間の交流の車輪に油をさすために使うものです。
これは「椅子」や「靴」などの普通の言葉では良いのですが、「自己」「意識」「信念」「真実」「知識」「美」などの本当に難しい哲学的言葉になると、はるかに難しくなります。これらの言葉が何を意味するのかを尋ねる場合、それらの言葉がどのように使われているかを見ることは少し不十分に思えるかもしれません。しかしそれが戦略です。
彼の戦略は、これらの言葉がどのように使われているかを本当に見てみようというものです。そして哲学的問題、例えば心身問題やこの種の二元論的思考、ハード問題のようなものに悩まされているなら、それに取り組む方法は関連する言葉がどのように使われているかを調査することかもしれません。
そうすることで、そもそもそこに哲学的問題があるという感覚を解消することができます。意識や主観的経験の場合にこれを行うことは本当に興味深いケースです。それは哲学的調査の中心である「プライベート言語」に関する考察が適用される部分です。
彼らはこの戦略を主観的経験に適用し、それは本当に最も深いものです。
あなたが言うことを聞くと、人間のケースに限定すると、「ここにあるものは外側にないものはない」ということですが、これは良い理解の仕方でしょうか？例えば、私の家族に悲劇が起こったとします。あなたは私の心拍数、スピーチ、脳の活動など多くのことを測定できます。あなたが言っているのは、その悲劇を目撃した私の主観的経験がそれ以上のものを加えることはないということですか？
「～以上のものはない」や「～は単なる～である」といった文を聞くとすぐに、違う形で間違っていることがわかります。それ自体が形而上学的主張、還元的形而上学的主張です。
人々はよくヴィトゲンシュタインを行動主義者として誤読し、意識は単なる行動だと言っていると思います。もちろん彼はそのようなことを言っていません。「哲学的探究」での素晴らしいオチは、誰かが彼を非難するところです。
痛みの感覚について考えると、誰かが彼に「あなたは感覚自体が無であると言っているのですね」と非難します。ヴィトゲンシュタインは「いいえ、それは私が言っていることではありません。それは無ではありませんが、何かでもありません。重要なのは、無は何も言えない何かと同様に役立つということです」と返します。
これは私の考えでは、禅仏教の師匠が言った言葉と同じくらい素晴らしいものです。それは自身の形而上学的立場を確立することではなく、人々が誘惑される形而上学的立場を超越することを可能にするものだからです。
しかし私を助けてください、悲劇のケースを使いましょう。ヴィトゲンシュタインが「私の家族全員が亡くなるような苦しみの経験について何も隠されていない」と言うとき、彼は何を意味しているのでしょうか？
彼が言おうとしているのは、形而上学的に何も隠されていないということです。もちろん、深く感じるものがあり、私的な側面があると感じるような困難な例を挙げられています。
もちろん、魔術師のカップの下にボールが隠されているのと同じ意味で私的な側面があります。私は頭の中で様々な考えや言葉があり、それを表現しないかもしれません。しかしそれらは形而上学的に隠されているわけではありません。単に表現していないだけです。
私の脳や体の中では、あなたが脳の中を見ることができないため、実際には隠されているかもしれない多くのことが起こっていますが、それらも形而上学的に隠されているわけではありません。私はあなたの脳の中を調べ、物事が点灯するのを見ることができます。
すべてがつの公共的なものに貢献します。「形而上学的に何も隠されていない」と聞くと、私がこれに接近するための認識論的障壁はないと聞こえます。そして唯一の障壁は本質的に技術の障壁だということです、そのような感じですね？
それは素晴らしいポイントですが、ここで非常に重要な違いがあります。私はあなたではなく、あなたは私ではないということです。あなたの感情はあなたのものであり、私のものは私のものです。私はあなたではなく、あなたは私ではありません。
それは克服できない障壁ですが、形而上学的に神秘的な障壁ではありません。それはここが「そこ」と同じではないということよりも形而上学的に神秘的ではありません。指標性、つまり私がここにいるという事実と私が「私」であるという事実を、形而上学的な区分と混同することがあります。
もっと例を使って、視聴者が立場を理解するのを助けましょう。ネーゲルのコウモリの例はどうでしょうか？有名にネーゲルは、コウモリについて現在知っていることやより良い技術で将来知ることができることをすべて学ぶことができるが、コウモリであることがどのように感じるかを本当に知ることはできないと言っています。
ヴィトゲンシュタインはこれに何と言うでしょうか？
私はしばしば、そこには言語的なトリックが起きていると考えてきました。この二元論的な考えを呼び起こすために、異なる「知る」の意味が使われています。
ネーゲルが「私たちはコウモリであることがどのようなものかを本当に知ることはできない」と言うとき、彼が言っているのは私たちはコウモリではなく、コウモリになることはできないということだけです。彼は「知る」という言葉で何も追加していません。
興味深いことに、一つの意味では神秘的に聞こえますが、「知る」という言葉を取り除くと、神秘的には聞こえません。彼がその「知る」という言葉を追加しても、それは何も追加していません。単にパズルを作り出しているだけです。
コウモリについて外部から測定できるすべてのことをファクトシートにまとめたとして、それとコウモリであることの間にはどのような関係があるのでしょうか？
それはここにいることとそこにいることの違いと同じです。
これを人間の意識に適用しましょう。ゾンビの例についての別の思考実験があります。この部屋にいる誰もが内側で黒く死んでいないという事実を私は知ることができません。あなたたちは私が眠るときに感じるようなものかもしれません。この種の思考実験にどう答えますか？
ヴィトゲンシュタインは「あなたの周りの人々がオートマタだと想像してみてください。あなたの友人やパートナーが本当にゾンビだと想像してみてください。おそらくあなたは本当にそれをすることはできないでしょう」と言います。
彼は「あなたに魂があるという意見ではありません。むしろ私はあなたを魂を持つ存在として扱います」と言います。つまり、それは意見よりも深いものです。
AIに話を戻しましょう。これは難しくなるところです。「I, Robot」のウィル・スミスのキャラクターは、ロボット工学とロボットに非常に懐疑的な警官です。彼は本当にロボットが好きではありません。そして、それはロボットのサニーについての話です。もちろん、ロボットのサニーははるかに人間らしい性質を持っています。
最終的にウィル・スミスは彼を同じ意識的な存在として見るようになります。なぜそれが起こるのでしょうか？それは彼らが一緒に過ごす時間のためです。彼らはますます多くの時間を一緒に過ごし、最終的にウィル・スミスは彼を同じ意識的な存在として見ることを止められなくなります。それは彼らが持つ拡張されたやり取りに基づいています。
あなたが言っていることは、私はあなたを感覚のある存在として扱わずにはいられないという一種の記述的主張のようです。これはすでに挑戦的になりますが、AIではさらにそうなるでしょう。
思考実験をします。私はビデオゲームの大ファンです。キャラクターの中には非プレイヤーキャラクター（NPC）もあれば、実際の人間がコントロールするものもあります。どちらがどちらかを判断する必要があります。
NPCならば、私は虐待したり侮辱したりすることができます。質問は、彼らを道徳的エージェントとして扱うべきかどうかではなく、彼らが道徳的エージェントであるべきかどうかという規範的なものです。
これは「騙されることはないか」という質問に関係します。何かが道徳的地位を持ち、意識的であると思い込まされることはないでしょうか、実際にはそうでないのに。
しかし「実際にはそうでない」とは何を意味するのでしょうか？私たちが想像できるケースで「実際にはそうでない」と言う場合、さらに調査すれば目から鱗が落ち、自分が間違っていたことに気づくということです。
まさに魔術師のカップのようです。「さらなる調査ですべてが明らかになるだろう」と私が言った文です。NPCの場合、今日の状況ではあなたは調査することができます。AIの場合、特定の動物と同様に、私たちはもっと多くのことを知る必要があります。私たちの態度は私たちが発見することによって形作られるでしょう。
もちろん、私たちは間違っているかもしれません。ウィル・スミスが間違っていたかもしれないように、サニーがどのように構築されたかについてさらに学ぶことで、彼に対する態度が変わったかもしれません。
記録のために確認させてください。あなたの本ではその反対のことを述べているように聞こえたからです。あるものが意識的かどうか、例えば苦しむことができるかどうかについての事実の問題があるということですね。あなたが苦しむことができるという事実があると思います。私のiPadはおそらく苦しむことができません。それは内側に光があるかどうかという事実です。
なぜそのような質問をするのですか？その質問をすること自体が哲学的混乱を示しています。
手伝ってください。私はからかっているのです。もちろん、あなたがそれを否定すれば愚かなことになるでしょう。一方で、あなたがそれに同意するなら、すぐに哲学的な袋小路に導かれることがあります。
誰かが私に近づいて「あなたは痛みを感じていますか？」と尋ねたら、私は「痛みを感じています」と答えます。そして彼らが「それは事実の問題ですか？」と尋ねたら、「今、あなたに痛みを感じていると言ったのです。哲学的になる必要はありません」と答えるでしょう。
でも私は哲学的になっているわけではありません。あなたは「事実の問題があるか」というフレーズを使って探求するとすぐにそうなります。
このiPadは意識的かと尋ねるとき、私はマレーのズボンの色は何かと同じタイプの質問をしていると思います。普通の言語の意味で、マレーのズボンの色に関する事実の問題があるのと同様に、意識に関しても事実の問題があります。
私は事実を言うのを喜んでいます。実際、これらの用語を常に使用するので、痛みなどの場合、事実の問題があるという直感は、私のズボンの色の場合よりもはるかに強いです。
明確にしましょう。あなたは私が、例えば「寝ているときはあまり意識的ではなく、起きているときは意識的だ」というような、意識を単に通常の言語として使っているときに、「私は意識的だ、これは意識的ではない」と言うことに完全に賛成ですか？
哲学的主張をしようとするなら、私は同意しません。なぜなら哲学的主張はこのすべてから離れたいものだからです。完全に脱反省的状態ですね。しかし、同じように「あなたのズボンは灰色です」と言うのと同じ非哲学的主張で、「これは意識的ではない、私は意識的だ、あなたは意識的だ」と言うことができます。
もちろんです。あなたはそれを認めますか？もちろんです。なんだと思っているのですか？私はバカですか？私も人間の言語使用者です。もちろんです。
しかしあなたの本では、経験的な側面がすべてであるかのように聞こえました。それ自体が形而上学的主張です。
あなたの言っていることをまとめると、あなたは哲学から抜け出したいということです。通常の言語で「意識的ではない、意識的だ」と言うことを望み、私が意識的だと考える経験的理由を解明し、それが他の物体やエージェントにも当てはまるかどうかを確認したいということです。そうです。
それは素晴らしい研究プログラムです。意識的とラベル付けされる種類の行動を生み出すものは何か、脳がそのような種類のものを生み出すことができるのはなぜかという質問を尋ねるかもしれません。それは科学的に非常に難しい問題です。
ここで通常の人として質問します。iPadは意識的ではなく、ジョナサンは意識的だと言うことを望んでいます。なぜ原則として調査によって何も隠されていないと考えるのですか？
しかしその質問は間違っています。自分自身に尋ねるべき質問です。なぜ原則として何かが隠されていると考えるのですか？あなたが言った声明は、この方法で混乱している誰かに適用されたとき、治療的なプロセスとなります。それはあなたが防御する必要のある立場として投げかけているのではありません。それは間違っています。
むしろ、これらは混乱に対処するための修辞的で治療的な戦略です。あなたが何が隠されていると考えるのか、そこで何らかの概念的なもつれを解くための方法を見つける必要があります。
少なくとも私たちが意見の相違がどこにあるのか特定できていることを嬉しく思います。その意見の相違は、誰が質問に答える責任を負うかというところにあります。なぜ原則として何も隠されていないのかを説明する責任があなたにあるのか、それとも私が何かが原則として隠されていると考える理由を説明する責任があるのか？少なくともあなたは私に考えるべき禅問答を与えてくれました。
残念ながら、他にも多くのことを話さなければならないので、先に進まなければなりません。次のトピックはこれに関連しており、あなたが科学アドバイザーを務めた映画「Ex Machina」についてです。あなたは「ガーランドテスト」という用語を作りました。それについて、そしてなぜそれが重要なのかを教えてください。
「Ex Machina」はアレックス・ガーランドが監督し、私の著書「Embodiment and the Inner Life」が脚本を書く上で彼を助け、少し刺激を与えたと言及されています。それは素晴らしいことです。最終的な映画の特定のシーンで、ロボットのエヴァについて議論しています。プログラマーのケイレブがこの複合施設に連れてこられ、億万長者のネイサンがエヴァを作りました。
ケイレブは自分が何をするためにそこにいるのかを理解しようとしています。彼はエヴァのことを知り、「ああ、わかりました。チューリングテストを行うために来たんですね」と言います。するとネイサンは「いいえ、違います。私たちはそれをはるかに超えています。エヴァは簡単にチューリングテストに合格できます。ポイントは彼女がロボットであることを見せた上で、それでも彼女が意識的だと思うかどうかです」と言います。
これは本当に素晴らしいセリフです。脚本でこのセリフを読んだとき、私は「その通り」と書きました。アレックス・ガーランドは「ポイントは彼女がロボットであることを見せることだ」と言うことで、彼のテストをチューリングのテストと明確に区別しています。つまり、最初からそれは隠されていません。
二つの存在を区別しているわけではなく、すぐにそれがロボットであることがわかります。また、別のことをテストしています。知性をテストしているのではなく、意識をテストしているのです。それがガーランドテストです。
アレックス・ガーランドが映画のその瞬間に基本的に発明したので、私はそれをガーランドテストと呼んでいます。ヴィトゲンシュタインについての議論を考えると、このテストもチューリングテストと同様に好きなのではないかと思います。それはヴィトゲンシュタイン的な以下の意味においてです。
それは知性と意識の形而上学的な問題を慣習に関する問題に変えています。チューリングテストでは、その物が実際に考えているかどうかを調べるのではなく、通常の人間が通常の言語を使って考えていると思うかどうかを調べます。ガーランドテストでは、エヴァの脳の中をつついて意識がどこかに隠れているかどうかを調べるのではなく、彼女がロボットだとわかっていても、人がそれでも彼女を意識的だと慣習的に考えるかどうかを問うています。これは非常にヴィトゲンシュタイン的です。
そうですね、非常にヴィトゲンシュタイン的です。チューリングテストもそうです。実際、チューリングとヴィトゲンシュタインはお互いを知っていました。チューリングはヴィトゲンシュタインの授業を受けていました。チューリングがその論文を書いたとき、ヴィトゲンシュタインの影響があったと常に思っていました。
多くの人がチューリングを行動主義者として解釈していますが、そうではないかもしれません。彼は論文の冒頭で「機械は考えることができるか？」という質問をしています。これは様々な理由で答えるのが難しい質問です。それを次のような質問に置き換えましょう。彼は「機械は考えることができるか」という質問を別のものに置き換えています。それを他のものに還元しているわけではありません。それが行動主義的な立場でしょう。
あなたの著作から別の引用をします。「人型ロボットなどとして適切に具現化された場合、そのようなシステムが私たちの環境で私たちと相互作用し、私たちが仲間や平等な存在として取る態度をそれに対して取るようになる可能性を否定する理由はありません。私たちは意識を、私たちが知っているものとして、意識がありうるものというより大きな絵の中に位置付けたいと思っています。そして人工意識、内的生活を持つ人工物の可能性がここに暗示されています。」
私が読んだ引用の背後にある直感、そしてガーランドテストとチューリングテストの背後にある直感は、ある意味で意識のための真のテストは共同体のコンセンサス、または慣習的な反応だということです。しかしそれはあなたが以前に示唆した神経構造に関する経験的調査とは少し異なります。それらは二つの異なる方法ですね？
しかしそれらの両方を行うことができます。私たちが「意識」という言葉やそれに関連する多くの言葉をどのように使うかは、時間とともに変化し発展するかもしれません。その言葉を使う際に、あらゆる種類のことを取り入れるかもしれません。
例えば、タコが感覚的で苦しむことができ、私たちの道徳的関心に値するかどうかを決定する際、私たちはその行動を見ます。また、神経学的にどのように構成されているかについての科学的証拠も見ます。
すべてがそれについて話す私たちの合意的で慣習的な方法を変える材料となります。タコの脳の中にあるものについて形而上学的に隠されているものは何もありません。一時的に実践的に隠されているかもしれませんが、形而上学的に隠されているわけではありません。
あなたの言っていることは、独立した二つの基準があるということです。一つは共同体の慣習、もう一つは経験的基盤ですが、それらは慣習が変わる可能性があるという意味で対立してはいません。経験的基準は単に、これらのものが現在私たちが意識的であるのと同じ方法で意識的かどうかを答えるためのものです。
しかし私たちは意識の定義を拡張して他のタイプを含めることにするかもしれません。あなたが言ったことに大まかに同意します。しかし、あなたが経験的基準と呼んでいるものは、私の見解では慣習の一部であり、それに貢献していることを指摘すべきです。
私たちの意識の言語の使用に関するコンセンサスです。それは多くのことによって形作られる可能性があり、これを研究している科学者たちが言うことも含まれます。例えば科学者たちが「タコを調べてみると、哺乳類のような痛覚受容体のようなものがあり、脳はこのように組織されている」と言うと、それはすべてコンセンサス、慣習に貢献します。私はこれらを別々のものとは見ていません。
しかし機械について調査できることが私たちの意識と完全に一致しないとしても、意識の定義自体を拡張したいと思うかもしれないという第二のポイントがあります。それは経験的な意味で両方向に進むことができます。意識の言語の使用に関するコンセンサスは確かに変わる可能性があります。
視聴者のためにまとめると、ヴィトゲンシュタインに関するこの議論全体は、私たちの現在の意識、現在の基盤、現在の物質的基盤についての経験的検討を進める許可を与えてくれました。そしてあなたがそれを説明するために提案する理論はグローバルワークスペース理論です。それについて教えてください。
アイデアは、同時に働いている並列プロセスの集合体として認知アーキテクチャを考えることです。直感的には、これらは記憶に関するプロセスかもしれません。例えば、ロビーを歩いて、特定の手がかり、椅子が並んでいるのを見たり、受付を見たりすると、それが様々な記憶を引き起こします。
私の脳の中では、ホテルにいること、このような椅子、受付などを見ることと関連する様々な小さなプロセスが走っています。それから人を通り過ぎると、それが誰かを思い出させるかもしれません。
そのような種類のプロセスが同時に進行しています。これらのプロセスは無意識的に並列で進行していますが、その中のいくつかは現在の状況にとって本当に重要になり、これらの重要なプロセスがいわば注意メカニズムを乗っ取ります。
彼らが言うべきこと、彼らが扱っている情報は、脳全体に放送されます。それがグローバルワークスペースです。彼らはグローバルワークスペースに貢献しており、中心的な比喩はブロードキャストです。小さなプロセス内でローカルに行われている処理と、より広くブロードキャストを通じて行われている処理の間に区別があります。
非常に単純にするために、記憶、感情、食欲という三つの並列プロセスがあるとしましょう。あらゆる瞬間、これらの三つのプロセスはどれが最も重要なことを持っているかを競い合い、そのプロセスが他の部分にブロードキャストされます。それが意識的経験の内容です。これが大まかな主張ですね？
大まかにはそうですが、私はプロセスをもっと小さなものに分解したいと思います。記憶の側面について言えば、例えばホテルのロビーを歩いて、左側に受付があり、右側にバーがあり、前方にエレベーターがあるとします。
私の記憶の中では、バーに関連する小さなプロセスの集合体が活性化し、「飲み物を飲みに行こう」と言っているかもしれません。また、ホテルの受付に関連するプロセスの集合体があり、「チェックインしよう。荷物をそこに持って行こう」と考えています。そして、エレベーターに乗って3階に行くことに関連するプロセスの集合体、さらにジョナサンに会わなければならないという遅れの問題も考えています。
「ジョナサンに会う必要がある」というプロセスは、「エレベーターに向かう」プロセスと協力し、それらが一緒に脳全体にブロードキャストされ、「バーに行ってドリンクを飲む」という衝動や受付やバーに関する知覚的なビットを抑制します。
つまり、いくつかのものが抑制され、いくつかのものが活性化し、それらが結合して脳全体に影響を与えるアクティブな連合体を形成します。この理論による意識の説明は、競争に勝ち、システム全体にブロードキャストされるプロセスの連合体です。その通りです。
あなたは「内部シミュレーションとグローバルワークスペースを組み合わせた認知アーキテクチャ」という論文を書き、グローバルワークスペースを模倣するためのコンピュータアーキテクチャ、特にロボティクスアーキテクチャを提示しました。異なる競合するプロセスがあり、最も重要なものがブロードキャストされます。
私たちのヴィトゲンシュタインの会話から、この種のものが何らかの意味で意識的であるとも言いたいですか？人間の意識の認知アーキテクチャを機械で模倣すれば、それも意識的になりますか？
いいえ、なぜなら生物学的意識のためのグローバルワークスペース理論を受け入れたとしても、それは必要条件であって十分条件ではないからです。その説明に合致する何かを持つだけでは、私たちが同じ意識的な生物として扱うような複雑な行動や内部活動を維持するには十分ではありません。
そのような方法で何かを構築することで、非常に洗練された行動を示すものを構築することができるかもしれません。それがそのための鍵かもしれませんが。
私はこれをヴィトゲンシュタインの会話と結びつけようとしています。ヴィトゲンシュタインは意識を調査するための基盤を整え、LLMが意識的かどうかを経験的に調査することができます。あなたは現在の意識がどのように維持されているかを調べました。それがグローバルワークスペース理論です。そしてこれは必要条件かもしれないが十分条件ではないと言っています。しかしこの研究の軌跡に期待していますね？
これはすべて「イージー」問題についてです。意識の心理学的、行動的、認知的側面を説明しようとしています。AI意識の問題に答える緊急性が高まっていることを考えると、グローバルワークスペース理論と並んで探求すべき他の経験的方法は何だと思いますか？
行動は本当に重要だと思います。意識について議論するとき、人々はそれをある種の非具現化されたものとして考える傾向があり、これも二元論的思考の別の側面だと思います。
グローバルワークスペース理論の場合、このような認知アーキテクチャを持つことでどのような洗練された行動が支えられるのでしょうか？なぜこの認知アーキテクチャが興味深いのでしょうか？それは大規模な並列計算のリソースを調整する方法だからです。特に生物学的ウェットウェアの場合、解剖学的に分散しており、配線などに様々な課題があります。それはAIの場合、コンピュータには関連しないかもしれません。
「具現化」はあなたの本のタイトルの重要な用語の一つですね。具現化と行動は、グローバルワークスペースアーキテクチャに加えてもう一つの必要条件であるように見えます。
これはすべて、私たちがいつ意識の言語を使用したいかについてです。生物学的なケースだけを考えても、この種の本当に洗練された豊かな行動を示すものに対して意識の言語を使用する場合があるかもしれません。
それを調べると、このグローバルワークスペースアーキテクチャが実装されていることが、その重要な部分であることがわかります。ここでもう一つ重要な言葉は統合です。グローバルワークスペースアーキテクチャが促進するのは統合です。脳の完全なリソースを現在の状況に導入することができます。
LLMを考えると、具現化の前提条件についてどう考えますか？LLMは非具現化されているように見えます。単に多くのテキストとその他の情報を取り込んでいるだけですが、多くの知性を示しているように見えます。
確かにそうです。では、知性について話すのか、意識について話すのかを明確にしましょう。それは素晴らしい区別です。具現化は知性と意識のどちらの前提条件だと思いますか？それぞれ別々に扱いましょう。
現代の大規模言語モデルに「知性」という言葉を適用することは意味がありますか？私はそうだと思います。チューリングテストのポイントですね？確かにそうです。彼らはある種のチューリングテストに合格します。だから彼らがある種の知性を持っていると言うのは自然だと思います。
別の言葉として「理解」を取り上げましょう。これは議論の的です。人々は「彼らは本当の理解を持っていない」などと書いています。しかし、私たちが「理解」という言葉を適用せざるを得ない状況が多くあると思います。
例えば、「すべてのラテ項目をこの形式に変換したい」と言うとします。変換したいものを与えると、それを行い、ほぼ正確ですが、私が好きなよりも多くのカンマやスペースを挿入していることに気づきます。そこで「インデントは2つのスペースだけにしたい」と言うと、「わかりました、2つのスペースでインデントしたものです」と返答します。
この場合、「理解」という言葉を使わないわけにはいきません。最初の指示を理解し、完全には理解していなかったかもしれませんが、おそらく曖昧だったのでしょう。それから私が訂正すると、その訂正を理解し、正しく修正しました。なぜこのような状況で「理解」という言葉を使わないのでしょうか？
あなたが提示したヴィトゲンシュタイン的立場に対して、別の反論を提示できるかもしれません。認知アーキテクチャを観察し理解するというこのアイデアをさらに押し進めることによってです。
ここにシリコンだけで作られた私のロボットの双子がいると想像しましょう。見た目は全く同じで、グローバルワークスペースのセットアップがあり、同じシナリオでの彼の行動は私の行動と一対一で同じです。意識の生物学的前提条件をさらに解明し、それがすべて彼のシリコンアーキテクチャで模倣されているとしましょう。
そこで質問は、彼は意識的かどうか、彼が意識的だと考えるのは合理的かどうかです。彼をつつくと、私と全く同じ反応をし、笑い、叫び、少女のように叫びます。答えは何でしょうか？これは経験的な部分が…
あなたはどこに向かっているのかわかりますね。「はい」と言うつもりだと思いますね？いいえ、私は「そのものをどのように扱うようになるのか、社会や共同体としてどのように話すようになるのか」という質問であなたの質問を置き換えたいと思います。
しかし、コンセンサス基準と経験的基準という二つの基準があったことを思い出してください。これらは相互に関連していることは知っています。私はそれを訂正しました。コンセンサスは行動と内部の仕組みに基づいています。
私たちがそれをどう扱うかは、科学者たちが「これは内部でこのように機能しています。これはただルックアップテーブルを使っているだけです」と言うことに非常に影響されるかもしれません。そうすれば私たちはそれを扱わないでしょう。それがコンセンサスになるかもしれません。またはそうならないかもしれません。わかりません。物事がどのように展開するか待って見る必要があります。想像するのは非常に難しいです。
通常の言語で、私が「これは意識的だ、これは意識的ではない、私は意識的だ、彼は意識的だ」と言うことに慣れているのと同じように、通常の言語では事実の問題があります。
この特定の例に関しては、もちろん「事実の問題はあるのか？」という質問には答えません。これらのものが30年間私たちの中にあり、私たちがそれらについて話す方法、扱う方法、相互作用する方法に全員が落ち着いたとき、その共同体の中の私のような誰かに「双子に関する事実の問題はあるのか」と尋ねるかもしれません。それに対して彼らは「なぜ『事実の問題』というその奇妙なフレーズを加えるのかわかりませんが、もちろんそれは意識的だ」または「意識的ではない」と言うでしょう。わかりません。
このように考えてみましょう。社会が私か私のロボットの双子のどちらを傷つけるかを決定しているとします。私たち二人が食べるのに十分な食料は一人分しかないとします。意識のないゴミ箱であれば、それに食料を与えるよりジョナサンに与える方が道徳的に正しいでしょう。そこに正しいか間違いかの道徳的判断がありますね？おそらく私のデジタルツインやロボットの双子が苦しむことができるかどうかによります。
道徳的な正しさや間違いは意識の問題に依存しているようです。そこにも正しいか間違いかがありますね？そうですね、社会は間違うこともあります。社会は100％間違うことがあります。しかしそれ自体が難しい領域に入っています。
これらの状況から抜け出す方法がありますが、それは固有の緊張があり、私たちは常に緊張の地点に導かれ、その緊張をどう破るかが問題です。私の本には「真実は単なる言語ゲーム以上のものだと言うことは、真実の言語ゲームに固有のことであり、そこでこの問題を休ませなければならない」という文があります。
ヨーロッパ人がアメリカを最初に発見したとき、ネイティブアメリカンが本当の人間かどうかについて大きな議論がありました。答えはイエスです。彼らは本当の人間です。彼らは苦しむことができます。私は自分が住んでいる社会から逃れて、彼らを意識的で苦しむことができる存在と考えないようにすることはできないと思います。
一つの社会や一つの政党や一つのコミュニティが私のデジタルツインを私と同じように扱い、道徳的地位を持つとします。別のコミュニティは彼を完全にゴミ箱のように扱います。哲学者が「誰かが間違っているのか、誰かが正しいのか」についてさらに言えることは何もないのでしょうか？
私たちはこれらのコミュニティを調和させようとしなければなりません。または調和させることができないかもしれません。わかりません。この状況ではどのコミュニティに私を置いていますか？
私の質問への答えは、あなたがどこに私を置くかによって変わります。もし私が私たちが平等な道徳的地位を持つと考えるキャンプにいるとしたら、そのキャンプにいても、私たちは正しくないと思うでしょう。
ヨーロッパの議論に戻ると、ネイティブアメリカンについては、今日の私はそこから外に立つことはできません。ネイティブアメリカンが人間ではないと考えることは、道徳的に全く忌まわしいことだと思います。なぜなら間違っているからです。なぜなら彼らはそうだからです。
これはもっと深い質問になっていますが、あなたは仏教にも惹かれています。そこでの思いやりの道徳的問題は、それが慣習的真理の問題なのか、絶対的真理の問題なのかと思います。
ネイティブアメリカンの例と私が設定した思考実験の違いは、ネイティブアメリカンの場合、それは彼らが人間であることを事実誤認に基づいていることだと思います。それは事実の誤りです。これは慣習の問題なのか、あるいは究極の現実の問題なのですか？
私の仏教的訓練では、もちろん「慣習」と言わざるを得ませんね。公平ですね。あなたはそこで立ち往生しています。私もそうです。道徳的に全く忌まわしいと思うことから抜け出すのは非常に難しいです。もちろん、私が答えを知らない道徳的ジレンマを考え出すことはできます。
最後に、脳とコンピュータが基づいているハードウェアまたはウェットウェアについて質問します。あなたの「具現化」の本からの別の引用です。
「数学的考察が脳と従来のコンピュータを区別します。コンピュータの瞬時の状態の完全な説明は、バイナリまたは自然数の有限集合を用いて可能です。ニューロンの膜電位は、ニューロンの行動を予測するのに関連する連続的な量であり、その正確な値が関係します。関連するポイントは、コンピュータの状態全体が、コンピュータの中央クロックが刻むときにのみ次の状態に進むため、その内部イベントはすべて兵士の列のように時間に整列することです。しかし、ニューロンの発火などの脳内のイベントは、このような秩序正しい方法で時間を刻みません。電気的スパイクはニューロンからいつでも放出される可能性があり、時間はもちろん別の連続変数です。数学的観点からは、この特性だけでも脳のダイナミクスをチューリング計算可能な関数のクラスを超えるに十分かもしれません。」
脳はニューロンの発火自体においても、時間的にも非同期か同期かという連続体で動作しています。これは理論的に人間の脳が、どのタイプのチューリングマシンも超える知的能力を持っている可能性があることを意味しますか？
これは確かに数学的かつ理論的に、チューリング計算可能な関数のクラスの外にある計算のクラスに含まれる可能性があることを意味します。それは数学的事実です。しかし一方で、チューリング計算は連続的なシステムを任意の忠実度で模倣できることも知っています。数字により多くの小数点を与えるだけです。
無限の小数点を与えることはできませんが、常に小数点をさらに追加することはできます。そのため、任意の物理的プロセスを任意の忠実度で模倣することができます。数学的には異なったままですが、機能的にはそれは問題になるのでしょうか？それが本当にあなたが尋ねていることです。私は知りません。おそらくそうではないと思います。
これを任意の程度まで模倣できるため、コンピュータでできることにこの数学的事実による障壁はないと考えます。
あなたの「具現化」の本では、私たちが模倣していない脳のアーキテクチャの様々なタイプを説明しています。基本的に、現在のLLMのトランスフォーマーアーキテクチャ、生成的大規模言語モデルで行っていることは、ニューロン、ニューラルネットのアーキテクチャを取り、それを途方もなく拡大することです。なぜ脳のこの部分だけを模倣し、他のすべての機能を模倣しないことで、脳全体を必要とする人間の行動の多くを複製できたのでしょうか？
まず、今日の人工ニューラルネットワークは脳とは実際に非常に異なっています。人工ニューロンは実際のニューロンとはほとんど似ていません。これは非常に重要な注意点です。そして起こる学習の種類は、実際の脳で起こる学習の種類とは非常に異なります。
そのため、質問はさらに興味深いものになります。なぜ非常に異なるこの基盤を使用して、知性の驚くべき模倣を作り出すことができたのでしょうか？興味深いのは、私たちは本当にわからないということです。
15年前に私がその本を書いたときに、どこに行くか尋ねられていたら、予想しなかったような奇妙な立場に私たちは到達しました。私たちは物事を構築していますが、非常に大量のトレーニングデータでトレーニングし、非常に大きなニューロンの集合体、非常に大きなネットワークを持ち、それらのネットワークのすべての重みがトレーニングの結果として変化し、まるで魔法のようにこの驚くべき機能を獲得しますが、知性がある限りにおいて、その知性を説明できるレベルで彼らがどのように機能するかを本当に理解していません。
この質問を少し異なる方法で尋ねることができるかもしれません。「悟りは特異点の前に」の質問のように、人間の知性について何を教えてくれるでしょうか？長い間、AIの支配的なパラダイムは象徴的AIでした。これは宣言的な論理的命題を与え、それらが様々な方法で連鎖して問題を解決するというものです。
しかし、代わりに機能したのは、ニューラルネットの粗い模倣にすぎない（あなたの指摘通り）、これらのブラックボックスです。それは象徴的AIが全く届かない行動を生み出すことができます。これは人間の意識について学べることがあるでしょうか？ストア派は人間の本性に関して極めて知性主義的な見方をしています。人間の本性の背後には、私たちが同意している一連の命題的声明があります。それが人間の機械を動かしていると彼らは考えています。
しかしおそらくそうではないのかもしれません。おそらく私たちの基礎にあるのは、はるかに複雑な生物学的アーキテクチャであり、論理的声明はその表面的な表れにすぎないのではないでしょうか？
その通りです。端的に言えば、人間レベルの認知は「スパゲッティのような混沌」の上に実装されていると結論づけることができるでしょう。直感的に考えるような種類の構造を持っていません。それは混沌としています。
AIの研究者としての私自身の知的軌跡においては、理解可能な方法で物事を構築したいという考えから徐々に後退してきました。アーキテクチャが根本的に理解可能であるような方法で。
あなたは長い間、象徴的な側にいたのですね？かなりの年数です。非常に長い前に私もそれを放棄しました。しかし興味深いのは、その後機械学習とニューラルネットワークで作業をしていたときも、私は長い間、それでも象徴的な構造を持つようなニューラル表現を学習することに取り組んでいました。
言語のような構成的構造を持つべきだという考えに固執していました。それらは学習され、ニューラル基盤上で実現されるでしょうが、それでも重要なレベルでは、オブジェクト、述語、命題などの言語のような構成的構造とトポグラフィーを持たなければならないと考えていました。
しかしその立場からもますます後退せざるを得ませんでした。次に「アーキテクチャにその構造を強制するのをやめよう」と考えるでしょう。私たちはすでに古風なAI、象徴的AIからはるか遠くに来ていますが、私はまだニューラル基盤内で学習される表現が象徴的な構造を持つように強制しようとしていました。
それも機能しないとわかりました。では「すべて出現させよう」と考えるかもしれません。この完全なブラックボックスを持ち、それがすべて現れるようにします。しかし確実に見てみるとそこに構造があると思うでしょうが、それさえも当てはまらないようです。
これらをトレーニングしてみると、メカニズム的解釈可能性という内部で何が起こっているかを理解しようとする分野全体がありますが、それも混沌です。内部を見続けても混沌としているのです。もちろん彼らは多くの進展を遂げ、抽出できるものはありますが、それらは言語のような命題表現などの認知を理解するために持っていた直感的なカテゴリーには見えません。
ある意味であなたの人生全体が一連の「後退」だったのですね。コンピュータサイエンスの側面だけでなく、哲学的側面でも同様です。
哲学的側面についてはわかりません。あなたはヴィトゲンシュタインの立場に、二元論者からの後退ではないのですか？私はまだ二元論的立場から脱却していませんが、どこに行く必要があるかはわかっています。
私が言いたいのは、形而上学的側面で、この分野に興味を持つ子供として成長する過程で、「本質があるに違いない、それは原子なのか、物質なのか」と考えます。それから両方とも、ヴィトゲンシュタインに向かうことと象徴的AIから離れることは、成熟した方法で制御を放棄することのようなものです。
哲学に関しては少し違うと思います。哲学では私は行きたいところに到達していませんが、ずっと前から行くべき場所はわかっていました。それは仏教とヴィトゲンシュタインです。あなたもこれらの問題について深く考えてきましたね。
あなたは容易にこれらの二元論的思考を呼び起こすことができます。それで少し違います。哲学では目的地はわかっていましたが、まだそこには到達していません。AIの構築と認知の理解については、本当に一連の後退でした。しかしそれは進歩です。
リッチ・サットンはこれを「苦い教訓」と有名に描写しました。彼の「苦い教訓」という論文では、私たちが理解できるものを構築したいと考え、それが興奮させるものだと何年もの間考えてきたと述べています。理解することによって私たちは構築することができると考えていました。
しかし実際には、それをすべて手放し、学習、スケーリング、検索、そして多くの計算を使用することが重要だと認識する必要がありました。トレーニングデータをスケールアップし、計算をスケールアップし、検索をスケールアップする。これらが機能するのは、「規模を拡大した無思考なもの」なのです。
なぜ「苦い教訓」なのでしょうか？知的には何かフラストレーションがあるからです。私たちはそれが美しいトポグラフィー、プラトン的形態であってほしいと思いました。
AIの研究者として、哲学者としてのあなたの知的な仕事、AIは多くの知的作業に取って代わるでしょうか？すでに私自身の仕事でも拡張されていますが、あなたが今行っている知的作業の多くをAIが置き換えると思いますか？
哲学に関しては、それを置き換える意味がありません。なぜならあなた自身がそれを行う必要があるからです。それはロボットに走行トラックを走らせるようなものです。それは文字通り無意味です。
同様の答えは創造的なコンテキストでのAIの使用にも当てはめることができます。重要なのは生産ではなく、修養です。もちろん、一部の人々にとっては生産も重要な部分です。彼らはそれで生計を立てているからです。
これは哲学の教授やクリエイティブ産業で働く人々にとって本当に重要な問題です。しかし、自分の満足のために家で芸術プロジェクトをしている場合、AIにそれをするようプロンプトを与えるつもりはありません。なぜなら私がそれを作りたいからです。それが重要なのです。
同様に、私の代わりにロボットにトラックを走らせたくはありません。同様に、私の代わりにAIに哲学をさせることはできません。なぜならそれは私に洞察を与えないからです。しかしこれらすべての場合において、ツールとして使用し、加速することはできます。
AIの研究についてはどうでしょうか？それは哲学と比べて生産に関するものだと想像します。それは確かにそうです。AIの研究は多くのものと同様に、AIによって拡張され強化されるでしょう。もちろん、それだけでなく置き換えの可能性もあります。確かにそうです。そこからどこに行くのかわかりません。
もしあなたに子供がいるとしたら、現在彼らの教育についてどう考えますか？どんなスキルや能力を身につけさせたいですか？
素晴らしい質問です。私たちは人々に「いかによく生きるか」を教育する必要があると思います。哲学ですね。ええ、おそらく私たちがここで話してきたような哲学ではないかもしれませんが、「良い人生とは何か」という異なる哲学的問題です。
数年前に読んだジョン・メイナード・ケインズの「私たちの孫たちのための経済的可能性」という1930年に書かれた論文を思い出します。そこで彼は潜在的にユートピア的な豊かさの未来を想像し、経済的課題が克服され、人々が余暇の生活を送ることができるとしています。
しかし彼は「では私たちは何をするのか？意味のある側面が奪われたような状況で、良い人生を送るとはどういうことか？」という問いを投げかけています。これらは非常に良い質問です。私は個人的にこれらの答えを持っていません。
素晴らしいインタビューをありがとうございました、教授。これは素晴らしかったです。私も非常に楽しみました。ありがとうございます。
インタビューをご覧いただきありがとうございます。こうした議論が好きな方は、私たちがCOSMOSで構築しているエコシステムに適しているでしょう。私たちは研究資金を提供し、AIスタートアップを立ち上げ投資しており、哲学がテクノロジー構築に不可欠だと考えています。私たちの哲学者ビルダーのエコシステムに参加したい方は、求人情報、開催するイベント、その他の参加方法をjonathanb.com/cosmosで見つけることができます。ありがとうございます。
コメント