28,466 文字
これらのシステムは、このような機械がうまくできるとは誰も思っていなかったような特定の種類のことに非常に優れています。ある種の独創性や創造性、スタイルにも優れています。例えばGPT-3でさえ、ダニエル・デネットの著作で訓練すると、デネットの研究をよく知る人々でさえ、同じ質問に対する実際のデネットの回答と区別するのに苦労するような段落や回答を書くことができました。
私の学部の授業で数日前、GPT-4oの有料版に4桁の掛け算の問題を与えたところ間違えてしまいました。ルールや表現を扱うことができないのです。
学部時代、私の大好きな授業は心の哲学で、その授業で最も気に入った論文はあなたの「心理主義と行動主義」でした。そこから話を始めたいと思いますが、その前に、それが私の心の哲学への入り口だったので、あなたはどのように心の哲学に興味を持ったのか聞かせてください。
ええと、私は1960年にMITで工学を学び始めました。初日に、有名な現象学と実存主義の哲学者ヒューバート・ドレイファスが教える必修の人文科学の授業に出席しました。彼はとても魅力的な教師で、それまで哲学に興味がなかった私を惹きつけました。私は電気工学者になるつもりでした。
本当に、あなたは装置にとても興味があるようですね。
そうです、私は装置を作りましたし、テレビの修理工としても働いていました。高校生の時からそういうものが好きだったんです。
とにかく、彼が私に哲学への興味を持たせてくれました。そして2年目に、ヒラリー・パトナムがMITに着任しました。すごいことでしたね。私は彼の授業を履修し、それ以降毎学期1つ以上の授業を取りました。彼は素晴らしかった。私は現象学と実存主義への興味は失いましたが、彼の主要な関心の一つが心の哲学と心と機械の関係だったので、そこから興味を持つようになったのです。
当時、ジョン・ロールズからも2つの入門哲学の授業を取りました。誰も受けたことがないような最高の哲学教育を受けたと思います。今、私の大好きな哲学者の一人で、私の大好きな論文を書いた人と一緒に座っているということに気づいて、思わず笑ってしまいました。
でも、ヒラリーの話が出たので言いますが、今日早くにバリー・ラワーと話したんです。より教育的な視点に焦点を当てた科学哲学についてのエピソードでしたが、自然とヒラリー・パトナムの話題が多く出てきました。
そうですね、彼は面白い話を聞かせてくれました。誰も知らないことですが、彼がヒラリーをボストン湾に連れ出した時、ヒラリーが船から落ちて溺れそうになったのを、バリーが引き上げて助けたということです。
私が学部生だった1962年から64年当時、彼はアイデアの戦士でした。がさつな子供のようで、何の見せかけもなく、あらゆることに興味を持ち、すべてについて言いたいことがたくさんありました。本当に素晴らしい存在でした。
その後、私は2年間オックスフォードで過ごし、戻ってきて彼を博士課程の指導教官として学びましたが、彼は変わっていました。突然パイプを吸い始め、教授らしい服装をするようになり、自分を歴史的人物として見るようになっていました。講義は読み上げるようになり、学部生の頃ほど刺激的ではなくなっていました。
あの頃は本当に黄金期でしたね。ロールズも学部生の教師としては素晴らしかったことを付け加えておきます。私の哲学入門1と2を教えてくれました。当時は正義論という彼の主著が出る前で、当時彼が書いた論文は4本だけでした。
彼は何かを擁護するというよりも、すべてに対してオープンでした。後に彼はより防衛的になったと思います。そして私の最終学年には、MITに客員として来ていたフィリッパ・フットから授業を受けました。彼女はヴィトゲンシュタイン対ロックについての授業を教えました。彼女はヴィトゲンシュタインの強い支持者でしたが、私はロックの強い支持者であることに気づきました。
反転スペクトルのような問題が出てきましたが、それは私たちが両方とも赤と呼ぶものが、あなたには私たちが両方とも緑と呼ぶものに見えるという考えです。私はそれが理にかなっていると長い間考えていましたが、彼女はそれが意味をなさないと考えました。その授業で私の心の哲学者としてのアイデンティティが形成されたと思います。
パトナムの特に重要だと思われる貢献はありますか？
そうですね、彼は機能主義として知られる見方を定式化し、主張しました。それは精神状態のアイデンティティを、感覚装置における原因、行動への影響、そして最も重要なことには他の精神状態への影響と原因の観点から考えるべきだというものです。
彼は初期の論文でこれらの機能的状態を論理的状態と呼び、それらが精神状態とは異なるものだと主張しました。後に彼はそれが間違いだと気づき、それらが同じものだと主張するようになりました。それは非常に影響力のある見方となっています。
私が気になっていたことの一つですが、もう少し背景を加えさせてください。私の本当に親しい友人の一人で、NYUのジャレッド・ウォーレン – あなたも知っていると思いますが – について話していました。私は彼のことを素晴らしい哲学者だと描写してきましたが、実際にそうなんです。ただし彼はインタビューをあまり好まない、とても私的な人物です。
私もインタビューはほとんどしませんよ。
そうですね、今回は幸運です。私は彼に、あなたと同僚のデイビッド・チャーマーズと合同インタビューをすることについてどう思うか尋ねました。ジャレッドが言うには、あなた方は両方とも素晴らしい哲学者で、心の哲学を研究していますが、方法論や態度が非常に異なるので、それは興味深い会話になるだろうということでした。
もちろん、そういう機会があればいいですね。
ただ私が聞きたかったのは、なぜあなたがそのような科学的なアプローチ、神経科学や他の認知科学に焦点を当てたアプローチを心の哲学に対して取ることになったのかということです。他のアプローチもあるのに。
そうですね、私は意識に関しては科学が正しいアプローチだと思います。意識について我々が知っていることはすべて脳に関係しています。心理学やAIからはほとんど情報が得られていません。
しかし、思考や推論に関しては、最近のAI、特にある種の自動補完を行う大規模言語モデルから多くのことを学びました。これらのシステムは、このような機械がうまくできるとは誰も思っていなかったような特定の種類のことに非常に優れています。ある種の独創性や創造性、スタイルにも優れています。
例えば、GPT-3でさえダニエル・デネットの著作で訓練すると、デネットの研究をよく知る人々でさえ、同じ質問に対する実際のデネットの回答と区別するのに苦労するような段落や回答を書くことができました。
ニューヨーカー誌に掲載された詩があります。誰かがフィリップ・レヴィンの詩でAIを訓練し、暗号通貨についてフィリップ・レヴィンの詩を書くように指示したのですが、それは驚くべきものでした。
このように、彼らは特定のことはできますが、同時に4桁の掛け算はできません。数日前の学部の授業で、GPT-4oのChat GPTの有料版に4桁の掛け算の問題を与えたところ間違えてしまいました。ルールや表現を扱うことができないのです。
21世紀の大きな発見の一つは、私たちが予想もしなかったように、心のある側面がこのようなニューラルネットのアプローチに、標準的なデジタルコンピュータと関連付けられる種類の推論よりもはるかに適していることです。
数ヶ月前、脳卒中を起こす前にノーム・チョムスキーにインタビューしました。実は興味深い話です。他のポッドキャストでも話したかもしれませんが、3月に彼と話しました。その時は素晴らしかったです。当時、私はアパートでインタビューをしていて、この環境はありませんでした。
明らかに私が今までで最も興奮したエピソードでしたが、私の猫が自分が主役にならなければならないと決めたエピソードでもありました。猫は部屋中を走り回り、私を困らせました。でも、そのインタビューで彼は、大規模言語モデルは人間の心や言語学習とはまったく異なる方法で機能するため、それらから何も学ぶことはできないと言いました。
彼は不可能な言語について言及しました。それが一つの話題でしたが、これはニューヨーク・タイムズの記事が出た頃だと思います。チョムスキーのその主張についてどう思われますか？
まず、私は彼をよく知っていました。MITで25年間教えていて、私のオフィスは彼の向かいでした。彼は本当に素晴らしい人物です。
しかし、彼はこれらのAIモデルがいかに重要かということを理解していないと思います。言語についてどれだけのことを教えてくれるかはわかりません。有名なAIの人々は「言語学者を一人クビにするたびに、モデルは良くなる」と言っています。
しかし、人間の思考について、心のどの側面がこの種の自動補完的なアプローチに適しているのかについて、多くのことを教えてくれています。それは非常に重要な発見です。
ちなみに、私は数年間AIのディスカッショングループに参加していましたが、多くのAIの専門家がいました。GPT-3でこれらのモデルが本当に優れ始めた時、彼らは皆、その優秀さに完全に驚いていました。業界の誰もこれほど優れたものになるとは予想していませんでした。
私はChat GPTが自然に話題に上がってきて嬉しいです。なぜなら、これから話そうとしている心理主義と行動主義、そして知能の問題に確実に関係があるからです。
まず、聴衆に対して多くの背景知識を前提としないようにしたいと思います。できるだけ具体的にしたいと思います。チューリングテストとは何で、どのように機能し、何を示そうとするものなのですか？
チューリングテストは、1950年に数学者であり、ある意味では哲学者でもあるチューリング、A.M.チューリングが有名な論文「Mind」で定式化したアイデアです。これは哲学の雑誌ですね。
彼は、審査員と、一つの部屋に人間、別の部屋に機械がいて、当時のインターフェースであったテレタイプを通じて通信するというテストを提案しました。テストに合格するのは、人間の審査員が機械と人間の被験者を区別できない場合とされました。
人々はすぐにこれが馬鹿げたテストだと気づきました。チューリング自身も…しかし、まだそれほど話題になっているのはなぜですか？
それはみんながテストを欲しがるからです。知能のためのテストをみんなが欲しがっています。ちなみに、彼が意味する知能は思考のことでした。論文のタイトルには「知能」という言葉がありますが、本文では一度しか使用されていません。彼は実際には思考と推論について話しているのです。
彼は論文の中で、知的な機械がテストに失敗する可能性があることを認めています。なぜなら、審査員が機械と人間を区別するのに十分な知識を持っているかもしれないからです。例えば、機械が速すぎたりする可能性があります。
そして彼は、その思考という意味での知能にとって、テストに合格することが十分条件だと考えていました。しかし、私たちはすぐに、単純なシステムでも素人を簡単に騙せることがわかりました。
ヒュー・ローブナーという変わった人が資金提供したチューリングテストに、私は実際に参加しました。最初は審判として、その後は何度も審査員として参加しました。私たちは最初のインタビューで、タイプはできるが機械については何も知らない人を募集するために新聞広告を出しました。
そして素人の人々を集めて、ELIZAプログラム – 入力されたものを少し変えて返すだけの、他のいくつかのトリックを含む100行程度のBASICの非常に単純なプログラム – で遊んでもらいました。これらの人々は人間と話していると思い込んでいました。何も知らない人間は、心を持たない機械に簡単に騙されてしまうのです。
今ではもちろんChat GPTがあり、人々を簡単に騙すことができます。素人は自分が人間と話していると気づきません。
ELIZAプログラムを書いたジョセフ・ワイゼンバウムは、彼の同僚の一人でさえELIZAプログラムに騙されたと述べています。当時、彼らはタイムシェアリングを使っていて、メインフレームを使用していました。ジョーはメインフレーム上でELIZAを動かし、オフィスで昼寝をしていました。
すると彼の同僚の一人であるMITのコンピュータサイエンスの教授が、「マシンから降りてくれ、私が必要だ」というメッセージを送ってきました。するとELIZAプログラムが「なぜ私にマシンから降りてほしいのですか？」「なぜあなたはそれが必要なのですか？」などと答えたのです。その同僚は激怒してジョーのオフィスに押しかけ、実際にはコンピュータと会話していたことを知って驚いたのです。
私の話を遮ってもらって構いません。私が言おうとしていることをご存知でしたら、きっとあなたの方がその話をより上手く語れるでしょう。ダン・デネット – 既に名前は出ましたが – 私は実は彼の最後のインタビューの一つを行う幸運に恵まれました。200回目のエピソードで、彼とスティーブン・ピンカー、ショーン・キャロルとの合同インタビューでした。本当に素晴らしいものでした。
彼の本の一つから得た話だと思いますが、人々を騙したこれらの初期のプログラムの一つについての話です。それは精神科医をモデル化することを意図したプログラムでした。
ああ、その話を知っていますか？
はい、知っています。最初のチューリングテストで、ある男がワイゼンバウムのプログラムを使って、タイプミスやナンセンスを吐き出す気の狂った人を演じることで、人々を非常に効果的に騙したという話です。それは元のワイゼンバウムのプログラムよりもさらに説得力がありました。
では、私が話そうとしていた話を終わらせましょう。それは…パリー、確か…
HIです。
私が話そうとしていたのは、秘書がこのプログラムを見つけて…
ああ、それはワイゼンバウム、ELIZAプログラムの話ですね。彼の秘書が部屋を出るように頼んで…
そうです。そして面白いのは、そのプログラムがどのように機能したかということです。行き詰まったり何かすると、「これはあなたのお父さんのことを思い出させませんか？」と言うだけでした。
人々がプログラムと会話していると、父親、母親、愛、憎しみなどのキーワードを保存していました。そして何を言えばいいかわからなくなると、その人が以前に使ったキーワードを使って「あなたのお父さんについてもっと教えてください」などと返すのです。
それはとても面白いですね。約束通り、すぐに本題に戻りますが、デネットが話題に上がり、既にパトナムとチョムスキーについても話したので、デネットについて何か思い出があれば聞かせていただけますか？
現在スタンフォードにいるロサ・カオが、あなたと彼の共通の学生だったと思います。
そうですね、彼女は素晴らしい哲学者です。
本当に素晴らしいですね。ジャレッドとも親しい友人ですよね。
そうです。私が彼女の博士課程の指導教授で、ダンは認知科学センターのポスドクの関係がありました。ジャック・ホドフと一緒にね。
私は当時MITにいたので、時々彼に会いました。でも、いつも良い経験だったわけではありません。彼には何か…エンターテイナーになりたがる傾向がありました。彼と一緒に何度も夕食を共にしましたが、いつも同じパターンでした。
彼は長い逸話を語り、とても面白い話し手でした。すると食卓の全員が静かになって聞き入り、受動的な状態になります。そして沈黙が訪れると、彼はすぐに別の話を始めるのです。会話になるはずのものを独白に変えてしまうんです。彼は少し…自己中心的でしたね。
あなたたちの心の哲学は、どこかで一致したり、大きく異なったりしましたか？私は既に予想していますが…彼は錯覚論者でしたよね？
彼はその名前を好まないんですが、これはショーンとの話でも出てきました。ショーンが「錯覚論は素晴らしい名前だ」と言い、ショーンが「いや、ひどい名前だ」と言っていました。
彼がよく言っていたように、意識は存在しないと言うか、それとも存在するが私たちが考えているものとは違うと言うかは、戦略的な決定です。これは全ての錯覚論者が直面する問題です。彼には多くの弟子がいます。キース・フランキッシュとか…
マイケル・グラツィアーノとか。二人とも番組でお話ししました。
そうですか。それは尊重に値する見方だと思います。彼はそれをとてもよく主張しました。
彼の最高の仕事は、心理学者のケン・キムボーと一緒にした時間に関する研究だと思います。私はその本のレビューを書きましたが、彼の仕事の大きな問題は、私の観点からすると、彼が非常に直感的な哲学者で、見解を打ち出しては、その解釈が複数あり得て、しかもしばしば互いに矛盾するものだったにもかかわらず、どの解釈を意図していたのかを明確にしなかったことです。
多くの専門の哲学者たちは、それは一流の哲学ではないと感じていました。しかし彼はアイデアの泉であり、哲学と認知科学の両方で素晴らしい人物であることは確かです。ある意味で偉大な人物ですが、多くの哲学者が求めるような方法ではありませんでした。
マイケル・グラツィアーノの話が出てきて良かったです。意識の注意スキーマ理論について少なくとも簡単に話したいと思っていたからです。私たちは何度か話し合いましたし、私はそれを魅力的だと感じています。実は私の人生において道徳的に重要なものなんです。それについてはまた話すかもしれません。
彼の主な研究は身体マップに関するものでした。私たちは確かに何らかの身体マップを持っています。それは筋肉制御にとって重要です。彼は同じアイデアを意識と注意に適用しようと考えました。私たちは一種の注意マップを持っているというのです。
しかし、これを支持しているのは彼と彼の学生、そして彼と一緒に研究した人々だけです。誰もこれを本物の意識理論だとは考えていません。主な理由は、注意スキーマの証拠がないからです。実際、証拠はそれに反しています。
人々は自分の目がどこを向いているのかさえ知りません。自分が何に注意を向けているのかも知りません。何年も前に、データとドゥによる論文で注意マップが作られ、私たちが一つの場所で強く、別の場所で弱い注意野を持っていることを示しました。それは非常に複雑なものです。人々は自分の注意がそのように分散していることを全く理解していません。
私は彼の見方で尊重に値する部分は錯覚論の部分だと思いますが、注意スキーマの部分については、他の領域でうまくいったアイデアを適用しようとしているだけで、意識には当てはまらないと思います。
意識には4つの主要な理論があり、注意スキーマ理論はその一つではありません。主要な理論とは、多くの人々によって支持され、一人の人物のカルトではないと論じることができる理論を指します。ITIについてはそうでないかもしれないと考える人もいますが…これらの理論には何らかの経験的な裏付けがあります。注意スキーマ理論はそのようなものではありません。
話題をあちこち飛ばしてくれてありがとうございます。心理主義と行動主義に話を戻しますが…
はい、もちろん。
しかし、今私が意識に興味を持っている個人的な道徳的な理由は、特に動物の心に関してです。なぜなら、苦しむことができると信じる動物を食べることについて、とても懸念しているからです。
これは、今日私たちの技術者や写真家たちと共有していた逸話です。今日私たちはハワイの鹿肉を食べていました。約100年前、日本の天皇がハワイの王にアクシス鹿10頭を贈り物として送ったのです。現在、それらはマウイ島や他の島々で数万頭にまで増えた侵略的な種となっています。
彼らは駆除されていて、マウイ・ネイ・ベニソンという会社が、人道的に彼らを殺して肉を販売する許可を得ました。少なくとも何かに使われているわけです。でも、これが私が食べる唯一の哺乳類です。
その理由の一つは、ジャレッド・ウォーレンが哺乳類は意識を持っていると私を説得したからです。
私もそう思います。意識について研究している人は皆そう考えていると思います。
マイケル・グラツィアーノは…しかし、彼の注意スキーマ理論によれば、魚は意識を持っていません。意識を持っているのは爬虫類、鳥類、哺乳類、そしてタコの仲間の海洋生物、おそらく一部の両生類だけです。
まず、動物の心と動物の意識についてどのようにアプローチするかお聞かせください。
これは私があまり研究していない分野ですが、魚については彼に同意します。
それは本当に嬉しいです。
その理由は、意識の研究は私たちに依存しているからです。なぜなら、私たちは意識を持っていることを知っている唯一の生き物だからです。そして私たちにおいては、それは大脳皮質に依存しています。魚は大脳皮質の前駆体のごくわずかな部分しか持っていません。大脳皮質がなければ、何かが意識を持っている可能性は本当に低いと思います。
他の…両生類やこれらの他の生き物がどの程度、鳥類が原始的な大脳皮質である「ウォール」を持っているかについては、わかりません。しかしこれはまさにマイケル・グラツィアーノが言っていたことです。魚は私たちが必要とする大脳皮質を持っていないと。
その点で彼に同意します。
タコや他の生き物についてはどう思われますか？
タコの脳は、私たちが意識を持っていることを知っているあらゆる生き物とはあまりにも異なるので、単純に分かりません。
それが彼の考えです。50-50の確率だと言っています。
私は数字は付けませんが…動物の意識の研究でよくある間違いは、知能と意識を混同することです。人々は、何らかの動物IQテストに合格できるということが、その生き物が意識を持っていることを示すと考えます。しかし、私はそれらは無関係だと思います。
では、知能の話に戻りましょう。最後の質問は…これはもう一つの私が消費している生き物の種類ですが…エビについてはどう思われますか？大脳皮質を持っていないので、意識はないということに同意されますか？
少し推測になりますが、はい。
エビを食べても大丈夫ですね。素晴らしい。
4つの主要な理論のうち3つによると…まあ、2つは確実に前頭前皮質のない生物を意識があるとは見なしません。それはグローバルワークスペース理論と高次思考理論、あるいは高次ポインター理論です。これらは主要な理論の2つです。
鳥類のように何か類似のものを持っている場合を除いて、前頭前皮質のないこれらの動物は意識があるとは見なされません。ビクター・ラメとその他の人々が提唱している一次理論は感覚皮質を必要としますが、魚はそれも持っていません。
さて、知能の話に戻りましょう。素人の審判とはどのような人なのか、そしてChat GPT 4oがチューリングテストに合格するかどうかについて、もう少しお話しいただけますか？
素人の審判とは、機械について何も知らない人のことです。最初のチューリングテストで、私たちは新聞広告を通じて一般の人々を集めました。彼らはELIZAプログラムが、内容はほとんどないにもかかわらず、彼らの言葉を単に投げ返すだけで、一見意味のある返答ができることに魅了されてしまいました。そういう人々が素人なのです。
さて、心理主義と行動主義に話を戻すと、チューリングテストはなぜ行動主義的なテストなのでしょうか？
チューリングは思考、つまり思考を持つという意味での知能という概念を、純粋に行動的なものに置き換えようとしました。行動主義の大きな問題は、精神状態を何の行動と同一視するかを定義しようとすることです。
彼は審判に決定させることでそれを解決したと考えました。しかし、審判の精神的な性質については何も言及しませんでした。つまり、審判が知識豊富すぎれば、本物の知的な機械と人間の違いが分かってしまいますし、知識が不十分であれば、愚かな機械にも騙されてしまうのです。
審判の精神的性質を特定しなかったこと – 彼は行動主義者だったのでそのアイデアを排除しようとしていたのですが – それがチューリングテストを失敗させた原因です。
つまり、Chat GPTがチューリングテストに合格するかどうかは、チューリングテスト自体が十分に定義されていないためによく分からないということですね。
チューリングテストには様々な点で不備がありました。例えば、テストの継続時間などです。しかし、決定的な不備は、審判が誰であるか、そしてその審判の精神的性質が何であるかを特定していないことです。
純粋に行動主義的なテストを作ろうとするなら、それを審判の精神的性質に依存させることはできません。しかし、先ほど述べたように、審判の精神的性質によって、テストはどちらの方向にも間違った結果を出す可能性があるのです。
私はこれを理解していませんでしたし、論文を読んでから数年経ちますが、あなたはこの論文でパトナムのスーパースパルタンについて言及していたことを思い出しました。
それでは、ブロックヘッドの話に入る前に、チューリングテストに関連してパトナムのスーパースパルタンが何を示そうとしているのか、お聞きできますか？
はい。スーパースパルタンについてですが…まず、スパルタンは痛みを感じているときにそれを隠すのが上手な人々です。グリマスなどの表情を見せません。しかし、痛みが突然襲ってきた時には、うめき声を上げたりします。
次に、彼は遺伝子工学などを使ってそれが本当に上手な人々、スーパースパルタンを想像します。さらに、痛みを感じない人のふりを完璧にできるスーパースーパースパルタンを想像します。
彼の考えは、脳イメージングなどを使って彼らの思考を解読できれば、彼らが痛みを感じていることが分かるだろうというものです。なぜなら、言語野には「ああ、私はひどい痛みを感じているけど、それを見せてはいけない」という思考があるからです。
彼のアイデアは、外部の行動に関しては、あたかも痛みを感じていないかのように完全に振る舞える存在でも、実際には痛みを感じている可能性があるということです。
彼らの思考を見ることは、情報処理の領域に私たちを導くことになるので、今はその話は控えめにしておきますが、スーパースパルタンの例がチューリングテストにとってなぜ問題となるのでしょうか？
先ほど言ったように、チューリングはチューリングテストを必要条件としては放棄しました。なぜなら、知的な機械が合格したくないと思うかもしれないし、審判が知的な機械と人間の違いを知っているかもしれないからです。機械が速すぎたり、正確すぎたりする可能性があります。
そこで彼は十分条件としてのチューリングテストに落ち着きました。スーパースーパースパルタンはこの十分条件への反例となります。彼らは痛みを感じていないかのように振る舞いますが、実際には痛みを感じているのです。
同様に、チューリングテストの候補者が知的であるかのように振る舞い、人間と区別がつかないとしても、実際には知的ではない可能性があるということです。
その通りです。それが私のブロックヘッドが示そうとしていることです。
ブロックヘッド…この非常に有名な思考実験ですが、あなたがそう名付けたわけではありませんよね？
いいえ、それはフランク・ジャクソンとブラッド・ミッチェルによって付けられた名前です。私はフランクが大好きです。
彼らのテキストで、オーストラリアの哲学者たちがそれをブロックヘッドと呼ぶようになったことを後で知りました。
では、フランクが出てきたので、彼が名付けたあなたの思考実験について詳しく聞く前に、彼の重要な思考実験について説明していただけますか？彼は今ではそれが正しいとは考えていませんが、あなたはどのように説明し、どう感じ、どこが間違っていると思いますか？
彼の思考実験は…色の現象的経験に関する物理的・機能的事実をすべて知っている色彩科学者を想像します。しかし、彼女は白黒の部屋で育てられ、黒と白以外の色を見たことがありません。体が黒か白に塗られているとか、切り傷を負って血を見ることもないと想像しなければなりません。
そして彼女が外に出ると、既に知っていたこととは異なる何か新しいことを学びます。つまり、新しい知識は物理的・機能的事実の一部ではない何かということになります。
これに対する私の…かなり標準的な反論があります。それは、彼女が学ぶのは新しい事実ではなく、既に知っていた事実を概念化する新しい方法だというものです。
彼女は特定の状況で赤の感覚が生じることを、生理学的な定義を通じて既に知っていました。彼女が学ぶのは、同じ赤の経験の現象的概念です。
彼女は新しい知識を得ますが、それは新しい事実についての知識ではありません。ちょうど誰かが水はH2Oであることを知っていて、水についての様々な事実を知っていて、そして目の前のグラスにH2Oがあると信じるようになるのと同じです。
もし彼らが既にグラスに水があることを知っていて、この同一性を使ってグラスにH2Oがあると結論付けるなら、それは古い事実についての新しい知識となります。彼らは既にグラスに水があることを知っていましたが、今はグラスにH2Oがあることを知ったのです。
私はあなたの思考実験と比較してみたいと思います。まだ説明していませんが、あなたの思考実験の素晴らしい点の一つは、私たちの直感を極端な場所に押しやらないことです。理解して取り組むのが容易な思考実験です。
デネットは、彼の本『Sweet Dreams』か『Intuition Pumps』で – 私たちのポッドキャストのインタビューの一つでも – Swamp Manのケースについて、直感を極限まで押しやる思考実験は信頼できないと言っています。
さらに、思考実験のすべてのダイヤルを回して確認する必要があると言います。この思考実験に対する彼の反応の一つは、メアリーが色について知り得るすべてを知っているということを認めるとき、私たちはそれが何を意味するのか本当には理解できないというものです。
私はそれにまったく同意しません。いいえ、彼女は科学が教えてくれるすべてを学ぶことができますが、それでも色の現象的概念は持てないでしょう。彼のその反論は的外れだと思います。
私は彼のブロックヘッドへの反応を知っています。なぜなら私が彼に話したからです。私たちは長い議論を交わしました。彼は、知能を行動的傾向の観点から定義すべきではないということを認めました。
彼は、指数関数的な探索の拡大を必要としない行動的傾向の観点から定義すべきだと言いました。つまり彼は、ブロックヘッドが示そうとしていることである、内部的な要件が必要だということを認めたのです。
では、これ以上先延ばしにせずに、ブロックヘッドとは何か、その思考実験はどのように進むのか教えていただけますか？
おそらく、三目並べから始めるのがいいでしょう。三目並べは次のような意味で完全に解くことができます。
9つのマスがあり、1から9まで番号を付けることができます。あなたの対戦相手が最初に動くとしましょう。彼は9つのマスのどれかに印を付けることができます。そして、仮にあなたが機械だとすると、それらの9つの手に対してそれぞれ最善の応手を用意する必要があります。
次に相手が再び動きます。そして今度は、既に2つの手が打たれているので、7つの応答に対してのみ応手を用意する必要があります。このように続きます。
あなたは三目並べの完全な木構造を作ることができ、対戦相手が何をしようと機械に何をすべきかを伝えることができます。同様に、チューリングテストもそのように行うことができます。
1時間のチューリングテストだとすると、1時間で人が入力できるすべてのものを単純にリストアップします。最大のタイピング速度を決めれば、1時間で入力できるアルファベット数字の文字の有限のリストができます。スチュアート・シーラが示したように非常に大きなリストになりますが…これは彼があなたの論文への返答として書いたものですか？
そうです。それぞれに対する応答を入力するだけです。そして機械が再び応答できますが、三目並べの場合と同様に、選択肢は少なくなっています。1時間続く会話の完全な木構造を作ることができます。
そして機械が審判の発言に応答して言うことすべてに対して、プログラムの一つが「私がそれを考えた」と言うことができます。基本的にはプログラムの導管です。プログラマーたちは去って、おそらく死んでしまっていますが、あなたは機械と話していて、それはプログラマーたちが入力したものを吐き出しているのです。
それは完全に力ずくの、メモリーに支配された機械で、基本的にジュークボックスのように機能します。ほとんどの人は、それは知的な機械ではないと感じると思います。それが言うことのすべてはプログラマーの一人によって提供されたものなのです。
まとめると、誰かが端末の前に座って、向こう側の何かと通信しているとき、何が起こることになっているのでしょうか？
相手側が最初に話すと仮定すると、彼らが経験しているのは、彼らが何かを言い、機械が賢い応答を返し、彼らが再び何かを言い、機械が前の2つのやり取りを考慮に入れた賢い応答を返すということです。
例えば、相手が「私はあなたに言語を教えようと思います」と言って、言語を教え始めるかもしれません。そうするとプログラマーたちは、そのような可能性を考慮して適切な応答を用意しておく必要があります。
私が示そうとしているのは、単なる知的な応答は、その応答をしている機械の知能を示すものではないということです。なぜなら、機械の応答は単に誰かが入力したものの導管にすぎない可能性があるからです。
この論文で、あなたはそれを「文字列探索機」あるいは「ストリング・サーチャー」と呼んでいましたよね？
はい、それは一つのバージョンでした。それが「ブロックヘッド」になったんです。
では、論文のタイトルは「心理主義と行動主義」ですが、行動主義については少し話しました。心理主義とは何で、それはどのように関連するのでしょうか？
心理主義とは、行動が思考を反映するためには内部処理の条件が必要だという最小限の主張です。私はそれが何であるかは言いませんが、何かしらの条件が必要だと言います。
デネットの提案する「指数関数的な探索の拡大を必要としない」というのが一つの仮説かもしれません。しかし、思考が何であるかを知らない以上、内部処理の条件が何であるかを本当に言うことはできません。行動だけでは十分ではない、というのがそのアイデアです。
これがChat GPTに関連して出てきた理由は、Chat GPTが非常に行動主義的であることを人々が認識したからです。最近、ラファエル・マイラーとキャメロン・バックナーによる論文で、Chat GPTや他の大規模言語モデルの知能について、それがどの程度ブロックヘッドではないのかという観点から問題提起がされています。
そのアイデアは、それがデータベースにあったものを単に再現しているわけではないということです。しかし、私は言わなければなりませんが、Chat GPTが行うことの多くは、非常に行動的で記憶に支配されています。
2つの例を挙げましょう。私がいつも授業で使う例の一つは、時計の集合体を描いて12時3分を示すように頼むというものです。分針と時針が非常に近い位置にあるはずですが、あなたが得るのは10時10分です。
6時28分など、針が非常に近い時刻を描かせようとしても、またもや10時10分が出てきます。これは、ウェブ上の時計や腕時計の写真が10時10分に支配されているからです。それが最も見栄えの良い見た目だからです。試してみてください。
いや、私は何度も試しましたし、OpenAIの誰もがこのことを知っていて、それを解決することができていません。これは広く知られている例で、何年も前から人々が指摘していますが、彼らはまだ解決できていません。
人為的な方法で解決できるかもしれませんが、このような問題に対処するために彼らが使用する手法は強化学習と呼ばれます。しかし、強化学習はうまくいっていません。おそらく10時10分以外の時刻があまりにも多すぎて、すべてを強化する必要があるからでしょう。
もう一つの例を挙げましょう。Chat GPTに左手で書いている人の絵を描くように頼んでみてください。必ず右手になります。私も最近試してみましたが、左手を描かせるためにいろいろな工夫を試みました。左手を描かせることはできましたが、簡単ではありませんでした。
あなたは哲学的な質問ではありませんが、Chat GPTについて多く考えていらっしゃるようなので、適任者だと思います。私の友人の多くが – 哲学的な思考を持つ人々ではない人々が – 気づいていることですが、私が自分があまり詳しくない分野についてChat GPTに質問すると、とても説得力があり、その分野については確かに自分の知識よりもChat GPTに頼った方がいいと感じます。
もちろん、私が読んでいる哲学の些細な部分について質問すると、大きく外れることがあります。ただ、今議論していることに関連して聞きたいのは、なぜChat GPTは画像に関する質問への応答が特に苦手なのでしょうか？
私は「半分イタチで半分マスの魚」を描いてくれと頼むのですが、私が思い描いているイタチとマスを組み合わせたものとは似ても似つかないものが返ってきます。
そうですね、画像用の訓練データというのは、キャプション付きの画像のコレクションですが、それは言語データベース、つまりインターネット全体と比べるとずっと小さいものです。なぜ特定のことができないのか、なぜ特定のことはできるのかという疑問については、誰も答えを知りません。なぜなら訓練方法は分かっていても、特定の結果が出る理由を知ることは非常に難しい問題だからです。
私はOpenAIの専門家ではありませんが、私の理解では、彼らのR&Dの多くは、すでに訓練されたものに立ち返って、その中で何が起こっているのかを理解しようとすることに費やされています。実際、OpenAIが行っていることについて、私たちはあまり知りません。彼らが完全に説明した最後の大規模言語モデルはGPT-3でしたが、それが驚くほど成功したため、彼らはお金になると気付いて公開を止めました。現在のバージョンのパラメータ数も分かりませんし、人々は推測するしかありません。テキストウィンドウの大きさについても、テストはできますが確実には分かりません。
あなたは映画「エクス・マキナ」を見ましたか? それについてどう思いますか?
私は大好きでした。チューリングテストが映画の大きな部分を占めていますね。アンドロイドの女性が登場し…アンドロイドはただのロボットですよね? そうですね、サイボーグはハイブリッドですから。彼女は自分の正体を偽り、最後には主人公を殺すことに成功します。チューリングテストに合格したわけですね。
私の疑問は、あなたの「ブロックヘッド」理論を拡張すれば、私たちの中にいるアンドロイドを見分けられないようにすることが可能だと思いますか?
はい、絶対にそうです。実際、私の論文の1つでそのことに触れました。同じ技術がアンドロイドにも適用できます。もちろん、太陽系ほどの大きさのものが必要になりますが。
これがどのように機能するのか、簡単に説明していただけますか? 私たちの多くのリスナーにとって、あなたと会話しているロボットがいる可能性があるということを想像するのは難しいと思います。本物のネッド・ブロックによってリモートコントロールされているのではなく、完全に知性を持たないロボットである可能性があるということを。
ブロックヘッドが機能するのは、1時間以内に入力できる文字列の集合が有限であることが前提です。その有限性によって、それぞれに対する応答を用意することができます。もちろん、量子化された感覚器官と量子化された行動を持つロボットの場合…つまり、人々には見えないような小さな動きで動くとすれば、同じ有限の仮定が当てはまります。
有限である限り、同じ思考実験が機能します。もちろん、可能性の数が増えるにつれて、より一層実現不可能になっていきます。
より具体的にするために、科学者や作家、人間行動の専門家からなる委員会を想像できます。彼らは視覚データ、音声データ、嗅覚データなど、人間のような生き物が取り入れることができるすべてのデータを与えられ、その場合に機械がどのような反応をするかを考え出し、それをすべてこの太陽系サイズの機械にプログラムするわけですね。
その通りです。もしかしたら、あなたの中心には虫食い穴があるかもしれませんね。でも、これを実現可能にするには…ある思考実験として、無限に分割可能な物質の種類を発見し、それによって非常に小さな空間に大量のビットを詰め込むことができると考えることができます。
機能主義の基準…それは知能に関する明示的な基準は持っていませんが、何かが知的であるかどうかを知るためには情報処理を見る必要があり、行動だけでは不十分だと言っています。
情報処理に関して、十分であると思われる基準を考え出しましたか?
いいえ、誰も考え出していません。その理由は、思考とは何かについての良い理論を持っていないからです。情報処理の基準を持つためには、思考とは何かを計算論的な観点から知る必要があります。
これは、チューリングテストが元々開発された理由の一つかもしれません。他にテストの代替案はありますか?
いいえ、テストを探すこと自体が間違いだと思います。科学の歴史において、測定器具は測定対象の性質についての理論と合わせて発展してきました。最もよく研究されている例は、温度と熱の発見です。
17世紀のフィレンツェのグループが「熱の度合い」を測定しようとしました。彼らは温度計を作るためのガラス細工の技術を持っていました。しかし、熱や温度が何であるかを知らなかったので、うまくいきませんでした。例えば、温度と気圧を区別せず、管の太さを均一にする必要性も理解していませんでした。
彼らは熱い物体を作り、それを使ってテストを行いました。例えば、レンガを一定時間火にかけ、そのレンガがパラフィンを溶かすかどうかをテストしました。私たちの視点からすると、これは温度を測定していたことになります。パラフィンには融点があり、その融点以上の温度にする必要があるからです。
別のテストでは、同じ物体がどれだけの氷を一定時間で溶かすかを測定しました。これは熱を測定していたことになります。大きなレンガは小さなレンガと同じ温度でも、より多くの氷を溶かします。彼らは温度と熱を区別するまで、適切な温度計を作ることができませんでした。
私たちは心についても同じ状況にあります。思考と推論を測定する装置が欲しいのですが、正しいカテゴリーを持っているかどうかも分かりません。理論が必要なのです。
実際、それは私が質問しようとしていたことです。最初の回答で、思考とは何かわからないとおっしゃいましたが、私が聞きたかったのは、思考とは世界に存在する、基本粒子のように発見されるべきものなのか、それとも世界を理解し説明するために私たちが使用する概念に過ぎないのかということです。
先ほど述べたように、ChatGPTから学んだことの1つは、思考のような過程が分かれているということです。ChatGPTは4桁の掛け算はできませんが、GPT-3は2桁の掛け算もうまくできませんでした。しかし、スタイルと創造性に関しては驚くべき能力を持っています。
例えば、「芋虫の気分を害するような50個のフォーチュンクッキーの名前を挙げてください」というような質問をすると、素晴らしい回答を返してきます。スタイルについても言及しましたが、特定の精神的なことはできます。私たちは思考について誤って考えていたのかもしれません。規則と表象による思考は、うまくできることとは全く異なる種類のプロセスなのかもしれません。
会話の流れから、知能の話題から、あなたが取り組んできた他の多くのことに移りたいと思います。その前に、あなたがスーザン・ケリーと結婚していることを知って驚きました。スーザン・ケリーは世界で最も著名な心理学者の一人です。彼女の下で学んだ多くの人々と話をしてきました。これら2つの世界が実は1つの世界だったということは面白いですね。
私は個人的なことには立ち入りたくありませんが、関連分野で非常に優秀な学者と結婚されているので、お二人の生活がどれだけアカデミックな議論を中心に回っているのか、共同研究をされることはあるのか、心についてよく話し合われるのかなど、気になります。
心についての話をすることはありますが、主に娯楽や食事、友人について話します。彼女の仕事はあなたの研究に影響を与えましたか?
絶対にそうです。彼女は哲学者にとって非常に興味深い素晴らしい研究をしています。彼女の現在の研究は特に興味深いものです。彼女は共同研究者たちと実験を行い、私たちの共通の同僚であるジェリー・フォーダーが提唱した思考言語の全体像が間違っていることを示しています。
フォーダーは、子どもは大人の論理的能力を持って生まれてきて、それを使って言葉の意味や世界の仕組みを理解すると考えていました。チョムスキーも同様のことを考えていましたよね?
はい、チョムスキーも似たようなことを考えていました。スーザンと彼女の同僚たちが示したのは、否定や選言といった基本的な論理操作、また可能性や必然性といった概念は、それらを表す言葉を適切な意味で獲得するまでは身につかないということです。
これは素晴らしい仕事ですね。これは少し飛躍かもしれませんが、私たちが持つ言葉が私たちの概念や世界の見方、経験の仕方を制約するということと、サピア・ウォーフ仮説のような考え方との関連性はありますか?
これは文化相対的なものではありません。ウォーフは、非常に異なる用語を持つ文化は全く異なる考え方をすると考えましたが、それはほとんど正しくないことが分かっています。これは文化相対的なことについてではなく、思考における言語の重要性についてです。なぜなら、すべての文化はこれらの概念において似ているからです。
私たちはすでに意識についても話しましたが、次はそちらに移りたいと思います。この分野におけるあなたの主要な貢献の1つは、現象的意識とアクセス意識の区別ですね。
ほとんどの人は意識を単一のようなものと考えていますが、なぜそうではないのでしょうか?
先ほど温度の例え話をしましたが、ある分野の発展を促すものの1つは、フィレンツェの実験者たちの「熱の度合い」のような概念を取り上げ、それが温度と熱という2つの別個の概念に分解されることを理解することです。
同様に、私たちが日常生活で意識について話す時、実は非常に異なる2つの考えを念頭に置いています。1つは現象的意識です。特定の経験がどのようなものかということです。バラの香りを嗅いだり、赤を見たりする経験がどのようなものかということです。
これは反転スペクトル仮説に関係しています。つまり、あなたが赤を見る時の経験が、私が緑を見る時の経験と同じかもしれないという考えです。
そして、アクセス意識があります。私はそれがフロイトの無意識の概念でも関係していると思います。例えば、ひどいトラウマ的な出来事を経験し、それを抑圧して否定し、推論の中でも考慮しないけれども、それが言い間違いや夢の中に現れるような場合、現象的なイメージは現象的に意識されているかもしれませんが、アクセス意識されていないかもしれません。
精神分析の話題が出たところで、意識についての話を続ける前に、科学的思考を重視する哲学者として、精神分析についてどのようにお考えか伺いたいと思います。否定的な意見を求めているわけではありませんが、ご意見をお聞かせください。
私は精神分析の大きなファンではありません。私自身も心理療法を受けましたが、効果はありませんでした。しかし、フロイト的な心の見方のようなものは、私たち自身の経験から見ることができると思います。私たちは、他人は動機を知っているのに、私たち自身は本当の動機を認めたくないために認識しないようなことをすることがあります。
フロイトのいくつかの考えには多くの真実があると思いますが、それは小説を読んだり、自分の行動を精査したりすることでしか分かりにくいと思います。
この会話で、そしてあなたの著作でも、私が本当に好きなことの1つは、科学からの多くの例があり、それがはっきりと示されていることです。これは、すぐに話題に上がる新しい本でも明らかです。
しかし、アクセス意識と現象的意識に関するあなたの研究において非常に重要な現象の1つであり、また人間の心と脳について最も興味深く魅力的な現象の1つは盲視です。250回以上のインタビューの中で、盲視については一度も話題に上がっていないと思います。この文脈で議論し、説明する価値があります。
盲視とは、脳の後部にある最も初期の視覚野V1の大きな部分が失われた状況です。そこに映像を投影すると、人々は何も見えないと言いますが、XとOの区別や、垂直線と水平線の区別などを非常に正確に当てることができる患者がいます。つまり、意識的ではないと思われる何らかの視覚を持っているのです。
これについては哲学者たちの間で議論があり、イアン・フィリップスは実際には盲目ではないと主張し、ハッカン・ラウとマットレス・ミシェルが反論しています。彼らはそれが本当に無意識的であると主張していますが、この議論はすぐに込み入った話になってしまいます。
まず、オーバーフロー論とは何でしょうか。これは、私たちの現象学的能力が認知的能力よりも大きいという主張です。これを示唆する有名な実験の1つは、1960年にスパーリングが行ったものです。彼は人々に、例えば4文字×3行のグリッドを見せました。光が消えた後、人々は全体のグリッドを短い間経験したと言いましたが、どの文字を見たかと尋ねると3,4文字しか答えられませんでした。
しかし、彼が発見したのは、画像が消えた後に、上の行には高い音、下の行には低い音、中央の行には中程度の音という手がかりを与えると、どの行からでも3,4文字を答えられるということでした。これは、私たちの現象的能力が、アルファベットの文字を1つのアイテムと考えた場合、7,8個程度のアイテムを包含できることを示唆しています。一方、認知への入り口である作動記憶は、そのような種類のアイテムを3,4個しか保持できません。
これがオーバーフロー論です。変化の見落としは、この素晴らしい現象で、写真が1つのものから別のものに変化しても、注意を逸らすものがあれば人々は変化に気付きません。バスケットボールコートにゴリラが走り込んでくる有名な実験のような…これは別の種類の実験です。これはインターネット上で誰もが知っていることですが、この実験は多くの人々に、現象学と認知におけるアイテムの数に違いはないと示唆しました。なぜなら、現象学は非常に貧弱で、ゴリラが見えないと考えたからです。
実際、私はつい最近、この見方が間違っていることを示す実験を行ったグループの一員でした。デイブ・チャルマーズと私は、テンプルトン財団が資金提供する研究グループの一員で、このグループは緩やかな変化の見落としに関する実験を行いました。変化が非常に緩やかで人々が気付かないような場合です。YouTubeで「緩やかな変化の見落とし」と検索すると、いくつかのデモを見ることができます。
知覚が貧弱だと考え、オーバーフロー論を信じない人々は、変化に気付かない理由は、変化しているものを本当には見ていないからだと主張します。色が変化する場合、変化している色を本当には見ておらず、注意を向けているごく少数のものだけを見ているのだと。
私たちが示したのは、実際には人々は異なる段階で明確な知覚を持っているということです。それらの知覚は意識的な知覚なのですが、比較するには余りに一時的すぎるのです。この研究の筆頭著者はヤン・ブラスカンプです。
見ることについて話していますが、意識についてもっと質問したいところですが、あなたはこの分野で最も重要な貢献をされていますから。しかし、見ることについて話しているので、見ることと思考することの境界について伺いたいと思います。
まず、あなたは多くの引用を持ち、多くのトピックに取り組んできましたが、なぜ今この時期にこのテーマについて書こうと決めたのか。そして、見ることと思考することの違いは何なのでしょうか。
私がこのテーマに取り組もうと思ったのは、もともとオーバーフロー論によって導かれました。知覚には認知よりも多くの容量があるという考えです。しかし、知覚と認知の違いをはっきりさせたいと思いました。そのために本を書きました。
私が主張する違いは、知覚は形式的に図像的で、非命題的で、非概念的であるのに対し、認知は典型的に言語のような談話的で、概念的で、命題的だということです。
この文脈で、知覚と認知の形式の違い、そして形式と内容の違いを明確にしていただけますか?
形式というのは、言語は1つの形式を持ち、写真は別の形式を持つということです。考えとしては、認知は言語的であり、知覚は写真的だということです。
それを定義するには、いくつかの異なる定義がありますが、私が最も好む定義は、有名な知覚心理学者のロジャー・シェパードによるものです。彼のバージョンでは、世界についての知覚表象との間にある種の鏡像関係があるということです。
最後の予備的な質問として、文献で言及される「コア認知」とは何か、そしてそれは見ることと考えることの間でどこに位置づけられるのでしょうか?
コア認知は私にとって非常に扱いにくいものです。これは私の妻と彼女の同僚のリズ・スペルケによって作られた用語です。彼女たちはどちらもハーバード大学におり、妻は最近退職しましたが、リズはまだそこにいます。
彼女たちが主張したのは、人間に生得的なこれらの領域があり、少なくとも一見すると知覚と認知の中間に位置するように見えるということです。その1つは物体知覚で、私たちは物体に関する特定の生得的能力を持っています。2つの固体が互いを通り抜けることはないということを、私たちは知っています。赤ちゃんは生まれた時からそれを知っています。
物体の振る舞いについての知識、人々の間の関係についての知識、心理的・社会的関係についての知識、基本的な物理学などです。コア認知の領域が正確に何であるかについては合意がありませんが、少なくとも物体と人々の関係の心理学が含まれます。
スーザンの話が出たので、彼女は言語と意識の関係について何か研究をされていますか?
いいえ、彼女は意識に関する研究は一切していません。今年の春にNYUで乳児の意識に関する会議がありますが、彼女は討論者として参加する予定です。しかし、乳児の意識について実際に講演をすることは望みませんでした。なぜなら、その分野での研究経験がないからです。
これについて尋ねたのは、ジャレッドが私の注意を向けさせてくれたことで…これは私がほとんどの神経科学者や心の哲学者と議論してきた質問です。ジャレッドがこれを指摘して以来…
それはヘレン・ケラーの自伝からの一節についてです。ご存知ですか?
いいえ。
彼女の自伝の中で、教師が来る前の子供時代を振り返っています。彼女はその時、言語を持っていませんでした。彼女は、衝動に突き動かされる動物のように、世界をつかむことができず、この時期の記憶もないと描写しています。そして明確に、自分は意識的ではなかったと述べています。
私が知りたいのは、言語と意識の関係について、そして彼女がそのように推測したり考えたりしたことが正しいと思うかということです。
確かに、彼女が現象的意識の意味で意識的でなかったとは考えられません。なぜなら、あなたが述べた描写は、物にぶつかったり、彼女が「動物的な経験」と呼んだものを持っていたりしたことを示唆しているからです。
私は、彼女は自分との対話、つまり内的独白のようなものを意味していたのではないかと推測します。ジュリアン・ジェイムズの『二分された心における意識の崩壊』というような本で似たような指摘がありました。私はその本のレビューを書いて、私のウェブサイトに掲載しています。
彼は、オデュッセイアとイリアスの間に、ギリシャ人が意識を発見したと主張しました。彼が言っているのは、ある時点までは内的独白を持っていなかったという考えです。私は、彼がヘレン・ケラーと同様のことを意味していたのではないかと思います。
この質問からだけでも、現象的意識とアクセス意識の区別が意識を議論する際にいかに有用かが分かります。しかし、これが哲学の役割の1つですね。私たちの概念をより明確に、より正確にし、関連する区別を行うことで、世界をよりよく追求できるようにすることです。
実際、現象的意識とアクセス意識について考えると、動物の心について1つの疑問が浮かびます。例えばサーモンには現象的意識があると思いますか? あなたは彼らにアクセス意識がないと言うと思いますが、確認させてください。
いいえ、私が話しているのは現象的意識についてです。
彼らにはそれもないと思うのですか?
いいえ。アクセス意識については確信が持てませんが、私の推測では、現象的意識には皮質が必要だと思います。
興味深いですね。私は現象的意識の方がずっと原始的だと考えていました。
はい、私もそう思います。
でもアクセス意識についてはより確信が持てないのですね?
はい、なぜなら、哺乳類のアクセス意識はグローバルな放送の問題であり、私の知る限り、彼らにはその能力がないからです。つまり、知覚領域が前頭前皮質のような中央施設にメッセージを送り、それが推論や問題解決のメカニズムへのアクセスを与えるのです。
サーモンについては詳しくありませんが、彼らは確かにいくつかの問題を解決できます。それは彼らが持っている知覚表象に関係する特定の問題かもしれません。そこには何らかの形のアクセスがあるかもしれません。
知覚表象がアクセス意識ではアクセスできるのに、現象的には意識されていないということは興味深いですね。しかし、それは先ほどの盲視で話していたことですよね?
ある程度はそうです。しかし盲視の場合、アクセスは非常に限られています。なぜなら、彼らは…まず、促されなければ推測できません。0と1の間、水平線と垂直線の間で推測するように促されなければなりません。促されなければ推測せず、自分が何を言っているのかも分かっていません。
先ほどグローバルな放送について言及されましたが、意識には4つの主要な理論があるとも言及されました。これら4つについて、そして見ることと思考することの境界が、どの理論が正しいと思うかにどのように影響するのかを聞かせていただけますか?
はい。4つの理論の1つは、先ほど話したグローバルな放送です。
グローバルな放送とグローバル・ワークスペースは同じですか?
はい、ワークスペースへの放送です。これはバーニー・バースによって最初に提唱された考えですが、本当にこれを発展させたのは、フランスの有名な認知神経科学者のスタニスラス・ドアンヌです。
考え方としては、脳の後部に知覚領域があり、自然は親切にもこれらの能力を前部と後部に分けてくれたので、それについて話すのが簡単になっています。これらの表象が優位性を競い合い、勝者が彼の言葉を借りれば「引き金を引く」ことができます。それは頭の前部と後部の間の大きな神経的連合を形成します。
これがグローバルな放送です。知覚表象がグローバルに放送されると、知覚後約400ミリ秒かかりますが、その情報は推論、問題解決、賭け、報告など、多くの異なる認知機能で利用可能になります。彼はそれが表象を意識的にすると考えています。
彼の学生だったもう1人のフランスの神経科学者、クレア・サロンが提唱したやや良いバージョンがあります。彼女はそれを「グローバル・プレイグラウンド」と呼んでいます。なぜそれがより良いと思うかについては詳しく説明しませんが、より良いバージョンだと思います。
これが1つ目の理論です。2つ目の理論は、多くの支持者を持つ「高次思考理論」と呼ばれるものです。最も印象的なバージョンは、日本にいて韓国に移る予定のハッカン・ラウという神経科学者によって提唱されたものです。
この考え方は、脳の後部に知覚表象があり、デフォルトではそれは無意識の表象であり、意識的にするためには前頭部からのポインターが必要だというものです。これは思考のようなものですが、認知的なポインターであり、それが意識的にするのです。これを支持する証拠も多くあると思います。
3つ目の見解は、オランダの心理学者であり神経科学者のビクター・ラメによって最初に提唱されました。脳の後部での特定の種類の活性化が、後部での一種の再帰的ループを含む知覚意識には十分だというものです。これにも実験的な支持があります。
4つ目は、ジュリオ・トノーニによって提唱され、クリストフ・コッホによって支持されている統合情報理論です。これは他の理論とは少し異なる焦点を持っています。他の理論は知覚表象を意識的にするものについての理論ですが、統合情報理論の主な焦点は、有機体やシステムを意識的にするものについてです。
これは、システムがどれだけ分化されているか、特定の種類の分化と特定の種類の統合の問題だと言います。これは他の3つの理論とは全く異なる見方です。統合情報理論の奇妙な点の1つは、絶対に奇妙な帰結を持つことです。
2つの状態と最小限の記憶を持つダイオードのようなものは、ある程度意識的だということになります。つまり、多くの機械、あなたの電話もある程度意識的だということになります。さらに、量子力学の専門家スコット・アーロンソンによる反論の結果として、彼は、そしてこれはIIT(統合情報理論)の人々も認めていることですが、排他的論理和ゲートを正方形や回路に配置し、それらを追加していくことで、私たちよりもはるかに意識的なものを作れることを示しました。
これは非常に奇妙な帰結であり、この理論には強力な証拠が必要だと人々に感じさせるのに十分です。私自身は証拠が十分にあるとは思いませんが、いくつかの良い特性を持っており、支持者もいます。
見ることと思考することの境界について、これら4つの理論の選択についてお話しする前に、明確にしたいことがあります。デイブとの対話の機会があれば、より詳しい議論は取っておきたいと思いますが、あなたは二元論やパンサイキズムには言及されませんでした。
ええ、私は科学的に尊重できる理論について話しています。
あなたの見解では、それらは…
そこまで言うつもりはありません。
あなたを極端な立場に追い込もうとしているわけではありません…
そうですね、二元論は尊重に値すると思います。意識の科学では追求されていませんが、二元論者である科学者は多くいます。
あなたがそれを尊重に値する理論だと考えていることを聞いて、少し驚きました。なぜなら、あなたは非常に科学的思考の人だからです。
しかし、それを支持する議論は科学的な議論ではなく、別の種類の議論だと思います。
素晴らしい。では、これら4つの理論のうち、あなたはどれを支持し、見ることと思考することはどのように関係しますか?
私はラメの理論が最も好きですが、高次思考理論も少し好きです。しかし、私はこれらのどれも本当には支持していません。なぜなら、決定を下すには知識が不十分だと考えているからです。
私は科学的思考の人間なので、多くの証拠を見たいと思います。意識についての理論化の多くは自己中心的な人々によって行われています。「私には意識の理論があり、それを証明する実験をする」という人々です。そして、彼らの理論と両立しない結果が出る可能性がほとんどないような実験をするのです。
私は、脳における意識が何であるかを知らないと感じています。私たちは、脳のようなものが必要かもしれないという十分な理由があることを知るのに十分な知識を持っています。極端に言えば、意識には肉が必要かもしれないと私は考えています。
魅力的ですね。それは基質が私たちのように有機的でなければならないと考えているのか、それとも私たちの脳のような組織を持つ何かであればいいと考えているのでしょうか?
私たちにはそれが分からないと思いますが、私たちの脳の生物学的な性質に、私たちを意識的にするような何かがあると考えています。そして、生物学的な性質を持たない意識的な機械を作れると想定しない方が良いでしょう。
それは物理的なアーキテクチャのために、チャットが意識的になることを排除するということですか?
はい。もちろん、私は意識が何であるかについての十分な理論を持っていないので、ChatGPTを排除することはできませんが、懐疑的です。
では、見ることと思考することの境界から得られる他の重要な洞察があれば、本を読んでいない人にも分かるように教えていただけますか。技術的な哲学の本だと言おうとしましたが、そうではありませんね。
いいえ、一般読者にも理解できるように努めました。
これはオープンアクセスですよね。
はい、オックスフォード大学出版局のウェブサイトで見ることができます。彼らはオープンアクセスであることを隠そうとしていますが、購入ボタンの横にオープンロックがあり、それをクリックするとPDFをダウンロードできます。
もしそれでアクセスできない場合は、私のウェブサイトに別のアクセス方法があります。一般読者には第6章がベストだと思います。そこで私は、色の知覚が非概念的であると主張しています。それが何を意味するのかを説明し、乳児からのデータを使用しています。これは本当にクールな内容で、理解しやすいものです。
サセックス大学のアンナ・フランクリンという色彩発達科学者の研究を使用して、4-6ヶ月の乳児がほぼ大人レベルの色彩知覚を持っていることを示しています。そして、多くの認知発達心理学者の研究を使用して、4-6ヶ月から1歳の間の子どもには色の認知が全くないことを示しています。これは本当にクールな内容です。
最後の質問で最初の話題に戻りたいと思います。最初にホーナメについて話しました。彼の最もよく知られている見解の1つは機能主義で、あなたはそれを批判したことでもよく知られています。
手短に、機能主義とは何だったのか、そして「機能主義の問題点」であなたの思考実験がそれをどのように否定したのか説明していただけますか。
実は、私はもうその議論を支持していません。
機能主義の考え方は、あなたの精神的な経済の中での表象の役割が、その精神的特性を与えるというものです。特に、入力による生成、出力への影響、システム内の他の表象との相互作用の仕方です。
私は思考と理性に関しては機能主義の支持者になりつつありますが、意識に関しては説得力がないと思います。私の思考実験は、サールの中国語の部屋の議論より前のものですが、ほぼ同じものです。彼は私の論文を読んでいたので、そこからアイデアを得たのです。
それは不満や争いの原因になっているのですか?
少しですね。彼はアイデアをどこから得たのかを認めることのない人なのです。
思考実験としては、無線で話をする大きなグループの人々によって制御されるロボットを想像することができます。彼らが脳となるわけです。
これは中国の国民という…
そうです、その通りです。それも私のバージョンからサールが得たものの1つですね。
私が彼の中国語の部屋の議論の初期のプレゼンテーションを見た時、彼は私の論文を読んだことがあり、これは異なるものだと言いました。しかし、それほど異なるものではありません。
私はこれらの直感はそれほど価値がないと思います。しかし、意識に関する機能主義的見解に対する主な議論は、意識の性質がより生物学的なものに見えるということです。意識が何であるかについての私たちの進歩は、すべて生物学に大きく依存しています。そのため、機能主義のような表面的な理論が正しいとは思えません。
これが、あなたが機能主義のファンではないけれども…つまり、これが思考実験をもう支持していない理由ですか? 生物学に関する議論の方がより説得力があり、重要だと感じているからですか?
重要だと感じていますし、そのような種類の直感はそれほど有用ではないと考えるようになりました。
そうですね、その点ではデネットに同意します。
素晴らしい。これは私が長い間やりたかったエピソードでした。ありがとうございました。あなたは下にいらっしゃると思いますが…いつか私たちがデイブと一緒に話せる機会があれば、それも素晴らしいですね。
はい、いいですね。
コメント