9,918 文字
言葉の定義が間違っています。人工知能という名称は適切ではありません。知能には意識が必要だからです。ゲーデルの定理の議論からもわかるように、コンピューターは非常に特殊な数学的構造で、数学の限られた一部分にすぎません。現在の意味でのコンピューターでは意識を持つことは絶対にないと思います。意識は計算できないものだからです。
今のAIと話をしても、それは自分が何をしているのか分かっていません。コンピューターがとても強力になったため、何をしているのかという本質を見失ってしまいました。チューリングの考えはそれほど外れていなかったと思います。
今年のノーベル賞についてお聞きしたいのですが。ストックホルムから戻ってきたばかりで、ノーベル賞受賞者にインタビューをしてきました。今年の物理学賞とAIの父たち、化学賞のディーマインドの共同創設者デミス・ハサビス、タンパク質のコンピュータービジョンとデジタル化のデイビッド・ベイカーなど、今年のノーベル賞はAIへの賛辞だと思いませんか。
気をつけなければいけません。まず名称が間違っています。人工知能という言葉は適切ではありません。知能には意識が必要だからです。私はずっと、これらのデバイスには意識がなく、他の考え方を取り入れない限り意識を持つことはないと主張してきました。これらはすべて計算可能な概念ですが、知能は意識に依存するものです。
言葉の使い方によりますが、人々が知能という言葉を使うとき、彼らは意識のあるものを意味していると思います。私はケンブリッジの大学院生時代に、自分の専門とは関係のない3つの講義を受けました。1つはボンディの一般相対性理論、もう1つはディラックの量子力学、そして3つ目は数理論理学でした。
そこでチューリングマシンと計算可能性の概念を学び、ゲーデルの定理を知りました。ゲーデルの定理は衝撃的でした。なぜなら、理解というものが計算の使用を超越することを示していたからです。
より明確に説明しましょう。ゲーデルが行ったのは非常に巧妙なことです。数学における定理の証明とは何を意味するのか。ある命題が本当に真であることをどうやって知るのか。規則に従えば証明になるのか。そしてそれらの規則が真理だけを与えることをどうやって知るのか。
AIが独自の規則を作り出すかもしれないと考える人もいますが、そこは慎重になる必要があります。これが重要なポイントです。私は論理学者のスティーンから、ゲーデルの定理について重要なことを学びました。
ゲーデルの定理は非常に巧妙です。証明の規則とみなすものを与え、それらをコンピューターに実装できるような計算規則にします。私はこの講義で、計算できないものが存在することを学びました。数学には計算不可能なものがあるのです。
計算可能とは何を意味するのでしょうか。コンピューターを定義する必要がありますが、チューリングは1つの定義を示し、チャーチやカリーなど他の人々も定義を示しました。それらはすべて同等であることが判明し、コンピューターができることを意味する普遍的な計算可能性の概念が1つあります。
単なる言語の問題で、AIの発展に言語が追いついていないだけなのではないでしょうか。私たちが創造しているものを適切に表現できる言語がないだけかもしれません。
いいえ、それには同意できません。言語の問題ではありません。新しい言語を作ることはできますが、ゲーデルの定理がどのように機能するかを説明させてください。
ゲーデルの定理では、ある文を構築します。その文の意味は「私はこれらの規則では証明できない」というものです。実際にそう主張する文を作るのです。
もしその文が規則によって証明可能だとすると、それは真でなければなりません。逆に、もしその文が偽だとすると、それは規則によって証明可能だということになり、規則を理解して「はい、これは正しい」と確認したことになります。つまり、規則は真理のみを与えると信じているということです。
したがって、その文が偽であれば規則によって証明可能で、それゆえ真でなければなりません。つまり、その文は真であり、かつ規則では証明できないものでなければならないのです。これは驚くべきことでした。
しかし、なぜAIが独自の規則を作れないのかがまだ理解できません。
それは規則が真であることを知らないからです。これがゲーデルの定理の要点です。規則を超越するにはどうすればよいのか。それは規則を理解することによってです。規則を使うことで真理のみが得られることを理解するのです。
そうすることで、規則を超えた証明ができます。なぜそれらが真であるかを知ることによってです。「なぜ真であるか」を知るとはどういうことでしょうか。それは理解することを意味します。そして理解するには意識が必要です。
言葉は明確です。何をしているのかを知る必要があります。それらが真であることを教えられるだけでは不十分です。学校でそれらが真だと習うことはできます。しかし重要なのは、なぜそれらが真であるかを知ることです。
なぜ真であるかを知るには理解が必要で、理解するには意識が必要です。私が主張しているのは、意識があれば規則を超越できるということです。規則が真である理由を理解し、それを超えることができるのです。
ゲーデルの定理が示しているのは、規則が真である理由についての理解を使って、規則を超越する方法です。
AIは単なるツールや、単一のケースで使える単純なものだと考えていますか。
いいえ、単一とは言っていません。明らかに無限です。それが問題ではありません。問題は、AIは自分が何をしているのか分かっていないということです。今のAIと話をしても、それは自分が何をしているのか分かっていません。経験から話しているだけです。
人々は物語を混同してしまっています。コンピューターがとても強力になったため、何をしているのかという本質を見失ってしまいました。彼らは計算をしているのです。
それがそれほど強力になったことを残念に思いますか。
要点を見失っているのが問題です。チューリングの考えはそれほど外れていなかったと思います。彼は少し混乱した人でしたが、チューリングテストと呼ばれるものを考え出しました。あるエンティティが意識を持っているかどうかをどうやって判断するのか。それは会話を通じてです。
AIは人間の存在の新しい領域なのではないでしょうか。
いいえ、何かが欠けています。それが問題です。明らかに役割はあります。AIには役割があることを否定はしません。しかし、役割があるという事実と混同してはいけません。それは計算の力に関係しています。
確かに、コンピューターは今や人間の計算能力をはるかに超える強力なものになっています。大量のデータを取り、そのデータを分析し、データの中の以前のパターンと一致するかどうかを見ることができます。しかし、それは理解していません。ブラックボックスの中には単なる統計があるだけです。
もしそれが機械なら、意識はありません。人々は要点を見失っています。私は『皇帝の新しい心』という本を書きましたが、人々が要点を見失ったとはどういう意味でしょうか。
私の考えの流れの要点は、物理学で何かを見つける必要があるということです。私は物理主義者で、私たちの頭の中で起こっていること、意識を生み出すものは物理的世界の一部だと信じています。魔法が何処からともなく入ってくるとは考えていません。それも物理法則の一部です。
ブラックボックスとは何を意味するのでしょうか。
入力と出力は分かっていますが、内部で何が起こっているのかは分かりません。それがブラックボックスです。しかし、それは助けにはなりません。なぜなら、そのボックスの中にどのような物理学があるのか分からないからです。
新しい物理学かもしれません。そうです、特定の種類の新しい物理学です。ゲーデルの議論から主張していることは、私が考える要点であり、それは見失われてしまいました。
意識的な思考に関わる物理学は、計算不可能な物理学でなければならないと主張しています。私たちが知っている物理学には少し不具合があります。完全には明確ではありませんが、私たちが知っている物理学は計算可能なようです。
一般相対性理論についてはどうでしょうか。ブラックホールが互いの周りを回転して重力波信号を生成する様子を計算する素晴らしい機械があります。「ああ、これはブラックホールの衝突だ」と言えます。なぜならこの非常に明確な特徴があるからです。
そういったことはすべて可能です。それは問題ありません。しかし、私が話しているのはそういうことではありません。私が話しているのは、物理学は原理的に計算不可能な物理学でなければならないということです。
AIは好きなだけ前進することができますが、これを得ることはできません。ブラックボックスについて話していますが、そのボックスの中に何があるのか分かりません。それは私たちが理解している種類のコンピューターなのでしょうか。それとも計算不可能なプロセスを含む物理学を伴うものなのでしょうか。
今のところそうではありません。それが起こらないとは言いません。私はそれが起こることを恐れています。なぜなら起こってほしくないからです。しかし、避けられないかもしれません。いつか起こるかもしれません。しかし、それは私たちが今知っているAIではありません。
私たちが今知っているAIはコンピューターによって駆動されており、それは意識を持っていないということを意味します。
超人的なAIは決して存在しないのでしょうか。
問題は、AIという言葉が悪いということです。それは人工知能を意味します。私の見方では、知能は意識的なものです。それが知能の本質です。
では、人工的なものをどう呼べばいいでしょうか。人工的な賢さはどうでしょうか。ある程度、数学の学生を見ると違いが分かります。何をしているのか理解している学生もいれば、ただ賢いだけの学生もいます。
学んだことを繰り返し、うまく計算できますが、必ずしも何をしているのか理解しているわけではありません。私たちが知らない物理学は計算不可能性を含んでいます。それが私の主張です。
『皇帝の新しい心』でこの主張をし、『心の影』でさらに強く主張しました。もしかしたら意識ではなく、まったく新しいものかもしれません。意識ではない何か、現時点で私たちが概念を持っていない完全に未知のものかもしれません。
それはそうかもしれません。AIについて話すとき、残念ながらそれは悪い用語です。なぜなら人工知能を意味するからです。人々がその用語を使うとき、彼らはコンピューターによってできることを意味しています。
彼らはコンピューターを持っており、そのコンピューターは非常に強力です。AIとして意味しているのは、コンピューターを使用することです。必ずしも直接的な論理的な方法で使用するわけではありません。
私はこれらのことを研究していないので、おそらく時代遅れかもしれませんが、私が理解する限り、それは大量のデータを見て、パターンを探したり、その種の方法で分析しようとしたりすることです。
しかし、それはすべて計算的です。コンピューターを使用していますが、その本質上、それは計算的です。コンピューターによるということは計算による数学を意味します。
コンピューターは非常に特殊な数学的構造です。それは計算的な数学を意味します。数学を抽象的な対象として研究すると、すぐに計算可能性をはるかに超えるものがあることが分かります。それは数学の非常に限られた部分です。
数学の一部は計算不可能です。アルゴリズムでは到達できません。人々はよく、AIはアルゴリズムを使用しないと考えます。なぜならある種のランダムな方法を使用しているからです。
私はAIが実際に何を含んでいるのか詳しく研究していませんが、コンピューターで実行されているので、それは依然として計算的なものです。疑問の余地はありません。私は非計算的なものが必要だと主張しています。
人々はこれを信じたがりません。なぜなら、彼らはただコンピューターを考え、計算不可能なものがあることを知らないからです。数学的論理学を研究すると、計算不可能な構造があることが分かります。
世界の物理学は簡単に計算不可能なものになり得ます。私の見方では、そうなのです。そして自然は、物理学の計算不可能な側面を利用できる存在を生み出すほど巧妙だったのです。自然選択を使ってこれを成し遂げましたが、それがどのように動物界まで及んでいるのか分かりません。
人間は確かに意識を持っています。犬を飼っている人なら誰でも、犬が意識を持っていることを絶対に確信しています。おそらく猫も、象も確実にそうです。もっと下のレベルでは、おそらくタコも意確実に意識を持っています。
バクテリアに意識があるかどうかは分かりません。カエルには意識があるでしょうか。おそらくあります。アメーバに意識があるでしょうか。分かりません。これは単なる推測です。これらのことについて本当の理由はありません。
しかし、私は意識は何か異なるものだと思います。それは計算的ではありません。問題は、人々があまりにもコンピューターの力に催眠をかけられているということです。
そうですね、コンピューターはとても強力になったので、答えを見つけました。それはただのコンピューターです。私はそうではないと言っています。答えはそれよりもずっと深いものです。
より複雑というわけではなく、より深いのです。私たちがおそらくまだ知らない種類の物理学を含んでいます。量子世界に基づいているので、より深いのです。
量子世界でさえまだ計算可能です。私たちが知る限り、計算不可能なものは何もありません。量子理論には基本的な未知の部分があります。ある意味で間違っているとさえ言えます。なぜなら、量子の重ね合わせがすべてのレベルで持続すると考えているからです。
普遍的な量子コンピューターを作ることができれば、人工的な意識を作り出せるかもしれません。
はい、理論的にはそれに反対することはありません。好きではありませんが。
ノーベル賞委員会の物理学賞に関する判断に同意しますか。人工ニューラルネットワークの基礎的な研究に対するジェフリー・ヒントンへの授賞について。
それが本当に物理学かどうか、かなり疑問です。確かではありません。ノーベル賞は時々、その決定に疑問を投げかけることがあります。私もいくつかに疑問を感じるでしょう。おそらくこれもその1つかもしれません。
確かではありません。正確に何と言っているのか見る必要があります。それは技術的な進歩だと思います。理論的な進歩でしょうか。そうは思いません。ノーベル委員会は通常、純粋に理論的なものには賞を与えません。物理的な応用がなければなりません。
ノーベル賞の文言を見て、それに満足できるかどうか判断する必要がありますが、分かりません。
自動運転車について質問があります。数百、数千のデータを処理していますが、そこに意識があるのではないでしょうか。現実世界についての大量のデータを収集するというAI開発の一つの方法として、デジタルセンサスのようなものを使用しているのではないでしょうか。
いかなる意味でも意識があるとは思いません。しかし、人間よりも上手く運転できる可能性はあります。現時点での比較は分かりませんが。
時々愚かな判断をすることは確かですが、人間も同じです。それが人間よりも信頼できるようになるのは、私の知る限りそれほど遠くないかもしれません。それについて不満はありません。それは意識を持っているという指標にはなりません。
結局のところ、特定の時間に自動的に消灯するデバイスがすでにありますし、暗くなる時期やどうやって電力を節約するかについて、より良く知っているかもしれません。
AIの発展をどのように見ていますか。そしてAIの未来についてどのような予測をしていますか。
最近のAIが実際に何をしているのか、私は本当には知りません。つまり、私の専門分野外の質問をされているということです。
私の専門分野は、これらのデバイスが実際に私たちがしていることをしているかどうかに関係しています。私はそうは思いません。なぜなら、それらは意識を持っていないからです。
現在の意味でのコンピューターであることによって、意識を持つことは決してないと思います。それがあなたの質問への答えになっているかどうか分かりません。
彼らが私たちよりも優れているということではありません。AIの発展における最大のリスクは、ここにリスクがあると思います。リスクの一部は、人々が実際に意識があると考えることです。
もし意識があれば、さらに大きなリスクがあるかもしれません。意識に関わることを理解し、ある種のデバイスを開発できるかもしれません。
私はそれをコンピューターとは呼びません。なぜなら私の見方では、それはコンピューターではなく、別のものになるからです。意識を持つ何らかのデバイスです。
私は意識が物理的なプロセスだと信じているので、私たちはそれを理解していないと思います。波動関数の崩壊が関係していると思います。それは部分的に否定的な結論です。他のどこにも見当たらないからです。
波動関数の崩壊は非常に神秘的で、少し困惑するような逆因果的なものを含んでいます。時間がどのように機能するかは、話すときにそれほど明確ではありません。
通常の因果関係とほぼ矛盾するようなものがあります。矛盾しているというよりも、現実が何を意味するのかについて異なる概念を持つ必要があります。
私は2つの概念を分離しようとしてきました。1つは古典的な現実で、もう1つは量子的な現実です。古典的な現実は、私たちが通常話すような種類のものです。
私たちは触れることができ、感覚を使って理解できます。しかし、主な違いは、このグラスを取って「こんにちは、グラス、あなたはどんな形をしていますか」と尋ねることができるということです。
そのような方法ではなく、「このグラスはどんな形をしていますか」と言って、「上が丸くて、ほぼ円筒形です」と答えます。これが古典的な現実です。
量子的な現実は、アインシュタインが良い基準を持っていましたが、彼はそれを量子的な現実とは呼びませんでした。私がそう呼んでいるのです。
粒子の波動関数は実在するのか、それとも実在しないのか。スピン1/2粒子のスピンがその良い例です。スピン1/2粒子のスピンは量子的なものです。
システムに「こんにちは、システム、あなたはどちらの方向にスピンしていますか」と尋ねることはできません。システムはあなたを空白の目で見て、「そのような質問には答えません。別の種類の質問をしてください」と言うでしょう。
正しいやり方は、「粒子よ、あなたのスピンはその特定の方向にありますか」と言うことです。スピンには軸があります。スピン1/2粒子のスピンの働き方は、特定の軸を持っているということです。
それがスピン1/2粒子の量子状態を記述する方法です。特定の方向があり、その方向の周りでスピンします。その方向を確認できますか。いいえ、できません。それは量子的な現実です。
量子的な現実を確認することはできません。確認できるのは古典的な現実だけです。量子的な現実は確認することしかできません。
もし私がどの方向にスピンしているかを知っていると思えば、「はい、計算が終わりました。これこれをして、今はその方向にスピンしているはずです」と言います。
「こんにちは状態、あなたはその方向にスピンしていると思います。合っていますか」と言って、もし合っていれば、確実に「はい」と答えます。
これがアインシュタインの基準でした。確実に確認できれば、それは現実の要素を与えます。彼はそれを現実の要素と呼びましたが、私は量子的な現実の要素と呼んでいます。
古典的な現実は別の種類です。古典的な現実を確認することができ、量子的な現実を確認することしかできません。これら2つの考えが必要で、それらを分離する必要があります。
量子的な現実は非常に特異な振る舞いをします。実際に逆因果的に振る舞います。ノーベル賞について話しましたが、その前の賞はツァイリンガーたちの、EPR型の実験に関するものだったと思います。
正確に何に対する賞だったか思い出せませんが、そのようなものです。アリスとボブの間でスピンを共有する、このような効果があります。
最初、アリスとボブはスピン0を持っており、彼らのスピンは反対です。アリスのスピンがこの方向なら、ボブのスピンはその方向です。
アリスが自分のスピンを測定し、それがその方向だと分かったとします。過去の光円錐に沿って逆因果的に、つまり同時というだけでなく、もっと悪いことに過去に向かって、しかしこちらからあちらへ光が行けるよりも速くはならない範囲で、アリスの測定の反対になります。
ボブはそれを確認することはできません。したがって、彼女は光よりも速い信号を送ることはできません。なぜなら、彼はどちらの方向かを知ることができず、確認することしかできないからです。
EPR（アインシュタイン・ポドルスキー・ローゼン）型の実験を理解するには、この考えが必要です。去年のノーベル賞が何だったのか確認する必要がありますが、それに関係していたと思います。
これは非常に重要で魅力的な発見です。しかし、何が起こっているのかを理解するには、量子的な現実を使用するのが最良の方法だと思います。
これらの手段によって光よりも速い信号を送ることは確かにできません。しかし、ほぼ光速に近い速さで後ろ向きに、量子的な現実である限り、逆因果的に進むことができます。
量子世界がどのように機能するかを理解しない限り、それを置き換えることはできないと思います。それほど悪くはありません。古典的な観点からそれを理解しようとすることは、理解していないということです。
数学を理解することはできますし、それに慣れることもできます。それは理解を含んでいます。誰かが質問をしたとき、私はそれをよく理解していないかもしれませんが、最善を尽くすことができます。
量子力学を十分に理解して、量子力学が言うであろう答えを与えることができるかもしれません。それは理解を意味します。確かにそれは何が起こっているのかの理解です。
「誰も量子力学を理解していない」という有名なコメントがありましたが、それはボーアだったと思います。いいえ、それは誤解を招くと思います。
理解には古典的な理解である必要はありません。私たちは古典的な世界を理解するように自然によって決定されています。量子世界は非決定論的で、私たちの心では理解できないものです。
量子世界を理解しようとするには、公式を使う必要があります。理解という言葉を限定的に使うのは残念です。どんな言葉を使えばいいのか分かりませんが、古典的な意味での理解、確かにそれは失敗します。
しかし、それは理解の欠如ではありません。全体像を把握し、「ああ、量子力学での予測の仕方が分かります」と言うことができます。そしてそれらの予測は、確率だけである必要はありません。
それらが確率だけを知っているとか、そのようなことで混乱するという見方は誤解を招くと思います。これらのものが当惑するのは、単に確率的だからではありません。時には単に確率的なだけのこともありますが、それらを一貫させるのは確率だけにすることです。
しかし、量子力学について最も魅力的だと私が考えることは、確率的なことではありません。これらのEPR効果のようなものです。確かに、誰かに測定を依頼し、それが量子的な現実であり、古典的な現実の測定を試みているだけなら、確率としての答えしか得られません。
量子的な現実と古典的な現実を分離し、量子的な現実は異なる振る舞いをすることを理解する必要があります。しかし、それは理解を超えているということではありません。
人々がよく理解という言葉をその方法で使うのは、少し誤解を招くと思います。
お時間をいただき、ありがとうございました。
どういたしまして。楽しい時間でした。ありがとうございます。
コメント