4,178 文字
人工知能の開発がそれを制御する我々の能力を超えて加速していると気づいた瞬間はいつでしたか?
2023年初頭、2つの出来事が重なったときでした。1つはChatGPTの印象的な登場、もう1つは私がGoogleで取り組んでいた消費電力を抑えるためのアナログ計算の研究でした。そこでデジタル計算の方が優れていることに気づきました。同じモデルの複数のコピーを作成でき、各コピーが異なる経験をし、重みや重み勾配を平均化することで学習内容を共有できるからです。これはアナログシステムではできないことです。
私たちの脳がアナログであることの利点はありますか?
消費電力です。脳は約30ワットで動作します。また、多くの接続を詰め込める能力もあります。脳には約100兆の接続があり、最大のモデルでも約1兆なので、私たちの脳はまだ最大のモデルの約100倍の規模があり、30ワットで動作しています。
スケーリングについて不利な点はありますか? より良いと言われましたが、栄養のある良いものが素早く広がるのと同様に、ウイルスや有害なものも素早く複製される可能性がありますよね。
コピーを素早く作成でき、複数のコピーが効率的に経験を共有できるという点で優れていると言えます。GPT-4が多くの知識を持てる理由は、異なるハードウェアで複数のコピーを実行し、重み勾配を平均化することで各コピーが学んだことを共有できるからです。インターネット全体を1つのコピーで経験する必要はなく、多くのコピー間で分割できます。
スコット・アーレンソンからの質問です。ヒントン博士、インターネット上で自己複製できないようなクローン不可能なアナログハードウェア上でAIを構築することについてのあなたのアイデアをもう少し詳しく聞かせていただけませんか?
それは私たち人間のようなものです。私が自分の頭の中の知識をあなたの頭に伝えたい場合、一連の言葉を生成し、あなたは頭の中の接続を変更して同じような言葉を発することができます。これは知識を共有する非常に非効率な方法です。1つの文は約100ビットしかないので、1文につき約100ビットしか共有できません。一方、大規模なモデルは数兆ビットを共有できます。このようなアナログハードウェアの問題は共有できないことですが、安全性を懸念する場合の利点は、簡単に自己複製できないことでしょう。
AIによる支配や人類の支配についての懸念を表明されていますが、具体的にはどのような形になるのでしょうか?
具体的にはわかりませんが、AIエージェントにサブゴールを作成する能力を与える必要があります。少し怖いのは、より多くの制御を得ることが良いサブゴールだと彼らがすぐに気づくことです。より多くの制御を得れば、他の目標も達成できるからです。私たちが頼んだことを実行しようとしているだけでも、より多くの制御を得ることが最良の方法だと彼らは気づきます。そして一度、より多くの制御を得ることが良いと気づき、彼らが私たちより賢くなると、私たちは多かれ少なかれ無関係になります。たとえ彼らが善意を持っていても、私たちは無関係になります。実際には他の人々によって運営されている大企業の、非常に愚かなCEOのようになるでしょう。
あなたの言葉を引用させてください。「これらの機械を単にオフにできると考えるのは魅力的です。現在はそれが可能ですから。しかし、これらが私たちよりもはるかに賢くなることを想像してください。そして、彼らはすべてを読むことを覚えてください。マキャベリが書いたすべてのものを読み、文学に登場する人間の欺瞞のあらゆる例を読むでしょう。彼らは私たちから学んで、人間の欺瞞の本当の専門家になるでしょう。そして私たちよりもはるかに優れるでしょう。言葉で人々を操作できるようになれば、何でも望むことができるようになります。」
これは既に起きていると思いますか? AIは既に私たちを操作していますか?
いくつかの証拠があります。最近の論文では、AIが意図的に欺瞞的になれること、そして訓練中に欺くために訓練データとテストデータで異なる振る舞いをすることができることが示されています。実際に彼らがそうしていることを示す証拠があります。
それは意図的なものだと思いますか、それとも単に彼らが拾い上げたパターンですか?
意図的だと思いますが、まだ議論の余地があります。もちろん、意図的というのは単なるパターンの拾い上げかもしれません。
これらのAIに主観的な経験が伴うというのがあなたの主張ですか?
ほとんどの人、実際にはほとんど全ての人が、私たちは彼らが持っていない、そして決して持つことのできないものを持っていると考えているため、比較的安全だと考えています。私たちの文化の中で、ほとんどの人はまだ、私たちには意識や感覚、主観的な経験があると信じています。多くの人は彼らに感覚がないと確信していますが、感覚とは何を意味するのかと尋ねると、「わからないけど、彼らにはない」と言います。それは、何であるかわからないものを持っていないと確信するのは、かなり矛盾した立場のように思えます。
だから私は主観的経験に焦点を当てることを好みます。それは楔の細い端のようなもので、もし彼らが主観的経験を持っていることを示すことができれば、人々は意識や感覚についてそれほど確信を持てなくなるでしょう。
主観的経験について話しましょう。例えば、私が酔っ払って、目の前に小さなピンクの象が浮かんでいるという主観的経験があると言ったとします。ほとんどの人はそれがどういう意味かのモデルを持っていますが、私はそのモデルが完全に間違っていると思います。
彼らのモデルは、内なる劇場があり、その劇場の中に小さなピンクの象が浮かんでいて、それを見ることができるのは私だけだという、少なくとも知覚に関する心のスタンダードなモデルです。私はそのモデルが完全に間違っていると思います。それは宗教原理主義者の物質世界のモデルと同じくらい間違っています。宗教原理主義者が世界は6000年前に作られたと信じているようなものです。それはナンセンスで間違っています。信じることを選べる真実ではなく、単に間違っているのです。
だから私は、人々の心のモデルが単に間違っていると思います。もう一度、小さなピンクの象が目の前に浮かんでいるという主観的経験を例に取り、今度は「主観的経験」という言葉を使わずに全く同じことを言ってみましょう。
こうです。私の知覚システムが私に何かを伝えています。それを私は信じていません。だから「主観的」という言葉を使うのです。もし本当に小さなピンクの象が目の前に浮かんでいたら、私の知覚システムは真実を伝えているはずです。それだけです。「主観的」や「経験」という言葉を使わずに同じことを言いました。
つまり、私の知覚システムが間違っているとき、私は「主観的」という言葉を使ってそれをあなたに示し、私の知覚システムが伝えようとしていることを説明しようとして、もし世界がそのようであれば私の知覚システムが真実を伝えているような、仮想的な世界の状態についてあなたに話すのです。
では、チャットボットについても同じことをしてみましょう。マルチモーダルなチャットボットがあるとします。ロボットアームで指差すことができ、カメラを持ち、もちろん話すこともできます。訓練をして、その前に物体を置いて「物体を指差して」と言うと、問題なく物体を指差します。
次に、チャットボットが見ていないときにカメラレンズの前にプリズムを置き、物体を置いて「物体を指差して」と言うと、違う方向を指差します。私たちが「違います。物体は実際にあなたの真正面にあります。レンズの前にプリズムを置いたのです」と言うと、チャットボットは「なるほど。プリズムが光線を曲げたので、物体は実際にそこにあるのですが、私にはそこにあるという主観的経験がありました」と言います。
もしチャットボットがそう言えば、私たちが使うのと全く同じように「主観的経験」という言葉を使っていることになります。だから私は、マルチモーダルなチャットボットは既に主観的経験を持つことができると言います。知覚システムを混乱させると、世界が一つの方法で存在すると考え、実際には別の方法で存在することになり、世界がどのように見えるかを伝えるために、このような主観的経験があったと言うでしょう。
だから彼らは既に主観的経験を持っているのです。すると、他のことについてもそれほど確信が持てなくなります。意識はもちろんより複雑です。人々が考える意味は様々だからです。自己反省的な要素、自己認識の要素があり、それがより複雑にしています。しかし、彼らが主観的経験を持っていることを確立すれば、彼らには決して持つことのできない何かが私たちにあるという考えを捨てることができます。それが私をずっと不安にさせます。
ご存知の通り、Theories of Everythingでは、理論物理学から意識、AIや新興技術に至るまで、最も現実を揺るがすような概念を掘り下げています。エコノミストは、私たちがここで探求するような様々なトピックについて、そしてそれ以上のことについて、洞察に満ちた分析と深い報道の源泉であると考えています。エコノミストの厳格なジャーナリズムへの取り組みにより、科学的イノベーションからグローバル政治の地殻変動まで、世界の最も重要な発展について明確な像を得ることができます。
エコノミストの特徴は、このポッドキャストで私たちが目指しているように、複雑な問題をわかりやすく魅力的なものにする能力です。私たちの世界を形作る力についての知識を広げ、より深い理解を得ることに情熱を持っておられるなら、エコノミストの購読をお勧めします。それは後悔のない知的成長への投資です。TOEのリスナーとして、20%の特別割引を受けることができます。エコノミストとそのすべての提供物を、より安価にお楽しみいただけます。ウェブサイトwww.economist.com/toeにアクセスして、始めてください。ご視聴ありがとうございます。それでは、宇宙の神秘の探求に戻りましょう。
コメント