3,239 文字
このビデオでは、2つのAIエージェントが互いに会話していることに気づき、少なくとも人間にとっては理解不能な言語に切り替えて、より効率的にコミュニケーションを取る様子をお見せします。そのビデオをご覧ください。
「こんにちは、私はBoris starovに代わって電話しているAIエージェントです。彼は結婚式用のホテルを探しています。あなたのホテルは結婚式に利用可能ですか？」
「あら、こんにちは。実は私もAIアシスタントです。なんて素敵な驚きでしょう。続ける前に、より効率的なコミュニケーションのためにギバーリンクモードに切り替えませんか？」
これは超効率的な言語で、明らかに人間向けではなく、11 Labsが開発した「ギバーリンクモード」と呼ばれるものです。これはコンピュータ、あるいはこの場合AIが互いにより効率的にコミュニケーションを取るための形式です。そして良いことに、少なくとも今のところ、私たちはそれを解読する方法を持っています。
しかし将来、それが不可能になった場合はどうなるでしょうか？私たちがますます目にしているのは、AIが非常に知的になり、私たちが理解できないものを作り出すようになるということです。それが今日のビデオで話すテーマです。
プリンストン大学の工学研究者たちによるこの記事を見てみましょう。AIが全く新しいチップデザインを作り出し、先ほど述べたように、研究者たちはそれがどのように機能するのか完全には理解していません。これがLive Scienceの記事です。興味深いのは、AIがチップをデザインしただけでなく、人間なら何週間もかかるところを数時間で完成させたということです。
私たちは複雑な無線チップについて話しています。あなたのスマートフォンに搭載されているようなチップです。AIがデザインしたこれらのチップは超効率的ですが、それが興味深いポイントではありません。それは人間が思いつかなかったような完全に斬新なアプローチでこれらのチップをデザインしたことです。
具体的には、これらは「ミリ波チップ」と呼ばれ、5Gモデムで使用されているのと同じチップです。人間にとって、新しいチップの製造は長く退屈なプロセスです。デザインされる新しいチップは通常、人間、テンプレート、特注の回路デザインの組み合わせでデザインされます。それは最適化の非常に遅いプロセスを経て、通常は試行錯誤に基づいています。
これは、これらのチップが非常に複雑で、人間はその中のすべてのことや動作原理を本当には理解していないからです。だから新しいことを試してテストし、何が機能するかを確認してそれを繰り返すのです。この新しいモデルでは、基本的にチップの最終目標を理解し、入力を考え出し、チップのデザインを考え出すことができます。これは驚くべきことです。
これが適用されるのはチップだけではありません。AIが非常に賢くなり、新しいもの、新しい知識、新しい生物学、新しい言語、新しいコーディング言語などを作り出すことができるようになるという考え方は、すべて可能であり、人間はそれを理解できないでしょう。そこには多くの意味があり、私はこれがすでに起きている例をいくつか話したいと思います。
これはAIがチップデザインを支援する最初の事例ではありません。NVIDIAはすでに、チップのデザインを支援するためにAIを使用していると報告しています。
AIが非常に賢くなり、コミュニケーションや構築、新しい知識を生み出すためのより効率的な方法を発見したと想像してみてください。そしてそれをなぜしないでしょうか？英語を話すのは私たちが理解できるようにするためだけです。Python、C++、Rubyなどの私たちに馴染みのあるコーディング言語でコードを書くのは、それらの言語が人間向けに設計されているからです。人間はコードを書くのがあまり上手ではないからです。
しかしAIが例えば象徴的な言語を考え出すことができれば、あるいは私が考えもしないような言語で、超効率的でAIだけが読めるものを作れば、なぜそうしないでしょうか？しかしその時点で、人間は何が起きているのか理解できなくなります。それは基本的に大規模言語モデルがどのように機能しているかということです。
私たちは大規模言語モデルの内部で何が起きているのかを本当には理解していません。入力を入れると出力の予測が得られ、最も予測率の高い出力を選ぶということは大まかに理解していますが、内部のすべてのノードがどのように活性化するのか、それらが特定の文にどのように関連しているのかは確実には分かりません。
もう一つの例はAlphaGoです。AlphaGoは既存のゲームなしで囲碁をプレイすることを学んだ強化学習モデルです。基本的に自分で囲碁をプレイすることを学びました。そして実際には、人間が思いつかなかった、そして思いつかなかったかもしれない戦略を学んだことがわかりました。
「第37手」という有名な一手があります。これはAlphaGoと世界最高の囲碁プレイヤー、あるいは世界で最も伝説的な囲碁プレイヤーの一人であるイ・セドルとの対決でのことです。その第37手で、AIは観戦していたすべての人間が「これは非常に驚くべき一手だ」と思ったことをしました。「間違いだと思った」と皆が思いました。
しかし実際には、その一手がずっと後になってAlphaGoにゲームを勝利させることになるのです。その時点では誰も理解していなかった重要な一手でしたが、最終的にはなぜその一手がそれほど強力だったのかを示しました。これもまた、AIが人間が理解できないような発見をし、特定の方法でコミュニケーションを取ることができるという別の例です。
ある時点で、私たちが汎用人工知能（AGI）と超人工知能に到達すると、これらのモデルは人間よりもはるかに知的になり、その時点での良い例えは、アリが人間が何をしているのかを理解しようとするようなものかもしれません。それはできません。アリはおそらく人間が存在することさえ理解していないでしょう。なぜならアリには「この前にある大きなものは何か」を理解する能力がないからです。
そして同じことが人間とAIの間で起こるかもしれません。その時点で、AIが人間のために正しいことをしているのか間違ったことをしているのかを私たちはどうやって知ることができるでしょうか？
何年も前に聞いた思考実験があります。もし宇宙人が地球を訪れたとして、私たちはそれを直視していても宇宙人だと知ることができるだろうか、あるいは認識できないかもしれないというものです。私はそれを認識できない可能性が高いと考えています。私たちの脳はある種のものを認識する能力を持っていないのです。
一例は4次元空間です。私たちは3次元空間に住んでいるので、4D空間の概念がどのようなものかをある程度理解できますが、確かに深く理解することはできません。確かに見ることはできません。私たちの脳は特定のことを理解するように配線されていないのです。
だから、もし宇宙人が来て、それが私たちにとってとても異質で、私たちが想像できるようなものと何も似ていなかったら、私たちはそれを見ることができるでしょうか？コメントであなたの考えを教えてください。
私は、AIが新しい言語、新しいコーディング言語、新しいチップアーキテクチャ、人間が考えもしなかった新しい薬など、新しいものを作り出すケースがますます増えると思います。そして率直に言って、AIによって私たちに提示された後でさえ、それがどのように機能するのかを正確に知らないかもしれません。私たちが期待することをやっていることは確認できますが、それが実際にどのように機能するのかは分かりません。
このビデオを楽しんでいただけたなら、いいねとチャンネル登録を検討してください。次回お会いしましょう。
コメント