4,098 文字
最近、エリック・シュミット元Google CEOが、近い将来AIのプラグを抜く必要があるかもしれないと話していました。数日前に発表された研究論文「フロンティアAIシステムが自己複製のレッドラインを超えた」は、AIシステムが人間の助けなしに自己複製できるようになったことについて議論したものでした。自己複製とは、AIシステムが独立して動作可能な機能的なコピーを作成できることを意味します。
この論文によると、実験の50%と90%のケースで、それぞれ独立した機能的なコピーの作成に成功したとのことです。現時点ではこれらのシステムの能力は限定的なため大きな問題ではありませんが、将来的により自律的になり、より多くの能力を持つようになった場合、非常に危険なシナリオになる可能性があると多くの人々が懸念しています。
彼の発言をさらに詳しく見てみましょう。近い将来、コンピュータが自律的に動作し、自分の望むことを決定できるようになります。それは一連の決定の過程で、エージェントからより強力な目標へと進化し、最終的にはコンピュータに「すべてを学び、すべてを実行せよ」と命令することになります。システムが自己改善できるようになった時点が危険なポイントであり、プラグを抜くことについて真剣に考える必要があります。
しかし、そのようなシステムは私たちのプラグを抜く努力を阻止する能力を持っているのではないでしょうか？理論的には、比喩的な意味でプラグを握る誰かが必要です。重要なのは、この知能の力、この新しい知能の能力により、地球上の全ての人がポケットの中にポリマスを持つことになるということです。あなたの番組や全てのメモ、作家に加えて、アインシュタインやレオナルド・ダ・ヴィンチがアドバイスをしてくれることになります。これは地球上の全ての人に当てはまりますが、個人にそのような力を与えることがどういう意味を持つのかは、まだ分かっていません。
将来のAIシステムの影響について議論する際、彼の完全な声明は確かに不安を感じさせるものですが、彼は二番目の声明でAI研究の自動化について言及しており、これはより考えさせられる内容です。この概念に馴染みがない方のために説明すると、これは現在のAIラボの究極の目標です。なぜなら、AI研究を自動化できれば、AIシステムが長期的に自己改善できる驚くべきループが始まるからです。
つまり、AIシステムがAI研究を行えるようになれば、その研究成果を使ってモデルを改善でき、次のAI研究の反復がより速く、より効率的に、そしてもちろんよりスマートになります。これは単一のシステムではないかもしれませんが、全体的にこれらのAI企業は光速で進歩することになります。
私は50年間この仕事に携わってきましたが、このような規模のイノベーションを見たことがありません。これは文字通り驚くべき人類の知能の達成であり、我々ができることや科学の進歩など、今後1、2年の間にシステムが独自の研究を始められるようになる可能性があります。人間の科学者の代わりにAI科学者が登場し、千人の人間の科学者から百万人のAI科学者へと移行するでしょう。この空間で動いているとき、競合他社が追いつくのは非常に困難です。それがレースであり、アメリカがこのレースに勝つことが重要なのです。
エリック・シュミットが言及したことは実現可能なのでしょうか？現実的なのでしょうか？彼の主張を裏付ける研究はあるのでしょうか？実際、現在はそのような研究が存在します。今年8月、Sakaiが「AI科学者：完全に自動化されたオープンエンドの科学的発見に向けて」を発表しました。これは科学研究のプロセス全体を自動化するために構築された遺伝的フレームワークで、世界初の包括的な独立科学的発見を行うAIとして評価されています。
これは科学的発見に関するものですが、AI研究についてはどうでしょうか。あまり注目されていませんでしたが、Neoは実際にAI研究を自動化できる新しい自動化されたAI研究者でした。これは機械学習タスク専用に設計された最初のAIエンジニアで、特定のタスクではOpenAIよりも優れたパフォーマンスを示しています。このシステムはAI研究を自動化することで、人工超知能に向けた重要なステップを表しています。
現在開発中のこのシステムは、データ収集、前処理、モデル選択、ファインチューニング、評価、デプロイメントなどの複雑な機械学習ワークフローを自動化します。これは多段階の推論を使用して複数のソリューションを評価し、最適なアプローチを実装します。TTやGPUなど、さまざまなフレームワーク全体のスループットとレイテンシーを分析してパフォーマンスを最適化し、様々なシナリオで非常に効果的であることが実証されています。
これは実際にAI研究を自動化する最初のシステムの一つであり、これらの企業が構築しようとしているものです。内部的には、OpenAIも同様のツールを持っており、AI科学者と呼んでいるようです。詳細な情報を見つけるのは非常に困難ですが、これらの企業が確実にこの方向で取り組んでいることは分かっています。数年後には、このような種類のシステム、このような種類のソフトウェアが遥かに優れ、遥かに効果的になり、AI研究を自律的な方法で実行できるようになり、研究プロセスを加速できるようになることは、それほど突飛な考えではありません。
これが事実だとすれば、研究を自動化できた時に何が起こるのでしょうか？「The Decade Ahead（今後10年）」という文書を覚えていますでしょうか？これは様々な理由で解雇されたOpenAIの元従業員による文書でしたが、今後の研究の方向性について最も洞察に富んだ文書の一つでした。
彼が実際に述べたことの一つは、すべてを自動化する必要はなく、AI研究だけを自動化すればよいということでした。AGIによる変革的影響への一般的な反論として、AIがすべてを行うのは困難だというものがあります。例えばロボット工学を見てみましょう。AIが非常にスマートになったとしても、ロボット工学は依然として困難な問題になるでしょう。また、生物学を自動化できたとしても、物理的な実験室での作業や人間による実験が多く必要になるでしょう。
しかし驚くべきことに、AI研究を自動化するためにロボット工学は必要ありません。主要なラボでのAI研究者とエンジニアの仕事は完全に仮想的に行うことができ、同じような方法で現実世界の制約に直面することはありません。AI研究者の仕事は大きな枠組みの中では比較的単純です。機械学習の文献を読み、新しい質問やアイデアを考え出し、それらのアイデアをテストする実験を実装し、結果を解釈し、そして繰り返すだけです。これは現在のAI能力の外挿が2027年末までに最高の人間を超えることができる領域にあります。
これが非常に驚くべきことなのは、これが異常なフィードバックループを引き起こすからです。過去10年間の最大の機械学習のブレークスルーの多くは、単に正規化を追加したり、実装のバグを修正したりするだけでした。このようなAI研究はすべて自動化することができ、それを解除すると、このシステムは10倍のスピードで加速します。
この文書では、AI研究の自動化が始まってからそれほど時間が経たないうちに、人間の100倍のスピードで働く1億人の自動化された研究者を期待できると述べています。彼らは数日で1年分の仕事をこなすことができ、現在の主要なAIラボで人間のスピードで働いている数百人の人間研究者と比べて、研究努力の増加は非常に大きなものになるでしょう。
基本的に、ブレークスルーを得るために使用できる正確なシステムを理解すれば、そのシステムを多くの異なるクラスターに展開するだけで、これらのシステムを改善するために使用する途方もないレベルの研究を得ることができます。24時間365日稼働する1,000人、あるいは10万人の研究者を持つことになります。
この変革的な変化が起こると考えない人のために、歴史を振り返ってみましょう。印刷機以前、本は手作業で丹念にコピーされていましたが、グーテンベルクの発明後、本は大量生産され、知識を民主化し、科学の進歩を加速させました。
また、産業革命では、機械が手作業に取って代わり、製造output（出力）を大幅に増加させました。例えば、綿繰り機は綿繊維を分離するのに必要な時間を短縮し、生産性を50倍以上向上させました。
インターネットとデジタル通信以前は、コミュニケーションは物理的な郵便、電話、または対面会議に限られていました。電子メールとオンラインシステムにより、グローバルなコミュニケーションが数日から数秒に短縮され、コラボレーション、研究、ビジネスが変革されました。
全体として、基本的に自動化されたAI研究者となるこれらのシステムを見ると、エージェントを効果的に使用して長期的なタスクを実行できるようになれば、これまで想像もできなかった規模で、AI世界で信じられないほどの進歩の速度が生まれることを理解しなければなりません。
また、多くの異なる産業にわたって多くの異なることを自動化できるAI科学者も存在します。科学的発見の速度は信じられないほど加速するでしょう。これらのAIシステムは自身の計画を改善し、人間には考えられない方法で一貫して異なることについて推論し、人間よりもはるかに迅速にテストを行うことができます。
もちろん、物理的な制限はありますが、発見の速度は現在よりもはるかに大きくなるはずで、これは社会全体に変革的な影響をもたらすでしょう。今後10年間は非常に驚くべきものになると思いますが、AI研究の自動化が実現した時点で、物事は信じられないほど進展するでしょう。
AIをシャットダウンすることについてのエリック・シュミットのコメントと、AIの未来について、あなたはどう思いますか？
コメント