みなさんこんにちは。私は最近、Anthropic社を解雇されたLeopold Aschenbrennerの165ページにおよぶエッセイを読みました。彼は近い将来、人工知能が人類の知性を超えると考えており、その理由を説明しています。
Aschenbrennerはドイツ出身の20代の若者で、以前はOxford Center for Global Prioritiesで短期間働いていました。現在はサンフランシスコに住んでおり、自身のウェブサイトによると「最近、汎用人工知能に焦点を当てた投資会社を設立した」そうです。
彼の新しいエッセイでは、現在のAIシステムが信じられないほど急速に進化していると主張しています。この傾向に終わりは見えず、結果として、ほぼすべての分野で人間を超えるだろうと述べています。AIのパフォーマンス向上に最も大きく貢献している要因は、コンピュータクラスターの増加とアルゴリズムの改善だそうです。これらの要因はどちらもまだ飽和状態には程遠いため、今後数年間は指数関数的に性能が向上し続け、ほぼすべてのタスクでAIが人間の知性を超えるのに十分だと予測しています。
Aschenbrennerによると、2027年までに汎用人工知能（AGI）が実現するそうです。この傾向に大きく貢献するのは、彼が「アンシャックリング」と呼ぶものだと言います。これは、現在のAIにはメモリ不足やコンピュータツールを自ら使えないなどの制限がありますが、それらは容易に克服でき、近いうちに克服されるだろうというものです。
私もAIが人間よりも賢くなるのにそれほど時間はかからないと思います。そして、その後、AIは自ら研究を行い、自身のアルゴリズムを改善できるようになるでしょう。
しかし、私がAschenbrennerの意見に賛同できないのは、それが知性の爆発につながり、科学技術や社会全般で非常に急速な進歩をもたらすと結論づけている点です。私がその予測を信じない理由は、彼がエネルギーとデータという2つの主要な制限要因を完全に過小評価しているからです。
より大きなモデルを学習させるには膨大なエネルギーが必要です。Aschenbrennerによると、2028年までに最先端のモデルは10ギガワットの電力で稼働し、コストは数千億ドルに達するそうです。2030年までには100ギガワットで1兆ドルのコストがかかると言います。比較のために、発電所は通常1ギガワット程度の電力を供給します。つまり、2028年までにスーパーコンピュータクラスターに加えて10基の発電所を建設する必要があるということです。それは技術的には可能かもしれませんが、実際に起こるとは考えにくいですね。
次にデータの問題があります。オンラインで利用可能なすべてのデータでAIを学習させたとします。次はどうするのでしょうか。どこからさらなるデータを得るのでしょう。Aschenbrennerは、ロボットを配備してデータを収集すればいいと言います。でもそのロボットはどこから来るのでしょう。
彼は、AIがロボット工学の残された問題をすべて解決し、最初のロボットがさらなるロボットを製造するための工場を建設すると考えています。でもその工場は何で建設するのでしょうか。おそらく、さらなるロボットによって採掘・輸送された資源を使うのでしょう。私はこれがうまくいくとは思えません。巨大なロボット労働力を作り出すには、AGIが必要なだけでなく、世界経済全体を変革する必要があります。それは最終的には起こるかもしれませんが、数年以内ではなく、せいぜい数十年かかるでしょう。
とはいえ、AGIが科学技術の大きな進歩のきっかけになるというAschenbrennerの意見には同意します。実際、現在は単に人間が発表された全てを読めないために、多くの科学的知識が無駄になっています。AGIならそれができるはずです。発表済みの科学文献の中に、新しい研究なしで隠れたアイデアがたくさんあるに違いありません。
AGIができるもう一つの重要なことは、単に間違いを防ぐことです。人間の脳は多くの間違いを犯します。論理エラー、バイアス、データ検索エラー、記憶の抜け、常に起こる日常的なエラーを事実上排除することで、AGIは何か新しいことをする前から世界を変えるでしょう。
Aschenbrennerのエッセイの後半は、AGIに伴うセキュリティリスクについて述べられています。彼の議論は、まるで世界の他の部分がほとんど存在しないかのように、米中対立に基づいています。これは「シリコンバレー・バブル症候群」の症状の一つと言えるでしょう。
でも世界が2つの国だけではないことや、世界経済が気候危機に押しつぶされようとしていることを彼が忘れていることは忘れて、私は彼に同意します。この地球上のほとんどの人々は、政府を含めて、AGIがもたらす影響の大きさを現時点で深刻に過小評価しています。そして目が覚めた時、彼らは手に入る全てのAGIを急いでコントロールしようとし、その使用に厳しい制限を課すでしょう。それが良いことだとか、そうなってほしいと思っているわけではありませんが、ほぼ確実にそうなるはずです。
1960年代、ノーベル経済学賞受賞者のハーバート・サイモンは、「20年以内に機械は人間ができるあらゆる仕事を遂行できるようになる」と予想しました。1970年代には、マーヴィン・ミンスキーが10年から500年以内にマシンが人間の知性のすべての範囲に到達すると予測しました。でもこれらの予測は全て外れました。
私がこの長い失敗した予測のリストから学んだことは、開拓的な研究に携わる人々は、世界が変化するペースを大幅に過大評価する傾向があるということです。私はAschenbrennerが考えているような世界に実際に住んでいればいいのにと思います。超人的な知性を心待ちにしています。でも残念ながら、知性の爆発は彼が考えているほど近くにはないのではないでしょうか。
だから、それまでは、トースターにパンを焦がさないようにさせるのはあきらめないでください。
人工知能について詳しく知りたい方は、brilliant.orgのコースをチェックすることをおすすめします。brilliant.orgでは、コンピュータサイエンスや数学など、幅広い科学分野のコースを提供しています。コースにはインタラクティブな可視化とフォローアップの質問が付いており、Pythonのスクリプトや実行可能な動画付きの小さなデモ実験もあります。
大規模言語モデルや量子コンピューティングの詳細を知りたい方、Pythonでのコーディングの仕方やコンピュータメモリの仕組みを学びたい方など、Brilliantにはあなたに合ったコースがあります。そして毎月新しいコースが追加されています。
もちろん、このチャンネルのユーザー向けの特別オファーもあります。brillant.org/Sabineのリンクを使えば、30日間Brilliantの全コースを無料で試せて、年間プレミアム購読料が20%割引になります。ぜひチェックしてみてください。
コメント