3つの所見

3,630 文字

Our mission is to ensure that AGI (Artificial General Intelligence) benefits all of humanity. Systems that start to poin...

私たちの使命は、AGI*(汎用人工知能)が人類全体に恩恵をもたらすことを確実にすることです。

AGIを示唆するシステム*が視野に入ってきており、私たちは今この瞬間を理解することが重要だと考えています。AGIは曖昧な定義の用語ですが、一般的には、多くの分野で人間レベルの、ますます複雑な問題に取り組むことができるシステムを指します。

人々は理解と創造への本質的な欲求を持つ道具作りの存在であり、それによって私たち全員にとって世界がより良くなっていきます。各世代は前世代の発見の上に立ち、さらに高性能な道具を作り出してきました – 電気、トランジスタ、コンピュータ、インターネット、そして間もなくAGIが登場します。

時間の経過とともに、紆余曲折を経ながらも、着実な人類のイノベーションの歩みは、以前には想像もできなかったレベルの繁栄と、人々の生活のほぼあらゆる側面における改善をもたらしてきました。

ある意味で、AGIは私たちが共に構築している人類の進歩という、この絶えず高くなる足場の中の単なる別の道具に過ぎません。しかし別の意味では、「今回は違う」と言わざるを得ない何かの始まりでもあります。私たちの目の前にある経済成長は驚異的で、あらゆる病気を治し、家族と過ごす時間をより多く持ち、創造的な可能性を完全に実現できる世界を想像できるようになりました。

10年後には、おそらく地球上の誰もが、今日最も影響力のある人物が成し遂げられることよりも多くのことを達成できるようになるでしょう。

私たちはAI開発における急速な進歩を引き続き目にしています。AIの経済性に関する3つの所見を紹介します：

AIモデルの知能は、訓練と実行に使用されるリソースのおよそ対数に比例します。これらのリソースは主に訓練用の計算能力、データ、推論用の計算能力です。任意の金額を投資すれば、継続的で予測可能な利益が得られることが分かっています。これを予測するスケーリング則は、多くの桁数にわたって正確です。
特定レベルのAIを使用するコストは12ヶ月ごとに約10分の1に低下し、価格の低下は使用量の大幅な増加につながります。これは2023年初頭のGPT-4から2024年半ばのGPT-4oまでのトークンコストで確認でき、その期間中にトークンあたりの価格は約150分の1に低下しました。ムーアの法則は18ヶ月で2倍という変化で世界を変えましたが、これは信じられないほど強力です。
知能を線形的に増加させることによる社会経済的価値は、超指数関数的な性質を持っています。その結果として、私たちは近い将来、指数関数的に増加する投資が止まる理由は見当たらないと考えています。

これら3つの所見が引き続き真実であり続ける場合、社会への影響は大きなものとなるでしょう。

私たちは現在、最終的には仮想の同僚のように感じられるようになるAIエージェントの展開を開始しています。

ソフトウェアエンジニアリングエージェントの例を想像してみましょう。これは特に重要になると予想されるエージェントです。このエージェントは最終的に、一流企業で数年の経験を持つソフトウェアエンジニアができる多くのことを、数日程度の作業であれば実行できるようになると想像してください。最も革新的なアイデアは生み出せず、多くの人間の監督と指示を必要とし、一部のことは優れていますが、他のことは意外なほど不得手でしょう。

それでも、実在するが比較的ジュニアな仮想の同僚として想像してください。そして、そのような存在が1,000人いる場合を想像してください。あるいは100万人いる場合を。さらに、そのようなエージェントがあらゆる分野の知識労働に存在する場合を想像してください。

ある意味で、AIは経済的にはトランジスタのようなものかもしれません – うまくスケールし、経済のほぼすべての隅々にまで浸透する大きな科学的発見です。私たちはトランジスタやトランジスタ企業についてあまり考えることはなく、その利益は非常に広く分配されています。しかし、私たちのコンピュータ、テレビ、車、おもちゃなどが奇跡的な性能を発揮することを期待しています。

世界は一度に変わるわけではありません。それは決してありません。短期的には生活は概ね同じように続き、2025年の人々は2024年と同じように時間を過ごすでしょう。私たちは依然として恋に落ち、家族を作り、オンラインで議論し、自然の中をハイキングするでしょう。

しかし、無視できない方法で未来が私たちに迫ってくることになり、社会と経済への長期的な変化は巨大なものとなるでしょう。私たちは新しいことをする方法、お互いに役立つ新しい方法、競争する新しい方法を見つけることになりますが、それらは今日の仕事とはまったく異なる様相を呈するかもしれません。

主体性、意志力、決意は極めて価値のあるものとなる可能性が高いでしょう。何をすべきかを正しく決定し、絶えず変化する世界をどのように進んでいくかを理解することは大きな価値を持つことになります。レジリエンスと適応能力は育成すべき有用なスキルとなるでしょう。AGIは人間の意志力に対する史上最大のレバレッジとなり、個々の人々がこれまで以上に大きな影響力を持つことを可能にします。

AGIの影響は不均一になると予想されます。一部の産業はほとんど変化しないものの、科学の進歩は今日よりもはるかに速くなる可能性が高く、このAGIの影響は他のすべてを凌駕する可能性があります。

多くの商品の価格は最終的に劇的に下落するでしょう（現在、知能のコストとエネルギーのコストが多くのものを制約しています）。一方で、贅沢品や土地のような本質的に限られた資源の価格は、さらに劇的に上昇する可能性があります。

技術的に見れば、私たちの前にある道は比較的明確です。しかし、AGIを社会にどのように統合すべきかについての公共政策と集団的な意見は非常に重要です。私たちが早期かつ頻繁に製品を発表する理由の一つは、社会と技術が共進化する時間を与えるためです。

AIは経済と社会のあらゆる領域に浸透していき、私たちはすべてのものがスマートであることを期待するようになるでしょう。多くの人々は、これまで以上に人々に技術に対する制御を与える必要があると考えており、より多くのオープンソース化を含め、安全性と個人の権限付与のバランスにはトレードオフが必要であることを受け入れる必要があります。

私たちは決して無謀になることを望みませんし、AGIの安全性に関連して一部の重要な決定や制限は人気がないかもしれませんが、方向性としては、AGIの実現に近づくにつれて、個人の権限付与へとより傾斜していくことが重要だと考えています。私たちが見える他の可能性のある道筋は、権威主義的な政府がAIを使用して大規模な監視と自律性の喪失を通じて国民を支配することです。

AGIの恩恵が広く分配されることを確実にすることは極めて重要です。技術進歩の歴史的影響は、私たちが気にかける指標の大部分（健康状態、経済的繁栄など）が平均的に、そして長期的に改善されることを示唆していますが、平等の増進は技術的に決定されているようには見えず、これを正しく実現するには新しいアイデアが必要かもしれません。

特に、資本と労働の力関係は容易に崩れる可能性があり、これは早期の介入を必要とするかもしれません。私たちは、地球上の全ての人々が多くのAIを使用できるようにする「計算能力予算」のような奇妙に聞こえるアイデアにも開かれていますが、単に知能のコストを可能な限り低下させ続けることが望ましい効果をもたらす方法も多く見えています。

2035年の誰もが、2025年の全ての人々に相当する知的能力を動員できるようになるべきです。誰もが、自分が想像できるように活用できる無制限の天才にアクセスできるべきです。現在、その能力を十分に発揮するためのリソースを持たない才能が多く存在しており、それを変えることができれば、世界の創造的な産出の結果として、私たち全員に途方もない恩恵がもたらされるでしょう。

Josh Achiam、Boaz Barak、Aleksander Madryの各氏には草稿の確認に特に感謝いたします。

*ここでAGIという用語を使用することで、私たちは明確なコミュニケーションを図ることを目的としており、Microsoftとの関係を定義するプロセスや定義を変更または解釈しようとする意図はありません。私たちは長期的にMicrosoftとパートナーシップを組むことを完全に期待しています。この脚注は馬鹿げているように見えるかもしれませんが、一方で、一部のジャーナリストが馬鹿げたことを書いてクリックを集めようとすることを私たちは知っているので、ここで馬鹿げたことを先制的に防いでいるのです…