3,433 文字
数時間前、GoogleのAIスタジオのリーダーであるローガン・キルパトリック氏が、Googleの内部からのAIニュースの信頼できる情報源として、驚くべき声明を発表しました。私たちは複数のAGIを偶然に手に入れるだけでなく、ASI（人工超知能）への直接的な道筋も可能である、と。ASIとは、人類全体を合わせた知能を上回るAIとして定義されています。
このツイート自体はそれほど重要ではなかったかもしれませんが、なぜ、そしていつ投稿されたのかという全体像を見ると、私が今なぜ信じられない思いでいるのかがわかるでしょう。これはクリックベイトではありません。最後まで見てください。
すべては、OpenAI内部のプロジェクト・ストロベリー、別名Qスターから始まりました。これは革新的な新しいデザインのモデルだと報告されていました。これは噂のままでしたが、突如としてサム・アルトマンがOpenAIの主任科学者であるイリヤ・サツケヴァー氏によって解雇されるという出来事が起こりました。この出来事によってQスターの噂が現実味を帯び、「イリヤは何を見たのか」という疑問がミームとなりました。
人々は、イリヤが何か非常に強力なものを目にし、それが人類を守るためにそのような過激な行動を取らせる引き金になったのではないかと推測していました。ここで付け加えておくと、イリヤという人物は非常に慎重で思慮深く、論争やマーケティングの策略を避ける深い科学者の一人として知られていました。そのような彼がクーデターに参加したという事実が、人々に考えさせるきっかけとなったのです。
いずれにせよ、o1がリリースされた時、それはさほどの脅威には見えませんでした。ちなみに、QスターとストロベリーはOシリーズのコードネームでした。これで噂は終わるはずでした。しかし、イリヤ・サツケヴァーはOpenAIを去り、SSI（Safe Super Intelligence）という会社を設立し、超知能への直接的な道筋を目標として掲げました。
これは当時、パズルのもう一つのピースでした。イリヤはクーデターの影響でOpenAIを去らざるを得なく、資金と人材を引き付けるために去った後に大胆な声明を出さなければならなかったと主張することもできました。しかし、Safe Super Intelligenceは10億ドルの資金調達に成功しました。彼はどのように投資家たちを説得したのでしょうか？
イリヤは有名な科学者ですが、それだけでOpenAIからの離脱という一見絶望的な試みに10億ドルもの投資を正当化できるのでしょうか？それとも彼は実際に、ASIが達成可能だと投資家たちを説得する何らかの証拠を持っていたのでしょうか？再び、疑問が浮上しました。もしかしたらOpenAIはo01を超える何かを持っていて、私たちはそれをまだ知らないだけなのかもしれません。
私たちは長く推測する必要はありませんでした。OpenAIがo3を発表したのです。それは控えめに言っても驚きでした。今日考えられる最も困難な数学的ベンチマークである、未発表で非常に、極めて、とても非常に難しい問題を解決したのです。プロの数学者でも一つの問題を解くのに何時間も、場合によっては何日もかかるような問題です。
Oシリーズのモデルがベンチマークできるものは、最終的にすべて克服できます。正直なところ、これほど早くこのレベルの能力が現れるとは大きな驚きでした。AGIのための炭鉱のカナリアとして設定されたアークプライズを発表した時、それは既に飽和状態に達していました。
突然、人々は「これがAGIなのか」と考え始めました。私はそうは思いませんが、いずれにせよo03は単なる強力なモデルではありませんでした。それは新しいパラダイム、イリヤがおそらくo1で見て、すぐに何が来るのかを理解した新しい波の表れでした。
では、この新しいパラダイムとは何で、どのようにASIに関係するのでしょうか？まず、Oシリーズについて、あまり詳しくない方々のために10秒で説明させてください。OpenAIのOシリーズモデルは推論時の計算に焦点を当てています。これは技術的な言い方をすると、モデルが思いついた最初の言葉をただ吐き出すのではなく、多くの思考を生成し、そして別のAIがそれらを見て、答えにたどり着く可能性に基づいてランク付けするということです。
この新しい層は、私たちの思考を反映し評価する意識的な脳に相当します。これは根本的に、単なる単語の予測から、合理的な答えに導く一連のステップを予測することへと私たちを導きます。この反省はまた、信頼性の向上にも大きく貢献します。人々が毎回思いついた最初のことを言動に移していたら、どれほど信頼性に欠けるか想像してみてください。
しかし、それがどのように機能し、なぜそれほどうまく機能するかは重要ではありません。誰もを驚かせたのは、o1とo3の間のギャップでした。OpenAIのトップ研究者が言ったことを見てみましょう。o3は非常に高性能です。さらに重要なのは、o1からo3への進歩はわずか3ヶ月だったということです。これは、思考の連鎖に対する強化学習を使用する新しいパラダイムにおいて、推論時の計算のスケーリングが、GPTモデルを指す1〜2年ごとの新モデルの事前学習パラダイムよりもはるかに速いことを示しています。
これは、2025年にo3を手に入れるだけでなく、おそらくo4さらにはo5も手に入れ、他の企業も独自のバージョンをリリースする可能性が十分にあることを意味します。先ほど話した通り、GoogleはAlpha Thinkingモデルを確認しています。
では、ローガン・キルパトリックのツイートと、それがすべてをどのようにまとめているかを見てみましょう。ASIへの直接的な道筋は、月を追うごとにますます可能性が高まっているように見えます。これがイリヤが見たものです。事前学習モデルのスケーリングはまだ終わっておらず、今では推論時の計算のスケーリングも持っていることを忘れないでください。
では、ある企業が他のすべてを脇に置き、製品も中間リリースもなく、ただGPT4とClaude 2を超えるフロンティアモデルの事前学習と、o3をはるかに超える推論時の計算のスケーリングに注力したらどうなるでしょうか？言い換えれば、超知能への直接的な道筋です。AIが私たちの予想をすべて超えるかもしれないと考えるのは狂気でしょうか？
この動画が興味深いと感じたら、いいねと購読をお願いします。本当に助かります。では、なぜイリヤの試みは他と異なるのでしょうか？
現在のほとんどのAIラボは、製品の構築に多くのリソースを投入しています。研究モデルから何億人ものユーザーが使用可能な製品までのギャップは巨大で、それを埋めるには膨大な作業と注意が必要です。そのため、単にそれを機能させることに焦点を当てることの力を過小評価することはできません。かっこよく見える必要はなく、スケーラブルである必要もなく、何億人もの人々の手にある製品と同じ方法で安全である必要もありません。ただ機能すればいいのです。
そして彼は次のように述べています。イリヤはSSIを設立し、人工超知能への直接的な道筋を計画しています。中間製品も中間モデルのリリースもありません。私を含む多くの人々は、これが機能するとは考えにくいと見ていました。モデル、強化学習、製品のフライホイールを回転させれば、実際のモードを構築できます。
しかし、イリヤが早期の兆候を見ていたであろうテスト時の計算のスケーリングの成功は、このスケールアップを継続する直接的な道筋が実際に機能するかもしれないという良い指標です。私たちはまだAGIを手に入れることになりますが、4年前のコンセンサスとは異なり、それが歴史の変曲点になるというよりも、おそらく多くの反復と、短期間で市場に似たような選択肢が現れる製品リリースのように見えるでしょう。
これは、多くの類似製品が登場していることを指し、この段階ではおそらくエンジニアリングとスケーリングの問題に過ぎないということです。そして私たちは、AGIだけでなく、ASIも想像していたよりも早く手に入れる可能性があります。
私の名前はプーヤです。最もホットな見解をお届けしています。また次回お会いしましょう。
コメント