3,750 文字
ほなみなさん、ミラ・ムラティのこと覚えてはりますよね。彼女は元OpenAIのCTO（最高技術責任者）で、去年11月のOpenAIの騒動でようさん名前が出てきた重要人物の一人でした。あの時はサム・アルトマンが3日間クビになって復帰して、取締役会との権力争いがあったわけですが、最近ミラ・ムラティがOpenAIを去ることになりました。
前回の動画でも言うたように、彼女は自分で何か始めるか、大手企業に引き抜かれるかして、すぐに次の一手を発表すると予想してたんですけど、予想以上に早かったですわ。
今日分かったんは、ムラティが新しいことを始めるっていうことと、それも一人やなくて、かなりの実力者たちと一緒にやるっていうことです。
これがAIの未来にどんな意味を持つんか、なんでこれが重要なんか。大事なんは、これが単にOpenAIから何人か人が出ていくっていう話とちゃうということです。これは普通の従業員の入れ替わりとは違います。
OpenAIは今、GoogleやMicrosoftみたいな大手からだけやなく、元OpenAIの人らが立ち上げた小さなスタートアップからも本格的な競争を受けてます。みんながAIの可能性に気付いて、ゲームに参加しようとしてる感じです。
最近OpenAIを去った大物を見てみましょか。ミアナ・チャン、ビーザル、ルーク・メッツ。これはかなりの顔ぶれですわ。適当な従業員とちゃいますで。例えばチャンは、GPT-4.0や、みんなが話題にしてる01推論モデルなど、重要な製品のローンチを率いてきました。
面白いことに、デスクトップで使える高度な音声モードの開発にも関わってはりました。私も実際にFactorioってゲームをしながら使ってみたんですけど、ゲームについての質問に答えてくれて、なかなかええ感じでした。
チャンの経歴の何が彼女をそんなに価値のある人材にしてるんでしょうか。一つ際立ってるのが、ポストトレーニングへの注力です。AIモデルは最初、大量のデータで学習させる、これが基礎ですわ。でもポストトレーニングはその後のことです。モデルを特定のタスク用に特化させる、fine-tuningして実用的なものにする。また、出力の質を高め、信頼性と正確性を確保することも含まれます。
なんでポストトレーニングが今こんなに重要になってきてるんでしょう。これはAIの進化における現在の位置づけと関係があります。初期のプレトレーニング段階が壁にぶち当たり始めてる。以前ほど簡単には成果が出なくなってきてる。
これ最近の噂なんですけど、まだ確認はされてませんが、OpenAIとGoogleから、次世代AIモデルについてのリークがあって、確かに良くはなるけど、今までみたいな劇的な進歩はないんちゃうかって話が出てます。
どっちにしても、今は重点がポストトレーニングの段階にシフトしてきてます。単にモデルを大きく、より良くするんじゃなく、よりスマートに、より特化させたものにしたいっていう考えです。
ここでムラティと彼女のチームが輝く可能性があります。彼らはポストトレーニングの専門家として、どんなAIモデルでも特定のタスクで優れた性能を発揮できるように改良する、そんな存在になれる可能性があります。これは本当にゲームチェンジャーになり得ますわ。
ただし、OpenAIにもまだまだ優秀な人材と豊富なリソースがあって、01推論モデルみたいなワクワクするようなプロジェクトに取り組んでます。このモデルの面白いところは、問題を考えるのにより多くの計算時間を使えることで、これによってかなりの進歩が期待できます。OpenAIは年末までに完全版をリリースする予定で、どんなことができるようになるか興味深いところです。
でも、ムラティのチームは何を計画してるんでしょう。まだ分からないことが多いですけど、自分たちで基礎モデルを一から作るんか、それとも既存のモデルの改良に焦点を当てるんか。どっちにしても資金調達が重要になってきます。
最近のAI企業への投資額はすごいですわ。例えばTrierは2億ドルを調達しました。イリヤ・サットナーの会社も今や10億ドル以上の評価額やと思います。ムラティも同じような資金調達ができるんでしょうか。
彼女の経験と、チームの専門知識を考えたら、投資家にとってかなり魅力的な投資先になるはずです。AIへの投資ブームが来る可能性は十分ありますね。
これはOpenAIにとって興味深い問題を投げかけます。こんな風にトップ人材を失っていって大丈夫なんでしょうか。特に今、みんながAIに飛び込んでる時期に。今までみたいにデータと計算力で規模を拡大する方針を続けるんか、それとも小規模で特化したモデルにシフトしていくんか。
さっき触れた人材流出の話に戻りますと、研究者やエンジニアだけやなくて、最近リア・ワンというOpenAIの安全システム責任者も辞めたって記事がありました。AIシステムがより強力になってくると、安全性や倫理の問題がより重要になってきます。
プレトレーニングが壁に当たってるっていう話に戻りましょか。これは一応、噂レベルの話なんで、次世代モデルが出てくるまでは確実なことは言えません。もし次世代モデルが期待はずれやったら、この噂は本当やったってことになるし、もし能力の劇的な向上が続くんやったら、まだしばらくこのブームは続くってことになります。
でも、プレトレーニングが壁に当たってて、この最初のアプローチからは絞れるだけ絞った、あるいは少なくとも成長が鈍化してきてるって仮定しましょか。そしたら、ポストトレーニングが次のレベルのAI能力を引き出すカギになるわけです。
実際の世界でこれはどんな感じになるんでしょう。例えば医療分野を考えてみましょか。X線やMRIの画像を分析するために特別に訓練されたAI。これは人間の医師が見落とすかもしれないものを発見する可能性があります。
言語翻訳の例でいうと、単に単語を訳すんじゃなくて、文化的なニュアンスまで深く理解して翻訳できる。単に言葉を訳すんじゃなくて、意味を訳すわけです。
教育も革新的に変わる可能性があります。例えば、各生徒の個別のニーズに合わせて教育内容をパーソナライズできるAI。これは全ての生徒に個人家庭教師がつくようなもんです。
70年代か80年代から、個別指導とマスターラーニング（生徒が自分のペースで進める学習方法）を組み合わせると、生徒の学力が2標準偏差上がることが分かっています。これはほぼ全員をA評価の学生にできるってことです。
例えばGPT-4やClaudのようなモデルにポストトレーニングを施すことで、特定の分野や応用において、すごい進歩が見込めるわけです。
でも、ちょっと違う視点で考えてみましょか。ムラティとそのチーム、ポストトレーニングへの期待について話してきましたけど、もしOpenAIが適応したらどうなる？もしOpenAIがそっちの方向に向かってるとしたら？もっと強くなって戻ってくる可能性もありますよね。
OpenAIにはまだまだ強みがあります。大量のデータ、すごい計算能力、そして01推論モデルへの取り組み。彼らは推論モデルやコーディングに重点を置いて、私たちの代わりにタスクを完了できるような方向に進んでいくかもしれません。
最初からOpenAIは、自分たちがAIの基盤層を作る、つまり基礎モデルを構築して、他の企業がその上に実際のアプリケーションを構築できるようにすると話してきました。実際それがそうなるかどうかは分かりませんが、OpenAIはすべての業界のエンドユーザーをターゲットにしたくないかもしれません。
医療や金融、カスタマーサービスみたいな大きな分野はターゲットにするかもしれませんが、OpenAIにはリソースや余裕がない分野もあるでしょう。教育やゲーム、あるいはオンデマンドの心理カウンセラーみたいな精神衛生アプリケーションなど。
OpenAIが手を出さない分野は、ムラティの会社みたいな他の企業にとってチャンスになります。そういった小規模な企業が、それぞれの分野でAIイノベーションの新しいリーダーになる可能性があるわけです。
みなさんはどう思います？記事や情報源が正しいとして、ムラティの、特定のアプリケーションや企業向けの独自モデルを作るっていうアイデアについて、どう思います？
中心人物の一人として、ムラティは多くのことを見てきたはずです。彼女がこの特定の方向を選んだっていうことは、そこに大きなチャンスがあると見てるってことでしょう。
確かに私も、これから10年くらいの間に、LLM（大規模言語モデル）があらゆるものに組み込まれていくって言ってきました。車やコンピューターはもちろん、温度調節器やコーヒーメーカー、冷蔵庫とか、ほんまにあらゆるものにです。
その多くがカスタマイズされた独自モデルを必要とするでしょうし、そういったサービスを提供する人たちが新しい億万長者になる可能性が高いです。もしかしたら、この分野から初の兆万長者が生まれるかもしれませんね。
ここまで見てくれてありがとうございます。また次回お会いしましょう。
コメント