6,165 文字
私たちは今回のことにとても興奮しています。長い間取り組んできた成果です。GPTシリーズのモデルは、シンプルな思考において素晴らしい能力を発揮しましたが、私たちが本当に求めていたのは推論できるシステムでした。AIが複雑な問題を通じて推論できるようになれば、とてつもない価値が生まれます。その一端はGPT-4モデルで垣間見ることができましたが、o1は本当に高度な推論ができる最初のシステムなのです。
難しいプログラミングの課題や数学の問題、科学的な課題を与えると、非常に優れた結果が得られます。私たちはこれが時間とともに、GPTシリーズと同じくらい重要なものになり、新しい非常に価値のある用途を数多く開拓していくと考えています。これは新しい種類の推論モデルのGPT-2段階にいるようなものです。今後数年かけてGPT-4相当まで進化していくでしょう。
数カ月のうちに、o1プレビューからo1に移行するにつれて大きく改善されていくことがわかるでしょう。発表ブログでいくつかの指標を共有しましたが、これは非常に大きな一歩前進です。新しいパラダイムの面白い点の一つは、改善曲線が本当に急であることです。現時点でモデルが解決できない問題も、数カ月後には解決できるようになり、その数カ月後にはさらに多くのことが解決できるようになるでしょう。
重要なのは、これらのモデルを使用する全く新しい方法が見えてくることです。GPT-3.5がAPIで利用可能になった時、ChatGPTの登場で多くの人々が使い始めましたが、それでも人々がChatGPTの使い方を理解するまでに時間がかかりました。私たちも他の機能を構築し、人々が求める機能を追加するのに時間がかかりました。
o1についても同じような段階にいます。チャットインターフェース以外の全く新しい使い方が出てくるでしょう。私たちや他の人々がそれらを構築するのに時間がかかるでしょうし、ユーザーが使い方を理解するのにも時間がかかるでしょう。これはGPTモデルとはかなり異なります。
私たちは5段階のAIについて話をしています。第1段階はチャットボット、第2段階は今到達した推論機能、第3段階はエージェント、第4段階はイノベーター（新しい科学的知見を見出す能力）、第5段階は完全な組織です。第1段階から第2段階への移行には時間がかかりましたが、第2段階の最も興奮する点の一つは、その後比較的早く第3段階へと移行できることです。この技術が最終的に可能にするエージェント体験は、非常に大きな影響を与えると考えています。
大きなパートナーシップについて話し合う際、最初の数分で本当にやりたいかどうかが分かるものですが、あなたと話をした時にまさにそう感じました。この新しい技術が顧客や人々にもたらす可能性について共通の信念を持ち、T-Mobileが革新的で実験的な企業として私たちと一緒に取り組むことに積極的だったことは素晴らしかったです。
カスタマーエクスペリエンスを本当に改善し、カスタマーサポートの在り方を完全に再構築するという具体的なユースケースについて話し合った時、ワシントンのオフィスで即座に「これはやるべきだ」と確信しました。最高の人材を投入しようと思いました。
テスラの印象的な成長について、テスラ推しや次の株式市場の逸材を見出す目利きにとって、Seeking Alphaは完璧な情報源です。テスラ、テスラの株価目標、テスラのイノベーション、そしてイーロン・マスクに関する最新情報を提供しています。説明欄のアフィリエイトリンクからの購入で、当チャンネルに手数料が入る可能性があります。
この新世代のモデルについて最も期待していることの一つは、個々のユーザーや顧客向けのパーソナライゼーション、そして大量のデータを分析し、多くのツールやシステムにアクセスして魔法のような体験を提供できる統合機能です。intense CXとこのパーソナライゼーション、統合が組み合わさることで可能になることを考えると、顧客にとってどのような体験になるのか、次のベストアクションについて夢が広がります。
舞台裏であなたが素晴らしいネットワーク作りについて話すのを見ていて、これらのモデルがそこでできることを想像すると、誰も古い方法に戻りたくなくなるでしょう。顧客は二度と古いものを望まなくなるはずです。これは格段に良い体験になるでしょう。
これらのモデルが得意とすることにぴったりで、あなたが言及したように大量のデータがあり、これらのモデルはデータを理解することが非常に得意です。OpenAIについてあまり理解されていないことの一つは、私たちがAPIカスタマーデータでモデルをトレーニングしていないということです。それはあなたのデータであり、他の顧客のデータは彼らのものです。そのデータでカスタムモデルを作ることはできますし、文脈内学習でモデルを再トレーニングせずに使うこともできますが、これはOpenAIの基本モデルを改善するためのデータではありません。
まず、そのようなお褒めの言葉をありがとうございます。私たちは、それ以前の膨大な仕事の上に構築しています。AIの分野は古く、長年にわたって人々が本当に優れたアイデアを提供してきました。それ以上に、人類の歴史を通じて半導体を発見し、チップやネットワーク、これらの巨大なデータセンターを構築するために必要だった全ての仕事を考えると、私たちはその最上層のほんの一部を担っているに過ぎません。
しかし、私たちはできる限り最善を尽くし、非常に焦点を絞った研究プログラムを持つよう努めています。他の研究プログラムの間違いの一つは、十分な確信と集中力を持っていないことです。何かがうまくいったら真似するのは非常に簡単です。
成功する方法は2つあると思います。一つは「優れた早期追随者になり、OpenAIや他の誰かがやっていることをそのまま真似する」というものです。これは私が意図したほど否定的な意味ではありません。何がうまくいくか待って、洗練された実行を非常に上手く行う企業は多いからです。
しかし、フロンティアを押し広げようとするなら、それは非常に困難です。複雑な環境の中で多くの人々にわたる確信と焦点が、最良の前進方法だと思います。そこで私たちは「ディープラーニングを本当に信じている、それが私たちの賭けだ」と言います。
私たちはAGIとその先へのパスを信じていますが、途中で学んだことに基づいて修正する用意があります。目の前にある次のことに可能な限りの力を注ぎ、時間とともにそれが複利的に効いてくることを信じています。それが本当に私たちにとってうまくいき、それが私たちのシンプルなアプローチです。
まず、これは私たちの最も重要なパートナーシップの一つですが、AIで顧客に何ができるかを多くの人々に示す刺激になることを期待しています。これは素晴らしい新しいランドマークになるステップだと思います。
言及された通り、ヘルスケアは素晴らしい成果が期待される分野です。残念ながら世界の大部分は優れた医療へのアクセスがありませんが、これらのモデルがそれに対してできることについて、誰かが想像できる最高のAI医療アドバイザーを構築し、広く利用可能にするのを見るのが楽しみです。それは大きな前進になるでしょう。
教育も同様で、すでに素晴らしいことが起きています。o1が公開されてからまだ5日か6日程度ですが、人々が何をしているか見るのは本当に驚くべきことです。GPT-4でも人々は素晴らしいことをしていましたが、全ての学生が自分に最適なパーソナライズされた家庭教師を得られることを想像してみてください。他の教育経験と合わせて、それは非常に大きな意味を持つでしょう。
私個人が非常に期待している分野で、まだ将来のことですが今では垣間見ることができるのは、AIが科学的発見を加速させることです。世界の本当の持続可能な経済成長、私たち全ての生活が良くなることは、主に科学的進歩、技術的進歩から来ると信じています。AIがそれを加速できれば、新しいものを発明し、病気を治し、より良いエネルギー源を見つけることができれば、それは大きな勝利になるでしょう。
スーパーインテリジェンスには大きな不確実性があり、その定義も異なります。2年前、私たちは急激な曲線上にいると考えていました。OpenAIを始めたのは、これが可能で、それほど遠くないと考えたからです。そしてうまくいきましたが、うまくいくことを期待していました。私たちは人類の信じられない新発見としてのディープラーニングを信じ、ここまで到達できると考え、ここまで導き、うまくいくようにし、利益を広く共有する義務があると考えていました。
ここまで来られると思っていましたし、今でもそう信じています。確実ではなく、まだ多くの困難な仕事や研究、エンジニアリングが必要ですが、可能だと思います。そしてそれほど遠くない将来に可能だと思います。2025年には、現在の進歩に懐疑的な人々でさえ「これは予想していなかった、これは状況を変える」と言うようなシステムができると予想しています。
テスラの楽観論を共有しているのは他にも、本日のスポンサーであるSeeking Alphaです。Seeking Alphaはインターネット上で最高のテスラニュースソースです。説明欄のアフィリエイトリンクをクリックして、テスラの最新の提供価格、目標価格、イノベーション、そしてイーロン・マスクに関する全てを入手してください。特別なオファーへのリンクは説明欄にあります。
エージェントは今、誰もが語っているトピックです。それには良い理由があります。非常に賢い人間に与えるような複雑なタスク、つまり時間をかけて様々なツールを使用し、価値のあるものを作り出すような課題をAIシステムに与えることができるという考えです。来年にはそのようなことが期待できます。それは大きな出来事です。「ああ、これが起こるんだ」と話していますが、もし私たちが期待する通りにうまくいけば、それは本当に物事を変革する可能性があります。
スケーリングに壁があるのか、進化を続けるのかについて、人々が推測を好むことにいつも驚かされます。むしろ進歩の曲線を見て、指数関数を指数関数に対して賭けるべきではないと考えるべきでしょう。いずれにせよ、私たちには多くの新しい素晴らしいものがあります。
ホリデーシーズンに向けて楽しいことをしています。明日から「12日間のOpenAI」を始めます。次の12営業日、毎日何かを発表するかデモを行います。明日のことについてあまり多くは言えませんが、これは継続的な進歩です。RHF（学習後のステップ）、コンピューティングの観点からは小さなラッパーですが、ベースモデルの上に構築する非常に重要な作業があります。
製品自体の作業だけでなく、それを人々が愛する製品にする方法を見つけ出す必要がありました。これは単なる製品作業だけでなく、どのように調整して有用にするかという、まったく未知の困難な課題でした。スケールアップする必要があることは分かっていましたが、これまで誰も成し遂げたことのない2つのことを行う必要があり、それらは両方とも非常に重要な成果でした。
そして、他の企業が以前に行ってきたスケールアップなど、多くのことがありました。ほとんどの人は128の文脈長を必要としませんが、遠い将来を夢見ると、数十億の文脈長を持つようになり、あなたの全ての情報、歴史を時間とともに入力することで、どんどん良く理解するようになるでしょう。それは素晴らしいことですが、今のところ、人々はそのようにモデルを使用していません。
時々、論文や重要なコードリポジトリの一部などを投稿する人もいますが、モデルの使用のほとんどは長い文脈を使用していません。インターネットのクリップで、ビル・ゲイツが初期のコンピュータのメモリ量について話しているのを見たことがあります。数字は間違っているかもしれませんが、64KBか640KBで、そのほとんどがスクリーンバッファに使用されていて、コンピュータがギガバイトやテラバイトのメモリを必要とする世界が来るとは、本当に想像できないようでした。
テクノロジーの指数関数的な進化に従う必要があり、より良いテクノロジーの使い方を見つけていくでしょう。現時点で文脈長が10億に達することは想像できませんが、いつかそうなるかもしれません。文字通りそこまでいかなくても、実質的にそのように感じるでしょう。そしていったんそれを手に入れたら、もう元には戻りたくなくなるでしょう。
最も興味深いのは、特定のケースではなく、主に若い人々ですが、知的作業タスクのデフォルトのスタートポイントとしてAIを使用する人々です。多くのことを適度にうまくできることが重要で、GPT-4を使って文章を書いたり、コードを書いたり、検索をしたり、論文を編集したりできます。最も興味深いのは、ワークフローの開始点としてAIを使用する人々です。
これは今後のバージョンでさらに良くなると思いますが、継続的な改善が必要で、今年中に全てが解決されるわけではありません。それについては二つの考えがあります。人々は私たちが考える以上にテクノロジーの洗練された使用者であり、GPTやこれらのモデルが時々誤った情報を生成することをよく理解しているようです。重要な場面では確認が必要です。
2015年の心理状態に戻る必要がありますが、ディープラーニングで何か興味深いことが起きていて、規模が大きくなるほど良くなることは明らかでしたが、それ以外は何も明確ではありませんでした。何をするか分かりませんでした。OpenAIを始めた最初の日、部屋に座って互いを見つめ合い「さて、これからどうする？」と思ったことを鮮明に覚えています。
本当に何をすべきか分かりませんでした。研究をして論文を書き、アイデアを考えようと思いました。製品や収益の流れは将来の話で、言語モデルもずっと先の話でした。人々が実際に使いたいと思うものを作れるという考えは、他の人々が実装する論文以上のものではありませんでした。
営利企業を始めるなら、理論的には将来お金を生み出す何かのアイデアを持っている必要があります。OpenAIの当初の構想は、単なる研究所として何か機能するものを作れるかどうかを見ることでした。何か機能するものを作るまでに長い時間がかかり、その後の研究は次のステップを示す良い研究以外は、現在行っていることとは全く関係ありません。
Dota 2をプレイできるものを作りましたが、それはビジネスにするのが非常に難しいものでした。ルービックキューブを何とか解けるロボットハンドを作りましたが、最終的に多くの試行錯誤の後、製品と実際のビジネスになるものを見つけました。また、研究の方向性は選べず、科学の進む道に従う必要があることが分かりました。進歩を推し進めるには巨大な資源が必要で、そのためにビジネスモデルが必要でした。
コメント