15,980 文字
ハリー：皆さん、こんにちは。OpenAI DevDayへようこそ。私は20VCのハリー・スタビングスです。本日はサム・アルトマンへのインタビューを担当することになり、大変嬉しく思います。サム、本日は私にこの機会を与えてくれてありがとうございます。
サム：ありがとうございます。
ハリー：会場から多くの質問が寄せられていますが、まず皆があまり聞かない質問から始めたいと思います。あなたは世界で最も忙しい人の一人でありながら、いつも非常に爽やかに見えますが、調子はいかがですか？
サム：大丈夫ですよ。人は何にでも慣れるものだと思います。ここ数年は確かにクレイジーに忙しかったですが、今ではそれが普通の生活になっていて、以前はどうだったのかを忘れてしまうくらいです。
ハリー：会場からたくさんの素晴らしい質問が寄せられていますので、本題に入りたいと思います。OpenAIの未来について、o1のようなモデルと、これまでの大規模モデルのどちらが主流になっていくとお考えですか？
サム：私たちは全体的な改善を目指していますが、推論モデルの方向性は特に重要だと考えています。推論によって、これまで何年も待ち望んでいた多くのことが実現できると期待しています。例えば、新しい科学的発見への貢献や、より複雑なコードの作成など、大きな進歩をもたらすと考えています。そのため、Oシリーズのモデルは急速に改善されていくでしょう。これは私たちにとって戦略的に非常に重要です。
ハリー：OpenAIの将来計画について、非技術系の創業者がAIアプリを構築・拡張するためのノーコードツールの開発についてはどのようにお考えですか？
サム：必ずそうなると思います。まずは、プログラミングのできる人をより生産的にするツールから始まるでしょう。ただし、最終的には高品質なノーコードツールを提供できると思います。既に一部のツールは存在していますが、「完全なスタートアップを作りたい」というようなことをノーコードで実現するにはまだ時間がかかるでしょう。
ハリー：現在のOpenAIの立ち位置について、スタックをどこまで上げていくのでしょうか？RAGシステムのチューニングに多くの時間を費やすのは無駄なのでしょうか？それともOpenAIは最終的にアプリケーション層を所有することになると考えているのでしょうか？創業者はこの質問にどう答えればいいのでしょうか？
サム：一般的な回答としては、私たちは偏見があり、自分たちの本を語っているかもしれず、間違っているかもしれませんが、モデルをより良く、より良く、より良くしていくために最善を尽くし、成功すると信じています。もし現在の小さな欠点を補うためのビジネスを構築しているのであれば、私たちが仕事をうまくやれば、将来的にはそれほど重要ではなくなるでしょう。
一方で、モデルが良くなれば良くなるほど恩恵を受けるような会社を作るのであれば、例えば、もし今日オラクルがGPT-4oが絶対に信じられないほど素晴らしくなり、現在は不可能に思えることをすべてできるようになると言ったとして、それを聞いて喜ぶのであれば、私たちは間違っているかもしれませんが、少なくともそれが私たちの目指すところです。
そして、もしGPT-4 previewの多くの不十分な部分の中から1つを選んで、それを何とか動くようにするだけというのであれば、次のモデルの改善が私たちが考えているほど良くないと仮定していることになります。これが、私たちがスタートアップに伝えようとしている一般的な哲学的メッセージです。現在のモデルの欠点は、将来の世代で解決されると考えています。
ハリー：以前、ブラドとインタビューをしたときに、申し訳ありませんがスケジュールから少し外れてしまいましたが、素晴らしいミームが生まれました。私が20VCのジャンパーを着ていたのは非常に誇らしい瞬間でしたが、あなたが言及したようなセグメントについて、潜在的にスチームロールする可能性があるということでした。創業者として考えた場合、OpenAIがどこでスチームロールする可能性があり、どこではそうならないのか。また、投資家として、ダメージを受けない機会に投資しようとする場合、創業者や私のような投資家はどのように考えるべきでしょうか？
サム：AIを使って、これまで不可能だったか、かなり非現実的だった製品やサービスを構築することで、新しい時価総額が何兆ドルも生まれると考えています。私たちが関連性を持たせようとする分野が1つありますが、それは単にモデルを本当に優れたものにして、望むことを実現するために苦労する必要がないようにしたいということです。しかし、この新しいテクノロジーの上に構築される他のすべての素晴らしい製品やサービスは、ただ良くなり続けていくと考えています。
初期の驚きの1つは、今はそうではありませんが、GPT-3.5の時代には、スタートアップの95%くらいがモデルがはるかに良くなることに反対する賭けをしたいと感じているようでした。我々はすでにGPT-4が来るのを見ていて、「これは本当に素晴らしくなるから、これらの問題は解決される」と考えていました。モデルの1つの短所を回避するためのツールを作っているなら、それはますます関連性が低くなっていくでしょう。
数年前のモデルがいかに悪かったかを忘れがちですが、カレンダー上ではそれほど長くありません。多くの問題があり、穴を埋めるためのものを構築するには良い分野に見えました。素晴らしいAIチューターや素晴らしいAI医療アドバイザーなどを提供するものを構築するのではなく。
当時は95%の人々がモデルが良くなることに反対する賭けをし、5%の人々がモデルが良くなることに賭けていると感じました。今はそれが逆転したと思います。人々は改善のペースを内在化し、私たちが何をしようとしているかを聞いているので、もはやそれほど問題ではなくなっています。しかし、非常に熱心に働いているすべての人々に何が起こるのかを見ていたので、以前は多くの心配をしていました。
ハリー：あなたは数兆ドルの価値が創造されると言いましたが、これらの素晴らしい質問に戻る前に、孫さんが舞台で「毎年9兆ドルの価値が創造され、それが必要だと考えられる9兆ドルの設備投資を相殺するだろう」と言っているのを見たかどうかはわかりませんが、それを見てどう思われましたか？どのように振り返られますか？
サム：具体的な数字は挙げられませんが、桁数で2つくらいの範囲であれば、今のところはそれで十分だと思います。明らかに多くの設備投資が行われ、多くの価値が創造されるでしょう。これは他のすべての巨大な技術革命でも起こったことで、これは明らかにその1つです。しかし、来年は次世代システムへの大きなプッシュが私たちにとってあるでしょう。
ノーコードのソフトウェアエージェントについていつ実現できるかはわかりませんが、それを例として使い、それに向かって想像してみましょう。誰もが望む会社全体のソフトウェアを単に説明するだけで実現できるようになったとき、世界にとってどれだけの経済的価値が解き放たれるか考えてみてください。これはまだ先の話ですが、実現したときのことを考えてください。現在それがいかに困難で高額かを考え、同じ価値を維持しながら、それを劇的にアクセスしやすく、より安価にすることを考えてみてください。それは本当に強力です。
他にも多くの例が見られるでしょう。先ほど医療と教育について触れましたが、これらは両方とも世界にとって数兆ドルの価値があり、正しく実現する必要があります。AIがこれまでとは異なる方法でこれを実現できるようになれば…大きな数字は重要ではありませんし、それがn兆ドルなのか1兆ドルなのかという議論も…私よりも賢い人々がそれを理解する必要がありますが、価値創造は信じられないほど大きいように思えます。
ハリー：その価値がどのように届けられるかについて、エージェントについて触れることになりますが、オープンソースは価値を届ける非常に顕著な方法の1つです。AIの未来におけるオープンソースの役割についてどのようにお考えですか？また、モデルをオープンソース化するべきか、あるいは一部のモデルをオープンソース化するべきかという質問が内部で出たとき、どのような議論になりますか？
サム：エコシステムにおいてオープンソースモデルには明らかに重要な場所があります。また、現在は良質なオープンソースモデルも存在しています。同時に、うまく提供され、統合されたサービスやAPIの場所もあると思います。これらすべてが提供され、人々が自分に合った配信メカニズムを選択できることは理にかなっていると思います。
ハリー：顧客へのドロップとして、そして配信方法としてオープンソースを持つことができます。エージェントを持つこともできます。エージェントについて、定義に関して多くの意味的な混乱があると思います。今日のエージェントの定義をどのようにお考えですか？あなたにとってエージェントとは何であり、何ではないのでしょうか？
サム：これは私の即席の答えで、よく考えられたものではありませんが、長期的なタスクを与え、実行中に最小限の監督で済むものだと思います。
ハリー：人々がエージェントについて誤解していることは何だと思いますか？
サム：これがどのようなものになるのか、私たち誰もがまだ直感を持っていないと思います。例を挙げましょう。人々がAIエージェントについて話すとき、ほぼ一貫して出てくる主な例は、「エージェントにレストランの予約を頼むことができる」というものです。OpenTableを使うか、レストランに電話するかですが…それは確かにやや面倒な作業で、いくらかの手間を省くことはできます。
しかし、興味深いのは、人間としてはできないか、やりたくないことができる世界です。例えば、1つのレストランに予約の電話をする代わりに、エージェントが300のレストランに電話をして、私に最適な料理があるところや、特別なものが提供されているところを見つけ出すとしたらどうでしょう。エージェントが300のレストランに電話をするのは非常に面倒だと思うかもしれませんが、もしそれぞれの300の場所でエージェントが応答するなら問題ありません。人間にはできない大規模な並列処理が可能になります。
これは些細な例ですが、人間の帯域幅には限界があり、これらのエージェントにはそのような限界がないかもしれません。しかし、私が思う最も興味深いカテゴリーは、人々が通常話すようなレストランに電話をかけてくれるものではなく、むしろ非常に賢い上級同僚のようなものです。プロジェクトで協力して、エージェントが2日や2週間のタスクを本当によくこなし、質問があるときはあなたに確認を取り、素晴らしい成果物を持って戻ってくるようなものです。
ハリー：これは根本的にSaaSの価格設定方法を変えることになりますか？通常は座席単位ですが、今は実質的に労働力を置き換えているようなものです。企業の中核的な部分としてそれを考えたとき、価格設定の未来についてどのようにお考えですか？
サム：私たちはいつも座席単位の価格設定を持っていますが…ここで楽しみのために推測してみましょう。私たちは本当にわかりませんが、例えば、1GPUか10GPUか100GPUを常に自分の問題に取り組ませたいと言えるような世界を想像できます。座席単位やエージェント単位での支払いではなく、常にあなたの問題に取り組んでいるコンピュート量に基づいて価格設定されるようなものです。
ハリー：エージェント用の特別なモデルを構築する必要があるのか、それとも必要ないのか、どのようにお考えですか？
サム：インフラストラクチャとスキャフォールディングの構築には膨大な作業が必要ですが、o1は優れたエージェントタスクを実行できるモデルの方向性を示していると思います。ところで、「エージェンティック」という言葉は嫌いです。新しい言葉を考えたいですね。
ハリー：それはあなたのチャンスですよ。新しい言葉を作れます。
サム：今は思いつきません。
ハリー：サム、モデル面について、誰もがモデルは減価償却資産だと言い、モデルのコモディティ化は進んでいると。これについてどのように考え、また、モデルのトレーニングに必要な資本集約度が高まっていることを考えると、実際には非常に少数の企業しかできないという逆転現象が起きているのではないでしょうか？
サム：確かにモデルは減価償却資産ですが、トレーニングにかかるコストほどの価値がないというのは完全に間違っているように思えます。モデルのトレーニング方法を学ぶにつれて、次のモデルのトレーニングがより上手くなるという正の複利効果があることは言うまでもありません。しかし、モデルから得られる実際の収益は投資を正当化すると思います。
ただし、公平に言えば、これは誰にでも当てはまるわけではありません。非常に似たようなモデルをトレーニングしている人が多すぎる可能性があり、少し遅れをとっているか、製品が通常のビジネスルールで粘着性があり価値があるものでなければ、投資収益を得るのが難しいかもしれません。私たちはChatGPTと数億人のユーザーがモデルを使用してくれているという非常に恵まれた立場にあり、たとえコストがかかっても、多くの人々にそのコストを分散させることができます。
ハリー：OpenAIのモデルが時間とともにどのように差別化を続け、その差別化を拡大するためにどこに最も焦点を当てたいとお考えですか？
サム：推論は現在の私たちの最も重要な焦点分野です。これが次の大きな価値創造の飛躍を実現すると考えています。他の多くの方法でも改善していきますし、マルチモーダルな作業も行い、人々が使いたいと思う方法に非常に重要なモデルの他の機能も実装していきます。
ハリー：推論とマルチモーダル作業について、どのようにお考えですか？達成したいことの課題は何でしょうか？
サム：うまくいくことを願っています。実現するには当然いくつかの作業が必要ですが、例えば人は赤ちゃんや幼児の時期、言語が上手く使えない段階でも、かなり複雑な視覚的推論ができますよね。つまり、これは明らかに可能なのです。
ハリー：o1によって設定された新しい推論時間パラダイムで、ビジョン機能はどのようにスケールしていくのでしょうか？
サム：ネタバレを避けたいと思いますが、画像ベースのモデルで急速な進歩が期待できると思います。
ハリー：これはネタバレですね。
サム：そうですね、少しキャロットを出しすぎました。
ハリー：GPTの出力は一般的にアメリカ英語のスペルやトーンになっています。私はこの質問がとても好きです。モデルの国際化、異なる文化、異なる言語についてどのようにお考えですか？それはどれほど重要でしょうか？
サム：面白いですね。私はイギリス英語を使いませんが、試したことはありませんが、イギリス英語も上手くできると思っていました。そうではないのですか？まあ、あなたのためにsは付けられるでしょう。
ハリー：OpenAIはどのように核心的な推論の進歩を実現しているのでしょうか？強化学習をプッシュしていく必要があるのか、それともトランスフォーマー以外の新しいテクニックが必要なのでしょうか？
サム：そこには2つの質問があります。どのように行うのかということと、誰もが好きな質問であるトランスフォーマーの先にある技術は何かということです。やり方は私たちの特別なソースです。うまくいくことがわかっているものをコピーするのは簡単です。そして、それが簡単な理由の一つは、それが可能だと確信できるからです。
研究所が何かを成し遂げた後は、たとえ正確なやり方がわからなくても、それをコピーすることはできます。これはGPT-4の複製でも見られ、o1の複製でも見られるでしょう。本当に難しいのは、そして私たちの文化について最も誇りに思っているのは、新しく未証明のことを繰り返し行う能力です。
AIの研究に限らず、一般的に多くの組織がこれを行う能力について語りますが、実際にそれを行う組織は非常に少ないです。ある意味で、これは人類の進歩にとって最も重要なインプットの1つだと思います。
私の引退後の夢の1つは、組織と文化を構築する方法について学んだことすべてを本にまとめることです。他の人がやったことをただコピーするのではなく、この新しいことを行う組織です。これは人材によって制限されていますが、これは私たちが上手く構築できない組織のスタイルや文化なので、膨大な人材が無駄になっています。もっと多くのそういった組織があればいいと思います。
ハリー：サム、人材はどのように無駄にされているのでしょうか？
サム：世界には本当に才能のある人々がたくさんいて、悪い会社で働いているか、良い会社をサポートしていない国に住んでいるか、その他の理由で、彼らの可能性を最大限に発揮できていません。AIで最も期待していることの1つは、現在よりもはるかに優れた方法で、誰もが最大限の可能性を発揮できるようになることです。今はそこから程遠い状況です。人生の道筋が少し違っていれば、素晴らしいAI研究者になれたはずの人がたくさんいると確信しています。
ハリー：サム、あなたは過去数年間で信じられないようなハイパーグロースを経験してきました。先ほど引退後に本を書くとおっしゃいましたが、過去10年間のリーダーシップの変化を振り返って、あなたのリーダーシップで最も大きく変化したことは何ですか？
サム：この数年間で私にとって最も異常だったのは、物事が変化するペースです。通常の企業では、売上高が0から1億ドル、1億ドルから10億ドル、10億ドルから100億ドルへと成長する時間があります。2年間でそれを行う必要はありませんし、私たちが持っていた研究はありましたが、従来のシリコンバレーのスタートアップのような、拡大して多くの顧客にサービスを提供する企業は本当になかったのです。
それを非常に急速に行わなければならなかったため、学ぶ時間が十分にないことがたくさんありました。
ハリー：十分な時間がなかった中で、どのようなことを知らなかったのですか？
サム：知っていたことは何かと言った方がいいかもしれません。思い浮かんだ100個のリストの中から1つを挙げると、会社の成長を次の10%ではなく、次の10倍に向けて集中させるのがいかに難しいか、どれだけの積極的な作業が必要かということです。
次の10%を成長させるのは、以前と同じことを繰り返せばいいのですが、例えば会社が10億ドルから100億ドルの売上高に成長するには、多くの変化が必要です。これは「先週やったことを今週もやろう」という考え方ではありません。成長があまりにも急速で、基本的なことにも追いつく時間がない世界では、次の大きな一歩を前進させながら、やらなければならない他のすべてのことを疎かにしないようにするために必要な作業量を私は大きく過小評価していました。
情報共有の方法や、会社が8ヶ月、12ヶ月ごとにより大きなこと、より複雑なことを考えるのが上手くなるための構造を構築する方法など、内部コミュニケーションに大きな部分があります。今日と来月に何をしなければならないかということと、1年後や2年後に実行できるようにするために必要な長期的な準備をどのようにバランスを取るかについても大きな部分があります。コンピュートの構築や、サンフランシスコのようなオフィススペースの十分な計画など、より一般的なことでさえも、このようなペースでは驚くほど難しいのです。
このようなプレイブックは存在しないか、誰かが秘密のプレイブックを持っていても私には共有されなかったのだと思います。私たちは皆、手探りでここまで来たのですが、途中で学ぶことがたくさんありました。
ハリー：トラブルに巻き込まれるかもしれませんが、言ってみます。後で対処することにして。キース・ラボワは講演で、30歳未満の非常に若い人材を雇うべきだと言い、それはピーター・ティールから学んだことで、素晴らしい会社を作る秘訣だと述べました。これにはかなりの反発がありました。引退後に書く本のことや、30歳未満の若く、野心的で意欲的な人材を雇うことで素晴らしい会社を作るというアドバイスについて、どのようにお考えですか？
サム：私はOpenAIを始めたとき30歳くらいでした。そんなに若くなかったですが、今のところうまくいっているようです。試してみる価値はあります。質問は、経験は少ないけれど若さとエネルギー、野心を持った30歳未満の人材を雇うことと、これをやったことがある、経験豊富な人材を雇うことのバランスについてですか？
明らかな答えは、両方のクラスの人材を雇って成功できるということです。つい先ほど、あるチームに最近雇った人についてSlackでメッセージを送っていました。年齢はわかりませんが、おそらく20代前半で、信じられないほど素晴らしい仕事をしています。「このような人をもっと見つけられないだろうか」と思っていました。これほど若くてこれほど優れているというのは理解できませんが、明らかにそういうことは起こります。そのような人材を見つけられたとき、彼らは素晴らしい新鮮な視点とエネルギーをもたらします。
一方で、人類が今まで作った中で最も複雑で巨大なコンピュータシステムのいくつか、あるいはあらゆる種類のインフラの一部を設計する場合、単に始めたばかりの人材に賭けることには不安を感じます。リスクが高いからです。
両方が必要で、本当に必要なのは、年齢に関係なく極めて高い才能のバーを持った人材と、若い人材だけを雇う、あるいは年配の人材だけを雇うという戦略は間違っているだろうということです。
それは私にとって、なんとなくしっくりこないフレーミングですが、その中で響く部分は、Y Combinatorについて最も感謝していることの1つで、経験がないということは本質的に価値がないということではなく、キャリアの本当の初期段階で信じられないほど高い可能性を持った人材がいて、彼らは大きな価値を生み出すことができ、社会として私たちはそのような人材に賭けるべきだということです。それは素晴らしいことです。
ハリー：私はスケジュールに戻ります。本当に叱られそうですが、Anthropicのモデルはコーディングでより優れていると言われることがありますが、なぜだと思いますか？それは公平だと思いますか？また、開発者はOpenAIと他のプロバイダーをどのように使い分けるべきでしょうか？
サム：彼らは確かにコーディングに優れたモデルを持っています。それは印象的な仕事です。開発者は大抵、複数のモデルを使用していると思います。このエージェント的な世界に向かっていく中で、それがどのように進化していくかはまだわかりません。しかし、AIはどこにでもあり、現在私たちが話したり考えたりしているやり方は何か間違っているように感じます。あえて言えば、モデルについての話からシステムについての話に移行するでしょうが、それには時間がかかるでしょう。
ハリー：モデルのスケーリングについて、スケーリング則があとどれくらいのモデルイテレーションで通用すると思いますか？長くは続かないという一般的な考えがありましたが、人々が考えていたよりも長く続いているように見えます。
サム：詳細には触れませんが、あなたが触れている質問の核心は、モデルの性能向上の軌道がこれまでのように続くのかということだと思います。私が信じている答えは、長期にわたってイエスです。
ハリー：それを疑ったことはありますか？
サム：完全にです。
ハリー：なぜですか？
サム：理解できない挙動や、失敗したトレーニングランなど、様々なことがありました。1つのパラダイムの終わりに近づき、次のパラダイムを見つけ出さなければならないとき、新しいパラダイムを理解する必要がありました。
ハリー：最も乗り越えるのが難しかったのはどれでしたか？新しいパラダイムかもしれませんし、トレーニングランかもしれません。最も記憶に残っている失敗は何で、それをどのように乗り越えましたか？
サム：GPT-4の開発を始めたとき、解決方法がわからない問題がいくつかあり、非常に悩みました。最終的には解決しましたが、そのモデルをどうやって実現するかわからない期間が確実にありました。そして、o1への移行と推論モデルのアイデアについては、長い間興奮していましたが、ここまでたどり着くには長く曲がりくねった研究の道のりがありました。
ハリー：長く曲がりくねった道のりのとき、トレーニングランが失敗するとき、モラルを維持するのは難しいですか？そのような時期にモラルをどのように維持しますか？
サム：ここには、AGIを構築することに興奮している多くの人がいて、それは非常にモチベーションになることです。誰も簡単で直線的な成功を期待していません。歴史上の有名な引用があります。完全に間違えるかもしれませんが、その精神は「私は神に私の味方になってくれるように祈ることはありません。神の味方になれることを祈り、願います」というようなものです。
ディープラーニングに賭けることには、天使の味方になっているような感覚があります。途中で大きな障害にぶつかることはありますが、最終的にはうまくいくように思えます。そのような深い信念が私たちにとって良かったのです。
ハリー：変な質問をしてもいいですか？最近良い引用を聞きました。「人生で最も重いものは鉄や金ではなく、未決定の決断である」というものです。あなたの心に最も重くのしかかっている未決定の決断は何ですか？
サム：毎日違います。1つの大きなものはありません。まあ、いくつか大きなものはあります。次の製品はこれにするのかあれにするのか、次のコンピュータをこの方法で構築するのかあの方法で構築するのかなど、一方通行的な非常にハイステークスなものです。他の誰もと同様に、私もおそらく長すぎる時間延期してしまいます。
しかし、主に難しい部分は、毎日新しい51-49の決断が数個出てきて、それらは51-49だったからこそ私のところまで上がってくるのです。私が他の誰かよりもよりよい判断ができるとは特に思えませんが、それでも決断しなければなりません。その量が問題なのであって、どれか1つということではありません。
ハリー：51-49の時、相談する相手に共通点はありますか？
サム：それは間違ったやり方だと思います。1人の人にすべてを頼るのは間違いで、少なくとも私にとって正しいやり方は、15人か20人くらいの人々がいて、それぞれが特定の方法で良い直感と良い文脈を持っていると信じるようになった人々がいて、最高の専門家に電話をかけることができるということです。全体的な1人の相談相手を持とうとするのではありません。
ハリー：難しい決断に関して、半導体のサプライチェーンについて触れたいと思います。今日の半導体サプライチェーンと国際的な緊張についてどの程度心配していますか？
サム：それを定量化する方法はわかりません。もちろん心配しているというのが答えです。まあ、こう定量化できるかもしれません。それは私の最大の心配事ではありませんが、すべての心配事の上位10%には入ります。
ハリー：あなたの最大の心配事は何か聞いてもいいですか？この時点で、もう私は相当トラブルに巻き込まれていますよね。
サム：私たちの分野全体として試みていることの一般化された複雑さについてです。すべてうまくいくと思いますが、今はとても複雑なシステムに感じます。これはあらゆるレベルでフラクタル的に働きます。OpenAI内部でもそうですし、どのチームの内部でもそうです。
例として、先ほど半導体の話をしましたが、電力の利用可能性と適切なネットワーキングの決定のバランスを取る必要があります。十分なチップを時間通りに入手できることと、そこにどのようなリスクがあるかということとのバランスを取る必要があります。システムを完全に準備不足の状態にしたり、利用できないシステムを持つことにならないように、研究を準備できる能力とのバランスを取る必要があります。そして、その研究を使用して、そのシステムの法外なコストを支払うことができる適切な製品とのバランスを取る必要があります。
サプライチェーンという言葉を使うとパイプラインのように聞こえすぎてしまいますが、フラクタルスキャンのあらゆるレベルでの全体的なエコシステムの複雑さは、私が他のどの産業でも見たことがないようなものです。そのある版が私の最大の心配事でしょう。
ハリー：前例がないとおっしゃいましたが、多くの人々はこの波をインターネットバブルと比較していますよね。興奮と熱狂という点で。違うのは人々が使っているお金の額です。ラリー・エリソンは、基盤モデルのレースに参入するための出発点として1000億ドルかかるだろうと言いました。この発言に同意しますか？それを見たとき、「そうだな、それは理にかなっている」と思いましたか？
サム：いいえ、それより少なくて済むと思います。しかし、ここには興味深いポイントがあります。誰もが技術革命の以前の例を使って、新しいものをより馴染みのある文脈に置こうとします。私は全体的にそれは悪い習慣だと思いますが、人々がそうする理由はわかります。そして、人々がAIの類推として選ぶものは特に悪いと思います。
インターネットはAIとは明らかに異なっていました。コストについて言及されましたが、100億ドルか1000億ドルかどうかは別として、インターネット革命の特徴の1つは、実際に始めるのが本当に簡単だったということです。
インターネットに近い別の点は、多くの企業にとって、これはインターネットの続きに過ぎないということです。他の誰かがこれらのAIモデルを作り、テクノロジーを構築するための新しいプリミティブとしてそれらを使用できるだけです。しかし、AI自体を構築しようとするなら、それはかなり異なります。
人々が使う別の例は電気ですが、私はそれは多くの理由で意味が通じないと思います。私が最も好きな例は、先ほどの私のコメントで、人々はこれらの類推を使って真剣に考えるべきではないと言いましたが、トランジスタです。
それは物理学の新しい発見でした。信じられないようなスケーリング特性があり、すぐにあらゆる場所に浸透しました。今では、AIがどれだけ早く良くなるかを教えてくれる一連の法則があるように、ムーアの法則のようなものがありました。
そして、テック産業全体がある意味で恩恵を受けました。使用する製品やサービスの提供には多くのトランジスタが関係していますが、それらをトランジスタ企業とは考えません。非常に複雑で高額な工業プロセスがあり、巨大なサプライチェーンがあります。
そして、物理学のこの非常にシンプルな発見に基づく信じられないような進歩は、長期間にわたって経済全体の巨大な上昇をもたらしました。ほとんどの場合、それについて考える必要もなく、「これはトランジスタ製品です」とは言いません。ただ、「このものは私のために情報を処理できる」と考えるだけです。それは当たり前のことになっています。
ハリー：サム、クイックファイアラウンドをしましょう。短い発言をしますので、すぐに思いついたことを言ってください。いいですか？
サム：はい。
ハリー：今日、23歳か24歳で、今ある基盤を使って何かを構築するとしたら、何を選びますか？
サム：AIを活用した垂直分野のどれかです。例としてチューターを使いますが、考えられる限り最高のAIチューター製品か、あらゆるカテゴリーを人々に教えることができるもの…それはAI弁護士かもしれませんし、AI CADエンジニアかもしれません。
ハリー：引退後に出版すると言及された本についてですが。
サム：考えていると言っただけです。実際に書くかどうかわかりませんが、面白いアイデアだと思います。
ハリー：もし本を書くとしたら、何というタイトルにしますか？
サム：これは不公平ですね。申し訳ありません、サム。
サム：タイトルは本当にありません。人間の可能性を解き放つことができると思うので何か存在してほしいと思う以外、この本について考えていません。だから多分、人間の可能性に関する何かになるでしょう。
ハリー：AIにおいて、誰も注目していないけれど、もっと時間を費やすべき分野は何ですか？ホットではないけれどホットであるべきものは何でしょうか？
サム：人々はあらゆることに注目していると思います。見たいと思うのは、この問題を解決する方法は多くありますが、あなたの人生全体を理解できるAIです。文字通り無限のコンテキストを持つ必要はありませんが、あなたに関するすべてを知っていて、あなたのすべてのデータにアクセスできるようなAIエージェントを持つ方法です。
ハリー：この1ヶ月で驚いたことは何ですか？
サム：話せない研究結果ですが、驚くほど素晴らしいものです。
ハリー：最も尊敬している競合他社はどこですか？そしてなぜですか？
サム：現在、この分野の誰もが尊敬に値すると思います。本当に素晴らしい仕事が分野全体から生まれています。信じられないほど才能があり、非常に熱心に働いている人々がいます。これは質問を避けているわけではありません。分野のあらゆる場所で素晴らしい才能を持った人々が素晴らしい仕事をしているのを指摘できます。
ハリー：特に1つということではないのですか？
サム：そうですね。
ハリー：お気に入りのOpenAI APIは何ですか？
サム：新しいリアルタイムAPIはかなり素晴らしいと思いますが、現時点で大きなAPIビジネスを持っているので、そこには多くの良いものがあります。
ハリー：オープンソースであることから、Llamaの最大の制約は何だと思いますか？
サム：わかりません。それは彼らに聞いた方がいい質問だと思います。
ハリー：このクイックファイアはうまくいっていますね。
サム：私は今はオープンAIの人々の名前を挙げるだけでは不公平に思えるし、単に偏っているように聞こえるので、非オープンAIの人を考えてみましょう。Cursorチームを称賛させてください。AIで素晴らしい仕事をしている人は多くいますが、彼らがやったことを本当に成し遂げ、構築したこと、多くの研究者の名前を挙げることもできましたが、人々がうまく組み合わせることができなかった方法で、本当に魔法のような体験を提供し、多くの価値を生み出すAIを使用するという点で、それは本当に注目に値します。そして私は特にオープンAIの誰も除外して考えました。そうでなければオープンAIの人々の長いリストになっていたでしょう。
ハリー：レイテンシーと正確性のトレードオフについてどのように考えますか？
サム：今のように急いで話をしようとしている文脈では、レイテンシーが欲しいものですが、「サム、物理学で新しい重要な発見をしてほしい」と言われたら、おそらく数年待っても構わないでしょう。答えはユーザーがコントロールできるべきです。
ハリー：不安とリーダーシップについて聞きたいと思います。誰にでもあるものだと思いますが、あまり話題にしません。リーダーシップにおける不安、今日のリーダーやCEOとしてもっと改善したい分野について、どのようにお考えですか？
サム：長いリストがありますが、ここで最も重要なものを探そうとしています。今週最も悩んでいることは、私たちの製品戦略の詳細について、以前よりも不確かに感じていることです。一般的に製品は私の弱点だと思います。そして今、会社は私からより強く、より明確なビジョンを必要としています。素晴らしいプロダクト部門の責任者と素晴らしいプロダクトチームがいますが、私がもっと強くなりたいと思う分野であり、今まさにその欠如を痛感しています。
ハリー：ケビンを雇いましたね。私はケビンを何年も知っています。彼は優れた人材です。
サム：ケビンは素晴らしいです。
ハリー：ケビンをワールドクラスのプロダクトリーダーにしているものは何だと思いますか？
サム：最初に思い浮かんだ言葉は、フォーカスです。
ハリー：フォーカスですか？
サム：何をやらないかということについて、ユーザーの代弁者として何かをやるかやらないかについて本当に厳密に考えようとする、空想的な夢を持たないようにしようとする、という点でのフォーカスです。
ハリー：サム、あなたは多くのインタビューをしてきました。最後に1つ質問したいのですが、あまり聞かれない、あるいは全く聞かれないけれど、インタビューの後で「あれを聞かれるべきだった」とか「聞かれたかった」と思う質問は何ですか？
サム：これはメタな答えですが、その質問は何度も聞かれすぎて、もう使い果たしてしまいました。
ハリー：そうですね、では変えましょう。オープンAIの5年後と10年後の展望について、もし魔法の杖があって、その5年後と10年後のシナリオを描けるとしたら、私のためにそのキャンバスを描いていただけますか？
サム：次の2年間については簡単に描けますが、もし私たちが正しくて、例えば科学的進歩を手助けしてくれるような、本当に素晴らしいシステムを作り始めるなら…言ってしまいましょう。5年後には、テクノロジー自体の改善のペースが信じられないほど急速になっていると思います。人々は「ああ、AGIの瞬間が来て去った」などと言うでしょうが、進歩のペースは本当にクレイジーで、AIの研究だけでなく、他のすべての科学についても新しいことを発見しています。今ここに座って見ることができれば、とても狂気のように見えるはずです。
そして予測の2つ目の部分は、社会自体は驚くほど少ししか変化しないということです。例えば、5年前に人々にコンピュータがチューリングテストに合格するかと聞けば、ノーと答えたでしょう。そして、もしオラクルがそうなると言ったら、社会にとって何か信じられないほどのブレイクスルーになるだろうと言ったはずです。私たちは大まかに言ってチューリングテストを満たしましたが、社会はそれほど変化しませんでした。ただシューッと通り過ぎただけです。
これは今後も続くと予想していることの例です。科学的進歩はすべての期待を上回り続け、社会は良い意味で、健全な意味で、それほど変化しない。少なくとも長期的にはそれほど変化しない。5年か10年で大きく変化するでしょう。
ハリー：素晴らしかったです。質問のリストがありましたが、あまり守りませんでした。私の質問の迷走に付き合ってくれてありがとうございます。皆さん、今日このような機会を持てて本当に嬉しく思います。サム、これを実現してくれてありがとうございます。
サム：ありがとうございました。
コメント