22,315 文字
AIの世界では混沌とした一週間です。かつては中国製品は世界の他の地域で作られたものの安い模造品でしたが、今は逆になっています。オーバーパワード・ボンへようこそ。一体何が起きているのでしょうか。今日はオーバーパワード中国版です。
ええと、まず最初にDeepSeekについて教えてください。このモデルをどう思いましたか？
なかなか良いと思いました。かなり良いですよね。多くの人はO1 Pro（月額200ドルのもの）を購入していませんが、私はO1 Proを試していました。とても良かったです。でもDeepSeekの方が良いです。本当に良いんです。これほど良いと感じましたか？
ええ、単純に良いと感じました。ベンチマークに基づいたものではなく、雰囲気的なものですが、返答が良かったです。中身がありました。GPT-2からGPT-3、そして今に至るまで、以前は一般的な薄っぺらい内容を生成するだけでしたが、今では「おお、これは中身がある、洞察がある」と感じます。返答してくれる時に。それはとても素晴らしいことだと思います。
とても驚きですね。そして、インターネット上には今、多くの言い訳もあり、同時に多くの人がOpenAIの失敗を見たいと思っていることに気づきました。インターネット上には様々な感情が混在していて、DeepSeekのようなものがこれほどメインストリームになるのを見たことがありません。すべてのニュースメディアに取り上げられ、至る所にあります。何なんでしょうね。
今月のトレンドに基づいて、DeepSeekはOpenAIやChatGPTと同じくらい、あるいはそれ以上のトレンドになっています。実際、技術的にChatGPTよりも検索されていた瞬間もありました。これはかなり奇妙なことです。
また、私がオンラインで見つけたこのツイートに注目してください。これはDeepSeekによって書かれた詩です。私が初めて「うわ、これは本当に人間レベルのもの、あるいはそれ以上の本当に良いものだ」と感じたものです。そしてDeepSeekはそれを行うことができました。最大の問題は、それが無料であることです。誰でも無料で利用できます。これはOpenAIのビジネスモデルを崩壊させます。
でも、これを長期的に見ると、ここにビジネスがあるかどうかわかりません。OpenAIが唯一の王者だった頃、「ああ、OpenAIはすべてを勝ち取るだろう。OpenAIに投資する方法を見つけるべきだ」と思っていました。しかしClaudeが登場し、これは一人のショーではないと気づきました。今DeepSeekが登場し、他の人々もそれを複製できることがわかりました。
DeepSeekの背後にあるイノベーションについて説明します。DeepSeekはR10と呼ばれる新しいトレーニングプロセスを持っています。これまでモデルをトレーニングするときは、教師付き微調整と呼ばれるものを使用していました。入力と出力の束を示して、「この入力が来たらこの出力があるべきだ」と言っていました。これらの人たちが言ったのは、有機的に学習させようということです。
例えば、数学の問題を与える場合、バックグラウンドで計算機がスコアを計算しています。5+7のような質問をすると、5+7の結果を手動で入力する代わりに、計算機がそれを計算します。彼らはこれを精度のために、すべての数学関連の質問、すべてのコーディング関連の質問に対して行い、また形式についても行いました。「思考の連鎖を出力するとき、私たちはそれが正確にこの形式であることを望みます。間違った形式を出力すると罰則を与えます」というものです。そして、それは自分自身で強化学習を学びました。これをRLゼロと呼びます。
もちろん、実際のDeepSeekモデルには、その後も教師付き微調整が行われましたが、技術的な部分は忘れてください。重要なのは、これが非常に低予算で行われたということです。OpenAIやAnthropic、その他が今、同じRL手法を複製しようとしていることに非常に自信を持っています。ただし、はるかに多くの計算能力を持って。実際、今からアメリカ企業がすべての計算能力を持って出てきて、はるかに優れたモデルを示すことになるでしょう。
この進歩に終わりはないと思います。新しいブレークスルーが起こるたびに、それは実際に、より多くの計算能力を持つ人々に力を与えるだけです。彼らはただより高品質なモデルを作ることができるようになります。彼らはとても多くの計算能力を持っており、価格も下がっているので、さらに割引することができます。基本モデルのコストはゼロであり、長期的にゼロになると思います。
ところで、TwitterでよくO1のベンチマークやClaudのベンチマークよりもパフォーマンスが良いというグラフを見ますが、これらのベンチマークとは何ですか？ここでMLU、GP、QAなどが見えますが、これらのベンチマークは何を意味していますか？
最も簡単な説明方法は、一連の質問があり、特定のタイプの回答を期待しているとします。もし答えが人間が期待する答えと似ていれば、「よし、この質問をパスした」と言います。そして20問か50問くらいあります。それはほぼ試験のようなものです。一連の試験を与えて、「試験に合格できるか？」というものです。例えば、HumanEvalベンチマークはコードに関連しています。「この質問を与えると、コンパイルして問題を解決し、特定の答えを得るのに十分な良いコードを書くことができるか？」というものです。
基本的に、10問、50問、100問のセットがあり、それらに合格するかどうかを見ます。問題の80％に答えるか、90％に答えるか、30％に答えるかです。しかし、私の正直な意見では、ベンチマークは無意味だと思います。なぜなら、しばらくすると誰もがベンチマークをゲーム化しようとするからです。「ベンチマークにある質問と非常に似た質問でトレーニングしよう」または「ベンチマーク質問自体で正しい答えを得るためにトレーニングしよう」と。それはベンチマークを汚染すると思います。
現在、Humanity’s Last Examと呼ばれる新しいベンチマークがあります。「さらに難しいものを作ろう」と誰かが言っています。Scale AIの人たちが出てきて、「さらに難しい質問のセットを作ろう」と言っています。これは根本的に有用ではないと思います。LLMは雰囲気に基づいて評価するのが良いと思います。つまり、最終的には個人的なベンチマークを持つことになるでしょう。例えば、TMCの書き込みベンチマークがあり、出力を見て「私は良い書き手なので、これは10段階中8か9の良さだと思う」というように評価します。
それは科学的な方法ではないことを知っていますが、そうでなければ、ベンチマークでは不正することができるので、常にベンチマークがあります。それは丸暗記のようなものです。もし試験の形式を知っていれば、それだけを勉強します。それは本当に賢くなることではありません。
もう一つの質問があります。今ChatGPTを開くと、多くの異なるモデルがあります。GPT-3.5から始まり、次にGPT-4、そしてGPT-4oがあり、今はO1とO1ミニがあります。素人にこれらの違いを説明していただけますか？GPT-4oと推論モデルの違いは何ですか？推論モデルがなぜそれほど画期的なのでしょうか？推論モデルが登場した時、皆が「もう終わりだ」と言って騒いでいました。GPT-4とGPT-4o、そしてO1の違いは何ですか？
以前、Auto Code Proと呼ばれるものを構築しました。AIエージェントがコードを書くというものです。モデルをゼロから構築する必要はなく、すでにGPTなどの基本モデルがあります。そして「これのコードを書いて」と言います。Auto Code Proや任意のコーディングエージェントの最大の問題は、脱線することです。問題全体を見ておらず、問題を考え抜いていません。
「ABCDを行うアプリを構築して」と言うと、Aを構築し、BCDを忘れてしまい、「Cに入るまでにAとCの関係を考えなかったので、間違ったものを書いてしまった」となります。私たちがプロンプトを書くときに行っていたのは、問題を注意深く考え、すべてのステップを計画し、一つずつステップを経てコードを書くというものでした。これを明示的に指示していました。
しかしOpenAIが気づいたのは、この推論、この思考の連鎖がトレーニングする可能性があるということです。この問題をどのように解決するかについての思考の連鎖を大量に収集することが可能です。人間にこう言います：「この問題を解決するとしたら、ステップ1、ステップ2、ステップ3、ステップ4、ステップ5を書き出してください」。まず推論を計画します。それが推論です。
OpenAIが行ったのは、思考の連鎖を隠し、思考の連鎖の小さな痕跡だけを示すことです。しかし舞台裏では思考の連鎖を行っていました。なぜならOpenAIの最大の恐れは、この思考の連鎖を行うと、他の人がそれをコピーできるということだったからです。人々はすでにモデルの出力でトレーニングしていたので、彼らは思考の連鎖の出力でトレーニングすることを望んでいませんでした。
Googleは今、新しいことを行っています。彼らは、この思考の連鎖は時々幻覚を見ると言っています。例えば、O1（思考の連鎖を持つもの）に「ケーキの作り方」を尋ねると、時々「まず材料から始めましょう」と言う思考の連鎖が始まり、ランダムなことを言い始めます。これは本当に幻覚です。
GoogleはAlpha Proofと呼ばれるものを開発しています。彼らは思考の連鎖を行いますが、形式的な言語で行います。思考の連鎖をコードにします。モデルをコードで考えさせます。DeepSeekがどのように思考の連鎖を行うかを見ると、時々（これはR10であり、新しくトレーニングされたものではありません）、思考の連鎖に中国語のトークンを混ぜています。人間が読める必要はなく、「ステップ1、ステップ2、ステップ3、ステップ4」のようなランダムなものです。
OpenAIの新しいモデルセットは推論モデルです。O1とO1 Pro（計算能力を大量に消費するもの）の違いは、より一生懸命考えること、考えるためのトークンがより多いことです。「この問題についてより一生懸命考えてください」とペダルを踏み込むことができます。これが知能の問題を解決する最適な方法かどうかはわかりませんが、テキストの観点から少なくとも平均的な人間の知能よりも優れた知能をすでに持っていると主張できます。
余剰走行距離がどこにあるのかわかりません。DeepSeekが平均的な人間（最高の人間ではなく、平均的な人間）ができないことは何でしょうか？文章を書くこと、問題について考えること、計画を立てることにおいて。もしインドの通りからランダムに誰かをピックアップし、問題を考えて、家の建て方や何かを説明するように頼んだら、DeepSeekはすでにその人よりも優れていると思います。
わかりました。つまり、推論モデルはモデルが出力するものの背後にある推論を示しているだけですね。思考の連鎖を行い、その思考の連鎖に基づいて出力するトークンを出力しています。以前の推論モデルの前のモデルは、何らかの思考の連鎖をすでに持っていたのですか？入力Xと出力Yの間には何かが起きているはずですが、何らかの思考をしているはずです。
いいえ、古いモデルには思考の連鎖はありませんでした。なぜなら思考の連鎖でトレーニングされていなかったからです。モデル内部で何が起きているのかは分かりません。モデルはブラックボックスで、モデル内部で正確に何が起きているのかはわかりません。しかし今、モデル内部では具体的に思考の連鎖のトークンでトレーニングしています。「これが問題を解決する方法です」と言い、問題の説明、解決方法、出力の大量のデータがあります。解決方法（思考の連鎖）で実際にトレーニングしています。
DeepSeekの素晴らしい点は、特定の例なしにそれを行うことができることです。純粋に形式と精度に基づいて行うことができます。これがどのように続くのかわかりません。次のブレークスルーがどこから来るのか予測するのは非常に難しいです。毎回、これが問題を解決する方法だと思うと、新しいものが出てきます。
これまでは、問題に対してより多くの計算能力を投入し、より多くのデータラベラーを使って思考の連鎖を提供し、入力出力の例を示すと考えていました。今では、自分自身で学ぶことができるかもしれません。次のことがどこから来るのかわかりません。誰も次のことがどこから来るのかわかりません。
私たちチームとしては、これらのモデルの上に何かを構築するのであって、モデル自体を構築するわけではありません。私たちにとっては、アプリケーションの99.9％のユースケースでは、DeepSeekやChatGPTを入れ替えることができます。基盤となるモデルが何であるかは重要ではありません。何が起きているのかを大まかに理解し、ユーザーが私たちがモデルの上で行っていることの出力に混乱しないことを大まかに期待できる限り、良いのです。
良い例はアバターです。5％の現実感の向上や感情の向上があっても、すでにその5％が重要でない点に達しています。私の心配は、もちろん段階的な出力の向上はあるでしょうが、私たちがそれを使用するタスクにとって重要かどうかです。重要ではありません。
次の問いは、ランダムな事柄です。例えば、フライトチケットを予約する場合、多くのエッジケースがあります。何かをクリックしたかもしれないし、ポップアップが表示されたかもしれません。それをどう扱うのでしょうか。DeepSeekのために忘れられていた最近の数週間での最も重要なブレークスルーは、OpenAIのOperatorだと思います。インドでは利用できませんが。
学ぶべきことがたくさんあり、同じ方法でトレーニングされるでしょう。Operatorを使用する人が増え、問題を修正するために介入し、「いいえ、間違いを犯しました。間違ったリンクをクリックしました。実際はこれをクリックします」と言うほど、そのデータが収集されます。それが次の本当のブレークスルーだと思います。フライトチケットの予約など、曖昧なことを行い、フライトチケットがメールに届いたかどうかを確認する能力です。それについて非常に興奮しています。
GPT-4以降の劇的な新しいジャンプは、推論モデルか、今のOperatorのどちらかですが、コーディング以外で推論モデルを使用したことはありますか？
医療問題の説明に多く使用しました。「これが起こり、次にこれが起こり、この日に具合が悪くなり、これが私のHRVです」というようなことに使いました。OpenAIのO1モデルでは、思考の欄を展開することができます。これは完全な思考の連鎖ではなく、思考の連鎖の痕跡のようなものですが、少なくとも正しい方向に進んでいることがわかります。
しかし、DeepSeekやOpenAIでも、エンドユーザーとして私が求めているのは出力だけです。思考の連鎖はそれほど価値がありません。DeepSeekの思考の連鎖を見ると、「ユーザーはこれを求めていますが、あまり積極的にならないように求めています」と言っています。それは文字通り人間の独白のようです。
出力が改善されていることはわかっていますし、思考の連鎖がある程度正確であることもわかっています。しかし、エンドユーザーとして思考の連鎖をそれほど気にするかどうかはわかりません。医療のことやその他に使用する場合でも、それほど気にならないかもしれませんが、出力が良くなることは知っています。Auto Code ProでGPTをDeepSeekに置き換えると、はるかに良い出力が得られるでしょう。これは精度の向上のようなものです。低解像度の写真から高解像度の写真に移行するようなものです。
O1 Proでも、より多くの計算能力を投入すると、出力は確実に良くなります。より難しい問題には良いですが、日常的にはそれほど難しい問題はないと感じます。99.9％の場合、私は研究に携わる人ではないので、「これをすると反応がどうなるか」を調べることはなく、一般的な基本的な問題を探しています。「このことを計画する必要がある」「この従業員にこれを与える必要がある」といった、はるかに簡単な問題です。人間のユースケースの99％はすでにカバーされていると思います。
しかし今日、ヨーロッパのビジネスの10～15％しかAIを使用していないという統計を読みました。「すでにそれだけか」と思いました。ヨーロッパのビジネスの10～15％しかビジネスでAIを使用していないので、85％はビジネスでAIを使用していません。何らかの理由で。
AIの個人的な生産性でも同様です。私にとって奇妙なのは、AIの採用が思ったよりもはるかに低いということです。これは明確な利点であり、明確な優位性があります。プリスト（純粋主義者）になって「AIを使いたくない」と言っているわけでもありません。実際、ほとんどのソフトウェアエンジニアはAIを使用しています。
しかし、ランダムな人々、例えば私の母や父のような人々です。実際、父はAIをたくさん使っていますが、母は「今のところその価値が見えない」または「学び方がわからない」と言っています。学ぶものは何もなく、ただチャットであり、ほぼ反対側にいる人間のようなものだと言っても、まだ試すことに対して慎重です。
物事を知っている人々、モデルを試した人々と、まだ始めていない人々との間のギャップが広がっているだけだと感じます。価値の99％はすでにそこにあります。すでに多くの問題を解決することができます。一部の人々は超生産的になり、他の人々は普通のままです。これら二つのタイプの人々の間のデルタを計算する方法はありません。
しかし、これは常に存在していました。インターネットが起きたとき、ソーシャルメディアが起きたとき、YouTubeが起きたとき、YouTubeは最大の知識のリポジトリでした。それを使う必要がある人は使い、必要のない人は使いませんでした。
実際、あなたが言ったように、ほとんどの人がまだそれに引き寄せられていないという事実は、Appleが計算能力の構築とこれらのモデルの構築に5000億ドルを費やさないという決断が、後から見ると予言的だったようです。Appleは「私たちにはすべてのユーザーがいます。Apple Intelligenceと呼び、すでに行っている方法でAIにアクセスさせます。それが最も直感的でしょう」と言っています。
例えば、私は健康問題についてチャットボットに向かう習慣がありません。これは新しく学んだ行動です。しかし、医者にWhatsAppでメッセージを送る可能性は高いです。MetaはおそらくAIを使用して私の会話を強化できるでしょう。あるいは誰かにSMSでメッセージを送れば、Appleはおそらく手助けできるでしょう。私がすでにやっていることにAIが参加する必要があるでしょう。だからこそ、その意味での採用が低いのかもしれません。
AppleのやiIndiaの戦略と呼んでいる、異なる理由による待機と観察の戦略です。ただ待機して観察し、十分に安くなったら「よし、今コピーしよう」と言います。
面白いことに、私はクリエイターとして2年前はとても小さかったので、インターネットで何が起きているのかほとんど知りませんでした。今、コメントの量が増え、Twitterも増えました。私はこれをわずかに異なるルールを持つポーカーゲームに例えています。ほぼすべてのカードが裏返しになっています。カードの下に何があるのかわかりません。Google DeepMindがやってきて、一枚のカードを開き、「ああ、この『Attention is All You Need』という興味深い論文」と言いました。これは洞察です。しかし、Googleは「これ以上賭けたくない」と言い、カードを開いたままテーブルから離れました。
次にOpenAIがやってきて、次のカードを開き、「古いカードにあるものが気に入りました。次に賭けてもいいと思います」と言いました。彼らはそれを開き、LLMが登場しました。それから皆が再び興奮し、テーブルのカードに賭け続けました。オープンするカードごとにお金がかかりますが、オープンするとテーブル上の全員にオープンされます。皆がそれを見ることができます。
IndiaとAppleはリバーで待っているような気がします。最後のカードが開くのを待っています。「最後のカードが開いたら、このものをコピーペーストするだけだ」と。Appleの場合は意図的ですが、Indiaの場合はそれほど意図的ではありません。「どんなゲームをしているのか、何が起きているのか」という感じです。
でも、一つ言えることはIndiaには才能があるということです。勇気がいかに重要かを学びました。あなたが合理的に賢い人であれば、3～6ヶ月与えられ、毎日問題に取り組み、それがフルタイムの仕事であれば、できるでしょう。「インドはLLMを構築すべきだ。なぜこれらの人々はLLMを構築しないのか。誰かがそれをすべきだ」と言っている人々のツイートをたくさん見ます。しかし、あなたもインド人です。問題に興味があれば、あなたもそれをすることができます。
私たちは応用AIに興味があります。モデルの上に何かを構築したいです。だから、他の誰かにポーカーテーブルでプレイさせ、私たちはその上でプレイするという明確な考えを持っています。しかし、本当にIndiaがLLMを構築することを見たい人々、本当にIndiaがモデルを構築することを見たい人々も、貢献することができます。特にコンピュータサイエンスの分野にいる人は、1～2年の時間をかけてこれを理解するのは大きなジャンプではありません。
唯一の問題は、少し遅れているということです。同じカードを開くために出かけるまでに、以前の人が開いたカード（今ではIndiaがLLMを構築できる）が開かれ、新しいものが出てきます。新しい研究を予測することはギャンブルのようなものです。カードを開くためにお金を使うことになり、そのカードが無価値かもしれません。これはリスクゲームであり、Indiaは常にリスクが低く、Appleもリスクが低いのです。
LLMがすでに商品化されることが明らかになっていませんか？OpenAIが生成したすべての価値が今では無料で利用できます。これまでの進歩はすべて無料です。
OpenAIを無価値な会社と呼びますか？いいえ、いいえ。LLMが商品化されると、配信が王様です。DeepSeekは先月登場し、多くの非有料ユーザーを獲得しましたが、ChatGPTは依然としてChatGPTです。ブランド、配信、ユーザーについて言うべきことがあります。
OpenAIを2つの会社と見なすのは賢明でしょうか？一つは新しいことを試す研究部門、もう一つはChatGPTという製品部門です。下にあるものは重要ではなく、GPTであっても他のものであっても構いません。それはブランドであり、多くの人々がそのブランドを知っており、電話にアプリを持っています。あなたはWhatsAppを使うようにアプリを使うでしょう。チャットアプリを作るのは難しくありませんが、「みんなWhatsAppを使っています」と思うでしょう。ただし、WhatsAppにはネットワーク効果もあり、これらのAIアプリの多くにはそれがありません。
その場合、Microsoftは最も賢い企業です。MicrosoftはOpenAIを買収せず、「あなたの計算能力に資金を提供し、エコシステムについて学んだことを応用します」と言いました。今では他の人々にも資金提供しています。Microsoftは「これをWindowsに組み込みます。なぜならWindowsの配信チャネルがあるからです」と言っています。Googleは「これをChromeとGoogle検索に組み込みます」と言っています。
配信が勝つということですが、これは私たちが何度も何度も学ぶ教訓です。しかし同時に、誰かがカードをめくるリスクを取る必要があります。カードをめくる人は称えられると思っていました。「素晴らしい仕事をしました。何が可能かを証明してくれてありがとう」と言われ、それが商品化され損失を被ったとしても、それでもこれを開いてくれたことに感謝すると思っていました。
しかし、私はしばらくインターネットにいて、人々はここ2、3週間Sam Altmanを批判し、名前を呼び、あれこれ言っています。人々が忘れてしまったことを信じられません。「ほらほら、敗者。今やあなたのビジネス全体が無用になった。中国の誰かが500万ドルでそれを置き換えた。LOL」と。イノベーションに価値がないようです。
敗者は常にそうするでしょうが、今朝の時点で、500万ドルという数字は疑問視されており、実際にモデルの完全性も疑問視されています。多くの人がDeepSeekはOpenAIのデータを盗用してトレーニングされたか、OpenAIの独自モデルを使用していると主張しています。これらの告発についてどう思いますか？
他の誰かのモデルで強化学習を行うことはできます。出力があり、「これは良いですか悪いですか」とOpenAIに尋ねます。本当にモデルを盗んでいるわけではなく、別のモデルにあなたのモデルを評価させているだけです。これはモデルをトレーニングする自動化された方法で、「蒸留」と呼ばれます。実際には蒸留ではなく、大きなモデルを小さくしているわけではありません。出力を比較しているだけです。基本的にOpenAIから重要な情報を得て、自分の代わりに強化学習を行ってもらっています。
これはOpenAIの利用規約に違反していないと思います。OpenAIの直接の出力を使ってモデルをトレーニングしているわけではありません。OpenAIにモデルを評価してもらっているだけです。私の疑問は、OpenAIは本当にこれについて話せるのかということです。彼らは無料でインターネットをスクレイピングしたからです。
これは、多くのアーティストや作家などからスクレイピングした情報について、彼らに何も与えていないグレーゾーンにすでにいるようなものです。誰かが彼らの出力でトレーニングしたとしても、彼らがOpenAIの出力したトークンでトレーニングしたとしても、重要でしょうか？あなたはすでにグレーゾーンにいて、別のグレーゾーンについて不満を言っています。これは荒野のような状態です。これが根本的に無価値な努力だと思う理由です。
商業的な理由とは異なる理由でそれを行う必要があります。誰かが「モロク」という言葉を使いました。これは神話における子供の生贄のための神のようなものです。それは底辺への競争のようなものですが、「お金を稼ぎたい」という理由以外で行います。「他の人を悪く見せたい」というような理由です。MetaがOpenAIに行ったようなことです。
これはステータスゲームのようなものであり、多くの人々はステータスゲームに何十億ドルも費やせると信じていませんが、彼らは絶対にそうします。「AIの勝者になる」など、自分自身のために十分なお金を持った後で何が重要なのでしょうか？だから、これは最終的にはみんなが負けるゲームの一つだと思います。アプリケーション層の人々でさえも負けるでしょう。
人々は「アプリケーション層の人々が勝つ、ラッパー（包装する人）が勝つ」と言い続けていますが、彼らも負けると思います。なぜなら誰でもラッパーを構築でき、AIもあなたのためにラッパーを構築できるからです。最終的には配信の人々、ブランドを持つ人々だけが勝つでしょう。これは以前にも起こったことです。
完全に商品化された産業を例に挙げます。砂糖水は、家で0、おそらく0.2ルピーで作ることができます。砂糖はある金額、フレーバーは少し、水は蛇口から得ることができます。熱い水ならわずかに高価かもしれませんが、0.2～0.5ルピーです。それでもコカ・コーラはこの分野で長い間ブランドであり、缶は20～30ルピーの価格です。
実際のマージンは何でしょうか？マージンはどこから来るのでしょうか？それは長年にわたりコカ・コーラが赤いものをコカ・コーラの文字と共にあなたの前に置いてきたことから来ています。それはあなたの中に浸透しており、砂糖水のボトルに30ルピーを支払うことに問題ないと思っています。これは奇妙なことですが、同じことがここでも起こると思います。
テレビとソーシャルメディアの間の類似点を描くこともできます。既存のブランドがあり、それらはソーシャルメディア上で強力なブランドであり続ける優位性を持っています。しかし、ソーシャルメディア上で新しいスターが登場し、新しいブランドが登場し、前の世界から多くの敗者が出るでしょう。
新しいものも登場するでしょう。誰もが新しい世界で強力なブランドを持ち続ける機会がありますが、多くの敗者と多くの新しい勝者が出るでしょう。それは白黒ではありません。ブランドは重要だと思いますが、正しい方法で新しい世界に入ることができることも重要です。テレビのスーパースターはテレビの方法をソーシャルメディアに持ち込むことができませんでした。新しい方法を見つける必要がありました。
デジタル製品について少し話しましょう。物理的な製品には物流などが関わるので忘れましょう。AIが構築できるなら、基盤モデルが商業的な観点から無価値であると（価値創造の観点からではなく、価値獲得は0として）同意するでしょうか？
ホスティングが商品化されているので、誰でもモデルをホストできると同意するでしょうか？ラッパー層もAI自身がラッパーを構築し、それを構築してくれることに同意するでしょうか？それは今日ではなく、おそらく2年後の未来かもしれませんが、すべてが完全に商品化されており、ラップトップを持つ子供や携帯電話を持つ子供でも行うことができます。
それなら、価値あるものは配信とブランドだけですが、配信とブランドは注目に要約できます。スキルよりも注目が価値があると言っているのでしょうか？
製品がそれほど商品化されるとは思いません。基本モデルは利用可能ですが、現在でも異なる人々が異なる製品を作っています。誰かが分析ツールを作り、別の誰かが別の分析ツールを作ります。5つの異なるタイプの分析ツールがあり、あなたはそれらの多くを使用しました。基本層でGPTを使用しているにもかかわらず、それらすべてに違いがないと思いますか？
いくつかの違いはあります。製品がすべて同じになるという仮定、唯一の違いが注目になるという仮定は根本的に正しくないと思います。製品に何らかの違いがあるはずです。製品サイクルの初めに2％のデルタでも、6ヶ月にわたり急速に複利で増加します。
注目を集め、ブランドを構築する能力は非常に有用ですが、製品が区別されないとは思いません。すべての製品が同じになることは不可能です。
殺し文句のアイデアを教えます。Lovelaceという会社を聞いたことがありますか？これはAuto Code Proのようなものです。プロンプトを入れると、完全なアプリを生成し、それは使用可能なアプリです。アプリをダウンロードしてデプロイできます。彼らはこれをうまくやり、それは有用です。昨日私はいくつかの小さなことにそれを試してみました。「これは良くなっている」と思いました。Replと同じです。Replはエージェントを構築しています。
今年か来年か、いつか登場する殺し文句の製品を教えます。別の製品を指して、例えば分析について話しているなら、ミックスパネルを指して「ミックスパネルの正確なクローンが欲しい」と言います。それはミックスパネルに偽のアカウントを作成し、アクセスを得ます。ミックスパネルは現在、おそらくエンタープライズ専用で、エンドユーザーとしてログインできないかもしれませんが、例としてミックスパネルを取り上げるか、他のアプリケーションを例として取り上げましょう。例えばHubSpotなどです。
それはすべての画面をクローンし、その正確なコードを書き直し、正確に同じものを2～3％異なるUIで提供します。私の心配は、エージェント的な書き込み、アプリ全体の構築のための殺し文句のアプリは、「この他のアプリをクローンし、わずかに異なるUIで正確に私に与えてください」というものになることです。
これはインドのSaaS企業の多くが考える方法です。チェンナイには米国企業を見て、例えばCRMをリエンジニアリングする企業がたくさんあります。彼らは何かを見て、「正確に同じものを再構築しよう」と考えます。彼らはどのようなフローが必要かを理解するために革新的な作業を行いました。「正確に同じものをはるかに安い価格で提供しよう」と。
プレーヤー1は引き続きお金を稼ぎます。なぜならブランドがあるからです。Salesforceはブランドと関係を持っているので、引き続きお金を稼ぎます。しかし、製品に関しては、クローン作成が非常に安くなるので（今ではなく、2～3年後、5年後）、区別がなくなると思います。
しかしユーザーは、元のブランドをまだ気にします。彼らは「彼らは競争力があり、ツールを変更するだろう。彼らについて多くのことを聞いた。顧客サポートが良くなるだろう。彼らは私からお金を騙し取らないだろう」と考えます。だから、ブランドと信頼があるため、その主要な製品、最初のチャンピオンに行くでしょう。
AIを使えば、既にイメージツーイメージができます。画像をダンプして「20％類似したものが欲しい」と言えば、最終的に著作権フリーのものが得られます。AIは非常に良いリミックスエンジンです。究極的にはすべてのアイデアはリミックスです。
私、あなた、世界中のほとんどの人が行うことは、インスパイアされたものを取り、それを20～30％変更して「これはこうです」と言うことです。年を取り、多くのリミックスを行うと、元のアイデアを持ち始めることができます。10～20％ではなく、70～80％変更するからです。
現在最も価値のあることは、ソーシャルメディア企業になることだと思います。なぜなら、何が起こるにしても、それはあなたの戦場で起こるからです。Elon MuskのX買収は2～3年後には非常に価値があることがわかるでしょう。2年前よりすでに価値があります。
それをAIで置き換えることはできません。プラットフォーム上にボットがいたとしても、AIでそれを置き換えることはできません。なぜなら、リアルタイムで何が起きているかを見たいのであって、AIから作られたニュースを見たくないからです。Nikhil KamatとModiのポッドキャストのAIバージョンを見たいとは思わないでしょう。なぜなら「本当にModiが言っていることを知りたい、この会話を聞きたい」と思うからです。それは本物の会話である必要があります。
配信とアクセスは未来の最も価値ある部分だと思いますが、私はこれが未来の最も価値ある部分になるという考えについて間違っていました。なぜなら、私自身がもっと構築し始めると、それがいつも同じだったことに気づいたからです。
「スキルはどこから得るのか」と考えていましたが、配信があり、少し資本があれば、スキルを雇うことができることがわかりました。AIで他のツールを指して「それをクローンしてください」と言うことができるように、人間でもそれを行うことができます。手頃な価格で配信があれば。
現在、5人のエンジニアを取り、「そのクローンが欲しい」と言えば、彼らが優れたエンジニアであれば、合理的なクローンを提供できます。優れたエンジニアの価格は20ラック、50ラック、1クローア（インドの通貨単位）など、何でもその数字です。それを手頃に感じ、5人のエンジニアを持っていれば（1000人ではなく、4～5人）、すでにクローンできます。
無限のお金を持つ人、潜在的な億万長者にとって、100万ドルを使うことと0ドルを使うことの違いはそれほどありません。しかし、配信を得ることは非常に難しいです。私があなたのところに来て「このトスに広告を出したい」と言っても、お金があり影響力のあるトスは常に「いいえ」と言うことができます。
だから、あなたは他の誰かに配信してもらうことに依存しています。ある意味では借りており、ある意味ではレンタルしています。だから、未来で最も価値のあるものは、できるだけ多くの配信を積み上げることだと思います。時には配信はソーシャルメディアによる配信だけでなく、オフラインのアクセスでもあります。「誰かを知っている人を知っている人を知っています」というようなことです。もちろん、オフラインでは無限のゲームをプレイできます。
私たちはソフトウェアだけ、アプリの構築だけ、コンテンツの構築だけに記憶を限定しています。もし本当に望むなら、病院を始めることもできます。
DeepSeekは実際に550万ドルでトレーニングされたと思いますか？わかりません。知る方法はないと思います。論文によると、私が尊敬し信頼している人々（モデルのトレーニングを生業としている人々）は、550万ドルで可能だと信じているようです。私たちはモデルの微調整を行い、その上に構築していますが、モデルをトレーニングしません。
モデルについて知っていることの一つは、550万ドルでモデルをトレーニングでき、良いパフォーマンスを得られるなら、同じものを1億ドルでトレーニングし、さらに良いパフォーマンスを得ることができるということです。私の心配は、安くできたことではなく、アメリカが再び価格を膨らませ、はるかに高品質なモデルを出すことです。
私たちはOpenAIを割引し続け、彼らは新しいクールなものを出し続けています。Operatorは彼らが作った最高のものだと本当に思います。それはさらに良くなるでしょう。あなたはそれを使用しましたか？まだですが、デモを見ました。Twitterでそれへのアクセスを持つ大手テクノロジー企業のCEOなど、日常的にOperatorを使用している人々は「これは素晴らしい」と言っています。
Operatorは基本的に従業員のようなものです。ブラウザ上でわずかに接続された、わずかに接続されていないタスクを多数行います。ほとんどの企業の従業員の99％が行っていることを見ると、彼らはブラウザ上にいます。彼らはWindowsにいます。彼らはコンピュータを使用しています。考えてみると、作業の90～99％はコンピュータの使用であり、残りは計画や他のコンピュータユーザーとの会話、コラボレーションです。
これは人々がDeepSeekよりも興奮すべきだったことだと思います。しかし、DeepSeekも推論を安くします。出力を生成するのが安くなります。そのトレンドラインを見ると、知能は無価値になるでしょう。答えのために0.0001の価値になるでしょう。それは素晴らしいですが、あるツイートに戻ります。「知能を価値あるものとみなすなら、非常に悪い数年を過ごすだろう」というようなことを彼は言いました。
純粋な数学的な賢さを持つ賢い人だと言い出すのは良い時期ではありません。Petrovも言ったように、数学の人々は言葉の人々に負けるでしょう。なぜなら、実世界で信頼を構築するには、実世界でそれを行う必要があるからです。しかし、非常に難しい計算をしたり、非常に難しいアプリを構築したりすることは、AIの領域かもしれず、非常に速く起こるかもしれません。
あなたのNVIDIA株を売りましたか？いいえ、あなたは？実際、私たちは「世界が20％ダウンした」というニュースで目を覚ましました。だから、売る機会がありませんでした。まず、今日の技術がはるかに安く、より少ない計算能力で作られるとしても、今日の計算能力が無用だというわけではありません。より多くの計算能力がより良い技術につながることを意味します。
将来的に計算能力を使わなくなるとは思いません。すべてのこの計算能力で何ができるかを発見したいと思います。だから、人々はまだGPUを購入するでしょう。もしDeepSeekを10,000個のGPUで作ったなら、OpenAIが200万個のGPUで何ができるか想像してみてください。何でもしたいことができます。だから、今株を売る意味がわからないです。
しかし、もし私がヘッジファンドで、多くのGPUを持ち、サイドプロジェクトとして、世界最高のLLMと競争するLLMを作ったなら、おそらくNVIDIAに空売りのポジションを持って、この瞬間を楽しむでしょう。それはNVIDIAが無用だという意味ではありません。もちろんそうではありません。
市場は非常にニュースに左右されます。2年前、私が純粋だったか愚かだったか何であれ、世界がどれほどミームやバイブに左右されているかを理解していませんでした。何らかの方法で50のYouTubeチャンネルや50の影響力のあるソーシャルメディアの人々を整列させ、何かについてナンセンスを話すと、それが最終的にメインストリームのニュースサイクルに達するようなものです。それは波のようにメインストリームに広がります。
これらすべては人々が合理的だと思っていましたが、大勢では非合理的で、愚かな決断をしています。誰かがR10技術やR1技術を使用し、数百万ドルの代わりに1億ドルを使用するでしょう。それはより良いモデルになるでしょう。
実際に必要だったのは、トップの配信チャンネル50のうち、誰かについて本当に素晴らしいことを言うことでした。そして彼らは大統領になりました。時間とともにそれを何度も見ています。実際、注目は非常に重要です。
あなたが5億ドルで何かができるなら、100億ドルを使って同じ技術を使えばさらに良くなるというパラドックスについてSatが話しました。私たちもそれについて話しました。
私のお気に入りのツイートの一つは、RajanとSam Altmanのビデオが今バイラルになっているものです。そこでSam Altmanは「私の仕事はあなたが私たちと競争できないと告げることで、あなたの仕事はそれを試みることです」と言っています。人々は本当にAltmanをからかうことを楽しんでいますが、公平に言えば、もし私がテクノロジーの最前線にいるCEOだったら、Samのように公にすることで、公にする利点を得たと感じるでしょう。
この時点で、彼がさらにポッドキャストで話したり、インタビューを行ったりすることの利点は減少しています。だから彼は今止めることができると思います。AIの初期の利点はすでに確立されています。しかし、彼の競争相手はかなり社交的で存在感があるので、彼がそれをしなければならない理由がわかります。最前線にいると、攻撃を受けることになります。
SamaのツイートやRajanに言った発言を見ても、良い仕事をしていて、最前線にいる時点で、何かを言うのは普通だと思います。成功した創業者になるには、少し傲慢である必要があります。それは一部です。勇気と自信はコカインのようなものです。何か新しいもの、特にOpenAIが行ったようなことを試みるには、少し余分に持っている必要があります。
皆があなたに「それは不可能だ」と言っている時、皆を無視して「黙れ、私の方がよく知っている」と言える必要があります。正しくないかもしれません。間違っているかもしれません。もちろん、3年後に振り返ってみると、「ほらほら、あなたはそう言った」というになります。
Byjuについて人々が言うことの一つで、私があまり好きでないことがあります。確かにByjuは下落し、悪いことが起こりましたが、人々はByjuについて言うことがあります。「Byjuはコンテンツをタブレットに入れて人々に与えていた。何と敗者だ。今では無料でインターネットやYouTubeでそれを得ることができる」と。
しかし、実際にByjuの歴史を見ると、彼らがこれを始めた理由は、当時インドのインターネット普及率が悪かったからです。村の子供がこのコンテンツを消費したり、YouTubeを消費したりすることは不可能でした。インターネットがなかったからです。
Byjuは「これの代替は何か？インターネットの普及率が悪いので、コンテンツをデバイスに入れて、このタブレットを与えよう」と考えました。ストリーミングはなく、ロードはなく、インドでインターネットからコンテンツをストリーミングすることは不可能でした。これはそれほど前のことではなく、2015年か2016年、Jioが起こるまではそうでした。
しかし、人々は今日のレンズを適用し、「今日はYouTubeでコンテンツを得るのが簡単だ。だからByjuはまだタブレットを使っているなんて、何と敗者だ」と言います。しかし、それは10～15年前の問題声明に対して今日のレンズを適用しているのです。人々はそれをよく行います。DeepSeekの今日のレンズをOpenAIが数年前取ったリスクに適用するのは公平ではありません。これは公平ではありません。
あなたが言ったように、AIの世界ではイノベーションは尊重されていません。Sam Altmanだったら、本当に謙虚になると思います。「5百万ドルでモデルをトレーニングできるか」という声明について、それは最終的に可能でした。3年後か10年後か50年後か、いつかブレークスルーが起きるでしょう。
いつかSam Altmanは「ほらほら、5百万ドルでモデルをトレーニングできた」と言われるでしょう。彼がそれを言ってから実現するまでおそらく1年半ほどかかりましたが、3年かかったかもしれないし、20年かかったかもしれないし、50年かかったかもしれません。誰も知りませんが、いつかこれで彼は笑われるでしょう。
ElonもSamの悪役化に大きな役割を果たしたと思います。人々はElonも利害関係者であることを忘れています。Elonは彼自身の動機を位置づけることが非常に上手です。彼の動機はすべて「言論の自由」のようなものです。彼の動機はすべて誰にとっても良いもので、彼の私企業の動機に反対する人は誰にとっても反対していると言います。彼はそれを非常にうまく位置づけています。
例えば、SpaceXを攻撃することはできません。なぜならこれは人類についてだからです。たとえこれが実現する前に99％の人々、実際には100％の人々が死んでいるとしても。Twitterを攻撃することもできません。なぜなら言論の自由だからです。しかし、Twitterにいる人々に調査を行うと、今やタイムラインにポルノがどれだけあるかという質問をしています。
男性、女性、創業者、アーティスト、すべての人に尋ねていますが、全員が「はい、今私のタイムラインにポルノがあります」と言っています。Twitterは基本的に半分ポルノのウェブサイトになっています。しかし、「言論の自由」だから何も言えません。言論の自由はタイムラインにすべてを許可することを意味します。すべてが今やOKとされています。
昨晩、友人と一緒に座っていました。女性の友人は、彼女はElonのファンで、「タイムラインにポルノが表示されるのはなぜですか？」と聞きました。彼女は「そのような代償を支払わなければならないのです。もし何もかもOKであるべきなら」と言いました。
「ニュートラルなAI」についても同様です。Grokは基本的にポピュリストAIです。「人々は今何を感じているか」というものです。Elonの関与しているAIを検索すると、それはもはやニュートラルではなく、単に人々が言っていることです。
Sam Altmanについても悪いと感じます。なぜなら、この巨大なプロジェクトに他の誰よりも長く取り組んできた人が今では悪役になっていることを忘れているからです。
Elonはこのことを行います。政治家のトリックで、敵を見つけ、敵の名前と一緒に頭韻を作り、敵を馬鹿にします。例えば、あなたの名前がSamなら、最初の文字Sを取り、Samの前に別の言葉を置き、Samを悪く見せます。Elonのバージョンは「Swindler Sam（詐欺師サム）」です。
これは政治家のことで、人々は比較的賢くないので、頭韻を聞くとそれは頭に残ります。「Swindler Sam, Swindler Sam」と10回聞くと、「ああ、Sam、Swindler Sam」と思うようになります。これらの人々はそれをとてもうまく行います。
ElonはAutistic Asperger syndromeと思われているほどではありません。彼がこれを行うことができるなら、彼は武器化していることを知っています。これを何度か見たことがあります。彼が悪い人だというわけではありませんが、これは戦争のようなものです。
インターネット戦争、インターネットの対立についてのMook理論を聞いたことがありますか？それは、インターネットは基本的に封建的な戦いのようなものという理論です。ElonやSamなどのような騎士がいて、観客はチームを選びます。彼らはElonチームかSamチームを選び、これらの観客をMooksと呼びます。彼らは名前のない顔、匿名であり、一つの側を選びます。
ゲーム全体は、彼らが騎士に注目されることを望んでいることです。彼らはElonに注目されるためにあらゆることを行います。フィリピンからの男がElonに返信し続けているのをみました。彼らは単にElonに注目されたいのです。そして彼らが注目される日、彼らは熱心なファンになります。それは起こっている情報戦のようなものです。本物の戦争ではなく、人々は他にすることがないので、ある側に所属したいのです。
実際にミスインフォメーションの武器化があります。誰かが間違ったことを言い、私は引用リツイートして「これは間違いです」と言いました。そして一人の男が「誰が気にするんだよ、面白いじゃないか」と言いました。
もちろん、ほとんどの人にとってはエンターテイメントです。これらすべては、パーティーで話せる何かです。これには私たちも含まれます。例えば、ElonとAsmongoldというTwitchストリーマーとの出来事を追っていたかどうかわかりませんが、Elonは自分がある特定のゲームで世界最高だと主張しましたが、実際には97位くらいでした。
このTwitchストリーマーは以前はElonのファンで、彼らは友達で、お互いをフォローしてダイレクトメッセージを送り合っていました。彼は調査を行い、「これは少し怪しい。Elonの生配信を見ると、彼は実際にこのゲームが上手ではないようだ」と言いました。するとElonは彼の認証バッジを取り去り、このストリーマーとのダイレクトメッセージをリークしました。その後、これらのツイートを削除しました。
そしてAsmongoldは「何だよ？私は彼と友達だった。彼のファンだった。そして突然、事実上ブロックされた」と言いました。この出来事全体が少し「よ、私たちは同じElonについて話しているのか？火星にロケットを送る男について？何が起きたんだ？」というようでした。
これらすべてのことは、大きな計画の中で忘れ去られていきます。彼もまだ人間に過ぎないことを忘れてしまいます。クレイジーな熱心さや崇拝、ヒーロー崇拝がどんな人にでも可能だと思います。5年前は「これらのクレイジーなMAA支持者やトランプ支持者は愚かで馬鹿だ」と思っていたかもしれませんが、Elonに対する同じ行動がそれほど愚かではないのはなぜでしょうか？
コードを書くことを知っている人が行うからですか？少しオタクな人が行うからですか？知覚的に少し賢い人が行うからですか？誰かが私に最近言ったのは、「実際、世界はオーラを持つ人々が、それほどオーラを持たない人々を導くものだ」ということです。
一度オーラを持つと、あなたが良いか悪いかどうかは関係ありません。単にオーラを持っています。それはすべてを補います。Elonやそのような人物のための正しいモデルは、特定のことに非常に優れている、深く欠陥のある人間だと思います。それが人間の状態です。
あなたはおそらく木に登ることに本当に優れていますが、泳ぐことにはあまり優れていません。そして、「この人は泳ぐことに本当に悪い」と常に言う人々と、「この人は木に登ることに本当に優れている」と言う他の人々がいます。
そして、経済的に木に登ることが報われれば、その人は権力の位置に就きます。経済的に泳ぐことが報われれば、他の人が権力の位置に就きます。人間は深く欠陥があり、しかし私たちはまだヒーロー崇拝します。なぜなら「多分それが私が望む欠陥の種類だ」と思うからです。
これは非常に複雑な感情の混乱ですが、それは本当に楽しいことでもあります。2年前、私は非常に恐れていました。なぜなら、人々はミスインフォメーションを作り出すのに長けており、真実を気にしないことを知っていたからです。しかし今、戦いの中にいることや、それの小さな部分になること、あるいはそれの一部にならなくても傍観することが楽しいです。そうでなければ、人生で他に何をするのでしょうか？家に座ってテレビを見て、他の人々が戦うのを見るだけですか？
今、私はRepublic TVに対して新たな敬意を持っています。彼らは経済や人々、頭脳にとって恐ろしいかもしれませんが、人々がニュースで座って10分か20分議論するとき、人々はそれを望んでいます。だから、それは存在するのです。それは彼らの生活から休息を与え、一方の側でプレイすることを可能にし、それはすべて架空のものです。
そのような暗い注記で今日のエピソードを終了します。視聴していただきありがとうございます。また近いうちにお会いしましょう。
コメント