7,496 文字
一見すると1%の改善に見えますが、実際にはこれは10倍の改善なのです。新しいウイルスが広がっていることをご存知ですか？それは「バブル」と呼ばれるものです。人類の歴史と同じくらい古く、その症状には、「AI」「AIファースト」「生成AI」「AIによって」「AIで徹底的にテストされた」といった用語を熱っぽく連呼し、立証可能な誤った主張をすることが含まれます。Googleの最高のGeminiデモは偽物でした。これが彼らの見出しです。私はあなたがたの不安の一部に対処したいと思いますが、同時に私は専門家ではありません。
私はすべての最先端の研究論文をフォローしているわけではありませんが、2つのことを主張したいと思います。時として人々が些細な細部にばかり注目していると、大局的な視点を失ってしまうことがあります。また、このビデオで私が導き出す結論のほとんどは、実はMetaの主要なAI研究者や、専門家である他の多くの賢明な人々の意見と一致しています。だから私が今から話すことには、ある程度の真実があるのかもしれません。
私は未来を予測することはできません。テクノロジー業界の求人市場がどうなるかを正確に言い当てることはできませんが、歴史的な文脈を提供し、多くの事実を示し、一連の思考実験を通じて結論に至ろうと思います。私のリストには、偽のデモ、なぜすべての大企業がAIに投資しているのか（何か意味があるはずですよね）、実は人間の行動についての多くのこと、そして不確実性が多く変化する世界の中で、私たち人間がどのように大きな人生の決断（どの大学の専攻を選ぶか、どのキャリアパスに移行するかなど）を下すのかといったことが含まれています。
今日話すことのほとんどすべては、一つのことを中心に展開します。テクノロジーは大きく変化しますが、人類の歴史を通じて変わらないものが一つあります。それは人間の本質です。
明らかに、これはすべて2022年にChatGPTがリリースされたときに始まりました。その時点で、注意を払っていた人なら誰にでも2つのことが即座に明らかになったと思います。1つ目は、これはWeb3のバブルとは全く異なる革命的なテクノロジーだということです。2つ目は、このテクノロジーは緩やかに進展していくものであり、一夜にして世界を変えるようなものではないということです。
私はGPT-4がリリースされた翌日に公にこれらの主張をしました。間違いなく、このテクノロジーは世界を革新するでしょう。それはすでに起きていることです。しかし、バブルが示唆するほど強力なものではないと私は考えています。私はSam AltmanとOpenAIの倫理観さえも疑問視しました。そして人々は私に何と言ったと思いますか？彼らは私が現実逃避していると言い、さらにはGoogleのファンボーイだとまで言いました。どこでそんなアイデアを得たのかわかりませんが、最近では人々は私に同意し始めています。
OpenAIが従業員に違法な機密保持契約に署名させていたことが明らかになりました。彼らは嘘をつく文化を助長しています。「Soraのトレーニングにはどのようなデータが使用されましたか？」「私たちは公開されているデータとライセンスされたデータを使用しました。つまりYouTubeの動画です」実際のところ、私はそれについて確信が持てません。そしてSam Altmanが何の価値もない暗号通貨と引き換えに人々の虹彩をスキャンするという奇妙な出来事もありました。
良くも悪くも、私はこの種の群衆心理をうまく避けてきたので、正直なところ、人々が私は間違っていると言っても気にしませんでした。もちろん、私の予測がすべて間違っているかもしれません。すべてが一夜にして変わる可能性もありますが、なぜそれが起こりそうにないのか説明しようと思います。
これらの大手テクノロジー企業がすべて愚かであるはずがありません。なぜ彼らはAIとチップに何十億ドルも投資しているのでしょうか？まず、私は彼らが愚かではないということに同意します。しかし、それは確実に彼らが以前に間違いを犯したことがないということを意味するわけではありません。第二に、なぜという質問に答えるのは少し難しいので、思考実験をしてみましょう。
あなたがGoogleだったら何をしますか？という質問をさせてください。AIに投資するか、それともスキップするかの選択があります。投資した場合、可能性として1つ目は、それが報われAIバブルは実際に価値があったということです。2つ目のケースは、Googleがお金を失い、投資は価値がなかったということです。信じられないかもしれませんが、Googleの視点からすると、これら2つの結果のどちらでもかまいません。なぜなら、投資が報われればGoogleは多くのお金を稼ぎ、報われなくてもGoogleは多くのお金を稼ぐからです。
Googleが最も避けたいのは、投資をスキップして、他の誰かが完全にGoogleのビジネスを破壊してしまうケースです。Googleは独占企業で、何をしていいかわからないほどのお金を持っています。そして確実に、そのお金を従業員に与えるつもりはありません。
現在、すべての企業が避けようとしているのは、2000年代後半のMicrosoftのケースです。
「スティーブ、iPhoneとズームについて聞かせてください。完全な補助金付きプランで500ドル。私が言ったのは、これは世界で最も高価な電話であり、キーボードがないためにビジネスユーザーには魅力的ではなく、メール機能としてはあまり優れていないということです。今、振り返ってみると、違ったやり方をしたことはありますか？」
「もちろんです。」
「例えば？」
「おそらく、もっと早くからハードウェアの開発を始めるべきでした。そうすれば、スマートフォン事業でもっと効果的に展開できたと思います。」
これは一種のIQテストのようなものです。Microsoftはスマートフォンの波に乗り遅れ、1兆ドル規模の産業を逃してしまいました。これこそがGoogleと他のすべての大手テクノロジー企業が避けようとしているケースです。
これらの投資は最終的に報われるかもしれませんが、現時点でAIから実際にお金を稼いでいる唯一の企業はNVIDIAです。彼らが利益を上げているのです。これは驚くべきことではありません。なぜなら、彼らはシャベルを売る側だからです。そのシャベルが実際に金を見つけられるかどうかはまだ証明されていませんし、永遠に証明されない可能性もあります。
歴史は繰り返します。これは以前にも様々な形で起こっています。記憶喪失になっていないでしょうね？2021年の熱狂を忘れていないでしょうね？あの時、すべての企業が可能な限り大量採用をしていたのを覚えていますか？なぜそうしたと思いますか？「私たちは新しい世界にいる。私たちはより多くのエンジニアを必要とする。テクノロジーが全てだ。大量採用をしなければ競合他社に遅れを取ってしまう」そして、その後何が起こったでしょうか？GoogleだけでなくAmazonも、Metaも、Microsoftも、これらの大手テクノロジー企業はすべて完全な間違いを犯し、何千人もの従業員を解雇しました。
バブルは自然の力であることを理解しなければなりません。それは今まで存在した中で最も強力なマーケティングツールなのです。
DeepMind AIについて少し話しましょう。発表直後に私はビデオを作りました。創業者たちは非常に賢いと思いましたが、同時にDeepMindについては心配していません。なぜなら、彼らが明らかに困難な戦いを強いられているからです。私はそれについてあまり知りませんが、ベンチマークによると、これは他のLLMよりもソフトウェアエンジニアリングタスクにおいて効果的だとされています。それは、単にいくつかのことを組み合わせているからかもしれません。Google検索やStack Overflowを閲覧し、コードを実行する独自の機能を持っており、それらの要素をGPTよりもまとまりよく組み合わせているだけかもしれません。
明らかに短期間で独自の複雑なLLMを作成することはできません。私は彼らが既存のLLMの1つを使用していると確信しています。私は証拠を詳しく調べたわけではありません。それは私には明白に思えました。数ヶ月後、人々はバブルに騙されていたことに気付き始めています。DeepMind AIは、少なくとも現時点では極めて過大評価されています。
もし私を信じられないなら、この人物を信じるかもしれません。彼は基本的に、現時点でDeepMind AIはプログラミングの初級コースを1週間受けた新入生よりも役に立たないことを証明しました。最近、彼らは自身の主張を控えめにしています。「今のところ、いくつかのコード移行とリファクタリングから始めましょう」
主張を大げさに誇張しながらも、結果的にかなり成功した別の企業を思い浮かべることができますか？私は数十の例を思い浮かべることができますが、最も顕著な例はおそらくTeslaでしょう。私は車に座ってどこかに連れて行ってくれる日を辛抱強く待っています。Teslaは長い間完全自動運転ソフトウェアを販売してきましたが、これは穏やかに言いますが、私は完全自動運転の定義が彼らとはかなり異なるようです。
しかし、それは重要ではありませんよね？人々はバブルを信じ込みます。「Teslaの車が実際に良い投資になるまでそれほど時間はかからないでしょう。あなたのTeslaは価値が上がり、運転していないときはロボタクシーとして使うことができるようになります」 繰り返しますが、これは事実ではありませんが、おそらくTeslaのバブルを盛り上げるのには効果があったでしょう。
DeepMindがソフトウェアエンジニアを置き換える可能性は低く、創業者と投資家に多くのお金をもたらす可能性の方が高いでしょう。そして、人々がバブルと詐欺の境界線をぼかした例は多くあります。特に注目すべき例として、ThanosとFTXがあります。
最近、多くの偽のデモがありました。Soraのビデオは偽物で、主にビデオスタジオによって作成されました。GoogleのGeminiデモも偽物でした。なぜ企業はこのようなことをするのでしょうか？それは効果があるからです。DeepMind AIは20億ドルの評価額を持っています。現時点で単なるOpenAIのラッパーに過ぎないものとしては、かなりの額です。特にOpenAI自体が800億ドルの評価額を持っているときには。
しかし、なぜバブルを作り出すのかという質問に戻って、数値的な観点から考えてみましょう。もし私の会社が20億ドルの評価額を持っているとすれば、それは非常に価値があります。なぜなら、誰かを雇う必要がある場合、給与を支払い、さらに「ねえ、なぜ我が社の株式10万ドル分も付けないんだい？まだ売却はできないよ、今のところただの紙切れだけど、でも10万ドルだぜ。我が社が今は利益を出していないし、将来も出せないかもしれないという事実には目をつぶってね。うちの会社は20億ドルの価値があるんだから」というようなことができるからです。
これは特にスタートアップや非上場企業に当てはまりますが、もちろん上場企業にも当てはまります。短期的な株価の上昇は彼らにとって良いことです。なぜなら、より高い評価額で株式を発行できるからです。これは基本的な算数です。これらのLLMの改善率に関して言えば、より良いチップを投入すれば助けになるでしょう。より質の高いデータを投入することも助けになるでしょう。そして確かに、トランスフォーマーアーキテクチャのような新しい研究のブレイクスルーも助けになるでしょう。しかし、多くの人々が期待しているレベルの知能に対して、コンピュータが単純に互換性がない可能性もあるのです。パラダイムシフトが必要になる可能性はないでしょうか？それが何になるかはわかりません。量子コンピュータかもしれませんし、何らかの有機物質かもしれません。
私はこのように考えています。AIの改善率を予測することは不可能ですが、私たちにはすでにいくつかのデータポイントがあります。ChatGPTがリリースされてから約2年が経ちましたが、率直に言って、GPT-3.5からGPT-4への改善率は明らかに非常に緩やかでした。もちろん、GPT-5がリリースされたときには、GPT-3.5のように劇的な改善があるかもしれませんし、誰にもわかりません。
そしてもちろん、より大きな疑問は2年後に何が起こるかではなく、10年後や20年後に何が起こるかです。改善率はこのようになるのでしょうか、それともこのようになるのでしょうか？明らかに私たちにはわかりませんが、もし何かに長けているなら、より良くなればなるほど、さらに改善することが難しくなることを知っているはずです。
これは多くのことに類似しています。私が特に興味深いと思う例は分散システムです。99%の可用性を持つシステムがあり、それを99.9%の可用性にまで押し上げたいとします。1%の改善に見えます。どれほど難しいことがあるでしょうか？しかし、これは非常によくある誤解です。
これは1%の改善ではありません。実際には10倍の改善です。99%から99.9%に行くためには、なぜなら、99%の稼働時間を持つシステムの故障率は時間の1%ですが、このシステムでは0.1%になるからです。故障は10分の1になります。そしてもちろん、私たちはAIについて知っています。うまく機能している時は人々は満足しています。彼らは感心します。しかし、失敗したときが本当に重要なのです。
Teslaに関して言えば、あなたの車が一度でも失敗すれば、それで終わりかもしれません。これはできる限り小さくしなければなりません。実際、私たちは99.9%を目指しているのではありません。私のTeslaができる限り遠くまで行けることを見たいのです。100%になることは決してありません。人間でさえそれほど優れてはいません。しかし、改善率は最終的に劇的に減速することが明らかになってきていると思います。ただし、何がボトルネックになるのかはまだはっきりしていません。
私には共有できる例がたくさんあります。いくつかを手短に共有しましょう。1つは、Teslaが2016年に自動運転のデモを偽装したことです。なぜそのようなことをしたのでしょうか？企業は、自分たちが実際よりも優れていると、実際よりも速く改善していると思わせたいのです。なぜなら、もしあなたが底値で買えば、最終的にはここまで上がるはずだからです。そして、たとえそこまで到達しなくても、あなたはすでに製品を購入しているのです。
もし私がタクシー運転手で、TeslaやElon Muskが言ったことで仕事を辞めていたら、少し馬鹿みたいに感じたでしょう。一度だまされたら相手が悪い、二度だまされたら自分が悪い。だから、Elonが「2年以内に人工汎用知能を手に入れる」と言うとき、私は少し躊躇します。そして専門家の意見を聞く方が良いと考えています。Elonが純粋に感情的な観点から主張を行っているわけではないことは確かです。常に事実と論理と研究に基づいて行動しているはずです。
多くの未知の変数がある中で、難しい決断を下す比較的単純な方法があります。まず第一に、現時点ではソフトウェア開発者の仕事が自動化されているという証明はありません。もちろん、それは一夜にして変わる可能性もありますし、たとえそれが始まったとしても、コードの品質が大幅に低下し、多くの障害が発生して、最初からわずかなお金を節約する価値がなかったということが証明されていないのです。
第二は、より人間的な側面です。もし今、あなたの専攻を中退したり、完全に異なるキャリアに移行したりして、数年以内に開発者が自動化されると予測したにもかかわらず、それが起こらなかった場合、あなたは後悔とともに生きていけますか？それはあなたにどんな気持ちを抱かせるでしょうか？
もちろん、別の選択肢も考えてください。今すぐ進路を変更して一歩先に進むとします。では、何について一歩先に進むのでしょうか？あなたが何を計画しているのかわかりません。会計士になるのですか？弁護士ですか？医師ですか？もし開発者が自動化されるのなら、どの仕事が自動化されないというのでしょうか？少なくとも私たちは皆、この状況を一緒に乗り越えているという側面があります。
特に教育に関しては、劇的な決断を下すことはお勧めしません。「おい、おい、電卓があるのに、なぜまだ子供たちに数学を教えているんだ？音声からテキストへの変換エンジンがあるんだから、もう誰も読み書きを知る必要はない」私は確信を持って言えますが、現在の最先端の研究者たちは、とても数学力が低く、読み書き能力も低いのでしょう。
プログラミングで使用される論理は、特にビジネスなど、多くの分野に応用できます。だからこそ、今日の最高のビジネスリーダーの中には技術系の創業者が多いのです。正直なところ、私の成功のほとんどは、人生の早い段階で受けた教育、つまり数学、物理学、そして最終的にはプログラミングを教えてくれた教育のおかげだと思っています。
もちろん、建築の詳細のように非常に複雑なものもありますが、シンプルなものもあります。人間の脳が今日の最も高度なAIと根本的に異なることは明らかです。人間は多くの場合、中程度に上手く運転できるようになるまでに、せいぜい数十時間しか必要としません。小さな子供でさえ、猫のような動物を数回見るだけで、将来それを識別できるようになります。これは今日のAIには当てはまらないのです。
また、AIがいくつかの改善を行い、多くのことを自動化することも言っています。私の意見では、私たちが目にしてきたような劇的なバブルには応えられないでしょう。しかし、バブルに応える必要はありません。一部の人々に多くのお金を稼がせるだけで十分なのです。
アップルパイを一から作りたいのなら、まず宇宙を発明しなければなりません。ありがとうございました。
コメント