1%の改善に見えますが、実際これは10倍の改善なのです。新しいウイルスが広まっているのを聞いたことがありますか。それはハイプ（誇大宣伝）と呼ばれるものです。人類の歴史と同じくらい古く、症状には「AI」「AIファースト」「生成AI」「第三のAI」「AIによるAI」「最終的にAIによって厳密にテストされたAI」という言葉を熱狂的に連呼することや、検証可能な虚偽の主張をすることが含まれます。「Googleの最高のGeminiデモは偽造だった」というのが彼らの見出しです。
私はあなたがたの不安の一部に対処しようと思いますが、同時に私は専門家ではありません。最先端の研究論文をすべて追っているわけではありません。しかし、私は2つのことを主張したいと思います。時々、人々があらゆる細かい詳細に注目し過ぎると、大局を見失ってしまうことがあります。また、この動画で私が導き出す結論のほとんどは、実際にメタの主要なAI研究者や、専門家である多くの知的な人々の意見と一致しています。ですので、これから私が言うことには何らかの真実があるかもしれません。
私は未来を予測することはできません。技術職の市場がどこに向かうのか正確に言うこともできません。しかし、歴史的な文脈を提供し、多くの事実を挙げ、一連の思考実験を通じて結論に至ろうと思います。私が取り上げるリストには、偽のデモ、なぜすべての大企業がAIに投資しているのか（何か意味があるはずです）、実際には人間の行動について多くのこと、そして多くの不確実性がある変化する世界で、私たち人間がどのように大きな人生の決断（どの大学の専攻を選ぶか、どのキャリアパスに移行するかなど）をするのかが含まれています。
今日私が話すことのほとんどすべては、1つのことを中心に展開します。技術は大きく変化しますが、人類の歴史を通じて1つだけ変わらないものがあります。それは人間の本質です。
明らかに、これらすべては2022年にChatGPTがリリースされたときに始まりました。その時点で、注目していた人なら誰でも2つのことが即座に明らかになったと思います。1つ目は、これが革命的な技術であり、Web3のブームとは全く異なるものだということです。2つ目は、この技術が緩やかに進展し、一夜にして世界を変えるものではないということです。私はGPT-4がリリースされた翌日に公にこれらの主張をしました。
間違いなくこの技術は世界を革新するでしょう。すでにそうなっています。しかし、ブームが示唆するほど強力ではないと思います。私はサム・アルトマンとOpenAIの倫理さえも疑問視しました。そして、人々は私に何と言ったでしょうか。彼らは私が現実逃避していると言いました。さらにはGoogleのファンボーイだとさえ言われました。どこでそんなアイデアを得たのかわかりませんが、最近になって人々は私に同意し始めています。
OpenAIが従業員に違法な秘密保持契約に署名させていたことが明らかになりました。彼らは嘘をつく文化を促進しています。Soraの訓練に使用されたデータについて、「公開されているデータとライセンスされたデータを使用しました。つまりYouTubeの動画です」と言われましたが、私は実際のところ確信が持てません。そして、サム・アルトマンが人々の目をスキャンして、その見返りに無価値な暗号通貨を与えるという奇妙なことも起きています。
良くも悪くも、私はこの種の群衆心理をうまく避けてきたので、正直なところ、人々が私は間違っていると言っても気にしませんでした。今のところ、私の予測はすべて間違っていると判明するかもしれません。すべてが一夜にして変わるかもしれません。しかし、なぜそれがありそうもないのか説明しましょう。
これらの大手テクノロジー企業がすべて愚かであるはずがありません。なぜ彼らはAIとチップに何十億ドルも投資しているのでしょうか。まず、私は彼らが愚かではないということに同意します。しかし、それは彼らが以前に間違いを犯したことがないということを意味しません。そして2つ目に、なぜという問いに答えるのは少し難しいので、思考実験をしてみましょう。
あなたがGoogleだったらどうしますか、という質問をさせてください。AIに投資するか、それともスキップするかの選択肢があります。投資する場合、1つの可能性としては、それが報われ、AIブームが実際に価値があったということです。2つ目の可能性は、Googleがお金を失い、投資が無駄になるということです。信じられないかもしれませんが、Googleの観点からすれば、これらの2つの結果のどちらでも構いません。なぜなら、投資が報われればGoogleは多くのお金を稼ぎ、報われなくてもGoogleは多くのお金を稼ぐからです。
Googleが最も避けたいのは、投資をスキップして、他の誰かがGoogleのビジネスを完全に破壊してしまうケースです。Googleは独占企業で、何をしていいかわからないほど多くのお金を持っています。そして、彼らは確実にそのお金を従業員に与えるつもりはありません。
現在、すべての企業が避けようとしているケースは、2000年代後半のMicrosoftのケースです。「スティーブ、iPhoneとズームについて聞かせてください。完全に補助金付きのプランで500ドルです。私が言ったのは、これは世界で最も高価な電話機であり、キーボードがないためメールマシンとしてはあまり優れていないので、ビジネス顧客には魅力的ではないということです。今、後知恵で考えると、違うやり方をしたでしょうか？」「もちろんです。」「例えばどんなことですか？」「おそらく、もっと早くハードウェアの製造を始めていたでしょう。そうすれば、携帯電話ビジネスでもっと効果的になれたかもしれません。」
これは一種のIQテストのようなものです。Microsoftはスマートフォンを見逃し、1兆ドル規模の産業を逃しました。これがGoogleとすべての大手テクノロジー企業が避けようとしているケースです。
おそらく、これらの投資は最終的に報われるでしょう。しかし、現在AIから実際にお金を稼いでいる唯一の企業はNVIDIAです。彼らが利益を上げているのです。これは驚くべきことではありません。なぜなら、彼らがシャベルを売っているからです。そのシャベルが実際に金を見つけられるかどうかはまだ証明されていません。そして、それが証明されることは決してないかもしれません。
歴史は繰り返します。これはすべて以前にも異なる形で起こっています。あなたが健忘症ではないことを願います。2021年のユーフォリアを忘れていないことを願います。その時、すべての企業がただ可能な限り多くの人を雇用していました。なぜそうしたと思いますか？「私たちは新しい世界にいるからです。私たちはできるだけ多くのエンジニアを必要とします。今や技術がすべてです。もし大量の人を雇わなければ、競合他社に追い抜かれてしまいます。」そして、その後何が起こったでしょうか？GoogleだけでなくAmazonもMetaもMicrosoftも、これらの大手テクノロジー企業はすべて完全に間違っていて、何千人もの人々を解雇しました。
ハイプは自然の力だということを理解する必要があります。それは今まで存在した中で最も強力なマーケティングツールです。
少しDevin AIについて話しましょう。私は発表直後にそれについての動画を作りました。私は創業者たちがとても賢いと思いましたが、同時にDevinについては心配していません。なぜなら、これらの人々が明らかに逆風と戦っているからです。私はそれについてあまり知りません。ベンチマークによると、これは他のLLMよりもソフトウェアエンジニアリングタスクにおいて効果的だと言われています。私はそれが単にいくつかのことを組み合わせているからではないかと思います。例えば、独自の能力として、研究を行ったり、Googleで検索したり、Stack Overflowを閲覧したり、コードを実行したりする機能があり、それらの要素をGPTよりもより一貫性のある形で組み合わせているのかもしれません。
明らかに短期間で独自の複雑なLLMを作成したわけではありません。私はほぼ確信していますが、彼らは既存のLLMの1つを使用しているのでしょう。私は証拠を詳しく調べたわけではありません。それは私には少し明らかに思えました。
数ヶ月後、人々はハイプに騙されていたことに気づき始めています。Devin AIは、少なくとも現時点では非常に過大評価されています。私の言葉を信じないなら、この人の言葉を信じるかもしれません。彼は基本的に、現時点でDevin AIは、プログラミングコースを1週間受けた新入生のCS学生よりも役に立たないことを証明しました。
最近、彼らは少し主張を控えめにしています。「今のところ、私たちはいくつかのコード移行から始めます。そして、おそらくここでいくつかのコードリファクタリングを行います。」
さて、主張を大げさに誇張しながらも、結果的にかなり成功した別の企業を思い浮かべることができますか？私には数十社思い浮かびますが、おそらく最も顕著な例はテスラでしょう。私は車に座ってどこかに連れて行ってもらえる日を辛抱強く待っています。テスラは長い間完全自動運転ソフトウェアを販売してきました。そして、これを優しく言いますが、私は完全自動運転の定義が彼らとはかなり異なると思います。
しかし、それは重要ではありませんよね？人々はハイプを信じます。テスラ車が実際に良い投資になるまでにそれほど時間はかからないでしょう。あなたのテスラは価値が上がります。運転していないときにはロボタクシーとして使用することができるでしょう。繰り返しますが、これは真実ではありませんが、おそらくテスラのハイプを高めるのには効果的だったでしょう。
Devinがソフトウェアエンジニアに取って代わる可能性は低く、創業者や投資家に多くのお金をもたらす可能性の方が高いです。そして、人々がハイプと詐欺の境界線をぼやかした例が多くあります。特に注目すべき例としては、サノスやFTXがあります。
最近、偽のデモがたくさんありました。Soraの動画は偽物でした。それは主にビデオスタジオによって作成されました。GoogleのGeminiデモも偽物でした。なぜ企業はこのようなことをするのでしょうか？それは効果があるからです。Devin AIは20億ドルの評価を受けています。これは現在のところ単なるOpenAIのラッパーに過ぎないものとしては大きな金額です。特にOpenAI自体が800億ドルの評価を受けているときには。
しかし、なぜハイプを作り出すのかという質問に戻ると、数字の観点から考えてみましょう。私の会社が20億ドルの評価を受けているとしたら、それは非常に価値があります。なぜなら、誰かを雇う必要があるとき、給与を支払い、さらに「なぜ10万ドルの自社株を与えないのか」と考えるからです。今はまだ売却できません。今のところは紙の上のお金に過ぎません。でも、ねえ、10万ドルだよ。私の会社が現在利益を上げていないこと、そしてそれが将来的にも利益を上げられない可能性があることには注目しないでください。私の会社は20億ドルの価値があるのです。
これは特にスタートアップや非公開企業に当てはまりますが、もちろん上場企業にも当てはまります。短期的な株価の上昇は彼らにとって良いことです。なぜなら、より高い評価で株式を発行できるからです。これは基本的な数学です。
さて、これらのLLMの改善率に関しては、より良いチップを投入すれば役立つでしょう。より良質なデータを投入すれば役立つでしょう。そして、確かにトランスフォーマーアーキテクチャのような新たな研究のブレークスルーも役立つでしょう。しかし、多くの人々が期待しているレベルの知能には、コンピューターが単純に適合していない可能性もあります。パラダイムシフトが必要になる可能性はないでしょうか。それが何になるかはわかりません。量子コンピューターかもしれませんし、何らかの有機物質かもしれません。
私はこのように考えています。AIの改善率を予測することは不可能ですが、私たちにはすでにいくつかのデータポイントがあります。ChatGPTがリリースされてから約2年が経ちました。そして、率直に言って、GPT-3.5からGPT-4oへの改善率は明らかに非常に遅いものでした。
GPT-5がリリースされたときに、GPT-3.5のような劇的な改善があるかもしれません。もちろん、より大きな疑問は2年後に何が起こるかではなく、10年後や20年後に何が起こるかです。改善率はこのようになるのでしょうか、それともこのようになるのでしょうか。
私たちは明らかにわかりません。しかし、何かに長けていれば、より上手くなればなるほど、さらに改善することが難しくなることを知っています。これは多くのことに類似しています。私が本当に興味深いと思う例は分散システムです。99%の可用性を持つシステムがあり、それを99.9%の可用性に押し上げたいとします。これは単なる1%の改善のように見えます。どれほど難しいことがあるでしょうか。しかし、これは非常によくある誤解です。
99%から99.9%への改善は1%ではありません。これは実際に10倍の改善です。なぜなら、99%のシステムの障害率はわずか1%ですが、このシステムでは0.1%になるからです。障害が10倍少なくなります。そして、もちろん私たちはAIについて知っています。うまく機能するときは人々は問題ないと感じます。彼らは感銘を受けます。しかし、失敗したときには本当に問題になります。
テスラに関しては、あなたの車が1回でも失敗すれば、それでゲームオーバーになる可能性があります。これをできるだけ小さくする必要があります。実際、私たちは99.9%を目指しているのではありません。私はテスラができる限り遠くまで行くのを見たいのです。100%にはならないでしょう。人間でさえそれほど優れてはいません。しかし、改善率が最終的に劇的に遅くなることは明らかになりつつあります。ただ、ボトルネックが何なのかはまだはっきりしていません。
私には共有できる例がたくさんあります。いくつかを手短に紹介しましょう。1つは、テスラが2016年に自動運転のデモを偽造したことです。なぜそんなことをしたのでしょうか。企業は、自分たちが実際よりも優れていると思わせたいのです。彼らは、実際よりも速く改善していると思わせたいのです。なぜなら、もしあなたが底値で買えば、最終的にはここまで上がるからです。そして、たとえそこまで到達しなくても、あなたはすでに製品を購入しているのです。
もし私がタクシー運転手で、テスラやイーロン・マスクが言ったことで仕事を辞めたとしたら、私は少しばかばかしく感じるでしょう。一度だまされたら、だます方が悪い。二度だまされたら、だまされる方が悪い。ですので、イーロンが「2年以内に人工汎用知能を持つことになる」と言うとき、私は少し躊躇します。そして、専門家の意見を聞く方が良いと考えます。
イーロンが純粋に感情的な観点から主張を行っているわけではないことは確かです。彼は常に事実と論理と研究に基づいて行動していると確信しています。
私には、多くの未知の変数がある中で難しい決断をする比較的シンプルな方法があります。まず、現時点でソフトウェア開発者の仕事が自動化されているという証拠はありません。それが一夜にして変わる可能性はありますが、たとえそれが起こり始めたとしても、コードの品質が大きく低下し、多くの障害が発生して、最初にわずかなお金を節約しようとしたことが価値がなかったということが証明されるまでは、まだ証明されたとは言えません。
2つ目は、より人間的な側面です。もし今あなたが専攻を中退したり、全く異なるキャリアに移行したりしたとして、数年以内に開発者が自動化されると予測したのに、それが起こらなかった場合、あなたはその後悔とどう向き合えますか？それはあなたをどのような気持ちにさせるでしょうか。
もちろん、反対の場合も考えてみてください。今すぐ進路を変更して一歩先に進むとします。でも、何の一歩先に進むのでしょうか？あなたが何をしようとしているのかわかりません。会計士になる？弁護士になる？医師になる？開発者が自動化されるなら、どの仕事が自動化されないのでしょうか。
少なくとも私たちは皆同じ船に乗っているという側面があります。私は、特に教育に関しては、いかなる劇的な決断もしないでしょう。
みんな、みんな、私たちには電卓があります。なぜまだ子供たちに数学を教えているのでしょうか。私たちには音声テキスト変換エンジンがあります。もう誰も読み書きを知る必要はありません。私は、現在の最先端の研究者たちが非常に貧弱な数学スキルと読み書きスキルを持っていると確信しています。
プログラミングに関する論理は、特にビジネスなど多くの分野に適用できます。そのため、今日の最高のビジネスリーダーの中には技術系の創業者が多いのです。正直なところ、私は自分の成功のほとんどを、人生の早い段階で受けた教育、つまり数学、物理学、そして最終的にはプログラミングを教えてくれた教育のおかげだと思っています。
もちろん、建築の詳細のような非常に複雑なものもありますが、いくつかのことは単純です。人間の脳が今日の最先端のAIと根本的に異なっているのは明らかです。人間は運転の仕方を完全に学ぶのに、せいぜい数十時間しかかかりません。「中央左」、少なくとも私たちのほとんどはそうです。小さな子供でさえ、猫のような動物を数回見れば、将来それを識別できるようになります。これは今日のAIには当てはまりません。
また、AIがいくつかの改善を行うだろうとも言っています。多くのことを自動化するでしょう。私の意見では、私たちが目にしてきたこの劇的なハイプには応えられないでしょう。しかし、いくつかの人々に多くのお金をもたらすためには、ハイプに応える必要はありません。
一からアップルパイを作りたいなら、まず宇宙を発明しなければなりません。どうもありがとうございました。
コメント