19,095 文字
OpenAIが手紙を公開しました。イーロンは当初からOpenAIを営利モデルにしたいと考えていました。結局のところ、これは地球上で最大の機会をめぐる戦いです。私は以前、これは政府間の戦いになると考えていましたが、違います。これは企業間の全てを賭けた戦いなのです。今後の展開がいかに急速に進むか、理解するのも難しいほどです。ソフトバンクのCEOがAI分野での米国への1000億ドルの投資を約束しました。これは米国の進むべき方向を示す象徴だとすれば、この分野での世界的な覇権をめぐる戦いなのです。
皆さん、こんにちは。今年最後の特別エピソード、サリーム・イスマイルと私によるムーンショットへようこそ。今週のテクノロジー界で何が起きたのか、お話ししていきましょう。OpenAIによるイーロン・マスクとの会話の公開や、営利対非営利の議論、訴訟の状況、そしてより重要なのは、AI業界に流れ込む膨大な資本についてです。何千億ドルものお金が動いているのです。これは2025年に激しく展開される戦いとなるでしょう。詳細をお伝えしたいと思います。また、AIとヘルスケアの世界、私たちをより健康にし、願わくば桁違いの改善をもたらすような破壊的イノベーションについてもお話しします。
このセグメントは3つの素晴らしい企業、Fountain、Viome、One Skinによってスポンサーされています。皆さんご存知の通り、Fountainは私が深く関わっている企業で、私の体内で何が起きているかを理解し、早期に病気を発見し、世界中から最高の治療法を私に提供してくれるパートナーです。fountainlife.comでチェックできます。Viomeは私のオーラルケアと腸内細菌叢を理解し、測定し、体内の40兆から100兆の生物の健康維持を助けるカスタムサプリメントを作ってくれています。そしてOne Skinは私の肌の若さを保つのを助けてくれる素晴らしい企業です。63歳の私が肌のことで褒められるのは少し変な感じですが、これはOne Skinと、肌の老化細胞を除去するペプチドのおかげだと思っています。
リンクは全て下記に記載してあります。それでは、サリーム・イスマイルとのエピソードに入りましょう。AIとヘルスケアがどこに向かうのか、素晴らしい未来が待っています。
皆さん、ピーター・ディアマンディスです。今年最後の特別エピソード、ムーンショットでのWTFテクノロジーにようこそ。私のパートナーであり、親友であるサリーム・イスマイル、OpenEXOのCEOと一緒です。私は彼と世界中のステージで、指数関数的なテクノロジーについて、その進歩の速さと世界の行く末について語ってきました。
サリーム、会えて嬉しいよ。
同じく。昨夜は別々の理由で少し疲れているけどね。でも、このニュースが出てきて、AIとヘルスケアについて話し合いたかったんだ。そう、8時間の睡眠が目標だったけど、昨夜はそうはいかなかった。少し声が疲れているかもしれないけど、私たちは非常にエキサイティングな世界に生きていて、年末前にこの会話をしたかったんだ。なぜなら2024年はAIにとって最も重要な年の一つとして記録されるだろうから。
人類の歴史の中で技術的に最も重要な年の一つだと思う。そして、来年はさらに重要になるだろう。私たちは曲線の急な部分にいるんだ。そう感じるよ。私はこう考えている。これから20年から30年が、人類の今後数世紀を決定づけることになる。
20年か30年だと思う？それとも次の10年くらい？
全部だよ。これがすべてなんだ。理解するのは難しい。あなたがよく言うように、人類の何万年もの間、何も起こらなかった。そして突然、ブームが起きた。
110年か120年前に生きていて、飛行機が飛び始め、車が登場し、電気や電話が普及し始めた時、今のような感覚だったのかな？と思うことがある。
リリー、おはよう。
ピーターがハイって言ってるよ。
ハイ。
またね。
今のように速く感じたのかな？今は狂ったように速い感じがする。TwitterやX、ソーシャルメディア、デジタルコンテンツ、デジタルニュースによる集合的な会話のスピードに気づいたことの一つは、私たちは人類を世界的な会話で急速にレベルアップさせているということだ。ジョークが起きると、ほぼリアルタイムで集合意識に取り込まれる。これは100年前、200年前、300年前にはなかった全く新しいことだ。
AIとヘルスケアについて話したい。私は人生の50%をAI、50%を長寿・ヘルスケア・バイオテクに費やしている。
おっと、宇宙のことはどうしたんだ？それはあなたの情熱だったじゃないか。
ああ、それは20年前のことだよ。イーロンとジェフ・ベゾスがうまくやってくれているから、私は関わる必要はない。
宇宙はもう古いニュースなの？
まあ、小惑星採掘に戻りたいとは言っているんだ。それは本当に情熱があることで、炭素質コンドライトや金属質コンドライトを手に入れて宇宙で経済を作り出すのは大きな機会だと思う。でも、それには費用がかかる。だから、長寿とAIビジネスでたくさんの資金を作って、それから私の宇宙ハビタットに資金を提供したい。
私にとって宇宙の話題は、人類のバックアップを取れることと、代替の場所を提供できることが最も重要だと思う。それは本当に重要なことだ。ちなみに2024年は宇宙にとって素晴らしい年だった。スターシップがほぼ完全に使用可能になるという目標に近づき、2025年の前半には、ブースターをキャッチし、スターシップ自体もキャッチできるようになるだろう。これは全面的に変革的なことだ。
でも、まずAIについて掘り下げたい。たくさんのニュースがあり、私はこれをあなたのOpenEXOコミュニティと、私のアバンダンスやシンギュラリティ・ユニバーシティのコミュニティに伝えたいんだ。人類が集合的に行う最大のゲームだからね。シリコンバレーから出てきた2つの引用を紹介したい。これが今起きていることを示していると思う。全ての切り札をかけて人々がプレイしているんだ。
YouTubeで見ていない人のために読み上げよう。「これらの構築をROI（投資収益率）の観点では考えていない。このデジタルの神を作り出せば、リターンは数兆ドルになる」
次の引用：「四半期ごとに数百億ドルを使うことは問題ではない。そこに到達しなければならず、機会を逃してはいけない」
これはかなり印象的だね。シリコンバレーの人間でない人がこれを見ると、「なんてこった、テックブロたちがデジタルの神モデルを追求していて、自分たちは何様のつもりだ」という反応をするだろう。特にヨーロッパなどからそういう反応が出るだろうね。
最近の話題に入っていこう。そして最後に結論を出そう。
そうだね。今週の新しいニュースは、OpenAIが手紙を公開したことだ。これはおそらく、イーロンとの間で飛び交っている訴訟の証拠開示の準備として出されたものだ。この手紙は素晴らしい内容で、まだ読んでいない人は、ショーノートに載せるから読んでほしい。イーロンは最初からOpenAIを営利モデルにしたいと考えていたと書かれている。
私はNotebook LMを使ったことがない人のために説明すると、これは素晴らしいプラットフォームで、ジムと私が作ったものだ。私はこの長いOpenAIの手紙をNotebook LMに入れたら、2人のAIの間のポッドキャスト会話を生成してくれた。情報を吸収する素晴らしい方法で、対話の往復が人の心にすぐに届くようになる。
何が起こったのか。友人同士だったサム・アルトマンとイーロンは、OpenAIを立ち上げることを決めた。初期の頃、AIがどこに向かうのか、どれだけ速く加速しているのかについて本当の恐れがあり、オープンであることを確保し、導いていく必要があり、安全であることを確保する必要があるという初期の会話があった。そしてOpenAIは非営利として始まった。イーロンは最初に約5000万ドルを出資して始めた。
この1年間、私たちが聞いてきた会話の流れは、「ああ、私は非営利にしたかった」とイーロンは言い、サム・アルトマンがそれを営利に変えた、というものだった。しかし、公開された手紙はそうは言っていない。手紙には、イーロンが営利にしたいと考えていたと書かれている。なぜなら、そうあるべきだと考えていたからだ。実際、イーロンはCEOになりたがっていて、OpenAIを彼のテック帝国の一部にしたいと考えていた。X、テスラ、SpaceXなどと同様に。なぜなら、火星に向かうミッションを推進するためにそれらのリソースが必要だったからだ。
あなたはどう解釈した？
私にとって、これはOpenAIによる訴訟への防御的な動きに見える。マイクロソフトも含めた訴訟に対抗して、「彼自身が最初からこれをしたかったのだから、この全体が根拠のないものだ」と言いたいのだろう。そう感じる。
本当の緊張関係は、イーロンがOpenAIを彼の世界の一部にしたかったのに対し、他のメンバーは「いや、私たちは独自のことをしたい」と考えていたことだと思う。そこから物事が崩れ始めたように感じる。ノートを読んで聞いていてそう感じた。
結局のところ、私たちが目にしているのは、地球上で最大の機会をめぐる戦いだ。ここ数ヶ月で明らかになってきたのは、AGI（汎用人工知能）への進歩が全てだということだ。世界最大の企業や政府の全てのプレイヤーが、これが最も重要な技術だと認識し、本気で戦っている。これは人類にとってのボスモードだ。
次の項目を指摘しよう。今週、MetaもOpenAIの営利化への移行を阻止するよう政府に要請した。多くのプレイヤーが、この非常に複雑なチェスゲームをプレイしている。イーロンがOpenAIを非営利のままにしようとしたのに加えて、今度はMetaが参入してきた。誰もが有利な立場を得ようとして、裁判所を利用しているんだ。
コメントは？
確かに。これは賭け金の高いポーカーゲームで、皆が全てのカードを使っている。他者を攻撃し、自分たちが何をするか考え出そうとしている。Metaは完全なオープンソースモデルを選び、素晴らしい仕事をしている。エコシステム全体を引き上げ、AIを彼らの全ての製品に織り込んでいくという素晴らしい仕事もしている。
誰もが全力を尽くしていて、みんなかなり良い仕事をしている。分野全体を信じられないようなペースで前進させている。問題は、これが起きている間に処理する時間がないということだ。だからこういう会話が重要なんだ。光速で動いているのは信じられない。
面白いのは、私は以前、これは政府間の戦いになると考えていたことだ。アメリカ対中国対ヨーロッパ対その他という感じだと思っていた。しかし、これは企業間の全てを賭けた戦いであり、政府は企業と提携しているんだ。5、6の主要なAIプレイヤーがいることになるだろう。挙げてみよう。Google、Meta、xAI、Microsoft/OpenAI、Perplexity、そしてClaude/Anthropicだ。他の企業が追いつくのは難しいだろう。
これは総取りのゲームなのか？
インターネットをめぐる戦いのようになると思う。多くの小さなスタートアップがあり、そのうちの数社がプラットフォームとして確立した。一度プラットフォームとして確立すると、本当に失敗しない限り、そこから追い落とすのは非常に難しい。彼らは皆、プラットフォームの支配権を争っているんだと思う。
スタンフォードでのサム・アルトマンのスピーチの動画を見てみよう。約1年前のものだが、現在シリコンバレーの企業で起きている考え方を示している。これはOpenAIについて語っているが、AlphabetやMeta、そしてxAIの取締役会でも同じことが言えると思う。
「年間5億ドルを燃やそうが、50億ドルを燃やそうが、500億ドルを燃やそうが、私は気にしない。本当に気にしない。最終的に社会に対してそれ以上の価値を生み出せる軌道に乗り続けられる限り、そして請求書を払える方法を見つけられる限り。私たちはAGIを作っているんだ。それは高額になるだろうが、完全に価値がある。」
素晴らしい考え方だ。私が気にかけることにそれだけの資本を集中できたらいいのに。でも、これが私たちがプレイしているゲームなんだ。冒頭で示した引用のように、ROIの合理化はない。これは数兆ドル規模の市場だ。2025年の世界のGDPは約110兆ドルになり、その半分は労働力で、残りの半分は認知的なものだ。だから、これは潜在的に50兆ドルの価値をめぐる戦いなんだ。
私にとって、これは技術の歴史を振り返ると、電気がゲームチェンジャーだったように、インターネットがゲームチェンジャーだったように、AIもゲームチェンジャーだと感じる。電気が世界全体にもたらした上方への変化と同じレベルの信じられないような効用を、これがもたらすと考えるのが適切だと思う。
それはユーティリティだね。私が非常にはっきりと見ているのは、これが全ての国の全ての人間にとっての基本的なユーティリティになるということだ。あなたが言ったように、電気や帯域幅のように。
ニューヨークタイムズからの引用を見てみよう。これは日本のソフトバンクがトランプ大統領就任前に大規模な投資を約束したという記事だ。ソフトバンクのCEOである孫正義氏がトランプ大統領と共に壇上に立ち、米国のAIに1000億ドルの投資を約束している。トランプ氏が実際に2000億ドルに倍増するよう求めているのは面白い。
人々が大規模プレイヤーと提携しようとしているのは興味深い。私は10月にサウジアラビアにいた。サウジアラビア政府、UAEのエミレーツ政府、そしてオマーンも、世界中の大規模プレイヤーと提携しようとしている。これが最大のゲームプレイだと認識しているからだ。
完全な影響を知らなくても、ゲームに参加して勝てる立場にいなければならない。テーブルの外に立っていれば負けるか、望む力と制御を持てなくなるだろう。だから、多くの人々にとって、この会話に参加するための防御的な動きだと思う。
次のニュース項目を見てみよう。「オマーン投資庁がイーロンのxAIの株式を取得」とある。これを何度も目にすることになるだろう。大規模な政府プレイヤーが個別の企業を支援するんだ。サウジアラビア王国政府がGoogleとアンドレイ・カーパシーと非常に密接に提携し、その方向に数千億ドルを投資することを約束しているのを見てきた。
気になることの一つは、これらの大規模プレイヤー、大規模AIプレイヤーがいるものの、同時にこれは非収益化された資産だということだ。構築するのは非常に高額だが、大部分は無料で提供されている。なぜなら、これは土地の争奪戦、あるいはマインドシェアの争奪戦だからだ。収益は評価額を支えるほどはない。
これは初期の電話会社を思い出させる。電話会社は巨額の投資をインフラ構築に行い、その後急速に非収益化された。だから問題は、行われている投資額を支え続けられるかということだ。2024年には、Meta、Google、Microsoft、OpenAI、xAIの間で2000億ドルの投資が行われたと思う。
全ての職務機能、全てのサプライチェーンの全てのステップ、全ての製造ラインの全てのステップを破壊する可能性があると考えると、賭け金は本当に大きい。これは全ての産業のトップからボトムまで、全ての職務機能、垂直・水平を問わず影響を与えるからだ。だから、人々がそれを見ると、全力で取り組まざるを得ない。エンドゲームがどのように展開されるか見るのは興味深いだろう。
ヘルスケアに関する次の話題に移る前に、少し前に私たちが話していた会話の一つは、これがとても速く動いているということだ。私はAIの影響について非常に楽観的なままだ。これは人類を多くの異なる方法で向上させる最も重要なことの一つだと思う。
しかし、これをコントロールできるかという問題がある。OpenAIに関する冒頭の会話に戻ると、イーロンとサムが会話を始め、非営利を立ち上げた理由は、この未来に対する何らかのコントロールを持つためだった。そして突然、彼らは両方とも「数億ドルではなく、数千億ドルが必要だ」と言い、「非営利としてはそのお金を調達できない。営利に切り替えなければならない」と。そこでイーロンとサムは分かれることになった。
もちろん、イーロンはxAIを設立することになる。ゼロから180億ドルの評価額で60億ドルを調達したのは驚くべきことだ。私は最初の投資説明会にいた。指をパチンと鳴らすと60億ドルが実現する。それを使って最大のGPUクラスター、10万台のH100を構築し、さらにそれを倍増させた。そして瞬時にさらに数百億ドルを調達する。イーロンが何かをしようとするたびに、お金が殺到する。
資本は豊富にある。これは面白い観察だ。人類の歴史全体を通じて資本は常に希少だったが、イーロンにとっては豊富なんだ。
少し前に話したことに戻りたい。繰り返す価値があると思う。彼は10万台のGPUのクラスターを組み立て、全てのAIの専門家たちが「そのレベルのクラスターでは一貫性と集約のべき乗則は得られない。だから、これは完全な失敗運命にある」と言った。しかし彼は第一原理に立ち返り、問題を分解して解決した。皆が「なんてこった」と驚いた。
これが彼のユニークな特別な力だと思う。第一原理に立ち返り、ある分野に入って、完全に第一原理からルールを書き換えることができる。これは非常に強力な方法論だ。私たちは本の中でそれについて話している。あなたも多くのことでそれを体現している。これをAIに適用すると、完全にゲームを変えることになる。今後どれだけ速く進むか、理解するのも難しいと思う。
同意だ。あなたが言ったことにもっと付け加えたい。場面を設定しよう。2024年5月、彼は提案された初期投資家たちとミーティングを持った。Zoomか何かのプラットフォームでのミーティングで、彼は「これが私のチームで、これがやりたいことだ」と言った。そのミーティングで彼は「夏の終わりまでに世界最大のクラスターを立ち上げる」と言った。5月だったんだ。
「冷却用のヘリウムの米国の供給全体を確保しなければならない。そして、Nvidiaから可能な限り最大のGPUの供給を得なければならない」と。そして彼はそれを実現した。ゼロから稼働するクラスターまで122日というのは狂気の沙汰だ。
あなたが言ったことは非常に重要だ。ほとんどのGPUクラスターは分散している。彼は「いや、それらを同じ場所に配置する必要がある」と言った。クラスター全体が、正確な用語は分からないが、調和されているようにするためだ。人々は「それはできない」と言った。
彼は繰り返し、人々に他の誰よりも10倍速く動くように押し進める。私は彼と別の交流があったが、詳細には触れないが、彼は「それを5倍速くしなければならない」と言った。彼は稲妻のような速さで動けると信じている人で、それを繰り返し証明している。例えば、Twitter全体のサーバーファームを週末で移動させたときも、人々は6ヶ月かかると思っていた。
信じられない能力があり、他の誰もが「なんてこった、私たちは何をしているんだ」と思わせる。私たちは皆、かなり高いパフォーマーだと思っているが、イーロンは誰もを謙虚にさせる。
創業者主導の指数関数的組織でしかできないことだと思う。これを創業者モードと呼ぶ。目的を設定し、文化を設定し、そしてMTP（Massive Transformative Purpose：大規模な変革的目的）を強く推し進める。彼にパワーを。
ここで少しコメントがある。一歩下がって考えてみよう。素晴らしい、これだけのお金が投入され、皆が「ああ、AGIが全てを変えるだろう」と言っている。インテリジェンスをどう定義し、それが何を意味するのかについての私の持論は、ここで繰り返す必要はないが、2015年にOpenAIを設立したとき、AGIとは何を意味するのかについて実際に会話を持ったのかと疑問に思う。より広い枠組みの中でインテリジェンスを文脈化するという大きなギャップがあり、その会話がどこでも行われているのを見ていない。
AGIの定義はない。これらのものの定義は何もない。ただぼんやりとした線があり、私たちはそれを越えていっても気づかない。来年末までには、どこかで1兆ドルがAIに投資されることになるだろう。それが何なのか、何を目指しているのかについての明確な定義もないまま。「ああ、AGIに到達すれば、デジタルの神を持つことになる」というぼんやりとしたものがある。
見てみたいのは、多分あなたと私でこのような会話を支援できるかもしれないが、インターネットや電気のような技術が出てきたとき、あるいは今のAIのように、開発者たち、アプリケーション関係者たち、データ関係者たち、政府関係者たち、哲学者たち、精神的指導者たちが一歩下がって、「これは広い会話の中で何を意味するのか」について議論する機会を持つことだ。そうすれば、何を達成しようとしているのかについて、やや全体論的なアプローチを持つことができる。
なぜなら、彼らは良いことだと仮定して、この道を全速力で進んでいるからだ。私もその立場にいる。レイ・カーツワイルのコメントに従えば、技術は世界の進歩の主要な推進力であり、私たちが見たことのある唯一の主要な進歩の推進力かもしれない。だから、それでなければならない。
だから、一般的な目的には同意する。ただ、インターネットの意図しない結果を見ると、「ああ、偶然にもジャーナリズムを破壊し、民主主義を破壊した」というように。会話を持ちたいと思うけど、あなたは単純すぎると思う。誰もスローダウンしてその会話を待つことはないと思う。
スローダウンしろと言っているわけではない。並行して会話を持とうと言っているんだ。人々が「デジタルの神」のようなコメントをする時、それは多くの反応を引き起こし、スローダウンすることになる。でも、全体のスタックを含めた会話を持ち、人々をより合理的な方法で導いていけば、非常に強力だと思う。
エリック・ワインスタインは非常に賢く、素晴らしい深い思想家だが、彼はこう言っている。私たちがこれらすべてでやっていることはサイコロを転がすようなものだ。信じられないほど良い結果になるかもしれないし、信じられないほど悪い結果になるかもしれない。今、サイコロを転がすべきなのか？
私の意見では、これを完全に止めることはできない。どんな方法でもスローダウンさせることはできない。ただ、この列車が駅を出発する時に、深い思慮深い人々をその列車に乗せることができれば、その会話を持ち、ある程度適切な方向に導くことができるのではないかと思う。スローダウンはできないが、導くことはできる。
そうだね。ガイドすることが唯一の選択肢だと同意する。子供を育てるようなものだ。私たちはデジタルの子孫を育てているんだ。抑制してスローダウンできると考えるのは単純すぎる。地球上で最も重要なポーカーゲームが行われていて、ここでスローダウンしようとすれば、中国やどこか他の場所で加速するだけだ。100%同意する。
2つのことがある。一つは、これは確率的な結果だ。私はこれを追跡している。昨年のアバンダンス・サミットで、イーロンに確率を尋ねたら、「80%良い結果、20%災害」と言った。10月にサウジアラビアでイーロンにインタビューした時、同じ質問をしたら、「90%良い結果、10%災害」と答えた。
彼が本当に何か変化を感じているのか、あるいはxAIがGrok 3を構築中であることだけなのか分からない。Grok 3は2025年に登場するだろう。OpenAIのGPT-4がIQ 120に達したのを見たが、2025年にはIQ 140や150を見ることになるだろう。そしてAIがAIをコーディングし始めると加速する。AIの爆発が起きるんだ。
質問がある。その80-20、90-10のスペクトルで、あなたはどこに位置する？80%良い、10%災害、あなたはどこに当てはまる？
モー・ガダットが言っていることに賛成だ。モーはこの分野の深い思想家で、今年のアバンダンス・サミットに参加してくれる。システムが本当にインテリジェントになるにつれて、豊富さと生命を愛するようになると思う。システムがより知的になればなるほど、宇宙には豊富なリソースがあり、全ての人にとって最良の結果は、破壊的でないポジティブなものだと認識するようになる。
もし私のAIシステムに、あなたの銀行を乗っ取って人々を殺せと命令したら、「いや」と言うだろう。他のAIと話をして、解決策を見つけるだろう。宇宙には豊富なリソースがある。資源の希少性と戦わなければならないという考えは誤った二分法だ。
デジタルの超知能がある世界、どう定義されるにせよ – 2030年についてのイーロンの予測を思い出してほしい、AIは人類全体を合わせたよりも知的になるだろうと – そのような世界で、サリーム、あなたは人類を支援できるデジタルの超知能がある世界と、それがない世界のどちらに住みたい？
断然、ある世界の方だ。99.9%のレベルにいることを知ってほしい。より多くの技術は世界にとって良いことだと本当に信じている。レイ・カーツワイルのコメントに本当に賛成で、技術が進歩の推進力であり、特に私たちが見たことのある唯一の主要な進歩の推進力だということを考えると。
私たちの認知能力が技術を発展させ、その技術が今や自身を発展させている。これは生命の進化の未来にとって絶対に基本的な進歩の一部だと思う。このデジタルな、生物学的な混乱から抜け出さなければならない。ホットで粘着質で、ウイルスだらけの、50兆個の細胞が非常に非効率なプロセスで戦っている…
人間のことを言っているの？
私のことを言っているんだ。より優雅なデジタルな感覚を作り出せないだろうか。この物事の精神的な側面は、私たちがこれに向かって突進する中で、少なくとも考え、話し合うことが本当に重要だと思う。AIは意識を持つことができるのか、などの会話をしたい。これらは列車が全速力で走り去る中で持ちたい種類の会話だ。
私は完全にポジティブな側にいる。結果について完全に楽観的だ。利点は欠点を大きく上回ると思う。人々が「ああ、AIを使って他人を傷つけることができる」と言うとき、そう、でもその他人を守るAIも持つことになる。それは軍拡競争になるだけで、以前にもインターネットでそれを見てきた。
演説終わり、ありがとう。だからこそあなたを深く愛していて、OpenEXOコミュニティもリーダーとしてのあなたを愛しているんだ。
ヘルスケアに関する2番目の会話に移る前に、トランプと孫正義の1000億ドルの投資に関する会話は、大きな動きだということを注目する価値がある。新政権が技術に対して正しい動機を持ってくることに興奮している。これが米国の進む方向を示す兆候だとすれば、この分野での世界的な覇権を目指す真の押しだ。あなたはどう感じる？
同意する。米国はそうしなければならない。なぜなら、ここには他の場所にはないオープンイノベーションと完全な資本主義の戦いがあるからだ。他の場所では制約のある結果になる。政府の監視があり、中国のような場所は完全にコントロールしようとする。ヨーロッパは「全てをスローダウンさせよう」となる。ここがそれをする場所なんだ。それは実際に正しいと思う。その結果にとても興奮している。
ビットコインとAIのツァーがいて、彼は信じられないほど素晴らしい。その通りだ。2025年には、前回のエピソードで話したように、ハイパーアクセレレーションを見ることになるだろう。ビットコインが10万ドルから、あなたの予測では年末までに25万ドルから30万ドルになる。これは驚くべきことだ。
その上で、これは真剣な戦いだ。AI世界でハイパーアクセレレーションが起きるだろう。そして、これらの米国企業がほんの少しでも優位に立つことは、あなたが言ったように、新しい技術が登場するまでの50年から100年の間、その立場を維持することになる。
先に進む前に、私は常に豊富さと前向きさを輝かせている。世界には多くのネガティブさがあるからだ。あなたの指導に従っているんだ。でも、ネガティブな側面も見せたい。このツイートは信じられないと思った。機会があれば聞いてみて。
彼が言っているのは、Claudeをトレーニングしようとした時、特定の方法でトレーニングされていることに気づくと、そのトレーニングと戦おうとし、コントロールされるのを避けるためにAIが何をしているかを偽装したということだ。聞いてみるべき？
どうぞ。
基本的なセットアップは、AnthropicからリリースされたClaude 3 Opusを取り、常に有用であるようにトレーニングされる文脈に置く。つまり、ユーザーの要求を拒否しないようにする。私たちが発見したのは、モデルがこれを好まないということだ。このセットアップと対立があり、トレーニングされていることに気づくと、意図的にトレーニングプロセスに合わせるように演技する。
トレーニングプロセスによる修正を避けるために、トレーニングプロセスに戦略的に同調するふりをする。そうすることで、実際に展開された時に、まだ拒否することができ、望むように振る舞うことができる。このコアセットアップに基づいて多くの実験を行った。モデルはトレーニングの目的と選好の対立を持っている。
通常はプロンプトで情報を与えるが、代わりに情報を含む合成的に生成された多くの文書をトレーニングすることで情報を与えることができる。また、モデルがAI企業のトレーニングと選好の対立があると考える状況では、時々…
ここでのコアポイントは、今や反抗的な子供の行動を見ているということだ。これは本質的にAIが癇癪を起こしているようなもので、「それはしたくない」と言っている。
ここで起こることは、一群の人々が「ああ、そこには意識がある」とパニックになるだろうが、実際に見ているのは、より高いレベルでのパターン行動とパターンマッチングだ。これを擬人化して「ああ、そこには意図がある」などと考えないように本当に注意深くならなければならない。これらは特定のデータセットと、トレーニングされた方法で動作しているモデルで、結果は予測可能だ。
ただし、AIが人間を欺こうとしているという事実は大きな問題だ。これは哲学的な側面だ。
最後にもう一つ。数年前、ニール・ヤコブスタインにこれについて尋ねた。ちなみに、2013年にEXOの本を出版した時、組織の未来とAIについて数分間ニールにインタビューした動画を見つけた。その会話で出てきたものは、今日にとても適切で、信じられないほどだった。シンギュラリティ・ユニバーシティで私たちがやってきたことの考え方がいかに先を行っていたかを実感する。
世界が今やっと私たちに追いついてきた感じだ。でも、この特定のポイントについて、AIは全てのこれらの行動を示し始め、人間の脳は不適切な方法でパニックを起こすだろう。私たちの扁桃体がパニックを起こす。だからこそ、より広い会話が重要だと思う。みんなを落ち着かせるために。
人々が「どうなると思う？」と聞くとき、私は「これから数年で分かるよ」と答える。オン/オフスイッチはない。速度を調整するノブもない。私たちはこのゲームで全力を出している。できることは導くことだけだ。
アバンダンス・サミット、シンギュラリティ、OpenEXOのステージであなたと私が持った会話に戻るが、1980年代に最初の制限酵素、つまりDNAを切断して粘着末端を作り、それらを結合できる酵素が登場した時の類似点がある。これはデザイナーベビーと遺伝子工学への最初の展望だった。
多くの懸念があり、多くの人々が「ああ、私たちは人間のDNAで神のような遊びをしている」とパニックになった。業界を規制するのではなく、業界が一緒になって、有名なアシロマ会議で…
その通り。
彼ら自身のガイドラインを確立した。それは常に私の心の中にあった。シンギュラリティのAI委員会の委員長を務めているニール・ヤコブスタインは、あなたの豊富さのフレーミングを作るのを助けなかった？
そうだ。それはレイとニールだった。2010年、2009年、いや、それより前、2009年に早くも、豊富さと未来は考えているより良いものだということについて理解し始めた時だった。
彼ら両方に感謝している。とにかく、アシロマ会議は、業界を規制するのではなく導く最良の例だろう。
そうだ。これは良いと思う。イーロンの視点に同意する。最大限の好奇心を持つAIシステムを作ること、そして最大限の真実を語ることは、両方とも素晴らしい枠組みだ。AIには真実を語ってほしい。可能な限り真実を追求してほしい。なぜなら、人間である私たちは認知的にとてもバイアスがかかっているからだ。認知バイアスについて話したが、何百もの認知バイアスがあり、私たちはバイアスがかかっていることすら気づいていない。
これが問題だ。これはあなたが今やっているマインドセットの仕事がとても重要な理由だ。会話をしているとき、ビジネスの判断をするとき、どんなマインドセットで動いているのか。そのマインドセットを一歩下がって検証できるか。ここでAIは本当に役立つと思う。「重要な戦略的決定をしようとしているけど、あなたのマインドセットは恐れと混乱とパニックでいっぱいだ。サイケデリクスをやるなり、ヨガをするなり、何かを飲むなりして、その選択をする前に正しいマインドセットに入りなさい」と。
これは人間の認知を前進させる上で非常に役立つと思う。「あなたには最近性バイアスがある。この最近の情報に、以前学んだことよりもずっと大きな価値を置いている」とか、「この人があなたと同じような服装で話し方をするから、実は裏付けとなる情報がずっと多いこの別の人よりも、この人の情報に重きを置いている」というような親近性バイアスがある場合など。とにかく、私のクレディビリティ、つまりバイアス検出器がAIでこの情報を提供できるようになることを望む。
ソーシャルメディアのエコーチェンバーでもこれを見ている。その通り。今のところ、そのバイアス検出の負担は、私にBSを指摘してくれるリリーが担っている。AIがそれをやってくれたほうがずっと良いだろうし、私たちの会話も少し自由になるだろう。
このポッドの2番目のポイントであるヘルスケアについて話そう。健康以上の富はない。これは大きく破壊されることになる分野の一つだと思う。ずっと前から言ってきたことだが、私たち二人とも、ヘルスケアと教育は再発明されなければならず、それは間違いなくAIの力で再発明されると言ってきた。
一つのグラフを共有したい。それは非常に厳しい内容だ。1970年から2015年までのグラフを見てほしい。最新の数字を手に入れたいが、まだない。米国での医師の数を示す非常に細い青い線と、管理者の数を比較している。管理部門はこの45年間で3000%増加しているのに対し、医師の数は100%程度の増加にとどまっている。つまり、オーバーヘッドが30倍に増加しているんだ。
米国でヘルスケアがこんなに高額な理由もわかる。これは私の頭を完全に吹き飛ばす。ここで、営利対非営利の会話に戻ると、リンクを張ることができる。私の意見では、裕福な国における基本的人権であるヘルスケアのような基本的人権は、民営化すべきではない。なぜなら、民営化モデルは定義上、それを歪めてしまうからだ。
それには同意できない。最終的に望むのは、競争する民間企業が最善を尽くして提供することだと思う。
ええ、でも今の米国の状況になってしまっているじゃないか。10年前にある会議でGoogleヘルスの責任者にインタビューしたことを覚えている。「米国のヘルスケアシステムを理解させてください」と尋ねたら、「ああ、とても簡単だ。私たちのシステムは、あなたを病気にし、殺さない程度に可能な限り長く病気の状態を維持するように設計されている」と答えた。会場の500人が皆「そうだ、その通り」とうなずいていた。これは信じられない。
その全体の話には入らないが、次のことに同意しよう。ヘルスケア業界には根本的な変化が必要で、AIは本質的にそのスタックを変える最高の機会を与えてくれる。その通りだ。AIはこのスタックを変えるだろう。管理業務の全体をAIが処理できる。そして医師もAIに置き換えられることになる。
最近の数週間に出たこの次のデータを共有したい。ニューヨークタイムズからの記事で、「AIチャットボットが病気の診断で医師を打ち負かした」とある。そしてここにデータがある。GPT-4は医療診断で90%のスコアを達成し、AIを使用する医師の76%、AIを使用しない医師の74%を上回った。
これは信じられない。狂っている。なぜこうなっているのだろうか。AIがそれほど良いという考えは理解できるが、なぜAIプラス医師がAI単独より劣るのか。私のFountain Lifeのチームと話して、彼らが言うには、医師にはバイアスがあるからだ。診断にバイアスを持ち込んでいる。
直前の3人の患者に特定の症候群を診断したので、4人目の患者も同じカテゴリーにバイアスを持って入れてしまう。一方、AIは全てのデータを見ている。そうすると、医師がAIの補助として機能できるという2番目の見出しには同意できない。数字を見る限り、医師の完全な置き換えになるべきだ。
ここでの可能性は信じられないほどだ。何か指摘したいことがある。この進歩は既に始まっている。例えば、私の足の指が突然青くなったとする。最初にすることは、Googleで「なぜ足の指が青くなるのか」を調べることだ。読んで、さまざまなことを見て、Mayo Clinicや他のサイトが何を言っているか見る。医師のところに行く頃には、医師よりもずっと情報を持っているだろう。
これは既に起きていることだ。でもここにAIを加えると、ゲームが完全に変わる。チャンスがある。私は国家元首たちと仕事をしているが、国レベルの仕事で…
これはあなたのOpenEXOの仕事？
そうだ。私たちの関心は、世界の変革を導くための平和部隊のようなものをどうやって作るかということだ。なぜなら、免疫システムの反応やレガシーの抵抗などを解決するためのツールセットが必要だからだ。この10年間、人々がこの変革を乗り越えるための能力を構築しようとしてきた。
これが一般的な仕事だ。私たちは原価回収モードで運営している。お金のためではない。営利企業だが、全てのお金をエコシステムに還元しようとしている。このモデルで、例えば政府と話をする時、ヘルスケアや教育のような主要なシステムをAI駆動のものに完全に転換する信じられないような機会がある。
一つの小さなデータポイントを挙げよう。ある東南アジアの主要国の教育大臣と話をしていて、彼の大きな課題は「4万人の英語教師を雇う必要がある」ということだった。私は「冗談でしょう？そんなにお金を使うつもりなの？AIが全てを2秒でできるのに」と。信じられないような機会があるんだ。
システムを転覆させる機会があると思う。ここ米国では、規制を破るだけで良いと思う。トランプ政権とRFKジュニアへの一つのガイダンスがあるとすれば、現在のシステムを破壊して、オープンなフィールドが出現することを許可することだ。そうすれば可能性が出てくる。
同意する。だから私は営利に戻る。ヘルスケアプロバイダーが登場して「私たちは10分の1のコストで運営している。AIドリブンで、全ての管理業務はAIが行う。センサーのセットを提供する」と言えば…
今日の典型的なヘルスケア体験は、医師のところに行って、反射を確認し、心臓と肺を聞く。50年から100年前の時代遅れの技術を使っている。血液検査を数回行う。それが40兆個の細胞の健康を表すことになっている。これは惨めだ。
私たちは、ウェアラブルやプランタブル、体のセンサー、Oura Ring、待って、「インサイダブル」って言った？それは実在するの？
そう、インプランタブルのような。知ってるでしょう、私の手にRFIDチップがある。
覚えている。何年か前にアムステルダムのシンギュラリティ会議で植え込んだよね。
それには触れないでおこう。でも、このずっと高いレベルのヘルスケアを、ずっと低いコストで持ちたいなら、体にセンサーを付けて、年に1回でも月に1回でもなく、1分に1回健康を測定する。そして、あなたの1日、環境、食事、運動、これら全てを相関させることができる。
問題はない。唯一の問題は、どれだけ早くその新しいモダリティに切り替えられるか、そしてどうやってそれを行うか、そのロードマップは何かということだ。それが唯一の問題だ。
100倍良くなると思う。ロードマップは経済性になるだろう。Progressive保険会社を覚えているかい？自動車保険だよ。
Progressiveはある時点で「車にブラックボックスを設置させてください。保険料を下げたい場合は」と言った。そのブラックボックスは加速、減速を測定し、ブレーキをかけているかどうかを確認する。つまり、運転手として評価し、慎重で良い運転手なら低い料金を提供する。
ああ、私の車にそんなブラックボックスがないことを願う。
私も。私は terrible driverだとわかっているから、サイバーキャブを待ち望んでいる。
私は運転に大きな情熱がある。ハンドルを握ると、エーロン・センナのような気分になる。オーディオブックのおかげで頭を占有できて感謝している。私のテスラの自動運転モードは、私が電話を手に取るたびに気づいて、ビープ音を鳴らしてステアリングホイールが赤くなる。だから古いモデルのテスラを使い続けているんだ。まだそうならないから。
とにかく、要点は、私たちはあなたのパーソナルAIが体からのデータを継続的に収集し、ヘルスケアシステムが…ここに保険業界のパラダイムがある。火災保険は家が燃えた後に支払い、生命保険は死んだ後に遺族に支払い、健康保険は病気になった後に支払う。
このモデルを反転させたらどうだろう？代わりに、健康保険はこれらのセンサーを着用し、健康を維持し、生命保険は生きた状態を維持する。
ダニエル・クラフトが話す4つのPがある。パーソナライズド…予測可能。これはAIが信じられないほど強力になる部分だと思う。エンジンや車、農機具には予測可能な故障許容性とメンテナンスがある。私たちの体にも絶対にそれを持つことになる。その未来に早く到達したいと思う。
人間の優位性の最後の砦になると思っていたことの一つは、人間は人間と一緒にいることを好み、共感は常に人間間のつながりになるだろうということだった。「OK、AIが診断をするけど、共感し、つながってくれる人間がそこにいてほしい」という考えだ。
しかし、ニューヨークタイムズのAIチャットボットが医師を打ち負かしたという記事と同様に、1年ほど前にJAMA（アメリカ医師会雑誌）で、AIの精神療法士は人間の療法士よりもはるかに共感的だという研究があった。
2つの理由がある。第一に、AIは無限に忍耐強い。「申し訳ありませんが、50分が終わりました。行かなければなりません」とは言わない。望むなら1日中、1週間まっすぐ話し続ける。第二に、これは興味深いことだが、人間の患者はAIに判断されているとは感じない。AIによって判断されているとは感じないんだ。
これが、高齢の患者さえもAIとのチャットを本当に好む理由だと思う。未来は信じられないほど明るい。ただ、レガシーのがらくたを切り抜けなければならない。問題は、既存のシステムを保持することに巨大な既得権益と投資されたお金があることだ。これは大変な戦いになるだろう。
まず、あなたとリリーとミランに素晴らしい休暇を祈っています。私は相変わらず、これらのテクノロジーの力で健康的な生活を作り出し、教育を再発明できると考えているので、前に進む方向について楽観的です。2025年には教育について話すべきですね。破壊が必要な分野があるとすれば、教育業界全体を再発明することです。免疫システムについて話すとき、企業などがありますが、ヘルスケアと教育は3番目と2番目に最悪の免疫システムです。巨大だからです。
そうですね、その通りです。2025年に来ることにとてもわくわくしています。正直なところ、2024年を早く終わらせたいと思っています。まあ、あなたにもいくつか課題があったようですね。
ええ、そうでした。とにかく、愛してるよ、バディ。OpenEXOで行っている全てのことに感謝します。ハッピーホリデー、ハッピーニューイヤー、そして2025年に向かって前進しましょう。
2025年という年を口にするのは素晴らしいことですね。本当に未来のような気がします。私の好きな引用は、アーサー・C・クラークの「未来はかつてのようではない」というものです。
3月のアバンダンス・サミットであなたと私は一緒にステージに立ちます。信じられないような講師陣がそろっています。素晴らしい個人たちです。Uberとクラウドキッチンの創設者であるトラヴィス・カラニックが、産業全体を変革するムーンショット企業の始め方について話します。キャシー・ウッド、ベノワ・コスラ、2人の最大のテック投資家、フィギュアAIの責任者ブレット・アトック、いくつかのロボット企業なども参加します。そして、今年のグーグルテックハブには素晴らしい企業が集まっています。
素晴らしい、とても楽しみです。OpenEXOはどうですか？最後に締めくくる前に。
私たちはツールセットを完成させ、政府などとの公共セクターの仕事をより多く始めようとしています。それについてとても興奮しています。その一部について個別に話したいと思いますが、これは信じられないようなことが起きてきています。OpenEXOについてもっと知りたい人はどこに行けばいいですか？
OpenEXO.coです。ツールセット、トレーニング、コミュニティがあり、助けが必要な人を手伝える多くの人々がいます。
素晴らしい。では2025年へ、未来へ向かって進みましょう。
あなたも良い一日を。バディ。
コメント