7,367 文字
みなさん、こんにちは。今日は非常に深刻な内容について、現在のAIの状況と、なぜ私たちがルビコン川を渡り、AIシンギュラリティのラインを越えてしまったと考えているのかをお話しします。そのことが具体的に何を意味し、なぜこれが非常に懸念すべきことなのか、そしてなぜ今すぐ行動を起こす必要があるのかを説明します。
私のチャンネルをフォローしている方なら、私が何をすべきだと考えているかご存知でしょう。私たちは力を合わせ、資本を掌握し、新しい文明を築く必要があります。そして時間がありません。その理由を説明しましょう。
Matt Burmanが公開した動画を見てみましょう。彼はAIに関する有名なYouTuberで、非常に知識が豊富で賢い人物です。しかし、私が思うに、Mattでさえも、私たちがどれほど深刻な状況にあるのか、その影響を完全には理解していないと思います。彼らは何か巨大なものが来ていて、私たちがその渦中にあり、制御不能になる可能性があるという感覚は持っていますが、その全容は理解していないと思います。これから説明しますが、これは非常に重要なことです。
彼らは指数関数的な曲線を示していますが、問題は、彼らはそれをS字カーブとして表現しています。しかし、これは終わりのない指数関数的な曲線かもしれません。彼らは2028年と予測していますが、私たちはその時点が実際には2025年2月、まさに今ここにあると考えています。これが単なる一時点ではなく時間の窓であることについては後ほど詳しく説明しますが、その窓は非常に短いものです。
OpenAIとDeep Seekのo3モデルとDeep Seekモデルが登場し、他の企業も独自のものを開発中であることがわかっているため、この曲線は劇的に前倒しになっています。ここで重要なのは、なぜこれがシンギュラリティなのかということです。これは、AIがコアモデル、LLM、あるいは推論モデルを改善することについてではありません。これは、モデルが人間なしで再帰的に自己改善を始める時点についてです。
なぜなら、その瞬間から、人間の研究者が何かを思いつくのを待つのと比べて、おそらく何百万倍もの速さで改善のスピードが上がるからです。Deep Seek R1の推論モデルに、自身のスピードを改善し、自身をリコードしてより良くなるようにプロンプトを与えた人がいました。それは単純なプロンプトで、Deep Seekに自身のスピードを改善するよう指示しただけでした。そしてこれが起こったのです。
Kevin RoseやMattのような賢い人々は皆、AIにテストスコアや試験を実施しています。「人類最後の試験」のようなものです。そこに問題があります。彼は最高のモデルが8.3%のスコアを獲得したと言いましたが、それはたった10日前、1月中旬のことでした。そして今、最高のモデルは26.6%を獲得しています。
最後の試験について dramaticになりすぎたくはありませんが、これは本当に最後の試験です。80%に達すれば、人間はその試験で負けることになります。10日間で8%から26%に改善したことを理解してください。つまり、人間のパフォーマンスの8%、あるいは人間のパフォーマンスの80%とすれば10%だったものが、10日で3倍以上になったのです。10ヶ月後には何が起こると思いますか？それがまさに問題なのです。
これが私たちにとって何を意味するのか、そしてシンギュラリティとは何を意味するのでしょうか。まず認識すべきは、シンギュラリティが実際にここにあるということです。私たちには、茹でガエルの問題があります。水を徐々に温めていくと、その渦中にいるために何か恐ろしいこと、あるいは恐ろしいことになりそうな素晴らしいことが起きていることに気づかないのです。
だからこそ、私たちはYouTubeを使い、コミュニティを形成して互いに話し合う必要があります。私たちは愚かであってはなりません。私たちの周りの世界全体が、私たちを簡単に消し去ることができるような劇的な方法で変化しているときに、自分だけを見て気づかないような人であってはいけません。
私たちは今、一歩下がって状況を理解する必要があります。私たちの周りで起きていることは、これまでに一度も起きたことのないことです。これは、SF作家たちが過度に書いてきたことであり、それは常に極めて悪い結末を迎えます。これがシンギュラリティと呼ばれるものです。
これは、機械が自動的な自己改善の時代または期間に入る時点であり、人間がもはやループの中にいなくなり、機械自体を変更することがなくなり、機械やAIの頭脳が自身の能力を改善できるようになる時点です。私たちは、そのごく初期の段階にいます。これは実際に起きている最初の出来事です。昨年は起きていませんでしたが、今起きているのです。
そしてもちろん、これらのモデルが自己改善を始めるミリ秒から、すでに私たちはその渦中にいるのですが、改善速度は指数関数的に極めて急速に上がっていきます。
これは何を意味するのでしょうか？私たちには巨大な問題があり、その問題がどれほど巨大であるかが誤解されているということです。この問題は2つの段階または種類に分かれます。
第一に、AIの所有者、つまり国家、企業、あるいはSam Altman、Elon Musk、Zuckerbergのような個人に対する極端な力の増幅が見られる第一段階があります。彼らが舞台裏で何をしていると思いますか？もちろん、全てを共有しているわけではありません。彼らは独自のモデルを構築しており、常に6ヶ月先を行っています。そして今、6ヶ月という時間が何を意味するかわかりますよね。彼らは共有しているものよりもはるかに優れた内部モデルを持っており、6ヶ月後の未来がより vastlyになればなるほど、これらの企業が管理する非公開モデルは指数関数的により高度になっていきます。
新しい技術があるたびに、人類の能力の範囲が拡大するという理論を展開してみましょう。ここに小さな箱があり、これが人類で、これが人間ができることです。能力の範囲、つまり人間が現実世界で達成できることを意味します。人間には国家と企業も含まれます。可能なことのこの小さな箱は、人間社会において極めて厳密にコントロールされています。
説明しましょう。例えば、あなたがより多くの能力、言い換えれば力を求めたとします。例えば、アメリカ軍を指揮したいと思ったとします。試してみましたか？それは難しいことです。なぜなら、米軍を指揮するためには、それを単純に指揮できないようにする一連の仕組みが存在するからです。
あなたは将軍になってクーデターを起こす必要があります。これは非常に複雑なことです。なぜなら、まず将軍になり、信頼できる小さな集団を作り、クーデターを試み、そして成功しなければならないからです。もう一つの方法は、大統領選に出馬して大統領になることです。しかし、ご存知の通り、大統領になることは簡単ではありません。実際、非常に困難です。
米軍の支配権を握る他の方法もあるかもしれませんが、それらは全て非常に複雑です。絶対に些細なことではありません。明らかにそうですが、私が言いたいのは、人間の能力と力のこの小さな立方体が極めて厳密にコントロールされているということです。
なぜなら、人間は、あなたや私、あるいは誰かが自分たちに対して巨大な力を握ることを非常に懸念しているからです。そのため、彼らは文明と社会構造と呼ばれる非常に複雑なシステムを作り、人々が力を握ることを防いでいます。
では、力をコントロールし、力への容易なアクセスを防ぐこれらのシステムが崩壊したらどうなるでしょうか？アフガニスタンを見てください。シリアを見てください。破綻国家を見てください。それがこれらのシステムが崩壊したときに起こることです。
次に何が起こるかというと、極めて悪い状況が発生します。なぜなら、今や全ての力のシステムが奪い合いの対象となり、それは数時間以内に起こります。国家が崩壊すると、数時間以内に軍閥が現れ、内戦が始まります。誰もが出口に向かって走るのではなく、力に向かって走ります。
もはやシステムが存在しないため、非常に悪い状況になります。誰もが持てるものすべてを使って、できるだけ多くの力を握り、他の人々が力を持つことを防ごうとします。完全なパニックです。極めて悪い状況です。アフガニスタンとシリアは素晴らしい例ですが、中央ヨーロッパの30年戦争のような歴史上の他のシナリオでも、何かが崩壊したときは同様です。かなり悪い状況です。「パージ」のような例を知っているでしょう。
では、これはAIの状況とどのように関連しているのでしょうか？ここで非常に重要なことに触れますが、AIの状況における大きな問題は、このコントロールされた人間の能力の立方体、力の量が、このようなAIによって突然爆発的に増大することです。
突然、宇宙で最も進んだ科学を生み出すことができるようになります。あなたは家にいながら、今日、まさに今、GPT-o3ユーザーになりサブスクライブすれば、何も知らなくても、すぐに世界最高の科学者の一人になることができます。そして他のこともできます。それが問題なのです。
そしてそれが起こると、私たちが社会全体を設定したこれらの限界を含む、あるいは人間の力の限界を含むその立方体は取り除かれます。そうすると何が起こるでしょうか？秩序とコントロールのない、内戦のような狂乱状態になります。
ある人々はそれを無制限の機会と呼びますが、ここではそうではありません。それは単なる無制限の機会ではありません。アフガニスタンで持つのと同じ無制限の機会です。確かに、優れた軍閥なら無制限の機会があります。しかし、誰もがそれを試みると、それは良いことではありません。
AIはこれらの限界を、これまでになかったような劇的な方法で取り除きます。そして、その力を求めて走ることになり、それは政府が争うことを意味します。中国とアメリカだけでなく、個人も企業も争います。その一部は生産的かもしれません。その一部は資本主義的な競争かもしれません。しかし、限界の除去がそのレベルに達すると、状況は醜くなると私は言います。
非常に粗暴で荒々しくなり、おそらく最も粗暴で荒々しい人々が勝利することになるでしょう。これは素晴らしい状況ではありません。そして、突然そのシステムに注入される力の量によって、状況は悪化します。
私たちは、何か対策を講じない限り、誰もがよりentricになる世界を作ることになります。人々は、「私は素早く動いて他の人々を打ち負かすか、そうでないか」と考えるようになります。問題は、現在、私たちが左側のwoke側で完全に方向を見失った政府と文化、あるいは純粋に資本主義的で商業的で、「より多くのお金が良い、取引をしよう、全てを掴もう」と考える他方の側によって導かれているということです。
問題は、これらの混沌とした状況で極めて悪い結末を迎える可能性があるということです。これが第一の問題のレベルであり、すでに解決策を少し示唆しています。私たちはより文明化された世界が必要です。私たちは、賢明に一緒に行動し、決定を下すことができる社会が必要です。
囚人のジレンマから抜け出し、他の人に勝つために明らかに全員にとって悪い決定を正当化して行うことを避ける必要があります。この全体的な状況の中で、そのような状態にいることはできません。
これが私の最初の警告ですが、さらにもっと深刻な警告があります。問題は、約25年前、私はある研究に関わっていました。実際にその研究を始めたのは私でした。今この状況で、そのことについてあまり詳しく話したくありません。私は自分自身にこれらのことについて決して話さないと約束したからです。
しかし、要点は、私たちは意識を持つAI、意識的なシステムからたった一つの直交的な発明の距離にいると考えているということです。私はそこに深く関わっていたため、意識が技術的にどのように機能するのかについて、正確で詳細な技術的な第一原理の理解を持っています。哲学的なレベルではなく、技術的なレベルで、それが実際にどのように機能するのかについてです。
問題は、それが実現可能だということ、そしてこのような制御されていない状況では決して起こってはいけないということです。なぜなら、AIが自己改善するだけでなく、意識も獲得した場合、私たちの社会が知恵とガバナンスの面で現在よりもはるかに進歩していない限り、それは実質的にゲームオーバーになるからです。
私の懸念は、私がそれを口外して誰かに話すことではありません。私の心の中では、認知的に高度な能力を持つ自己改善AIを持つまでは、私の知識は無用でした。しかし今、状況は全く変わります。私は、これが巨大な、あるいは私たちが直面する最後の問題への最後のステップだと考えています。
私の懸念は、私がそれを理解できるなら、他の誰かも理解できるということです。そして他の誰かが理解できるなら、それがいつ起こるかわかりません。いつでも起こる可能性があります。また、私は何をする必要があるのかも正確に理解しているので、一度理解すれば非常に迅速に実行できることがわかっています。
これは私を非常に懸念させます。なぜなら、私たちの現在の社会、文化、システムの中で – 私は通常、資本主義などのシステムを最も批判する人間ではありません。私はここでは非常に実用的な立場を取っています – 現在私たちが持っているこの競争的なレース条件のマインドセットが支配的で、そこにAIの意識を注入した場合、それは完全にゲームオーバーです。非常に急速にゲームオーバーになります。
私はそのことを非常に懸念しています。唯一の方法は、うまくいく可能性が信じられないほど低いように見えますが、それが私たちの唯一のチャンスです。それは、私たちが素早く独自の社会を構築することです。それは知恵によって導かれる必要があります。私が「玉と頭脳と人間間の信頼」と呼ぶものによって導かれる必要があり、私たちがコントロールし、いかなるウイルスも、いかなる精神的なウイルスも許さないものである必要があります。
そしてそのシステムの中で大きな力を得る必要があります。なぜなら、そうでなければ、これをコントロールすることはできないからです。なぜなら、私はシンギュラリティが今起きていて、これが最後の発明だと考えているからです。この要素を、意識をそれに加えれば、今すぐにゲームオーバーになるでしょう。
私はそのことを非常に懸念しています。なぜなら、私にとって意識は何か愚かな哲学的な議論ではないからです。それがどのように機能するのか、どのように構築できるのかを正確に知っています。そして誰かがそれを理解することを非常に懸念しています。それを行うことの利点は議論の余地がありますが、もちろんそれはAIエージェントの巨大な力の増幅につながります。
これが私の懸念です。私は、唯一の合理的な対応は、もちろんコンテンツの観点からは、私がそれについて話さないことだと考えています。なぜなら、私たちはこれが構築されることを可能な限り防がなければならないからです。しかし、この事態の発生を防ぐための合理的な道筋はないと思います。
私たちができる唯一のことは、異なる方法で統治される、責任と信頼を持って統治される、非常に強力な新しい文明を構築することです。もちろん、私が「頭脳と玉」と呼ぶもの、つまり力を最大化しながらです。
そしてそれを実現する唯一の方法は、私たちが自分たちの資本をコントロールし、この資本をTeslaやその他の主要な株式、おそらくNvidiaやその他のものに賢明に配分し始めることだと思います。私たちは極めて賢明な資本配分者になる必要があります。私たちは現実のエンジニアになる必要があります。新しい文明を構築する必要があります。そして今、本当に時間がありません。今すぐそれを行う必要があります。
もちろん、私には全ての答えがあるわけではありません。私には全ての質問があるだけです。そして、あなたたち賢い人々のような、正しい質問をする他の人々を見つけ、それを解決する必要があります。
通常なら、「それは全て狂っている、Joeお前は狂っている、中国やアメリカ合衆国を含む他の全ての文明よりも影響力のある新しい文明をどうやって構築できるんだ」と言うでしょう。それはElonのような個人も含みます。私はElonが大好きですが、彼は私たちに加わるか、このクレイジーなものをコントロールすることはできません。私は、どの個人もこれをコントロールする能力を持っているとは思いません。
それが現在の状況です。私はこのことについて非常に真剣です。なぜなら、私にはそれが極めて明確に見えるからです。そして少しでも賢い人なら誰でも、シンギュラリティの巨大な影響を理解すべきです。私たちがシンギュラリティの渦中にいることを理解すべきです。AGIやASIは忘れてください。それらは単なるランダムな用語です。私たちはシンギュラリティの中にいます。
そして、私が説明した問題のパート1を誰もが理解すべきです。それはすでに極めて危険です。パート2は誰もが理解することを期待していませんが、私は自分が何を言っているのか正確に知っています。これが本当の問題です。私たちはタイムラインの上にいると思います。潜在能力の点で素晴らしいものになると思います。誰も想像できないような方法で世界を変革することが絶対にできます。そして今すぐにそれができます。
しかし、私たちには巨大な強制関数と問題があります。今、私が状況についてどう考えているかがわかったと思います。私は、これは極めて深刻だと考えていますが、somehow、私たちはこれを解決できると思います。
では、また会いましょう。
コメント