AI軍拡競争:エリック・シュミットの衝撃的な中国、AI兵器、規制に関する警告

9,387 文字

AI Arms Race: Eric Schmidt's SHOCKING Warning About China, AI Weapons & Regulation
Eric Schmidt, former Google CEO, just dropped some bombshells about AI that even shocked me - and I work in AI full-time...

元グーグルCEOのエリック・シュミットとのYouTubeインタビューが話題になっています。一つのインタビューからこれほど多くの見出しが生まれたのを見たことがありません。エリックの話を聞くたびに、彼の著書『AIの時代』を読み、彼との円卓会議のインタビューを聞いてきましたが、AIの未来についての洞察に富んだ発言をしています。このビデオでは、そのインタビューの要点をお伝えします。
私たちのようにAGI(汎用人工知能)とASI(超人工知能)が地平線上に見えている人々にとっては、それほど衝撃的ではないかもしれませんが、非常に重要な発言がいくつかありました。このインタビューを見て、最も重要な部分を抽出しましたので、今日のビデオでそれらをご紹介します。
まず最初に共有するクリップは、十分な数のテクノロジーリーダーが言っていない発言です。実際、多くのリーダーは逆のことを言っています。いつか機械に市民権を与え、人間と同等の権利を与えるべきだという考えがありますが、私はそれには賛成できません。それは機械への依存度が高くなりすぎ、文字通り安全でないシナリオを作り出すことになると思います。
とはいえ、私は依然として大きな楽観主義者です。今後12ヶ月の間に、機械とその能力を活用して大きな第一歩を踏み出すべきだと考えています。なぜなら、その時期に非適応者やホビイストのプロンプターと、真剣なAI実装者との間にタイムラインの分岐が生まれるからです。そして、ファーストムーバーアドバンテージを持つのは後者です。
エリック・シュミットは、人間の言論の自由を支持していると述べました。しかし、機械の言論の自由は支持していません。サイバー攻撃や自律型兵器の暴走による危害から、信頼性を確保するための余地が必要だと述べています。
「言論の自由に関して絶対主義者の人々がいますが、私もそれには賛成です。しかし、彼らは個人の言論の自由とコンピュータの言論の自由を混同しています。私は全ての人間の言論の自由を強く支持しますが、コンピュータの言論の自由は支持しません。アルゴリズムは必ずしも人類にとって最善のことを最適化しているわけではありません。また、最悪の場合の責任を問えるように、セクション230などの法律も変更する必要があります。この技術によって誰かが害を受けた場合、さらなる被害を防ぐための解決策が必要です。」
2番目のハイライトは、エリックが世界は準備ができていないと話した部分です。これは非常に広い範囲で当てはまると思います。もしあなたがビジネスオーナーやマーケティングチームのリーダーで、互いに対話し、反復し合うボットを設置していないのであれば…現在、私たちはすでにエージェント的な行動を持っています。エージェントを待つ必要はありません。そのように考えていなければ、取り残されることになるでしょう。
世界が準備できていないという発言に関連して、エリックは将来の決定は技術者だけからくるべきではないとも述べています。これは私の心に響きます。なぜなら、今私たちの手にある能力で人類の美しい未来を思い描くには、クリエイティブな人々、アーティスト、非技術的な人々の助けが必要だと信じているからです。そして、それはますます強く、より良くなっていくのです。
エリックはこう話しています:「世界はAIができることについての物語であふれていて、私たちはそれらに概ね同意します。しかし、私たちが考えているのは、世界がこれに対して準備ができていないということです。私個人としては、これは社会が準備できているよりもはるかに速く起こると信じています。アメリカでも中国でも、非常に速いスピードで進んでいます。」
3番目の注目すべきハイライト(そうです、中国とAIについての分析はこれから来ます)は、司会者がエリックに、やや破滅的な視点で質問をした時のことです。これは、長い人生を経験し、多くのことを見てきた人々、そして長年にわたってテレビ、映画、メディアを通じて私たちに植え付けられてきたスカイネット的なAIのイメージの影響を受けてきた人々によく見られる考え方です。
司会者は基本的に、AIが超人的になった場合に起こりうる全ての悪いことについて尋ねました。エリックは「待ってください。確かに、特に戦争においてAIが非常に危険な方法で適用される可能性のある怖いシナリオはありますが、その前に来るはずの豊かさについて話しましょう」と答えました。
エリックは、生活そのものがどのように変化するか、科学がこれまでに見たことのない驚くべきブレークスルーを遂げること、車の運転方法が完全に変わることについて触れ、そして生産性が大幅に向上すると述べました。これは、ビジネスオーナーであり12年間マーケターとして活動してきた私個人としても非常に興奮することです。
クリエイティブな人々がバーンアウトから抜け出し、文字通り自分の頭脳をボットにダウンロードして、人間の代わりに配置できるようになるという考えに、私は大いに期待しています。そうすれば、私たち人間は、仕事の要求が増え続けることで私たちを圧倒してきた狂気のような「やること」から離れることができます。
もし今、ボットやAIのエージェント的な行動が大部分の仕事を引き継ぐことができれば(これは未来の話ではなく、今日の話です)、私たちは人間としての在り方に立ち返り、好きなことをすることができます。エリックが言ったように、より高い生産性を得ることができます。しかし、それは更なる人々のバーンアウトや、残業、家族との時間を失うことなどの代償を払う必要はありません。
彼はまた、ユニバーサルな医師とユニバーサルな教育者を持つことができるようになると話しました。これは私が他のビデオでも話し、これからも話し続けるアイデアです。AIが医師や教育者を凌駕するということです。考えてみれば、これらの職業は多くの時代遅れのルールや指標に縛られています。人類は一晩でそれらのルールを覆し、書き直すことはできません。
もしAIが測定を行い、何十億ものデータポイントから情報を引き出し、ほととんどの人間よりも良い仕事をすることができるのなら、それは美しいことです。それは適切な場所に置かれ、活用されるべきものであり、私たちや子供たちが恩恵を受けることができます。
エリックはこう話しています:「心配すべきことは多くありますが、悪い面を話す前に、お伝えしたいことがあります。医療における薬の能力の大幅な向上、気候変動への解決策、より良い車両、科学における大きな発見、すべての人にとっての生産性の向上、ユニバーサルな医師、ユニバーサルな教育者、これらすべてが来ています。そしてそれらは素晴らしいものです。」
「しかし、これらのシステムは、特に悪意のある人間の手に渡ると…そして私たちは悪が存在することを知っています…多くの人々に害を及ぼすために使用される可能性があります。最も明白なのは生物学での使用です。これらのシステムは、将来的に多くの人間に害を及ぼす可能性のある生物学的病原体を生成することができるでしょうか?今日、私たちはそれはできないと確信していますが、何らかの対策を講じない限り、できるようになると考えている人々が多くいます。これらの対策は現在進行中です。」
「サイバー攻撃についてはどうでしょうか?単独の行動者、テログループ、北朝鮮、あるいはあなたが考える悪人や集団が、未知の攻撃ベクトル、いわゆるゼロデイ脆弱性を使って金融システムを破壊することを決意した場合…システムは非常に強力なので、民主主義がそれらを利益のために使用することに加えて、独裁者が権力を集中させるために使用し、有害な軍事的文脈で使用される可能性について、私たちは非常に懸念しています。」
「私はこれらのAIガールフレンドについて不安を感じています。現在、アメリカで最大の脅威は、極端主義につながる孤独だと感じています。これらのAIガールフレンドやAI検索が登場するのを見て、ロマンスや経済的機会が不足している多くの若い男性がAIガールフレンドに向かい、実際の関係から隔離され始めているのを目にします。彼らは気候変動を信じなくなり、女性蔑視的なコンテンツに関わる可能性が高くなり、学校や両親、仕事から隔離され、非常に質の悪い市民になっています。若い男性は多くの問題を抱えており、これらの偽の関係への低リスクな参入は、孤独とその外部性を加速させるだけだと思います。」
「完全に同意します。若い男性に問題があることを示す証拠が多くあります。多くの場合、若い男性の成功への道は、より困難になっています。なぜなら、彼らは女性ほど教育を受けていないからです。今や大学には男性よりも女性の方が多く、多くの伝統的な道筋はもはや利用できなくなっています。そのため、彼らは楽しみと生活の糧を求めてオンラインの世界に向かいます。しかし、ソーシャルメディアのアルゴリズムのために、彼らはテロリズムのような恐ろしい方法や、あなたが述べたような不適応な方向に彼らを過激化させる同じ考えを持つ人々を見つけます。これは既存の技術の予期せぬ問題の良い例です。」
「では、AIガールフレンド、あるいはボーイフレンド(例としてAIガールフレンドを使いましょう)が完璧だと想像してください。視覚的に完璧で、感情的に完璧で、そのAIガールフレンドが男性としてのあなたの心を捉え、彼女、あるいはそれが何であれ、あなたの考え方を支配し、あなたが彼女に取り憑かれてしまうところまで行くのです。このような執着は、特に十分に形成されていない人々にとって可能です。親はあらゆる明白な理由で、より関与する必要があるでしょう。しかし、結局のところ、親は息子や娘がしていることを合理的な範囲内でしかコントロールできません。」
「例として十代の若者を使い続けていますが、成熟の年齢について16歳、18歳、場合によっては20歳といったさまざまなルールがあります。しかし、12歳や13歳の子供をこれらの前に置くと、彼らは世界のあらゆる善とともに、あらゆる悪にもアクセスできてしまい、それに対処する準備ができていません。したがって、あなたのAIガールフレンドの例の一般的なバージョンである、あなたはそれを扱うのに十分成熟しているのかという一般的な質問は、未解決のままです。」
さて、ここで大きな話題である中国とAIについてです。もしナンバー2がいて、アメリカがナンバー1だと仮定した場合、最大の脅威を与えるのは誰でしょうか?それは彼らの技術なのか、意図なのか、あるいはその両方なのか。これらの本当に恐ろしいことが起こった場合、最も可能性の高い行為者は誰だと思いますか?それは無法国家なのか、テログループなのか、それとも国家なのでしょうか?
「まず、短期的な脅威は無法国家とテロリズムからだと思います。なぜなら、ご存じの通り、どの国でもエリートに対して害を与えようとする集団が多くあるからです。今日の競争環境は非常に明確です。パートナーである英国とともにアメリカは…例を挙げましょう。今週、中国から2つのオープンソースライブラリがリリースされました。1つは非常に強力な問題解決プログラムで、もう1つは大規模言語モデルで、メタが毎日使用しているllama 3 400億パラメータモデルと同等、場合によってはそれを上回るものです。私はこれを読んだ時に衝撃を受けました。なぜなら、中国との会話の中で、彼らは2〜3年遅れているだろうと想定していたからです。しかし、今では1年以内に追いつくように見えます。」
「公平に言えば、アメリカ、そして1年以内に中国、そして他のすべての国々は大きく遅れをとっているということです。中国がアメリカの都市に対して無法な攻撃を仕掛けるとは言っていませんが、もし悪意のある第三者がオープンソースであるために中国から、あるいはアメリカから盗むことは可能だと主張しています。脅威のエスカレーションマトリックスは、改善のたびに上昇していきます。」
「今日、これらのツールの主な使用は、あなたが話したような誤情報を広めることですが、エージェントへの移行があることを覚えておいてください。エージェントは何かを行います。それは旅行エージェントであったり、何であれ…エージェントは英語を話し、あなたが英語を与えると英語で応答します。そのため、エージェント1がエージェント2に話し、エージェント2がエージェント3に話し、エージェント3がエージェント4に話すというように連結することができ、それらすべてを機能させるスケジューラーがあります。」
「例えば、これらのエージェントに『世界で最も美しい建物を設計し、全ての許可を申請し、建設業者の料金を交渉し、それがいくらかかるか教えて、その金額が必要だと会計士に伝えて』というコマンドを与えることができます。それがコマンドです。考えてみてください。今日、非常に才能のある100人が必要な統合ソリューションを、1つのコマンドで実行できるのです。その力の加速も悪用される可能性があります。」
「別の例を挙げましょう。あなたは先ほどソーシャルメディアへの影響について話していましたが、私はイギリンドでデモンストレーションを見ました。最初のコマンドは、25歳で2人の子供がいて、次のような奇妙な信念を持つ女性のプロファイルを構築することでした。システムはコードを書き、その特定のソーシャルメディアケースに存在する偽のペルソナを作成しました。次のコマンドは、その人物を取り、同様の見解を持つあらゆる可能な固定観念、すべての人種、性別、年齢層などに修正し、それを普及させることでした。そして10,000人が瞬時に現れました。」
「例えば、今日、これは事実ですが、喫煙はがんの原因ではないと言う(これは事実ではないとわかっていますが)10,000人の偽のインフルエンサーのコミュニティを作りたい場合、それを実行することができます。そしてPCを持つ1人でこれができるのです。今日よりもはるかに強力なAIが登場した時のことを想像してください。」
エリックは、中国が現在アメリカが行っていることに驚くべきスピードで追いついていると述べました。アメリカはAIと自動化で先行していますが、中国はそれほど遅れていません。2〜3年遅れていた状態から、1年以内の差にまで縮まっています。この現実の例として、中国のLLMであるDeep Seekが最近リリースしたR1 Light Previewがあります。これはOpenAIの0.1 Previewの複製のようなもので、推論が組み込まれているモデルですが、Deep Seekはテストタイム計算の代わりに思考トークンと呼んでいます。
私はDeep Seekをテストしてみました。ここに、ほとんどプロンプトを与えずに書かせた私のスタイルのメールがあります。それほど悪くない出来でした。比較のために、しばらくしてから0.1の推論機能を使って書かせたメールもあります。若干の違いはありますが、それほど大きくありません。
しかし、それでも私はOpenAIの0.1 ChatGPTモデルの方が好みです。少し優れていて、より良く書かれており、より深い構造を持っています。ただし、このコンテンツはまだ公開する準備ができていません。私なら実際に、私のスタイル、私が販売する製品、私が持っている聴衆に基づいてGPTボディをトレーニングし、非常に調整の行き届いたメールを作成するでしょう。
0.1 Previewは9月12日にリリースされ、Deep Seek R1は11月20日にリリースされました。つまり、OpenAIが最新モデルをリリースしてからすぐ後です。Deep Seek R1 Light Previewのベンチマークでは、かなり良い成績を上げ、0.1を上回る性能さえ示しました。
しかし、ここで重要なのは、私は中国の億万長者やテク投資家の本を読んできたことです。カイフー・リー博士の『AIスーパーパワー:中国、シリコンバレー、そして新世界秩序』は、タイトルに惑わされないでください、実際にとても良い本です。私は深く考える人間ですが、匿名のRedditやXのスレッドを多く読んで陰謀論に巻き込まれすぎるのは健全ではないと思います。私は、その場所で経験を積んだ人々から学ぶことを好みます。
カイフー・リー博士は中国で育ち、中国のテクノロジーに投資してきました。面白いことに、この本の中で彼は、中国人は模倣者であり、独創的な創造者ではないと指摘しています。彼らは最高の国が行っていることを模倣し、文字通り盗用するのです。それはあまり良い価値観ではありませんが、それが中国の運営方法です。
次に共有するクリップでは、エリックが中国の急速な追い上げに驚いている様子を聞くことができますが、それはトランプ政権によって変化するだろうと述べています。トランプの見方は、アメリカを中国から切り離すことに全てが向けられているということです。これによって、アメリカは1〜2ヶ月先行しているだけでなく、数年先行するという大きな優位性を取り戻す可能性があります。しかし、それは結局のところ、OpenAIが誰を取締役会に参加させるかにかかってきます。それは全く別の話題ですが。
エリックがAI軍拡競争におけるアメリカ対中国の状況について話すこのクリップを聞いてください:「我々はこの問題について互いを信頼する方法を見つけ出し、悪者と一緒に戦うつもりです。」
「キッシンジャー博士は、もちろん中国の世界的な専門家でした。彼は中国を開放し、それは彼の最大の業績の一つでしたが、同時に誇り高きアメリカ人でもあり、中国がどちらかの道を選ぶ可能性があることを理解していました。中国に関する彼の見方は、彼が全書を書いたように、中国は歴史の一部として『中華』であることを望んでおり、他のすべての国々を支配しようとしているというものでした。」
「しかし、それはアメリカとは違います。彼の見方では、中国は他の国々が中国に忠誠を示す、つまり中国の望むことを行うことを確実にしたいと考えており、時には国が何かをしない場合、その国を侵略するなどの代償を求めることがあるということでした。これがヘンリーが言うことの概要です。彼も中国について非常に現実的でした。」
「彼の見方は今日のトランプの見方やアメリカ政府の見方とは相反するでしょう。アメリカ政府は今日、デカップリング、つまり文字通りの分離を中心に完全に組織されています。私が彼と一緒に中国に行った時に正確に報告できる彼の見方は、我々は決して親友にはなれないが、共存する方法を学ばなければならないというものでした。」
「それは、互いに警戒心を抱かせたり、恐れさせたりしないように、あらゆる問題について詳細な議論を長時間行うことを意味します。彼のさらなる懸念は、習近平主席が明日台湾に侵攻するということではなく、事故から始まり、そこから段階的なエスカレーションが起こり、両側の感情のために、第一次世界大戦のように、サラエヴォでの射撃から始まって、最終的に数ヶ月後には望んでも予期もしていなかった世界大戦に巻き込まれてしまうということでした。そして一旦戦争に入ってしまえば、戦わねばなりません。」
「したがって、中国との関係で懸念されるのは、おおよそ我々は相互依存的であり、親友ではないということです。完全に独立している、つまり依存していない状態よりも、依存している方がおそらく良いでしょう。なぜなら、それはある程度の理解とコミュニケーションを強制するからです。」
私にとって、これらが最大のハイライトでした。エリックが取り上げたその他の点として、多くの誤情報が広がる可能性があること、インフルエンサーが自分の姿や声をクローン化し、本物の人々と区別するのが難しくなり、それが多くの偽情報を広めるために使用されるだろうということがありました。
驚くべきことに、Synthesiaのようなプラットフォームが有名人の姿をほぼ完璧にクローン化できる能力を持っているにもかかわらず、これが大規模に見られていないことです。その代わりに、メッシとの健全なコラボレーションのような例が多く見られます。メッシは実際に雇われ、報酬を得てグリーンスクリーンの前に立ち、Cesiaが彼をクローン化し、写真やビデオを撮影してディープフェイク広告を作成しましたが、これは完全にメッシによって承認されたものでした。
これがもう一つの側面です。良い面があり、そのディープフェイク広告キャンペーンでは、人間のメッシだけでは決してできなかったようなコンテンツを生成することができました。クローン化機能がなければ不可能だったことです。彼らは9つの異なる言語で彼に話させることができました。
そうです、多くの悪い面や危険、潜在的な誤用の可能性がありますが、私は世界のデフォルトは豊かさ、希望、そして最終的に善が勝つということを信じています。これはほとんどすべての政府のサイクルで見られます。ヒトラーはたった4年しか統治しませんでした。この世界はどれだけ長く存在しているでしょうか?確かに、悪の独裁者は存在しましたが、彼らは決して長く続きませんでした。
私はエリックと同意見です。技術者だけが規則や規制を作るべきではありません。また、これが何であり、私たちが何を見ているのか、つまり豊かさへの武器であり、バーンアウトから抜け出すための開かれた扉であることについて、一般の人々への教育も必要だと付け加えたいと思います。
しかし、確かに、私たちにはガードレールのある均衡のとれたアプローチが必要です。理想的には、中国がアメリカが発表してから2ヶ月後にアイデアを盗むことがなく、危険な組織から切り離されている状態です。私は今後2年間で、この方向でより健全な進展が見られることを期待しています。
このビデオを見ているあなた、おめでとうございます。AIと自動化が私たちの生活をどのように形作るか、という重要なトピックに取り組んでいます。これは私たちの生活だけでなく、子供たち、家族、次世代、そして世界全体に関わることです。これは私たち人類が集団として考えなければならないことです。
私たちは、ビジネス、職場、家族、そして私たちが活動するあらゆる領域で準備を整える必要があります。それを活用する時、それこそが来るべきものに先んじる時です。
まだの方は、YouTubeのJulia McCoyチャンネルをぜひ登録してください。コメント欄でみなさんの声を聞けることを楽しみにしています。これら全ての未来について、エリックの発言について、あなたはどう考えますか?賛成ですか、反対ですか?ここはそれらすべての議論の場です。いつものように、次のラビットホールでお会いしましょう。

コメント

タイトルとURLをコピーしました