4,473 文字
強力なAIが急速に近づいているとニューヨークタイムズのテクノロジーコラムニスト、Kevin Rooseは述べています。そして彼によれば、私たちは次に来るものに全く準備ができていません。タイムズの最近の記事で、Rooseは人工知能全般（AGI）の時代が多くの人が考えているよりも近いと主張しています。彼はAGIを「人間ができるほぼすべての認知タスクを実行できるシステム」と定義しています。
Rooseは主要なエンジニア、研究者、起業家たちと広範な会話を持ち、AGIが2026年、あるいは場合によってはそれよりも早く登場するかもしれないという結論に達しました。彼の発見で注目すべきなのは、AI業界の内部者たちの間で広がっているこのコンセンサスです。OpenAIのSam Altman、Google DeepMindのDemis Hassabis、AnthropicのDario Amodeiなど全員が、人間の知能に匹敵するか、それを超えるシステムが数年以内に登場する可能性を公に認めています。
Rooseによれば、さらに注目すべきなのは、この技術を構築している人々から直接発せられる懸念だといいます。例えば、初期のソーシャルメディアの頃、技術を構築していた人々は社会的害を警告したり予見したりしなかったのとは異なり、今日のAIエンジニアや幹部たちは自分たちが構築しているものについて公然と懸念を表明し、AIが欺瞞や操作に関与する可能性についても研究しています。
Rooseは、それを構築している人々だけでなく、Geoffrey Hinton、Yoshua Bengioなどのような独立した専門家たちも、AIの研究におけるパイオニアとしてこれらの警告に同調していると言います。Rooseはこの考えを裏付けるような具体例をいくつか指摘しています。新しく高度なAIモデルは現在、複雑な推論に優れており、メダリングの数学的課題を解いたり、以前は人間のプログラマーだけができた高度なプログラミングを一貫して処理したりしています。
Rooseはこの議論を、何らかの劇的な変化が来ているという明確な兆候があるにもかかわらず、社会は概して準備ができていないと結論づけています。政府はAI、特にAGIからもたらされる変化を管理するための統一的な計画を欠いています。彼は、AGIが否定できなくなるまで、つまり仕事を排除したり実際の害を引き起こし始めるまで待っていると、修正できないような多くの間違いを犯すことになると警告しています。最後に彼は、AGIが数年後に来ようと10年後に来ようと、真剣に準備する時期は今だと結論づけています。
Paul、これはAGIを取り巻く警鐘が鳴らされるのは初めてではありません。前回のエピソードでは、ジャーナリストのEzra KleinによるAGIについての警告を取り上げて多くの注目を集めました。特に先週のSmarter X execiニュースレターで、あなたがこのトピックについて多く考えていることは知っています。この点についてあなたの考えと、なぜこのことについてさらに耳にするようになったのか、説明していただけますか？
そうですね、もしあなたが聞いているなら、これは2週間前のエピソード139の冒頭と非常に似ているように聞こえるかもしれません。なぜなら実際そうだからです。これは内部の人々との会話に基づいて話をする別の主流メディアのライターです。3月7日、Big Technologyポッドキャストのアレックス・カネルウォリッツがあり…あ、AIが私の仕事を遂行できるようになり始めたと思い始めています。Ezra Klein、これ、そして研究所との会話があります。
そう、ますます明らかになってきていることは、すべての研究所内の人々、AI専門家、それを密接に追う様々なメディアがみな同じことを言っているということです。彼らは全員が同じ傾向が現れているのを見ているのです。Kevinのものを読んだとき、私は彼が信じ、書いていることに100%同意していると言いました。彼の見方は正確だと思います。彼は「ほとんどの人や機関が、今日存在するAIシステムに対して、より強力なものはなおさら全く準備ができていないと思う」と言いました。これはまさに私たちが言ってきたことです。
あなたが話す多くの企業、多くのビジネスリーダーにDeep Researchを見せると、彼らは驚愕します。Deep Researchや、あるいはNotebook LMのようなものがAIができることだとは全く思っていなかったのです。私たちが住んでいるバブルの中で、そして私はこの番組を定期的に聴いている多くの人々も同じバブルに住んでいると思いますが、私たちはみんながこれらのものが既にできることを知っていると思い込んでいますが、そうではないのです。ほとんどのリーダーはこれらのことについて概念を持っていません。
先週、私は約500人の電気独立販売業者が参加する講演会にいました。彼らは優秀な人々で素晴らしいビジネスを持っています。実際、帰りの飛行機で講演会に参加していた幹部と話していました。彼は私の隣に座っていて「ねえ、今日話をした人だ」と言いました。そして私たちは彼や彼の会社がどこにいるのかについて話し始めました。それは私が何度も見てきたことをよく表していました。つまり、このことを理解したいと思っている人々ですが、彼らにはフルタイムの仕事があり、彼らはCEOや社長、副社長、ディレクターであり、これを理解する時間がなく、彼らはChatGPTにも慣れていません。
彼らはどうやってそこに入っていって、プロンプトで遊んだり、欲しいことをさせたりするのか分かりません。彼らはただ、おそらくそれを理解すべきだということは知っています。それがビジネス界のほとんどがいる場所です。彼らは現在のものの能力を理解しようと努めているのです。そしてAGIについて話し始め、それが彼らのビジネスの平均的な人間労働者と同等になるという考えを示すと、それは彼らが処理しようとするには狂気じみた不条理な概念なのです。
だからこのような記事は非常に重要だと思います。なぜなら、それは会話を私たちが今日いる場所だけでなく、さらに進めるからです。現実は、2年後、あるいはそれよりも早く、非常に異なる、非常に進んだ場所にいるかもしれないのです。そうですね、それは毎週日曜日に行うexeciニュースレターで言及したものです。
今週書いたのは「AI AGIホライズンチームの議論」というタイトルのものでした。ニュースレターを受け取っていない場合は、私のLinkedInにアクセスしてください。日曜日にLinkedInにも抜粋を掲載しました。基本的な前提は、2023年初めに、ChatGPTが登場してからわずか2ヶ月後に、何が起こっているのかを理解しようとしていた大手ソフトウェア会社にアドバイスをしていたということです。
彼らは「これは私たちの製品ロードマップを完全に変える。なぜなら、彼らが今後12ヶ月で構築する予定だったものを、今や大学生がChatGPTやClaudeなどを使って構築できるからだ」と言っていました。彼らは今いるこの瞬間を把握しようとし、これが今日何を意味するのかを理解しようとしていたのです。私は「今日何をすべきかについてはアドバイスできますが、私がより懸念しているのは、3年後に何が起こるかです。なぜなら、これらの研究所はAGIへの明確な道があると確信を強めているからです。
そしてそれが起こるとき、あなたのソフトウェアは潜在的な絶滅レベルのイベントに直面します。なぜなら、私はあなたのソフトウェアがしていることをするためにそれを必要としているのでしょうか？」と言いました。私が彼らにアドバイスしたのは「AGIホライズンチームを作ってください。そして外部のアドバイザーが必要かもしれません。なぜなら、内部の製品担当者が客観的であることは難しいからです。彼らは今後12〜24ヶ月の製品ロードマップに投資しています。
彼らに「あなたの最高の5つのアイデアを捨ててください。なぜならOpenAIが6ヶ月でそれをできるようになるからです」と言うのは、内部の人々が聞くには、そして客観的であるには難しいことです。だからこのチームに内部の主要な人々を数人入れ、さらに外部のアドバイザーを数人入れて、彼らが非常に残酷なほど客観的になり「このプロダクトロードマップは捨てるべきだ、ここに向かうべきだ」と言うか、あるいは次のものを同時に構築し始めるべきだと言えるようにしてください。つまり、そのプロダクトロードマップを追求してもいいけれど、ここでより大きなショットを打つ必要があるということです。
私はニュースレターで「ほとんどの大企業、小中規模企業にとっては難しいかもしれませんが、間違いなく大企業は、AGIホライズンチームという考えを真剣に検討する必要があると思います。そして実際に未来を見て「彼らが全員正しかったらどうなるか？」と考え始めるべきです。もしそれが単なる騒ぎやハイプではなく、すべてのAIリーダーや専門家、研究所、研究者が正しくて、2年後にAGIがあり、それが会計やマーケティング、営業、法務、金融などで現在行っていることを行う平均的な人間労働者と同等であったらどうするか？もし実際にそうだとしたら？今、確率はゼロではないと言っています。
そして実際、それは0％よりも50％に近いと思います。だから、もしあなたのビジネスが、例えば2〜5年で完全に破壊される可能性があるなら（業界ごとに異なります）、もしその可能性があるなら、そして私はかなり自信を持ってその可能性は非常に強いと思いますが、あなたはそのために計画し始めないでしょうか？その可能性を考慮し始め、「私たちは何をするのか、それは私たちの製品戦略にとって何を意味するのか、それは私たちの人材にとって何を意味するのか、私たちの組織構造と競争環境にとって何を意味するのか」といった異なるシナリオを考え抜かないでしょうか？
これらは考えるべきことです。だから、はい、私はこれらの記事を全面的に支持します。このことについてもっと会話が必要だと思います。そして言ったように、聴いている人々、特に大きな会社で働いている方には、AGIホライズンチームについてのこれらの会話を始めることを強くお勧めします。角を曲がったところを見渡し、何が起こるかを理解しようとするチームです。シナリオプランニングを始め、これを考え抜いてください。多くのビジネスがChatGPTで経験したように、何が起こっているのかわからなくなり、今から2年以上経っても、ほとんどの企業がまだGenAIを理解するために奔走し、それが何を意味するのか、ロードマップを構築しているような状況に陥りたくないでしょう。
コメント