2,943 文字
アメリカのAIについて語るトランプ大統領「それは困難を伴うものですが、私たちはそれに向き合わなければなりません。そしてもし実現するなら、中国よりも先頭に立たなければなりません。中国が主要な脅威なのです。AIは人類を支配するという人もいますが、非常に強力なものです。どうなるか見てみましょう」
私は今、元グーグルの会長兼CEOのエリック・シュミットと話をしています。彼は、マイクロソフトのクレイグ・マンディー、そして故ヘンリー・キッシンジャーと共に新著『Genesis：人工知能の希望と人間精神』を執筆しました。
本日はお越しいただき、ありがとうございます。あなたは本の中でAIの重要性について率直に述べていますね。ここで引用させていただきます。「人工知能の出現は人類の生存にかかわる問題である」と説明してください。
私たちは、人間の尊厳と価値観を守りながら、AIの到来という信じられないほどの力を活用する必要があります。それが本書のテーマです。そのバランスを保つのは非常に難しいでしょう。
なぜそれほど難しいのですか？
システムの動きが非常に速いからです。ソーシャルメディアが私たちの国や世界全体の時代精神に与えた影響を見てください。そして今、はるかに知的で、はるかに強力なメッセージの送信方法や、物事の発明、薬の発見などを想像してください。そして、武器やサイバー攻撃のような悪いことも含めて、すべてが非常に速いスピードで起こっているのです。
あなたは、一見何気ない文章を書いていますが、実は重要な意味を持っています。「自分の目的を定義できる機械は、そう遠くない将来に実現するだろう」。私たちはまもなく、コンピュータが自分で何をしたいのか決定して動き出すことができるようになります。それは一連の決定によって起こります。エージェントから始まり、より強力な目標へと発展し、最終的にはコンピュータに「すべてを学び、すべてを実行せよ」と命じることになります。そしてシステムが自己改善できるようになった時点で、私たちは真剣にそれを停止することを考える必要があります。
しかし、そのようなシステムは、私たちが停止しようとする試みに対抗する能力を持っているのではないでしょうか？
理論的には、比喩的な意味で誰かがプラグを握っている必要があります。しかし重要なのは、この知能の力、この新しい知能の可能性は、すべての人がポケットの中に博識な人を持つようなものだということです。あなたの番組やすべてのメモ、作家たちに加えて、アインシュタインやレオナルド・ダ・ヴィンチがあなたの番組についてアドバイスをくれるようになるでしょう。それは地球上のすべての人に当てはまることになりますが、すべての個人にそのような力を与えることが何を意味するのか、私たちにはまだわかっていません。
しかし、それは既に起こっているのではないでしょうか？様々な企業が異なるスピードで動いている中で、本当にコントロールする方法はあるのでしょうか？
業界では「針の目」と呼ばれる問題があります。現在の企業はすべて、例えば自殺を促したり、核兵器の作り方を教えたりするなど、明らかに恐ろしいことをモデルが行わないようにテストと確認に多大な時間を費やしています。競争が非常に激しいため、ある企業がそれらのステップを省略し、何か本当に害のあるものを放出してしまうのではないかという懸念があります。
それが起こっているかどうか、私たちには知る方法はあるのでしょうか？
それは発生した後に発見することになるでしょう。今日、一般的な合意として、企業は政府とお互いに、彼らが行っているステップとテストについて報告しており、それは良いことです。
トランプ大統領が先ほどのインタビューで提起した中国との競争についてはどうでしょうか？私たちはどこにいて、中国はどこにいるのでしょうか？
以前は中国より数年先を行っていると考えていましたが、中国は驚くべき方法で過去6ヶ月の間に追いついてきました。実際、中国のプログラムのいくつか、例えばDeep seekと呼ばれるものは、追いついたように見えます。これはトランプ政権とバイデン政権による高性能チップの供給制限という特別な努力の後でさえもです。中国人は賢く、産業力、軍事力、そして監視システムにおける新しい種類の知能の力を理解しています。
AIのパイオニアの一人であるサム・アルトマンが先週言ったことを読み上げたいと思います。「真の超知能、つまりあなたや私よりも賢いだけでなく、私たち全員を合わせたよりも賢いシステム、信じられないような能力を持つシステムは、たとえ技術的に安全にできたとしても、私たちは政府を信頼しなければならないでしょう」。政府はこれを規制するために必要なことを行っているでしょうか？
まだです。しかし、せざるを得なくなるでしょう。私は50年間この仕事をしてきましたが、このような規模のイノベーションを見たことがありません。知能という人類の驚くべき成果と、私たちができることや科学の進歩において、おそらく今後1、2年の間に、システムが自身で研究を始められるようになる時点があります。それらは人間の科学者ではなく、AI科学者と呼ばれます。つまり、千人の人間の科学者から100万人のAI科学者へと移行するのです。それは傾斜を増加させると思います。このような速度で動いている時、競争相手が追いつくのは非常に難しいのです。これが競争なのです。アメリカがこの競争で世界的に、特に中国に対して勝つことが重要です。
しかし、それは二つの異なる競争ではないでしょうか？技術的な競争の話をしていますが、私の政府での経験からすると、政府は企業が行っていることに追いつくことができないように見えます。
本書で述べているように、政府には役割があります。キッシンジャー博士は、私が話している将来の知能は、私のような人々だけに任せるべきではないと強く感じていました。技術者だけがこれらの決定を下すべきではありません。人間の尊厳を守るために、適切な保護措置を設けることについての合意が必要です。それは非常に重要です。
では、それをどのように発展させればいいのでしょうか？
時間とともに実現していくでしょう。トランプ政権では、これを検討する新しい人々が登場します。私の見方では、トランプ政権は主に中国対アメリカに焦点を当てるでしょう。それは良い焦点の当て方です。そして、人間の価値観、つまり古典的な意味での個人の自由と個人の尊重という民主的な自由主義的価値観が守られる限り、私たちは大丈夫でしょう。
もしあなたが1時間だけ世界の支配者になれるとしたら、これをコントロールするために実行する3つのことは何ですか？
最も重要なことは、西側が勝利することを確実にすることです。つまり、より多くのお金、ハードウェア、人材などです。2番目に行うことは、最悪のケースを特定し、最初のシステムを監視する第二のシステムを構築することです。人間はAIを監視することはできませんが、AIシステムはAIを監視できるはずです。
エリック・シュミットさん、ありがとうございました。
ありがとうございます。
コメント