AIは素晴らしいものです。なぜなら、AIは今日私たちが抱えているすべての問題を解決するからです。雇用問題、病気、貧困を解決するでしょう。しかし、それはまた新しい問題を生み出します。偽ニュースの問題は何百万倍も悪化し、サイバー攻撃は極端に過激になります。完全に自動化されたAI兵器が登場し、AIは無限に安定した独裁政権を創り出す可能性があります。今朝、人工知能の力についての警告がありました。1300人以上の技術業界のリーダー、研究者などが、人工知能の開発を一時停止してリスクを検討するよう求めています。
神を演じる科学者たちはしばらくの間、神を演じると非難されてきましたが、今、私たちはこれまでに創り出したものとは非常に異なる何かを創り出しているという実感があります。はい、私たちは完全に自律的な存在を創り出すことができるようになります。その存在には独自の目標があります。そして、特にそれらの存在が人間よりもはるかに賢くなるにつれて、これらの存在の目標を私たちの目標に一致させることが重要になります。
私をインスパイアするものは何かというと、私は基本的なこと、基本的なことについて考えるのが好きです。私たちのシステムが人間が確実に行うことをできないのは何か、ほぼ哲学的にアプローチするような質問、学習とは何か、経験とは何か、思考とは何か、脳がどのように機能するのかといった質問です。
技術は自然の力だと感じています。技術と生物進化には多くの類似点があると感じています。生物進化がどのように機能するかを理解するのは非常に簡単です。突然変異があり、自然淘汰があり、良いものが残ります。これによって、巨大な複雑さが生まれます。
私たちは人間の体がどのように機能するかを理解できませんが、進化のプロセスをほぼ理解しています。そして、機械学習も同じような状態にあると思います。特に深層学習では、非常に単純なルールでデータから情報を取り出し、モデルに反映させます。このプロセスを繰り返すことで、データの複雑さがモデルの複雑さに変換されます。結果として得られるモデルは非常に複雑で、正確にどう動作するかはわかりませんが、そのアルゴリズムは非常に単純です。
チャットGPT、聞いたことがあるかもしれません。もしないなら、覚悟してください。これは豪雨の前の最初の雨粒のようなものです。非常に意識しなければならないものです。チャットGPTは画期的なものだと言われており、多くの点でそうです。最近の研究では、GPT 4は初期のまだ不完全な汎用人工知能（AGI）システムであると結論付けられています。
汎用人工知能（AGI）は、人間が行うどんな仕事やタスクもより良くこなすことができるコンピュータシステムです。AGIがすぐに実現する可能性もありますし、もっと長い時間がかかる可能性もありますが、私の立場としては、AGIがすぐに実現する可能性が高いと考え、真剣に受け止めるべきだと思っています。そして、これらの非常に賢く有能なシステムが私たちの利益に沿って行動するようにすることが非常に重要になります。
最初のAGIは、基本的に非常に大規模なデータセンターに詰め込まれた専門のニューラルネットワークプロセッサが並行して動作する形で現れるでしょう。これらは、1000万戸分のエネルギーを消費するようなコンパクトで高温でエネルギーを大量に消費するパッケージになるでしょう。劇的に賢くなったシステムが登場し、それらのシステムが社会に完全に天文学的な影響を与える可能性が非常に高いと考えています。人間が実際に利益を得るのか、誰が利益を得て、誰が得ないのか？
最初のAGIの信念や欲望が非常に重要であり、正しくプログラムすることが重要です。これが行われない場合、進化の自然淘汰の性質は、自らの生存を最優先するシステムを優先することになるでしょう。それが人間を積極的に憎み、害を与えたいと思うわけではありませんが、非常に強力になるでしょう。良いアナロジーとしては、人間が動物を扱う方法です。人間は動物を憎むわけではなく、動物を愛し、多くの愛情を持っていますが、2つの都市を結ぶ高速道路を建設する時、動物に許可を求めません。私たちはただそれを行います。なぜなら、それが私たちにとって重要だからです。そして、デフォルトでは、私たちと本当に自律的で自らのために行動するAGIとの関係もそのようなものになるでしょう。
多くの機械学習の専門家、非常に知識が豊富で経験豊かな人々は、AGIがいつ起こるか、またはそれが起こるかどうかについて多くの懐疑的な見方を持っています。現時点では、多くの人がまだ気づいていないことがあります。それは、ニューラルネットワークのためのコンピュータの速度が数年で10万倍速くなるかもしれないということです。複数のチームがAGIを最初に構築しようとする軍拡競争のダイナミクスがある場合、彼らは人間を深く思いやるAGIを構築する時間が少なくなるでしょう。私が想像するのは、AGI開発の雪崩のようなものです。これは巨大で止められない力です。そして、地球の表面全体がソーラーパネルとデータセンターで覆われる可能性が非常に高いと思います。
このような懸念を考慮すると、AGIが多国間の協力としてどのように構築されるかが重要になります。未来はAIにとっては良いものになるでしょう。人間にとっても良いものであれば良いのですが。
コメント