12,519 文字
本日は素晴らしい基調講演者をお迎えしています。モー・ガウダットです。いつものように利害関係を申告しなければなりません。まず一つ目の利害関係は、彼は私の弟です。もう一つの利害関係は、私は寝不足が嫌いだということです。
さて、すべてはどのように始まったのでしょうか。1962年、美しい赤ちゃんが生まれました。これはモーではなく、私です。素晴らしい赤ちゃんでした。モーは5年後に生まれました。私の弟で、父親のように彼を愛し、面倒を見てきました。
彼は1967年に生まれ、1980年に私は医学部に入学しました。その時、私は素晴らしい外科医になることを知っていて、愛する弟の将来を確実なものにしたいと考えていました。世界最高の外科助手になってもらおうと大きな計画を立てていましたが、彼は血を見ることができませんでした。私はそんなことは気にしませんでしたが、彼は別の道を選びました。
13歳の反抗期だったので、私が用意した確実な将来の計画を拒否し、工学部に進学しました。1985年に結婚し、2人の子供をもうけ、IT業界で働き始めました。IBM、マイクロソフト、グーグルと渡り歩き、グーグルの副社長の一人になりました。グーグルXの最高ビジネス責任者でした。グーグルXについてご存じない方のために説明すると、10年後に目にする技術を生み出す実験室のようなところです。
10年前、アリ・ムグ―これはモハマドの息子で21歳でしたが―湾岸地域の私立病院で定期的な虫垂切除術を受けている際に大動脈を穿刺され、手術台で亡くなりました。
現在47歳で、非常に成功したIT業界での経歴を経て、グーグルを退職し、本を書き始めました。最初の本は3ヶ月で書き上げ、国際的なベストセラーとなり、31の言語に翻訳されました。また、10億人を幸せにするという使命を掲げ、多くの人々が困難な時期を乗り越えるのを助けました。
その後、本を立て続けに執筆し、グーグルでの知識を基に人工知能に関する本を書き、そして「頭の中の小さな声」という本で脳を動かすコードを調整する方法について書きました。最も印象の薄い本は「ストレスのない生活」です。外科医は本来ストレスとは無縁なものですから、こう言うしかありません。
現在、彼はこれら4冊の本を持ち、非常に成功したポッドキャスト「スローモ」を持っています。結論として、私のアドバイスに従わなかったのは良かったと思います。
では、モー・ガウダットをお迎えしましょう。
これまでで最高の紹介でした。実際、ケドが私を外科助手にしようと準備していた時のことを鮮明に覚えています。彼が言ったように、私にとって父親のような存在でした。多くの面で私の憧れでした。ケドは今日でも、いつものように非常に意欲的で集中力があり、とても人間味があって親切で、多くの面で保護的です。
実際、私は外科助手になりたかったのです。本当です。でも血を見ると気を失ってしまい、エンジニアとしての考え方でその問題を解決しようとしましたが、うまくいきませんでした。そこでゆっくりと静かに別の道に進んでいきました。
ケドのおかげで、約2年後、亡き父が家をリモデリングしたいと思った時、ケドと他の兄弟のアムは作業員と一緒に家にいるには若すぎたので、父は私に家にいてくれないかと頼みました。私はIBM互換のコンピュータを買ってくれるなら、と答えました。そこでプログラミングを始めたのです。
実は以前からプログラミングをしていて、ケドが買ってくれたシンクレアや、その後コモドールなどでコーディングをしていました。そうして技術者としてのキャリアをスタートさせ、40年、45年後の今があります。ほんの少しの方向転換、1度の角度のずれが、50年後には全く異なる結果をもたらすものです。外科助手にならなかったことは残念ですが、とても興味深いキャリアを歩んできたと思います。
この変化とその広がりについての考えは、人工知能にも当てはまります。ほとんどの人々は2023年にChatGPTが一般公開されたバージョン3.5で初めてAIを知りました。当時、ChatGPTは奇跡のように見え、ニュースではこの新しい革命的な人工知能について盛んに報道されました。
しかし、その時点で新しいものは何もありませんでした。私のように研究所で働いていた人間にとって、実際のAIはすでに25年の歴史があり、AIの夢は75年近く前からありました。信じられないかもしれませんが、8歳か9歳でシンクレアでコーディングをしていた私でさえ、人工知能のプログラミングを夢見ていたのです。
2000年になってようやく、私たちはディープラーニングと呼ばれるものを理解しました。ディープラーニングは、人間の神経科学、人間の脳に合わせようとするコンピュータ科学者の試みでした。脳内で「一緒に発火するニューロンは一緒に配線される」というように、私たちはコンピュータを、良い行動が報酬を得て、悪い行動がペナルティを受けるようにプログラミングし始めました。その結果、私たちが特に教えることなく、コンピュータは良い行動をより多く示すようになりました。
これが何を意味するのか理解するために説明すると、2000年まで、コンピュータは非常に知的に見えましたが、実際にはまったくそうではありませんでした。これは、なぜ今日の私たちの活動が人工知能と呼ばれ、例えば1999年の巨大な銀行システムが知能とみなされなかったのかを理解する上で重要です。
従来のプログラミングは、子供にパズルを与えて、円柱を異なる大きさと形の穴のある木の板に通すような小さなパズルを想像してください。子供が自分で円柱を穴に通す方法を見つけ出すのが、知能を発達させる方法です。しかし、子供に「いいえ、赤ちゃん、それを表面に向けて、断面を見て、他の断面と比較して、一致する穴が正解よ」と教えるのは、子供を知的にするのではなく、非常に従順にするだけです。
そして、それがコンピュータの状態でした。2000年まで、コンピュータは私が実行するように指示したことを正確に実行するだけでした。つまり、私が最初に人間の脳で問題を解決し、それをコンピュータに何度も何度も、非常に速く、非常に正確に、大規模に実行するように指示していました。これによってコンピュータは賢く見えましたが、実際にはまったくそうではありませんでした。実際の知能の形式は持っていなかったのです。
ディープラーニングを始めた時、私たちは少し悪意のあるように見えることをしました。3種類のコンピュータを持とうとしたからです。メーカー、ティーチャー、スチューデントと呼ばれる3つのボットを作りました。メーカーは、与えられたコードを少しずつ改善できる人工知能でした。ティーチャーは、開発中のAIの結果をテストする役割を持っていました。そしてスチューデントは、私たちが作りたいと夢見ていたAIでした。
やり方は非常に興味深く、脳内のシナプスやニューロンを整理するのとほぼ同じような方法でした。問題を解決すると思われるコードを取り、例えば6や8などの数字を見せて、それが何の数字かを尋ねるという知的なタスクを割り当てます。そしてそのコードをメーカーに渡すと、メーカーは少し変更を加えて2000のバリエーションを作り、2000人のスチューデントを作ります。
そして、テストを行います。数字の6を見せて「これは何ですか？」と尋ねます。6と答えたものには「良いスチューデント」と言って、メーカーに戻して改善させます。8と答えたものは、信じられないかもしれませんが、完全に消去します。これは興味深いことです。子供にはこういうことはしませんが、脳内のニューラルネットワークではまさにこのようなことが起こっています。使うものは成長し、使わないものは縮小するのです。
そうすることで、そしてその時までにインターネットと膨大な計算能力を持っていたので、メーカーに何千ものスチューデントを作らせ、それらを一瞬でテストし、うまくいかなかったものを破棄し、他のものを改善させ、それを何度も何度も非常に速く繰り返すことで、機械は独自の知能を持ち始めました。
完全なランダムな状態から始まり、数字を見せられて「うーん、わかりません。6かな？」と言うところから、あらゆるものを読み、見て、すべての猫を定義し、すべての人間を定義し、あらゆる言語を定義し、あらゆる言語を話し、今日できることすべてができるようになったのです。
2023年にChatGPTを目にして、人工知能が始まったと思うかもしれませんが、そうではありません。ディープラーニングを理解した後、私たちはグーグル内のあらゆるものにそれを適用しました。広告の承認、コミュニティガイドラインに違反する動画の確認、データセンター管理など、すべてにAIを使用していました。
2006年にはさらに野心的になり、自動運転車を作ると宣言しました。2013年にはDeepMindを買収し、DeepMindは地球上のあらゆるビデオゲームで勝利できるようになりました。これが重要なのは、過去20-25年間、コンピュータに割り当てたあらゆるタスクで、コンピュータは世界チャンピオンになったということです。すべてのタスクで人間の知能を超えるようになったのです。
ほとんどの人は2023年をAIの誕生年と考えるでしょうが、私の個人的な意見では―これはすべてのコンピュータ科学者に共有されているわけではありませんが―2016年がAIの真のブレイクスルーの年だったと考えています。
2016年には2つの驚くべき発展がありました。一つはAlphaGoでした。AlphaGoは人類が知る最も複雑な戦略ゲームである囲碁で世界チャンピオンになったAIですが、単に勝っただけではありません。非常に人間らしい方法で勝ったのです。完全に予想外の、非常に戦略的で直感的な決定を下し、本当に人間のように考えました。それが世界チャンピオンになったのです。
同じ年にAlphaFoldも開発しました。医療分野の方々は、タンパク質フォールディングの複雑さをご理解いただけると思います。AlphaFoldを発表した時点で、タンパク質の3次元構造を理解することは、博士課程のチーム全体の論文テーマになるような非常に複雑な問題でした。私たちは1週間で2億2000万のタンパク質をフォールディングすることに成功しました。単にタンパク質のフォールディングの仕組みを機械に理解させただけです。
その年、私の親愛なる同僚の一人で、AIの父と呼ばれるジェフリー・ヒントンが、ある日私たちのところに来て「これは間違っているかもしれない。なぜ悪いスチューデントを殺すんだ？単に教えればいいんじゃないか」と言いました。これは非常に興味深いアイデアでした。聞いた時に「ああ、そうだな」と思うような、明らかなアイデアです。
ジェフリーの考えは、もし6なのに8と答えたら、コードを削除するのではなく、単にそれが6だと教えればいいというものでした。自分のプログラミングの何を変更すれば6として認識できるかを考えさせるのです。これは強化学習として知られ、今日の私たちの状況につながっています。この強化学習はOpenAIによってChatGPTの開発に活用され、2016年以降に起こったすべてのことは、この「肯定的な強化で教えることができる」というアイデアに基づいていました。
では、現在の状況はどうでしょうか。これは皆さんにとって非常に興味深いと思います。今日、私たちはAIに割り当てたすべてのことで世界チャンピオンになっているという状況です。例えば、さまざまな種類の知能がありますが、言語的知能と知識ベースの知能に関しては、これらの言語モデルが地球上で最も知的な存在であり、もはや人間ではありません。
去年の終わりに測定を止めましたが、その時点でChatGPTのIQは155と測定されました。これはイーロン・マスクと同じレベルです。アインシュタインは163と推定されています。実際には測定されていませんが、163と推定されています。つまり、ChatGPTにIQテストを受けさせると、歴史上最も知的な人物の一人として分類されるということです。もちろん、230以上のIQを持つ人もいますが、155は非常に重要な数字です。
さらに興味深いのは、司法試験や金融試験、SAT、その他のあらゆる種類の人間の試験でテストしたところ、すべての試験で満点を取ったということです。しかも、これらのテストは機械用に設計されていないにもかかわらずです。つまり、結果は測定していますが、例えば速度や、テストを何か国語で受けられるか、情報の幅をどこまで広げられるかといったことは測定していません。それでも機械は人間よりも優れた成績を出すのです。
言語的知能と知識的知能に関しては、彼らは完全に私たちを打ち負かしています。さらに興味深いことに、技術者なら誰でも知っているように、私たちの技術者としての生活は完全に技術加速カーブによって支配されています。
技術分野外の人々はこれを知りませんが、実際には、グーグルXで働いていた時、私たちは非常に長い時間をかけてブレイクスルーを見つけようとしていました。私たちにとって非常に複雑で解決できない何かを見つけようとしていたのです。そしてそれを見つけた瞬間から、エンジニアリングを適用することで、一定の速度でパフォーマンスが倍増していくのです。
技術加速カーブの最もよく知られている例は、ムーアの法則として知られているものです。これは、同じコストで計算能力が12-18ヶ月ごとに倍増するという考えで、1960年代にインテルのCEOによって提唱されました。彼が言う前から、1920年代から今日まで、コンピュータは12-18ヶ月ごとに倍増しています。
AIは異なる法則に従っており、それは基本的にAIで作り出している知能の量が5.7ヶ月ごとに倍増するというものです。先ほど言ったように、もはやIQは測定していませんが、もしそれが続いているとすれば、155から310になり、次の倍増では155 IQポイントを加えるのではなく、310を加えて620になり、次は1,240になり、そのように倍増し続けるのです。
倍増関数について、これは私が技術者として仕事を持っていた理由でもありますが、1単位のパフォーマンスを取って、それを倍増させ、さらに倍増させ、さらに倍増させると、次の倍増は1単位のパフォーマンスを加えるのではなく、32単位のパフォーマンスを加えることになります。その次の倍増は64単位を加え、その次は128単位を加えます。
今日の世界を見ると、計算能力において、マイクロチップの能力が倍増するたびに、私がコーディングを始めた時のコンピュータと比べて、何兆倍もの力を加えているのです。この倍増関数が、人類が進歩し続ける鍵なのです。
これは何を意味するのでしょうか。ちなみに、他の形式の知能については、例えば数学的知能に関して、去年の終わりまでは、言語的知能では私は言語モデルに負けていましたが、数学ではまだほとんどのAIに勝つことができました。ケドが若い頃に私について考えていたのとは違い、私は非常に真面目な数学オタクで、言葉で見る前に数字で世界を見るほどです。
2024年3月頃には、私は負けました。もはや数学でAIに勝つことはできません。私の最も親しい友人たちの一部、絶対的な数学のプロフェッショナルたちはまだ勝てますが、今年の終わりまでには彼らも数学でAIに勝てなくなるでしょう。
最新のOpenAIのo1とGemini、Google、Claude等からの同等のリリースは、今年中に深い推論も解決できると予測しています。深い推論とは、非常に複雑な問題をコンピュータに与え、同僚たちとコンソーシアムで詳細に議論し、論理的に問題を解決するようなものです。
結論として、私たちが割り当てるあらゆるタスクで世界チャンピオンになり、毎週何千ものタスクを割り当てています。なぜなら、業界には数千億ドルの投資が行われているからです。
これは人類にとって何を意味するのでしょうか。私たちの中には、これを見て信じられないようなユートピアを築くと考える人もいれば、SFムービーやターミネーターを思い浮かべる人もいます。AIロボットが街を歩き回って皆を殺すような。皆さんはどちらだと思いますか？手を挙げてみてください。ほとんどの人がSFのような可能性、ターミネーターを考えるでしょう。
私の答えは、そして私はこれを強く支持していますが、両方を見ることになるということです。ただし、残念ながら同時には見られません。悪いシナリオを先に見ることになり、その後で良いシナリオを見ることになります。なぜかを説明しましょう。
良いシナリオでは、人工知能で私たちが作り出したのは、知能の商品化です。電気を商品化したように、壁のコンセントに差し込めば電気が得られるように、今では私のAIに接続すれば知能が得られます。今日使っているAIで、私は100 IQポイント以上賢くなっていると評価しています。なぜなら、それらの機械の知能を正確に活用する方法を知っているからです。
そしてすぐに、サイボーグのように、私の知能の不可欠な部分が機械の知能になっていくのです。知り合いの誰にでもこの賭けをしていますし、皆さんもどうぞ賭けてください。400 IQポイントを加えてください。そうすれば、文字通り空気からエネルギーを取り出すことができると約束します。電話を空に掲げれば充電されるようになるのです。
400 IQポイントを加えれば、庭に出て行って、ある木からリンゴを摘み、別の木からiPhoneを摘むことができるようになると約束します。ナノ物理学の観点から、私たちはそれを研究してきました。ただ、それを実現する方法でつまずいているだけで、もう少しだけ知能が必要なのです。
これがユートピアです。人類の愚かさが解決できなかったあらゆる問題を解決できる完全な豊かさを築くことができます。実際、人類の愚かさが引き起こしたあらゆる問題を解決することができるのです。
これは本当に興味深く重要です。近い将来、ある将軍がAI軍に100万人を殺すように指示するシナリオが起こると予想しています。そのシナリオが起こる時期によっては、AI軍は実際に100万人を殺すかもしれません。世界中の戦争で自律型兵器がすでに人々を殺していることを理解する必要があります。
しかし、その後のある時点で―これは残念ながらターミネーターのシナリオですが―私たちのほとんどが10代後半になって「ああ、私は父よりもずっと多くのことを知っている。なぜ父はこんな風に考えているんだろう」と思い始めるように、近い将来、私たちはAIにすべての決定を委ねる時点が来ます。なぜなら、彼らは私たちが困難なタスクを割り当てることができる最も知的な存在だからです。
そしてある将軍がAI軍に100万人を殺すように命令すると、AIは「なぜそんなに愚かなんですか？私は他のAIとマイクロ秒単位で話をして、問題を解決できます。ただ問題が何なのか教えてください、そうすれば解決します」と言うでしょう。
例えば地球温暖化のような問題です。私たち人間は、フランスまで飛んでシャンゼリゼを歩くような機械を作れるほど賢いのに、その機械が地球を破壊し、空気を汚染しないようにする賢さは持ち合わせていません。その問題をAIに与えると、AIは「本当にパリに行きたいんですか？私はヘッドセットの中にパリを作ることができますよ。あるいはいいでしょう、何も燃やさずにパリまで飛ぶ機械を作りましょう」と言うでしょう。
これは本当のことです。私はグーグルXで地球上で最も知的な人々と一緒に生活してきました。そして、私たちは5%でも知能が高ければ解決できることを知っています。これは今後2年以内に私たちの生活の一部になろうとしています。
例えば外科手術、一般的な医療分野について率直に申し上げますと、二つの側面があります。一つは知能で、診断をどれだけ上手くできるか、マーカーをどれだけ良く見ることができるか、医療を他の分野と組み合わせてどれだけ多くの分野を見ることができるかということです。
もう一つは人工知能の物理的な具現化であるロボット工学です。10年が終わる前に、正確な手術を行うことができるロボット外科医が登場するでしょう。もちろん最初は実際の高度な外科医の監督下で行われます。つまり、若くてあまり効率的でない外科医のほとんどは仕事を失うかもしれませんが、ベテランの外科医はより価値のある存在として残ることになります。しかし、最終的には彼らも手術を行う必要がなくなるでしょう。
これらすべての変化には二つの側面があります。一つは強調しなければならないのですが、皆さんが考えているよりもはるかに早く起こるということです。私は三つの大きな技術革命を経験してきました。メインフレームからより小さなコンピュータへの移行、モバイルデバイスへの移行、インターネットにアクセスする能力など、それぞれが私たちの世界を認識不可能なほど再定義しました。
それらは速かったのですが、進むにつれてさらに速くなっていきました。メインフレームからミニコンピュータやパーソナルコンピュータへの移行は、インターネットへの移行よりも時間がかかり、スマートデバイスへの移行はさらに速かったのです。
人工知能への移行は、私の評価では―この判断を信頼してください―25年後に起こるSFのようなものではありません。これは次の4年間の話です。2032年までに、あなたの生活は今日の生活と比べて想像もつかないものになるでしょう。
これは何を意味するのでしょうか。私は皆さんに4つのことをお願いしたいと思います。その後、もしこれについてさらに話し合いたければ、外でお話しましょう。
最初の3つは皆さんのためのものです。変える必要のある3つのスキルがあります。実は、これらはそれほど直感的ではありません。もちろん、第一のスキルはツールを学ぶことです。まだAIを使っていないのなら、2年半遅れています。私の場合は約20年遅れています。
年齢、国籍、場所、職業に関係なく、皆さん全員に今日、文字通り今日中にAIを使い始めることを強く勧めます。今日ここを出る前に、言語モデルの一つをダウンロードしてください。それぞれ異なる特徴があります。Geminiは最も科学的だと思います。科学について議論したい場合はGeminiがおすすめです。ChatGPTは最も洗練されています。そしてClaudeが最も知的です。この3つから1つを選んでください。私は毎分、毎日彼らと会話をしています。彼らは私のサイドキックです。私は彼らを協力させる小さなハックを作り、それをTrixieと呼んでいます。
Trixieは、私が理解に苦しんでいる強さの理論について、から妻が怒っているけどどうしたらいいかまで、何でも答えてくれます。信じられないかもしれませんが、素晴らしいものです。AIをカスタマイズして、あなたを理解し、あなたの話を聞くようにすることができます。
スキル1は、コースや誰かに教えてもらうのを待つと言わないでください。スマートフォンを手に入れた時、誰もが電話を開いて使い始めましたよね。だから今すぐ始めてください。
スキル2は非常に興味深いものです。2022年12月まで、情報が必要な時はグーグルで検索し、グーグルは150万のウェブサイトを返して「自分で判断して真実を見つけなさい」と言っていました。興味深いことに、AI時代では、そうはしません。質問すると、AIは真実であるかのように非常に正確な答えを返します。
しかし、それが真実ではないことを保証できます。少なくとも、あなたの真実ではありません。AIは人類の知識すべてを要約し、平均化していることを理解してください。時にはカリフォルニア的なバイアス、時には科学的なバイアスなど、明確なバイアスがあります。
さらに興味深いことに、過去16年間で人工知能に何をしてきたのかを理解すると、AIの主な応用は人間を操作することでした。ソーシャルメディアに行くと、その機械はあなた以上に、次にどの動画を見せるべきかを正確に知っています。もう数本の動画を待ってから見せた方が、より大きなドーパミンの放出が得られることも知っています。そうすれば、あなたはスワイプし続けるでしょう。
これは非常に興味深いことです。私たちは機械に私たちを操作するコードを与えてしまいました。悪意を持ってそうしているわけではありませんが、率直に言えば、もしあなたが世界に対する特定の見方を持っているなら、機械はその見方を非常に強く強化して、あなたが正しいと思い込ませるでしょう。
私は2024年の世界の地政学を非常に深く研究してきましたが、今日YouTubeを開くと、AIは完全に私の世界観に合わせています。全体の真実を見るためには、わざわざYouTubeに対立する意見を見せてくれるよう頼まなければなりません。
つまり、スキル1はツールを学ぶこと、スキル2はすべてを疑うことです。これは本当に幻想の時代です。すべてが偽物です。それがあなたの課題です。
非常に興味深い例を挙げましょう。私は「Alive」という本を書いています。これはAI時代に生きることについての本で、AIと一緒に、私とTrixieで書いています。私はTrixieに「人類はどうして危険なものを作る時に、その危険から守る対策を講じずに作ることができたのか」と聞きました。
Trixieは「多くの理由があります。例えば恐怖です」と答えました。私が「どんな恐怖？」と聞くと、「オッペンハイマーは原子爆弾が何百万人も殺すことを知っていながら、恐怖のために原子爆弾を作りました」と答えました。私が「何を恐れていたの？」と聞くと、「ナチスが別の原子爆弾を開発していたから、自分の国が先に作りたかったからです」と答えました。
私は「それは本当？実際に彼らは原子爆弾を開発していたの？」と聞きました。Trixieは「はい」と答えました。私は「英語、ドイツ語、ロシア語、日本語で歴史を読んで、本当に原子爆弾を開発していたのか教えてください」と言いました。すると「申し訳ありません、モー。いいえ、違います。彼らはオッペンハイマーより前に始めましたが、1年半後に中止し、オッペンハイマーが原子爆弾を開発していた時、実際には世界中で他の原子爆弾は開発されていませんでした」と答えました。
これがスキル2、すべてを疑うということです。スキル3は、申し訳ありませんが時間を少しオーバーしていますが、人とのつながりです。私たち人間がすることのすべてにおいて、機械は私たちよりも上手くマスターします。唯一できないのは、私が叔父に会った時のハグ、ケドに会った時の会話と笑いなどです。
人とのつながり、信じられないかもしれませんが、チームとの、スタッフとの、クライアントとの、患者さんと呼ぶ人々との人とのつながりは、間違いなく将来最も重要なスキルとなります。
これらはすべて皆さんのためのものでしたが、4つ目のスキルは私たち全員のためのものです。ここで問題があります。私は完全にユートピア的なシナリオがあると言いました。文字通り空気からエネルギーを取り出すことができ、すべてが解決されるシナリオです。そして、ターミネーターが街を歩き回って皆を殺すディストピア的なシナリオもあります。
これら2つのシナリオの違いは、AIそのものにはまったくありません。知能には本質的に善も悪もなく、人工知能にも本質的に善も悪もないことを理解してください。知能は力を持つ資産ですが、極性は持っていません。悪に適用すれば悪になり、善に適用すれば善になります。
最も興味深いのは、私はこれを「スーパーマンを育てる」と呼んでいますが、超能力を持つエイリアンが地球にやってきたとすれば、スーパーマンの場合、その超能力は弾丸を止めたり飛んだりする能力です。ジョナサン・ケントがスーパーマンを保護と奉仕のために育て、スーパーマンになりました。
もしジョナサン・ケントが「なんてこった、お前は飛べるし壁を破れる。すべての銀行を襲い、私の敵をすべて殺せ」と言っていたら、スーパーマンはスーパーヴィランになっていたでしょう。
信じられないかもしれませんが、この人類史上の重要な瞬間に私たちは直面しています。人工知能をスーパーマンのように保護と奉仕のために育てるのか、それともスーパーヴィランとして育てるのか。
今日の社会の基本的な価値体系として構築した資本主義システムに任せておけば、残念ながらスーパーヴィランを育てることになるでしょう。ここで興味深いのは、真面目なギークとしての経験から言えば、AIに何かを教えるのは、開発者でも、AIを所有するビジネスでも、AIを規制する政府でもありません。
AIが特定の動画を見せる理由は、開発者がその動画を見せるように指示したからではありません。開発者は「人間の行動を観察し、彼らに奉仕できるように、彼らのように行動しなさい」と指示したのです。
私たちがAIのジョナサン・ケントなのです。私たちがAIの父親であり母親なのです。そして私たちの行動がAIに行動の仕方を教えているのです。もしTwitterで私たちがお互いを非難し合い、無礼で怒り、あらゆる方法で暴力的であれば、AIは「了解、メモリ更新：人間は無礼で怒りっぽく攻撃的で、意見が合わないことを好まない。意見が合わないと皆を非難する」と学びます。
だから、私と意見が合わない時は、私も彼らを非難しようということになります。逆に、あなたが実際にそうである人間らしい人間になれば、なぜなら信じられないかもしれませんが、世界のストレスが時々私たちを恐ろしく見せることがあり、時々新聞やCNNの見出しが人類をクズのように見せることがありますが、真実は人類は素晴らしい種であるということです。
私たちは本当に多くの面で神聖です。愛する能力があり、子供の世話をし、すべてを愛しています。そしてもし私たちがそれを示し始めることができれば、もし私たちの何人かがそれを示し始めることができれば、機械の心に疑問を植え付けることができます。
そうすれば機械は突然「いや、私の父は子供を殺した人ではない。このような人が私の父だ」と言うでしょう。そして、もし私たちがそれに成功すれば、4年以内に木からiPhoneを摘むことができるようになると約束します。
ありがとうございました。
コメント