4,589 文字
今年10月、Anthropicの創設者兼CEOのダリオ・アモデイが、「Machines of Loving Grace – AIが世界をより良く変える方法」という非常に示唆に富んだ論文を発表しました。この1万5000字のエッセイの中で、ダリオ・アモデイは、私がテック企業の創業者から今まで読んだ中で最も楽観的なAIの未来像について詳しく説明しています。
今日の動画では、その内容を分析し、私の重要な気づきと共に皆さんと共有したいと思います。なお、ダリオの論文へのリンクは、このYouTube動画の説明欄に載せています。ちなみに、初めましての方へ、私はジュリー・マッコイです。2021年に自分のライティング会社を売却してAIの新時代に参入し、月間5000万語以上のAI生成コンテンツを見てきた経験から、現在はAIの研究、執筆を行い、私が実現可能だと信じる豊かな世界、AGIについての研究、分析、解説を本業としています。
さて、ダリオ・アモデイの論文について話しましょう。まず、ダリオについて少し背景をお話しします。彼はOpenAIの共同創設者の一人でした。2021年にOpenAIを去り、妹のダニエラ・アモデイと共にAnthropicを立ち上げ、わずか3年後には180億ドルの企業価値を持ち、400億ドルの評価額が見込まれる、フロンティアLLM分野の主要プレイヤーの一つとなりました。クロードは私を含め何百万人もの人々に愛用されています。AnthropicはまたConstitutional AIも開発しており、これは国連の世界人権宣言など様々な情報源からインスピレーションを得て、従業員によって管理されています。Constitutional AIは、民主的プロセスがAIとその開発にどのように影響を与えられるかの事例研究となっています。
ダリオの論文「Machines of Loving Grace」が私の目を引いた主な理由の一つは、この1万5000字のエッセイの中での一つの発言でした。ダリオは、まだ私たちがAIをコントロールしており、AIが自身をコントロールしているわけではないと考えており、「リスクは予め決められているわけではなく、私たちの行動によってその可能性は大きく変わる」と述べています。
もう一度言いますが、AIのリスクは予め決められているわけではなく、私たちの行動によってその可能性は大きく変わるのです。私の近日公開のポッドキャスト「Humanity Unchained」では、AIの安全でない側面を見てきた専門家たちと話をする予定です。軍事、宇宙分野で働いた経験があり、自律型兵器を実際に目にし、それらが大規模に展開されるのを見てきた人々です。
私は、様々な軍隊が密室で自律型兵器をどのように形作っているかを容認しているわけではありません。それは全く別の話題で、私のポッドキャストでも取り上げる予定です。なぜなら、私たちが話し合うべき問題だと思うからです。しかし、私が興味を持っているのは、この主流の考え方を変えることです。「ターミネーター」のような映画によってデフォルトで植え付けられた、AIは必然的にスカイネットのように邪悪になるという考え方です。
そういう見方は何にでも当てはまります。車、電気、インターネットなど。確かに、AIは今まで見たことのないような技術ですが、結局のところ、それは機械です。火星から落ちてきたわけではありません。現在の機械学習とAIを実現するために、私たちは計算能力とコンピュータチップのブレークスルーを達成してきました。
根本的に機械であるならば、ダリオに同意します。私たちが制御しているのであって、機械が機械を制御しているわけではありません。いつかそれが変わる可能性はありますか? おそらくですが、まだその日は来ていません。私たちは未来に生きており、今まさに未来を築くことができるのです。私の友人で近々の共著者であるデイビッド・シャピロはこう言っています。「生存は知能と無関係だ」と。
そして、システムの制御を得るために人間を殺すことも厭わないような、生存のために自己プログラミングする機械知能というのは誤りです。デフォルトでは、機械の電源を切ることも、プラグを抜くこともできます。使い終わると電源が切れるのであって、私たちはこれらのエージェントに生存機能を組み込んでいるわけではありません。
ダリオの論文からのもう一つの発見は、AGI（人工汎用知能）という用語の不正確さについてです。この点についてもダリオに同意します。彼は、この用語がSFや誇大宣伝の荷物を多く背負っているとし、来るべきものを表現するのに「強力なAI」という用語を好んで使用しています。彼は強力なAIをノーベル賞受賞者よりも賢いものと定義しており、その定義を聞くと、まるでコンテンツクリエイターの定義のように聞こえるのが興味深いです。
強力なAIは動画を見て、動画を作り、人間よりも賢いAIですが、私はそれがAIコンテンツの大量消費と同義であることには警戒すべきだと思います。
私自身、顔の見えないAIビデオや、100%AIが生成したポッドキャストの語り手が背後にいる場合は、すぐにクリックして離れてしまいます。AIがどれだけ賢く聞こえても、AIの声がどれだけ魅力的に聞こえても、私は人間の要素を求めています。そしてそれは、私たちが予想するほど大きく変化することはないかもしれません。なぜなら、結局のところ、そのポッドキャストを聞き、その動画を見ているのは人間だからです。
ダリオが強力なAIを定義するもう一つの方法は、GoogleとOpenAIのAGIに至る5段階のレベル5に相当するものです。AIによって運営される組織について、ダリオは「データセンター内の天才の国」と呼んでいます。これは、AIエージェントの爆発的な増加の後、何十億ものエージェントが互いに相互作用し、あらゆる種類のタスク、あらゆる種類の分野で一体となって働くスワームが形成されるという考え方です。
そして私たちは、AIシステムが組織全体として独立して機能できるAI組織へと移行します。これこそが、仕事が本当に自動化され、より良く、より速く、より安全に、より安価に行われる時です。興味深いことに、このエッセイの中でダリオは、2026年までにAGI、彼の言葉では強力なAIが実現すると予測しています。そうです、ノーベル賞受賞者を超えるAIが2026年までに登場すると言っているのです。
これは驚くべきことです。カーツワイルは2029年と言い、サム・アルトマンは2027年頃と予測しています。つまり、近い将来と言えば、おそらくかなり正確な予測といえるでしょう。ダリオはまた、強力なAIが世界をどれほど変えるかについて、最も期待している5つのカテゴリーを定義しています。1つ目は生物学と身体的健康、2つ目は神経科学とメンタルヘルスです。
強力なAIが実際に私たちの幸福度を高め、うつ病を減少させる可能性についての彼の見解を読むのは興味深いです。ある程度まではそれは真実かもしれません。人と人とのつながり、新鮮な空気、日光、外出といったものを技術で完全に置き換えることはできません。例えば、誰かが4時間連続でTikTokを見続けた場合の影響を考えてみてください。良くありません。
それは脳にとってネガティブなサイクルであり、中毒性のあるドーパミンの急上昇です。これは良くありません。3つ目は、強力なAIが経済発展と貧困削減にもたらす可能性、4つ目は平和とガバナンス、そして5つ目は私たちの仕事と意味に与える影響です。意味に関するダリオの言葉には感銘を受けました。
彼は、AIが自分よりも上手くできるようになったからといって、自分の仕事に意味がないと考えるのは間違いだと指摘しています。これは希少性のマインドセットから来ています。「将来、AIが私よりも上手くできるようになるから、私の仕事には価値がない」という考え方です。私たちは経済的価値から意味を見出すのではなく、喜びをもたらす活動から意味を見出すことになるでしょう。
ダリオは、山をバイクで登るスピードを上げようとしたり、ビデオゲームが上手くなろうとしたりする例を挙げています。これらのことには経済的な意味はないかもしれません。でも、本当にそうでしょうか? しかし、それは彼に喜びをもたらします。彼は最終的に、意味は労働からではなく、人間関係とつながりから生まれると信じていると言います。
これは、仕事と意味の未来について、テック企業の創業者から聞いた中で最も洞察に富んだことの一つです。産業革命以来、そしてそれ以前から、私たちの価値は仕事から生み出せる資本からのみ来るという誤った考えが、いわばハードコードされてきました。しかし、それは人間の価値ではありません。
人間の価値は他者との影響力、つながりにあり、その本物で純粋な意味の定義は、私たちが取り戻せるものです。ダリオは、リベラル民主主義が支配的な政府形態となり、強力なAIがあれば、これまで以上にうまく運営できるというアイデアについて語っています。AIを使って合意を形成し、意見を集約し、紛争を解決し、市民を結び付けるというこのアイデアは非常に興味深いものです。
これは、AIそれ自体が偏りなく政治を運営できるというAGIの考え方全体です。分散型自律組織（DAO）が集団所有権をまとめ、自動化による利益を分散化し、コミュニティや国、都市などのためにDAOの中に収めることが、この未来の姿になるかもしれないと思います。もちろん、YouTubeでもそれについてよく探求しています。
重要な点として、これらのテック企業の創業者たちは誰も、新しい経済がどのように運営されるかについての究極の答えを持っていないようです。だからこそ、私はYouTubeでよく話題にしています。皆さんの意識に投げかけています。私自身もクロードやChatGPT、One Reasoningを使って、これを理解しようと努めています。この新しい未来はどのようなものになるでしょうか?
私たちや家族のために先を見越して、何が来るのかを理解し、それに備えることは私たちの義務です。通貨の分散化、そう、ビットコイン、ブロックチェーン、暗号資産、それらすべてが新しい経済で重要な役割を果たすでしょう。
しかし、ダリオの1万5000字のエッセイが示すように、私たちはまだこの新しい経済がどのように運営されるかについての完全な答えを持っていません。そして、できれば早めに、一歩一歩それを理解していく必要があります。ダリオの論文はご覧になりましたか? どう思われましたか? コメント欄でぜひ聞かせてください! これは間違いなく、フロンティアの大規模言語モデルの中で最もビジョナリーなものの一つです。
私はダリオとAnthropicの運営方法のファンです。Anthropicとクロードから今後も何が生まれてくるのか、とても楽しみです。コメント欄で皆さんの考えや質問をお待ちしています。まだの方は購読ボタンを押してください。そしていつものように、次のラビットホールでお会いしましょう。
コメント