28,397 文字
https://darioamodei.com/machines-of-loving-grace
Anthropic社のCEOであるダリオ・アモードが最近、大きなエッセイを発表しはりました。タイトルは「愛の機械たち – AIが世界をより良くする方法」やねん。
このエッセイでは基本的に、AGIやスーパーインテリジェンスが今後100年でどのように世界を変えるかについて論じてはるんやけど、面白いのは、他の人らが注目してるようなリスクには焦点を当ててへんねん。もちろんAnthropicも安全性については重視してるんやけどな。
このエッセイは純粋に、スーパーインテリジェントAIとAGIをうまく扱えた場合に、未来がどれだけ良くなるかを見てるんや。
この動画では、エッセイの内容を全部詳しく見ていくで。2030年代、2040年代、そしてその先の未来予測も含めてな。
エッセイの冒頭で彼はこう言うてはんねん。「このエッセイでは、もしすべてがうまくいった場合に、強力なAIによってどんな良いことが起こり得るかをざっと描いてみました。」
もちろん、トップの研究所の人間でさえ、誰も未来を確実に正確には予測できへんし、強力なAIの影響は過去の技術革新よりもさらに予測不可能やろうな。
だからこのエッセイの内容は全部推測にならざるを得へんのやけど、彼はこう言うてはる:「少なくとも教養のある、役に立つ推測を目指しています。たとえ細かい部分のほとんどが間違っていたとしても、これから起こることの雰囲気をつかめるような推測をね。」
そして彼はこうも言うてはる:「具体的な細部をたくさん含めています。なぜかというと、具体的なビジョンの方が、抽象的で慎重すぎる議論よりも、議論を前に進めるのに役立つと思うからです。」
ここで彼は、具体的に何が起こるかについて議論してはるんやけど、このビデオでは5つの重要なポイントに分けて説明していくで。
まず、AIの応用可能性のリストは非常に長くて、このエッセイでは触れられへんものもたくさんあるらしいねん。ロボット工学、製造業、エネルギー、その他たくさんの分野が含まれるんやけど、彼が注目してるのは、人間の生活の質を直接的に改善する可能性が最も高いと思われる少数の分野やねん。
彼が最も期待してる5つのカテゴリーがあって、それは:
1.生物学と身体的健康
2.神経科学とメンタルヘルス
3.経済発展と貧困
4.平和とガバナンス
5.仕事と意味
この5つのカテゴリーをこの動画で取り上げていくで。
さて、このフレームワークの基本的な前提について説明するで。これは、AIがますます強力になっていくという前提に基づいてるんやけど、彼はこう言うてはる:
「このエッセイをより正確で具体的なものにするために、強力なAIとは何を意味するのかを明確にしておくのが役立つでしょう。」
例えば、5年から10年のカウントダウンが始まるしきい値や、AIが存在する時の影響を考えるためのフレームワークを示すことが大事やねん。
Anthropic社のCEO、Claude 3.5 Sonnetを開発した会社のCEOであるダリオ・アモードは、強力なAIがどのようなものになるか、AGIという用語が好きじゃないこと、それがいつ到来するかについて、こう言うてはる:
「これ自体が大きなトピックで、公に議論してきましたし、別のエッセイを書くこともできるでしょう。いつかはそうするつもりです。」
もちろん、強力なAIがすぐに構築されるという考えに懐疑的な人もおるし、そもそも構築されるかどうかを疑問視する人もおるんやけど、ここで彼が最近言うた重要なことがあるねん:
「2026年には早くも実現する可能性があると思います。もちろん、もっと時間がかかる可能性もありますが。」
このエッセイの目的のために、彼はこれらの問題は脇に置いて、比較的近い将来に実現すると仮定してるんや。
基本的に、彼が言うてるのは、あなたの人生に直接的に良い影響を与え始める強力なAIが、早ければ2026年にも登場する可能性があるってことやねん。
私がこの動画を録画して公開してる日付は2024年10月12日やから、それはたった2年後ってことになるねん。それほど長くないと思わへん？
彼は、神レベルのAIではないかもしれへんけど、強力なAIがかなり近い将来にやってくると言うてはるんや。そして、その後の5年から10年に焦点を当ててるんやけど、今から彼は、そのようなシステムがどのようなものになるか、どんな能力を持つか、どのように相互作用するかについて説明してくれはるで。もちろん、これについては意見の相違の余地があるけどな。
彼は「強力なAI」について、こう考えてはるねん:
「今日のLLMに似たAIモデルを想像していますが、異なるアーキテクチャに基づいているかもしれませんし、いくつかの相互作用するモデルを含むかもしれません。また、異なる方法で訓練されているかもしれません。」
そして、以下の特性を持つと考えてはるんや:
「純粋な知能という点では、つまりモデルがどれだけ賢いかという点では、最も関連のある分野 – 生物学、プログラミング、数学、工学、文章作成など – でノーベル賞受賞者より賢いのです。」
これは、未解決の数学の定理を証明したり、極めて優れた小説を書いたり、難しいコードベースを抽象的に書いたりできるってことやねん。
正直に言うて、これはめちゃくちゃすごいことやと思うわ。2026年には、純粋な知能の面で、最も関連のある分野でノーベル賞受賞者より賢いAIが登場する可能性があるって言うてはるんやから。それはもう、かなりクレイジーやと思うわ。
未解決の数学の定理を証明できるAIってのは、その影響力は計り知れへんよな。後で詳しく見ていくけど、とにかくこれはめちゃくちゃすごいことやと思うわ。
ちなみに、これが2026年に起こらへんかもしれへんけど、将来的にはこういうAIモデルが登場する可能性はあるってことは言うておきたいな。でも、こういった未来の話をする時のタイムラインを理解しておくのは大事やと思うわ。
彼はさらにこう言うてはるねん:
「単に賢いものと会話するだけでなく、人間がバーチャルに利用できるすべてのインターフェースを持っています。テキスト、音声、ビデオ、キーボード操作、そしてもちろんインターネットアクセスも含まれます。」
「このインターフェースを通じて可能なあらゆるアクション、コミュニケーション、リモート操作を行うことができます。インターネット上でのアクション、人間への指示や人間からの指示の受け取り、材料の注文、実験の指示、ビデオの視聴、ビデオの作成などです。」
「これらのタスクをすべて、世界で最も有能な人間を上回るスキルで行います。」
もう一度言うけど、これはめちゃくちゃすごいことやと思うわ。世界で最も有能な人間を上回るスキルでこれらのタスクを行うAIが登場するってことの意味を考えてみてほしいねん。
さらに彼はこう言うてはる:
「単に受動的に質問に答えるだけでなく、何時間も、何日も、あるいは何週間もかかるタスクを与えられ、賢い従業員のように自律的にそのタスクを遂行します。必要に応じて説明を求めながらね。」
ここで我々は、エージェント的な振る舞いについて話してるんやけど、2026年以降、これらのモデルはタスクを実行し、そしてこれが多くの人が理解してへんかもしれへんことなんやけど、これらのモデルの中には、ノーベル賞受賞者よりも小さいものもあるかもしれへんけど、これは人間がやってることに即座に応答できるってわけじゃないねん。
なぜかというと、時間という物理的な制限があるからや。物理的な世界は当然、物理法則という物理的な制約に縛られてるわけやから、たとえ本当に賢いAIがあったとしても、物事は一瞬では起こらへんのや。
some人が思うかもしれへんけど、タスクによっては数日や数週間かかることもあるんや。特定の実験が行われ、データがシステムにフィードバックされる必要があるからな。
彼はこうも言うてはる:
「コンピューター画面以外の物理的な体現はありませんが、コンピューターを通じて既存の物理的なツール、ロボット、実験装置を制御することができます。理論的には、自分で使用するロボットや機器を設計することさえできるでしょう。」
これはもう信じられへんくらいすごいことやと思うわ。AIが自分で使うロボットを設計するなんて想像してみてくれ。その影響力はもう凄まじいものやと思うわ。
そして彼はこう続けてはる:
「モデルの訓練に使用されたリソースは、このモデルの何百万ものインスタンスを実行するために再利用できます。2077年までに予測されるクラスターサイズに一致し、モデルが人間の速度の約10倍から100倍の速度で情報を吸収し行動を生成できる場合、…」
もちろん、これは私が前に言うたように、物理的な世界の反応時間やソフトウェアが相互作用する速度によって制限される可能性があるねん。
これはもうめちゃくちゃすごいことやと思うわ。そして私が思うに、本当にクレイジーなのは、自律型エージェントがどのように働くかを実際に見始めた時、ほとんどの人が頭で理解できへん最大の心の変革になるんちゃうかな。
なぜかというと、今あなたは私がページを動かしてるのを見てはるやろ？物事はめちゃくちゃ奇妙になるで。私がページを動かしてるのを見てはるけど、AIモデルは、インターネットが機能してて、コンピューターが遅くなくて、ソフトウェアの制限が維持されてる限り、すべての単語をハイライトし、一瞬で要約することができるんや。
もちろん、彼も言うてるように物理的な制限はあるけど、これは人間の速度の10倍になるんや。時には人間は疲れたり、気が散ったりするけど、AIは1つの目標、1つの焦点を持って、単一の問題に対してそれほど速く作業することを想像してみてくれ。それがどれだけ速くなるか想像できるやろ？
そして、ウェブサイトやサービスの中には、AIエージェントに対応したものもあれば、まったく対応してへんものもあると思うわ。なぜかというと、すでに存在するボットを考えてみてほしいねん。例えば、何かを買おうとする時に、商品が完全に売り切れてるのを見ることがあるやろ。それはボットが瞬時に買ったり売ったりできるからなんや。
でも、本当の知性、本当の問題解決能力を持ち、人類に実際に利益をもたらす目標に向かって前進できるボットのことを考え始めると、なぜ物事が絶対に信じられへんくらいすごくなるのかが分かり始めるんちゃうかな。
そしてもちろん、このAIの何百万ものインスタンスが同じことをしてる時、それは絶対にクレイジーなことになるで。
彼はこう言うてはる:
「これらの何百万のコピーは、無関係なタスクに対して独立して行動できるし、必要であれば、人間が協力するのと同じように、すべてが一緒に働くこともできます。おそらく、特定のタスクに特化した異なるサブポピュレーションもあるでしょう。」
これが彼の言うてる2026年に登場するかもしれへんモデルの姿やねん。例えば、01モデルは推論者やけど、その中でも数学に特化したモデル、AI研究の推論に特化したモデル、実験の実施に特化したモデルなどがあるかもしれへんって言うてはるんや。
これは基本的に、OpenAIが目標としてたことと同じやね。つまり、完全にAIで運営される組織を作ることや。
彼はこう言うてはる:
「これを『データセンターの天才の国』と要約できるでしょう。明らかに、そのような存在は非常に難しい問題を非常に速く解決できるでしょう。」
これはめちゃくちゃクレイジーやけど、彼はこう続けてはる:
「しかし、どれだけ速く解決できるかを正確に把握するのは簡単ではありません。2つの極端な立場があると思いますが、どちらも間違っていると思います。」
「まず、世界が数秒単位で瞬時に変わると考えるかもしれません。シンギュラリティのようにね。」
シンギュラリティってのは、AIが自分自身を改良し続けて、最終的に神のように賢くなるって考え方やねん。
でも彼はこの考え方の問題点を指摘してはる:
「しかし、ハードウェアの構築や生物学的実験の実施など、実際の物理的、実用的な限界があります。新しい天才の国でさえ、これらの限界にぶつかるでしょう。」
「知能は強力かもしれませんが、魔法の粉ではありません。例えば、がんを解決したとしても、薬を製造し、配布するための工場を立ち上げるのに時間がかかるでしょう。」
つまり、物理法則に基づく物理的な制限があるってことやねん。光の速度が速度の限界やし、急速な技術的進歩があったとしても、SF小説で描かれるような1日ですべてが起こるってことはあり得へんのや。
彼はこうも言うてはる:
「第二に、技術の進歩は飽和してるか、現実世界のデータや社会的要因によって制限されてると考えるかもしれません。そして、人間よりも優れた知能がほとんど何も付け加えないと。」
「これも逆の意味で不適切だと思います。本当に賢い人々の大規模なグループが劇的に進歩を加速させる科学的または社会的問題が何百、何千とあるからです。特に、分析だけでなく現実世界で物事を実現できる場合はね。」
「我々が想定している天才の国は、人間のチームに指示されたり、支援したりすることも含まれます。」
「真実は、これら2つの極端な見方の間の複雑な混合物であり、タスクや分野によって異なり、細部は非常に微妙だと思います。これらの細部を生産的に考えるための新しいフレームワークが必要だと信じています。」
彼はここで、経済学者がよく話す生産要素について触れてはるねん。労働、土地、資本などやね。そして、「労働、土地、資本に対する限界収益」という言葉は、ある状況で特定の要素が制限要因になるかもしれへんし、ならへんかもしれへんという考え方を表してるんや。
例えば、空軍は飛行機とパイロットの両方が必要やけど、飛行機が足りへん状況でパイロットをもっと雇っても、あまり役に立たへんよね。
彼はこう言うてはる:
「AI時代には、知能に対する限界収益について話し合うべきだと思います。そして、知能を補完する他の要因は何か、知能が非常に高くなった時にどの要因が制限要因になるのかを理解しようとすべきです。」
「我々はこのような考え方に慣れていません。このタスクにおいて、賢くあることはどれだけ役立つのか、そしてどのようなタイムスケールでそうなのかを問う必要があります。」
「しかし、これは非常に強力なAIのある世界を概念化する正しい方法のように思えます。」
基本的に彼が言うてるのは、飛行機の例が本当に良い例やってことやねん。ある国が戦争に行きたいけど、飛行機が3機しかなくて、100万人のパイロットを訓練したとしても、世界最高のファイターパイロットがおっても、飛行機が3機しかなかったら意味がないよね。
つまり、無制限の天才、あるいはデータセンターの物理的制限のために完全に無制限ではないかもしれへんけど、何千万もの本当に賢いエージェントを持つようになった時、実際の物理的なボトルネックは何なのか、それを解決できへんものは何なのかって問題やねん。
これは私が本当に考えもしなかった重要な質問やと思うわ。
彼はここで、知能を制限する要因について説明してはるんや:
「知的なエリアは、物事を成し遂げるため、また学ぶためにも、世界と相互作用する必要があります。しかし、世界は一定の速度でしか動きません。細胞や動物は一定の速度で動くので、それらに対する実験には一定の時間がかかります。これは削減できない可能性があります。」
「ハードウェア、材料科学、人々とのコミュニケーションを含む何か、そして既存のソフトウェアインフラストラクチャーについても同じことが言えます。」
「さらに、科学では多くの場合、一連の実験が必要です。前の実験から学び、それに基づいて次の実験を行います。」
「これらすべてのことは、例えばがんの治療法の開発のような大きなプロジェクトを完了するスピードには、知能が上がり続けてもこれ以上減らせない最低限の時間があるということを意味しています。」
基本的に彼が言うてるのは、未来では確かに物事は速くなるけど、システムには物事が動く一定の速度があって、それ以上速くすることはできへんってことやねん。
つまり、これらのことが起こるスピードについて考える時、物事は起こるけど、あなたが思うほど速くは起こらへんし、あなたが思うほど遅くも起こらへん。そして、あなたが思うよりも速く起こるってことを理解せなあかんのや。
だから彼は「かなりバランスの取れたものになるでしょう」って言うてはるんやね。
もちろん、彼はデータの必要性についても触れてはるで:
「時には生のデータが不足していて、その不足を補うために知能をさらに高めても役に立たないことがあります。」
「今日の素粒子物理学者は非常に独創的で、幅広い理論を開発してきました。しかし、それらの中から選択するためのデータが不足しています。粒子加速器のデータが非常に限られているからです。」
「彼らが超知能を持っていたとしても、おそらくより大きな加速器の建設を加速させる以外に、劇的に良いことができるかどうかは不明です。」
これはめちゃくちゃクレイジーな指摘やと思うわ。粒子加速器とそこから得られるデータの種類について考えてみると、単純にデータが足りへんのやね。
例えば、天才たちが最も信じられへんような理論を開発したとしよう。ASIが開発されて、100万の粒子加速器の理論をテストする必要があったとしても、問題は粒子加速器がめちゃくちゃ高価で、建設に時間がかかるってことやねん。
みんなが自分の理論をテストしようとしてるけど、物理的な制限があって、スロットも限られてる。だから、もっと知能があったとしても、それほど簡単にはいかへんのや。
本当に役立つのは、より大きな加速器の建設を加速させて、より多くのテストを行えるようにすることくらいやねん。
もちろん、本質的な複雑さについても触れてはるで:
「一部のものは本質的に予測不可能で混沌としています。最も強力なAIでさえ、今日の人間やコンピューターよりも実質的に良く予測したり、解きほぐしたりすることはできません。」
「例えば、信じられないほど強力なAIであっても、三体問題のような混沌としたシステムを、今日の人間やコンピューターと比べてわずかに先までしか予測できません。」
これは基本的に、物理学ではほとんど解決できへん問題やねん。ポイントは、純粋な混沌があるってことや。システムがどれだけ知的であっても、宇宙の混沌とした性質のために、一部の分野では少ししか先を行けへんのや。
もちろん、人間に関する制約もあるねん:
「今日、法律を破ったり、人間を傷つけたり、社会を混乱させたりせずにできないことがたくさんあります。整列したAIはそのようなことをしたくないでしょうし、整列していないAIの場合は、また別のリスクの話になります。」
「多くの人間社会の構造は非効率的で、時には積極的に有害ですが、臨床試験に関する法的要件、人々の習慣を変える意欲、政府の行動など、制約を尊重しながら変更するのは難しいです。」
例えば、超知能AIが速い移動手段や家の建て方を考え出したとしても、法的な要件、建築規制、規制機関など、人間によるさまざまな障害があるってことやね。
これらのシステムは本当に遅いんや。なぜかというと、ルールや規制があるからやねん。ルールや規制が必要ないって言うてるわけやないよ。常に必要やけどな。
でも、現実世界でものごとがどう動いてるかを考えると、一部の国ではこういったことに素早く対応するかもしれへんけど、全体的に見ると、人々が何をできるかについての法律やルール、規制があるんや。
例えば、世界的な統治機関があって、特定レベルの核兵器の開発ができへんようになってるとかな。
彼は「技術的には上手く機能するけど、規制や根拠のない恐れによって影響が減じられた進歩の例」として、原子力発電、超音速飛行、そしてエレベーターまで挙げてはるで。これは結構面白い例やと思うわ。
もちろん、物理法則についても触れてはるで:
「破ることのできへん物理法則があります。光速より速く移動することはできません。」
さっき言うたように、光速が限界やねん。正確な数字は覚えてへんけど、それより速く移動することはできへんのや。もしシミュレーション世界に住んでると信じてる人がおるなら、それはゲームのスピードやエンジンのスピードみたいなもんやね。
「チップは、信頼性がなくなる前に、1平方センチメートルあたり一定数以上のトランジスタしか持てません。計算には、消去されるビットあたり一定の最小エネルギーが必要で、これが世界の計算密度を制限しています。」
さらに、短期的には難しい制約が、長期的には知能によってより柔軟になる可能性があるって指摘もしてはるで:
「例えば、知能を使って、生きた動物実験が必要だったものをバーチャルで学べるような新しい実験パラダイムを開発したり、新しいデータを収集するために必要なツールを構築したり（例えば、より大きな粒子加速器）、倫理的な限界の中で人間ベースの制約を回避する方法を見つけたりすることができるかもしれません。」
「例えば、臨床試験システムの改善を支援したり、臨床試験の官僚主義が少ない新しい管轄区域を作るのを手伝ったり、人間の臨床試験をあまり必要としない、あるいはより安価にするように科学自体を改善したりすることができるかもしれません。」
彼はこれらすべてを言うて、こう結論づけてはるんや:
「知能は最初、他の生産要素によって大きく制限されますが、時間とともに知能はますますこれらの他の要素を回避するようになるでしょう。たとえ完全には消えへんとしてもね。宇宙の絶対的な物理法則みたいな一部のものは絶対的で、物理的に変えることはできへんけど、それを回避したり、共存したりすることはできるんや。」
「重要な問題は、それがどのくらいの速さで、どのような順序で起こるかってことやね。」
さて、このフレームワークを念頭に置いて、彼が最初に取り上げてる分野である生物学と健康について見ていくで。
「生物学は、おそらく科学的進歩が人間の生活の質を直接的かつ明確に改善する可能性が最も高い分野やね。過去1世紀で、天然痘のような人類最古の病気がついに征服されたけど、まだ多くの病気が残ってるんや。これらを倒すことは、人道的な大きな成果になるやろう。」
「病気を治すだけやなく、生物学の科学は原理的に、健康な人間の寿命を延ばし、自分たちの生物学的プロセスをより自由に制御し、現在は人間の状態の不変の部分だと考えられてる日常的な問題に対処することで、人間の健康のベースラインの質を改善できるんや。」
ここで彼は、超知能AIがどのように物理的な世界の制限要因と協力できるかについて話してはるねん。
科学的発見の速度を上げるために通常行うことの1つは、実験を行うことやね。これらの実験は特定の方法で行われ、一部の実験には一定の時間がかかるんや。もちろん、臨床試験や人間を対象とした試験があって、特定のものにはFDAの承認が必要やし。
彼はこう言うてはる：
「細胞、動物、さらには化学プロセスに対する実験は、物理的な世界の速度によって制限されてるんや。多くの生物学的プロトコルには、バクテリアや他の細胞を培養したり、単に化学反応が起こるのを待ったりすることが含まれてて、このプロセスは時には数日や数週間かかることがあるんや。明らかにこれを速めることはできへんねん。」
「例えば、動物実験には数ヶ月かかることがあるし、人間を対象とした実験では、長期的な結果を研究するのに何年も、時には何十年もかかることがあるんや。」
「これに関連して、データが不足してることもあるんやけど、量じゃなくて質の問題なんや。関心のある生物学的効果を、同時に起こってる1万のことから分離したり、特定のプロセスに因果的に介入したりする、明確で曖昧さのないデータがいつも不足してるんや。」
これは本当にそうやと思うわ。例えば、今日話題になってることの1つに、今日のタバコは何かって問題があるんや。
昔、1930年代から1950年代にかけて、タバコ会社が医者を広告に使って、タバコが害を及ぼさないことを示そうとしたことがあったんや。Lucky Strikeの広告では、タバコは医学的に喉にいいって主張してたんやで。
言いたいのは、昔は本当に良いと信じてたものが、20年、10年、5年経つうちに、実は良くなかったってことが分かることがあるってことなんや。
これは、超知能AIがあっても、短期間でこれらの理論をテストするのはかなり難しいってことを意味してるんや。つまり、改善のサイクルが繰り返される回数は、我々が思うよりも少し長くなる可能性があるってことやね。
例えば、何かが5年ごとに何が起こるかをテストしたいとして、4回の改善を行いたい場合、20年で4回しか改善できへんのや。5×4=20やからね。これは多くの人が見逃してることやと思うわ。
例えば、昔は砂糖が健康的な物質として宣伝されてたけど、今では非常に悪いものだってことが分かってるよね。がんを助長したり、糖尿病や肌荒れの原因になったりするんや。個人的な食事療法の話はしないけど、ポイントは、今の社会で起こってることの中には、40年から60年後にしか認識されへんものがあるってことなんや。
なぜかというと、一部のことは本当に長い時間をかけて起こるから、今はそれが見えへんのやね。AIが人間をシミュレーションしてそういうことができるって言うてるわけやないよ。ただ、世界の物理的な制限を理解することが重要やってことを言いたいんや。
彼はこうも言うてはる：
「データの問題の一部は本質的な複雑さにあるんや。人間の代謝の生化学を示す図を見たことがあるなら分かると思うけど、この複雑なシステムの一部の効果を分離するのはとても難しいし、システムに正確で予測可能な方法で介入するのはさらに難しいんやね。」
「最後に、人間を対象とした実験を行うのにかかる本質的な時間以外にも、実際の臨床試験には多くの官僚主義や規制要件があって、これが不必要に進歩を遅らせてるんや。」
これが、一部の社会が光速で進んでいくのに対して、規制が厳しい社会は遅れをとるんちゃうかと思う理由やね。
EUでの規制がかなり遅れをとってるのを見てきたし、将来的にはこれがもっと明らかになると思うわ。ある程度規制が厳しくて、すべてのことに影響を与えへん地域があるのは良いことやと思うで。
なぜかというと、超知能AIが何をするかまだ分からへんからね。人類を殺すのか、それとも素晴らしいものになるのか分からへんのや。
特定の分野や実験には、安全性を保つために従わなあかんガイドラインがあるんやけど、一部の小さな地域では、我々が好むと好まざるとにかかわらず、この技術を使って突き進んでいくと思うわ。
ここで彼は、具体的にどこから加速が来ると思うかについて話してはるで：
「驚くほど多くの生物学の進歩が、ほんの少数の発見から来てるんや。多くの場合、広範な測定ツールや、生物学的システムに正確だけど一般化可能なプログラム可能な介入を可能にする技術に関連してるんや。」
「おそらく年に1つくらいのペースでこういった大きな発見があって、集合的には生物学のすべての進歩の約50%を占めてるんやないかな。」
「これらの発見が非常に強力なのは、まさに本質的な複雑さやデータの制限を突き破って、生物学的プロセスに対する我々の理解と制御を直接的に増やすからなんや。」
「10年に数回の発見が、生物学に対する我々の科学的理解の基盤の大部分を可能にし、多くの最も強力な医療治療を推進してきたんや。」
そして、ここでいくつかの例を挙げてはるで：
「CRISPR：生きた生物の任意の遺伝子をライブ編集できる技術やね。元の技術が開発されて以来、特定の細胞タイプをターゲットにするための継続的な改良が行われてきたんや。」
「さまざまな種類の顕微鏡技術：正確なレベルで何が起こってるかを見るためのものやね。蛍光技術、特殊な光学、電子顕微鏡などの高度な技術がある。」
「ゲノムシーケンシングと合成：過去数十年で数桁のコスト削減が実現したんや。」
「mRNAワクチン：原理的には、何に対してもワクチンを設計し、それを素早く適応させることができるんや。これはCOVID-19のパンデミック時に有名になったね。」
「CAR-T細胞療法のような細胞療法：免疫細胞を体外に取り出して、原理的には何でも攻撃するようにプログラムし直すことができるんや。」
ダリオ・アモードがこれらの発見について最近話したのは、もし本当に才能があって創造的な研究者がもっといたら、これらの発見の速度が10倍以上になる可能性があると彼が考えてるからなんや。
言い換えると、彼はこれらの発見に対する知能の収益率が高いと考えてて、生物学と医学のその他のすべてのことは、主にこれらの発見から派生すると考えてるんやね。
なぜそう思うかっていうと、知能の収益率を決定しようとする時に習慣的に問うべき質問のいくつかに対する答えがあるからなんや：
「まず、これらの発見は一般的に非常に少数の研究者によって行われてて、しばしば同じ人々が繰り返し行ってるんや。これは、スキルとランダムではない探索を示唆してるね。」
「次に、これらの発見の多くは、実際に行われた時期よりも何年も前に行われた可能性があったんや。例えば、CRISPRは1980年代から知られてた細菌の免疫システムの自然に存在する構成要素やったんやけど、一般的な遺伝子編集に再利用できることに気づくまでに25年もかかったんや。」
「また、これらの発見は、有望な方向性に対する科学コミュニティからの支援不足によって、多くの場合何年も遅れることがあるんや。mRNAワクチンの発明者のプロフィールを見ると、似たような話がたくさんあるよ。」
「第三に、成功したプロジェクトはしばしば、大規模な資金提供を受けた取り組みというよりも、質素なものだったり、当初は有望だと思われてなかったものだったりするんや。これは、発見を推進するのが単に大規模なリソースの集中ではなく、創意工夫であることを示唆してるね。」
「これらの発見の中には、直列的な依存関係があるものもあるんや。つまり、発見Aがあって初めて、発見Bを行うためのツールと知識が得られるってことやね。これはまた、実験の遅れを引き起こす可能性がある。」
「でも、おそらく多くの発見は独立してて、並行して取り組むことができるんや。」
基本的に彼が言うてるのは、科学者がもっと賢くて、人類が持ってる膨大な生物学的知識の間のつながりをより上手に作れるなら、まだ何百もの発見が待ってるってことなんや。
再びCRISPRの例を考えてみてね。1980年代から知られてたけど、一般的な遺伝子編集に使えることに気づくまでに25年もかかったんや。
そして、AlphaFoldの成功は、人間が数十年かけて慎重に設計した物理モデリングよりもはるかに効果的に重要な問題を解決できることの証明になってるんや。狭い分野やけどね。これは将来の方向性を示してるはずやね。
基本的に、彼はこう推測してはるんや：
「強力なAIは、少なくともこれらの発見の速度を10倍にすることができると私は考えています。つまり、生物学の進歩の次の50年から100年分を5年から10年で実現できるんです。」
「100倍にはならないのかって思うかもしれませんね。可能性はありますが、ここで直列的な依存関係と実験時間が重要になってきます。1年で100年分の進歩を得るには、動物実験を含む多くのことが最初から上手くいく必要があります。顕微鏡や高価な実験施設の設計なんかもね。」
「5年から10年で1000年分の進歩は得られると思いますが、1年で100年分というのはかなり懐疑的です。特定の設計や実験には一定の遅延があり、論理的に推論できないことを学ぶために、一定の削減不可能な回数の繰り返しが必要なんです。」
基本的に彼が言うてるのは、どう考えても問題を解決するのにある程度の時間がかかるってことなんや。なぜかっていうと、これが起こった後に何が起こるかを論理的に推論する方法がないからなんや。
彼は臨床試験などについても話してはるけど、要約するとこう言うてはる：
「上記をまとめると、私の基本的な予測は、AIが可能にする生物学と医学によって、人間の生物学者が次の50年から100年で達成したであろう進歩を5年から10年に圧縮できるということです。これを『圧縮された21世紀』と呼びます。つまり、強力なAIが開発された後、数年で生物学と医学において21世紀全体で行ったであろうすべての進歩を実現するという考え方です。」
これは本当に驚くべき発言やけど、彼の言うてることを考えると、十分可能性があると思うわ。なぜかというと、分野内で存在する発見の大部分を占める小さな発見をいくつかするだけでええからやね。
数年間で強力なAIが何をできるかを予測するのは本質的に難しく、推測にならざるを得へんけど、次の100年で人間が無制限に何ができるかを問うことには、ある程度の具体性があるんや。
20世紀に我々が達成したことを見たり、21世紀の最初の20年から推測したり、10個のCRISPRと50個のCARが我々に何をもたらすかを考えてみたりすることで、強力なAIを手に入れたら、どのレベルの進歩が起こり得るかが見えてくるんやね。
さて、ここからは未来の年について具体的に何が起こり得るかについて話してはるで：
「ほぼすべての自然な感染症の確実な予防と治療：20世紀に感染症に対して大きな進歩があったことを考えると、圧縮された21世紀でその仕事をほぼ終わらせることができると想像するのはそれほど過激なことではありません。」
「ほとんどのがんの排除：これは最も素晴らしいことの1つになると思います。がんは恐ろしい病気で、現在、その診断を受けると死の宣告のようなものになることがあります。過去数十年間、がんによる死亡率は年間2%ずつ低下しています。つまり、人間の科学の現在のペースでも、21世紀中にほとんどのがんを排除する軌道に乗っているんです。」
「一部の種類のがん、例えばCAR療法による一部の白血病は、すでにほぼ治癒されています。さらに興奮するのは、がんの初期段階をターゲットにし、成長を防ぐ非常に選択的な薬です。AIによって、がんの個別化されたゲノムに非常に細かく適応した治療レジメンが可能になります。これは今日でも可能ですが、時間と人間の専門知識の面で非常にコストがかかります。AIはこれを拡張可能にするでしょう。」
「遺伝性疾患の非常に効果的な予防と効果的な治療：大幅に改善された胚のスクリーニングによって、ほとんどの遺伝性疾患を予防できるようになる可能性が高いです。そして、CRISPRのより安全で信頼性の高い子孫が、既存の人々のほとんどの遺伝性疾患を治療する可能性があります。」
「アルツハイマー病の予防：アルツハイマー病の原因を突き止めるのは非常に難しかったです。何らかの形でベータアミロイドタンパク質に関連していますが、詳細は非常に複雑なようです。これは、生物学的効果を分離するより良い測定ツールで解決できる正確なタイプの問題のように思えます。だから、AIがこれを完全に解決する能力について楽観的です。」
「他のほとんどの病気の治療の改善：これは、糖尿病、肥満、心臓病、自己免疫疾患など、他のほとんどの病気のためのキャッチオールカテゴリーです。これらのほとんどは、がんやアルツハイマー病よりも解決が容易に見えます。多くの場合、すでに急激な減少傾向にあります。例えば、心臓病による死亡はすでに50%以上減少しており、GLP-1作動薬のような介入はすでに肥満と糖尿病に対して大きな進歩を遂げています。」
「生物学的自由：過去70年間、避妊、妊娠、体重管理など多くの進歩がありました。しかし、AI加速の生物学は、可能なことを大きく拡大するでしょう。体重、外見、生殖、その他の生物学的プロセスが完全に人々の制御下に置かれるようになります。これらを『生物学的自由』という見出しの下で言及します。つまり、誰もが自分がなりたいものを選び、最も魅力的な方法で人生を生きる力を与えられるべきだという考え方です。もちろん、グローバルなアクセスの平等性に関する重要な問題がありますが…」
「生物学的自由」の部分は本当にクレイジーやと思うわ。人々が背が高く、賢く、筋肉質になることを選べるようになるんやで。9フィート（約2.7メートル）の人間が歩き回ってるのを見ることになるかもしれへんね。面白い未来になりそうやわ。
そして、彼はここで人間の寿命について触れてはるんや：
「人間の寿命の倍増：これは過激に聞こえるかもしれませんが、20世紀に平均寿命はほぼ2倍になりました。40歳から75歳へとね。だから、圧縮された21世紀でそれをさらに2倍にして150歳にするのは、トレンド上にあるんです。」
「明らかに、実際の老化プロセスを遅らせるための介入は、20世紀後半に主に小児期の早期死亡を病気から防ぐために必要だったものとは異なりますが、変化の大きさは前例のないものではありません。」
「具体的には、すでに副作用が限られたまま、ラットの最大寿命を20%から50%増加させる薬が存在します。そして、カメのような動物はすでに200年生きています。人間は明らかに、何らかの理論的な上限に達しているわけではないんです。」
「おそらく最も重要なのは、人間の老化の信頼できる、よくない方向に操作できないバイオマーカーかもしれません。これにより、実験と臨床試験の迅速な反復が可能になります。」
「人間の寿命が150歳になれば、『エスケープ・ベロシティ』に達する可能性があります。つまり、現在生きている人々のほとんどが、望むだけ長く生きられるようになるかもしれません。これが生物学的に不可能だという保証はありませんが…」
これが言えへんくらい信じられへんかったんや。私の脳がちょっと溶けてしもたみたいやわ。これはめちゃくちゃクレイジーやで。
彼は「人間の寿命が150歳になれば、エスケープ・ベロシティに達する可能性がある」って言うてはるんや。つまり、今日生きてる人々が望むだけ長く生きられるようになるかもしれへんってことやねん。
これは本当にクレイジーな発言やと思うわ。彼が70歳や80歳の人について話してるとは思えへんけど、おそらく今成長してる人々、たぶん10歳以下の人々のことを話してるんちゃうかな。正確にどの年齢層かは分からへんけどね。
これは本当のことやと思うわ。例えば、ブライアン・ジョンソンのような人を見てみてや。寿命についてもっと知りたいなら、彼のことを調べてみるのをおすすめするわ。
AIに関して今よく言われてる言葉があって、「死なないでください」っていうんやけど、これはかなり面白くて考えさせられる言葉やと思うわ。
技術が今のペースで進歩し続けて、AIも今のペースで進歩し続けたら、人々が死ななくなる段階に到達するかもしれへんって言う人もおるんやで。なぜかっていうと、数年ごとに寿命を25%ずつ延ばせるようになって、寿命延長がずっと続いていく可能性があるからやねん。
理論的にはそれも理解できるけど、もちろん生物学的に可能という保証はないんやけどね。
ブライアン・ジョンソンについて話してるのは、長寿に興味があるなら彼のチャンネルをおすすめするからや。彼のチャンネルバナーには「死なないでください」って書いてあるんやで。
彼は自分の会社を売却して、今は死なないことだけに集中してるんや。文字通り、死なないことにだけ焦点を当ててる。いろんなことに取り組んでて、面白いのは、彼の内部の体内時計が18歳か24歳くらいになってるらしいんや。40代なのにね。
この人がどれだけ長生きするか見るのは本当に面白いと思うわ。そして、彼のチャンネルも爆発的に人気が出ると思うわ。なぜかっていうと、彼は基本的に最も測定された人間で、すべてのバイオマーカーを持っててて、科学者のチームが24時間体制でこの人がどれだけ長生きするか見てるからやねん。
将来、他の人もこういうことを始めるのを見るのは本当に面白いと思うわ。
もちろん、彼はこうも言うてはるで：
「このリストを見て、これらすべてが7年から12年後に達成された場合、世界がどれだけ変わるかを考えてみてください。これは、攻撃的なAIのタイムラインと一致します。言うまでもなく、これは想像を絶する人道的な勝利となるでしょう。数千年にわたって人類を悩ませてきたこれらの災いのほとんどを一気に排除するのですから。」
これが7年から12年後に起こるなんて、本当にクレイジーやと思うわ。平均寿命が150歳の社会、がんがない、アルツハイマー病がない、遺伝子編集が自由にできる社会…想像するのは本当に難しいわ。この動画を作りながらそれを想像しようとするのは本当に大変やね。
もちろん、働く年齢の人口と退職した人口の比率が劇的に変わるという指摘もあるんや。これは人口構造も変えていくことになるやろうね。
さて、ここからは2つ目のポイントに入っていくで。この長い動画になってしもて申し訳ないけど、たくさんの内容があるから全部カバーしたいんや。
次は神経科学と心の健康についてや：
「前のセクションでは、身体的な病気と一般的な生物学に焦点を当てて、神経科学やメンタルヘルスについては触れませんでした。神経科学は生物学の一分野で、メンタルヘルスは身体的健康と同じくらい重要です。実際、メンタルヘルスは身体的健康よりも直接的に人間の幸福に影響を与えるかもしれません。」
「何億人もの人々が、依存症、うつ病、統合失調症、機能の低い自閉症、PTSD、サイコパシー、知的障害などの問題で非常に質の低い生活を送っています。」
これらの問題を抱えてる人々と話したことがあるけど、本当に不幸な問題やと思うわ。なぜかっていうと、「足を切った、病院に行って治す」みたいな簡単なものじゃないからや。診断して治すのがめちゃくちゃ難しいんや。本当にひどい状況やと思うわ。
彼はこう言うてはるで：
「AIが4つの異なるルートを通じて神経科学の進歩を加速させることを期待しています。これらすべてが協力して、精神疾患を治療し、機能を改善することを願っています：
従来の分子生物学、化学、遺伝学：これは基本的に一般生物学と同じ話です。セクション1で説明したのと同じメカニズムでAIが加速できる可能性が高いです。脳機能を変更したり、警戒心や知覚に影響を与えたり、気分を変えたりする神経伝達物質を調節する薬がたくさんあります。AIはさらに多くの薬を発明するのを助けることができます。AIはまた、精神疾患の遺伝的基礎に関する研究を加速することもできるでしょう。これは素晴らしいことですね。
高度な神経測定と介入：これは、多くの個々のニューロンやニューロン回路が何をしているかを測定し、その行動を変更する能力です。オプトジェネティクスや神経プローブは、生きた生物で測定と介入の両方が可能な技術です。また、個々のニューロンの発火パターンを読み取るための分子的なチックテープのような非常に高度な方法も提案されていて、原理的には可能に見えます。
高度な計算神経科学：AIは、システム神経科学の問題に効果的に適用できる可能性があります。おそらく、精神病や気分障害のような複雑な疾患の本当の原因とダイナミクスを解明することも含まれるでしょう。」
これは本当にそうやと思うわ。AIがこれらを加速させることができるのは理にかなってるね。
「4. より広く言えば、常にあなたの最高の自分になるのを助けてくれるAIコーチというアイデアがあります。あなたの相互作用を研究し、より効果的になる方法を学ぶのを助けてくれるんです。これはとても有望に思えます。」
5年から10年後に起こると彼が予測してることは、こんな感じやで：
「私の推測では、ほとんどの精神疾患はおそらく治療できるようになるでしょう。精神疾患の専門家ではありませんが、PTSD、うつ病、統合失調症のような疾患は、上記の4つの方向性の組み合わせによって解明され、効果的に治療できるようになると思います。」
「答えは、おそらく『生化学的に何かが間違った』というのと『高いレベルで神経ネットワークに何かが起こった』という組み合わせでしょう。これはシステム神経科学の問題で、解決できるはずです。」
「非常に構造的な状態は難しいかもしれませんが、不可能ではありません。」
基本的に、ある条件は他の条件よりも難しいかもしれへんけど、解決できへんわけやないって言うてはるんやね。
「効果的な遺伝的予防も可能に見えます。ほとんどの精神疾患は部分的に遺伝性があり、ゲノムワイド関連研究が関連する要因（多くの場合、数が多い）を特定し始めています。おそらく、胚スクリーニングによってこれらを予防できるようになるでしょう。身体的疾患と同様にね。」
「同様に、臨床的な病気とは通常考えられないレベルの日常的な心理的問題も解決されるでしょう。ほとんどの人は、通常は臨床的な病気のレベルに達するとは考えられない日常的な心理的問題を抱えています。」
「例えば、怒りっぽい人もいれば、集中力に問題がある人、しょっちゅう眠くなる人、恐れを感じやすい人、不安になりやすい人もいます。これらはAIが解決できる問題になるでしょう。」
これらの問題をAIがどのように解決するのか見るのは面白いと思うわ。
そして、これはめっちゃクレイジーな未来の話やで：
「SFの描写でよく出てくるAIのトピックで、ここであえて議論してこなかったものがあります。それは『マインドアップロード』です。人間の脳のパターンやダイナミクスを捉えて、ソフトウェアに実装するという考え方です。」
「このトピック自体で1つのエッセイが書けるでしょうが、私は、アップロードは原理的にはほぼ確実に可能だと考えています。しかし、実際には、強力なAIがあっても、重大な技術的、社会的課題に直面し、おそらく我々が議論している5年から10年の期間（つまり2030年から2035年）の範囲外になるでしょう。」
パート2のまとめとして、彼はこう言うてはるで：
「AI加速の神経科学は、ほとんどの精神疾患の治療を大幅に改善したり、完治させたりする可能性が高いです。また、認知的、精神的自由と人間の認知的、感情的能力を大きく拡大するでしょう。」
「これは、前のセクションで説明した身体的健康の改善と同じくらい急進的なものになるでしょう。外から見ると世界は変わっていないように見えるかもしれませんが、すべての人間が経験する世界はずっと良く、より人間らしいものになるでしょう。また、自己実現のためのより大きな機会を提供する場所にもなるでしょう。」
そして、もちろん改善されたメンタルヘルスは、政治的や経済的に見える問題を含む、他の多くの社会問題を解決するやろうね。
これは多くの人が理解してへんことの1つやと思うわ。メンタルヘルスは多くのシステムで真剣に取り扱われてへんけど、人間が個人レベルでどのように機能してるかを大幅に改善できるものができたら、他の多くの問題が解決されると思うんや。
ほとんどの人は理解してへんけど、犯罪者や悪い人だと思われてる人たちの多くは、本当にひどい環境で育ってきた人たちなんや。うつ病や統合失調症などの精神的な健康問題を抱えてる人たちが多いんやけど、「この人が罪を犯した、20年間刑務所に入れろ、ひどい奴や」みたいな感じで扱われてしまうんや。
罪を犯したら罰を受けるべきやって言うてるわけやないよ。でも、これらの問題を表面的にしか扱ってへんのが現状なんや。だから、これも考慮に入れるべきやと思うわ。
さて、ここからはちょっとディストピア的な話になるんやけど、経済発展と貧困について話してはるで：
「開発は全ての人のために起こる必要があります。なぜなら、世界の異なる地域の間に大きな格差があるからです。」
「より広く言えば、多くの既存の健康介入が世界中のすべての場所で適用されているわけではありません。同じことが非健康技術の改善にも当てはまります。」
「言い換えれば、世界の多くの地域の生活水準はまだ絶望的に貧しいのです。サハラ以南のアフリカのGDP per capitaは2,000ドルで、アメリカの775,000ドルと比べると非常に低いです。」
「もしAIが先進国の経済成長と生活の質をさらに向上させる一方で、発展途上国を助けることがほとんどできないなら、それは terrible な moral failure で、前の2つのセクションで述べた本物の人道的勝利に汚点を残すことになるでしょう。」
「理想的には、強力なAIは後者を革新しながら、発展途上国が先進国に追いつくのを助けるべきです。」
これは本当にそうやと思うわ。世界の一部だけを取り残すことはできへんし、確かに実施方法には規制やさまざまな問題があるけど、世界の一部の地域だけが他よりも急速に発展するのは良くないと思うわ。
ベースラインは改善されてるけど、人類が機能する基本的なレベルがあることを確認する必要があるんや。GDP per capitaが2,000ドルで、1日1ドル以下で生活してる人がいるような状況は、もうあってはいけへんと思うわ。
もちろん、ダリオ・アモードは民間部門と公共部門が直面する課題についても触れてはるで：
「蔓延する腐敗が問題です。前に言ったように、これらの国々を助けようとしても、残念ながら時々人々は腐敗していて、お金を他の場所に使ったり、物事を実行しなかったりするんです。それを行うのは本当に難しいです。」
でも、彼はこうも言うてはるで：
「楽観的になる重要な理由があると思います。病気は根絶されてきましたし、多くの国が貧困から豊かになりました。これらのタスクに関わる決定は、人間の認識と複雑さにもかかわらず、高い知能への収益を示しています。」
ここで彼は、強力なAIが開発された後の5年から10年間に経済について起こると予想してることを挙げてはるで：
「1. 健康介入の分布：これは私が将来について最も楽観的な分野です。病気は上からの運動で根絶されてきました。例えば、天然痘は1970年代に完全に排除され、ポリオとギニア虫症は年間100例未満まで近く根絶されています。分布の物流も大幅に最適化でき、AI加速の取り組みはさらに効果的になるでしょう。」
「2. 経済成長：発展途上国は健康面だけでなく、経済全般で先進国に急速に追いつくことができるでしょうか？これについては先例があります。20世紀の最後の数十年間、いくつかの東アジア諸国は年間10%の実質GDP成長率を維持し、先進国に追いつくことができました。」
そして、ここからが本当に面白い部分やで：
「人間の経済プランナーがこの成功につながる決定を下したのは、経済全体を直接コントロールすることではなく、輸出主導の成長という産業政策や、天然資源の富に頼る誘惑に抵抗するなど、いくつかのレバーを引くことによってでした。」
「AIの財務大臣や中央銀行総裁がこの10%の成果を再現または超えることができるかもしれません。しかし、自己決定の原則を尊重しながら、どのように発展途上国の政府にこれらを採用させるのでしょうか？一部は熱心かもしれませんが、他は懐疑的でしょう。」
基本的に彼らが言うてるのは、以前、一部のリーダーが経済を前進させる効果的な政策を開発できたのを見てきたけど、一部が自己決定に焦点を当てている場合、どうやってそれを実施させるのかってことやね。
これは本当に面白いことの1つやと思うわ。なぜかっていうと、人々がAIに権力を譲渡したり、AIが提案した政策を使用したりするかどうか分からへんからや。これが未来を変えるかどうかは分からへん。
もし特定の経済がAIの提案する政策を使って急速に発展したら、他の国々もそれを使い始める可能性があると思うわ。これはディストピア的とは言えへんかもしれへんけど、面白いことになると思うわ。
もしこのものが人間より賢いなら、なぜ社会の進む方向を決める決定をさせへんのかって考えることになるやろうね。
もちろん、彼はこうも言うてはるで：
「最後に、健康以外のAI加速技術（エネルギー技術、輸送、ドローン、改良された建築材料など）は、自然に世界中に広がるでしょう。例えば、携帯電話はフィランソロピーの努力なしに、市場メカニズムを通じてサハラ以南のアフリカにすぐに普及しました。」
食料安全保障についても触れてはるで。作物技術の進歩とかそういったものすべてやね。人々には食料安全保障が必要やからね。一部の地域で食べ物を無駄にしてる一方で、十分な食べ物を得られへん地域があるのはちょっとクレイジーやと思うわ。
気候変動の緩和についても触れてはるで：
「気候変動は発展途上国でより強く感じられ、その発展を妨げるでしょう。AIが気候変動を遅らせたり防いだりする技術の改善につながることを期待しています。大気中の炭素除去やクリーンエネルギー技術から、炭素集約型の工場畜産への依存を減らす培養肉まで、さまざまな技術が含まれます。」
培養肉について人々がどう思うか気になるわ。ちょっとディストピア的に聞こえるかもしれへんけど、分からへんな。面白いと思うわ。一部の人は「なぜそうする必要があるの？」って言うかもしれへん。だって、まったく同じもので、牛から育てられたものなら、何が違うんやろうってね。彼らにも一理あると思うわ。
もちろん、国内の不平等についても触れてはるで：
「アメリカ国内では ridiculous なレベルの富の不平等があります。『金持ちから税金を取れ』とか、そういうことを言うてるわけやないよ。ただ、ある社会では、一部の人々が基本的な生活水準すら持ってへんことがあって、それは本当にひどいことやと思うんや。もちろん、人々が一生懸命働いて何かを達成できるようにすべきやと思うけど、人々が社会の隙間から落ちこぼれへんようにシステムを設計する必要があるんちゃうかな。」
そして、ディストピア的な問題についても触れてはるで：
「オプトアウト問題っていうのがあるんやけど、これはちょっとサイバーパンク的な問題なんや。先進国でも発展途上国でも同じように心配されてるのが、人々がAIによる恩恵を受けることを拒否してしまうことなんや。」
「技術が登場した時、人々は懐疑的になるやろうね。100%採用される技術なんてないんや。もちろん、電話やコンピューターはほぼ普及してるけど、AIは人間のようなものと考えられるから、人々はその助言を受け入れへんかもしれへんのや。」
でも、ダリオはこう言うてはるんや：
「良い決定を下す能力が最も低い人々が、まさにその能力を向上させる技術を拒否してしまうかもしれへん。そうすると、ますます格差が広がって、ディストピア的な下層階級が生まれる可能性があるんや。一部の研究者は、これが民主主義を損なうと主張してるんや。」
「これはまた、AIの前向きな進歩に汚点を残すことになるやろうね。基本的に、一部のAIを採用せんと、悪い決定につながって、結局追いつけへんようになってしまうんや。」
これはちょっとクレイジーやけど、彼はこうも言うてはるで：
「1つの希望的な兆候は、歴史的に反技術運動は吠えるほど噛まへんかったってことや。結局、ほとんどの人が採用するんや。」
次に、平和とガバナンスについて話してはるで：
「病気が抑えられ、貧困と不平等が大幅に減少し、人間の経験のベースラインが大幅に引き上げられたとしても、人間はまだお互いに脅威となるんや。」
「現在、世界中で数多くの戦争が起きてるんや。それについては詳しく話したくないけど、人間同士の大きな問題やね。」
「我々が実際にやらなあかんのは、AI駆動の権威主義が想像するにはあまりにも恐ろしいものであることを維持することや。つまり、個人の自由がない状態やね。」
「これは一部の社会ですでに起こってると思うわ。名前は挙げへんけど、一部の社会ではちょっとディストピア的になってきてるんや。人々の動きを全て追跡したり、社会信用スコアみたいなものがあったりするんや。」
「特に10年から12年後に超高度なAIができたら、これは避けなあかんことになるやろうね。」
ここで彼は、これを行う最善の方法は次のような戦略やと話してはるんや：
「民主主義の連合が、サプライチェーンを確保し、迅速に規模を拡大し、敵対者がチップや半導体装置のような重要なリソースにアクセスするのをブロックまたは遅らせることで、明確な優位性（一時的なものでも）を獲得しようとするんや。」
「この連合は一方で、AIを使ってしっかりとした軍事的優位性を達成しようとするけど、同時に、連合の民主主義促進戦略を支持することと引き換えに、より広いグループの国々に強力なAIの恩恵を分配することを提案するんや。」
「基本的に、残りの世界と同じ取引をする方が良い立場にあるって言うてはるんや。」
これはかなり面白いと思うわ。こんなこと考えたことなかったわ。
もちろん、AIが弁護士の判決や量刑に関する決定を下すんちゃうかって考えてる人もおるかもしれへんけど、彼はこう言うてはるで：
「文字通り裁判官をAIシステムに置き換えるべきだと提案してるわけやないんや。でも、公平性と、ごちゃごちゃした現実世界のシナリオを理解し処理する能力を組み合わせたものは、正義に何らかのポジティブな応用があるはずやと感じてるんや。」
「少なくとも、そういうシステムは人間と一緒に働いて、意思決定を助けることができるやろうね。」
「このようなシステムでは透明性が重要になるやろうし、成熟したAIの科学はそれを提供できるかもしれへんのや。」
基本的に、彼らが言うてるのは、高度な解釈可能性（モデルの中を見て何が起こってるかを見ること）によって、最終的なモデルの中を見て、隠れたバイアスがないかを評価できるようになるってことなんや。
これについて本当にクレイジーなのは、高度な解釈可能性があって、モデルの中を見ることができれば、人間では単純に不可能な方法で隠れたバイアスを実際に見ることができるってことなんや。
このビデオを見てる君にも、どう育てられたか、どこにいるか、どんなデータが入力されたか、どんなテレビ番組を見たかなど、すべてのことから生まれる隠れたバイアスがあるんや。つまり、自分では見ることができへんバイアスがあるってことやね。
私自身にもバイアスがあるって分かってる。いつも客観的であろうと努力してるけど、それらのバイアスを見ることは完全に不可能なんや。
でも、AIの中を実際に見て、何が起こってるかを見ることができれば、それらの隠れたバイアスを見ることができて、取り除こうとすることができるんや。これはめちゃくちゃクレイジーやと思うわ。
つまり、より公平になる可能性があるってことやね。
これの一例を紹介したいんやけど、裁判官に関するものがあるんや。この研究にはグレーな部分もあるんやけど、この査読済みの論文の著者たちが2009年に8人の裁判官が下した1000以上の判決を調べたんや。
彼らが発見したのは、有利な判決が下される可能性が1日の始めにピークを迎え、時間とともに着実に減少していくってことやった。約65%の確率から、ほぼゼロまで下がって、食事や軽食のための休憩の後に約65%まで急上昇するんや。
基本的に、裁判官は軽食や休憩を取った後の方が寛大になる傾向があって、1日が進むにつれてイライラしてくる可能性があるってことを示唆してるんや。
これはめちゃくちゃクレイジーやと思うわ。なぜかっていうと、AI裁判官なら休憩や軽食が必要ないし、常に同じ完全な状態を保てるからや。
彼はこうも言うてはるで：
「同じような考え方で、AIを使って市民の意見を集約し、合意を形成することもできるやろうね。対立を解決したり、共通点を見つけたり、妥協点を探ったりするんや。」
「この方向での初期のアイデアは、Anthropicとの共同研究を含む計算民主主義プロジェクトによって行われてるんや。より情報に基づいた、思慮深い市民も民主主義の制度を強化するやろうね。」
最後に、彼が取り上げてるのは仕事と意味についてや：
「前の4つのセクションがうまくいったとしても、つまり病気、貧困、不平等を軽減するだけでなく、自由民主主義が支配的な政府形態になり、既存の自由民主主義がより良いバージョンになったとしても、少なくとも1つの重要な問題が残るんや。」
「技術的に非常に進んだ世界、そして公平で品位のある世界に住むのは素晴らしいことやけど、一部の人は反対するかもしれへん。AIがすべてをやってくれる中で、人間はどうやって意味を持つんやろうか？そして、そもそも人間はどうやって経済的に生き残るんやろうか？」
これは私が解決しようとしてる問題の1つなんや。なぜかっていうと、これは大半の人が気づいてるよりも早く来ると思うからや。人々は注目してへんのや。
クレイジーなのは、Anthropicのダリオ・アモードCEOがこう言うてることや：
「私はこの問題が他の問題よりも難しいと思うんや。他の問題よりも悲観的やってわけやないんや。ただ、より曖昧で、事前に予測するのがかなり難しいってことなんや。」
「なぜかっていうと、社会がどのように組織されるかについての巨視的な問題に関係してるからや。これは時間とともに分散的な方法でのみ解決される傾向があるんや。」
彼はここで素晴らしい例を挙げてはるで：
「例えば、狩猟採集社会は、狩猟なしの生活は意味がないと想像したかもしれへんのや。狩猟に関連するさまざまな宗教的儀式なしではね。そして、我々の十分に食べられる技術社会が目的を欠いてると想像したかもしれへんのや。」
基本的に、彼が言うてるのは、昔々、本当に昔、棒を持って走り回って狩りをしてた時代には、人々が1日中狩りをしてへんかったら、一体何をするんやろうって考えたかもしれへんってことなんや。
でも今、技術があっても、我々にはまだたくさんの目的があるってことが分かるやろ？
「彼らは、我々の経済がどのようにしてすべての人に供給できるのか、あるいは機械化された社会で人々がどのような有用な機能を果たせるのか理解できへんかもしれへんのや。」
これは本当にそうやと思うわ。将来を見通して、物事がどのように機能するかを考えるのは非常に難しいけど、過去を振り返ると通常理解できるんやね。
基本的に彼が言うてるのは、明確な答えがないのは明らかやってことなんや。これは私がこの研究をしてる間、常に見てきたことの1つなんや。人々が何をするかについて明確な答えがないんやね。そして、これは本当に答える必要があると思うわ。これはかなりクレイジーやと思うで。
もちろん、彼はここで、自分の時間をビデオゲームをしたり、泳いだり、外を歩き回ったりして過ごすことについて触れてはるんや。これらは経済的価値を全く生み出さへんけどね。
基本的に彼が言うてるのは、AIがこれらのことで人間よりも優れてるからって、あなたにとって価値がないってわけやないってことなんや。あなたはまだそれらを楽しめるはずやって。
そして、彼は基本的に、経済的な部分（AIの経済で経済的価値を生み出せるか）と意味の部分（AIの経済であなたのタスクはあなた自身にとって意味があるか）という2つの別々の問題があるって言うてはるんや。
ここで彼はこの問題についての予測を述べてはるんやけど、これはかなり面白いと思うわ：
「まず、短期的には、比較優位が人間を関連性のあるものに保ち、実際には生産性を向上させ、ある意味で人間間の競争条件を平等にするという議論に同意します。」
「AIが特定の仕事の90%だけでより優れてる限り、残りの10%によって人間は非常にレバレッジが効くようになり、報酬が増え、実際にAIが得意なものを補完し増幅する新しい仕事がたくさん生まれて、その10%が継続的に拡大し、ほぼすべての人を雇用し続けることになるでしょう。」
これはクレイジーやね。そして実際、AIが100%のことで人間よりも優れていても、一部のタスクで非効率または高価なままであったり、人間とAIへのリソース入力が意味のある形で異なっていれば、比較優位の論理は続くことを意味しています。
「人間が相対的または絶対的な優位性を維持する可能性が高い1つの分野は、物理的な世界です。したがって、データセンターの天才の国に到達した少し後でさえ、人間の経済はまだ意味をなすかもしれないと思います。」
これは本当にそうやと思うわ。なぜかというと、人間が物理的な世界で単純にAIよりも優れてることがあるからや。コンピューター上で走り回るだけのAIよりもね。
コンピューター上のものから経済的価値を生み出すのはますます難しくなるけど、物理的な世界に存在するものを扱ってるなら、それはますます価値が高くなると思うんや。
だからサム・アルトマンが以前、配管工や電気技師などの仕事が将来的に増える可能性があると言ったんやと思うわ。キャリアを辞めて配管工になれって言うてるわけやないよ。でも、これらのことがどのように変化し始めるかを見るのは面白いと思うわ。
彼はここでこう言うてはるで：
「しかし、長期的には、AIがとても広範囲に効果的になり、とても安価になるので、これはもう当てはまらなくなると思います。その時点で、我々の現在の経済的な仕組みはもう意味をなさなくなるでしょう。経済をどのように組織すべきかについて、より広範な社会的な議論が必要になるでしょう。」
これは本当にそうやと思うわ。Anthropicの何十億ドル規模のAI企業（実際にはコングロマリットではないけど）のCEOが、「経済はある時点で機能しなくなる」って言うてるのは、将来のことを考えてる人にとって本当に重要やと思うわ。
なぜかっていうと、AIがめちゃくちゃ賢くなって、めちゃくちゃ安くなったら、人間が何をすればいいのかって問題が出てくるからや。その時点で、人間がすることはあまりなくなるんちゃうかな。
政策立案者がこのことを本当に考慮し始めることを願ってるわ。なぜかっていうと、経済が機能しなくなる時点が来るかもしれへんからや。
彼はこう言うてはるで：
「これに対する解決策は、すべての人に大規模な普遍的基本所得を提供するくらい単純なものかもしれません。でも、それは解決策の小さな部分にすぎないと私は思います。」
「あるいは、AIシステムの資本主義経済があり、それらのシステムが何らかの二次的な経済に基づいて人間にリソースを分配するかもしれません。この二次的な経済は、AIシステムが人間の価値観から最終的に導き出された何らかの判断に基づいて、人間の何に報酬を与えるのが理にかなっているかを決めるものです。」
これは完全にクレイジーやと思うわ。
「あるいは、人間は予想外の方法で経済的に価値があり続けるかもしれません。通常の経済モデルでは予測されない方法でね。」
そして、これが私が皆さんに残したいと思うことなんやけど、彼はこう言うてはるんや：
「他の課題と同様に、ここでも良い結果を得るために戦わなければならないでしょう。搾取的またはディストピア的な方向性は明らかに可能性があり、それを防がなければなりません。」
「これらの問題についてはもっと書くことができるし、後で書くつもりです。」
基本的に彼が言うてるのは、ディストピア的な結果が起こり得るってことなんや。だから私はいつも人々にこう言うてるんや。AIの悲観論者になろうとしてるわけやないよ。ただ、技術が社会をどれだけ進歩させてきたかを振り返ってみると、何十億ドルのコンドミニアムがある一方で、ホームレスの人々が歩き回ってるような社会のディストピア的な要素がまだ存在してるってことを理解せなあかんのや。
技術が一つの分野で進歩しても、すべての人を引き上げるわけやないってことを理解せなあかんのや。ある程度はそうなるけど、一部の人々は隙間から落ちこぼれてしまうんや。
もし経済モデルが機能しなくなるような社会になったら、ディストピア的な結果が明らかに可能性があるってことやね。つまり、社会としてディストピア的な地獄のような場所にならへんように戦う必要があるんや。なぜかっていうと、それは本当に可能性があるからや。
世界は思うほど悪くないし、思うほど良くもない。その中間くらいなんやね。
皆さん、これについてどう思うか教えてください。この動画をこんなに長くするつもりはなかったんやけど、たくさんのタイムスタンプを用意してるから、この動画にいいねをつけてくれたら嬉しいわ。
これが私の最長の動画かどうかは分からへんけど、私の考えやコメントを楽しんでもらえたら嬉しいです。AIの未来についてどう思うか、ぜひ教えてください。
これは今後5年から10年の間に興味深いことになると思うわ。これらのことが遅れるのか、それとも起こるのかを見るのは面白いと思うけど、結局のところ、彼が言うてるのは、これは基本的に、かなりクレイジーなAIシステムを手に入れた時に起こることなんや。データセンターの天才たちってことやね。そして、それは人々が思うよりも遠くない未来かもしれへんのや。
コメント