私の直感では、これは重要になる、本当に良いものになる可能性がある、危険な可能性もある、そして発展途上国は理解不足や認識不足のため、大きな不利益を被っています。単なる認識プログラムや決議案でさえ、「人工知能」という言葉が含まれていたため、可決できませんでした。
一方、アメリカでは実際に前向きなことが起きています。私はそれについて好意的に思っています。コインの裏側のようなものですが、多くの問題、政策的な疑問、規制上の疑問が、具体的なケースによって答えられています。規制当局、例えばFDAやSECが実際に具体的なケースに取り組んでいます。さらに裁判所でも扱われています。
あなたは非常に重要な点を指摘しました。多くの人が不思議に思っていることですが、AIを単一のものとして考えがちです。AIは何かのようなものだと。実際はハサミのようなものです。AIを理解するには、特定の領域の文脈でしか理解できないということがわかります。機会は何か、課題は何か、そしてその影響をどのように調整したいのかを決めるのは、そこでのみ意味をなすのです。
こんにちは、アレクサンダーです。B4 AGIへようこそ。AIについて考えるとき、私たちはテクノロジー、それが何をできて何ができないか、そしてそれが世界をどのように変えるかについて考える傾向があります。しかし、AIが世界に与える影響を決定する大きな要因の1つは、政府です。政府がAIをどのように規制することを選択するか、また政府自身がどのようにAIを使用し、支援することを選択するかということです。
これが、今日ルイス・ビデガライと一緒にお話しできることをとてもうれしく思う理由です。ルイスはMITで教鞭を取り、MITのAI政策for the worldプロジェクトのディレクターを務めています。そして、その前にはメキシコ政府で広範なキャリアを積み、財務大臣、そして外務大臣を務めました。メキシコでの政府経験、AIについて初めて考え始めたとき、現在最も差し迫った政策の問題、そして浮上する地政学的な問題について話し合います。
今日の会話からわかるように、ルイスは主流になる前からAIについて深く考えていた人物です。ようこそ、ルイス。
ありがとう、アレクサンダー。ここに来られて光栄です。ポッドキャストを始めてくれてとてもうれしいです。長年、私たちは多くの話をし、私はあなたから多くのことを学びました。アレクサンダーはポッドキャストをするべきだといつも思っていました。今、あなたはそれを実現しています。素晴らしいですね。
はい、あなたは確かにその決定を後押しした大きな要因でした。後悔しないことを願っています。それでは、始めましょう。あなた自身について少し教えてください。どこで育ちましたか?
メキシコで育ちました。メキシコシティ、そして首都を囲むメキシコ州です。私は経済学者です。メキシコで学部を卒業し、その後MITで博士号を取得しました。約8年間民間部門で金融に携わり、その後13年間政府でキャリアを積みました。あなたが言及したように、そしてその後MITに来ました。
なぜ経済学を選んだのですか?
1980年代、私はメキシコで10代を過ごしました。それはメキシコ経済にとって本当に厳しい時期でした。ハイパーインフレーションや深刻な不況を経験しました。何が起こっているのかを理解したかったのです。だから、経済学に進むのはごく自然なことでした。
素晴らしいですね。MITで博士号を取得されましたね。もちろん、博士号を取得するには最高の場所です。その後、民間部門に入られましたが、その後政府に入られました。なぜですか?
常に公共部門や政府に興味がありました。まず州レベルで仕事をする機会がありました。2005年から4年間、メキシコ州の財務長官を務めました。素晴らしい経験でした。その後、連邦レベルに移りました。
政府で最も楽しかったことは何ですか?
まず第一に、影響力です。政府で働いているとき、特に物事を変えようとし、希望的に改善しようとしているとき、政府は影響力を持つ素晴らしい場所です。そして第二に、人々です。政府のあらゆるレベルで、多くのスマートで勤勉な、自分の仕事に情熱を持った人々に出会いました。素晴らしい経験でした。
政府で楽しくなかったことは何ですか?
まず第一に、時間を非常に消費します。家族のための時間、特に3人の子供たちのための時間が最小限になってしまいました。それが最も楽しくなかった、好きではなかった部分です。
実際に2つの異なる省庁の大臣を務める機会がありましたね。財務省と外務省です。どちらがより楽しかったですか?
影響力と実行できることという観点からは、明らかに財務省です。しかし、外務大臣を務めることも信じられないほど素晴らしい仕事でした。外務大臣の方が少し楽しかったと言えます。財務大臣のときは常に非常に大きなプレッシャーがかかっていましたから。しかし、実際に与えることのできる影響は、財務大臣のときの方がおそらく少し大きかったと言えるでしょう。
なぜ財務大臣の方が影響力が大きいのですか?
すべては配分に関わっています。リソースの配分、投資の配分です。だからこそ、常にとても大きなプレッシャーがかかるのです。しかし、実際に与えることのできる影響は、おそらく少し大きいと思います。また、世界中の財務省は金融システムの重要な規制当局でもあります。それもまた大きな影響力を持ちます。
政府での時間を振り返って、最も誇りに思うことは何ですか? すべての仕事、家族から離れた時間が価値があったと思えるようなことは何ですか?
州レベルで達成した多くのことを誇りに思っています。しかし、連邦レベルでは全部で6年間でした。始まりと終わりに起こったことを非常に誇りに思っています。特に、始まりには一連の改革をまとめ上げることができました。それらの一部はまだ残っていますが、一部は覆されました。それが民主主義の性質です。しかし、それらの改革全体のプロセスと使命、そしてそれらを実現することを非常に誇りに思っています。それを実現するために働いた人々と一緒に仕事ができたことも誇りです。そして最後には、北米自由貿易協定を再交渉し、地域の自由貿易を維持することができました。これは現在、メキシコの現在と未来にとって非常に重要なものです。私の連邦政府でのキャリアの始まりと終わり、この2つの点を選びます。
わかりました。自由貿易協定について話すとき、NAFTAの再交渉を意味していますね?
はい、今日では米国・メキシコ・カナダ協定、USMCAです。元々は1990年代初頭からの北米自由貿易協定、NAFTAでした。トランプ大統領が選出されたときに再交渉されました。
では、今日の会話の主要なトピックであるAIに少し話を移しましょう。あなたについて注目すべき点は、AIについて考え始めたのが、特に政府ではまだクールではなかった時期だったということです。なぜですか?
税金です。AIに入る明らかな方法ではありませんが、それは政府と多くの関係があります。私は財務大臣でした。税金徴収機関を監督していました。すべてをデジタル化する取り組みを行いました。基本的に、納税者は紙で税金申告書やその他の書類を提出できなくなりました。その過程を経て、ある程度痛みを伴いましたが、非常に素朴な期待がありました。すべてがデジタル化されれば、すべてが非常に速くなるだろうと。
小規模および中規模の企業と話をしたとき、税金還付に40日や50日もかかっているため、運転資金の問題を抱えていることを覚えています。税金徴収機関のチームに圧力をかけましたが、彼らは「3週間以内にはできません。それが最善です。平均は常に40日くらいになります」と言いました。最初は frustrationを感じましたが、その後何が起こっているのかを理解し始めました。
内部の人々と話し、次にコンサルタントに相談し、いつもの suspects に会います。しかし、誰も問題を解決できませんでした。私たちはメキシコのフィンテック法の準備をしていました。フィンテックを促進し可能にする法律を作りたかったのです。サンフランシスコのベイエリアに視察に行きました。そこでスタンフォードの人々のグループと話をする機会がありました。会話の最後に、カジュアルにこの問題について言及しました。彼らはすぐに興味を示し、「私たちが手伝えるかもしれません」と言いました。私がほとんど理解できないことについて話し始めました。
彼らに「これをやるためにいくら請求しますか?」と尋ねました。その時、私には理解できなかった答えが返ってきました。「あなたのデータを共有してくれれば、無料でやります」と言われました。もちろん、それはメキシコの納税者のデータだったので、そのようにはできませんでした。しかし、それが私の興味を引きました。非常に興味をそそられました。
これは2015年だったと思います。そこで私は機械学習というものについて学びました。そして、すぐにそのバグに感染してしまったのです。その後、外務省に移りましたが、まだ機械学習や人々がAIと呼び始めていたものに関連することをしたいと思っていました。
国連に関与してもらおうと試みました。国連と協力し始めました。アレクサンダー、驚くべきことに、これはそれほど昔のことではありません。2017年、今から7年前のこの時期、私はメキシコの外務大臣として国連を回り、国連や他の国々にAIについてのプログラムを持つべきだと説得しようとしていました。本質的にはベストプラクティスと、発展途上国が利用できる知識についてです。
私の直感では、これは重要になる、本当に良いものになる可能性がある、危険な可能性もある、そして発展途上国は理解不足や認識不足のため、大きな不利益を被っています。単なる認識プログラムでさえ、決議案は可決できませんでした。「人工知能」という言葉が含まれていたからです。当時、わずか7年前ですが、国連のコンセンサスは、それは真剣なものではないというものでした。AIについて話すこと、「人工知能」という言葉を使うことは、SF映画からの何かを持ち込むようなものだと考えられていました。『ターミネーター』や『2001年宇宙の旅』のようなものです。それは真剣なものではありませんでした。
興味深いことに、その翌年、私たちは再び挑戦し、決議案を可決することができました。2018年の秋までには、事務総長を含む多くの人々が公にAIについて話すようになっていました。非常に急速に変化し始めたのです。
その後、私の政府での任期が終わり、MITの学長から電話がかかってきました。「ここからAI政策を行いませんか?」と。もちろん、私はイエスと答えました。
素晴らしいですね。あなたは多くのトピックに触れましたが、それぞれについてもう少し詳しく聞きたいと思います。まず、2016年から2017年頃、国連にAIについて少なくとも注意を払うべきだ、あるいは少なくとも決議案で言及することを認めるべきだと説得しようとしたときのことについて教えてください。
興味深かったのは、国連では言葉について多くの交渉が行われるということです。私は同意しませんでしたが、コンセンサスは、AIではなく指数関数的技術についてのみ話すべきだというものでした。それが何を意味するのかはわかりませんが。2017年には、AIではなく指数関数的技術について話すことに合意しました。
実際、それは急速に変化しました。国連は現在、AIについてかなり積極的です。今年の3月に初めてAIに関する決議案を可決したと思います。そしてそれで終わりにするつもりはないようです。あなたはここで先駆者だったのですね。
おそらく私は早すぎたのだと思います。2018年に可決した決議案の影響も、大きな影響はなかったと思います。しかし、今では国連や多くの多国間組織の中心的な焦点になっているのは素晴らしいことだと思います。
そうですね。2017年には誰もAIに関心を持っていなかった、少なくとも政策の世界ではAIに関する政策はなく、誰も政策でAIを気にしていませんでした。しかし、それ以降、状況は変化しました。2017年以降、政策の風景がどのように進化したのか、説明していただけますか?
完全に異なります。実際、何もないところから、多くの人々が参加し、議論や意見の不一致、異なる戦略やアプローチがある非常に活発な分野になりました。全く新しいものが生まれたのです。
政策について考えると、政府は本質的にAIに関して3つのことを行います。まず、彼らは規制者です。法律を作り、法律や規制を施行します。政府と言うとき、私は行政部門だけでなく、司法部門や立法部門を含む広い意味での公共部門を指しています。
第二に、政府はAIの巨大なユーザーです。例えば、サンフランシスコを拠点とするAI企業を考えてみてください。完全にランダムな例ですが、おそらく政府をセクターとして重要なユースケースや重要なクライアントと考えるでしょう。政府がAIの使用について行う決定は、結果として重要です。
第三に、もちろん政府はAIの創造と採用を可能にするために多くのことができます。リソースを確立したり、研究に助成金を与えたり、教育を行ったりすることで。
これら3つの役割があり、現在のAI政策分野で fascinatingなのは、物事をどのように行うかについてのコンセンサスの欠如です。私たちは、政府や政策環境の人々が「これは危険なのか、問題があるのか」を理解しようとするプロセスを経てきました。これはAI原則の時代でした。2018年、19年、おそらく20年頃のことです。OECDが2019年に非常に影響力のある原則を出しました。
そこで、AIには偏見がある可能性がある、AIの結果が説明できない可能性がある、AIが展開されるときにはいくつかのリスクや問題があるということに気づきました。これが初期のプロセスでした。現在は問題が何であるかについてある程度の合意があります。しかし、それ以上のことについては多くの意見の不一致があります。
まず、重要な問題は何かについて、全ての人が同意しているわけではありません。例えば、AI倫理派とAI安全性派の議論があります。一部の人々は、現在のAIシステムですでに顕在化している問題、すでに存在する問題に懸念を持っています。一部の人々は、AIの将来の問題にのみ焦点を当てています。ちなみに、その間に何が起こるかについて考えている人はごくわずかです。だからこそ、準備と、AGI以前についてあなたが行っていることが素晴らしいのです。
しかし、何が重要か、本当のリスクは何か、そしておそらくより重要なのは、それについて何をすべきかについて、多くの議論があります。そして、政策や規制の枠組みの幅広いスペクトルが見られます。
欧州連合や他の場所では、非常に野心的で包括的な規制の試みがあります。一方で、明示的にAIを規制しないと言っている国もあります。イノベーションと競争力を懸念しており、AIを規制しないと言っている国もあります。そしてその間のすべてがあります。
つまり、これが重要であり、政府が積極的な役割を果たす必要があることを人々は理解していますが、それをどのように行うかについては多くの合意がないのです。
はい、そのとおりですね。意見やアプローチの多様性があることは健全なことだと思います。あなたが言及したAI倫理派は、現在の影響、特に正当にも現在の潜在的な害や実際の害に主に焦点を当てています。
そうですね、確かにこれは非常に重要です。私は単に picture を描こうとしていただけです。現在の害や潜在的な害、すでに起こっている実際の害に焦点を当て、それらを防ぐ方法に焦点を当てています。
そして、AI安全性派と呼ばれるものがあり、これはより長期的なリスクに焦点を当てています。あなたが言ったように、私も両者の間にある重要なものについて考えることが好きです。実際、私の準備チームはこれについて考えています。
正直なところ、私がいつも不思議に思うのは、なぜこの二つの間に少し対立があるのかということです。両方の目標が少なくとも互いに両立可能であり、補完的であると考えられるはずです。なぜこのような対立があると思いますか?
リソースの配分問題と注意の配分問題だと思います。AIの倫理的問題、特に発展途上国では非常に重要で危険な問題に懸念を持っている人々は、政策立案者やAI開発者が突然これらの問題に対処することから気をそらされ、遠い不確実な未来について考えることを懸念しています。
一部の人々は、優先順位を設定し、まず現実的で知られている差し迫った問題から始めるべきだと考えています。そして、あまりにも遠い将来、特に不確実な将来について考えることで気をそらされ、問題に適切に対処していないのではないかと恐れています。なぜなら、正確に何が起こるかは誰にもわからないからです。
これは倫理だけの問題ではなく、経済的な問題、AI jobs、独占、金融の安定性など、より差し迫った懸念もあります。私は多くの人々が配分について懸念を持っているのを聞きます。
あなたと同じように、私たちは両方のこと、あるいは3つのこと、4つのことを同時に行うべきだと考える傾向があります。これらの問題はすべて現実であり、これらの課題はすべて現実です。また、機会も非常に現実的です。
だから、私はこの debate を理解し、違いを認識していますが、すべての課題に取り組み続けるべきだと思います。
そうですね、私も常に強調したいのは、ここに現実の課題があるということです。しかし、機会もあります。そうでなければ、なぜ私たちがコントロールしているこの技術を進めるのでしょうか。
実際、あなたは政府がAIに関与する方法について、規制を通じて、ユーザーとして、そしてAIのイネーブラーとしての3つの特徴づけをしました。これら3つのカテゴリーすべてを再検討したいと思います。
規制から始めましょう。現在のAIの規制状況について簡単に概要を説明していただけますか? どの国がこの分野のリーダーなのか、どのような異なる陣営があるのか、そしてどの規制がそれぞれの陣営を代表しているのかを教えてください。
非常に異なるアプローチがあります。例えば、インドや韓国のような国々は、技術に非常に優れており、明示的にまだ規制しないことを決定しています。これは革新の時期であり、新しいものの創造と採用を促進する時期だと考えています。競争力に非常に焦点を当てています。
そして、すでに規制している国々や地域があります。欧州連合は超国家的な組織ですが、すでにルールを作成しています。実際、AIに関する法律を最も早く作成した国は中国です。中国はかなり積極的で迅速にそれを行っています。
EUのような単一の法律でAIを規制する包括的な取り組みとは異なるアプローチを取っています。中国は異なる段階で異なる法律で異なる問題に対処しています。
これら2つの極端があり、その間に規制を検討している国々があります。例えば、ブラジルでは1年以上前から上院でEUの法律とあまり変わらない法律を検討しています。一部の要素ではEUの法律よりも少し厳しいです。
そしてもちろん、アメリカがあります。法律ではない大統領令を除けば、問題について多くの会話があり、超党派のイニシアチブもありますが、まだ実現していません。ワシントンで何が起こるかを予測することはできませんが、ほとんどの人々はその環境で何かを成し遂げるのは難しいと言うでしょう。
要約すると、規制を遅らせることを選択した国々があります。技術を構築し、何が起こるかを見てみましょうというアプローチです。そして、欧州連合のような非常に野心的な枠組みを持とうとしている国々や超国家的地域があります。EUのAI法です。
そして中国があります。ちなみに、彼らの規制は実際にかなり洗練されており、非常に興味深いものです。もちろん、大きな注釈がありますが、それは政府には適用されないということです。これは非常に興味深い違いで、その国の異なる哲学と政治状況を説明しています。実際、彼らの規制はかなり洗練されていると言わざるを得ません。私は印象的だと思いました。
そして、アメリカがあります。私は確かにあなたの意見に同意します。アメリカは何をすべきだと思いますか?
アメリカの大きなリスクの1つは、アメリカが歴史的に非常に分散化されているということだと思います。アメリカの政治文化は真の連邦制です。連邦レベルの行動がないため、すでに州や都市レベルでの規制が見られています。
アメリカでは、規制のパッチワークが生まれるリスクが少しあります。一部の州が物事を許可し、一部の州が物事を禁止するようになります。例えば、コロラド州は数年前に特定の種類の保険引受にAIを使用することを禁止しました。ニューヨーク市は採用のためのAIアルゴリズムの使用を禁止しました。ニューヨーク市ではそれができませんが、ニュージャージーではできます。ニューヨーク市以外ではできます。
連邦レベルの行動がない、または連邦の枠組みがないことは、アメリカの政治的性質のために、一貫性のない、ナビゲートが難しい環境につながる可能性があります。アメリカのどこにいるかによって異なる法律があることになります。もちろん、連邦政府の一部である領域もあります。
大統領令は、ほとんどすべての正しい問題に対処しています。実際、気にすべきことのチェックリストとしては素晴らしいものです。しかし、それは法律ではありません。そのほとんどは拘束力がありません。それは行きたい方向の指示にすぎません。しかし、確かに連邦の枠組みではありません。
連邦の枠組みを持つことは、おそらくこのような一連のルールを持つよりも良いでしょう。
一方、アメリカで起こっていることで、実際に前向きだと思うことがあります。コインの裏側のようなものですが、多くの問題、政策的な疑問、規制上の疑問が、具体的なケースによって答えられています。規制当局、例えばFDA、SEC、FTCが実際に具体的なケースに取り組んでいます。さらに裁判所でも扱われています。
これにより、システムはAIの作り方、AIに入力されるもの、プロセスを規制しようとするのではなく、結果にずっと焦点を当てることになります。欧州の法律を含む一部の法律は、入力に多くの焦点を当てています。
法律がないことで、ルールや先例、さらには教義さえも、結果を追求することから生まれています。
要約すると、正しく理解していれば、アメリカに連邦レベルの規制がないことは、おそらく良いことではないと考えているようですね。なぜなら、異なる、おそらく矛盾するルールや規制のパッチワークが地方レベル、さらには都市レベルで生まれる可能性があるからです。
はい、そうです。EUのAI法についてはどう思いますか?
多くの良い点があると思います。非常に包括的な取り組みでした。しかし、AIが急速に変化してきたため、そのようなものを作ることは課題がありました。最初の草案は2021年4月に公開されましたが、その時点で私たちが今日AIと呼んでいる技術は存在していませんでした。ChatGPTのようなものは存在していませんでした。もちろん、基盤となる技術はすでにありましたし、科学者や開発者は何が来るかを知っていましたが、政治家や規制当局者の頭の中にはありませんでした。
EUの法律は、施行される前に修正された法律です。動く標的のようなものです。また、すべてのことに対して単一の法律を持とうとすることは非常に困難です。AIは汎用技術だからです。
例えば、ハサミという汎用技術について考えてみましょう。ハサミで素晴らしいことができます。料理や衣服作り、手術室で使用されますが、同時に致命的にもなり得ます。人を殺すこともできますし、多くの物的損害を与えることもできます。しかし、ハサミを規制する法律はありませんし、ハサミの緊急の規制の必要性を主張する専門家もいません。
なぜなら、殺人や責任、物的損害に対する法律があり、プロセスがあるからです。ハサミやナイフなどの非常に汎用的な技術が悪用される多くの方法を想像することは非常に困難です。同様に、AIがどのように使用されるかを想像することは非常に困難です。実際、私たちはAIがどのように使用されるかをほとんど知りません。
そのため、AIの作り方や使い方を規制しようとすることは、それが非常に汎用的であるため、問題があると思います。それが欧州の枠組みの課題です。
本質的に、この法律が目指す包括性を真に達成することは困難かもしれないと言っているのですね。彼らもすでにこれについて少し後退し始めているようです。今では、法律の適用方法の詳細を決定する機関を設置することになっています。おそらく、これはその認識の表れかもしれません。
はい、それも興味深い枠組みです。AIの用途は非常に異なる領域に及びます。すでに規制当局がある領域もあります。例えば、医療診断におけるAIを考えてみましょう。アメリカではFDAが医療機器を規制しています。
そして今、別のレイヤーの規制当局が生まれます。彼らは専門家ではなく、医療を理解していません。規制当局間の相互作用、さらには縄張り争いさえも複雑になる可能性があります。
同じことが、輸送、消費者保護、もちろん金融についても言えます。各領域は規制の観点から非常に専門的で、他とは異なります。技術に焦点を当てる横断的な規制当局が、何十年もの間ドメインの専門知識を持ち、各セクターに責任を持ってきた規制当局とどのように相互作用するのか、非常に興味深いです。
あなたは非常に重要な点を指摘しました。多くの人が不思議に思っていることですが、AIを単一のものとして考えがちです。AIは何かのようなものだと。実際はハサミのようなものです。AIを理解するには、特定の領域の文脈でしか理解できないということがわかります。機会は何か、課題は何か、そしてその影響をどのように調整したいのかを決めるのは、そこでのみ意味をなすのです。
おっしゃるとおりです。AIを理解するには、特定のドメインのコンテキストでしか理解できません。その領域での機会や課題を本当に理解できるのはそこだけです。そして、その影響をどのように調整したいかを決めるのは、そこでのみ意味をなすのです。
そうですね。欧州のアプローチにとっては、このニュアンスを適切に認識することがより困難かもしれません。
確かに、欧州のアプローチは、AIをデベートの中心に置き、新興技術に関するコンセンサスを作り出したことを称賛し、感心する必要があります。しかし、誰もAIをどのように規制すべきか本当にはわかっていません。これは非常に初期の試みです。将来的に調整が必要になることは自然なことです。フレームワークがそれを許容することを願っています。
アメリカに話を戻しましょう。この分野でアメリカは何をすべきだと思いますか? 連邦レベルの規制が必要だと言っていましたが、どのような連邦規制のアイデアがありますか?
包括的な水平規制を目指すのではなく、いくつかの問題について連邦レベルの行動が非常に有益だと思います。しかし、私はセクターごとに検討する方が良いと考えています。
例えば、医療分野ではデータ共有が問題です。研究者がより広範で代表的なデータを使用して良いツールを訓練できるようにしながら、プライバシーと患者のデータに対する権利を保護する枠組みを作ることが有用だと思います。これは連邦レベルで行う必要があります。
金融分野では、十分に理解されていない潜在的なシステミックリスクがあり、おそらく行動が必要です。
連邦レベルの行動が必要な重要な領域があります。また、連邦レベルの行動がないと調整の問題が生じる明らかな例もあります。例えば、交通を考えてみてください。車は国中を、さらには国外も移動します。そのため、連邦レベルのルールが必要です。
そして、州の管轄権が非常に無関係な問題もあります。説得に関連するすべてのことがそうです。州や都市の規制の観点から説得を規制しようとすることは、一種の行き過ぎです。
連邦レベルの権限が適切な規制の配分である問題もあります。しかし、単一のAI法を作り、大きな見出しを作ることは、おそらく有用ではありません。セクターごと、さらには問題ごとに連邦レベルの規制を行うことが理にかなっていると思います。おそらく、開発を加速させ、より良い準備を整えることができるでしょう。
準備、それこそが私が気にしているすべてです。準備という言葉を少なくとも10回は言おうと思っています。すでに3回言ったと思います。
はい、ポッドキャストに出演する取引の一部として、少なくとも10回は言うことを期待しています。
わかりました。アメリカの規制をより分野別で成果主導型にするためのアイデアや、少なくともそのようにするべきだという考えがあるようですね。技術の具体的な内容や入力よりも、結果に焦点を当てることが非常に重要だと思います。
素晴らしいですね。では、アメリカや国際的に、現在考慮されていないが、起こるべきだと思う規制はありますか? 本当に考え始める必要があるが、まだ話題に上っていないと思うことはありますか?
AIについての認識は2017年とは全く異なり、今では非常に高まっています。ほとんどすべての主題がどこかで議論されていると思います。しかし、州や都市が独自のことを行うと生じる可能性のある規制の断片化の問題は、グローバルでも起こり得ます。
すべての国が異なることを行うのは非常に困難です。なぜなら、AIの展開は非常にグローバルだからです。世界中の開発者が、他の場所で開発されたモデルを使用したり、どこか他の場所にあるAPIを通じて利用したりしているのを見ています。
AIのサプライチェーンは非常にグローバルです。地域や国の視点からそれに対処しようとするのは非常に困難です。しかし、最も欠けている大きな部分は、それに関する国際的な合意です。
私たちはまだ非常に初期段階にあります。国連での対話はもちろんありますし、アフリカ連合も地域として何かを試みています。EUの法律を中心に、より広範な取り組みも行われています。しかし、私たちはその点ではまだはるかに遅れています。安全性や将来についてより深く考えるためには、グローバルな枠組みが不可欠だと思います。
実際、それが私の次の質問でした。OpenAIを含む一部の会話では、AIの安全性について考え、この技術がグローバルに安全に展開されることを確認するための国際機関の必要性が話題になっています。このような条約や国際機関を持つことについて、どのようにお考えですか?
それは非常に必要とされていますが、実現する可能性は非常に低いと思います。過去数十年の最近の経験を振り返ってみましょう。私が外務大臣として誇りに思っていることの1つは、核兵器禁止条約に署名したことです。その条約はありますし、その合意を推進した組織さえノーベル賞を受賞しました。
しかし、それは特定の国々が署名した条約にすぎず、その環境での主要なプレイヤーはその条約に署名していません。地政学と国際競争の現実により、これを実現することは非常に困難です。
これらは、多国間の枠組みを通じて実現することが非常に非常に困難な問題です。しかし、それが私たちが最も必要としているものです。
この問題は3つの方法で考えることができます。すべての人を含める方法があります。国連は自然な場所で、約200カ国が参加しています。その一部のサブセット、おそらく同じ考えを持つ国々を考えることもできます。あるいは、二国間協定を考えることもできます。例えば、中国とアメリカのAIに関する協定やAI条約などです。
現在の政治環境ではそれは難しいと思いますが、これらの枠組みのいずれかが大いに役立つでしょう。
本質的に、非常に必要とされているが楽観的ではないと言っているのですね。では、代替案は何でしょうか? 特に、イギリスとアメリカにはAI安全研究所がありますが、これらの発展についてどう思いますか? これは正しい方向への一歩だと思いますか?
これらの取り組みは間違いなく正しい方向への一歩です。なぜなら、思考を進め、単に認識を高め、議論の焦点を絞るからです。それが実際の拘束力のある規制や国際条約に翻訳されるわけではありませんが、これらの努力は問題を枠組みし、人々が選択肢を理解するのに非常に役立ちます。
また、合意がなくても行動に影響を与える可能性があります。単に会話を持つことでさえ、大きな成果になる可能性があります。主要な国々の適切な人々がこれらの問題について話し合うことは、最終的に合意がなくても、重要な一歩となるでしょう。
AI安全研究所について好意的に思っていただいてうれしいです。私も大きなファンですが、もちろんあなたが言うように、これは問題を解決するものではなく、解決策を見つけるための始まりに過ぎません。
他の発展として、私が非常に深く関与していたものがあります。企業自身が安全性について考えるためのフレームワークを推進しています。Anthropicは責任あるスケーリングポリシーを推進し、OpenAIでは準備フレームワークを持っています。このような発展についてどのように考えていますか? どのような方法で、安全性について考えるこの全体的な取り組みを前向きに進めることができると希望していますか?
二つの反応があります。まず、非常にポジティブです。境界を押し広げている主要企業が行動を起こし、それについて考えていることは非常に重要だと思います。
しかし、二つ目の考えとして、私は経済学者なので、結局のところ企業は価値の最大化と利益の最大化に駆り立てられていると考えます。そのため、規制と国家が果たす役割があると思います。歴史を通じて、自主規制だけで十分であることはほとんどありませんでした。
経済学が大きな部分を占めていると思います。これらの取り組みは、政府の行動によって補完されるべきです。置き換えられるべきではありませんが、それだけでは常に十分ではないと思います。
同意しますが、あなたが言った「これらは利益を最大化する企業です」という点について少し指摘したいと思います。少なくとも技術的には、そうではありません。Anthropicは長期的な利益を追求する企業であり、OpenAIは有名な非営利構造を持っています。
私はこれら2つの組織の企業構造を理解していると主張するつもりはありません。あなたの説明に任せます。しかし、経済学者として、私はそれについて少し懐疑的です。おそらく、それが違いを生む要因になることを願っています。
経済学者は一般的に懐疑的な傾向がありますね。それは仕事の一部です。
規制について多く話しましたが、政府のAIに関する他の側面、特に政府がAIのユーザーであるという点についても触れました。税金申告がAIによって変革的な効果を持つ可能性がある分野の1つかもしれないと言及しましたが、他にはどのような分野がありますか?
政府は目覚めの瞬間を迎えています。ChatGPTの効果があり、政府のAI採用には3つのレベルがあると思います。
第一に、政府の従業員が有機的にこれらのツールを使用し始めています。政府が直面する課題は、これらのツールを仕事で使用する際にどのように規制すべきか、ポリシーを持つべきかということです。
第二に、インターフェースとしてこれらのツールを使用することです。例えば、チャットボットを使用してサービスを提供したり、自社のデータベースから情報を取得したりすることです。これらは本質的にLLMと連携し、カスタマーサービスやシチズンサービスをより良くするためにカスタマイズしています。
第三に、大きな機会は、ワークフローを変更することです。これらのツールと機能を使用して、言語認識や画像認識などの技術を利用し、ワークフローを短縮し、より予測可能で確実なものにし、腐敗に対する脆弱性を減らすことができます。
例えば、建設許可を考えてみましょう。おそらく聴衆にとって最も興味のないトピックかもしれませんが、建設許可のプロセスを90日から3日に短縮できれば、それは経済にとって、投資を誘致するために非常に良いことです。
速くするだけでなく、より安価にし、より安全にすることもできます。人間の介入が少なくなるため、エラーの機会や腐敗の機会が減ります。これは世界中のすべての政府、すべての管轄区域で関連する問題です。
福祉や政府サービス、社会プログラムの分配も、非常に迅速化され、より効率的になる可能性があります。税金はもちろん例です。私はいつも税金の話に戻ってしまいますが。
政府はより効率的で、より透明になり、官僚制をより信頼できるものにすることができます。しかし、ここで問題があります。これには少し起業家的な考え方が必要です。それは時々、政府にとって困難です。
政府が実験し、おそらく投資する必要があります。しかし、政府は常に投資に関して制約があります。政府の調達プロセスは、「この実験的なものを試してみましょう。誰も使ったことがないものを私たちが最初のユーザーになります」というようなものには全く向いていません。政府は正反対のことを求めます。最初の質問は「これはどこで機能しましたか?」「なぜこれが最良の選択肢ですか?」「これは費用対効果が最も高いですか?」です。
最初のユーザーになってソリューションを開発し、希望的にはそれらのソリューションを個々の政府のためのカスタムサービスではなく製品にするには、このギャップが非常に興味深い課題です。しかし、それは起こると思います。すぐには起こりませんが、もし5年後、10年後にこの会話を再び持てば、政府の姿は全く異なっているでしょう。
それは良い考えですね。政府での実践的な経験が豊富な人がそう楽観的であれば、私も楽観的になります。
最初は非常にフラストレーションがたまると思います。多くの起業家精神を持った人々が試みて失敗するでしょう。しかし、最終的にはそれは起こるでしょう。政府サービス全般でAIを使用することには大きな可能性があります。
素晴らしいですね。政府の役割として、規制者としての役割、ユーザーとしての役割について言及しましたが、3つ目の役割もあると思います。それは技術のイネーブラーとしての役割です。現在、AIとAIの開発は本質的に産業界によって、また民間資本によって推進されています。政府がここで果たすべき役割があると思いますか?
確かに大きな役割があります。まず第一に、教育です。AIに非常に優れた人々のほとんどは、世界のどこかで政府の支援を受けて教育を受けました。アメリカも含めてです。AIリテラシーだけでなく、政府は教育において大きな役割を果たしています。それが重要な部分です。
AIの多くの開発も、政府の研究開発投資にさかのぼることができます。それは続ける必要があります。現在、フロンティアは民間企業によって押し進められていますが、基礎研究、すなわち行われている時点では明白な応用がない研究に対する公的資源の必要性は重要です。
これを継続させるだけでなく、AIをより良く、より整合性のあるものにするためのツールも必要です。基礎研究は非常に重要です。
一部の政府は実際に起業を促進しています。アメリカの政府はそうではありませんが、特にアジアでは多くの政府が非常に起業家的で、積極的にスタートアップに資金を提供しています。中国はその一例です。
そして、現在非常に顕著になっているもう一つの重要な要素があります。それは、エネルギーを含むインフラ層全体です。新しいAIシステムのコホートを訓練するために必要なエネルギー量は、大幅に増加する可能性があります。これは民間セクター単独では解決できない問題です。
基本的なインフラについて話しているからです。世界中の国によっては、政府が発電を所有している場合もあります。これは政府が積極的に投資する必要がある非常に重要なイネーブラーです。
世界中の多くの政府はすでにこのメモを受け取り、非常に積極的になっています。
本質的に、AIを開発するために必要な計算を支えるエネルギー、エネルギーインフラを構築し、可能にすることについて言っているのですね。
その通りです。一部の政府は、アメリカのCHIPS法のように、チップの開発も財政的に支援しています。エネルギーだけでなく、ボトルネックがどこにあるかを考えると、エネルギーが最有力候補だと思います。そしてその問題は、政府の行動なしには解決されないでしょう。
完全に同意します。これは実際に、私たちが長く議論したいと思っていた別のトピックにつながります。AIの地政学です。私たちは企業が技術を開発し、競争することについて話しているのではなく、国々が少なくともAIを動かすために必要なエネルギーに投資していることについて話しています。
今や私たちは地政学の舞台にいます。AIの地政学は存在しますか?そしてもしそうなら、その状況を説明していただけますか?
そうですね、それはかなり明白です。AIに関して世界を見る方法には異なる要素があります。AIのメーカーとテイカーとして国々を考えることができます。
AIを作っている国はそれほど多くありません。明らかにアメリカと中国です。興味深いことに、おそらく4年前は、これら2つのAI超大国があるというのが一般的な認識でした。実際、「AI超大国」というタイトルの非常に人気のある本がありました。
そこでの考えは、AIにおいてアメリカと中国が互角だということでした。現在、その認識は必ずしもそうではありません。おそらく、アメリカ企業のおかげでアメリカが少し先行しているという認識があります。また、アメリカの政策のおかげで、中国を含む一部の国々がAIの基本的な入力を得ることが困難になっているからです。
もう少し詳しく説明していただけますか?中国がAIへの入力を得ることが困難になっているという意味は何ですか?規制のためですか?
そうですね。例えば、現在、中国企業がNVIDIAのGPUを入手することは簡単ではありません。AIに使用される非常に有名な主要なチップです。それはNVIDIAの商業的な決定ではなく、アメリカの政策によるものです。NVIDIAはその問題に適応しています。
これは、中国がAIを開発できないということを意味するわけではありません。おそらくあなたが専門家ですが、それはより多くのリソース、より多くの努力が必要で、それらのフロンティアチップなしでやろうとすると非常に非効率的になります。
また、他の規制もあります。例えば、リソグラフィツールがあります。ASMLという会社がリソグラフィを行っています。チップを作るためのツール、チップを作るためのツールもアメリカの政策による制限された環境下にあります。
したがって、中国は現在これらの逆風に直面していますが、また、この素晴らしい進歩がアメリカで起こったという事実もあります。フロンティアに向かって推進しているのはアメリカの企業です。
制裁だけの問題ではありません。時々、市場経済でこのようなイノベーションの瞬間が見られ、アメリカはそのような瞬間の1つを経験しています。
しかし、AIの地政学における主要な会話は、中国とアメリカを中心に行われています。他の関連する国々もありますが、これが主要な緊張の軸です。
DCでの多くの会話は中国を中心に展開しています。あなたはワシントンの公聴会に出席したことがあると思いますが、中国の問題は常にそこにあり、かなり超党派的です。多くの懸念があります。
アメリカのAI政策、リソース配分、規制、軍事でのAIの使用など、すべてがこの地政学的文脈で枠組みされています。中国で何が起こっているかについてはあまり詳しくありませんが、おそらくほぼ同じだと思います。
これが地政学的AIの最初の軸、アメリカと中国の間の重要な関係です。しかし、他のプレイヤーもいます。私はいつも発展途上国について非常に懸念しています。実際にこの惑星の大多数の人々が住んでいる場所です。
彼らは、どのような技術が彼らのところに来ようとも、それを受け入れる立場に置かれています。ちなみに、AIが最も大きな影響を与える可能性がある場所の一部でもあります。
医師がいない場合、非常に優秀な医師がいる場合でも、AIが診断を行うことの利点はありますが、すでに非常に優秀な医師がいます。しかし、全く医師がいない場合、その問題を助けるAIツールを持つことは重要です。
発展途上世界での影響は非常に興味深く、有望である可能性があります。しかし、これらの国々は本質的に海外から技術を受け取っており、関係は非常に非対称的です。技術を受け取る側の政府は、どのような種類の技術を受け取っているかについてほとんど影響力を持つことができません。
多くの興味深いトピックに触れました。1つずつ再検討させてください。まず、アメリカと中国の緊張関係、あるいは一部の人が言うライバル関係について話しましょう。
明らかにライバル関係のラインははっきりしています。より大きなモデルを構築できるか、より多くのGPUを手に入れられるか、そしてあなたが議論した輸出管理が関係しています。
協力の余地はありますか?そしてもしあるとすれば、何についてですか?
協力の余地は非常にあると思います。まず、科学的な交流から始めることができます。数年前からほとんどの科学的な会話が凍結されたことは驚くべきことです。アメリカの科学者と中国の科学者が互いに学び合う非常に流動的な会話から、現在はそのごく一部に縮小されています。
自然に、この技術がどのように進化し、世界にどのような影響を与えるかを理解することに関する多くの問題について、より多くの人々が意見を交換し、アイデアを交換することは協力の分野となるべきです。
また、地政学的競争のために取り組んでいない問題もあります。両側が特定の問題に取り組むことに合意すれば、それは協力の機会になります。中国とアメリカの両方がAI安全性や特定の問題について2、3のことを一緒に行おうと合意すれば、そこに大きな潜在的な合意の可能性があります。
しかし、言うは易く行うは難しです。ライバル関係だけでなく、非常に深い政治的・文化的な違いもあるからです。例えば、誤情報と説得の問題を考えてみましょう。技術的な問題は両国で同じですが、各政府、各政治システムがそれをどのように考えるかは根本的に異なります。解決しようとしている目標は完全に異なります。
すべての問題が簡単に扱えるわけではありませんが、実際に一緒に行う理由がない問題がいくつかあるはずです。地政学的競争の要素を取り除くことができれば、本当の進展を遂げることができるでしょう。
安全性の文脈で正しく理解していれば、科学的な協力については、科学者として私はそれに賛成です。しかし、経済学者としてもこの点で現実主義者であり、これは技術についてのリーダーシップに非常に深く結びついています。それを実現するのは非常に難しいでしょう。
しかし、安全性については確かに同意します。これは両国が協力する可能性のある領域です。なぜなら、どちらの国も望んでいない明確な一線があるからです。AIによって引き起こされる壊滅的な事態を望んでいません。本当に危険なことを望んでいません。両国がそれに同意しています。
もちろん、問題は核兵器のアナロジーと同様に、両側が信頼し合い、何が一線を越えることなのかについて本当に合意し、それを守るだけでなく、相手側も守っていると信頼できるようにするにはどうすればよいかということです。
核の枠組みとのアナロジーをよく耳にします。それは非常に自然なものです。しかし、AIは汎用技術であり、核兵器は異なる用途に使用できる核エネルギーがありますが、AIほど幅広い応用範囲を持つ汎用技術ではありません。
そのため、そのような枠組みを作るのははるかに困難です。しかし、特に安全性に関しては、いくつかの領域で一度座って話し合えば、「これについては合意しよう」と言えるかもしれません。
もちろん、条約に関する通常の問題に直面します。誰が監視し、誰が執行するのか。グローバルな政府はなく、グローバルな執行機関もありません。そのため、利益は常に限られています。
しかし、アメリカと中国の間でこれらの会話を持つことで、AI安全性のリスクに対処するためのより良い立場に立てるでしょうか? 答えはイエスだと思います。それが限界的な利益なのか、重要なゲームチェンジャーとなる利益なのか、おそらくより限界的な側に近いでしょう。しかし、それを試みない理由にはなりません。
素晴らしい指摘です。地政学的な図に戻りましょう。あなたはメーカーとテイカーがいると言いました。今のところ、2つのメーカー、中国とアメリカを特定しました。他にメーカーの端にいる、あるいはメーカーである国はありますか?
そして、メキシコやポーランドのような国々、つまり超大国ではないかもしれませんが、比較的大きな経済と賢い人々、そしてここで何かをする能力を持つ国々の役割は、この地政学的な図の中でどのようなものでしょうか?
より小さいが、明らかにメーカーのカテゴリーに属する国々があります。アメリカや中国のレベルではないかもしれませんが、例えばシンガポール、韓国、イスラエルは信じられないほどの能力を持っています。素晴らしいことを行うスタートアップがあります。
そして、メーカーになるかテイカーになるかを模索している国々があります。欧州連合はそのカテゴリーに属すると思います。最近、フランスのMistralAIについて素晴らしいニュースがありました。突然、ほとんど青天の霹靂から、オープンソースモデルを非常に迅速に作成する非常に有能な企業が出現しました。
しかし、規制の枠組みがメーカーの立場に挑戦しているのも見られます。欧州がメーカーになるかテイカーになるかは、まだ決定されていません。それは多くの要因に依存するでしょう。
残念ながら、ラテンアメリカ、アフリカ、東ヨーロッパのすべての国々は、明らかにメーカーのカテゴリーにはいません。つまり、テイカーのカテゴリーにいます。これらの国々にとって、政策の課題は非常に異なります。
この絶対的に変革的で、素晴らしい可能性も危険な可能性もある技術をどのように扱うのか、コントロールできない技術をどのように扱うのかということです。
再び非常に重要な点を指摘しました。特にグローバルサウスの役割についてです。現在、テイカーの立場に追いやられているとすれば、それは将来を形作る正しい方法とは思えません。
多くの課題がありますが、質問は、プレイフィールドを少し平準化し、AIの利益を分配する方法はあるでしょうか? AIは多くの利益をもたらすと予想されていますが、メーカーがより特権的な立場にあるため、それらの利益が不均等に分配される可能性があります。利益をより広く分配するために、私たちができることや、すべきことはありますか?
まず、発展途上国の国々はこの課題に気づき始めています。多くの国々が現在、データ主権政策を開発しようとしています。国内でのデータローカライゼーション、さらにはコンピューティングも試みています。
先日、NVIDIAは多くの国家主権が顧客になっていると話しました。国々は自国の領土内にコンピューティングを持ちたいと考えています。それはより良い立場にあると思いますが、十分ではないかもしれません。
なぜなら、GPUクラスターと非常に賢い人々がいたとしても、国がAIの上に構築する基本モデルを開発する可能性は非常に低いからです。現時点では非常に可能性が低いように見えます。
むしろ、あなたの国がグローバルなサプライチェーンの受け手側にあることを理解し、それとどのように相互接続するか、接続の結果を検査するか、そしてあなたの国に上流層を供給しているプロバイダーに何を要求できるかを考える必要があります。
それはより輸入管理に似たものになります。国々はより馴染みがあります。しかし、残念ながら、多くの国々がこの問題をこの枠組みで考えているのを見ていません。
データを持つことに多くの重点が置かれていますが、おそらく自分たちのAIを行うことができるという意図や錯覚があります。代わりに、おそらくファインチューニングを行い、輸入されるツールの上に構築することを認識する必要があります。
正しく理解していれば、小さな国々にとって、おそらく正しい本能は主権を追求することだと言っているのですね。本質的に、その国で生成されたデータはその国に留まるというデータ主権ルールを持つことです。データがAIへの非常に重要な入力であることを知っているからです。
そして、もう一つは計算の主権です。本質的に、自国内に計算能力も持ちたいと考えています。そうすれば、少なくとも原則的にはモデルをトレーニングする能力があります。
しかし、現在のAIの状況では、Google、OpenAI、Anthropic、現在はFacebookまたはMetaによって開発された大規模な基本モデルがあり、小さな国が独自のバージョンを構築することは明確ではないと指摘しています。
おそらく、他の場所から基本モデルを再輸入することになり、そこで問題となるのは、この輸入管理をどのように設定するかということですね。
はい、その通りです。一部の人々は、オープンソースがあるので、その議論は必ずしも正しくないと言うかもしれません。これらの国々はオープンソースモデルと協力でき、他の誰かのAPIや何かに依存する必要はありません。
しかし、それが解決策であれば、発展途上世界はオープンソースモデルでのみ作業することに制限されることになります。オープンソースモデルが最終的にクローズドソースモデルと同じくらい良くなるという考えに賭けていることになります。これは非常に不確実な主張であり、疑問の余地がある主張だと思います。
特定のタスクや特定のことについては、オープンソースモデルを使用し、計算とデータを自国に保持することは完全に問題ありません。しかし、難しい問題は、最先端のAI、今日知られているものよりもすぐに非常に優れたAIの機会をどのように活用するかということです。
その技術の利点を、安全で国益に沿った方法で自国にもたらすにはどうすればよいでしょうか? 唯一の方法は、基本モデルのプロバイダーと対話を行い、彼らの利用規約を理解し、政府としてどのような相互作用ができるかを見ることだと思います。
「あなたは特定の国に来ようとしています。それは結構です。歓迎します。ここにいてほしいです。しかし、ルールは何ですか? 例えば、責任をどのように割り当てますか? どのような保証を提供できますか? どのような警告を提供できますか? 私たちが間違ったことをしているのを見たときに、どのようなコミットメントをしますか? 私たちを助けてくれますか? それとも、それは私の問題ではないと言うだけですか? 私はあなたに基本的な知能を与えただけで、あなたがしたことはあなたがしたことだと」。
テイカー国の政府と基本モデルの開発者との間に作業関係を確立することが合理的なアプローチだと思います。
このように考え始め、行動を起こしている国を見たことはありますか?
いいえ。
では、楽観主義者として、おそらくそれはまだ来ていないのかもしれません。おそらく、1、2の例を思いつくかもしれません。しかし、現在の基本モデルのサプライヤー、例えばAnthropicやOpenAIとの関係は、政府に関連することを行うために彼らの能力を使用することについてのものです。
しかし、彼らの能力を自国に展開する際のゲームのルールは何かということについてはまだありません。おそらく、ツールの適用を開始すれば、何が重要で、何に注意を払うべきかについてより良い理解が得られ、そこから始まるかもしれません。
そうですね。この会話は不可欠だと思います。なぜなら、発展途上世界はオープンソースだけを使用すべきだと言うのは、一種の地政学的差別のようなものだからです。
完全に同意します。この点について反論しようとさえしません。オープンソースには平準化の特性がありますが、常に最先端のオプションになるとは限らない他の理由もあります。現在は明らかにそうではありません。
素晴らしいです。少し話題を変えて、MITでの時間について話しましょう。政府での素晴らしいキャリアの後、当時MITの学長だったラファエルから電話がかかってきて、MITに来ることを決めました。なぜですか?
間違いなく、ラファエルは素晴らしい人物です。私も彼が頼むことは何でもしたいと思うでしょう。しかし、それでもなぜですか?
まず、私は失業していました。仕事を探し始めていたところでした。MITがドアをノックしてくれたとき、ノーと言うのは非常に難しいです。それは魅力的な場所です。私は世界で最も優れた頭脳の一部がいる場所だと思っています。
政策、政府、AIの交差点についてもっと学びたいと非常に興味をそそられました。それは難しい決定ではありませんでした。
これは、私がよく考える別の質問につながります。MITのような場所や学術機関は、AIの全体像の中でどのような役割を果たすべきでしょうか? 技術だけでなく、AI政策の文脈でも、あなたの考えを聞かせてください。
まず、MITやアメリカおよび世界の他の学術機関には、信じられないほどの便宜力があります。これらは科学者、開発者、企業、政府を一堂に会させ、会話を生み出すことができる素晴らしい場所です。
第二に、MITのような場所はAI政策研究を行うのには適していないかもしれませんが、政策に関連する研究を行うのには非常に適していると思います。それは今起こっています。5年前と比べて、ごく一部の例外を除いて、ほとんどの科学者は政策課題にほとんど興味を持っていませんでした。今では、それははるかに一般的になり、政策に関連する研究が多く行われています。
しかし、より意図的で調整された、そしてより多くのリソースを割り当てることで、より大きな影響を与えることができるでしょう。私をSchwarszman 計算機科学カレッジに引き付けたのは、研究所全体からリソースを引き出し、これらのコラボレーションを実現し、関連する問題にリソースを割り当てるという約束でした。
それは非常に有望だと思います。すべての学術機関が異なる方法を試みていますが、おそらく私が望むほどのペースではありません。私は焦っているからです。
残念ながら、おそらくスケールの問題のため、学術界はフロンティアの進歩が起こっている場所ではありません。そのため、政府は学術界だけに頼ることはできませんが、企業と対話する際に学術界を味方につけることは非常に有益です。
MITのような場所、つまりAIにおける最高かつ最も優れた頭脳の一部は、企業と政府の間のこの対話において信じられないほどの会話のパートナーになることができると思います。
本質的に、学術界の便宜力の1つは、政府、市民社会、産業界から人々を集め、AIの望ましい未来とそれを実現する方法について重要な会話を行うことだと言っていますね。
もう1つは、彼らが実際に技術を開発していることです。確かに非常に重要な技術を開発していますが、確かにこれらの巨大な基本モデルは構築していません。しかし、彼らが追求できる他の重要な技術はたくさんあります。
また、あなたが言ったように、産業界との会話を行う際に、信頼できる専門家として一緒に連れて行くのに適していると。これがおおよそ正しいでしょうか?
その通りです。科学者、特にコンピューターサイエンスの科学者は優れた問題解決者です。政府のユースケースについて考えるコンピューターサイエンティストを持つことは、頻繁に起こります。
おそらく科学者は、これらの問題に自然に引き付けられるとは思いません。私の政府の建設許可の例に戻りますが、これに魅了されるとは思いません。
これらの非常に優れた頭脳の一部が政府関連の問題に取り組むための枠組みを提供することも、非常に興味深い貢献になる可能性があります。
確かに、そしてこれはおそらくすでに政策立案者への良いヒントです。彼らは確かにAIについて考え、気にしていますが、この技術の理解にはまだギャップがあると思います。
政策立案者について考えるとき、彼らがAIについて十分に理解していないかもしれないが、理解すべきだと思うことは何ですか?
人々は今日あるものと、遠い将来にあるものに固執する傾向があると思います。現在、政府の多くの人々はLLM（大規模言語モデル）と、LLMができることについて話しています。特定の機能について話していますが、これがどこに向かっているかについてあまり考えていません。
AGIやスーパーインテリジェンスといった道の終わりではなく、近い将来に起こり得ることについて、政府がもう少し理解することは大きな違いを生むと思います。そうでなければ、現在の機能にオーバーフィットしてしまう可能性があります。
科学者、企業や学術界のフロンティアにいる科学者と話をして、これがどこに向かう可能性があるかを理解することは非常に有用でしょう。政治家や規制当局者、政策立案者がそれを十分に行っているとは思いません。
彼らが消費する情報の多くは非常に後ろ向きです。科学者と話をするための確立されたメカニズムはありません。もちろん、知的財産の問題や競争の問題はありますが、起こっていることの端に少し近い会話を持つことは本当に重要になる可能性があります。
現在の状況に過度にフィットした政策を望んでいません。これらの状況は非常に急速に変化するからです。
そうですね。政策立案者はAIに注目していますが、主に既に起こったことを消費しているだけで、これから起こることについて十分に考えていないと言っていますね。
正直なところ、私はAI開発の中心に非常に近い立場にいますが、それでも時々驚かされます。通常、開発そのものには驚きませんが、タイムラインには驚きます。
2015年にAIと初めて出会ったときに戻りましょう。バグに感染したと言いましたが、物事がこれほど速く、AIがこれほど大きくなるとは想像しましたか?
それは十分に可能だと思いましたが、こんなに短いタイムラインは全く予想していませんでした。今日我々が目にしている実際の能力が世界中に展開されるのを見ることを期待していませんでした。
私たちはとても早くそれに慣れてしまいますが、今日AIで見ているものは驚くべきことです。これがこんなに早く起こるとは予想していませんでした。
ちなみに、私も同じです。人間は指数関数的な技術の進歩を予測したり本当に予期したりすることが得意ではないと言いましたが、まさにそれを目にしています。国連は最初からこれが指数関数的な技術だと正しかったのです。
ペース以外に、AIの発展について最も驚いたことは何ですか?
これらのものがなぜ機能するのか本当に理解していないという事実は、魅力的で、怖く、そして驚くべきことです。
先日、Yannlecunが言っていたのを聞きましたが、1800年にアレッサンドロ・ボルタが電池を発明したとき、彼はなぜ電池が機能するのかを説明しましたが、それは完全に間違っていました。電池の機能を実際に理解するのに60年かかり、マクスウェル方程式にたどり着きました。
人類は完全に理解していないものを発明することがよくあります。単純化して技術的に言えば、私たちは基本的に1958年のRosenblattの発明であるパーセプトロンを拡張し、それを限界まで押し進めています。
その間に多くの革新があったことは認めますが、この単純化されたニューラルネットワークのバージョンを大きく、非常に大きくするという考えだけで、これらの信じられないほど複雑なシステムを得て、これらの驚くべきことができるようになったという事実は、私には信じられません。
私も同感です。では、別の質問をしましょう。AIが今のところ達成できていないと思うことは何ですか?
発展途上世界に戻りたいと思います。約束されていたが、まだ本当に起こっていないことがたくさんあると思います。
例えば、金融包摂があります。数年前、AIが代替データを処理できるようになれば、つまり信用報告書だけでなく、信用報告書さえ存在しない管轄区域では、ソーシャルメディアやその他の種類の情報を通じて、誰がローンを返済するかを予測するモデルを訓練できるという話がたくさんありました。
これは金融包摂にとって信じられないほどの差別化要因になるでしょう。多くの銀行口座を持たない人々が実際に銀行サービスを受けられるようになります。これは非常にゆっくりと起こっていますが、コンセプトから実際にスケールでソリューションを展開することは非常に困難です。
時々、私たちは展開というあまり面白くない作業について非常に素朴で軽視しがちです。それは非常にフラストレーションがたまる可能性があり、約束の一部はまだ実現されていません。
例えば、ヘルスケアについても考えることができます。何年も前から、新聞の一面で、X線やMRI、超音波画像から肺がんを検出するのに非常に優れたアルゴリズムについて見てきました。その可能性はありますが、まだ世界を変えているわけではありません。少なくとも今のところはそうではありません。おそらく将来的にはそうなるでしょうが、長い時間がかかっています。
規模で実際に展開する方法、現実のものにする方法のニュアンスは大きく過小評価されていると思います。
AIとこの変化、私たちが経験しているAI革命について考えるとき、最終的にそれは私たちにとって良いことになると思いますか、それとも悪いことになると思いますか?
私は楽観主義者で、本当に良いものになる可能性があると思います。しかし、誰も知りません。私たちには分かりません。
これを適切に表現することはできませんが、現実は不確実性です。これが起こるだろう、これは破滅的なシナリオだろうと主張する人には挑戦します。何が起こるかを正確に知っていると主張することには非常に慎重であるべきだと思います。
しかし、私の感覚は、おそらく私の性質上、より楽観的です。これは良いことの方が悪いことよりもはるかに多くなるだろうと考える傾向があります。
では、最後の伝統的な質問です。AIに関して、個人的に最も期待していること、または最も期待していないことは何ですか?
実用的な観点からは、より複雑なAIの展開、より多くの作業が必要で、より多くの投資が必要ですが、産業界や政府のワークフローを変革できるものに本当に期待しています。それが起こるのを見るのに非常に興味があります。そしてそれを実現するための経済学とインセンティブは何なのか。これは技術的な問題と同じくらい経済学の問題です。
しかし、より好奇心の観点からは、これがどこに向かうのかを見たいです。スケーリングが答えで、単にこれらをより大きくすることでAGIやその先に到達するのか、それとも限界があって、何か根本的なイノベーションが必要になるのか。それは私にとって、私たちの時代の最も魅力的な質問の1つ、おそらく技術における最も魅力的な質問だと思います。
良いことだけを挙げたようですが、それらが私がより興味を持っていることです。
本質的に、これがもたらす新しい知的挑戦を楽しみにしているのですね。
はい、間違いなくそうです。しかし、実践的な機会と実践的な課題にも注目しています。低hanging fruitを超えて展開に向かうこと、利益が大きい可能性がありますが、何かが起こる必要があります。インセンティブが作られる必要があり、起業家的な要素、法律の変更、または会社が作られる必要があります。それに非常に魅力を感じています。
ルイス、これは魅力的な会話でした。準備という言葉を10回ではなく4回しか言及しなかったことを指摘しなければなりませんが、それは別の機会に修正する必要がありますね。
ありがとうございます、アレクサンダー。これは素晴らしいです。このポッドキャストは大きな影響を与えるでしょう。
そう願っています。少なくともそれが意図です。今日は、AIについて深く考え、技術としてのAIが私たちにとって何を意味するか、そしてそれがどのように政府を変革し、政府が何をすべきかについて考えた元政策立案者であるルイス・ビデガライとお話しする機会がありました。
私と同じくらいこの会話を楽しんでいただけたなら、このエピソードを友人と共有し、購読して、フィードバックをコメントで残してください。ありがとうございました。
コメント