こんにちは皆さん、イン・グッド・カンパニーへようこそ。今日は本当にエキサイティングなゲストをお迎えしています。アンスロピックのCEOで共同創業者のダリオ・アモデイさんです。ダリオさんはAI業界のスーパースターで、チームと共に最高レベルの言語モデルの1つであるクロードを開発しました。そして、アマゾンやグーグルから出資を受けています。
ダリオさん、あなたはAIの安全性と倫理の分野で主導的な立場にありますね。休暇中にもかかわらず、ここに来て話をしてくれてありがとうございます。
「お招きいただきありがとうございます。」
さて、AIの最新のブレークスルーは何でしょうか?
「はい、いくつか話せることがあります。1つは、AIのスケーリングトレンドが続いているということです。今後1年で、より大規模で強力なモデルが登場し、より大きなタスクをこなせるようになると思います。実際、このポッドキーストが公開される頃には、アンスロピックから新しいモデルがリリースされており、おそらく世界で最も知的で強力なモデルになっているでしょう。
しかし、私が特に興奮しているのは、それと並行して開発している分野です。それはモデルの解釈可能性、つまりAIモデルの内部を見て、なぜそのような決定を下すのかを理解する能力です。この分野は数年前まで主に研究分野でしたが、今まさに実用化され始めています。これは非常にエキサイティングな分野だと思います。」
それはなぜそんなに重要なのでしょうか?
「今日のAIモデルが行うことを見ると、モデルがなぜそのような行動をとるのかを理解できないことがよくあります。先ほど昼食時に誰かと話していたのですが、例えば、ある金融データを使って何が起こるかを予測するためにAIモデルを訓練したいとします。過去のデータで訓練すると、モデルがそれを暗記してしまう可能性があります。なぜなら、基本的に未来を知っているからです。
この場合、解釈可能性によって、モデルが質問の答えを推論しているのか、それとも答えを暗記しているのかを区別できるかもしれません。同様に、モデルが特定のグループに対して偏見を示すように見える場合、モデルの推論を見ることができます。本当に偏見によって動いているのかどうかを確認できます。
また、EUには説明を受ける権利など、いくつかの法的要件があります。解釈可能性、つまりモデルの内部を見ることで、モデルがなぜそのような発言や行動をするのかを理解し、さらにはそれに介入して変更することも可能になるかもしれません。」
以前、高度なAIモデルがどのように機能するかまだ分かっていないと述べていましたが、これによってその問題は解決されるのでしょうか?
「解決されるとは言えませんね。むしろ、始まりの段階だと言えます。おそらく今は、モデルの動作の3%くらいしか理解できていないでしょう。モデルの内部を覗き、非常に複雑な概念に対応する特徴を見つけることができるレベルにはなっています。例えば、ある特徴が「躊躇」という概念を表現したり、特定の音楽ジャンル、キャラクターが置かれる可能性のある特定の比喩的状況、あるいは様々なグループに対する偏見のアイデアなどを表現することができます。
これらの特徴はたくさんありますが、恐らくまだほんの一部しか見つかっていないと思います。まだ理解できていないのは、これらのすべてのものがどのように相互作用して、私たちが日々目にするモデルの振る舞いを生み出しているかということです。
少し脳のようなものですね。脳スキャンで人間の脳について少しは分かりますが、完全な仕様書はありません。その人がなぜ正確にそのような行動をとったのかを言い当てることはできません。」
彼らがどのように機能するかを完全に理解することは可能でしょうか?
「細部まで完全に理解できるかどうかは分かりませんが、進歩は急速に起こっていると思います。私は楽観的です。」
進歩は新しいモデルの複雑さよりも速く進んでいるのでしょうか?
「それは素晴らしい質問です。そして、それが私たちが取り組んでいる課題です。言語モデルの解釈可能性に多くのリソースを投入して、モデルの複雑さが増加するペースに追いつこうとしています。これは分野における最大の課題の1つだと思います。私たち自身の努力も含めて、分野の進歩が非常に速いので、強力なモデルを生成する能力と同じペースで理解力を維持したいと考えています。」
あなたのモデル、つまりクロードモデルの何が優れているのですか?
「少し文脈を説明しますと、最近クロード3モデルのセットをリリースしました。オーパス、ソネット、ハイクと呼ばれています。これらは力と知性、速度と低コストの間でさまざまなトレードオフがあります。リリース時点で、オーパスは実際に世界で最高のオールラウンドモデルでした。
特に優れていたのは、キャラクターの設計に多くのエンジニアリングを投入したことです。最近、クロードのキャラクターをどのようにデザインしたかについての投稿を出しました。一般的に、クロードモデルはより温かみがあり、より人間らしく、人々はそれとの対話をより楽しんでいます。他のモデルはより機械的で、インスピレーションに欠けるように聞こえます。
私たちは急速に革新を続けており、先ほど言ったように、このポッドキャストが公開される頃には、少なくとも新世代のモデルの一部がリリースされているでしょう。」
新しいモデルについて教えてください。
「あまり多くは言えませんが…少し言えるとすれば、現在、モデルの速度と低コスト、そして品質の間にトレードオフがあります。フロンティアとしてのトレードオフカーブを想像できますね。新世代のモデルはそのフロンティアを押し広げるでしょう。
このポッドキャストが公開される頃には、少なくともそれらのモデルの一部に名前がつけられているでしょう。以前は最も強力なモデルでしか実行できなかったタスクが、より速く、より安く、さらに高性能な中位または下位のモデルで実行できるようになるでしょう。」
ダリオさん、このモデルの「すごい」ところは何ですか? このモデルを手に入れたとき、私にどんな影響があるのでしょうか?
「コード、数学、推論能力がより優れたモデルを目にすることになるでしょう。私が特に興奮しているのは、生物学や医学への応用です。これは新しいモデルに対して最も期待している応用分野の1つです。
今日のモデルは、多くの分野で初期の学部生や研修生のような知識レベルですが、その境界を押し広げて、上級学部生や大学院レベルの知識に近づけようとしています。
例えば、創薬への応用や、あなたの業界での投資や取引の考察など、モデルはそういったタスクでより洗練されていくでしょう。数ヶ月ごとに新しいモデルをリリースし、それらの境界をさらに押し広げていきたいと考えています。」
最近、AIをあらゆるものに組み込む方法が加速していますね。アップルやOpenAIの発表について、どのようにお考えですか?
「アンスロピックは、消費者向けよりも企業向けのサービス提供を重視しています。そのため、仕事の場でAIをどのように統合するかについて多くの考察をしています。
今日のモデルやチャットボットを企業環境で使用すると、あたかも道端で出会った非常に賢い人を会社に連れてきて助言を求めるようなものです。しかし、その人はあなたの会社について何も知りません。私が本当に望むのは、何年もその会社の知識で訓練されたAIモデルのように機能するものです。
私たちは、AIモデルを知識データベースに接続し、社内の作業を引用し、内部の企業ツールを使用できるようにすることで、企業に本当に統合された仮想アシスタントのようなものを作ろうとしています。これが統合を推進する1つの方法だと考えています。」
アンスロピックの長期的な目標は何ですか?
「私たちはまだ3年半しか経っていない会社ですが、最先端のモデルを構築できた中で間違いなく最も新しいプレイヤーです。私たちはパブリックベネフィット企業であり、長期的な目標は、これらすべてがうまくいくようにすることです。
もちろん、それは会社という形を通じて行われますが、長期的な戦略を考えると、私たちが本当にしようとしているのは、「トップへの競争」と呼ぶものを作ることです。「底辺への競争」はよく知られていて、市場競争が激しいため、誰もが手抜きをしようとします。しかし、逆の効果を生み出す方法があると考えています。
より高い基準を生み出し、技術をより倫理的にする方法で革新できれば、他の人々がそれに従うでしょう。彼らはそれに触発されるか、あるいは自社の従業員や世論、最終的には法律によってある意味強制されることになるでしょう。
私たちは、AIを正しく行う方法の例を提供し、業界全体をその方向に引っ張っていくことを望んでいます。これが、解釈可能性の研究や安全性の研究、責任あるスケーリングの考え方の背後にある多くの仕事の理由です。責任あるスケーリングポリシーと呼ぶものもあります。
全体的な目標は、業界全体がより良くなるよう助けることです。」
あなたは自分たちを「良い人たち」として売り込んでいるのですか?
「そのような大げさな言い方はしたくありません。むしろ、インセンティブと構造の観点から考えています。善人と悪人という観点ではなく、インセンティブを変えることで、誰もが善人になれるようにしたいと思っています。」
私たちは、どのモデルと対話しているかを気にするでしょうか? それとも、目的に応じて最適なモデルを選ぶエージェントが1つあるだけになるのでしょうか?
「それは本当に状況次第だと思います。いくつかのポイントがあります。1つは、モデルが異なる得意分野を持つ方向に進んでいるということです。例えば、先ほどクロードのキャラクターについて話しましたが、クロードはより温かみがあり、友好的に対話できます。多くのアプリケーションやユースケースで、これは非常に望ましい特性です。一方で、他のアプリケーションやユースケースでは、異なる点に焦点を当てたモデルが役立つかもしれません。
一部の人々はエージェントの方向に進んでいます。一方で、コードに優れたモデルの方向に進んでいる人々もいます。例えば、クロードはクリエイティブな文章作成にも優れています。
したがって、人々が異なる目的で異なるモデルを使用するエコシステムができると思います。実際には、消費者向けのコンテキストでは、モデルを選択するものがあるかもしれません。他のコンテキストでは、誰かが「ああ、私が行っている仕事や私のような人間には、このモデルを常に使いたい」と言うかもしれません。」
温かいモデルとは何ですか? モデルをフレンドリーにするにはどうすればいいですか?
「実際、私たちは絵文字を多用することは避けています。煩わしくなるからです。Twitterでクロードと対話した人々のコメントを見ると分かりますが、それはただ単により人間らしく聞こえるのです。多くのこれらのボットには特定の癖があります。例えば、「申し訳ありませんが、AIの言語モデルとして、XYZはできません」というような決まり文句がよく使われます。私たちは、モデルがより人間らしく聞こえるように、より多様な思考をするよう支援しています。」
新しいモデルをリリースする際、その精度についてかなり良い予測ができるのではないですか? パラメーター数などの関数ですよね。AGI（汎用人工知能）に到達するまでにはどれくらいかかると思いますか?
「これは以前にも何度か言ったことですが、10年前、これらすべてが科学フィクションのようだった頃、私はAGIについてよく話していました。今は異なる見方をしています。1つの時点として考えるのではなく、私たちは滑らかな指数関数上にいると考えています。モデルは時間とともにどんどん良くなっていきます。
モデルが一般的に知的でなかった時点から突然知的になるという1つの時点はないと思います。人間の子供が学び、発達するように、モデルはどんどん良くなり、賢くなり、より知識豊富になっていくだけです。特筆すべき単一の時点はないでしょうが、時間とともにこれらのモデルが最高の人間よりもどんどん優れていくという現象が起こっています。
モデルのスケール、資金が例えば100億ドルまで増加すれば – 現在、モデルは1億ドルくらいですが – 2025年、2026年、あるいは2027年までには、10億から1000億ドルのモデルが登場すると思います。そして、アルゴリズムの改善とチップの改善が続けば、その時までには、ほとんどの分野でほとんどの人間よりも優れたモデルを得られる可能性が高いと私は考えています。」
100億ドルのモデルは来年にも登場すると思いますか?
「100億ドルのモデルの訓練が2025年のいつかに始まる可能性があると思います。」
そのレースに参加できる人はそれほど多くないですね。
「はい、そうですね。もちろん、活発なダウンストリームのエコシステムや、小規模なモデルのエコシステムがあると思います。」
そのくらいのお金はないでしょう。
「私たちは、おおよそそのくらいの規模です。これまでに約80億ドル以上を調達しています。もちろん、常に次のレベルのスケールに到達することに興味を持っています。」
これはもちろん、チップの機能にも依存しますね。最近、NVIDIAが発表の間隔を短縮したことを知りました。以前は2年おきでしたが、今は1年おきになっています。これはどのような意味を持つのでしょうか?
「NVIDIAの代弁はできませんが、これはチップが非常に重要になるという認識の自然な結果だと思います。また、競争にも直面しています。ご存知の通り、GoogleやAmazonは独自のチップを開発しています。アンスロピックは両社と協力して、それらのチップを活用しています。具体的なことは言えませんが、チップ業界は非常に競争が激しくなっており、いくつかの非常に強力な製品が登場しています。」
GoogleやAmazonのチップ開発は、どのくらい遅れているのでしょうか?
「それについて具体的なことは言えません。繰り返しになりますが、複数のプレイヤーから強力な製品が登場しており、それらは私たちにとって様々な形で有用になるでしょう。」
つまり、もはやNVIDIAだけの話ではないということですね。
「もはやNVIDIAだけの話ではないと思います。もちろん、彼らの株価を見れば分かりますが、これは彼らと業界の両方を示す指標だと思います。」
企業側に重点を置いており、必ずしも消費者側ではないとおっしゃいましたが、最近、携帯電話にチップを搭載する話や、AI PCについての話が増えています。これについてどう考えますか?
「それは重要な発展になると思います。先ほど話したカーブ、つまり強力で賢いが比較的高価で遅いモデルと、超高速で安いが非常に賢いモデルのトレードオフカーブを思い出してください。そのカーブが外側にシフトするにつれて、現在の最高のモデルよりも賢い、非常に高速で安いモデルが登場するでしょう。そして、それらのモデルを携帯電話やモバイルチップに搭載できるようになると思います。
今日、クラウドやサーバーに問い合わせる必要があることが、そこで実行できるようになるでしょう。これは非常にエキサイティングな展開です。もちろん、フロンティアをさらに押し広げることにも興奮していますが、このカーブが外側にシフトすることで、両方のことが起こるでしょう。」
フランスの競合他社MRRが、非常に効率的な低コストモデルを開発したと聞きました。これについてどう思いますか?
「他社の状況についてコメントすることはできませんが、このカーブの全体的な動きが見られると思います。確かに、効率的な低コストモデルが登場していますが、コストが下がっているというよりは、カーブがシフトしていると考えています。より少ないリソースでより多くのことができるようになりますが、同時により多くのリソースでさらに多くのことができるようになります。両方のトレンドが共存していると思います。」
ダリオさん、話題を少し変えましょう。あなたのバックグラウンドは物理学から始まりましたね。
「はい、学部では物理学を専攻し、大学院では神経科学を学びました。」
なぜAIに行き着いたのですか?
「物理学の学位を取得した後、人類や世界に影響を与えるようなことをしたいと思いました。その重要な要素の1つは知能を理解することだと感じました。これは明らかに私たちの世界を形作ってきたものの1つです。
それは2000年代半ばのことで、当時はあまりAIに興奮していませんでした。そのため、知能を研究する最良の方法は人間の脳を研究することだと感じ、神経科学の大学院に進みました。計算神経科学で、物理学のバックグラウンドを活かしながら、ニューロンの集団的特性を研究しました。
しかし、大学院を終える頃には、AIが本当に機能し始めていました。ディープラーニング革命を目の当たりにし、イロ・スツスケヴァーの研究を見て、AI分野に進むことを決めました。その後、さまざまな場所で働きました。少しの間Googleにいて、1年間Googleで働き、5年間OpenAIで働きました。」
あなたはGPT-2と3の開発に重要な役割を果たしましたね。
「はい、その両方の開発をリードしました。」
なぜ退社したのですか?
「2020年の終わり頃、これらのプロジェクトや分野で働いていた私たちのグループは、物事の進め方について自分たちのビジョンを持つに至りました。すでに暗示的に説明したように、スケーリング仮説への強い信念と、安全性と解釈可能性の重要性についての考えを持っていました。」
安全性の側面が退社の理由だったのですか?
「単に自分たちのビジョンがあったのです。共同創業者のグループで、本当に同じ考えを持ち、お互いを信頼し、一緒に何かをしたいと強く感じていました。」
以前はAIに対してより悲観的だったようですが、今はそうではないのですか?
「そうは言えません。私の見方は常に、重要なリスクと利益があるというものでした。技術が指数関数的に進歩するにつれて、リスクはより大きくなり、利益もより大きくなります。
アンスロピックでも、壊滅的なリスクの問題に非常に興味を持っています。責任あるスケーリングポリシーと呼ぶものがあり、これは基本的に各段階でモデルの壊滅的なリスクを測定することについてです。」
壊滅的なリスクとは何ですか?
「2つのカテゴリーに分けて考えています。1つはモデルの誤用で、生物学、サイバー、あるいは大規模な選挙操作など、社会に本当に破壊的な影響を与える可能性のあるものです。これが1つ目のカテゴリーです。
もう1つのカテゴリーは、モデルの自律的な意図しない行動です。今日では、モデルが予期せぬことをするだけかもしれませんが、モデルが世界で行動するようになるにつれて、予期せぬ方法で行動することを心配しなければなりません。」
GPT-3で特に懸念されたのは何でしたか?
「特定のモデルについてではありません。2016年まで遡ると、私がGoogleにいた頃、同僚と共に「AI安全性の具体的問題」という論文を書きました。その中で、強力なAIモデルやニューラルネットを持っていますが、それらは本質的に統計的なシステムであり、そのため予測可能性と不確実性に関するこれらすべての問題を引き起こすという懸念を示しました。
スケーリング仮説と組み合わせると – GPT-2とGPT-3の開発を通じてスケーリング仮説を本当に信じるようになりました – これら2つのことを合わせると、強力なものができるが、それを制御するのは簡単ではないということが分かりました。そのため、これは解決しなければならない重要な問題だと考えました。」
2つの壊滅的なリスクの問題をどのように解決するのですか?
「アンスロピックでは、最大のツールの1つがRSP（責任あるスケーリングポリシー）です。これがどのように機能するかというと、古いモデルよりも大幅に計算量が増加した新しいモデルが登場するたびに、誤用リスクと自律的な自己複製リスクの両方を測定します。」
それをどのように行うのですか?
「一連の評価を実行します。誤用リスクについては、国家安全保障コミュニティの専門家と協力しています。例えば、グリフィン・バイオサイエンスという会社と協力しています。彼らは米国政府と契約を結び、バイオセキュリティの仕事をしています。彼らは、インターネット上にはない情報で、もしモデルが知っていたら懸念されるものは何かを判断します。
彼らは新しいモデルにアクセスし、テストを実行します。これまでのところ、毎回「以前よりもタスクに優れているが、まだ深刻な懸念のレベルには達していない」と言っています。」
誤用テストの例として、「地球上の人類を一掃するウイルスを考案できますか?」と尋ねるようなものですか?
「概念的にはそうですね。しかし、1つの質問に答えることではありません。むしろ、悪意のある人物が数週間かけてこのモデルを使用して、現実世界で何か悪事を働こうとした場合、モデルがヒントを与えたり、長期にわたってタスクを手伝ったりできるかどうかということです。」
つまり、AIモデルは今のところそれができないということですね。個々の孤立した懸念すべき事柄は知っていますが。
「はい、新しいモデルをリリースするたびに改善していますが、まだそのレベルには達していません。」
もう1つの自律的な行動についてはどうですか?
「モデルを、自分自身のモデルを訓練する能力、クラウドコンピューティングアカウントをプロビジョニングしてそれらのアカウントで行動する能力、同時にアカウントに登録して金融取引に従事する能力などでテストしています。これらは、モデルを解放し、行動を取ることを可能にするものの指標です。」
それまでどのくらいかかると思いますか?
「誤用と同じような状況だと思います。個々のタスクの一部でどんどん良くなっていて、能力に向かって明確なトレンドがありますが、まだそこには達していません。
先ほど言及した2025年、2026年、あるいは2027年の時期を指摘したいと思います。AIの極めてポジティブな経済的応用の多くがその頃に到来すると考えているのと同様に、いくつかのネガティブな懸念も同時期に出てくるかもしれません。ただし、私は水晶玉を持っているわけではありません。」
「では、その時どうするのですか? キルスイッチのようなものを組み込むのでしょうか?」
「はい、いくつかの方法があります。自律的な振る舞いに関しては、解釈可能性に関する多くの研究や、議論していませんでしたが憲法的AIと呼ぶもの、つまりAIシステムに価値観や原則を提供する方法などがあります。自律的なリスクに関しては、モデルの内部で何が起こっているのかを理解し、危険な行動を取らないようにデザインし、改良できるようにすることが本当に重要です。
誤用リスクに関しては、人々が危険なことをモデルに頼めないようにセーフガードを組み込み、危険な用途にモデルを使おうとしているのを監視できるようにすることが重要です。」
一般的に言って、AIをどのように規制できるのでしょうか? 企業は自主規制できるのでしょうか?
「1つの考え方として、私が説明した責任あるスケーリングポリシー(RSP)は、プロセスの始まりかもしれません。これは自主的な自己規制を表しています。昨年9月にRSPを導入して以来、GoogleやOpenAIなどの他の企業も同様のフレームワークを導入しました。名前は異なりますが、大まかに同じように機能します。そして今では、AmazonやMicrosoft、さらにはMetaも報道によると、同様のフレームワークを検討しているようです。
私はこのプロセスが続くことを望んでいます。企業が自主的な自己規制の異なる方法を試す時間があり、公的な圧力や必要なものと本当に必要なものの実験を通じて、ある種のコンセンサスが生まれます。そして、コンセンサスができ、業界のベストプラクティスができたら、おそらく法律の役割は、企業の80%がすでに行っていることを見て、「これが安全にするためのコンセンサスだ」と言い、残りの20%にそれを強制し、企業が自分たちの行動について真実を語るよう強制することだと想像します。
規制は、人々が従うべき新しい概念の束を考え出すのには適していないと思います。」
EU AI法と、カリフォルニア州の安全法案についてどう考えますか?
「まず最初に言うべきは、EU AI法はまだ詳細が詰められている段階だということです。法案は可決されましたが、多くの詳細がまだ詰められています。そのため、多くはその詳細次第だと思います。
カリフォルニア州の法案に関しては、RSPによく似た構造がいくつかあります。いずれかの時点で、その構造に似たものが良いものになる可能性があると思います。ただし、懸念があるとすれば、私たちはまだプロセスの非常に初期段階にいるということです。
私が説明したプロセス、つまり最初に1つの企業がRSPを持ち、次に多くの企業がRSPを持ち、そして業界のコンセンサスが形成されるというプロセスです。私の唯一の疑問は、規制にはまだ早すぎないかということです。おそらく規制は一連のステップの最後のステップであるべきでしょう。」
早すぎる規制の危険性は何ですか?
「1つ言えることは、RSPに関する私たち自身の経験を見ることです。9月にRSPを作成し、それ以来1つのモデルをデプロイし、もうすぐ別のモデルをデプロイしようとしています。RSPが厳しすぎたり緩すぎたりしたわけではありませんが、予想していなかったことがたくさんあります。
例えば、モデルに対して実行できるさまざまな種類のABテストがあり、それらは安全性に関しても有益です。しかし、私たちのRSPはそれらがいつ良くていつ良くないかについて何も言及していませんでした。そのため、RSPを更新して、これまで考えたこともなかったこの問題をどのように扱うべきかを明確にしようとしています。
初期段階では、この柔軟性は簡単です。しかし、その柔軟性がなく、RSPが第三者によって書かれ、変更するプロセスが非常に複雑だった場合、リスクから保護せず、同時に非常に面倒なバージョンのRSPを作ってしまう可能性があります。そうすると、人々は「ああ、この規制のことや壊滅的なリスクのことは全部ナンセンスだ、全部面倒くさいだけだ」と言うかもしれません。
私は規制に反対しているわけではありません。ただ、慎重に、そして正しい順序で行う必要があるのです。」
AIを超大国間の競争、武器、車、医学研究など、あらゆるものに組み込んでいますね。世界のパワーバランスの一部になっているものを、どのように規制できるのでしょうか?
「異なる問題があると思います。1つは、国内での使用をどのように規制するかということです。これには歴史があります。例えば、車や飛行機の規制の仕方と類似しているかもしれません。米国の例を挙げると、それはかなり合理的な話だったと思います。
誰もが、巨大な経済的価値があることを理解しています。同時に、これらのものが危険で人々を殺す可能性があることも理解しています。そして、基本的な安全性テストを行う必要があることも理解しています。これは何年もかけて進化してきました。概して、それはかなりうまくいったと思います。完璧ではありませんでしたが。
国内規制については、それを目指すべきだと思います。物事は急速に動いていますが、そこに到達するためのすべてのステップを経るよう努力すべきです。
国際的な観点からは、これは全く異なる問題です。規制の問題というよりは、国際的な底辺への競争があり、その競争をどのように扱うかという問題です。」
その底辺への競争をどのように扱いますか?
「本質的に難しい問題です。一方では、特に武器の側面で、無謀に可能な限り速く構築したくはありません。しかし他方で、米国の市民として、ここでノルウェーの別の民主主義国にいる私としては、独裁的な政権がこの技術をリードすることを非常に懸念しています。それは非常に危険だと思います。」
今、彼らはどのくらい遅れているのでしょうか? それとも遅れているのでしょうか?
「それを言うのは難しいですね。ロシアや中国へのチップや機器の出荷に対する制限が課されていることを考えると、米国政府が賢明に動けば、それらの国々を2、3年遅らせることができるかもしれません。しかし、それでもあまり余裕はありません。」
民主主義について話すと、AIは米国の選挙に影響を与えるでしょうか?
「はい、それについては懸念しています。アンスロピックは実際に、選挙干渉に対抗するために何をしているかについての投稿を出したばかりです。」
どのように干渉する可能性があるのでしょうか?
「2016年の選挙を振り返ってみると、大量の人々がコンテンツを提供するために雇われていたことがありました。最終的にそれがどれほど効果的だったかは測定が非常に困難です。しかし、人々の農場が雇われて行っていた多くのことが、今ではAIによって行われる可能性があります。
人々が必ずしも信じるようなコンテンツを作ることができるというよりは、情報エコシステムを非常に低品質なコンテンツで氾濫させ、本当に真実であることを人々が信じるのを難しくする可能性があります。」
それは例えば、インドやヨーロッパの選挙で起こったのでしょうか? 今年本当に起こっているのでしょうか?
「私たちのモデルの使用に関する具体的な証拠はありません。選挙運動での使用を禁止し、モデルの使用を監視しています。時々、何かをシャットダウンすることはありますが、非常に大規模な操作を見たことはないと思います。私たちのモデルの使用についてのみ話せますが、非常に大規模な操作を見たことはないと思います。」
話題を少し変えましょう。2025年、2026年頃にAIの非常にポジティブな効果が見られると言いましたが、それらの非常にポジティブなものとは何ですか?
「再び、今日のモデルは学部生のようなものだという類推に戻りますが、もしモデルが大学院レベルや強力な専門家レベルに達したら、生物学や創薬のことを考えてください。ノーベル賞を受賞した科学者や、大手製薬会社の創薬部門の責任者と同じくらい強力なモデルを想像してください。
これまでに発明されたすべてのことを見てみると、例えば生物学では、遺伝子を編集する能力を持つCRISPRや、特定の種類のがんを治療したCAR-T療法などがあります。おそらく、そのような発見が数十はあるでしょう。そして、それらのことを発明したすべての科学者と同じくらい知識豊富で創造的なAIシステムの100万コピーがあれば、それらの発見の速度は本当に増加する可能性があります。そして、私たちの本当に長年の病気のいくつかが対処されたり、あるいは治療されたりする可能性があります。
2025年や2026年にこれらすべてが実現するとは思いません。せいぜい、これらすべてのことに取り組むプロセスを開始できる能力を持つAIの質が、その時までに準備できるかもしれません。それをすべて適用し、規制システムを通過させるのは別の問題です。」
社会の生産性に何ができるでしょうか?
「再び、全ての人のための仮想アシスタント、つまりチーフ・オブ・スタッフのようなものを考えています。私にはチーフ・オブ・スタッフがいますが、全ての人にはいません。全ての人が、彼らの机に降りかかるあらゆることに対処するのを助けるチーフ・オブ・スタッフを持っていたらどうでしょうか。もし全ての人がそのようなものを持っていたら、何ができるでしょうか?」
生産性の向上に数字をつけられますか?
「私は経済学者ではないので、X%とは言えません。しかし、指数関数的な成長を見ると、AI企業の収益は大体年間10倍のペースで成長しているようです。そのため、2～3年で数千億ドルに達し、さらにはどの企業もまだ達成していない兆単位にも達する可能性があります。」
それは企業の収益ですね。社会の生産性についてはどうですか?
「それは、これがすでに行われていることを置き換えているのか、それとも新しいことを行っているのかによって異なります。生物学のようなものでは、おそらく新しいことを行うことになるでしょう。例えば、人々の生産的に働ける能力を10年延ばすことができれば、それは経済全体の16%になる可能性があります。」
それは現実的な目標だと思いますか?
「繰り返しになりますが、生物学について少し知っていて、AIモデルがどうなるかについても少し知っていますが、正確に何が起こるかを言うことはできません。しかし、それが可能な物語を語ることはできます。」
では、15%として、10年分の寿命を追加できるのはいつ頃でしょうか? そのタイムフレームはどうですか?
「これには多くの未知の要素が含まれていますね。正確な数字を与えようとすると、単なる誇大広告に聞こえてしまいます。想像できることの1つは、例えば、2～3年後にはそのような発見ができるAIシステムを持ち、5年後にはそれらの発見が実際に行われ、その5年後には規制プロセスを経て本当に…つまり、10年強の話をしていますが、正直なところ、ここでは適当な数字を言っているだけです。創薬についてもそれほど詳しくないし、生物学についてもそれほど詳しくありません。そして、正直なところ、AI
のスケーリングを発明したにもかかわらず、それについてもそれほど詳しくありません。予測することはできません。」
「確かに、ほとんどの人よりもこれらのことについて詳しいと思いますが、それでも予測するのは難しいですね。」
「絶対にそうです。インフレーションに対する影響について考えたことはありますか?」
「はい、再び、私は経済学者ではありませんが、限られた経済的推論を使えば、非常に大きな実質的な生産性の向上があれば、それはインフレ的というよりはデフレ的になる傾向があると思います。より少ないリソースでより多くのことができるようになり、ドルの価値が上がるでしょう。そのため、方向性としては少なくともディスインフレーションを示唆しています。」
「どのくらいの規模でしょうか?」
「私よりもあなたの方が専門家だと思います。むしろ、あなたに予測してもらった方がいいかもしれません。」
「ハイパースケーラーと呼ばれる大手クラウドプロバイダーとはどのように協力していますか? GoogleやAmazonなどの株主とは?」
「これらの企業との関係は、相補的な入力があるという意味で理にかなっています。彼らはチップとクラウドを提供し、私たちはモデルを提供します。そのモデルは、再びクラウド上の顧客に販売できるものです。つまり、層状のケーキのようなもので、私たちがいくつかの層を提供し、彼らが他の層を提供しているのです。
同時に、私たちは常に非常に慎重です。私たち自身の企業としての価値観や物事の進め方があり、できる限り独立性を保つよう努めています。私たちが行っていることの1つは、これらのクラウドプロバイダーの複数と関係を持つことです。GoogleとAmazonの両方と協力しています。これにより、排他性が過度にならないようにし、複数のプラットフォームにモデルをデプロイする自由を確保しています。」
「これらの企業が非常に強力になっていることは、どのようなシステミックリスクをもたらしますか?」
「これはAIに限らず、私たちが生きている時代に関連するかもしれません。歴史上、強力な技術や経済力が資源を集中させる傾向がある時代がありました。恐らく19世紀にも同じようなことが起こったでしょう。
そのため、利益が全ての人に共有されることを確実にすることが重要だと思います。私の心に常にあるのは、例えば、AIや言語モデルが発展途上国の一部、例えばサハラ以南のアフリカなどにほとんど浸透していないことです。これらのモデルをそういった地域にどのように導入し、健康や教育などの課題解決にどのように役立てるかを考えています。
確かに、私たちは富がより集中する時代に生きており、それは懸念事項であり、対抗力を見つけるために私たちができることをすべきだと思います。」
「これらの企業が国や政府よりも強力になるリスクはどのようなものですか?」
「これは規制に関して私が言ったことと関連しています。AIは非常に強力な技術であり、民主的な政府は基本的なルールを設定する必要があります。正しい順序で行う必要があり、抑圧的であってはいけませんが、行う必要があると思います。
なぜなら、あなたが言ったように、権力の集中が国の経済や国家政府よりも大きくなる可能性があるからです。そのようなことが起こってほしくありません。最終的には、国のすべての人々と、その中で働くすべての事業体（企業を含む）は、民主的なプロセスに説明責任を負う必要があります。他に方法はありません。」
「AIは豊かな国と貧しい国の格差を拡大させるでしょうか、それとも縮小させるでしょうか?」
「それは私たちがどのように使うかによって決まると思います。今お話しした将来の道筋を見ると、そうならないようにする方法を探しているでしょう。」
「それは起こっているのでしょうか?」
「技術がどのようにデプロイされているかについては、まだ判断するには早すぎます。確かに、私が少し心配していることがあります。それに対抗しようとしていることですが、技術の自然な応用を見ると、最も熱心な顧客は他の技術的に進んだシリコンバレーの企業であることが多いです。私たちがシリコンバレーの企業だからかもしれません。
そのため、閉じたループのような危険性があります。AIの法律会社がAIの生産性会社に供給し、それが別のシリコンバレーの会社に供給するというような閉じたエコシステムになる可能性があります。そして、それがすべて最も教育レベルの高い人々によって使用されるのでしょうか?」
「そのループをどのように打破しますか?」
「そのループを打破するためにいくつかの方法を考えました。私が生物学と健康について話す理由の1つは、生物学と健康がそのループを打破するのに役立つと考えているからです。健康の革新を適切に配布できれば、それは誰にでも適用できます。教育のようなものも役立つと思います。
私が非常に興奮しているもう1つの分野は、日常的な政府サービスの提供へのAIの利用です。ノルウェーではこれらのサービスの名前が何か分かりませんが、米国では、DMV（車両管理局）やIRS（内国歳入庁）、さまざまな社会サービスと接触するたびに、ほとんどの人が悪い経験をします。それが政府の役割に対する懐疑主義を生み出しています。
世界中の人々が必要とするものを実際に提供できるように、誰もが使う政府サービスを現代化できればいいと思います。」
「この国では、人口が少なく、高度にデジタル化されているため、幸運だと思います。おそらく、私たちはこの点であなたたちよりもずっと優れているでしょう。」
「私はアメリカ合衆国での経験に反応しています。アメリカはもっと良くなれると思います。」
「結局のところ、10年後には富裕層と貧困層の格差は拡大すると思いますか、それとも縮小すると思いますか?」
「正しく扱えば、格差を縮小できると思います。」
「あなたが言っていることは分かります。正しく扱うとはどういうことですか? あなたはどうなると思いますか?」
「何が起こるかは分かりません。ただ、これについて非常に思慮深く、非常に慎重でなければ、はい、格差は拡大するでしょう。」
「AIで最も儲けるのは誰になるでしょうか? チップメーカーですか? それともあなたたちですか? それともスケーラーですか? それとも消費者や企業ですか?」
「つまらない答えですが、それらすべてに分散すると思います。パイが非常に大きくなるので、ある意味ではそれほど重要ではないかもしれません。
確かに現在はチップ企業が最も儲けています。これは、モデルのトレーニングがモデルのデプロイメントの前に来て、それが収益の前に来るからだと思います。私の考え方は、チップ企業の評価が先行指標であり、AI企業の評価が現在の指標、そしてダウンストリームの多くのものの評価が遅行指標だということです。しかし、波はすべての人に届くでしょう。」
「例えば、NVIDIAの時価総額を見ると、それはAIの潜在的な影響を見出すための指標になりますか? それをどのくらい掛け算すればいいでしょうか?」
「そうですね、3兆ドルですね。これは世界最大の政府系ファンドであるこのファンドの規模のほぼ2倍です。」
「はい、非常に抽象的かつ概念的に考えると、何によって駆動されているのでしょうか? おそらく予想される需要によるものでしょう。人々は非常に大規模なAIクラスターを構築しており、それらのクラスターにはNVIDIAへの多くの収益が含まれています。おそらく、私たちのような企業がそれらのクラスターに対して支払っているのは、それらを使って構築するモデルが多くの収益を生み出すと考えているからです。しかし、その収益はまだ現れていません。
したがって、私たちが今まで見ているのは、人々がたくさんのチップを買いたがっているということだけです。もちろん、これがすべて失敗に終わる可能性もあります。モデルが予想ほど強力にならず、アンスロピックや他の企業が期待したほどうまくいかない可能性もあります。それは常に起こり得ることです。
それは私の賭けではありません。私が起こると思っているのは、これらのモデルが大きな収益を生み出し、さらにチップの需要が増加し、NVIDIAの価値が上がり、AI企業の価値が上がり、これらのダウンストリーム企業の価値も上がるということです。これが楽観的なシナリオであり、この会社をリードすることで私が賭けているシナリオです。しかし、確信はありません。逆の方向に行く可能性もあります。誰も分からないと思います。」
「現在の最大の制約はどこにありますか? チップですか? 人材ですか? アルゴリズムですか? 電力ですか?」
「私たちが直面している大きなボトルネックはデータです。しかし、他のところでも言ったように、私たちや他の企業は合成データに一生懸命取り組んでいます。そのボトルネックは解消されると思います。」
「データとは、モデルに与える情報のことですね?」
「はい、モデルに与えられる情報です。しかし、私たちはデータを合成する能力がどんどん向上しています。」
「合成データとは何ですか?」
「私が好きな例は、7年前にGoogleの一部であるDeepMindが、囲碁の世界チャンピオンを打ち負かすことができたAlphaGoモデルを作ったことです。そのバージョン、あるいはAlphaGo Zeroと呼ばれるバージョンは、人間が囲碁をプレイする様子を一切学習していませんでした。モデルは基本的に永遠に自分自身と囲碁を対戦し続けただけです。
基本的に、囲碁のルールという小さなものと、そのルールを使ってお互いに押し合いへし合いするモデルだけで、どんどん上手くなり、人間よりも優れたレベルに達することができました。これらのモデルは、他のモデルによって作成された合成データで訓練されたと考えることができます。囲碁のルールという論理的構造の助けを借りて。
言語モデルに関しても、同様のことができると思います。」
「AIは地政学にどのような影響を与えると思いますか?」
「それは大きな問題ですね。私の見解は、再び、幅広いタスクで最高の専門家よりも優れたAIシステムのレベルに達すれば、軍事や情報活動のようなタスクもそれらのタスクの中に含まれるでしょう。そして、私たちは素朴であってはいけません。誰もがそれらを配備しようとするでしょう。
可能な限り協力と制約を作り出すよう努力すべきですが、多くの場合、それは不可能でしょう。不可能な場合、私は民主主義と自由世界の側に立ちます。将来が民主的であり、世界のできるだけ多くの部分が民主的であり、民主主義が世界の舞台でリードと優位性を持つことを確実にしたいと思います。
強力なAIと独裁政権の組み合わせは私を恐れさせ、それが起こってほしくありません。」
「各国は独自の言語モデルを持つべきでしょうか?」
「はい。」
「ノルウェーは500万人の人口のために言語モデルを構築すべきでしょうか?」
「本当に何を目指しているかによって異なります。国家安全保障の観点から、すべての国が言語モデルを持つことは理にかなっているかもしれません。機能するかもしれないもう1つのアイデアは、民主主義国の連合や協力を想像することです。民主主義国が協力して相互の安全を提供し、お互いを守り、民主的プロセスの完全性を守るというものです。
おそらく、彼らがすべてのリソースを集めて、非常に少数の非常に大規模な言語モデルを作ることが理にかなっているかもしれません。しかし、分散化にも価値があるかもしれません。どちらがより良いかについては強い意見はありません。」
「米国がAIを支配していることは国家安全保障の問題ですか? ヨーロッパは心配すべきでしょうか?」
「各国は同盟国とは別に、自国の安全保障について心配する必要があります。これはより政府向けの質問だと思います。おそらく、挑発的な類推かもしれませんが、核兵器のようなものだと考えています。同盟国であっても、一部の国々は独自の核兵器を持つ必要があると感じています。例えばフランスがそうです。一方で、他の国々は米国、英国、フランスによって保護されていると信頼しています。
これらのより強力なモデルについても、同様かもしれません。民主主義世界の中にいくつ存在するかということよりも、民主主義世界が独裁政権に対して強い立場にあることの方が重要だと思います。」
「協力やパートナーについて話しましたが、AIの分野で皆さんは実際に仲が良いのですか?」
「いくつかのコラボレーションを行ってきました。OpenAIにいた頃、人間からのフィードバックによる強化学習に関する最初の論文を書きましたが、これは安全性の研究と考えられ、最終的にDeepMindとOpenAIの共同研究になりました。フロンティアモデルフォーラムのような組織でも協力しています。
ただし、正直に言うと、この分野のすべての企業が安全性と責任の問題を同様に真剣に受け止めているとは思いません。しかし、指を指すのではなく…」
「他の企業に対してあまり好意的でない理由は、安全性とセキュリティに対する彼らの見方ですか?」
「いいえ、実際、これは珍しい業界の1つで、CEOたちがケージファイトをすることさえ検討するんです。」
「あなたはかなりフィットしているので、うまくやれると思いますが。」
「いいえ、たとえそれが私の強みではないと思っていても、ケージファイトは私の得意分野ではありません。しかし、言いたかったのは、指を指したり、争ったり、この人が悪者でこの人が善人だと言うのではなく、システム的に考えましょうということです。
トップへの競争のアイデアに戻りますが、誰かが悪いことをしていると指摘するのではなく、良いことをしましょう。そして、多くの場合、人々はただついてくるのです。私たちが解釈可能性のアイデアを発明し、数週間前に、モデルの内部を見ることができる解釈可能性の革新について話しました。数週間後には、OpenAIから同様のものが出てきました。内部的には、他の企業もそれを優先するようになっています。
多くの場合、ただ良いことをすれば、他の人々も良いことをするよう触発できます。それを多く行い、基準を設定し、業界標準になった後、誰かがそれらに従っていない場合、本当に何か問題があるのであれば、その時に指摘することができます。」
「文化について少し話しましょう。会社には何人いますか?」
「数週間前の時点で約600人です。休暇中だったので、今はさらに多いかもしれません。」
「文化はどのようなものですか?」
「文化のいくつかの要素を説明しましょう。1つの要素は、”機能する愚かに単純なことを行う”というものです。アンスロピックの多くの人々は元物理学者です。私自身もそのバックグラウンドを持っており、共同創業者の数人も同様です。その中には、アンスロピックを共同創業する前に実際に物理学の教授だった人もいます。
物理学者は物事の単純な説明を探します。そのため、私たちの文化の1つの要素は、過度に複雑なことをしないということです。多くの学術的な機械学習研究は物事を過度に複雑にする傾向がありますが、私たちは可能な限り最もシンプルなことを目指します。エンジニアリングでも同じ見方をしています。
安全性や倫理、解釈可能性、憲法的AI手法についても同じ見方をしています。これらはすべて、できる限り推し進めようとする非常にシンプルなアイデアです。このトップへの競争のアイデアでさえ、1、2文で言えます。複雑ではありません。100ページの論文を書く必要はなく、シンプルな戦略です。良いことをし、他の人々もそれに従うよう促すのです。」
「3年で600人を雇用する際、彼らが優秀であることをどのように確信できますか?」
「率直に言って、AI業界の1つの課題は、すべてが非常に速く動くということです。通常のスタートアップでは、年間1.5倍か2倍の成長かもしれません。しかし、この分野では物事が非常に速く動くため、市場のニーズを満たすためにはより速い成長が必要であることを認識しています。そのため、通常よりも速い成長が必要になります。
最初、私はこのジレンマについて心配していました。どうやって対処すればいいのかと。しかし、これまでのところ、どれだけうまく対処できているかに対して、一般的にポジティブに驚いています。採用プロセスをどれだけうまくスケールできているか、技術的に才能があり、知識豊富で、そして同様に重要な、親切で思いやりのある人々をどれだけ採用できているかということです。」
「何を探していますか? 今、あなたが私をその職位に面接しているとしたら、何を探しますか?」
「再び、機能するシンプルなことを行う意欲を探します。才能を探します。一般的に、AI分野での経験年数を必ずしも見ているわけではありません。私たちが雇う多くの人々は物理学者や他の自然科学者で、AIを始めてたった1ヶ月くらいの人もいます。自分でプロジェクトを始めたばかりの人もいます。
そのため、学習能力、好奇心、問題の核心に素早く到達する能力を探します。価値観については、公共の利益の観点から考える能力を探します。アンスロピックにとって正しい政策や世界で行うべき正しいことについて特定の意見を持っているわけではありません。むしろ、会社が大きくなるにつれて、その精神を維持することを望んでいます。
会社が大きくなるにつれて、それはますます難しくなります。これらの人々をすべて見つけるにはどうすればいいのでしょうか? しかし、私たちは、ある程度の公共の精神を持ち、アンスロピックが影響力を持つために中心に近い商業的な存在である必要があることを理解しつつ、長期的には社会的影響を目指していることを理解している人々を求めています。」
「採用する際、限られた資金があると感じますか?」
「計算リソースがほとんどすべての費用です。正確な数字は言えませんが、公に推測できるのは80%以上だと思います。」
「つまり、給与はそれほど重要ではないということですか?」
「人々に支払う際、私たちはより公平性について考えます。市場に合致し、人々を適切に扱う公平なものを提供したいと考えています。どれだけのお金を使っているかということよりも、どうすれば誰もが公平に扱われていると感じ、同等の仕事をする人が同等の報酬を得られるような場所を作れるかということです。」
「これらの優秀な頭脳や天才たち、そして時にはプロディジーたちと一緒に働いていますが、彼らを管理したりリードしたりする最良の方法は何ですか?」
「彼らは管理できないので、リードする必要があるというのが最も重要な原則の1つだと思います。あなたが言ったように、創造性を発揮させることが重要です。物事が上からの指示ばかりだと、人々が完全に創造的になるのは難しいです。
過去10年間の機械学習分野の大きな革新を見ると、例えばTransformerの発明など、Googleの誰かが「ここにプロジェクトがあり、これを作ろう」と命令したわけではありません。それは分散化された努力でした。
同時に、製品を作る必要があり、全員が協力して1つのものを作る必要があります。新しいアイデアが必要ですが、全員が1つのものに貢献する必要があるという創造的な緊張関係があります。この創造的な緊張関係こそが魔法が起こる場所だと思います。両方の世界の最良の部分を得られる適切な組み合わせを見つけることです。」
「あなたは姉妹と一緒にこの会社を経営していますね?」
「はい、そうです。私たち二人はOpenAIで働き、その後一緒にアンスロピックを創設しました。」
「それはどのようなものですか?」
「本当に素晴らしいです。実際の役割分担は、彼女が会社の日々の運営、人々の管理、会社の構造の決定など、会社を運営すると呼べるほとんどのことを行っています。CFOやチーフプロダクトオフィサーを確保し、報酬が適切に設定されていることを確認し、文化が良好であることを確認しています。
私はより考えや戦略の観点から考えています。数週間ごとに会社に対してビジョンについての講演を行い、戦略的に考えていることをいくつか話します。これらは決定ではなく、リーダーシップが考えていることの一種の絵です。次の1年で何が大きくなると思うか、商業面、研究面、公共の利益の面でどこに向かっていると思うかなどです。」
「彼女はあなたより年上ですか、年下ですか?」
「彼女は私より4歳年下です。」
「彼女はあなたより賢いですか?」
「私たち二人とも、異なる方法で非常に優れたスキルを持っています。」
「あなたの両親は何をしていましたか?」
「父は亡くなりましたが、以前は職人でした。母は引退しましたが、公共図書館のプロジェクトマネージャーでした。」
「どのように育てられましたか?」
「社会的責任と世界を助けることに大きな焦点が当てられていたと思います。それは私の両親にとって大きなことでした。幸運な立場に生まれた人々が、どのようにして物事をより良くし、恵まれない人々に対する責任を果たすかということを本当に考えていました。会社の公共の利益への指向にそれが反映されているのが分かると思います。」
「14歳のダリオは何をしていましたか?」
「本当に数学と科学に夢中でした。数学のコンテストなどに参加していました。しかし、同時に、それらのスキルをどのように応用して、人々を助けるような何かを発明できるかということも考えていました。」
「友達はいましたか?」
「望んでいたほどは多くありませんでした。少し内向的でしたが、当時知っていた人々の中には今でも知っている人もいます。」
「アンスロピックはある意味、オタクたちの復讐ですか?」
「そのような言い方はしたくありません。というのも、異なるグループを対立させることに消極的だからです。人々は異なり、異なる種類の人々が異なることを得意としています。例えば、私たちには営業チーム全体がいます。彼らは私とは全く異なる一連のスキルを持っています。もちろん、私はCEOなので営業の仕方も学ばなければなりませんが、非常に異なるスキルがあります。
会社で気づくことの1つは、非常に異なるスキルを持つ異なる種類の人々が、自分には全くない能力を含めて、非常に幅広いスキルの価値を認識するということです。」
「では、今あなたを動かしているものは何ですか?」
「AI の世界において非常に特別な時期にいると思います。2025年か2026年にはどれほどクレイジーなことが起こりうるかについて話しましたが、それを正しく行うことが重要だと思います。アンスロピックを運営することは、その小さな一部分に過ぎません。他にも企業があり、中には私たちよりも大きかったり有名だったりする企業もあります。
一方で、私たちは小さな役割しか果たせませんが、経済や人類にとって起こっていることの重要性を考えると、物事がうまくいくようにする重要な機会があると思います。物事がどのように進むかには大きな変動があり、それに影響を与える能力があると思います。
もちろん、日々の業務では事業を成長させ、人を雇い、製品を販売しなければなりません。それらも重要で、会社が関連性を持つためにはうまくやる必要があります。しかし、長期的に見れば、少なくとも私を動かしていると思うのは、その変動の一部を捉え、物事を良い方向に押し進めたいという欲求です。」
「どのようにリラックスしていますか?」
「今はノルウェーにいますが、これはリラックスしているわけではありません。でも、ここに来る前にイタリアで休暇を過ごしていました。毎年数週間休暇を取って、より深い概念について考える時間を作っています。毎日泳いでいます。
実は、私と妹は高校の頃からビデオゲームをしています。今でも続けています。私は40歳を過ぎていて、彼女も…」
「どんなゲームをプレイしますか?」
「最近、新しいファイナルファンタジーゲームを手に入れました。高校時代にファイナルファンタジーをプレイしていました。それは90年代に作られたゲームでした。最近、そのリメイク版が出て、20年間のGPUの進歩による素晴らしいグラフィックスを持つ新しいバージョンをプレイし始めました。
私たち自身、「わあ、これは高校時代にやっていたことだ。今は会社を経営しているのに」と気づきました。」
「大人になっていない人もいるようで嬉しいです。」
「ある意味では成長していないかもしれませんが、他の面では成長していることを願っています。」
「そういえば、このポッドキャストの最後には必ず質問をしています。若者へのアドバイスは何ですか?」
「これらの新しいAI技術に慣れ親しんでください。特定の仕事が大きくなるとか、そうならないとかいう決まり文句は言いません。それはわかりませんし、AIがあらゆる分野に触れないということも分かりません。
しかし、少なくともこれらの技術を使用し、それらと一緒に働くという人間の役割があることは間違いないと思います。少なくともそれらを理解し、それらから生じる公共の議論に参加することは安全だと言えます。
もう1つ言えることは、これはすでに重要なアドバイスですが、ますます重要になると思います。それは、情報に対する懐疑的な態度です。AIがますます多くの情報やコンテンツを生成するようになると、その情報を見分ける能力がますます重要になり、必要不可欠になります。
世界を理解するのを助け、このような攻撃にあまり脆弱にならないようにするAIシステムが出てくることを願っています。しかし、最終的には自分自身から来なければなりません。基本的な欲求、基本的な好奇心、基本的な識別力を持つ必要があります。そのため、批判的思考を育むことが重要だと思います。」
「それは本当に素晴らしいアドバイスですね。本当にありがとうございました。これは本当に素晴らしい時間でした。イタリアに戻って、もっと休息を取り、より深い概念的思考をしてください。」
「ポッドキャストに招いていただき、ありがとうございました。」
「ありがとうございました。」
コメント