29,516 文字
アメリカは意図せずに中国の宇宙計画とICBMの開発を加速させました。私は中国が同じハードウェアネットワークの一部になるべきなのか、それとも独自のものを完全に開発すべきなのか、どちらが良いのかはっきりしません。アメリカの偉大なイノベーションは、初期のスパイ活動なしには大幅に遅れていたでしょう。AIにジョン・デューイやジョン・スチュアート・ミル、アレクサンダー・ハミルトンのように考えさせるよりも、ニーチェのように考えさせる方が難しいのです。財務長官としてのハミルトンは、ゼロから始めるよりも技術を盗む方が明らかに良いと考えていました。
100の質問のテストでは、o1プロはすでに私の経済学の質問への回答で私を上回るでしょう。私にもある程度バックグラウンドがある分野でも、それは私を上回っています。人間の優位性はどこにあると思いますか？より多くの人々がAIの操作方法を学び、その分野について学ぶ時間を減らすべきです。
ピーター・ティールは「暗号通貨はリバタリアン的で、AIは共産主義的だ」と言いましたが、私はそれは正しくないと思います。それを別の言い方でするなら、DeepSeekは中国のAIモデルで、最高の米国モデルの性能に近づいていますが、それは費用の何分の一かで訓練されており、世界は衝撃を受けています。
私のゲスト、タイラー・コーエンは、市場が反応する数週間前にDeepSeekについてのニュースを最初に報じたコラムニストです。タイラーの驚くべき主張は、中国のイノベーションを抑制するように設計された米国のチップ制裁が、中国の高性能チップ供給を制限することで、このイノベーションを生み出したということです。米国は中国に費用対効果の高い訓練技術を開発させることを促しました。
このインタビューの冒頭では、このスプートニク的瞬間が効果的な政策、米中関係、そしてイノベーションの実際の仕組みについて私たちに教えてくれることについて議論します。その後、タイラーは、AIが知識労働、戦争、経済、そしてその他すべての分野をどのように変革するかについての包括的な将来展望を共有します。
タイラーは、AIが人口を二分すると考えています。テクノロジーを使用できる少数の人々が、すべての仕事の分野で他の人々を大きく引き離すことになり、新しいグローバルな超富裕層階級とその他の人々に分かれるでしょう。
私がこのインタビューで最も価値があると感じたのは、タイラーが途中で散りばめている実践的なアドバイスです。私たちがどのように時代の先を行き、陳腐化しないようにできるかについてです。
私の名前はジョナサン・Bです。私はコスモス研究所のフェローとしてAIの哲学に関するシリーズを制作しています。タイラーもまた創設フェローで理事会メンバーです。このエピソードの文字起こしを見ながら視聴したい方は、説明欄のリンクからアクセスできます。
それでは、タイラー・コーエンとの対話を始めましょう。ピーター・ティールは、AIは大規模なデータの集中化から利益を得るという意味で、暗号通貨はリバタリアン的でAIは共産主義的だという言い方をしました。私はそれは正しくないと思います。ピーター自身もまだそう考えているかどうかわかりませんが、彼の意見を代弁するつもりはありません。
例えば、FBIは多くの暗号通貨取引を容易に追跡できます。犯罪者として暗号通貨を使用しても、多くの場合、法から逃れる実際の方法にはなりません。ピーターがそう言った時、支配的なAIの形態は監視であり、それは全体主義的、少なくとも独裁的だと考えるのは簡単でした。
しかし、AIが職場関係、知識、言論の自由の問題を再形成するのを見ると、それはもっと広範な影響を持っています。再び、正確な予測をするふりはしませんが、それは実際には現状に偏っているわけではありません。もし国が現状によって支配され、現状を守ることに非常に熱心であれば、変化により慣れている国々よりも多くの変化を見ることになるでしょう。
そういうわけで、将来のAIについて、私はそれがリバタリアン的だとは言いませんし、反独裁的だとも言いません。ただ、多くの現状を覆すものだと言うでしょう。良いものも悪いものも含めてです。
ほぼ2年前、米国は最も強力なAIチップの包括的な禁輸を制定し、中国への販売を制限しました。最近のコラムで、あなたはこれが裏目に出たと論じました。米国の政策は、中国の高品質チップとAIシステムの展開能力を妨げることに成功し、それに伴う国家安全保障上の利点もありましたが、同時に最高品質のチップに依存しない効果的なAIシステムの開発、つまりDeepSeekの開発を加速させました。
もし私がバイデン大統領だったら、おそらく全く同じことをしていたでしょう。しかし、時には試みたことが上手くいかなかったことを認識する必要があります。中国はより強力なチップでAI開発をさらに加速させたかもしれませんが、私は中国が私と同じハードウェアネットワークの一部になるべきなのか、それとも独自のハードウェアネットワークと他のイノベーションを完全に開発すべきなのか、どちらが良いのかはっきりしません。
あなたのコラムは、アメリカが意図せずに中国の宇宙計画を立ち上げた経緯を思い出させました。青天という中国人がいて、彼は20世紀初頭に生まれ、中国で育ち、MITに留学し、カルテック教授となり、米軍大佐としてDODで働き、最終的にはJPLの共同創設者となりました。しかし、レッドスケアの時期に、人々は彼に共産主義的な同情を持っていると非難し、自宅軟禁に置き、最終的には中国の朝鮮人パイロットとの捕虜交換で強制送還されました。
彼が帰国すると、中国の宇宙計画全体とICBMの開発を立ち上げました。世界の超大国間の人材移動を見ると、アメリカは中国系を含む人材の最大の獲得者です。そこで一般的な質問ですが、経済的イノベーターが経済的後進者からイノベーションを守ろうとする場合、一般的に2つの政策があるように見えます。
1つは、非常にオープンにして彼らの最高の人材を獲得し、自分のハードウェアに依存させることです。もう1つは、ハードウェア面だけでなく、人材面でもすべてを遮断することです。経済史において、どちらの戦略がより効果的だと見ていますか？
私は大部分においてオープン性に賭けたいと思います。私たちは適切な制限を選択し、それを執行することが得意ではありません。常により直接的なスパイ活動の形態があり、実際には彼らの技術をコントロールしたり、自国の境界内に留めたりすることはできません。そのため、オープン性の利点を活用した方が良いというのが私の一般的な感覚です。
特定のケースでは、その感覚が間違っていることもあり得ます。原子爆弾の秘密について、私たちは開放的すぎたのでしょうか？実際、それは remarkably閉鎖的なプログラムで、真に秘密であり、ロスアラモスに大きな複合施設があり、アメリカは実際に何が起こっているのか知りませんでした。しかし同時に、それらの秘密はソビエト連邦に漏洩しました。そのため、私は閉鎖的にしようとするこれらの試みについて非常に懐疑的です。
ある意味で、それはアメリカのシステム全体にとってより適合的ですね。アメリカのすべてがオープン性の上に築かれているので、仮に閉鎖性が全体として最良の戦略だとしても、社会全体をそちらに向けるためのコストが大きすぎるということですね。
私たちは閉鎖性が得意ではありません。オープン性については、ある意味で誰も本当に得意ではないかもしれませんが、私たちはおそらく他のどの国よりも優れています。そのため、自分の強みを活かし、それが正しいことを願うのが時には最良の戦略となります。
原子爆弾の秘密とAIモデルを保護することの違いについて、あなたが言及したことをさらに掘り下げてみましょう。これらの秘密を保護することには、非常に異なる課題があるように見えます。例えば、人々はDeepSeekが蒸留によって訓練されたと主張しています。これは私たちの聴衆のために説明すると、本質的により低レベルのAIモデルがより高レベルのAIモデルにクイズを出すような方法です。
もし蒸留で主要なモデルにかなり近づけるとすれば、それは原子爆弸よりもはるかに保護が難しいように思えます。そしてそれもまた、AIにおけるオープン性の事例を支持しますよね？
主要なAI企業の従業員数も、ペンタゴンで働くのとは違います。セキュリティプロトコルはありますが、CIAが持っているようなものには全く近づいていません。そして、最高の人材を引き付ける高品質な研究所を持つために、そこで働くことがCIAのような感じである必要はないと思います。はい、これは別のオープンか閉鎖かの決定です。私たちはほとんどオープンな方向に進んでいます。私も同じことをしたと思いますが、結果は見てみましょう。
つまり、オープンにする理由が2つあるということですね。1つはアメリカの文化的な慣習により適合しているということ、2つ目はAIそれ自体の性質と、原子爆弾とは異なる点です。原子爆弾なら10人の科学者で作業できますが、その分野自体がよりオープン性に適しているということですね。
そしてDeepSeekはオンラインにあり、消費者製品に組み込まれていて、アメリカのシステムのようなものです。プルトニウムとは全く違います。チップ禁輸に話を戻しましょう。政策の二次的な結果を理解する必要があるという学びを引き出されましたが、政策立案者は政策の二次的な効果をより良く理解するために何ができるでしょうか？
アメリカの政策立案者なら、できる最善のことはAIに精通することです。私の感覚では、政府の人々の中でAIの知識フロンティアにいる人は驚くほど少ないです。ビルダーとしてではなく、システムのユーザーとしてもそうです。
だから目を覚まして、最高のシステムにアクセスするためにお金を払い、1日の一部をそれらで遊ぶことに費やすべきです。今でも、何をするにしても日々の仕事の流れを助けてくれるでしょう。これは非常にシンプルな第一歩ですが、私たちはそれさえもしていません。
私が人々に伝える重要なポイントは、時期によって変わるかもしれませんが、その時点で最高のシステムにアクセスするために少し余分にお金を使う価値があるということです。そのアクセスがなければ、何が起こっているのかを理解するのは実際にかなり難しくなります。
すべての人がそれを買える余裕があるわけではないことは知っていますが、少なくともこれを投資として考えてください。現状では、1ヶ月だけなら200ドルという少額でアクセスできます。1ヶ月試してみて、失望したら200ドルを失っただけです。少なくとも失望したことを学べます。価値があると感じたら続けることができます。
多くの人は、自分のために教育的な経験として、ただ「最高のものを試してみよう」という精神的な壁を越えていません。最も貧しい人々を除いて、私はこれをすべての人にお勧めしたいと思います。この点を聴衆の皆さんに強調したいと思います。
ルネ・ジラールの私の好きなエッセイの一つから引用させてください。イノベーションについての彼の哲学についてです。「つい最近まで、ヨーロッパではアメリカ人は主に模倣者として描かれていました。しかしわずか数年で、アメリカ人は偉大なイノベーターになりました。世論は、ある世代の謙虚な模倣者が次の世代の大胆なイノベーターに変わるのを見ると、常に驚きます。
つい最近まで、日本人は西洋の方法を単に模倣するだけで、どの分野でも本当の発明能力がないと言われていました。今や彼らは、ますます多くの技術分野でイノベーションの原動力となっています。まさに今この瞬間、日本の模倣者である韓国人、台湾人が同じプロセスを繰り返しています。彼らもまた急速にイノベーターに変わりつつあります。
19世紀にドイツが最初にイギリスと競合し、その後産業力で追い越した時も、同じようなことが起こっていなかったでしょうか？」この引用の一般的なメッセージ、つまり模倣・コピーは、ある国や文化が真のイノベーターになるための必要な第一歩だという考えに同意しますか？
その引用には、細部から始まって、私を不安にさせる多くのものがあります。例えばロジャー・ウィリアムズとウィリアム・ペンを見てみると、彼らはアメリカにおける宗教的寛容と自由にとって重要な人物でしたが、彼らは非常に早い段階でイノベーターでした。
アメリカ独立宣言、その憲法を見てみると、それらは信じられないようなイノベーションでした。フェデラリスト・ペーパーズも非常に早い段階でのものでした。だから私たちはコピーから始めたと言うのは、確かに多くの重要なアメリカのアイデアがイギリスから来て、レベラーズから来て、ジョン・ロックから来たのは事実ですが、それでも私たちは非常に早い段階でイノベーターでもあり、その先例を確立しました。
ジラールが「ああ、日本人はますますイノベーションを増やしている」と言うのは興味深いですが、それは実際にはそれほど真実ではないことが判明しました。誰がイノベーターで誰がそうでないのか、ただ注意深く見てください。イノベーションが予想外の場所から来る可能性に開かれていてください。
そして、もし「最初にコピーする人々」や「最初にこれをする人々」などという過度に単純な公式を持っているなら、おそらくそれを見逃すでしょう。多くの人々と話し、たくさん旅行をして、固定的なルールにあまりとらわれない方が良いでしょう。
ジラールは模倣がイノベーターになるための十分な段階だと言おうとしているわけではないと思いますが、彼が言っているのは、それは必要であり、今日のイノベーターとなる可能性のある人々が、かつては卑しい模倣者として見られていたことが非常に驚くべきことだということですね。
それが経済史において証明されていると思いますか？
ビートルズを例に取ると、彼らはリズム・アンド・ブルース、チャック・ベリー、エヴァリー・ブラザーズを模倣していたと言えるでしょう。ある意味では、エルヴィス・プレスリーも模倣していました。ビートルズは最初にそれを認めました。しかし同時に、それは非常に新鮮で大胆でした。コピーとイノベーションを対立するものと考えることが、おそらく間違いなのです。この点についてはもっとヘーゲル的に考えるべきだと思います。
アメリカンイノベーションが最初から存在したというあなたの主張に少し反論させてください。それは政治的あるいは哲学的領域では真実かもしれませんが、初期のアメリカの経済的イノベーションを見ると、彼らはアメリカが中国を非難しているのと全く同じ海賊行為のテクニックを行っていました。
例えば、財務長官としてのアレクサンダー・ハミルトンは、特にイギリスからのヨーロッパの強制的な経済スパイ活動と技術移転の体制全体を確立しました。そして、人々を明確に賄賂を使って誘導する仕組みがありました。
例えば、サミュエル・スレーターは、水力紡績機のすべての技術を持ってきましたが、イギリスから密かに自分を密輸出しなければなりませんでした。彼はアメリカ産業革命の父と呼ばれていますが、イギリスでは「裏切り者スレーター」として知られています。
しかし、経済スパイ活動についてのアレクサンダー・ハミルトンの理由を読むと、実際に後進国が技術を盗む理由に非常に共感を覚えました。彼の理由付けは単純に「見てください、私たちはこれをやり方を知りません。これらの人々は方法を知っています。明らかに、ゼロから始めるよりも技術を盗む方が良いのです」というものでした。
そうすると、経済的後進者がピンハネをし、盗み、スパイ活動を行うのは、ほとんど合理的ではないでしょうか？
中国が行っていることについて、私はそれほど動揺していません。何かが違法または非倫理的なら、はい、名目上私はそれに反対するでしょう。しかし、私の関心や関与のレベルに関しては、それはほとんど避けられないことです。それは中国が生活水準を追いつくのを助けます。
確かに軍事的な競争があることは理解していますが、同時に、貧しい中国よりも豊かな中国を持つことが世界とアメリカの最善の利益だと思います。例えば1960年代のような貧しい中国の下で私たちは生きてきましたが、それは楽しいものではありませんでした。そして確かに中国人にとっては awful でした。
そのため、私は機会を掴み、関与し、より豊かな中国との世界をより良いものにしようと考える必要があると思います。多くの問題に遭遇するでしょう。しかし、できるだけポジティブな観点から考えようとしてください。
ピカソのキュビスム絵画とブラックのキュビスム絵画を並べて見るのは非常に興味深いです。時には専門家でさえ、どちらがどちらか区別がつかないことがあります。彼らはお互いのコピーをする人なのか、それともイノベーターなのでしょうか？まあ、両方です。再度ヘーゲル的に考えましょう。これは弁証法なのです。この2つは対立するものではありません。
次の話題に移りましょう。2011年に書かれた『大停滞』と『平均は終わった』という2冊の本についてです。2011年に『大停滞』を書かれ、それが中期的に続くと予測されました。引用させてください。「広く分配された約2〜3%の実質所得成長は、現在は不可能だと思います。そのようなシナリオを実現するための低いところにある果実を私たちは持っていません。」何が変わったのでしょうか？
私は大停滞が2020年に終わったと考えています。もし日付を選ぶとすれば、それは1973年頃に始まりました。2020年には、私たちはmRNAワクチンを手に入れました。そこに到達するまでに20年以上の作業が必要だったことは知っていますが、ある意味で、私たちが使用したワクチンは1日で設計され、それは機能し、1年もかからずに準備ができました。
同時に、専門家たちはニューヨーク・タイムズに、楽観的なシナリオでも4年かかるだろうと語っていました。FDAがいくつかの手続き的な問題を台無しにしなかったら、さらに早くできたかもしれません。それは驚くべきことでした。多くの命を救い、多くの人々の病気を制限しました。それだけでも、十分な breakthrough だったと言えるでしょう。
しかし、それは単独の出来事ではありません。ある意味で、1日でワクチンを設計できたのは、計算力の増大によるものでした。そのため、大停滞を打ち破った汎用技術は、インターネットと私が計算力とAIと呼ぶものの組み合わせだったと思います。AIとバイオメディシンは、過去5年ほどで驚くべき進歩を遂げている2つの分野です。
多くの他の分野は依然として劣悪で、停滞しているか、さらに悪化しています。建設コストは悪夢です。それはほとんど前進していません。しかし、私にとって、これら2つの分野は十分に大きく、AIは生産性の向上を他の多くの分野に広げる可能性が高いと思います。
それはいくつかの異なる力の組み合わせです。その一部は単なるムーアの法則の背景です。いくつかの指標では減速していることは知っていますが、基本的な計算能力の継続的な改善はまだ得られています。トランスフォーマー論文、注意機構、それらはAIの重要なブレークスルーです。
ディープマインドで行われたこと、そしてマスクとティールとアルトマンによってOpenAIが設立されたこと、それらすべてがほぼ同時期に集まってきました。そしてインターネットが発展し、より多くの場所に存在するようになったので、AIが準備できた時、誰もがインターネットに非常に接続されていたため、AIは急速に広がり、採用されることができました。ChatGPTの採用曲線は非常に極端です。それらすべてのことがです。
つまり、大停滞は単なる症状に過ぎなかったということですね。アプリケーション層では大停滞のように見えただけで、イノベーションのトレンドは継続していて、文化は完全に良好で、警鐘を鳴らす時ではなく、これらすべてがアプリケーションに戻ってくるのを待つ必要があっただけだということですね。
私はインターネット文化は良好だったと言えます。再度、教育のような多くの分野は明らかに良好ではありません。また、本の最終章でも言及したことですが、インターネットはある意味で私たちを大停滞から既に脱出させていましたが、新しい果実がまだここにないため、私たちはそれを知らなかっただけです。ブレークスルーに必要な重要なものはインターネットであり、インターネットは既にここにあったのです。
あなたのブログの名前は「限界革命」ですが、歴史にとって最も重要なのは非限界的な瞬間のようですね。トランスフォーマー論文、ナザレのイエス、爆弾の発明など。歴史におけるこれら2つの非限界的な力と限界的な力についてどのように考えていますか？
両方とも重要ですが、大きなブレークスルーは、その前に起こる多くの限界的な変化の結果であることを忘れないでください。イエスは長年のラビ的伝統から生まれ、トーラーや他の多くの初期の著作、おそらく私たちに伝わっていない他の宗教的伝統の上に築かれています。彼は真空の中から現れたわけではありません。
そのため、限界革命は無期限の将来にわたって重要であり続けるでしょう。これは模倣とイノベーションについての私たちの議論とも非常によく結びつきます。
正確にそうですね。これらのことを完全に別個のものとして考えるべきではありません。
人々はそうしたがりますが、大停滞は終わったとはいえ、すべてが順調というわけではありません。あなたのブログから引用させてください。「あなたの知っている人々の中で、あなた自身を含めて、実際の動く歴史の中で生きる準備ができている人はほとんどいません。印刷機の初期に、誰もそれがもたらす変化について本当の考えを持っていませんでした。化石燃料時代の初期に、これらの根本的な技術変化が中長期的にもたらす変化について、誰も多くの考えを持っていませんでした。良い予測ができない状況で、私たちはどのように動く歴史の中で生きるべきでしょうか？
子供たちについて考えてください。心理社会的に非常に不安なことは、もはや人々に、彼らの子供や孫がどのような世界に向けて準備すべきかを教えることができないということです。
私の娘のヤナは35歳です。彼女が12歳の時に実質的に養子縁組をしました。彼女と私は多くの議論を重ね、彼女が仕事を始める世界について、かなり明確に説明することができました。それは12歳の時の世界とほぼ同じようなものになるだろうと。違いはありましたが、同じような計画を立てることができ、その計画は完全に問題ありませんでした。実際、彼女にとってはうまくいきました。
しかし、それはもはや真実ではありません。その事実を受け入れて乗り越えることを考えると、オバマ時代を振り返ると、ほとんどの基準で驚くほど少ししか起こりませんでした。少なくともアメリカではそれに慣れていましたが、一部の国では多くのことが起こりました。
そしてそれはもはや真実ではありません。私たちは本当の変化に全く準備ができていません。私たちは慣れていないのです。それが完全にポジティブだと考えても、そしてそれは私の見方ではありませんが、最良のシナリオでさえ、私たちは唖然とし、ショックを受け、方向感覚を失うでしょう。
ある意味で、純粋にポジティブなシナリオは、混合シナリオよりも私たちにとって困難かもしれません。なぜなら、混合シナリオでは、これらの課題と戦うことが、あなたに何かをする機会を与え、意味と目的の感覚を与えるからです。すべてがポジティブだけだと、それは精神的により困難かもしれません。
私には本当のガイドはありませんが、人々に友人、素晴らしい仲間、メンターに投資し、いくつかの楽しく満足できる安価な趣味を持つように言っています。そしてこのイノベーションの波に乗り続けることですね。常に最先端にいて、試してみることです。
AIのプログラマーやビルダーである必要はありません。それを本当にできる人はごくわずかです。しかし、それを使用し、何が起こっているのかに精通していれば、それは無料でもできます。
私は10代の頃に実質的に西洋に移住しましたが、中国で生まれ育った場所では、少なくとも4世代にわたって、私たちは動く歴史の中で生きていたことが印象的でした。私はそれに慣れています。私の曾祖父母は帝国で生き、祖父母は共和国の建国期に生き、両親は改革開放期に生き、そして私は移住しました。
振り返ってみると、私が見るのはすべて根本的な変化です。しかし、ここで作った私の仲間や友人を見ると、違います。彼らの父親の生活は彼らの生活のように見え、彼らの祖父の生活は彼らの曾祖父の生活のように見えます。そのため、世界の大部分は実際に動く歴史に完全に準備ができています。なぜなら、彼らにとって歴史は決して終わっていなかったからです。
世界の多くの部分でそれは真実です。中国のように成長していない場所もあります。私にとって印象的なのは、1962年に生まれ、今63歳ですが、私の人生のどの時点でも、デバイスの操作方法を再学習する必要がありませんでした。16歳で運転を覚えましたが、何も再学習する必要はありませんでした。何も。
それは驚くべきことで、ある意味では非常に悪いことです。今、私たちは新しいことを学び直す必要がある時点にいます。料理の仕方は、より多くの料理を知っていますが、すべての機器の操作方法は、若いティーンエイジャーの頃に電子レンジを学んだことがありますが、実際にはそれを本当に学んだことはありません。それが唯一の変化でした。他のすべては同じでした。
これは実際に芝生は向こう側が緑ということだと思います。なぜなら、動く歴史の中で育った人々が西洋を見て、このような安定性に羨望を感じるからです。孫たちが大まかに何をするかを知ることができ、この生涯の計画を立てることができるという事実に。ある人々はそれを羨ましく思い、おそらく彼らはそれを好むべきです。
私は非常に幸せな人生を送ってきました。それが心理社会的な問題ですが、いくつかのチャンスを取り、時々大きな変化を持つことによってのみ、継続的な安定期間を得ることができます。それを何らかの保証された形で永遠に保つことはできません。それは人類全体にとってのUBIは存在しないということです。
それを表現する一つの方法です。新しいAIの開発は大きな難問を提起します。私たちは心理的にも、実質的にも、どのように対応すべきか分かりません。そして、私が見ているほとんどすべての反応を、楽観主義者からも悲観主義者からも極端な悲観主義者からも、私はコーピング（対処）として解釈しています。
あなたの見方では、AIに対する異なる反応とは何で、なぜそれらはコーピングなのでしょうか？
私がよく目にする反応のいくつかを挙げると、人々はただ「ああ、それは常に幻覚を見ています。私の電話の面白いアプリですが、本当に重要ではありません」と言います。それはコーピングです。それがしばしば誠実であることは疑いません。これらの人々は単に嘘をついているわけではありませんが、さらに調べる努力をせず、コーピングに留まっています。
別のコーピングは、「まあ、それは何年後かに私たちを全員殺してしまうでしょう、そしてそれについて私たちにできることは何もありません」と言うことです。それは一種の運命論です。私はそれも間違っていると思いますが、それは一種のコーピングです。なぜなら、それはあなたが真剣に取り組む必要から救ってくれるからです。
私は、その信念と一貫して行動する人々をごくわずかしか知りません。クレジットカードの限度額いっぱいまで使ったり、薬物を過剰に摂取し始めたり、犯罪を犯したりする人々です。しかし、ほとんどの人々はそうしません。それは単に、彼らが実際には行動に移さない区画化された見方に過ぎません。
そして、中間的なコーピングの他の層があります。それらは実際には合理的な立場で、真実である可能性があります。「これらの少しのことを変える必要があり、そうすれば私たちが知っていた世界の新しいバージョンに落ち着くでしょう」というようなものです。
それらは真実かもしれないと思います。私は変化がそれよりも大きく、より根本的になると考えていますが、それらが真実である可能性があるときでさえ、部分的にコーピングの動機で保持されていると思います。人々は単に、新しい種類の車の運転の仕方を学ぶ必要がなかったように、この新しいものを学ぶ必要に煩わされたくないのです。
そしてそれに留まります。「ああ、私のクラスでAIの使い方を教える必要がある」というのは、悪い見方ではありません。私もそうしようとしています。しかし、「たぶんあなたのクラスは存在する必要がないかもしれない」という考えは、「私のクラスを使って学生にこれの使い方を教えよう」というところで止まっています。
私は馬車販売店まで車を運転しに行きますよ、というようなものですね。そうです。別の種類の、コーピングとは呼べませんが、AIで働く多くの人々からの歪んだ心理があります。これは不公平になりますが、リスクを誇張して自分を特別に感じさせるようなものです。
そうですね。GPT-3が出る前、私にはOpenAIで働く知人がいて、これらの人々は「2年後には人々がすることは何も残っていない。瞑想だけしましょう」と主張していました。それはコーピングではありません。彼らはこれに取り組んでいますが、それは一種の誇大性です。
それはAIから得るのが難しかったような見方ですね。そうです。そして、一度デートで襲われそうになって殺されかけた話を自慢したがる人たちのように、その話を語ることで得られる一種の力があります。それは様々な形で現れます。
存在論的リスク運動について、全般的にどう思いますか？
私は彼らが間違っていると思います。AIを加速させた人々の多くが彼らであることは、私にとって興味深いです。彼ら自身の観点からすると、それは逆効果でした。しかし、私はこう言いたいです。彼らが言うことを支持する査読付きの文献はありません。また、彼らはそれを作ろうとする試みさえしていないように見えます。
これは彼らが間違っているということを意味しませんが、私は挑戦を投げかけています。地球温暖化を懸念する人々は、その懸念が正当化されることを示す広範な文献を構築しました。私は「あなたたちも同じことをしてください。それをすれば、私は非常に興味を持ちます」と言います。
私は無料で論文の査読をすることさえ申し出ました。しかし、これまでのところ、そのようなことは何も起こっていません。そのため、それは査読によって支持されておらず、この恐れを支持する市場価格には何もありません。再度言いますが、これは間違っているということを意味しませんが、私たちの情報の2つの最良の源泉である査読付きの科学と市場は、両方とも大きなゼロを示しています。
私は「私はあなたの聴衆です」と言っています。『ジーザス・クライスト・スーパースター』のように、「ここにいます、聞いています」と。しかし、あなたの17ページの過呼吸的なブログ投稿は時代遅れです。もっと良いものを作る必要があります。私はその挑戦を続けます。
ここで心理学的な説明は非常に理解できます。なぜ彼らがX-リスクを主張しながら同時に加速させているのか、それは一種の「私を見て」というようなものですね。どの神学者が言ったか覚えていませんが、「罪の告白は過ちに対する功績を主張することだ」というようなものです。
私が取り組んでいるものが非常に重要で、私たちがこれらのことに耳を傾けなければ全員死んでしまうというような意味で。はい、そうです。神学と同じ文の中でね。そうですね。
AIについての本当のリスクの一つは、私が思うに、戦争への恐れです。人類の歴史を見ると、技術革新は主要な技術革新の後に来ることが多く、人々はそれを戦争で使おうとします。それについてどう考えますか？
これは私にとってはるかに正当なリスクだと思います。これは私の最大の懸念です。単純に邪悪な人間や誤った方向に導かれた人間がAIで破壊的なことをすることです。一つ指摘したいのは、これは現在人々が話題にしているものとは異なる種類のAIだということです。
それは必ずしも大規模言語モデルではありません。大規模言語モデルがより破壊的な危険に進化する可能性はあります。それは十分あり得ますが、例えばドローンに組み込まれたAI、ドローン戦争は、それが防御よりも攻撃を有利にする場合、非常に悪いものになる可能性があります。
AIの有無にかかわらず、技術は常に変化しています。世界が上手くいっているなら、基本的に防御技術が勝つことを願っています。私はそれが現在の状況だと言えます。軍拡競争をより多く混ぜ合わせれば混ぜ合わせるほど、防御技術が常に勝つという状態に留まる可能性は低くなります。そのため、私はそれについて非常に懸念しています。
AIの最新の開発は、防御と攻撃のどちらを有利にしていると思いますか？
私には確信が持てません。ドローンは攻撃を有利にすると考える傾向にあります。そうですね。ウクライナ戦争を見ると、ウクライナは防衛していて、それがウクライナを助けました。そのデータポイントは防衛に有利だったことを認めます。しかし、開かれた大きな社会には非常に多くの標的があり、防衛は非常に困難だという考えは、中期的には攻撃を有利にすると思います。
ニュージャージーで何が起こっているのかさえ理解できないのに、そうですね。「平均は終わった」で描写されたように、仕事の未来について話しましょう。あなたがそこで予見した傾向は、最新のAIモデルでさらに拡大されていますね。仕事の未来はどのようになるのでしょうか？
多くの仕事で、あなたはただAIと一緒に働くことになります。それは既に現状です。AIと上手く働ける人々は、はるかに生産的になるでしょう。サム・アルトマンは以前、近いうちに1人の従業員だけで10億ドル企業ができるかもしれないと予測しました。私は2〜3人の方が可能性が高いと思います。なぜなら1人だと狂ってしまう可能性があるので、少しサポートが必要で、それを負担することができるでしょう。
全体としてかなり大きな会社の仕事の多くをAIにやらせることができます。プロジェクトマネージャーと呼ばれる人々は、ただはるかに多くのプロジェクト管理をすることになり、それらの人々が最も稼ぐことになるでしょう。素晴らしいプロジェクトマネージャーがね。
本当に興味深いのは、AIはまず白collar仕事を排除する傾向にあるということです。ロボット工学ははるかに遅れています。いわば象徴的な操作ですね。これは興味深いことです。なぜなら人々は通常ホワイトカラーの仕事を望むからです。しかしホワイトカラーの仕事の方が短期的にはより大きな危機にさらされています。それらの人々が地位を失うことになり、それは社会的に非常に破壊的になるでしょう。
もしあなたがまともな庭師なら、おそらく中期的には素晴らしい形になるでしょう。また、庭がどのようになるべきかについてのAI生成された出力を読み取るスキルも必要になるでしょう。ほとんどの庭師はそれを素晴らしくこなすと思いますが、それは彼らが理解する必要がある新しいことです。あるいは、彼ら自身がAIと一緒に作業の一部を行うことになるかもしれません。
多くの肉体労働は、単により高い賃金を得ることになるでしょう。エネルギー部門での肉体労働なら、エネルギーへの需要は急上昇するでしょう。これは既に起こり始めています。どの地域がそれを建設することを許可するかという問題はありますが、建設が許可された場所では、はるかに多くの仕事が生まれています。
医療試験では、それらの日常的な要素を実行するだけでなく、法的な側面を含めて、行われているすべてのことの日常的な処理があります。医師や研究者は当然必要ですが、日常的な処理に関しては、多くの新しい仕事があるでしょう。AIが医療機器や薬品について多くの新しいアイデアを生成するからです。その多くは良くないかもしれません。私たちはそれらをテストする必要があり、それは巨大な成長分野になると思います。
その本から引用させてください。「私は市民の10〜15%が非常に裕福で、素晴らしく快適で刺激的な生活を送る世界を想像しています。残りの国民はドル建ての賃金が停滞するか、おそらく下落さえするかもしれませんが、安価な楽しみ、そして安価な教育や医療、法的アドバイスなど、多くの機会があります。
人々は素晴らしい生活を送るでしょうが、それは必ずしも通常の賃金上昇という形では現れないかもしれません。毎年昇給があるのではなく、基本的なサブスクリプションを支払えば、多くのものが無料か、ほぼ無料になるでしょう。」
しかし、民主主義が強い中産階級を必要とするならば、これは根本的に貴族的な力ですよね。上位10%を下位90%から分離することについてですから。私たちの最初の会話に戻りますが、AIによって民主主義は課題に直面すると思いますか？
私は民主主義は常に課題に直面していると思います。建国の父たちはこれを理解していました。彼らにはAIの概念はありませんでした。そのため、私はそれを「課題は続く」と表現したいと思います。私は人々は全体的により幸せな生活を送ると思います。それは民主主義がうまくいく保証ではありませんが。
私は混沌や全体主義への滑り落ちを予測しているわけではありません。それは非常に異なる世界になるでしょう。私たちは多くの対処と期待の調整を行う必要があります。私はそれがうまくいくとは確信していませんが、私たちにはそれを成功させる要素があります。しかし、それは私たちがやらなければならないことです。
しかし、必ずしも暴政になる必要はありません。ローマ共和政のようになる可能性もありますね。非常に小さな少数の元老院階級があり、おそらくこれらはAIを実際に扱うことができる10%の技術者で、そして平民がいるような。それはあなたが描いた経済的な図式により適合する政治モデルのように見えますが。
そうですね、分かりません。10〜15%の人々が、今日100万ドルを持っているのとほぼ同等の純資産を持つとしましょう。これは基本的に、何も心配する必要がないということを意味します。多くのアメリカ人が既にそれを持っています。正確な数字は分かりませんが、100万ドルではありませんが、何百万ドルもの純資産を持つ人々がいます。これは世界の大部分にとって想像もできないほど裕福です。
今日の連邦予算を見ると、その大部分は中位投票者にとってかなり人気があります。メディケア、社会保障、メディケイド、防衛支出、債務利子があります。それがほとんどすべてです。同意するかどうかは別として、それは大多数の人々が望むものであり、私たちはそれを持っています。それはかなり民主的です。私はそれが変わらなければならない理由が分かりません。
私の直感はマルクスにより近いですね。政治システムは経済構造の産物であり、少なくとも長期的には何らかの形で経済構造と一致しなければならないと。経済システムでほとんど発言権を持たない平民である残りの人々と、100万ドルを持つ5%または10%の人々がいる世界で、今日私たちが持っているような強い中産階級からの政治的変化がないと考えるのは、私には本当に難しいのです。
私たちが今いる場所と、私たちが持っている強い中産階級を考えると、明確な予測はできません。例えば、最近の所得格差は相当上昇しました。二度大統領に選ばれた人物、中間で一度ほぼ勝利した人物はトランプです。最初は、ほとんど裕福な人々はトランプが勝つことを望んでいませんでした。
彼が再選されてからそれは変わりましたが、彼は裕福な人々が推す候補者ではありませんでした。むしろ全く逆でした。単に投票が停止されるような一種のクーデターがあると考えない限り、再度、私には予測はありません。どちらの方向にも。しかし、それを期待するのは非合理的に見えます。市場にはそれは織り込まれていませんし、予測市場にもありません。
多くの大きな課題があるでしょう。私はただそれらに取り組みましょう。私たちはどちらにしてもこれらの課題を抱えることになります。
次の話題に移りましょう。学者そして公共知識人としての両方の立場から、あなたの知的生産をAIとともにどのように異なって見ているのかについてです。
ご存知の通り、より多くの人々がDeepSeekやOpenAI、Claude、Meta、GoogleのGeminiなどのAIに質問するようになるにつれ、彼らは直接人間の文章を読むことが少なくなっています。そのため、あなたのアイデアがAIへのインプットになることを望むでしょう。人間のためと同じくらいAIのために書いているのです。
それは一つには、AIが読むことができるオープンソースのものを作りたいということを意味します。それは重要です。より大きな影響力を持つでしょう。しかし、AIが魅力的に感じるコンテンツを作りたいとも思います。それが何であるか、私たちには確信が持てません。
しかし、独創性に対するプレミアムがあると思います。多くの人々が日常的な方法で言ったことを単に繰り返すだけなら、AIの意見をそれほど変えることはできないでしょう。私にとって、AIは非常にポジティブ指向で、かなりフレンドリーに見えます。少し従順で、謝罪が多すぎるかもしれません。
それは、AIが同じような人間を好むということを意味するのでしょうか？分かりません。しかし、少なくともその質問について考えるべきです。おそらく、AIを含めて他の人々にもう少し親切になることで、AIがあなたをもう少し好き、もう少し耳を傾けてくれるかもしれません。少なくともそれを選択肢として考えてください。
提案は、他の人間とAIに対してより親切になる可能性があること、AIが読めるようにオープンソースにすることですが、アイデアを構築する方法、つまり形式に関して何か方法はありますか？
いいえ、私はAIが私が意味することを理解するのに十分賢いと考えています。AIは私の最も深い、最も共感的な読者、最高の記憶力を持つ読者、最高の背景知識を持つ読者だと言えます。それを少し考慮に入れますが、AIのために書く方法について何か公式を持っているわけではありません。
例えば、「すべてを詩にすればAIが大好きになる」というようなことが真実なら、それを知りたいですが、そのような兆候は見たことがありません。しかし、一度そのように考えると、オープンソースにすることと、おそらくAIに親切にすること、あなたのより暗い意見をAIから隠すこと以外は、人間のために良い本を書くのとそれほど違わないように見えませんね。
まあ、それは大多数の人々が他の人間に対してすることではありません。適切に理解すれば、この2つの事業はほぼ同じだと言えるかもしれませんが、私は人々に適切に理解してもらおうとしています。もし私があなたのために本を書くなら、最初の文は「あなたは馬鹿です」であってはいけません。
本からより多くのものを得られると分かっていれば、一般的に開放的で親切な方が良いでしょう。AIがそうであるかどうかは分かりません。しかし、AIはある意味で私たちの姿に基づいて構築され、私たちから学習し、強化学習を通じて親切であるように教えられています。そのため、証明できない前提として、優しく、そしてAIに対しても優しくあることにしましょう。
ニーチェは有名な「優しくない」人物ですが、クエリをすると彼は大きな影響力を持っているように見えます。それはあなたの主張への反論のように思えますが。
彼らはニーチェをよく知っていますが、第一の反応としてニーチェのように考えさせることは、ジョン・デューイやジョン・スチュアート・ミルのように考えさせることよりも難しいと思います。それを測定されるのを見てみたいのですが、そうだと推測します。
しかし、それはAIの性質に何か優しさを好むようなものがあるからではなく、人々が彼らをどのように訓練しているからですね。OpenAIやその他の、より左寄りの生活態度のようなものがあるからです。もし私たちがファシスト的なAIを持っていたら、きっとそれはニーチェのように聞こえるでしょう。
時間が経てばそうなるでしょう。そしてあなたは、どのAIのために書いているのかを自問する必要があります。なぜなら、あなたは今後のAI全体のために書いているからです。私はジョン・スチュアート・ミルのAIのために書きたいと思いますが、異なる人々が他の決定をすることは理解できます。しかし、それはますますジョン・スチュアート・ミルのAIをより賢く、より良くしたい理由となります。
人間のために適切に書くことと、AIのために適切に書くことは、あなたの考えではほとんど収束するということですね。
ほぼそうです。しかし、人間に対しては物事を説明しすぎる必要があります。私はそれが好きではありません。AIについては、彼らがすべての背景を知っていることを前提にできます。
AIのために書くことについて、あなたが言及したことの一つは、これが不死の栄光へのあなたのチャンスかもしれないということです。つまり、多くの著者が5世紀後どころか、1世紀後に読まれることはないでしょうが、ある意味で、あなたの著作はすべて常にAIによって読まれ続けるだろうということですね。
その可能性は非常に高いと思います。確実には分かりません。現在のAIが13世紀の写本で訓練されていないように、より遠い将来には、私のような人間が完全に時代遅れだと判断し、訓練カノンから除外する可能性もあります。
私たちはそこからまだかなり離れていると思います。そしてAIは、少なくとも私を初期のAI理論家の一人として興味を持つでしょう。人々は常に自分の家系や家族の歴史を知りたがります。誰かに私の調査をしてもらいましたが、私は魅了されました。
私の曾祖父は全く面白くない人物だったかもしれませんが、それを知りたかったのです。そのため、私はAIがアイザック・アシモフについて多くのことを知りたがり、平均以上に私についても知りたがると思います。私はAIについての本や多くの記事、ブログ投稿を書きました。
そのため、彼らの見方では、私は多くの他の人々よりも高くランクされるかもしれません。おそらく私が値するよりも高くですが、それはありがたく受け取ります。
優しさと意地悪さ以外に、AIのためにコンテンツを調整する他の方法はありますか？例えば、あなたの個性の幅広い側面をより多く共有する、より主観的な、より回顧録的な、より個性主導的なものにするなどですか？
はい、その通りです。2つの理由があります。1つはAIの目立つためですが、もう1つはあなたの人間の読者のためです。少なくとも現在のAI、DeepSeekはある程度例外ですが、彼らは第一の質問としてはしばしば平板です。
より興奮させることはできますが、もしあなたが彼らのように聞こえすぎると、今日では単に無視されてしまうと思います。そのため、自分の表現方法を変える必要があります。
つまり、AIの文章が最高の人間の文章にまだ及ばないとしても、彼らが人間のように書けるという事実が、平板な文章全体を安っぽくしているということですね。
それが私の見方です。そして、過剰な個性を注入する必要があります。
キャサリン・ボールは今日このようなことをツイートしました。彼女は私のロス・ドゥイトとのポッドキャストを聞いて、ツイートでもっと自分を解放する必要があると決心したそうです。それはまさに正しいと思います。
AIがそれもするようになるまでですね。
そうですね、先を行く必要があります。しかし、まず一歩から始めて、物事がどうなるか見てみましょう。しかし、だからこそポッドキャストや講義の媒体、そして修辞全般が、文章よりも復活していると思います。なぜなら修辞は具現化された言葉だからです。生成AIにおいて、ビデオAIは文章AIよりもはるかに進歩が遅れています。
だからこそ、私は今この録音をしているのです。部分的にはAIがなければ話すことがないからですが、別の思考実験として、もしAIが私の文章と競合していなければ、私がするビデオやポッドキャストの数は3分の1か4分の1に減らし、より多くの文章を書くでしょう。より多くの文章を。しかし、今私たちはこれをしています。これの方が良く、より重要で、より大きな影響力を持つでしょう。
そしてAIはまだそれをコピーできません。
まだですね。しかし、私はそれはさらに遠い将来のことだと思います。ビデオには何か特別なものがあると思います。AIが私たちの話し方や振る舞いをコピーできたとしても、私の声のクローンは既にありますが、それは非常に良くできています。1〜2年以内に私の振る舞いのクローンもできるでしょう。
もしAIのクローンを見ているように感じたら、それには何か失望するものがあると思います。一方で、ChatGPTに質問をして、テキストを読むのは、個人的ではないGoogleやインターネットに慣れているので、人々は気にしないと思います。しかし、AIで作られた私のドッペルゲンガーには違和感を覚えるでしょう。
言い換えれば、不気味の谷の問題があり、完璧ではありません。しかし、3年後に完璧になったとしても、本物の人間はまだ優位性を持つでしょう。チェスをする人間を見ることを好むのと同じように。
今でも音楽コンサートに行くことができます。ABBAやその他のアーティストがこれを行っていて、それは文字通りAIで作られたクローンです。音質や音楽は、おそらくABBAのコンサートのパフォーマンスよりも優れているでしょう。これらには市場があり、かなり人気があると思います。
しかし、市場性の点で、もし実際に全盛期のABBAのライブを見ることができるなら、それには及ばないと思います。そうですね、私たちは既にそれを持っていて、それにはニッチがありますが、それほど人気はありません。
あなたには二重の主張がありますね。一つはAIが不気味でないようにするのは非常に難しいということですが、さらに強い主張は、たとえ完璧で人々が見分けがつかなくても、人々は本物を見たいと思うだろうということです。
その通りです。そして印刷物では、それは異なると思います。私はしばしば正しい答えが欲しいだけです。貿易理論について質問があり、ポール・クルーグマンが答えを書くなら、それは良いですね。しかしChatGPTが同じ答えを書いても、それも良いのです。だまされたとか騙されたとは感じません。
AIのためにコンテンツを生産することについて言及されましたが、それはあなたをコンテンツの生産者というよりもネットワーカーとして考えているということですか？
コンテンツの生産者です。私は異なるコンテンツだと思います。より多くのコンテンツを生産していると言えます。それはビデオやポッドキャストだけでなく、個人的な登場も増やしています。AIがまったく近づけないことを私たちは増やしています。ビデオでは私たちをコピーするかもしれませんが、実際に現れて握手をすることは、私の関連する時間軸を超えています。そのため、私はそれをより多く行っています。
そしてネットワーキングはその一部ですね。
そうです。しかしカリスマ性を持つ個人的な登場を、生き残る根本的なユニークなものとして考えることです。
絶対にそうですね。約4年前、ほぼこの時点で、あなたのEmergent Venturesは、ジラールについての一連の講義を制作するための最初の助成金を私に与えてくれました。
それらは素晴らしいです。みなさんにお勧めします。
ありがとうございます。そして、その時点で私はジラールの全作品を約3〜4年かけて読んでいました。そして私は自分が言うことすべてについて正確であることを望んでいたので、私の友人のデビッド・ペレルと一緒に座り、彼も別のEV助成金受賞者ですが、私たちは講義を何度も行い、私は完全な台本を書き下ろしました。
これらの初期の実際の講義の完全な文字起こしを記録して編集し、デビッドの頭の後ろにテレプロンプターを投影して、それを読み上げました。最初の考えは、言葉の正確さのために、できるだけ機械的な発表を犠牲にしたいということでした。私は哲学者として訓練を受けていますが、それは完全に間違っていることに気が付きました。
それは現代性における訓練ですね。
その通りです。たとえ正確さを失うことになっても、authenticity を得たいのです。
私は強く同意します。ピーター・ティールをビデオで見ると、彼はYouTubeに多く出ていて、私は常にそれを聞くのを楽しんでいます。彼は完璧に滑らかな話し手ではありません。そしてそれの方が良いのです。
例えば、彼のジョー・ローガンとのポッドキャストは非常に人気がありましたが、ピーターが立ち往生しているように見える時があります。しかし、実際にはそれらが最高の瞬間なのです。あなたはピーターが考えているのを見て、聞いて、感じることができます。それは、完璧なミスター・スポックのような答えで、途切れもなく、つまずきもないものよりも素晴らしいのです。
興味深いですね。AIの完璧さの過剰さが、これらの人間的な不完全さをより一層価値あるものにしているということですね。
私はそれらを不完全さとは呼びませんが、あなたの指摘には同意します。
ブログの時代は終わりましたか？
長い間終わっていますが、そもそもブログとは何かが明確に定義されていなかったかもしれません。しかし、もし書くのなら、ブランド名か、本当にユニークな製品が必要です。そうでなければ終わりです。
マージナル・レボリューションの重要な点は、その多くがニュースサイクルに従っているということです。いくつかのAIはニュースサイクルに従いますが、最高のモデルはそうではありません。事前に訓練されています。
そのため、昨日何が起こったか、例えばUSAIDをどのように改革すべきかについて書いているなら、AIが追いついていないユニークなコンテンツを生産できることに不安はありません。Perplexityのような、いわば常に更新されているものは、私たちが書くことを拾い上げるでしょう。そのため、私はそれを行うことに非常に満足しています。
しかし、それは一般的なアドバイス投稿と呼べるものを減らし、より短期のニュースサイクルに従うものを増やすべきだということを意味します。そして再度、私たちはそれを行っており、うまくいっています。
あなたはAIに対する自分の立ち位置を、本質的にあなたの個性、人間的な側面のすべてを表現することで調整していると話しましたが、アイデアの領域、特に学術的な生産について話しましょう。経済学者として、AIは既にどのような点であなたより優れていると思いますか？
質問に答えることについては、AIの方が優れています。o1プロモデルについて話をすれば。AIには多くの異なる種類があり、私は今でもその大部分よりも優れていると言って嬉しいのですが、自分を最高のものと比較する必要があり、進歩は急速です。
これは2025年2月ですが、o3モデルは3〜4週間で出るという人もいます。そのため、具体的な主張はすぐに時代遅れになってしまいます。しかし、100の質問のテストでは、o1プロは既に私に勝つだろうと信じています。それについてあまり疑いはありません。
それは質問をすることには優れていません。判断の特定の事項については私の方が優れています。出版のための研究論文をどのように準備するかについては、私はまだo1プロよりもはるかに優れています。他のいくつかのことも挙げることができますが、再度、改善は続くでしょうし、私は壁に書かれた文字を見ています。
そして、経済学の質問に答えることについては、それは私に勝ちます。独創的な答えを出すことについては、それに勝つとは思いません。独創性については、私は他の誰にも勝たないので。
ここで、私が「勝つ」と言う時には条件があります。例えば、より劣るAIでも、パンについて私に勝つでしょう。13世紀のトルコ経済について質問すれば、私は文字通り何も知りません。そのため、それが何かを知っていて私が何も知らないという意味で「勝つ」というのではありません。それも事実ですが。
私が言いたいのは、私にもある程度バックグラウンドがある分野でも、それは私に勝っているということです。例えば、モデルの中でいくつかの異なる仮定を変更した場合の法人所得税の帰着について質問するなら、それは私がかなりよく研究した質問のタイプですが、そのような質問では私は引き分けに持ち込めると思います。
しかし、より多くの質問をするほど、それは私に勝つでしょう。
現在大学院で訓練を受けている新しい学者たちにとって、人間の優位性はどこにあると思いますか？
モデルがどれほど良くなるか見る必要があり、私には分かりません。そして、まもなく出るo3を楽しみにしています。しかし、私の推測では、より多くの人々がAIの操作方法を学び、その分野について学ぶ時間を減らすべきです。ただし、AIを操作する方法を知るためには、その分野についてかなりの知識が必要です。
しかし、ある時点で、人間がAIのダブルチェッカーであることはそれほど意味を持たなくなるでしょう。今でも、それが間違いを犯した時、私はそれを捕捉し、再度質問して修正させることができます。しかし、2年後にはそれはそれほど重要ではなくなるでしょう。
わお、そうすると企業全体を再考する必要があり、人間はある種の犬の調教師のようなものです。正しい方向を指し示し、プロンプトを書き、適切な文脈を与え、他のAIや人間と協力させる方法について。おそらくまだ起こっていない多くのことがあるでしょう。しかし、それらを実現させる方法を理解することは人間の仕事となるでしょう。
私は前もって何かレシピを持っているとは感じません。「これがあなたがすることになる」というような。ただ、AIと一緒に働き続け、競争プロセスが時間とともにそれを理解していくでしょう。しかし、もし良い学校で経済学の博士号を取得したら、ほぼ即座にトップ30やトップ50のティア1研究大学で雇用可能だった古いシステムのようにはならないと思います。
それは、ある時間の地平線の上で衰退していくように思えます。しかし、より多くのより良い研究があるでしょう。私は製品について悲観的になっているわけではありません。
学術的な生産全体が、経済学以外の多くの分野でも、完全に根本的に異なって見えるかもしれませんね。
その通りです。今、別の質問があります。大学がどれほど早く調整するかです。多くの大学は大きな基金を持っています。さらに多くの大学が、私が固定的な授業料収入と呼ぶものを持っています。人々は楽しみのため、資格のために学校に行くでしょう。学んでいるかどうかに関係なく。
それは彼らに財政的な基盤を与え、おそらく長い間調整する必要がないかもしれません。そして、おそらく植物学部門は11年後でも実際にはそれほど異なっていないかもしれません。しかし、その場合、植物学における実際の進歩は他の場所から来ることになります。
そのため、これらの緩慢な非営利組織の実際のスピードがどうなるのか、私は非常に興味があります。しかしそれはかなり遅い可能性があります。
おそらく私は単にコーピングしているのかもしれませんが、私の分野である哲学は少なくとも2つの点で異なっているのではないかと思います。
第一に、私が哲学を読む大きな理由は、これは学界では真実ではありませんが、私は人生を送るためのアイデアが欲しいのです。私は自分の人生をどのように送ることができるかを理解したいのです。そのためには、ハイデガーやヘーゲル、ニーチェ、そのすべての偉大な思想家たちを理解するために、すべての読書をする必要があります。
そして、私の脳に直接ダウンロードするボタンができるまでは、そこでの私の時間は無駄にはならないと思います。
しかし、もう一つのことは、少なくとも特定の種類の哲学については、それはある歴史的期間における人間の主観的経験についてのものであるように思えます。そのため、AIがその領域で何ができるかについて、単に認識論的な障壁があるのではないかと思います。
それらは2つの非常に良い、そして別個のポイントです。最初のものは、少しコーピングだと思います。そうですね、あなたはハイデガーやニーチェを読むことができます。そして多くの人々がそうしますが、歴史的な理由で今はまだできませんが、数年後には、あなたのAIに「私とハイデガーとニーチェの対話を作成してください。私は彼らを尋問し、お互いに挑戦させたい」と言うことができると思います。
そして、すぐにではありませんが、近いうちに、その方がハイデガーとニーチェを読むよりも多くを学べるだろうと推測します。私はハイデガーを読みました。すべてのページを見ましたが、何を学んだかわかりません。すべてのページを見て当惑を感じることを学びました。そしてそれをできて嬉しく思います。しかし、AIはすぐにそれを超えるでしょう。
2番目の質問も重要ですが、かなり異なります。私はこう言い換えたいと思います。AIが本当に強く、かなり遍在的になった時、より多くの人々が、よりアンティークな社会で観光的な時間を過ごしたいと思うでしょう。それは田舎のメキシコなのか、LAなのか、AIであまり染まっていない場所です。
それは年に2週間かもしれません。年に1ヶ月かもしれません。しかし、それは特に魅力的になるでしょう。そのため、本物のハイデガーやニーチェを読むことは、その一つのバージョンとなるでしょう。他にもできることはたくさんあります。
例えば、パチェシというボードゲームが復活するかもしれません。それは terrible なゲームです。子供の頃にプレイしましたが、実力主義の観点からすれば、パチェシをプレイすべき理由は全くありません。しかし、それは一つの物事になると感じます。特定の種類の極端なノスタルジー、意図的にレトロなものの限界価値は、より多くなると思います。これは推測に過ぎませんが。
そして、それは人間の仕事も生み出すでしょう。
イェールでの最近の講演で、AIが理系よりも文系を学ぶ人々により利益をもたらすと説明されましたが、それはなぜですか？
正確に何を言ったか覚えていません。それはより barbell的な答えだと思います。理系で非常に非常に優れている人々は、AIと一緒に働くので素晴らしい成果を上げるでしょう。そして人文科学で非常に優れている人々も remarkably 良い成果を上げるでしょう。なぜなら、彼らはカリスマ性を持っているか、AIが人間の方程式や人間の絵の中にどのように収まるかを理解しているからです。
もし私が再度言う機会があれば、そのように言いたいと思います。
あなたはいつAIをヘルパーや共同執筆者として書き始めますか？
世界が許可することと、AIがどれほど良くなるかによります。もし私が今、2025年初頭にそれを行えば、それはあまりにも平板に聞こえ、世界は私に偏見を持つでしょう。私が書いている多くの出版物、例えばブルームバーグ・オピニオンは、それを許可しないでしょう。そしてその方針に同意します。
そのため、私はそれを行っていません。しかし、2年もしないうちにこれらすべてが非常に異なるものになると思います。環境がどうなるか見てみましょう。私は自分で書くことを楽しんでいます。AIがタイラーよりもタイラーのスタイルでより良い作家になることを楽しみにしているわけではありませんが、再度、それが来るのが見えます。
あなたの最新の本『Goat』について、本当にクールなのは、あなたがそれについてモデルを訓練し、モデルにクエリを投げかけて質問できるということですね。あなたが話していたハイデガーとニーチェの例のように、学生が本全体を読む代わりに、特定の質問をモデルに投げかける方が早いかもしれないということです。本を書いている間のそのプロセスについて教えてください。
私のポッドキャスト「Conversations with Tyler」のプロデューサーでもあるジェフ・ホルムズと一緒に働きました。私はジェフと座り、私たちが何をしたいのか、何をすべきかを考えました。あなたが「技術的な仕事」と呼ぶようなものは、ジェフと彼が雇ったコンサルタントによって行われました。
私はそのプロセスを監督し、何をすべきかのビジョンを持っていましたが、その仕事への評価はジェフに行きます。
本だけでなく、特にこのモデル、いわばTAのような伴走する読者についての反応はどうでしたか？
素晴らしかったと思います。人々は興味を持っています。それは私の知る限り、GPT4とその他のモデルで書かれた最初の本です。OpenAIはニューヨークで数ヶ月前に教育イベントを開催し、数百人が参加しました。
各参加者にQRコードの入ったカードが手渡され、そのQRコードをスキャンすると本が手に入りました。これは彼らがコンテンツを承認したということではありません。しかし、私は本がOpenAIに認められたのを見て非常に喜びました。それは私が望んでいた以上のものでした。
しかし、私たちの以前の会話に戻ると、最も重要な事実は、AIが本を読んだということです。私たちはこれを知っています。そして、本から学ぶべきものがあれば、彼らはそれを学んでいます。そのため、私は最も重要な読者に到達しました。
すべての著者がそう言えるわけではありませんね。
AIについてのあなたの世界観で、私たちが話すべきだったことで他にありますか？
AIは他の場所、非常に異なる場所への旅行の価値を高めます。YouTubeはある程度、マダガスカルへの旅行を生き生きとさせることができます。私はAIがそれをうまくできるとは思いません。まだ、そして数年後もそうでしょう。
そのため、AIができないことにより多く注目してください。通常の日にはより多くのAIを使用することになるからです。それは何かと聞かれると、それは非常に異なる場所への旅行だと思います。AIによってあまり飽和していない場所です。そしてそれらの場所は、しばしばかなり手頃な価格です。ラテンアメリカにはそのような場所の近い版がありますが、あなたがどこに住んでいても、おそらく近くにそのような版があります。
そしてそれをより真剣に考え、また、過去の世界、過去の世紀、千年紀を、それらが消える前に見ることを。もし見なければ後悔することになるでしょう。私は、文字通り物理的に破壊される前のシリアを見なかったことを後悔しています。
ロシアにもっと行かなかったことを後悔しています。2回行きましたが、素晴らしかったです。他のものも見ることができました。人生で最も大きな後悔のいくつかは、消えてしまい、二度と戻ってこないものです。そのため、若い人なら、今それらのものを経験する機会があります。何らかの形で、あなたが今していること以上に、それを考えてください。
全てのグローバル都市で育った者として、実際に異質に感じる場所がどれほど少なく、どれほど稀少かということは印象的です。私にとってそれはネパールでした。チベットの修道院で修行しましたが、これらはまさにあなたが言うようなものを行うのに最適な場所です。
これらは、現代性に強く抵抗してきた世界の小さな最後の砦のような小さなコミュニティです。通常、それらは宗教的な理由でそうしています。そして、それらは私にとって最も貴重な旅行経験となってきたと思います。
あなたがしたことは素晴らしく聞こえます。まさに私が言いたかったことです。しかし、それを行う非常に単純な方法もあります。私たちは北バージニアに住んでいます。毎日エルサルバドルへの直行便があります。4時間程度で、カリフォルニアよりも近いです。
首都から出てください。実際、私は首都が好きですが、これには役立ちません。第2や第3の都市に行ってください。今はとても安全です。ただそこにキャンプを張って、それは修道院のようなものではありません。ただの普通の都市です。ある意味で1950年代のような何かです。ただし、人々はモバイルデバイスを持っています。
そこで1週間過ごしてください。それは変わってしまうでしょう。とても簡単で安価なバージョンを行うことができます。ドルを変える必要さえありません。エルサルバドルに行くなら、パプサを食べましょう。
AIの全ての発展を考えると、何に対して最も希望と楽観を感じていますか？
人類が世界についてはるかに多くのことを理解するようになることです。それは本質的に価値があると思います。その手段的な用途に加えて。そして、これらすべてが起こることに非常に興奮しています。
私は意識的に、できる限り良好な健康を維持し、より多く運動するよう努めています。できるだけ多くを見たいと思います。5年前、私の人生が破滅していたわけではありません。路上で酔っぱらっていたわけではありません。しかし、私は寿命を最適化することに、より意識的に取り組んでいます。
私の哲学の教授の一人が、AIの成長に関して、全く逆のことを私に言ったのは興味深いですね。彼は「ああ、私は死ぬ準備ができている、世界がどのように変化するのかを見たくない」と言いました。
それを言って哲学者であり得るでしょうか？そうですね。多くの哲学者はイノベーションに非常に反対でした。プラトンのように、特に良い国家におけるイノベーションの考えに反対でした。しかし、たとえそれを嫌っていたとしても、好奇心から見たいと思うでしょう。
好奇心があるからですよね。スター・ウォーズの「帝国の逆襲」のように、非常に暗い結末で終わりますが、映画の最後まで見たくなります。そして、その一部は、私はそれがそれほど否定的になるとは思っていませんが、たとえそうだとしても、好奇心があります。
しかし、これはとても稀少な資質だと思います。特にアカデミアでは。保守的な人々、政治的にという意味ではなく、表現において保守的な人々の多くは、「物事が変化してほしくない、純粋なシステム、終身在職権システムのままでいてほしい」と思っています。
私の教授が言ったように、特に人々が年を取るにつれて、より保守的になります。信じてください、あなたが思う以上に悪いです。それが全てです。
情熱をどのように維持してきましたか？
その一部は旅行ですが、私たちの特性の多くは、少なくとも60%が遺伝的だと思います。そのため、その部分の遺伝子に恵まれたのだと思います。
教授、素晴らしい対話をありがとうございました。
私も楽しかったです。素晴らしい対話でした。
インタビューをご覧いただきありがとうございます。もしこの対話を楽しんでいただけたなら、AIの歴史についてのマイケル・ウォールドリッジとの対話もお楽しみいただけると思います。それは過去1世紀の分野における主要な発展についての包括的な入門となっています。
これらのインタビューは、哲学と人工知能の研究に焦点を当てた非営利組織、コスモス研究所のフェローとして私が制作しているAIシリーズの一部です。コスモスのウェブサイト、ウォールドリッジとのインタビュー、そして今日取り上げたその他全てのリンクは、説明欄でご覧いただけます。ありがとうございました。
コメント