私たちは今、おそらく地球上で最も差し迫った問題の一つについて話しています。それは、知性とは何か、物事の共通認識をどのように得るのか、世界をどのように航海するのかということです。そして創造性は、ここにある特権的な空間から生まれるように思えます。あなたがとても悪い人でない限り、決してここに入ることはできません。ですから、空間を作り出すということは、静寂や何かがまだ余地のある場所であるように思えます。
Brave Search APIは、20億以上のウェブページの独立したインデックスへの手頃な価格の開発者アクセスを提供します。これは実際の匿名化された人間のページ訪問によってデータをフィルタリングし、毎日数千万の新しいページで更新されています。brave.com/apiで毎月2000件の無料クエリから始めましょう。
デイビッド、番組にお迎えできて光栄です。お招きいただきありがとうございます、デイビッド。あなたは圏論で非常に有名ですね。圏論とは何ですか？圏論は1940年代に発明されました。基本的に、数学者たちが自然なこれやあれについて話していましたが、自然が何を意味するのか分かっていませんでした。
そこで、みんなが使っていた自然という概念を定義するために、彼らは圏、関手、自然変換を発明しました。しかし、それは何についてのものですか？それは関係のシステムについてです。たくさんのものがあるとします。圏のものと言うときに何を意味するのかというと、これらのものは一緒に属しています。例えば魚とか、食べられるものとか、生きているものとかです。しかし、それはただたくさんあるというだけでなく、魚のグループがあるとき、それらは互いに関係しています。そして、数学者にとって圏とは、ただ一群のものだけでなく、それらがどのように関係しているかということでもあります。
あなたは関手や二圏などについて言及しましたね。それについて教えてください。はい。もし互いに関係する物事の全世界があるとします。例えば数字があって、ある数字が別の数字よりも小さいとか、そして互いに関係する別のシステムがあるとします。例えば、物事の集合、私たちが見ることができるすべての木とか何でもいいです。そして一つのものが別のものの部分集合になることがあります。大きな木は、すべての木の部分集合、大きな木の集合です。
これら二つの世界、木の世界と…申し訳ありません、集合と部分集合の世界、そして数の世界を関係づける関手があります。それは「数える」と呼ばれます。あなたの集合を取り、そこにいくつのものがあるかを数えると、数が得られます。そして一つのものが別のものの部分集合であるとき、より小さい方がより少ないものを持っています。これは当たり前のことです。圏論が好むのは、当たり前のことを数学的な人工物にすることです。そうすれば、それを頭の中に保持する必要がありません。
他の数学分野の人々がすることは、本当に難しいことをすべて頭の中に保持し、そして本当に難しいことを明らかにしようとする人をちょっと馬鹿だと思うことです。私はそうだと言うことに彼らが同意するとは思いませんが、これは私の固定観念です。そして圏論では、私たちが試みることは、最も明らかなことをすべて取り上げ、それらが本当によく言われていることを確認することです。
そして関手は、私には一つの世界があり、別の世界があり、そしてここにあるすべての対象をここの対象にマッピングし、ここにあるすべての関係をここの関係にマッピングするという非常に単純な話です。それが関手です。
これらすべてと抽象化や複雑性との関係はどのようなものですか？そうですね。抽象化とは、ある具体的な状況を取り上げ、多くの文脈で繰り返し使えるものを抽出することだと言えるでしょうか？
数学では、例えば、様々な「3」があります。これにも3つあり、あれにも3つあります。そこで「3」を抽出して、これからはこの「3」について話すことにしようとします。しかし、抽象化で行うことの一つは、その抽象化を使って戻ってくることです。
誰かが「あなたの状況は？」と聞いたとき、「庭に雑草が多すぎる」と答えます。これは単なる抽象化です。そして彼らが「トロウェルを使ってみたら？」と言います。今、あなたはその抽象的なアイデアを現実に戻し、実際のトロウェル、ここにあるこの一つを取り上げます。
つまり、抽象化とは、より多くの人々が何をすべきか理解できる、あるいは何をすべきかより簡単に把握できるものに引き出し、そしてそれを使って違いを生み出すために戻ってくることです。
では、抽象化と知識の違いは何ですか？抽象化と知識。私は本当に知識が何なのか分かりません。通常、それは少し凍結されたものとして感じられます。私が知識を聞くとき、それはこれらの凍結された…ある意味で凍結されているように感じます。抽象化はプロセスのように感じられ、知識は項目のように感じられます。でも、あなたの意図を見逃しているかもしれません。
ああ、それは興味深いですね。私は知性を推論効率と考えています。これは一種の抽象化の効率のようなものです。つまり、それはモデル構築です。私は世界を理解しようとしており、このモデルを作り出し、そしてそのモデルを他の人と共有できるということです。
はい、はい。意味づけは私がよく考えることです。そして私はそれを集合体の観点から考えています。以前マイク・レヴィンについて言及しましたね。はい、はい。彼は「すべての知性は集合知性である」と言っています。はい。私はすべての意味づけは集合的な意味づけだと思います。それが私とあなただけで、カテゴリー理論がMLとどう関係するかを理解しようとしているのか、あるいは私の脳内のすべてのニューロンが何かを理解しようとしているのかにかかわらず。
私たちが説明する、あなたに何かを言語で、あなたが理解できる言語で伝えるということがあると思います。私自身の私的な言語ではなく、一種の公的な言語で。そうすることで、あるいは私のニューロンがそうすることで、彼らは隣接するニューロンがおそらく何が言われているかある程度理解できるような方法で話しています。
そうすることで、彼らはそこにあるものとないものを説明し始めることができます。つまり、あなたが言っているように、私には新しい状況があり、そのモデルを構築したいのです。みんなが「ああ、それは熊だ」とか「それは虎だ」とか言います。「分かった、それは確実に動物だけど、よく分からない」というように。
そこで、あなたは起こっていることの異なる感覚をすべて一緒に組み立て始めます。個々の感覚ですが、何かが抜け落ちていて、「いや、でもなぜネッカーキューブのように切り替わるんだろう？なぜ切り替わるんだろう？」などと考えます。そして、この意味づけは「ああ、分かった。これは実際にどちらの方法でも見ることができる」とか「これがそれなんだ」というときです。
そして、あなたの説明が落ち着くので、それを理解し始めます。チェックブックが何かを知っているかどうか分かりませんが、私は知っています。私たちはこのようなことをしていました。「ああ、落ち着いた。ゼロになった。私が入れた金額は、今そこにある金額と等しく、その差はゼロだ」というようなことです。
そして、そこには何かがあります。これで、あなたははるかにより進めることができます。それははるかに意味をなすようになります。そう、私はそこに何かがあると感じています。説明が落ち着くということが意味をなすのです。
私には信念があります。今、私たちは言語ゲームをしており、何らかの理解に収束しようとしています。そしてそれは私たちの間での私的な理解かもしれません。もう一つの選択肢は、世界がどのように機能するかについての普遍的な真理に収束しようとしていることです。物理的な世界と私たちが発見する知識の間には分析的な経路があります。
一方で、私たちはただこの複雑な知識を発見しているだけで、それは時間とともにますます複雑になり、重なり合っていくという見方もあります。そしてそれは本当に私たちが住んでいる物理的な世界によって根拠づけられているわけではありません。
そうですね。私たちが完全に根拠のないことをしていたら、誰も…それはあまりうまくいかないでしょう。つまり…模倣的に適合するものを作るためには、人々にとって興味深く、関連性があるものでなければなりません。そうでなければ、彼らにはそれに時間を割く余裕がありません。
私は、長期間誰も知らなかったもの、一種の座っていたものがあると思います。しかし、それらは一種の奇跡的なものです。「わあ、これを見つけた、秘密の文書」のようなものです。しかし、通常のケースは確かに、人々がある程度の時間内にそのものの価値を理解し、そして…
だから私は、私たちがこれらすべてのものを構築しているとき、それを継続的に圧縮しているだけでなく、単にzip
ファイルのように圧縮するのではなく、キャプテンが操縦できるようなモデルとして柔軟に圧縮していると思います。そうすることで、キャプテンの人間としての、自己としての、危険を避けるという生来の能力が、車や潜水艦のようになります。
私たちがやろうとしていることに合うように圧縮するとき、それらが価値あるものになり、人々が共有したいと思うものになります。だから私は、今あなたと私がその建物の建築について話しているのではないと思います。私たちは今、おそらく地球上で最も差し迫った問題の一つについて話しています。それは、知性とは何か、物事の共通認識をどのように得るのか、世界をどのように航海するのかということです。
そして、私たちがこのように普遍的に適用可能なことをしているという事実は、あなたがオーディエンスを獲得できると考えているからです。そしてそれは人々が聞きたいと思うものだからです。だから私は、それは偶然ではないと思います。私たちは重要なことだけをしているのです。そうでなければ、おそらく本当にうまくできないでしょう。
ここでの物理性の役割について疑問に思います。なぜなら、物理的に具現化されたエージェントとして、私たちの知識獲得効率は高いからです。実世界には多くの物理的概念があり、それらが私たちが使う抽象化に貢献しています。具現化は重要です。もし私たちが本質的なAIシステム、例えば11型の集合知能を構築したとしたら、それを仮想的に構築するのと、実世界に実際の物理的エージェントを持つのとでは、どちらが難しいでしょうか？
そうですね、私は聞いたことがあります。今はもはや真実ではないようですが、なぜならAIで画像認識をしているからです。しかし、ある時点で私はこんな話を聞きました。盲人にカメラを与えました。カメラは舌や背中に小さな刺激を作り出しました。そしてカメラがただ位置して何かを狙っているだけだと、人々は決してそれが何であるかを学ぶことはありませんでした。あるいは部屋を回転するだけでも同様でした。
しかし、それが頭に付いていて、彼らが頭を回すとカメラも一緒に回るようになると、彼らは実際に見始めることができました。そしてそのアイデアは…だから私にはこれができます。なぜなら何かが1兆個あるからです。しかし、これは人間の脳がそうだったときのことです。具現化されることで、実際に彼らがどこを見ているかを気にすることで、そしてそれを決定し、運動を知覚ループの一部にすることで、彼らは他の方法では学べなかった方法で学んだのです。
だから私は、具現化されたエージェントであること…私たちが持っていて、外にいるエージェントが持っていないもう一つのものはリスクです。もし私たちにリスクのあるものが何もなかったら、このポッドキャストが悪くなる可能性も良くなる可能性もないとしたら、私たちは創造することができないと思います。私たちがそこに注ぐケアと関心について、何か密接に結びついているものがあるように思います。それらが何らかの形で創造するのです。
カール・フリストンとよく話をしました。アクティブ推論の人ですね。彼はこれらをサイバネティック・フレームワークと呼んでいます。知覚行動ループがあり、フィードバックループがあります。そしてエージェントは、単に生き残ろうとする美徳によって、世界と相互作用しています。
だから彼らは一種の知覚フィールドを修正し、予測誤差を減らそうとしています。そしてこれは非常に洗練された行動を生み出します。エージェントは世界について学ぶ必要があり、世界を理解する必要があります。
はい、はい、私はそれが本当に好きです。私は次のようなアイデアが本当に好きです。例えば、あなたが世界について何かを証明しようとしているとします。世界を理解しようとしています。あなたが使うことを許される一つの仮定は、あなたが存在するということです。数学では、定理があります。そしてその定理の仮定は何ですか？より多くの仮定を持てば持つほど、より多くの定理を証明できます。
もし「数字が1から10の間にあると仮定しましょう」と言えば、それらの数字についてたくさんの定理ができます。なぜなら4足す6は10で、3足す2は5だからです。何でも定理を作ることができます。しかし「私はいくつかの数字を持っています」と言うだけなら、何を証明できるでしょうか？より少ないことしか証明できません。
それが理解できたかどうか分かりませんが、要点は、一つの素晴らしい仮定は「私は存在する」ということです。したがって、私のような何かが存在する可能性があります。それは一種のデカルトのようなものです。そして、彼から聞いたのは、私が存在するので、重力はこれらの膝が意味をなすようなものでなければならず、これらの肺が意味をなすようなものでなければならず、私が本当に必要とするものは通常起こるだろうということを仮定できるということです。
なぜなら、もしそれが起こらなければ、私はすでに死んでいるはずだからです。そして彼は、私が理解する限りでは、それを橋渡しするために使います。私が望むこと、つまり効用と、私が予測すること、私はその食べ物を食べられると予測します、そしてこの予測誤差が制御信号になるというアイデアです。私はそのものを持つだろうと予測し、そうでなければ、その差を取って私の運動機能でそれを行うだけです。
私はそれが非常に説得力のあるアイデアだと思います。それはとてもシンプルで、多くのことを成し遂げます。
はい、それは本当に興味深いです。哲学では、価値や形而上学、認識論などについて話します。そしてこの知性と行為主体性のアイデアは美しいです。それは単に、その一部が予測誤差を最小化しているかのようにモデル化できる大きな動的システムについてのものです。
しかし、そこから生まれてくるのは価値です。つまり、道徳的なものは何か、知識は何か、私たちは何を知っているのか、単に予測誤差を最小化するものと道徳的に行動するもの、あるいは世界がどのように機能するかを知っているものとの間にはどのような関係があると思いますか？
そうですね、私には分かりません。私はそれを完全には信じていません。それは理解して却下したという意味ではありません。単にまだ十分に理解していないので、完全に信じることができないのです。予測誤差の最小化だけで私が気にすることを得るのに十分だということは…
例えば、小さな子供が砂場にいて砂をシャベルで掘っているとします。そして母親が来て「今すぐ店に行かなきゃいけないわ」と言います。そして子供は泣き始めます。
彼はその砂で何かを気にしていました。何かをしていたのです。そして、私には分かりません。たぶん予測誤差の削減から、それを導き出す素晴らしい方法があるかもしれません。十分にあるかもしれません。しかし、私はケアと理解について何か重要なものがあると思います。
その子供が引き離されるときに失われるものは何でしょうか。私には予測誤差の削減から必要なすべてを得られるかどうか分かりません。
はい、これはとても興味深いです。カール・フリストンがこれを扱う方法は、エネルギーとエントロピーのバランス、あるいは搾取と探索のバランスについて話すことです。しかし、多くの人々はそれをオープンエンドネス、創造性、セレンディピティ、興味深さの観点から話します。
もちろん、集合知能では、多くの専門化されたエージェントが自分自身のことを追求しています。必ずしもそれらが本質的だからではなく、システム内の他のエージェントから圧力をかけられているわけでもありません。しかし、それはシステム全体が興味深い新しい知識を発見することを意味します。
はい、はい、はい、はい。つまり、可能性としては…一つの主張は、この最小予測誤差最小化スキームが宇宙全体を解決するというものかもしれません。そして私たちはただそれを超強力に実行する必要があるだけです。そしてすべての哲学的な質問は…解消されます。すべてが。私はそれが主張なのかどうか分かりません。しかし、私は疑問に思います。それは私にとってどのような質問を残すのでしょうか？
通常、最も生産的なこと、あるいは最もクールなことは、質問を持つことです。そしてその時点での質問は何でしょうか？質問は何ですか？そして質問とは何ですか？はい。質問とは何ですか？質問は何ですか？なぜ質問することがそれほど生産的なのでしょうか？
なぜデカルトはそのような時間を費やしたのでしょうか。彼は「質問は何だ？」と言ったのでしょうか。私には分かりません。「私は存在することをどうやって知るのか？」と言ったのでしょうか。なぜ私は彼が何を言ったのか覚えているのでしょうか？彼はただ疑っただけです。
彼はすべてを疑いました。しかし、私たちが質問するとき、例えば「私は何か？」と尋ねるとき、それは素晴らしい質問です。「私は何か？」というのは…私には予測誤差削減のようなものとは思えません。
それは予測誤差削減や予測処理のような素晴らしいアイデアにつながるようなものです。しかし、単に自分が何であるかを尋ねること自体が、ある種の開放性なのです。
はい、はい。これが存在論と認識論の違いに関連しているのかどうか疑問に思います。なぜなら、ただそこにあるものがあります。私たちが住んでいるこの物理的な世界があり、私たちがそれを描写する方法は単にモデルを使うことです。私たちはただそれをモデル化しているだけです。
そして質問はモデルを決定するように思えます。そして無数の異なる質問をすることができるように思えます。
はい、はい。しかしまさにそうです。私たちがどの質問をするかがそれを決定します。しかし、これらの質問は私たちの中から生まれてくるように思えます。そして時には、静かな空間で生まれてきます。瞑想したり、考える余地を作ったりするときに。
そうですね。だから、広々とした空間についても何かがあります。それが…はい。それが本当に重要なのです。開かれた質問、オープンな質問は、MLやAIなどでは本当に重要な広々とした空間です。最近、私はこんなイメージを持っています。
私が小さな子供だったとき、サッカーをしていて、ただボールを本当に強く蹴りたいだけでした。誰かにパスをすることは気にしませんでした。ただ蹴ることが分かっていたからそうしただけです。そして私は、私たちが価値あるものに向かって狙っていることを確認したいと思います。
そして、価値が私にとって何であるかを知っていると言う代わりに、私が人生で愛していることは、私が何らかの開放性を持ち、自分自身の質問を持つことができるということです。
だから私は、私たちが知らないものについて開放性を維持したいと感じています。そして私たちが創造するものが何であれ、それに対して開放的であるべきです。「すべてを解決して、今やついにそれが固定されるだろう」というのではなく。
しかし、これは主観性の問題に戻ってきますね。あなたがそれをフレーミングした方がずっと良いです。潜在的に無限の数の質問をすることができ、それらすべてがこの認識論的フレームワークを生み出し、そのフレームワークの上に構築し、さらに構築することができるということです。
そしてそれはただ複雑性の海に解きほぐれていきます。新しい質問を発見する開放性を維持することは本当に重要だと思います。しかし、それが主観的である理由は、一つを他のものより重視する基準がないからです。
そうですね、しかしそうかもしれません。私はあるデザイン理論の会議にいたことを覚えています。ある人が登場して、彼のプレゼンテーションは「私たちは未来に何を負っているか？」というものでした。私たちは彼らに未来を負っています。つまり、開放性です。
もし私たちが彼らのためにそれを閉じてしまったら、私たちは彼らに何も与えなかったことになります。だから、私たちが提供できる一つのことは、開放性です。私たちが考え出すスキームに対する非完結性のようなものです。
これは、子供たちが成長するにつれて創造性が低下するという考えに関連していますか？創造性テストがあり、子供たちはそれでとてもよい成績を収めます。その多くは、連続的な意味づけの後に、私たちがすべてのこれらのモデルと世界を理解する方法を結晶化させるからです。私たちの認知の空間は、これらの結晶化されたモデルの走査です。
そしてそのコーン、あなたはそれをコーンの中で走査することができ、コーンの外側のすべてのものはもはや走査できません。だから、それはほとんど私たちがアイデアの空間をロックしているようなものです。
はい、はい。そして、もし私たちのAIが世界を見る方法をロックしようとしているなら、あるいは世界がどのように機能するかをロックしようとしているなら、それは私にとっては良くないように思えます。
そして、あなたが言っているような、「よし、これで人間であることがどういうことか理解した。今度はオタマジャクシになってみたい」というようなこと。「ああ、それは悪いね」と言う代わりに、「いや、それは全く新しいことだ。あなたは実際にオタマジャクシとして最初からやり直せるんだ。それは素晴らしいことだ」というように。
新しい存在の領域全体を開いたままにすることは、単にボールを本当に強く蹴るのではなく、「いや、でももしここでボールを蹴ったら、開放性を保てるだろうか？」と言うような、目指すべき肯定的なことのように思えます。
はい、はい。でも、創造性の源泉はどこにあるのでしょうか？それはどこから来るのでしょうか？
そうですね…広々とした空間。私の電話には私にやらせたいことがあります。私のコンピューターには私にやらせたいことがあります。私の注意を引きたがり、私のマインドシェアにアクセスしたがるものがたくさんあります。
そして、それは私自身が障壁を保つために何かをしなければならないことです。それが私の皮膚の仕事であり、それが私の脳の…多くのものの仕事です。家の仕事は障壁を保つことです。もし外の通りにいたら、あなたはすべての音、すべてのものの真横にいるわけです。
だから、創造性はここにある特権的な空間から生まれるように思えます。あなたがとても悪い人でない限り、決してここに入ることはできません。ですから、空間を作り出すということは、静寂や何かがまだ余地のある場所であるように思えます。
はい。そして、言語モデルや現在のAIのようなもの、技術一般が、かなり有害な方法で私たちの心を拡張し、ある意味で私たちの思考を制約していると私が言ったことを直感的に理解しましたか？それはあなたが心配していることですか？
うーん、少しはそうですね。本当に…はい、本のアイデアがあるなら、誰にも言わない方がいいと聞いたことがあります。なぜなら、本を書きたいと思わせるものの多くは、そのことを言えることだからです。そして多くの人にあなたの話を伝え、すべてを説明してしまうと、もう気にならなくなってしまいます。
そして時々、AIと話しているとき、私は自分のアイデアを出しているような気がして、そして「まあ、いいや。他の誰かに話す必要はないな」という感じになります。だから、それについて心配しています。
彼らは私の注意を引いていて、私は自分自身に十分な空間を与えていません。はい。平均化のようなものがあって、私はそれが好きです。言語モデルは、ある意味ですべての人間の思考の平均です。そしてそういう意味で、それらには何か平凡なところがあります。
はい、はい。あなたがアイデアを保持することについて言ったのは興味深いです。私たちが会社を組織したり、政府を運営したりする方法には合意メカニズムがあると思います。そしてそれがアイデアを薄めてしまいます。
そうですね、まさにその通りです。はい。もし見てみると…はい、違いを生み出す人々がいて、通常彼らは本当に奇妙なことを理由もなくやります。
グレタ・トゥーンベリがただそこに座っているだけとか。彼女が最終的にどれだけの違いを生み出したか、あるいはこれからどれだけ生み出すかは分かりませんが、彼女がやったことの一つは、ただそこに座って「金曜日は学校に行きません」と言ったことです。しかし、それだけではありません。歴史上の最悪の悪役の中にも、ただ本当に奇妙なことをした人がいます。しかし、創造的でもあります。
だから、「毎日これをやるつもりだ。なぜなら私がそうしたいからだ」というようなことについて何かがあると思います。そして私は、なぜそうするのかを説明する必要はありません。私の投資を使って…私が持っているものを何でも使って、そのことをするのです。
数学的にこれをどのようにモデル化しますか？あなたのバックグラウンドを考えると、明らかに。良い創造的なアイデアの計算とは何ですか？
分かりません。うーん、私は思うに…実際に機能するすべてのアイデアは機能しなければなりません。それは別の理論です。つまり、それは…私は「受胎」という言葉が好きです。生物学的な受胎は、非常に保護された環境で生きることができる最小のものです。
そして、アイデアがあるとき、「受胎」があります。「ああ、でもそのアイデアは生きられるだろうか？」あなたの心がそれについて十分に気にかけるか、それとも「まあ、それはクールだった」で終わってしまうか。
しかし、もしそこで生きられるなら、それは「私を書き留めるのを忘れないで」と言うようなものです。もしそのアイデアが「私を書き留めるのを忘れないで」と言わなかったら、それは血液供給を見つけないようなものです。
だから、本当に良いアイデア…私は自己成就的な予言に非常に興味があります。うーん、うーん。もし私が「あなたはこのことをするでしょう」と言って、あなたが実際にそれをするなら…それは一種の…一種の…「明日の5時にそこにいます」と言うことで、実際にそれを自己成就させます。5時にそこにいるつもりはありませんでした。しかし、5時にそこにいると言うことで、5時にそこにいることになります。そして、予言や予測を自己成就させるものは何かということについて何かがあります。
そうですね。それは、それが住んでいる環境に魅力的でなければなりません。私の心の中で受胎したそのアイデアは、私の脳の不動産に魅力的でなければなりませんでした。だから、もしトランジスタを作るなら、あるいは何か新しいものを発明するなら、それはあなたの友人にとって魅力的でなければなりません。「ああ、ベンチャーキャピタルに車で連れて行ってあげるよ」とか、何でもいいですが、その小さな保護されたものが成長できるところに運ばれるように。
はい、はい、説得力に関連していますね。例えば、「体重を落としたい、ジムに行きたい、人生で前向きな行動を取りたい」と言うことができます。そしてもしあなたがそのアイデアを模倣的に共有すれば、それも社会的圧力を生み出し、自己成就的な予言になります。
しかし、私たちは単に心理学と人間の観点から考えているだけです。GPUを発明することができました。GPUはこの引力の盆地を作り出し、それがディープラーニング革命などのすべての連続的なものにつながりました。だから、正しいアイデアのこの誕生は、この大規模な連鎖反応を引き起こすのです。
はい、はい。あなたは現実と、それが作り出したいものを本当に理解する必要があります。受胎のように、子宮や何かは赤ちゃんを中に保持したいのです。それがある意味で作られた目的です。しかし、もし私がエジソンだったら…彼は電球の社会的文脈を理解する必要がありました。電球を作りましたが、誰も電球を欲しがりませんでした。
彼が頭に電球をつけて歩き回ったのは彼だったのでしょうか？あなたは人々を理解する必要があります。あるいはバージニア・スリムのタバコ。PRを作り出したフロイトの甥…彼は「よし、女性はタバコを吸いたくない。なぜならそれは悪いことだと思っているからだ。しかし、私たちは社会的文脈を理解している。こうしよう」と言いました。
だから、良いアイデアだけが広まると言っているわけではありません。悪いアイデアも広まると思います。そして私たちの人生のこの時点で、単にボールを可能な限り強く蹴るのではなく、良い未来に向けて狙おうとする動機を持つことが本当に重要だと思います。
しかし、それを言ったうえで…作られたいと思っているものを理解すること、どのような良い世界…世界に善があると想像してください。希望的にあなたはすでにそう感じているでしょう。そしてその世界は私ができる何かを必要としていますか？そしてもしあなたが、それほど難しくないもの、あなたにできるものを見つけられれば…私たちにはこの小さなロケットブースターがあります。私たちには少しの燃料しかありませんが、私の少しの燃料で、私が好きな世界のために価値のあるものを作り出せるでしょうか？そのような受胎は成長できるのです。
それはとても奇妙です。スティーブ・ジョブズはいつも「ユーザーが望むものを与えるのは最後にすべきことだ」と言っていました。そしてこれらすべてのことは数学的モデル化を拒むように見えます。なぜなら、あなたは以前にこの連鎖反応について話していましたが、この連鎖反応、この破壊を引き起こすものを予測できたら面白いと思いませんか？しかし、オープンエンドなシステムは…DeepMindの論文がありました。私はICMLでその人たちにインタビューしましたが、彼らはオープンエンドなシステムは、学習可能で新規性のある人工物の列を生成するシステムだと言いました。それが彼らのモデル化の方法でした。
しかし、何らかの発散がなければなりません。YouTubeはビデオデートのウェブサイトとして始まりました。彼らはそれが今のようになるとは全く想像していませんでした。それを予測することは可能だったとは思えません。エクサプテーション的なものですね。その言葉を聞いたことがありますか？
ああ、いいえ。それは何ですか？
基本的に、ある目的のために何かを作り出すのですが、それが実際には非常によく適応していて、別のことをする前適応のようなものです。
はい。うーん、それは非常に興味深いですね。はい。非常にクールです。そして、食べること…ああ、神様。これは難しいですね。はい、はい。私の数学的モデリングでは、食べることが驚くほど難しいことに気づきます。
私たちがエージェントであり、環境があり、それと相互作用しているということをよく想像しますが、食べるときには、この食べ物が実際にあなたの一部になります。
はい。そして、あなたの体内ですべてを行う機械になり始めます。アミノ酸はタンパク質に変わり、実際にあなたの体内ですべてを行います。あるいは酸素…ある意味で、酸素は私たち自身と同じくらい必要なものです。ただ、私たちの環境で非常に置き換えやすいので、それが私たちではないふりをしているだけですが、実際には、私の周りに酸素があることは私の一部なのです。
もし周りに酸素がなければ、私は私ではありません。萎縮してしまいます。
はい。だから、機械を消費するという考えは、何らかの形で理解するのが非常に難しいと思います。
面白いのは、私はジャガイモの粒子をウイルスと同じように不活性だと考えていますが、それでも超有機体として考えることができ、それらは私たちに依存しています。私たちが死ねば、ウイルスも死にます。
言語も私たちに依存する有機体です。私たちが死ねば、言語も死にます。しかし、それはモデリングの問題になります。ジャガイモの粒をエージェントとして考えることはできないでしょう。あるいはできるでしょうか？
はい、はい。エージェンシーはどこまで下がるのでしょうか？そしてエージェンシーとは何でしょうか？エージェンシーは何かを気にかけるものですか、それとも単に何かを実行するものですか。旅行代理店のように、ただあなたが望むことを何でもする、あなたのために難しい仕事をする意思があるようなものでしょうか。
だから、人々がソフトウェアエージェントやAIエージェントについて話すとき、彼らが意味しているものが正確に何なのか分かりません。彼らは目標を与えれば、その目標を達成しようとするものについて話しているように見えます。しかし、私たちのエージェンシーや…あなたは以前、志向性という言葉を使いましたね。
そうですね、私はそれを強いエージェントと呼ぶでしょう。基本的なエージェントは、ある意味で因果関係が内部から来ます。物理学者と話すと、彼らはこれについてかなり恐れを抱くでしょう。なぜなら、彼らはただ「いや、そこには粒子相互作用の光円錐があるだけだ。それが唯一重要な因果関係だ」と言うでしょう。
しかし、哲学者と話すと、彼らは「いや、世界を物事のグループに分割する有用な方法がある。そして私たちはそれらのものをエージェントと呼ぶべきだ」と言います。
はい、はい。つまり、有用…私はこの「気にかける」という言葉にこだわっています。だから気にかける、あなたは何を気にかけますか？ある種の気にかける言葉があります。「重要」は気にかける言葉です。「価値」は気にかける言葉です。「良い」…しかし、もう一つは「有用」です。人々が「すべてのモデルは間違っているが、いくつかは有用だ」と言うとき…何のために有用なのですか？あなたは気にかけるものを持たなければなりません。
そして明日の私の講演で、実際に私は電気の力について考えています。それは電圧と電流の積です。私は知性を電流として考えています。それはボールを強く蹴るようなものです。しかし気にかけることは電圧のようなものです。それはあなたが実現できる可能性です。この違い…私は実際にその子供が素晴らしい人に成長するのを助けることができるかもしれません。そして、あなたが実現したい可能性を見るとき、それが気にかけることです。
あなたは気にかけます、何かを気にかけます。そして、この志向性と気にかけることは、何らかの形で知性の問題の見逃された部分だと思います。みんなは電流に取り組んでいて、電圧には取り組んでいません。なぜということは…私には気にかけることが来たり去ったりする原因が分かりません。
それが最も興味深い質問の一つだと思います。志向性…ある人々は「ああ、私はちょうど志向性を与えられただけだ。そして私はイチゴがブドウより好きだ」などと言うでしょう。しかし、この気にかけるという考え…たとえあなたがすべてが還元的だと言いたいとしても、それはすべてただのドーパミンやセロトニンやなんやかんやだとしても…
何かが身体の中でドーパミンをオンラインにし、物理的な宇宙の中で…何かがドーパミンと同じくらい良いシステムを作るために時間を費やしました。あるいはDNAは…分かりませんが、私は…はい、4つの…4つのアミノ…4つのヌクレオチド塩基があります。そして3つでコドンを形成します。
だからそれは4の3乗の可能性です。しかし20のアミノ酸をコードしています。だから60から20へのマッピングがあります。それは20の60乗の可能性です。そして明らかに私たちのDNAが使用しているものは、エラー削減や有害性に関して情報理論的に最適です。
それが私にとって意味することは、神がそれをしたか、あるいは遺伝学が機能する前に、これをうまく機能させるための検索プロセスがあったということです。私たちの祖先全員が、これを本当にうまく機能させたので…これらの意図、それを正しく行う意図は遺伝学よりも前にあります。
それは言語のことでもあります。言語を機能させる意図は、DNAにまで遡ります。
セレンディピティと、私たちが正しい解決策を見つけたという一種の清教徒的な考えの間には興味深い緊張関係があります。リチャード・ドーキンスの『利己的な遺伝子』を読みましたが、彼は脳の進化の仕方についていくつかの例を挙げています。
すべての種類の愚かなことが起こりました。脳の離れた部分を結ぶ大きな神経があり、それはそうあるべきではありませんでした。しかし、私たちがサルから進化したため、彼らの脳にあるような方法で、そうなってしまったのです。
しかし、質問は、世界の中でものごとが進化してきた方法について、あなたはどう思いますか？それはただランダムで、私たちはかなり良い解決策に偶然たどり着いただけなのでしょうか、それともはるかに最適な解決策があり得るのでしょうか？
うーん、私はそれが…だから、あなたはこのインタビューを終わらせたくて、この場所を見つけました。そこには飛行機の騒音があり、など…しかし、あなたはそれを終わらせたかったので、あなたは見つけました。それはハーバート・サイモンの言う満足化です。
だから、はい、それはこれをしました。あなたが脳がしたことについて話していたとき、あなたはこの形を作りました。それはある道筋を取りましたが、それは物事を成し遂げました。そしてそれが成し遂げたこと、それはある方法を見つけたか、あるいはあなたが知っているように、それはその道筋を見つけ、それが成し遂げたこと、私はそれがランダムだとは思いません。
視覚を持つことや聴覚を持つこと、あるいはそれらが統合されていることなど…あなたが話していることは、何かランダムなものかもしれませんが、それは十分に重要だったので、それを実現するためにこの本当に長い道のりを見つけました。
私が思うのは、この地球規模のものが実際に何を探しているのか、答えが何なのか分かりません。あるいは、それが単に一つのものなのかどうかも分かりません。しかし、地球上の生命の始まり以来、単調に増加している価値がいくつかあると思います。例えば、私が「高精度エネルギー経路」と呼ぶものです。
初めは、ただ潮の干満があり、水がどこにでも流れていただけかもしれません。そして、ウサギなどが筋肉を動かし、エネルギーを方向づけて食べ物を見つけ、そして食べ物が細胞に自らを経路づけました。そして今、私たちは数十億のボルテージを持ち、それらがコンピューターを通して高精度に経路づけられています。だから、時間とともに見ると、おそらく高精度…エネルギー経路の精度が上がり、ただ上がり続けていきます。
あるいは、カール・セーガンが言ったように、宇宙は自身を知っています。私たちを通して。私たちは自身を知る宇宙なのです。それが何であれ、自身を知る宇宙の量は単調に増加してきたと思います。だから、哲学的にそうだと言おうとしているわけではありません。あるいはエントロピー生成、長期的なエントロピーのように…作られようとしているものがあるように見えると言っているわけではありません。宇宙が自身を知ろうとしているなら、より神秘的な観点から見るか、高精度エネルギー…
あなたが追加しているのは、「いや、私には物質的なものが必要だ」と言うなら、高精度エネルギー経路が何を意味するのか分からなくても、電圧などについて考えるとその感覚が分かります。
はい。あなたのアプローチで興味深いのは、私たちは非常に擬人化された言語を使う傾向があることです。この現象的な感覚や、道徳的なもの、正しいと感じるものについて話します。しかし進化自体がほとんど欲求や価値観の感覚を持っているようです。そしてこの信じられないほどの活動のオーケストラを通じて、それは運河化し、モジュール化し、抽象化し、この経路を作り出しました。そしてあなたは、それがどこかに向かっていると主張しているようです。
ああ、はい、はい。だから私は…あなたはマイク・レヴィンについて言及しました。マイクの仕事が本当に好きです。私はまた、サンタフェ研究所にいたエリック・スミスという人が好きです。彼のことを聞いたことがありますか？
はい、はい。そう思います、はい。
そうですね。彼にはいくつかの動画があり、私はそれらが信じられないほど素晴らしいと思いました。例えば、ハリケーンについて説明していました。そこには電位差があります。温度差があります。熱い海があり、冷たい大気があり、このラミナーな…層状の空気があります。そして「ああ、もし私がこれらを均等化できれば、とてもたくさんのものを得られるのに」というようなものです。
ハリケーンは局所的に始まりますが、この目を作り出し、その目は単なる管です。それは熱い空気をまっすぐ上に吸い上げ、それを均等化する渦巻きです。
はい。だから彼は「自然はかなり複雑なものを作り出す」と言います。レイリー・ベナール対流。対流について聞いたことがありますか？しかし、それはかなり複雑なものを作り出すことができます。そして彼は、初期の生命が起こったと考えています。彼は代謝優先説で、RNA世界説ではありません。彼は…
私はそれは狂っていると思います。彼もそれは狂っていると思っていると思います。うーん、彼はそれを制御優先と呼んでいます。代謝優先は、生命が深海の熱水噴出孔で始まったかもしれないということです。そこではCO2とH2Oか何かが…これらの噴出孔から出てきて、生命は最もシンプルで最小の化学実験室でした。それはこの高エネルギー状態から低エネルギー状態に移行できました。
あるいはメタンだったかもしれません。今は忘れましたが、生命は…私たちがずっとやってきたのは、「ああ、あそこに石油がある」というようなことです。アリは「ああ、あそこにピクニックがある。それを取りに行こう」というようなものです。だから、この可能性を実現するために行動を調整する能力は、私たちが発展させてきたものです。
私たちが非常に知的なAIを構築し、この進化のプロセスをかなり先に進めるかもしれないと思いますが、それについて何か重要なことがあると思いますか？
はい、時々…時々、それは多細胞性と同じくらい大きなことだと思います。それは非常に、非常に大きな出来事です。うーん、時々、それはさらに大きな出来事だと思います。物理学から生命が創造されたレベルのようなものです。私は思いません…
物理学から生命への飛躍はどれくらい大きかったのでしょうか？それは無限だったのでしょうか？そうは思いません。それは有限でした。だからこれも有限です。時々、それは印刷機のレベルだと思いますが、通常はそれ以上です。印刷機よりも…私はこれが社会性そのものに近いと思います。大きなものの一つは…分かりませんが、大きなものは何でしょうか。
生命、多細胞性、真核生物対…だから真核生物。それは何をしたのでしょうか。それは原核生物を食べました。それはミトコンドリアと融合しました。はい、それはかなりクールな技です。
はい。だから私には、これがどれくらい大きな出来事なのか分かりません。しかし、私の観点から見ると、書かれた言語のようなものです。私たちはエネルギーを物質に変える方法を固定化することができました。ある意味で、それは固体になります。
話し言葉はただの行動のように思えます。私たちはただ体を動かしているだけです。そして体の一部は声帯で、それが速く振動します。しかし、それを書くと、ある意味で固体になり、固体として渡すことができます。そしてそれが起こったのは…何千年前でしょうか。はい、私たちは書かれた言語を手に入れました。
私はそれが…そして印刷機ですが、印刷機は単に書かれた言語をより速くしたものです。そして私はAIもまた単に言語、書かれた言語としてのものだと思います。最後にそれが起こったのはDNAでした。DNAは書かれた言語です。それはACGTであり、あなたの体内のすべてのタンパク質を作ります。あなたの体内のすべてを作ります。それは…それはすべてのコードです。
それがすべてを行うわけではありません。細胞も何かをしますし、環境も何かをします。しかし、書かれた言語は大きな出来事です。そしてそれが2回目に起こったように感じます。
はい、それは興味深いですね。それは相転移です。DNAはミーム的情報共有の一形態でした。言語はミーム的情報共有の一形態で、約10万年前に始まりました。そしてそれは劇的な社会的複雑化を引き起こし、私たちの脳が非常に大きくなるきっかけとなりました。
私は言語の社会理論の支持者ですが、あなたは同じことがまた起こり得ると考えているのでしょうか？
はい、私は書かれた言語を区別しています。それがどれほど重要かは分かりません。たぶんそれほど重要ではないかもしれませんが、書かれた言語について何か…それは単なる行動から、道具のように操作できる凍結された人工物に変わります。
それは、シロアリは岩を扱うことはできますが、言語を扱うことはできないようなものです。それができるかどうか分かりません。しかし、岩を置く場所を決めるのに使用するフェロモンや何かを、シロアリは対象物として操作しないと思います。
しかし、書かれた言語を作るとき、あなたは対象物を手に入れます。そこには何か違うものがあると感じますが、確信は持てません。
はい。それは記憶と可塑性のようなものですか？今や知識は何世代にもわたって生き残ることができます。私たちは巨人の肩の上に立っているのです。しかし、DNAは本当に遅いですね。
はい。一方で言語は…あなたは今すぐに新しい知識を獲得することができます。
はい。それは食べることに似ています。私が言っていることを聞くとき、あるいは私があなたの言っていることを聞くとき、私はそれを食べることができます。そしてそれは単に知識ベースの中の事実になるだけでなく、それが私が知識という言葉をあまり好まない理由ですが、それは新しい情報に作用し、変換することができる機械のようになります。
はい、はい。そして一つ…言語はどのように…プラスとは何を意味するのでしょうか。それは二つの牛の群れがあり、その間にフェンスがあり、そのフェンスを取り除くことを意味します。それがプラスです。しかし、そのようにプラスは機能します。それはフェンスを取り除くように機能します。一方、掛け算はグリッドを作ることで機能します。あなたはこれこれがあり、これがあり、二つのオプションの代わりにこれら二つのオプションがあります。
プラスと掛け算の規則は、グリッドを作ったり、フェンスを取り除いたりするような活動に従います。そして今、私がそれらのプラスと掛け算でとても速く行うすべてのことは、これらのクレイジーな…フェンスやその他のものの操作を行っているのです。
私は言語が…私たちに本当に速く実験させてくれると思います。「それはあなたが言った方法では正しく聞こえなかった。正しく聞こえなかった。何が問題だったのか分からないけど、正しく聞こえなかった」。それは実際に、私たちが実行できるシミュレーションについて教えてくれ、そこに問題があることを示しています。
それは奇妙でもあります。文化と言語の系統発生を見ると、それは非常に発散的です。それはごつごつしています。
うーん、数学者として、そこにある矛盾の多さは恐ろしいかもしれません。あなたの心の中で、宇宙のコードがあり、すべての可能な状況で一般化できる抽象的な構造があると考えたいのと、言語のようなものがそのように機能しないように見えることを、どのように調和させますか？
そうですね、誰かが話しているとき、彼らはあらゆる種類の矛盾を作り出しています。私がこのインタビュー中の自分について考えると、「きっと私はあちこちに揺れ動いているんだろうな。全く意味をなしていることを願うよ」と思います。しかし、あなたは雰囲気をつかみ始めます。「あなたが今言ったことは分からないけど、あなたが意地悪だったと思う」とか「あなたではない」とか…
はい。私はそこを指さしていました。うーん、そしてそれはあなたが得ることができる感覚です。そしてあなたは聞いていて、それをまた聞くか、あなたが知っているように…あなたはその味をまた味わいます。そして、私は言語がより引力のようなものだと思います。それは…E=mc²は物理学を速く言いたい人々にとっての引力です。
私は物理学を速く言いたかったので、E=mc²と言いました。それはあなたを引き寄せます。そしてしばらくの間そこにいることを許し、何かを指さすだけです。だから私は、あなたが話している自然言語、それが曖昧で野生的で、誰も本当には何を意味しているのか分からないような言語でさえ、まだ私たちの注意を引きつけていると思います。そして、その人が私たちの注意をどこに向けているのかを見ることができ、彼らが自分たちの方が賢いことを証明しようとしているのを感じることができます。あるいは、私たちは彼らが何かを提供していることを見ることができます。彼らが何をしているにせよ、私たちはこの相互作用が何であるべきかについての理解の盆地に引き寄せられ始めることができます。
はい、はい。デイビッド・スピバック、あなたをゲストに迎えられて光栄でした。ご自宅の皆さんは、あなたのMITカテゴリー理論をチェックすべきです。それはまだ存在していて、Topos Instituteチャンネルにあります。
はい、Topos Instituteチャンネルに全てあります。
本当に、本当に良いです。ですので、ご自宅の皆さん、ぜひそれをチェックしてください。そして、デイビッド、光栄でした。本当にありがとうございました。
素晴らしかったです。どうもありがとうございました。
すばらしい。よし。
コメント