15,091 文字
AIは素晴らしいツールというだけでなく、私たちの全てをこなしてくれる普遍的なツールなんでしょうか。もしあなたがそう考えるなら、つい最近AIの功績でノーベル賞が授与されたことをご存知かもしれません。
これには多くの理由があります。私たちはビッグデータの時代に生きています。毎分、いや毎秒、あるいは1秒の何分の1という単位で、膨大なデータが生成されています。多くの人が指摘するように、これは新しい原油のようなものです。精製が必要な原油です。そしてこれを処理するのが、よくAIと呼ばれるこのデータ時代の新しいエンジンなんです。
AIがどのような方向に進むのか、さまざまな予測があります。レイ・カーツワイルは常に、限界に挑戦し、時にはそれを超えようとする伝道師の一人でした。彼の予測では、2050年頃には量子コンピューティングなどの計算実現によって、世界中の人間の脳に匹敵するAIができるとしています。これは本当に信じがたいことですね。
超知能を持つAIができるのか、できるとすればいつなのか、あるいは汎用人工知能についても、人々に尋ねると50年後という人もいれば、5年後という人もいます。もしかしたら既にあるかもしれないと言う人さえいます。
振り返ってみると、2011年にはWatsonがクイズ番組で勝利を収め、2015年には予想よりもはるかに早くAlphaGoが囲碁の世界チャンピオンに勝利しました。そして2018年にはAlphaFoldが登場し、今年またAIの天才デイス・アービスにノーベル賞をもたらしました。
なぜChatGPTは文学のノーベル賞を受賞しなかったのでしょうか。今年の最も確実な戦略は、ノーベル賞を獲得するためのAIシステムを構築することのように見えます。将来、AIシステムが新しく、より優れた、より強力なAIシステムを構築し始めたとき、どうなるのかわかりません。
私たちは画像や映画全体を作成するアプリケーションも知っています。これらを見ると本当に驚かされます。そして、これらの魅力的なアプリケーション以外にも、スマートフォンのデジタルアシスタント、リアルタイム言語翻訳、アルゴリズム取引など、日々使用される本当に実用的なアプリケーションがあります。
もちろん、長い間AIはウェブ上でも使用されてきました。特に広告や、私たちの考え方や行動を変えるために使用されています。
理論の終わりが本当に来るのでしょうか。2008年に主張されたアイデアでは、十分なデータさえあれば量が質に変わり、アルゴリズムが自ら解決できるため、もはや科学は必要なくなるというものでした。
これは「無知は幸せ」というような考えです。全ての問題を解決するには、十分に強力なアルゴリズムとコンピュータがあればいいというわけです。もちろん、私を含む多くの科学者がこれに疑問を投げかけています。
しかし、これは多くの人々、特に政治家たちの心に影響を与えています。AIとビッグデータについて考えるとき、多くの科学者も「今や全てを知ることができるのか」と問うています。人体、脳、そして人格を理解できるのか。もし今日でなくても、来年か数年後には、少なくとも私たちの生涯のうちにできるようになると、多くの人が期待しています。
今や何が間違っているのかを見抜き、システムの故障を修復できるのでしょうか。実際、想定よりも複雑であることが判明しています。コントロールルームのアプローチで世界を修復できるのでしょうか。
もし全てのデータを集めて、それを処理できる巨大なAIシステムがあれば、それがより良い政治システムになるのではないかと、一部の人々は問いかけています。世界中の様々な国で軍事がそのようなシステムを構築していると私は言えるでしょう。
私たちの文明は軍事基地に置き換えられているのでしょうか。確かに、地球のオペレーティングシステムが作られつつあります。これはスマートフォンやコンピュータのためだけでなく、地球をより持続可能にするために、世界中の社会のためのオペレーティングシステムです。
このアイデアは実際かなり古いものです。私たちはサイバネティック社会、つまり情報フィードバックに基づく社会について話しています。今日では、データ駆動型社会という言葉をよく耳にします。これは約80年前からの考えで、このような社会には実際に異なるバージョンが存在します。
私たちは今までに異なるデジタル社会を経験してきたとは明確に告げられていませんでしたが、これらのシステムのいくつかは既にテストされていると言えるでしょう。私たちは実験対象だったのです。
これまでのところ、これらのシステムは十分に説得力のあるものではありませんでした。人々はそれを維持するほど満足していませんでした。そのため、今日の政治、金融、経済システムに続く、デジタル技術を使用したより良いシステムをまだ探し求めています。
これらはデータ駆動型、つまり監視ベースのAI制御サイバネティック社会です。サイバーセキュリティはまだ大きな課題です。監視資本主義、マイクロターゲティング、スマートシティ、一部の地域での市民スコア、予測的警察活動があります。キャッシュレス社会やデジタルID、トランスヒューマニズム、そしてソサエティ5.0について語られています。
これら全てについて詳しく説明することはできませんが、興味のある方はYouTubeで私の講演をご覧いただけます。
軍事が長い間興味を持っていたプロジェクトの1つは、予測マシンを構築することが可能かどうかということです。つまり、明日、1週間後、おそらく1年後、さらにその先の世界を予測するシステムです。
もちろん、ほとんどの人は「人々は多くの愚かなことをしたり、自分の思い通りにしたりするから」と言うでしょう。もし自由意志を信じるなら、少なくとも多くのことが予想とは異なる結果になるでしょう。
たとえ全ての人に関する大量のデータがあったとしても、予測マシンがうまく機能するためには、人々の思考、感情、行動もコントロールする必要があるでしょう。実際、これは彼らが取り組んでいることです。
軍事が世界を大きなチェス盤のように見なし、私たちの行動をコントロールしようとしているようなものです。80億のチェスの駒を持つ巨大なロボットチェスのようなものです。これは一部の人々が本当に推進しようとしていることです。
実際、私たちの思考、感情、行動を操作しようとする試みがあります。広告会社、大手テクノロジー企業、検索エンジン、ソーシャルメディア、そして当然ながら軍事や諜報機関もそうです。
私だけでなく、Googleのコントロールルームで働いていたトリスタン・ハリスも、大規模な心理操作について語っています。彼の講演は見る価値があります。彼は「少数のテクノロジー企業が毎日何十億もの心を制御している」と言います。
これは個人化された情報によって行われています。あなたが特定のリンクをクリックし、私が同じリンクをクリックしても、同じコンテンツが表示されるとは限りません。異なる提案、異なる価格、全く異なる情報が表示される可能性があります。広告や画像も変更されます。
このために、あなたはプロファイリングされ、ターゲットにされています。皆さん全てがそうです。監視の最大の問題は監視の影響ではありません。皆さんは良い人々だと思います。より大きな問題は、あなたの意志に反して、あなたの望みに反して、気付かないうちに、あなたの行動を変えることができる企業が存在することです。
完璧ではありませんが、少なくともある程度は可能です。彼らは「良いことのためにやっている。地球を救いたい、持続可能にしたい、人々がより健康的で責任ある行動をとるようにしたい」と言います。
しかし、糖分の多いレモネードをもっと飲むように、もっとタバコを吸うようにという広告も見かけます。世界をより持続可能で健康的にするという点で、本当に効果的なのでしょうか。
2015年のスノーデンの暴露で、これについて知ることになりました。もちろん、クッキートラッカーについては皆さんご存じでしょう。時間をかけて調べると、インターネット上でのあなたの行動を追跡している企業のリストが100社にも及ぶことがあります。
これらのほとんどは、あなたが名前さえ知らない企業です。彼らはあなたの考えていること、興味のあることについてのデータを収集し、あなたの性格のプロファイルを作成しています。全ての人の性格プロファイルです。これは示されているよりもはるかに詳細です。
さらに、彼らはABテストを行っています。基本的に、あなたを実験用のネズミのように扱い、異なる種類の刺激にさらして、あなたがどのように反応し、どのように行動を変えることができるかを観察しているのです。
特定の入力にさらし、出力を測定することで、デジタルツインを作成することが可能です。これは、あなたの出力に基づいて学習し、特定の行動をさせるために入力をどのように変更すべきかを学習します。
デジタルアバターやデジタル人形があります。これらは主に大きな利益を得たい企業の手にあります。実際、これで数十億ドルを稼ぐことができます。これらの企業が何なのか、必ずしも知ることはできません。
これは本当に広範囲に及びます。彼らはあなたの名前、生年月日、住所、収入、消費、友人、家族、彼らの住所、彼らの行動だけでなく、あなたの考え、感情、投票行動など、全ての情報を知りたがっています。
もちろん、あなたの利益のために健康に関する多くのデータも収集されています。おそらく、そのようなことが起こると想定するずっと前から、これは既に進行中でした。
特に、AppleとIBMのパートナーシップがそうでした。基本的に、スマートフォンのセンサーがデータを収集し、あなたの健康を推測するために使用されてきました。IBMとAppleは、あなた自身や医師よりもあなたの健康についてよく知っていたかもしれません。
これは素晴らしいことかもしれません。しかし、話し合う必要があります。とにかく、世界とその人々のデジタルツインが存在し、私たち全ての行動がコンピュータシミュレーションで表現されています。
異なる状況や情報にさらされた場合に私たちがどのように行動するか、そして私たちの考え方や行動をどのように変えることができるか、例えば異なる政党に投票させるためにはどうすればよいかを把握するための、代替シナリオのコンピュータシミュレーションもあります。
ここで終わりではありません。世界経済フォーラムが2020年に発表したように、現在は「ボディのインターネット」が存在します。彼らは「テクノロジーガバナンスの新しい課題への取り組み」を目指していました。技術は既に存在しますが、規制はまだ整っていません。
「私たちの体の働きを追跡することで、生活がどのように変わるか」と述べています。もちろんそれは真実です。問題は、それがどのように機能するかということです。
メディアや政治家、科学者からそれについて多くを学んでいない人がほとんどです。私は理解するために多くのことを読まなければなりませんでした。
科学的な用語では、「ナノセンサーのインターネット」または「バイオナノセンサー」と呼ばれています。基本的な考え方は、私たちの体の細胞にナノ粒子を入れることができるというものです。
ナノ粒子は髪の毛の直径の1万分の1ぐらいのサイズで、肉眼では見えないほど小さいものです。これらは基本的に、食事、飲み物、空気、薬を通じて私たちの細胞に入れることができます。
目的は例えば、個別化医療やプレシジョン医療のためのデータ収集です。これについて聞いたことがあるでしょう。夢は、最大の効果と最小の副作用を持つ個別化された治療を実現することです。
では、全ての人が異なる場合、全てのデータをどこから得るのでしょうか。不思議なことに、誰も尋ねていませんが、これが実施されている方法なのです。
さらに驚くべき応用が地平線上にあります。これが既に機能しているとは言っていません。おそらくあと数年かかるでしょう。
約10年前、バラク・オバマ大統領は脳イニシアチブに30億ドルを投じることを発表しました。これは人間の心の内部のメカニズムの理解を深め、脳の病気や障害（行動障害を含む）の治療、予防、治癒の方法を改善することを目的としていました。
イーロン・マスクの脳チップについて考えているかもしれません。脳チップを購入する予定の人はいますか？誰もいませんね。もし脳チップを購入しなければ、誰も自分の考えを読むことができないと思っているなら、残念ながら違います。
これに関する記事があります。基本的に「ナノサイエンスとナノテクノロジーは、数千あるいは数百万のニューロンの活動を同時に測定し操作することを可能にする斬新な方法のツールキットを提供しようとしています。私たちやその他の人々は、これを脳活動マッピングプロジェクトと呼んでいます」と述べています。
問題は、どこまで進んでいるかということです。関係する企業の一つが2013年に発表した別の記事では、人間の脳のインデックス作成について語っています。
そのために、数年前は1年で人類の歴史全体と同じ量のデータが生成されていましたが、それが12時間で起こるようになるでしょう。想像できますか？私たちが学んだ知識がいかに早く時代遅れになるか、それが新しい効果を生み出すのです。
もしニューロチップが私たちのデータを読み取るために必要だと思うなら、それは間違いだと既に示唆しました。なぜなら、人々はナノニューロテクノロジーやニューラルダストなどに取り組んでいるからです。
まだ言及していない別の種類の技術があります。それは光遺伝学です。光遺伝学は、遺伝子操作された神経細胞を光パルス、つまりエネルギービームで活性化する方法を探求しています。
2022年のネイチャーバイオテクノロジー誌に掲載された別の記事では「RNAの機能の光遺伝学的制御」について述べています。私たちがどこに向かっているのか、今では推測できると思います。
興味深いことに、エコノミスト誌は2024年を展望する記事で、このような表紙を掲載しました。その一部を拡大すると、このようなことを示しています。
信じるか信じないかにかかわらず、これらの時代は確実に来ています。脳技術は疑いの余地なく来ています。法律は私たちを守る準備ができていません。
良い面と悪い面、意図しない影響、デュアルユース（軍民両用）について理解し、全てを人類にとって最善の方法で管理する方法を本当に努力して理解する必要があります。
マルセロ・イエンカと共に、この規制の課題にどのように取り組むかについての提案をまとめた記事を書きました。
ノーベル賞に話を戻しましょう。この技術のパワーがどういう意味を持つのか、視点を提供したいと思います。
私たちの思考、感情、行動に関するデータを世界規模で収集し、それを世界の問題を管理するためにAIに供給することを想像してください。今はChatGPTがテキストを生成します。実際、多くの場合かなり良いテキストを生成していると言えるでしょう。
これはインターネット上の全てのテキストで学習したものです。次のステップはもちろん、全ての画像、全ての映画、そしてモノのインターネットの全てのデータ、先ほど話したナノテクノロジーのデータも供給することです。
そうすれば、次の文や段落、次のページのテキスト、次の映画を生成するだけでなく、文字通り私たちの未来を創造することができる機械を作ることができます。それは歴史を作る機械になるでしょう。問題は、私たち自身がその未来にどれだけの影響力を持つことができるのか、最終的に私たちの歴史となるものにどれだけ影響を与えることができるのかということです。
これが最高の世界なのでしょうか。もちろん、これがその目標です。これらのシステムを構築する人々は悪い人々ではないと仮定しましょう。彼らは全ての人にとって最善を望んでいます。
全てのデータを使って世界の最適化を図り、世界の最良のバージョンは何か、そしてそれをどのように実現できるかを把握しようとしています。それがアイデアです。
問題は、このアイデアが本当にどれほど良いのかということです。そして、もちろん全ては現実をどれだけ良く適合できるかに大きく依存します。なぜなら、それは未来を創造するために使用するモデルだからです。
ジェフリー・ヒントンの研究やその他の研究を信じるなら、基本的にパラメータを恐れすぎる必要はないことを示唆しています。基本的に、パラメータが多ければ多いほど良いというのがアイデアです。
これはブラックボックスアルゴリズムを奨励します。私たちは監視データによって供給されるブラックボックスによって表現されることになり、最終的にそれらのブラックボックスは私たちにますます似てきて、私たちとますます似たような行動をするようになるでしょう。
そこで問題は、社会を巨大な機械のように運営できるのかということです。詳細を見てみましょう。
まず、それは機械のようなもの、つまり非常に複雑なブロックのように運営できるものだと仮定しましょう。そして、それらの部品は人々かもしれません。それらの人々は互いに相互作用します。
もし未来の最善について正しく理解したければ、そのモデルはそれらの相互作用を適切に表現する必要があります。それはどのようにして部品が相互作用するかを把握する必要があります。
そしてそれに影響を与えたいと考えます。そのシステムを動かしたいと考えます。そして実際には、その相互作用がこの方向なのか、あの方向なのかによって結果が大きく変わります。
それを間違えると悪いことが起こります。結果が良くなるためには、システムの多くの異なる部分を適切に適合させる必要があります。時々物事は間違った方向に進むかもしれませんが、問題は、それがどれくらいの頻度で起こり、結果がどれほど悪くなるかということです。
キャリブレーションを見てみましょう。ここでは、おそらく多くの人によって研究された例を使用しています。特に私のポストドクのセントラスによって研究されました。
彼は基本的に2乗のパラボラをプロットし、ランダム数生成器を使用してこれらの点にノイズを加えました。誰でもできることです。
問題は、このパラボラをフィットさせる場合です。これらのデータポイントを得たとき、その背後に2乗のパラボラがあることは分かりません。
では、次数28または15の多項式でフィットさせた場合、最適なフィットは何になるでしょうか。最小二乗法を適用すると、2次の多項式の場合は誤差が13になります。これは正しい関数のクラスということになります。
しかし、8次の多項式の誤差は11だけで、15次の多項式の誤差は10です。これらの関数の中で最適なフィットです。
問題は、これがどれほど意味があるかということです。同じ方法で異なるランダム数を使用して、再びデータセットを生成します。これがそのデータセットです。
そして、先ほど作成したフィットを使用してそのデータセットを予測し、予測とそのデータセットの偏差を計算します。これをバリデーション（検証）と呼びます。
すると、8次の多項式は53という大きな誤差を示し、15次の多項式は75,980という巨大な誤差を示します。これが問題です。
良いフィットを得るためには、より多くのパラメータの方が良いということは、数十年前から知られています。おそらく全ての社会科学者は初学期にそれを学びます。
パラメータの説明力をどれだけ気にすべきか、そしてより多くのパラメータは、私たちが見てきたように、その予測力を台無しにする可能性があります。
今日のモデルは、ご存じの通り、数十億、あるいは数兆のパラメータを持っています。軍事モデルが何をできるのかわかりませんが、おそらくさらに多くのパラメータを持っているでしょう。
これは、全てをより良くするというわけではありません。では、含意は何でしょうか。AIモデルで世界をフィットさせるとき、私たちは非常にリアルな似姿を作り出します。
現実とデジタルトレンドの違いを見分けるのが難しいほどですが、それでも同じではありません。本当に誤差があり得ます。誤情報があり得ます。
それは意味のあることかもしれませんし、悪い結果を生む可能性があります。これには非常に良い言葉があります。幻覚と呼ばれています。芸術的に見えるかもしれませんが、人々が死ぬことを意味する可能性があります。正直に言いましょう。
つまり、信頼区間を考慮に入れることが本当に重要です。パラメータを正確に測定したりフィットさせたりすることはできません。常に不確実性があり、その不確実性は影響を持ちます。
その影響を把握するために感度分析を行う必要がありますが、数兆のパラメータの感度分析を行うことは、おそらく10万回の生涯分の時間がかかるでしょう。実行不可能です。だから行われていません。
そのため、数年前に私は「社会は機械ではない」と言いました。最適化とコントロールによって扱うべきではありません。ある意味で生きている存在です。ご覧の通り、複雑な動的システムです。それには重要な含意があります。
実際、CIをスマートにし、生活の質を向上させようとする多くの試みがありました。しかし、それは常にうまくいったわけではありません。私が知っている多くの進化は本当に失望的なものでした。
私自身、違っていればいいのにと願っています。しかし、社会、人間の脳、免疫システム、生態系は異なる種類のシステムであることを理解する必要があります。これらは複雑な動的システムです。
ご存じの通り、ビッグデータの初期には、Googleのフルートレンドが大きな成功物語の一つでした。アイデアは、現在の状況を把握できるというものでした。
「頭痛がある」「熱がある」「どういう意味？」などとGoogle検索する人の数から、どれだけの人々が病気であるかを把握できました。基本的にそれを推測し、インフルエンザにかかっている人の数を把握できました。
これはかなりうまく機能しましたが、科学の基本的なことの一つを違反するまでは。測定中にシステムを変更してはいけません。特に彼らは、例えば薬を購入するように人々の行動に影響を与えようとしました。
このように、測定中にシステムを変更したため、測定は間違ったものとなり、システムを停止せざるを得ませんでした。
データサイエンスは還元主義的アプローチですが、複雑な力学系が存在することを理解する必要があります。ブラックボックスアプローチには多くの限界があります。測定誤差、サンプルバイアス、分類誤差、相関は因果関係ではない、過適合、収束が起こらない可能性、モデルが堅牢でない可能性、パラメータ変更に敏感、コンテキストが重要かもしれない、曖昧さがある可能性、計算の限界、停止問題、決定不能性、そして最後に複雑な動的システムです。これに焦点を当てたいと思います。
ライフゲームをご存じですよね。3つの単純なルールに基づき、面白い結果を生み出します。かなり予測不可能に見えます。このデータをAIシステムに供給して、その動的な振る舞いを近似することはできますが、この動的な振る舞いを生み出した3つの単純なルールを見つけ出すことはできません。
これらの3つの単純なルールを見つけ出すことは、多くのAIシステムが解決できない非常に複雑な問題です。
複雑な動的システムを見てみましょう。ここで見ているのは、同じ方程式のいくつかの異なる実現で、パラメータを少し変更しただけです。結果は全く異なって見えます。
複雑な動的システムは、乱流流体、交通流、大規模なサプライチェーン、社会的、政治的、経済的、生態学的システム、金融市場、集団力学、群れの行動などから知られています。
予測可能性には限界があることを私たちは知っています。天気予報はある程度の精度で行うことはできますが、1ヶ月、1年、100年先の予報はできません。100万倍のデータがあったとしても、この事実は根本的に変わりません。
なぜそう言えるのでしょうか。その理由を私たちは知っています。乱流という物理理論があり、乱流システムでは、そして天候にとって重要なことですが、小さな変化は十分な時間が経てば大きな影響を持ちうるということを教えてくれます。
システムは予測不可能な方法で変化し、大きく異なる振る舞いをするでしょう。非常に似た現象が決定論的カオスでも知られており、バタフライ効果はこの理解が難しいことを分かりやすく説明しようとしています。
もちろん、適切な条件の下では、蝶が羽ばたくことで世界を変えることができると言うのは信じがたいことです。明日ではありませんが、十分な時間が経てば、天候を変えることができ、何でも変えることができます。言うのは難しいです。
小さな変化が大きな影響を持ちうるのです。これは先ほど話した感度に関連しています。もちろん、カオス制御について考えた人々もいます。ここに例があります。
左側でカオスを制御しようとすると、確かに制御可能ですが、実際には平均的な結果は悪化します。カオスを制御することが常により良い結果をもたらすとは限りません。
世界を制御するコントロールルームのアイデアに戻りましょう。この世界の物事を変え、修復し、良い振る舞いをさせるための多くのボタンがあると仮定してみましょう。
多くの政治家がそのようなものを政治のために夢見ていることを私は知っています。また、大学を運営する人々も、出版物の数、レビュー論文の数、世話をする学生の数、メディア報道の数などを押し上げるためのインセンティブシステムというボタンがあればいいと夢見ています。
それがうまくいくでしょうか。1つのボタンで試してみましょう。ロトカ・ボルテラシステムを見てみましょう。これは非常に単純な生態系のモデルで、捕食者と被食者の方程式と呼んでいます。キツネとウサギです。
個体数サイズの期待される振動が見られます。ここで、最適な生態学的均衡点があり、それはこの点X1KNとX2KNだと仮定しましょう。そこに到達するために、ハンターがこの点に向かって押しています。
ハンターがそうすると、システムは実際にはかなり異なる方向に向かいます。そこではなく、あちらに向かいます。もちろん、その均衡点に向かって押すことがうまくいくシステムもありますが、このような種類のシステムもあります。そして、ほとんどの人が考えるよりも、このような種類のシステムの方が多いのです。
制御の幻想があります。この例を見てください。円を描いて運転し、事故を起こさないのは非常に簡単です。誰も渋滞を作るために立ち止まりたいとは思いません。しかし、これは意図せずにまさに彼らがやっていることです。
システムの不安定性が理由です。小さな変動が増幅され、それが停止・発進型の交通渋滞を引き起こします。解決策はあります。
ある自動車会社と共に、しばらく前に開発しました。しかし、その解決策は全ての車の中央集権的な制御に基づくものではありません。
まず、停止・発進型の交通渋滞をシミュレーションし始めました。現象を理解し、コンピュータで再現できることがわかります。私は何年も前にそれを行いました。
そして、その時既に何年も前から自動運転に取り組んでいました。この交通渋滞にうんざりしていたので、ヘリコプターで見てみましょう。
車が高速道路に合流しようとする小さなオンランプがあり、それが小さな混乱を引き起こしています。その混乱が増幅され、停止・発進型の交通渋滞を引き起こします。
今から交通支援システムをオンにします。車が自律的に加速と減速を行います。レーザーセンサーやレーダーセンサーの測定に基づいてオンにされました。車は距離と相対速度を決定します。実際には30%の車がそれを行うだけで十分です。
見ての通り、高速道路とオンランプに入る車の数は同じでも、渋滞を解消できます。交通渋滞は消えていきます。なぜなら、車同士の相互作用を少し変更したからです。
自己組織化によって、停止・発進型の交通流ではなく、自由流という異なる結果が生まれます。私たちがすべきことは、正しい種類の相互作用メカニズムを見つけることです。これはメカニズムデザインと呼ばれています。
成功の原則は、中央集権的な最適化と制御ではありません。リアルタイムのデータ測定とリアルタイムのフィードバックが全ての仕事をしてくれます。システムを理解し、そのシステムの特性を私たちのために活用するだけで、魔法のようにうまくいくのです。
複雑な動的システムを理解することが本当に重要です。私たちはしばしばシステムの構成要素に焦点を当てます。それは人々かもしれませんし、車かもしれませんし、企業かもしれませんし、建物かもしれません。
そして本能的に、それらの構成要素の特性が全てシステムの特性を決定すると信じてしまいます。それはある程度は真実です。しかし、それらの構成要素間に相互作用がある場合、それらは互いの振る舞いを変化させます。
十分な相互作用があり、それらが十分に強ければ、それらがシステムの振る舞いを支配することになります。つまり、構成要素の特性はあまり重要ではなくなるか、重要ではなくなります。相互作用の特性が重要になります。
これは、起こることを理解するために重要です。つまり、私たちが見ていないものが本当に重要なのです。世界のネットワーク化を進めるにつれて、私たちが見ていないこれらのものにより焦点を当てる必要があります。
これらのシステムは振る舞いを変化させ、多くの場合、意図した効果ではなく、副作用、フィードバック効果、カスケード効果を見ることになります。
ここに、雨の週末に適した小さな実験の映像があります。一つの局所的な摂動が最終的にシステム全体を混乱させる可能性があることが非常によく示されています。
このような現象は現実にも存在します。例えば金融システムでは、破産の連鎖が起こりました。
また、暗黒データの問題も考慮する必要があります。これは、データ量が処理能力よりも速く増加していることを意味します。世界で生成される全てのデータを処理することはできません。暗黒データがますます増えています。
さらに、世界をネットワーク化するにつれて、システムの複雑さはデータ量よりもさらに速く増加しています。これまでで最高の技術を持ち、これまでで最も多くのデータを持っているにもかかわらず、逆説的に制御を失っているように見えます。
そのため、新しい制御アプローチが必要です。トップダウンの中央集権的な制御ではなく、デジタルな方法で支援できるボトムアップの自己組織化です。これが私が推奨するアプローチです。
私たちはこちらの例から大きなインスピレーションを受けました。エジプトで撮影したものです。歩行者、車、バス、ロリー、ロバ、馬など、非常に多様な交通があり、それでもうまく機能しています。
多少の騒音はありますが、それはサイクルセンサーに置き換えることができます。前方に一方向の流れがあり、後方に反対方向の一方向の流れがあり、中間に小さなバッファがあるという設計です。
このバッファは本当に重要です。全ての人が必要なときにギャップを見つけられるように速度を調整することを可能にします。二つの反対方向の流れをバッファで分離しなければ、決してうまく機能しません。
自己組織化のために設計することができ、都市の交通流についてそれを試みました。歩行者については、ボトルネックで振動流があることを観察しました。交通信号があるように見えますが、実際にはありません。
これを「圧力の原理」と呼び、交通信号の制御に応用しました。自己組織化された青信号の波を生み出します。道路区間からの流出と流入を測定し、不必要に車を停止させないために、何台の車にサービスを提供する必要があるかを予測します。
交通信号を制御する3つの異なるアプローチを比較しました。まず、都市全体からできるだけ多くのデータを収集し、最適な制御を試みるコントロールセンターです。ほとんどの人はこれが最良だと考えるでしょう。
次に、ホモ・エコノミクスアプローチとして、各交差点が個別に、隣接する道路区間の車のみを考慮して旅行時間を最小化しようとします。都市の残りの部分は気にしません。利己的です。
そして、大きな待ち行列を先に解消してから旅行時間の最小化に戻るというものです。これは隣接する交差点がスピルオーバー効果を避けるのを助けるため、他者を考慮しています。フレンドリーです。
左の解決策が最良で、中間が2番目に良く、右が最悪だと予想するでしょう。実際に何が起こるか見てみましょう。
中央集権的な制御では、赤い線が得られます。容量利用率が増加すると待ち行列の長さが増加し、これは予想通りです。
ホモ・エコノミクスアプローチでは、このバイオレット色の破線が得られます。交通量が少ない場合は非常に良いのですが、制御不能になってしまいます。
しかし驚くべきことに、3番目のアプローチは全体を通して最良です。見えざる手を機能させることができ、ボトムアップの自己最適化が最適なトップダウン制御を上回ることができます。
なぜでしょうか。交通信号の最適化はNP困難だからです。全ての可能な解決策をリアルタイムで検討することはできません。単純化する必要があり、典型的な状況に対する最適制御をオフラインで見つけて適用する必要があります。
しかし、その状況は決して存在しないのです。代わりに、私たちは実際の交通状況に柔軟に適応します。100%完璧ではありませんが、発生しない状況に対して100%完璧であるよりも、常に90%完璧なのです。
実際にどれだけうまく機能するのでしょうか。パフォーマンスは驚くほど良好です。以前の青信号の波と、私たちが開発した自己組織化された青信号の波を比較すると、大きな違いが見られます。
赤が非常に少なくなっており、これは待ち時間が大幅に減少したことを意味します。車、バス、歩行者、自転車など、全ての人にとってより良く機能します。
ここで、AIがこれを追い越して、これより良くなるのではないかと尋ねるかもしれません。これは分析的な公式に基づいています。導出は本当に簡単ではなく、多くの思考を必要とします。
そこで、機械学習を愛する学生と比較してみました。彼は機械学習が大好きです。それでも私たちの分析的なアプローチと比較しました。
分析的なアプローチが実際に最良の結果を示しました。必ずしも大きな差ではありませんでしたが、システムが混乱した場合、つまり工事現場や事故など、毎日起こっているが計画の一部ではないことが起きた場合に何が起こるかを見てください。
機械学習は、それについて再び学習する必要があります。新しい状況です。分析的プラスは学習する必要がありません。分析的プラスは機械学習よりもはるかに優れていることが判明しました。
事前学習も試みました。事前学習は、もちろん機械学習のソリューションを事前学習なしの場合よりもはるかに改善します。それでも、ブラックボックスの機械学習ではより良く解決できない問題が世界にはあるようです。これは重要な洞察だと思います。
結論に移りたいと思います。今や誰もがノーベル賞に魅了されています。同じことをして、ネイチャーの論文やサイエンスの論文を発表すべきだと考えています。しかし、冷静さを失わないでください。
科学者として、私たちは良い面でも悪い面でも反省的で批判的である必要があります。これらのソリューションの影と光の両方を見る必要があります。彼自身が人類への危険性について警告しています。
つまり、それについて考える時間を費やすべきです。なぜなら、物事が間違った方向に進んだノーベル賞の例がいくつかあるからです。
例えば、1997年の経済学ノーベル賞のブラックショールズ理論です。素晴らしい理論でした。それは長期資本管理ファンドに実装されました。市場が崩壊するまで多くのお金を稼ぎました。ほぼ金融システム全体が破綻しそうになりました。
バラク・オバマのノーベル平和賞もそうです。大統領就任前に受賞し、その後いくつかの戦争が始まりました。期待通りにはいきませんでした。
リチャード・セイラーのナッジ理論に関するノーベル賞についても同じことを言う人もいます。これらの洞察の1つは、私たちの感情や行動を操作するために使用されており、一部の人々は、それを間違った方法で行えば心理的虐待だと考えています。
私たちの世界のより良いバージョンを目指して働き続けてほしいと思います。しかし、必ずしも決して起こらない1つの最適な解決策を見つけようとする試みに基づく必要はありません。
これをもちまして、皆様のご関心に深く感謝いたします。
コメント