23,054 文字
AGIっちゅう考え方はなんかアホらしいんちゃうかなぁ。なんでかいうたら、知能の本質を勘違いしとるからや。みんなの定義を見てみると、めったに定義せぇへんけど、めっちゃ単純やねん。
人工知能の時代に人間を特別なもんにしとるものは何やねん
こんにちは、Tech firstへようこそ。私の名前はジョン・コーサーです。今日のゲストにめっちゃワクワクしとります。Tech firstではこれまでにも素晴らしいゲストをお迎えしてきました。ネイサン・ミロルみたいな億万長者のテクノロジストや、初めて商業用の携帯電話を作った技術者、人型ロボットを作っとる会社のCEOや、ドローン配達会社を立ち上げた発明家なんかもおったし、つい最近ではRobloxのチーフサイエンティストもおりました。
今日のゲストは、AIっちゅうか機械知能の分野の大御所やねん。ケンブリッジ大学のDeep Mind機械学習教授で、アラン・チューリング研究所の上級AIフェロー、アラン・チューリングって聞いたことあるやろ？シェフィールド大学の客員機械学習教授、Amazonの元機械学習ディレクターでもあるんや。めっちゃ長い論文や本のリストがあって、何分もスクロールしてもまだ続くくらいやねん。
そして、最新の本「The Atomic Human: 人工知能の時代に人間を特別なものにしているものは何か」の著者でもあるんや。彼の名前はニール・ローレンスや。ニール、ようこそ！
ありがとうございます、ショーン。楽しみにしとります。
時間取ってくれてありがとうな。まずは本の話から始めようか。要約するとしたら、「The Atomic Human」の核心的なアイデアは何やろ？
そやな、タイトルにある「atomic human」っちゅう概念は、古代ギリシャの哲学的な考え方から来とるんや。
紀元前300年頃のデモクリトスが言うてたんやけど、物理的な世界のもんを半分に切って、その半分をまた半分に切って、さらにその半分を切り続けたら、もう切れへんところまで行くんか、それとも永遠に続くんかっちゅう話やねん。
もちろん、哲学者やから実際に切ったわけやないけど、この質問は今でも成り立つわな。彼らの答えは、ある時点で切れへんところに達するはずやっちゅうことやった。
で、機械知能の話になると、同じような質問ができるんや。
機械がなんかをするたびに、蒸気機関の時代から考えると、人間がもっとるもんを切り取っていくわけや。チェスをしたり、言語を翻訳したり、会話をしたりするたびに、人間から切り取っていくんやけど、もう切れへんところがあるんかなぁ？そこに人間の本質があるんちゃうかな、っちゅう話やねん。
へぇ〜、テセウスの船のことを思い出したわ。
ほんまやな。本には書いてへんけど、テセウスの船の話を聞いて、めっちゃ違う風に考えるようになったわ。
テセウスの船っちゅうのは、みんな知っとると思うけど、全部の部品が入れ替わった船のことやねん。実際にテセウスが何をしたんかは知らんけど、多分重要な船やったから部品を取り替えていったんやろな。
で、問題は、最後に全部取り替わったら、それでもまだ同じ船なんかっちゅうことやねん。本を書き終わった後にこの質問が頭に浮かんだときに、すぐに答えられたわ。最初に思いついた答えとは全然違うんやけどな。
うん、同じ船や。みんながそう思うんやったらな。
テセウスの船は単なる物理的な構造やないねん。心の中にあるもんなんや。もしその船が艦隊の先頭にあって、テセウスがネルソン提督みたいな偉大な提督やったら、たとえ彼が死んでもみんなはその船を見てインスピレーションを受けるんや。それがテセウスの船やっちゅう考えがあるからこそ。
ワイは宗教的な人間やないけど、これって一種の精神的なもんやな。他の人間の信念や、なんかを共有する信念から生まれてくるもんなんや。
だから、ワイの答えは、たとえ全部の部品が変わっても、同じ船のままやっちゅうことや。ゴルフクラブでも同じことが言えるわな。グリップを取り替えて、ヘッドも取り替えたら、それでも同じクラブなんか？でも、まだラッキーをもたらすと信じとるんやったら、それは同じクラブやねん。
そうやな。ちょっと昔の話に戻ろか。あんたはもうAIや機械学習の分野で長いキャリアを積んどるけど、どうやって始めたんや？なんで始めたんや？
おもろいことに、ワイは機械工学から始めたんや。父親が技術者やったし, レゴで遊ぶのが大好きやった。なんか作ったり直したりするのが好きやってん。
1994年に卒業したときに、やりたい仕事を探してみたんやけど、車のデザインとか、工場を建てるとか、ワイが情熱を持っとることに全然価値を見出してくれへんかってん。特にイギリスでは、技術者の給料がめっちゃ安かってん。
だから、別の仕事に行くことにしたんや。結局、シュルンベルジェっちゅう会社で石油掘削の仕事をすることになってん。ワイヤーラインロギングっちゅうやつや。めっちゃ大変な仕事やったけど、ずっとやるつもりはなかってん。
石油掘削の現場では暇な時間がめっちゃあるから、その時間にニューラルネットワークっちゅうもんについて読んだんや。これ1994年か95年くらいの話やねん。
ある時点で、こういうもんに取り組みたいって思ったんや。だって、訓練を受けた技術者としては解決できへん問題に対する解決策を提供してくれるように見えたからな。
それで、石油掘削の仕事をやめて、機械学習の博士課程に進んだんや。その頃はまだ誰も興味持ってへんかった頃やねん。
ほんまやな。それからずっと歴史を作ってきたわけやな。
今の時代に話を進めよか。AIっちゅう言葉が大きく復活してきたよな。特に過去5年か7年、もしかしたら4年くらいかな。
みんながめっちゃ投資してきて、LLMsが出てきた。今のAIの世界の状況と、AGI（人工汎用知能）への進歩をどう評価しとる？
まず言っておきたいのは、AGIっちゅう概念はなんかアホらしいと思うねん。知能の本質を勘違いしとるからや。
みんなの定義を見てみると、めったに定義せぇへんけど、めっちゃ単純やねん。「経済的に合理的や」とかそんなんばっかりや。
ワイの本の要点は、そういうもんやないっちゅうことを強調することなんや。
ヘンリー・フォードの話があるやろ。彼が「もし人々に何が欲しいか聞いてたら、もっと速い馬って答えただろう」って言うたらしいねん。
今のAIの話も似たようなもんやな。「もっと賢い人間が欲しい」って言うてるようなもんや。
でも、これってちょっとおもろいな。だって、「人工的な汎用馬」ってどんなもんか考えてみい。
馬って単に移動のためだけやないやろ。発達障害のある子どもたちの自信をつけるのに使われたりもするし、日常生活から離れるためにも使われるし、馬は移動以外にもいろんな役割を果たしとるんや。
馬はもっと複雑なもんなんや。でも、「人工的な汎用乗り物」って質問したらどうや？自転車なんか？フォードのF-150トラックなんか？それともSR-71ブラックバードなんか？
こんな質問はアホらしいやろ。だって、何がしたいかによって答えが変わってくるからな。
ソビエト連邦をスパイしたいんやったら、どんなミサイルよりも速い飛行機が必要やけど、それは自転車やないわな。
でも、健康的に仕事に行きたいし、リラックスしたいんやったら、自転車がええかもしれへん。
この課題が面白いのは、めっちゃ頭のええ人たちが、ちょっと単純すぎる考え方をしとることなんや。
皮肉なことに、ある意味で地球上で最も賢い人たちが、別の意味では最もアホな人たちでもあるんや。
でも、みんながAGIとかシンギュラリティとかについて言うてることを聞いとると、人間は他の人間の専門知識を尊重するから、このワナにハマってしまうんや。
ヘンリー・フォードの「もっと速い馬」のワナみたいなもんやな。
この本のアイデアは、そうやないっちゅうことを説明することなんや。なんで我々の知能は機械に完全に置き換えられへんのか、どうして機械知能と協力して社会をよくできるのか、でも間違って使うたら社会を壊す可能性もあるっちゅうことを説明したいんや。
でも、どっちの道を取るかは複雑な問題やねん。
ある分野では役立っとるけど、別の分野では悪影響を与えとる。これは過去の技術でもそうやったし、この技術も同じような道をたどる可能性が高いんや。
あんたがそう言うのを聞くのは面白いな。3、4ヶ月前にパナマシティで人工汎用知能の会議に参加したんやけど、あんたを連れて行けばよかったわ。みんなの前で「あんたらがここに来た理由は存在せぇへんねん」って言うてくれたら最高やったのに。
そやな、でもちょっと違う角度から見てみようか。知能の背後にある本当に面白い一般的な原理があるんや。だからこそ、めっちゃ頭のええ人たちがこういう話にハマってしまうんやと思う。
乗り物の話に戻ると、ほとんどの乗り物に共通する理論や実用的な実装があるやろ。車輪とか、飛行機の空気力学とか翼とか、エンジンとかな。
でも、それでも違う用途によって形が違うってことに気づくんや。
自転車やったら足か電気モーターやけど、ブラックバードのエンジンがどうなっとるかなんて知らんわ。普通のジェット機やったらターボエンジンやし、車やったら内燃機関で、ディーゼルかガソリン、最近は電気も増えてきとるな。
こういう一般的な原理を見ても、いろんなバリエーションがあるんや。そして、それらを組み合わせて、必要な仕事をこなすもんを作るんや。
知能も同じことが言えるんやで。
機械学習の研究分野があるっちゅうことは、引き出せる一般的なものがあるっちゅうことやねんな。
AGIの人たちの問題は、多くの場合、実際に導入した経験があんまりないことやと思う。成功したアルゴリズムを設計した人もおるけど、それが一番実用的な人たちやな。
でも、彼らはちょっと、なんかを切りたがらん哲学者みたいなもんや。知能が一次元的なもんやったらどうなるかを想像しとるだけやねん。
でも、これはちょっと危険な考え方やな。知能が一次元的で、知能のはしごを上るみたいな考え方ってどこから来たんやろ？優生学者から来とるんや。
「一般知能」っちゅう言葉は、スピアマンがゴールトンの理論を支持するために使い始めたんや。知能は身長みたいなもんやって。イギリスがドイツの台頭に対してビビっとって、もっと賢い人間を育てんとドイツに経済的に勝てへんって考えとったんや。アメリカもそれに続いて、優生学にめっちゃ力入れたんやで。
今の状況は少し違うけど、同じような地政学的な考慮があるんや。中国に対する恐れがあって、中国よりもええAIが必要やって。
でも昔は下を向いて「人口が賢くないから、繁殖の仕方を変えなあかん」って言うとったのに、今は上を向いて「AIは私より賢いから、それを基に発展せなあかん」って言うとる。中国に対抗するためにな。
同じような種類の議論やねんな。
まぁ、これが問題になるかどうかって思うかもしれんけど、ちょっと問題やと思うんや。一般の人々を誤解させとるし、政府までもが誤解しとる。この技術を最大限に活用するためにどんな介入が必要かを考えるときに、間違った方向に行ってしまう可能性があるんや。
社会が望む未来を実現するために頼りにしとる人々、例えば教師とか医療専門家、民主主義を支える弁護士なんかの力を弱めてしまうんや。
そういう人たちに力を与える代わりに、知能をめっちゃ単純に考えとる人たちに力を与えてしまっとるんや。
あんたが言うとることの一部は、AGIっちゅう言葉があんまり意味をなさへんのは、知能が一つのもんやないからやと思うんや。知能にはいろんな種類があるんやろ？
数学的な知能もあれば、論理的な知能もあるし、身体的な知能もある。他にもいっぱいあるんやろな。
機械知能や機械学習が、人間を超えるようなすごいことをする分野もあるよな。それはめっちゃクールなことやと思う。
でも、その考え方は、そういう超人的な要素をたくさん組み合わせて、なんかスーパーエゴみたいなもんを置いて、全体を管理するようなもんを作ったら、スタートレックのデータみたいなもんが出てくるんちゃうかっちゅう感じやな。
そうやな、それってチキチキバンバンの人工知能版みたいなもんやな。飛ぶ車がほしいもん全部やってくれるみたいな。ただ翼つけたらええやん、そしたら飛ぶやろって想像してるだけやねん。
これは、実際にやってみんとわからんことなんや。
なんでそうならへんのかっちゅうと、乗り物の例で言うたら、積載量を増やすと車の質量が増えて、空気力学的に不利になって、スピードが出せへんようになるからや。
今の状況は、フェラーリみたいな知能がまわりを見回して、全部フェラーリみたいにせなあかんって言うてるようなもんや。
でも実際には、そういう種類の知能やなくて、社会で称賛されたり glorify されてへんような知能が、我々のやっとることの backbone になっとるんや。
残念ながら、こういうことを考えとる人たちは、そういう知能の質を認識できてへんことが多いんや。
AIが何を実現したかを見てみると、知的な人たちが重要やと思うことばっかりやねん。チェスやゴーをプレイしたり、翻訳したり、文字を読んだりするようなことや。
でも、パトリック・マホームズのノールックパスを再現するようなことには、どれだけ進歩したんやろな？
それは、AIを設計する人たちがスポーツにあんまり興味がないからやねん。サッカーやアメフトにも興味ないし、そういう形の知能を尊重してへんのや。
マホームズはインタビューとかではあんまり賢そうに見えへんかもしれんけど、ピッチに立たせたら、めっちゃすごいことをやってのける。
体の中で何が起こっとるかを理解できたら、それがどれだけすごいかわかるんや。
そこには天才的なところがあって、我々にはそれを再現するのがめっちゃ難しいんや。
ある人は即興が得意で、ある人は計画を立てるのが得意やねん。でも、タスクに取り組むときに計画を立てるか即興でやるかを決めたとして、どっちがうまくいくかは、そのタスクがどうなるかによるんや。そのタスクにどれだけ不確実性があるかにもよるんやで。
時には計画を立てる人が勝つこともあれば、即興でやる人が勝つこともある。この種の緊張関係が知能の核心にあるんや。乗り物の質量が、空飛ぶ車みたいなもんを作れへん理由の核心にあるのと同じようにな。
即興でやる人は、ある視点と、アプローチの仕方についてのアイデアを持って問題に取り組むんや。計画を立てる人は別のアプローチを取る。でも、問題の詳細がわからん状態で、どうアプローチするかを決めなあかんのや。
じゃあ、どう反応すればええんやろ？
人間を見回してみい。我々には知能のスペクトラムがあるんや。能力のスペクトラムもある。全てを支配する一つの指輪なんてないんや。知能の多様性があるんやで。
あんたがそう言うのを聞くと、面白いな。最近、ロボット会社のCEOを5人か7人くらいインタビューしたんや。
一般的なロボットやなくて、ヒューマノイドロボットの会社のCEOやねん。今めっちゃセクシーな技術の夢やろ？歩いたり、話したりするヒューマノイドロボットを作って、倉庫で働かせたり、家に来て掃除機かけてもらったりするのを夢見とるんや。
もちろん、多くの人がそれに懐疑的で、「目的に合わせて設計せなあかんやろ」って言うとる。人間の形が特定の仕事に適してへんっちゅうのはその通りやな。
でも、人間の形は汎用性が高いから、それはそれで面白いんやけどな。
あんたが言うたことで面白いのは、アプローチの仕方が違うってことや。計画を立てるアプローチを取る人もおれば、「何になるかわからんけど、まずは簡単なことから始めて、少しずつ追加していこう」っちゅうアプローチを取る人もおるんや。
面白いのは、実際に労働力としてロボットを導入しとる会社は、ヒューマノイドやないけど、そういう少しずつ追加していくやり方でやっとるんや。
これが何を意味するかはわからんけど、同じ目標に向かって違うアプローチを取るっちゅうことについて、なんか言えそうやな。
そうやな、通常、即興的なアプローチは不確実性が高いときにうまくいくんや。
初期の製品開発段階で、市場がよくわかってへんときには、即興して軌道修正できる能力のほうが役に立つんや。
でも、市場が成熟してくると、効率が重要になってくる。複数の市場参加者がおって、価格とかで競争しようとするからな。
規模が大きくなると、計画を立てるアプローチのほうが多くなってくるんや。
Amazonで働いとった経験から言うと、企業文化にも個性があるのが面白いな。
例えば、Amazonの企業文化は常に俊敏性を保とうとしとる。でも、実際には会社の規模が大きくなると、それが難しくなってくるんや。
「うちはスタートアップの集まりや」みたいなことをよく言うてるし、みんなもそういう風に働こうとしとる。
でも、スタートアップとは違って、個人情報を扱う製品をデプロイするときに、会社の評判を気にせなあかんのや。
スタートアップやったら、給与体系を壊すような人を雇うこともできるけど、Amazonではそうはいかへん。
人事の問題、法的な問題、広報の問題とか、スタートアップみたいには振る舞えへんことがいっぱいあるんや。誰かがなんて言おうと、そこは変われへんのや。
会社が大きすぎるからそうなるんやな。
こういう会社が破壊されるのは、そういう制約のない小さな会社が、仕事のやり方を再考するからなんや。
Amazonが25年以上前にやったのと同じことをやるんや。シアーズみたいな会社を破壊したんや。
そして、そのサイクルが繰り返されるんや。時間が経つにつれて、これらの会社の知能（文化やビジネスのやり方と関連しとる）が、周りの状況の変化についていけへんようになるからな。
LLMsについてちょっと話したいんやけど、最新版のChatGPTみたいなもんをどう見とる？それが何をできるかについて、どう思う？
ワイの使い方を振り返ってみると、グーグル検索をする回数がめっちゃ減ったな。ワイはそれを「好奇心マシン」って呼んどるんやけど、
数か月前にトロントを歩いとったときに、高架橋のコンクリートに剥離があって、鉄筋がむき出しになっとるのを見つけたんや。それでChatGPTに写真を送って、「なんでこうなるん？」って聞いてみた。
答えをくれて、めっちゃクールやった。たぶん正しい答えやったと思う。今では出典も示してくれるから、それもええな。
ChatGPTとLLMsについて、どう思う？次の大波？それともデッドエンド？
めっちゃ面白いと思うで。でも、Twitterで読んどるような理由とは全然違う理由でな。
ワイが読んどる限り、ほとんど全部に同意できへんわ。これは人工汎用知能への道でもないし、「もっと計画を立てる能力を増やしたら AGI になるで」みたいな話でもないんや。「もっとパラメータを増やせ、もっとデータを」っちゅうもんでもない。
これは完全に新しい技術で、めっちゃ革命的なもんなんや。
本の中で強調しとる重要なポイントの一つは、我々の知能と機械の違いは、我々の限界にあるっちゅうことや。
「atomic human」にたどり着くには、機械が持てへんもの、つまり我々の限界と脆弱性を見つけんとあかんのや。
我々の主な限界の一つは、コミュニケーション能力についてのもんなんや。我々は音速でコミュニケーションを取るんやけど、これは光速の100万分の1の速さなんや。
でも、内部的には光速に近い速さで処理できるんや。これってめっちゃ変な知能のアーキテクチャやで。
我々は分散型の知能やけど、めっちゃパワフルな計算ノードがあって、それらの間の帯域幅がちっちゃいストローみたいなもんなんや。
こんなもん、我々は作ったことないんや。だって、電気を使うようになったら、コミュニケーションにも電気使うやろ？
でも、これが進化の美しさなんや。設計者がおらへんから、目の前にあるもので作業せなあかんのや。
このアーキテクチャのおかげで、我々の知能には特別なところがあるんや。それは単なる限界やないねん。
ワイの推定では、コミュニケーションの帯域幅の差は100万倍やなくて3億倍くらいあるんや。どれくらいの差かわかるか？歩く速さと光速の差くらいやねん。めっちゃすごいやろ？
つまり、あんたの知能は歩いとるのに、コンピューターは光速で動いとるようなもんや。
さらに300倍の差があるのは、賢いコーディングとか、どうやってコミュニケーションを取っとるかの違いからくるんやな。
ここで面白い質問があるんや。帯域幅がそんなに小さいのに、なんで我々はずっと互いに話しとらんのやろ？めっちゃ重要なことを伝えんとあかんはずやのに。
まぁ、そういう人もおるけどな。マイクロマネジメントって言うんやけど。
でも実際には、我々が多くやっとるのは、互いに自分が誰であるか、より広い文化的な景観の中で自分がどこに位置しとるかを共有しようとすることなんや。
これはどういう効果があるかっていうと、ジョン、もしワイがあんたのことをよく知っとる人間やったら、あんたに何かを聞く必要がないんや。あんたの内部モデルを持っとるからな。
あぁ、あいつはスターバックスの冷たいブリューラテに千個もシロップ入れて台無しにするのが好きやな、みたいな。
いや違うで！でも、あんたの言いたいことはわかるわ。
ワイはあんたのこと知らんから、これが問題なんやけどな。でも、あんたが好きそうなもんを、あんたが頼まんでも持ってこれるんや。
コミュニケーションの帯域幅を使う必要がないんや。我々には、お互いの気持ちを先読みして、ほとんどコミュニケーションを取らんでも協力できる素晴らしい知能があるんや。
もちろん、コミュニケーションもするけどな。でも、コミュニケーションするときは、共有しとるアイデアの景観、つまり文化って呼べるようなもんを使うんや。
本では、アナロジーを使ってめっちゃたくさんのことを伝えようとしとるんや。
正直、AIアルゴリズムがどう動いとるかの技術的な詳細を全部理解しとる人はおらへん。でも、車がどう動いとるかの技術的な詳細を全部理解しとる人もおらへんやろ？
それでも、車が何をするかはなんとなくわかるやろ？
だから、「人工汎用知能は人工汎用車みたいなもんや。なんかアホらしい考えやな」って言えるんや。このアナロジーが好きかどうかは別として、馴染みのない概念を馴染みのあるもんに関連付けて、めっちゃ複雑なアイデアを伝えとるんや。
我々の知能の大部分は、そういう共有された馴染み深さに基づいとるんや。
民主主義とか原子とかの概念を口にすると、我々はそれぞれ独立に考えた複雑なアイデアを伝えられるんや。
最近までの人工知能の大きな課題は、こういうものにアクセスできへんかったことなんや。
「美」とか「わいせつ」とか「知能」を一から定義して、論理だけで再構築できるって考えとった。ラッセルが数学の全体を論理から再構築しようとしたみたいにな。
でも、そんなんうまくいかへんのや。これらのアイデアは、数学が真実であるような意味では真実やないからや。
これらは共有された文化的な人工物として真実なんや。それを信じることで、我々は協力し合えるんや。だから、個人にとってはめっちゃ真実に感じるんやけど、場合によっては明らかに真実やないこともあるんや。
でも、それが役に立たへんっちゅうわけやないんや。本みたいなもんやな。間違っとるモデルもあるけど、役に立つモデルもある。全ての文化は間違っとるけど、全ての文化は役に立つんや。
じゃあ、LLMは我々に何をもたらしたんやろ？
機械にめっちゃ大量のテキストの次の単語を再構築させようとすることで、我々の文化の感覚みたいなもんを、ゆるい意味で言えば「発展させた」んや。
本の中では、これを「人間アナログマシン」って呼んどるんや。
1950年代のアナログコンピューターの仕組みを基に考えて、デジタルマシンの中に、この認知的な景観に類似した状態のセットがあるって言うとるんや。
これがめっちゃすごい可能性を解き放ったんや。
「計画を立てられへん」とか「地図を間違えた」とかいう批判は忘れてくれ。最新のGPTでも、我々の認知的な景観を通じてコミュニケーションを取りながら、ワイの歩く速さのコミュニケーションチャンネルを機械の光速にスケールアップする能力、これが革命的なんや。
他のことは全部忘れてもええ。ここで止まっても、未来の社会は想像もつかんくらい変わるんや。
「これ以上何もせんでええ、今あるLLMだけ使え」って言うても、誰もそんなことせえへんやろうけど、それでも革命的なんや。
ただ、人間がこの技術に適応して変化するのには時間がかかるんやな。
ワイが思うに、これは印刷機だけの話やない。書き言葉と印刷機が同時に発明されたようなもんや。
なぜかっていうと、普通の人々がデジタルコンピューターにアクセスする方法を、大手テクノロジー企業が仲介せんでもええようになるからや。
誰かがプログラムして、エクセルのスプレッドシートみたいなもんを与えるんやなくて、あんたの想像力で仲介できるようになるんや。これはめっちゃすごいことやで。
めっちゃでかい可能性があるし、同時にめっちゃでかい問題もあるんや。
だから、ワイの仕事の大部分は、その考えを広げて、ChatGPTやClaudeの中に推論能力を入れたり、特定のことをする能力を改善したりするんやなくて、
これをインターフェースとして使うことにもっと興味があるんや。GUIをクリックするんやなくて、機械が人間のアナログとして、コミュニケーションの手段として提供するインターフェースを使うんや。これはめっちゃすごいことやで。
ほんまにすごいな。スピードアップもめっちゃすごいわ。
昔ながらのやり方を思い出してみい。なんかの答えが必要やったら、グーグルで検索して、5つくらいのウェブページやサイトを見つけて、それぞれ見て、頭の中でまとめて、完全な答えを作らなあかんかったやろ。
ウィキペディアの記事があれば、それを読んで…
でも今のグーグルは、深みのある情報をほとんど提供してくれへんような気がするわ。出てくるのは、副業で小遣い稼ぎしようとしとる大学院生が書いた5つのクリックベイト記事くらいやで。
これはワイの印象やけど、他の人は違う経験をしとるかもしれんな。
そうやな、ワイにとっては1995年か96年のAltaVistaに戻ったみたいな感じやわ。インターネットにあるはずのもんが見つからへんのや。ゴミみたいな情報に埋もれてしまっとるからな。
せやな、2006年に知っとったインターネットはもう消えてしもうたんやな。
本の中でも言うとったし、この会話の中でも言うたけど、ある意味で人間の欠点が我々の最大の強みやっちゅうことやな。なんでそう思うん？
そうやな、人々が知能として話しとることを、一般的な言葉で表現しようとすると、情報に基づいて決定を下すっちゅうことになるんやな。
これは社会性昆虫でも見られることやし、それ自体がすごいことなんや。
アリを見とると面白いで。休暇中に南ミシガンにおったんやけど、家がアリだらけやってん。どうやって対処してもまた出てくるんや。
ある時点で気づいたんやけど、このタイプのアリは複数の巣を持っとるみたいなんや。普通のアリとは違うんやな。
義理の母さんがそれを見て、イタリア語で「これって賢いんかな？」って言うたんや。すぐに反応して「個々のアリは賢くないけど」って言うたんや。
そうや、このアリを簡単に騙せるやろ？でも、集団としての知能はあるんや。
重要なのは、自分たちについて決定を下すことなんや。これはテセウスの船の話に戻るけど、
何が大事で、我々の目的は何なんやろ？それは人間のグループとして決めることやねん。究極の答えなんてないんや。
「宇宙と全てのこと」についての質問に対する答えみたいなもんはないんや。ただ、知っとる限りの最善の方法で前に進んでいくだけなんや。
個人が決定を下して、できれば社会を良くしていく。その個人たちが、他人のことを気にかけ、我々の未来を気にかけ、少しでもええ世界を作ろうとする正しい方法で育てられることを願うんや。
世界で一番難しい問題、例えば健康、教育、社会保障、行政のやり方、自治の方法、こういうもんには解決策がないんや。
解決策があるって考えること自体が深刻な問題なんや。
こういう中で前に進んでいくには、人間が他の人間に共感できることがめっちゃ大事なんや。
シングルマザーの苦労とか、愛する人を失うことの意味とか、子供を失うことの意味とか、そういうことを理解できんようになったらあかんのや。
こういうこと言うたびに、ワイの首筋の毛が逆立つんや。想像もつかへん。ワイはまだ経験したことないけど、ただ考えるだけでもショックなことやねん。
でも、決定を下す人たちに、そういう反応をしてほしいんや。決定を下す存在自身が、同じ限界を持っとってほしいんや。
そうやって社会は機能しとるんや。我々は人々に責任を持たせるんや。裁判官かもしれへんし、何かの決定を下すかもしれへん。
でも、その決定については、国の司法制度によって責任を問われるんや。
その決定によって、職業的な評判を失うリスクがあるんや。最高に機能しとる社会では、そういう仕組みがあることを願うんやけどな。
結果として、決定の中心には弱さと限界が必要なんや。それは機械で改善できへんっちゅうわけやないし、機械と協力できへんっちゅうわけやないけど、意味のある形で人間から来るもんでなきゃあかんのや。
本の中で使っとる例は、紀元前1200年くらいに戻って、ハンムラビ法典を使っとった時代の話なんや。
法典の中に「法的な事件がちょっと難しかったら、川に投げ込んで、川の神様に判断してもらおう」みたいなことが書いてあるんや。
これって面白い原則やな。裁判官がこれを気に入る理由はわかるで。「自分で間違いを犯すリスクを避けられる。川の神様に任せたらええねん」みたいな。
「川の神様は全てを知っとるから、大丈夫や」みたいな。
川の神様のAIは、川の神様の裁判みたいなもんやな。
なんでハンムラビ法典を導入せなあかんかったんやろ？都市が大きくなりすぎて、小さなグループ内での道徳的な義務だけでは個人の行動を扱えへんようになったからや。行動の背後にあるプロセスが必要になったんや。
裁判が難しくなったら、すぐに別のもんに任せたくなる気持ちはわかるわ。
陪審裁判や司法制度について我々が理解したことの一つは、裁判にかけられとる個人の状況を理解しとる人々に、その責任を持ってもらいたいっちゅうことや。そのためのメカニズムを社会の中に作ってきたんや。
もちろん、いつもうまくいくわけやないけど、ほとんどの場合は気づかれへんくらいうまく機能しとるんや。
そこへ、なんかアホな奴が機械学習アルゴリズムを持ってきて、一気に紀元前1200年に戻してしまうようなことをするんや。
歴史は繰り返すもんやな。ほんまに面白いわ。
今日でも社会の様々な場所でそういうのを見るよな。「ここにスマートなシステムさえあれば」とか「AIの大統領さえおれば」みたいな。
ワイはカナダ人やけど、多くのAI研究者がアメリカにおるから、AIの大統領とかAIのCEOみたいな話をよく聞くんや。
結局のところ、川の神様に投げ込むようなもんで、我々の責任を減らしてしまうんやな。
アリの話をしてくれたけど、ワイも最近ホンジュラスで葉を切るアリを見たんや。めっちゃ面白かったわ。
15分くらいそこに立って観察しとったんやけど、アリたちが小さな葉っぱを運んで巣に持って帰って、そこで腐らせて、そこから生えるキノコを食べるんや。
これってめっちゃ洗練されたプロセスやねんけど、個々のアリはどう動いてるかも、なんでそうしとるかもわかってへんのやろうな。
でも、なんらかの形で我々もそのアリみたいなもんで、こういう文化や国を作り上げてきたんや。それがうまく機能しとるんやな。
これは、ホモ・サピエンスとして20万年から30万年、その前のホモ属として200万年、霊長類として900万年、海から上がって陸上を歩き始めた動物として3億5000万年の間に、我々に受け継がれてきたもんなんや。
宗教的である必要はないけど、そこで行われた計算や、何世代にもわたってゆっくりと受け継がれてきた情報量に驚かされるわ。
進化と比べたら我々は歩く速さくらいやけど、会話するときは光速よりも速いんやな。
でも、我々の周りにあるエコロジーの複雑さは、我々の文化をはるかに超えとるんや。
そのアリの世代が、巣をまたいで戦わんようになるかもしれへんし、次は何をするんやろか。
それを見とる機械は、我々が互いに話しとるのを見とるようなもんやな。
我々が自分たちのエコロジーを破壊するのは、想像もつかんくらいゆっくりと動いとるプロセスの規模や複雑さを理解できへんからなんや。
機械が我々の文化を弱めるのは、意思決定を機械に任せすぎて、我々の文化の複雑さを理解できへんからなんや。
こういう状況になると、スピードは機械側にあるけど、複雑さは我々側にある。スピードは我々側にあるけど、複雑さは我々のエコロジー側にあるんや。
これらの技術からの脅威について考えるときは、なんかスーパー知能の存在論的な脅威を考えるんやなくて、
200年にわたる決定が我々の気候やエコロジーを損なうのと同じように考えるべきなんや。
最初に動物が海から上がってきたときまで遡るんやで。そんな昔に埋もれた炭素を再び導入することの影響なんて、ワットが蒸気機関を作ったときには考えもしなかったやろ。
彼が心配しとったのは、蒸気の圧力とボイラーが爆発して人を殺さへんかってことやった。安全性については考えとったけど、炭素を導入することの意味なんて想像もつかへんかったんや。
二酸化炭素は友人のジョセフ・プリーストリーによって最近発見されたばっかりやったしな。
彼が関わっとるプロセスの意味なんて、全然理解できへんかったんや。
彼を責めるつもりはないし、我々個人を責めるつもりもないんやけど、もちろん、時間とともに我々に受け継がれてきた文化的な習慣が、そういう長い時間をまたいで機能しとるんや。
我々はその行動の起源を理解してへんけど、なんらかの形でそういう学びが埋め込まれとるんやな。
だから、我々の政治システムについて考えるときの主な課題の一つは、この緊張関係なんや。
アメリカではちょっと違う意味で使われとるけど、伝統的な小文字のconservatism（保守主義）と小文字のliberalism（自由主義）の間の緊張関係や。
今我々が持っとる伝統やないけど、小文字のconservatismは「過去にやってきたやり方を続けよう」っちゅう考え方やねん。
アメリカに王様を置くのがええアイデアやないっちゅうことには、我々が理解してへんいろんなええ理由があるんや。
一方で、小文字のliberalismは「新しいことをやろう、変えていこう。大統領を置こう」みたいな感じやな。
どっちが正しい答えなんやろ？それは状況次第やねん。
数百年経たんとわからへんのや。この実験を始めてまだ数百年しか経ってへんのやから。
エコロジーの時間スケールで考えたら、これがどうなるかなんてまだわかってへんのや。
これは安全性とAIの話に繋がるええ切り口やな。人間がどうやって、少なくともいくつかの面では我々より賢いか、超人的な能力を持つかもしれんものをコントロールできるんやろか。
すでに、全然知能的やないシステムでさえ、我々に大きな被害をもたらしてきたからな。
株を買うシステムが株式市場の暴落を引き起こしたこともあったし、
優れた例やな。フラッシュクラッシュやな。
国防システムが、ソビエト連邦にアメリカから核ミサイルが発射されたと思い込ませて、数秒後に壊滅すると思わせたこともあったよな。
どうやって自分たちを守ればええんやろ？
ワイは無理やと思うけど、あんたはどう思う？
うーん、難しい問題やな。でも、今の議論は完全に間違った方向に行っとると思うわ。
「中央で考える人たちのグループを作って、何が悪くなる可能性があるか考えて、介入せなあかん」みたいな考え方があるけど、そんなんうまくいかへんのや。
これらの問題を解決するには、中央でなんかやる必要はあるかもしれへんけど、内向きに考えて「我々が安全の未来をコントロールする人間や」って思うんやなくて、
外を見て、敏感な役割でこれらのシステムを使う必要がある人たち、例えば医療スタッフ、教師、セキュリティ、防衛の専門家なんかと密接に協力して、
今の彼らの役割が何で、その役割のニュアンスが何なのかを理解せなあかんのや。
これには時間がかかるし、理解と傾聴が必要やねん。
中央のオフィスに座って「犯罪者を検出するためのニューラルネットワークを作ればええねん」って考えるんやなくて、
そうしたら、全国の警察署に行って「これ使え」って言うても、彼らはAIが何で、その限界が何かなんてわかってへんから、言われたとおりにデプロイして、言われたとおりに従うだけになってまうんや。
社会の重要な人々の役割を深く理解して、この技術がどうやってその役割をサポートできるかを理解せなあかんのや。
残念ながら、これはデジタル技術が持つ規模の経済とは正反対のことなんや。
規模の経済やと、世界中に均一に配布できる一つのサイズですべてに対応するソリューションを作るほうがええんや。
そして、クラウドストライクがソフトウェアの迅速なアップデートをするのを待つんや。
で、世界中で「おっと」ってなるんや。
進化では明らかにこんなことは見られへんな。
いや、嘘ついてもうた。実際にあるんや。
例えば、イギリスのニレの木は根で広がるんや。遺伝的にほぼ同一のクローンを作って、200年から250年のサイクルで急速に成長して広がるんや。
そして、そのサイクルの最後にニレ立枯病でほとんど全部死んでまうんや。
ほとんど全部が死ぬっちゅうのがポイントやな。数本は生き残らなあかんのや。
このサイクルは、イギリスでは最近の50年くらいで起こっとったんやけどな。
共有された遺伝子のアプローチを取ると、共有された脆弱性も取ることになるんや。
素早く大規模に構築できるけど、予期せぬ介入に弱くなってまうんや。なんであれ、物事を崩壊させる原因になるようなもんにな。
サプライチェーンでも同じようなことが起こっとるな。金融のフラッシュクラッシュの話をしたけど、
サプライチェーンはどんどん自動化されてきとるんや。ワイはAmazonでサプライチェーンの仕事をしとったことがあるんやけど、
エバーグリーンかエバーグランドやったか、あれがスエズ運河を塞いで大混乱を引き起こしたよな。
サプライチェーンの効率性が高すぎて、頑健性の余地があんまりないんや。
効率性と頑健性の間には、質量と加速度の間にあるような根本的なトレードオフがあるんや。これは避けられへんのや。
こういうことは気になるよな。実際、我々はこれを規制しようとしとる。
独占禁止法とかで、企業が規模の経済を利用して社会に大きな脆弱性を加えるのを防ごうとしとるんや。
でも、デジタル技術の場合は、それがあんまりうまくいってへんように見えるな。
でも、規制による介入はあるんや。みんながわいわい言うとる興味深いもんやないけどな。
みんなAI法案のことばっかり言うとるけど、最近イギリスで可決された一番重要な法案は、デジタル市場、消費者、競争法やったんや。
これは、デジタル市場を支配することがどういうことなのか、どう規制するべきかについての法律なんや。
過去には見られへんかった規模の経済が、企業が成長して市場セクターを横断して支配することを可能にしとるんや。これは我々の経済や頑健な未来にとって、あんまり健全やないんやな。
多くの介入、真剣な介入はこの種類のもんなんや。
存在論的リスクのアイデアを見ても、二つのことを組み合わせとるんや。力の非対称性と自動化された意思決定や。
「社会を支配するめっちゃ強力な存在があって、人間の介入なしに自動的に決定を下したらどうなるんや？」みたいな感じやな。
でも、社会に巨大な力の非対称性があること自体がすでに悪いことやねん。
技術的な存在論的リスクの話にまで行かへんと思うわ。これらの巨大な力の非対称性によって導入される脆弱性が、ある時点で圧倒的になってまうからや。
例えばクラウドみたいなもんやな。
だから、介入は必要なんやけど、変なことに、一番面白い介入は、派手な見出しを作りやすいもんやないんや。
むしろ、「もっと多くのプレイヤーがおる市場が必要や」とか「教えることに情熱を持っとる先生、生徒に情熱を持っとる先生、次の世代を導く人材を育てることに情熱を持っとる先生が、AIにも興味があって、生徒の人生をもっとよくして、自分の人生もちょっとよくするアイデアを持っとったら…」みたいな感じやねん。
そのアイデアがケベック州でしか使えへんかもしれへん。フランス系カナダの子供たちのためのもんかもしれへんし、誰が知るねん。
でも、そういうアイデアを実現できるようにしたいんや。その先生がそのアイデアで成功できるようにしたいんや。
グーグルがケベック州をビジネスの場所として面白いと突然決めるのを待っとる場合やないんや。彼らはそんなこと決めへんやろうしな。
エチオピアのティグライ地方とかウガンダとか、子供たちにもっとええ未来を提供してほしい国々に行ってみい。これらの企業はそういうところをほとんど相手にせえへんのや。
だから、健康や教育なんかの敏感な分野で、我々がほんまに改善したい分野により近い存在が、これらの技術を使って働くエコシステムが必要なんや。
規制が入ってきとるから、そういう方向に向かっとるんやけど、これらの課題がどこから来とるかについての広い認識はまだないように思うわ。
もちろん、市民の皆さんにもこの旅に参加してもらって、何が役立つかを理解してもらう必要があるんや。
本当の問題は、どれくらいの速さでそういう違う種類の社会を実現できるかってことやと思うわ。
めっちゃ面白い話やな。最近、ブータンにAIイノベーションセンターを持ち込もうとしてる起業家のTech Firstをやったんや。
そこでは全然何もされてへんかったからな。まだ王族がおって、彼らが支配しとるんやけど、彼らは自分たちの国民が自分たちの言語でAI技術の恩恵を受けられるようにしたいって思っとるんや。
めっちゃ面白いよな。あんたが言うとったリスク要因について考えると、巨大企業を分割することで、今のところAIをかなりの程度コントロールしとる企業、例えばMetaとかGoogle、少しだけApple、OpenAI（これは巨大企業集団やないけど信じられんくらいの技術を持っとる）、Amazonなんかを分割することで、我々はより安全になるんやろか。
もっと多くの競合するモデルや多様性が生まれるからな。
分割するかどうかはわからへんけど、その能力に公平にアクセスできるようにすることが重要やと思うわ。
正直、正しい規制介入が何なのかはわからへんし、イノベーティブであることを罰したくはないんや。
でも、そういう単一障害点は欲しくないよな。それらの企業にとってもええことやないし。
ある意味で、彼らが陰謀を企んどるわけやないんや。ただ、彼らのインセンティブ構造がこの方向に押し進めとるだけなんや。
でも、今我々が置かれとる本当に問題のある状況は、それらの企業の株価を見ると、将来の収益に基づいとるってことや。
その将来の収益は、彼らがAIを所有することを意味しとるんやで。
彼らは「全ての決定はAIによって下されるようになる世界が来る」って言うとる。そして、彼らがそれを所有することになるって。彼らの株価と投資家がそう言うとるんや。
そういう企業の中にはめっちゃええ人がいっぱいおるんやけど、その中の個人がAGIを信じとるかどうかに関係なく、AGIが彼らの会社の物語の重要な部分になってまっとるんや。彼らの会社の文化や野心の一部になってまっとるんや。
彼らの目標はその市場を占有することなんや。
彼らのCEOの何人かは実際にそう言うとるよな。
マーク・ベニオフが去年のDreamforceで文字通りそう言うたんや。
ほんま、めっちゃひどいよな。
彼が恐ろしい人間やって言うとるんやないで。個人的にそう言うたわけやないからな。
我々一人一人が全体像を見られるわけやないってことはわかっとるし、彼の役割や会社で何をしようとしとるかもわかるんや。
でも、ここがポイントなんや。カール・ポパーの「開かれた社会とその敵」っちゅう素晴らしい本があって、我々がどうやって変化をもたらすか、民主主義がどうやって変化をシミュレートするかを強調しとるんや。
それは、ピースミール・ソーシャル・エンジニアリングを通じてなんや。目の前のシステムの複雑さや難しさを理解しとる人たちが、良い意図を持って、より良いシステムを作ろうと頑張るんや。
AIの問題は、情報を置き換えとるってことなんや。AIだけやなくて、デジタル技術全般がそうなんやけど。
我々がやっとるのは、以前の情報の地形、つまり印刷機や紙の本、ファイリングシステムを置き換えとるんや。
その技術を扱える人たち、最初は古代メソポタミアの書記から始まって、読み書きができる人たちが、その力とともに責任も得たんや。
彼らは弁護士や会計士、行政官になったからな。単に力を持つだけやなく、社会から責任も与えられたんや。
プロフェッショナルな機関や、その力をチェックする方法もできた。それがうまくいっとるかどうかは別の問題やけどな。
今見えとるのは、書き言葉からデジタルへの移行や。現代の書記はソフトウェアエンジニアで、彼らのギルドは大手テクノロジー企業なんや。
このギルドやエンジニアたちは、まだ我々が他のギルド専門職に関連付けとる社会的責任を得てへんのや。
そやから、彼らはその力を利用して大金を稼ぐことに必死になっとるんや。
我々はそれにどう対処すればええのか、急いで考えなあかん状況にあるんや。
実際、我々はそれに対して規制しようとしとる。独占禁止法とかで、企業が規模の経済を利用して、社会に大きな脆弱性を加えるのを防ごうとしとるんやけどな。
でも、デジタル技術の場合は、それがあんまりうまくいってへんように見えるな。
でも、規制による介入はあるんや。みんながわいわい言うとる興味深いもんやないけどな。
みんなAI法案のことばっかり言うとるけど、最近イギリスで可決された一番重要な法案は、デジタル市場、消費者、競争法やったんや。
これは、デジタル市場を支配することがどういうことなのか、どう規制するべきかについての法律なんや。
過去には見られへんかった規模の経済が、企業が成長して市場セクターを横断して支配することを可能にしとるんや。これは我々の経済や頑健な未来にとって、あんまり健全やないんやな。
存在論的リスクのアイデアを見ても、二つのことを組み合わせとるんや。力の非対称性と自動化された意思決定や。
「社会を支配するめっちゃ強力な存在があって、人間の介入なしに自動的に決定を下したらどうなるんや？」みたいな感じやな。
でも、社会に巨大な力の非対称性があること自体がすでに悪いことやねん。
技術的な存在論的リスクの話にまで行かへんと思うわ。これらの巨大な力の非対称性によって導入される脆弱性が、ある時点で圧倒的になってまうからや。
例えばクラウドみたいなもんやな。
だから、介入は必要なんやけど、変なことに、一番面白い介入は、派手な見出しを作りやすいもんやないんや。
むしろ、「もっと多くのプレイヤーがおる市場が必要や」とか「教えることに情熱を持っとる先生、生徒に情熱を持っとる先生、次の世代を導く人材を育てることに情熱を持っとる先生が、AIにも興味があって、生徒の人生をもっとよくして、自分の人生もちょっとよくするアイデアを持っとったら…」みたいな感じやねん。
そのアイデアがケベック州でしか使えへんかもしれへん。フランス系カナダの子供たちのためのもんかもしれへんし、誰が知るねん。
でも、そういうアイデアを実現できるようにしたいんや。その先生がそのアイデアで成功できるようにしたいんや。
グーグルがケベック州をビジネスの場所として面白いと突然決めるのを待っとる場合やないんや。彼らはそんなこと決めへんやろうしな。
エチオピアのティグライ地方とかウガンダとか、子供たちにもっとええ未来を提供してほしい国々に行ってみい。これらの企業はそういうところをほとんど相手にせえへんのや。
だから、健康や教育なんかの敏感な分野で、我々がほんまに改善したい分野により近い存在が、これらの技術を使って働くエコシステムが必要なんや。
規制が入ってきとるから、そういう方向に向かっとるんやけど、これらの課題がどこから来とるかについての広い認識はまだないように思うわ。
もちろん、市民の皆さんにもこの旅に参加してもらって、何が役立つかを理解してもらう必要があるんや。
本当の問題は、どれくらいの速さでそういう違う種類の社会を実現できるかってことやと思うわ。
めっちゃ面白い話やな。最近、ブータンにAIイノベーションセンターを持ち込もうとしてる起業家のTech Firstをやったんや。
そこでは全然何もされてへんかったからな。まだ王族がおって、彼らが支配しとるんやけど、彼らは自分たちの国民が自分たちの言語でAI技術の恩恵を受けられるようにしたいって思っとるんや。
めっちゃ面白いよな。あんたが言うとったリスク要因について考えると、巨大企業を分割することで、今のところAIをかなりの程度コントロールしとる企業、例えばMetaとかGoogle、少しだけApple、OpenAI（これは巨大企業集団やないけど信じられんくらいの技術を持っとる）、Amazonなんかを分割することで、我々はより安全になるんやろか。
もっと多くの競合するモデルや多様性が生まれるからな。
分割するかどうかはわからへんけど、その能力に公平にアクセスできるようにすることが重要やと思うわ。
正直、正しい規制介入が何なのかはわからへんし、イノベーティブであることを罰したくはないんや。
でも、そういう単一障害点は欲しくないよな。それらの企業にとってもええことやないし。
ある意味で、彼らが陰謀を企んどるわけやないんや。ただ、彼らのインセンティブ構造がこの方向に押し進めとるだけなんや。
でも、今我々が置かれとる本当に問題のある状況は、それらの企業の株価を見ると、将来の収益に基づいとるってことや。
その将来の収益は、彼らがAIを所有することを意味しとるんやで。
彼らは「全ての決定はAIによって下されるようになる世界が来る」って言うとる。そして、彼らがそれを所有することになるって。彼らの株価と投資家がそう言うとるんや。
そういう企業の中にはめっちゃええ人がいっぱいおるんやけど、その中の個人がAGIを信じとるかどうかに関係なく、AGIが彼らの会社の物語の重要な部分になってまっとるんや。彼らの会社の文化や野心の一部になってまっとるんや。
彼らの目標はその市場を占有することなんや。
彼らのCEOの何人かは実際にそう言うとるよな。
マーク・ベニオフが去年のDreamforceで文字通りそう言うたんや。
ほんま、めっちゃひどいよな。
彼が恐ろしい人間やって言うとるんやないで。個人的にそう言うたわけやないからな。
我々一人一人が全体像を見られるわけやないってことはわかっとるし、彼の役割や会社で何をしようとしとるかもわかるんや。
でも、ここがポイントなんや。カール・ポパーの「開かれた社会とその敵」っちゅう素晴らしい本があって、我々がどうやって変化をもたらすか、民主主義がどうやって変化をシミュレートするかを強調しとるんや。
それは、ピースミール・ソーシャル・エンジニアリングを通じてなんや。目の前のシステムの複雑さや難しさを理解しとる人たちが、良い意図を持って、より良いシステムを作ろうと頑張るんや。
AIの問題は、情報を置き換えとるってことなんや。AIだけやなくて、デジタル技術全般がそうなんやけど。
我々がやっとるのは、以前の情報の地形、つまり印刷機や紙の本、ファイリングシステムを置き換えとるんや。
その技術を扱える人たち、最初は古代メソポタミアの書記から始まって、読み書きができる人たちが、その力とともに責任も得たんや。
彼らは弁護士や会計士、行政官になったからな。単に力を持つだけやなく、社会から責任も与えられたんや。
プロフェッショナルな機関や、その力をチェックする方法もできた。それがうまくいっとるかどうかは別の問題やけどな。
今見えとるのは、書き言葉からデジタルへの移行や。現代の書記はソフトウェアエンジニアで、彼らのギルドは大手テクノロジー企業なんや。
このギルドやエンジニアたちは、まだ我々が他のギルド専門職に関連付けとる社会的責任を得てへんのや。
そやから、彼らはその力を利用して大金を稼ぐことに必死になっとるんや。
我々はそれにどう対処すればええのか、急いで考えなあかん状況にあるんや。
でも、ここでLLMsが本当に役立つ可能性があるんや。
ワイの挑発的な意見やけど、聞いとるソフトウェアエンジニアの皆さんを怒らせてまうかもしれへんけど、もう一歩進めてみよか。
「この技術で人々の仕事を置き換えたいんやろ？じゃあ、まずソフトウェアエンジニアから始めたらどうや？まずはCを排除することから始めたらどうや？」
まぁ、ソフトウェアエンジニアの仕事はコーディングだけやないし、必要な知識もたくさんあるから、そう簡単にはいかへんけどな。
でも、それって会計士や医者、弁護士、教師にも言えることやないか？
先日の講演で、誰かが「初期の教育はLLMsで全部できるんちゃうか」って言うてきたんや。
ワイはイアン・ライトの話をしたんや。元アーセナルの選手やけど、彼が若かったとき、シングルマザーの家庭で、父親的な存在もおらへんかってん。家族全員が一つの部屋で暮らしとって、ちょっとやんちゃな子やったんやな。
彼が言うには、学業はあんまり得意やなかったらしい。間違った道に進みそうやったんやけど、
一人の体育の先生が彼を人間として信じてくれたんや。YouTubeの動画で彼がこの話をしとるんやけど、その先生は第二次世界大戦で戦闘機のパイロットやったらしいんや。
この小さな男の子にとって、それがどれだけ意味があったか、その様子が見えるんや。イアンが話すとき、その小さな男の子の気持ちが伝わってくるんや。
それが彼の人生を変えたんやな。これがめっちゃ感動的な動画なんやけど、
最後にその先生が彼の後ろに現れるんや。何年も会ってへんかったのにな。
これが教師の役割なんや。算数がわかるかどうかやないねん。もしかしたらこの先生は算数があんまりできへんかったかもしれへん。
でも、教師の役割はそんなんやないんや。小さな男の子を信じて、その男の子の人生を変えること。その男の子が社会で活躍して、他の子供たちにも刺激を与えられるようにすることなんや。
これはAIには置き換えられへんものなんや。我々が支援せなあかんのは、こういう人たちなんや。
でも、意思決定を中央集権化してまうと、彼らの力を弱めてまうんや。
もう一度言うけど、これらの人々が悪いって言うつもりはないんや。ただ、システムが間違っとるんや。我々はただ自分たちのやり方でやっとるだけで、自分たちのボックスの中にいて、その条件を最適化しとるだけなんや。
社会の重要な部分でもあるし、多くのええことをもたらしてくれとるんやけど、今回はちょっと暴走してまっとるから、もう少しええ仕事ができるように軌道修正せなあかんのやな。
全てにはリズムと繰り返しがあるんや。我々もそれを見つけられると信じとるわ。
そろそろ終わりにせなあかんな。あんたも用事があるやろうし、予定よりも長くなってもうた。時間を取ってくれてありがとうな。ほんまに感謝してるで。
素晴らしい話やったわ。
ジョン、あんたとも話せてよかったわ。ワイもあんたみたいに楽観的やねん。人間を信じとるからや。あの先生を信じとるし、ああいう人たちが協力して未来を作り上げていけると信じとるんや。
それが実現するのが楽しみやわ。
素晴らしいな。今日は良い一日を。本当にありがとう。
あんたもな、ジョン。
コメント