31,691 文字
※わい思うんやけど＝i think(サム・アルトマンの口癖)
サム・アルトマンがOpenAIのCEOを解任されたんや。一方にはスーパースターCEOがおって、もう一方には不満を抱いた取締役会がおる。彼が予期せず解雇されてから5日後に、770人中747人の従業員が取締役会に対して厳しい公開書簡を送ったんやで。サム・アルトマンが復帰したんや。これ、ほんまに解雇言うてええんかいな。これはもう残酷やったわ。今はこのことについて話したらあかんのやろうけどな。
これが「What Now?」のトレバー・ノアやで。おう、元気にしとったか？ お会いできて光栄です。お元気ですか？ ええ、元気です。あんたはどないや？ こちらこそ光栄やで。わいもや。時間取ってくれてありがとう。ほんまにありがとうな。
これ、めっちゃ大変な時期やと思うんやけど。わいが今まで経験した中で一番クレイジーな時期やと思うわ。せやな。あんた、まさにその中心におるんやろ？ わい、この分野とこの世界のことを熱心に見守ってるだけの人間やけどな。あんたは、これ全部の影響を受けとる人やと思うんや。つい最近、サム・アルトマンがタイム誌の今年の人物の最終候補に選ばれたって聞いたんやけど。
それ、そんなに喜んどらんのか？ もちろん選ばれへんかったけどな。なんでやろ？ 今年は、わいの人生で望んでた以上の注目を浴びてもうたんや。それは大きな出来事やったな。テイラー・スウィフトのために喜んどるわ。
ほな、あんた、注目されるんが好きちゃうんか？ 注目されたないんか？ いや、もう大変やったわ。ある意味では楽しいし、ある意味では役立つこともあるんやけどな。でも、個人的な生活とか生活の質からしたら、トレードオフやな。せやな。でも、これがわいがサインアップしたことやからな。今はこれや。
有名になってもうたんやな。道で人に認識されるようになったんか？ それが本当に悪いトレードオフやな。せやな。もう二度と匿名でおられへんようになったな。あんたもそうやろ？ でも、人々はわいに未来のこととか聞いてこーへんやろ。世界を破壊するんかとか聞かれへんやろ。せやな、せやな。ちょっと違うな。人々はわいとセルフィー撮りたがるかもしれんけどな。
おめでとう。あんたはタイム誌の今年のCEOやで。それは多分、最も奇妙な瞬間の一つやったんやろな。タイム誌がこの決定をしたんは数週間前やったんやろ？ あんたがCEOじゃなかった可能性もあったんやな。賞をまだ授与できたかどうか分からへんわ。多分、それ以前の仕事に対してやったんやろな。どないなってるか分からへんわ。CEOに復帰して、どんな気分なんや？
正直言うて、まだ現実を再構築しとる最中やわ。ある意味ではすごくええ気分や。なぜかというと、この全体を通じて学んだことの一つが、わいがこの会社とミッションと人々をどれだけ愛しとるかってことやからな。この全体を通じて、短期間で人間の感情の全範囲を経験したような感じがしたんや。でも、わいにとってすごく明確になった瞬間があってな。
全部金曜の昼に起こって、次の日の土曜の朝に取締役会のメンバー何人かから電話があって、「復帰について話したいことあるか？」って言われたんや。それについては複雑な感情があったんやけど、最終的にはすごく明確になったんや。せやな、わいはこの場所と、わいらがやっとることが大好きやし、これは世界にとって重要やと思うんや。わいが世界で一番大切にしとることやと思うわ。
テックの世界では、雇用と解雇は誰もが慣れなあかんことみたいやな。昔、あんたはYコンビネーターにおったんやろ？ そこでも解雇されたんやろ？ みんなそういう経験があるんや。ちゃうちゃうちゃう。言わんといてな、言わんといてな。これは調べたことやから、そこから話を進めていくんや。
あー、わいは1年前くらいにOpenAIに専念したいって決めとったんや。ここに来るのは複雑な移行やったけど、OpenAIとYCの両方でやっとって、OpenAIに行きたいって強く決めとったんや。それを後悔したことは一度もないわ。
ほな、一度も解雇されたことないんか。これはCEOとしては厳しい立場やな。解雇と呼べるんかどうかも分からへんけど。知っとるか、わいが言おうとしとったんは、これはもう残酷やった。今はこのことについて話したらあかんのやろうな。
これは本当に辛いことやったんや。個人的に、人間としてすごく不公平な扱いを受けたように感じたんや。せやな。多くの人が仕事をクビになった話をするのを聞くわ。コロナの時に特にトレンドになったんやな。メールや大量のビデオで何千人もの従業員が解雇されたんや。普通、会社のCEOにそんなことが起こるとは思えへんよな。そして、多くの人が「この世代のスティーブ・ジョブズ」とか「未来」とか呼んどる人にそんなことが起こるとは思えへんわな。
あんた自身でそんなこと言わへんやろ？ もちろんせえへんよ。多くの人があんたのことをそう呼んどると思うんや。わいはこう考えとってん。この世代のスティーブ・ジョブズって呼ぶのは、わいの意見では不公平やと思うんや。あんたはこの世代のプロメテウスやと思うわ。
いや、本当やで。本当にそうや。あんたは神々から火を盗んだんや。そして、この運動の最前線におるんや。かつては空想科学小説や伝説の中でしか語られへんかったことが、今や現実になっとるんや。あんたは今、文明を変えるかもしれんもんの顔なんや。せやな、文明を変えるかもしれんな。
あんたはそれが全てを変えると思うか？ わいが言おうとしとることが間違っとるかもしれんけど、わいの感覚では、ほとんど誰もがAGIやと認めるようなもんを作ることができると思うんや。定義は難しいけど、人々が見て「ほな、あんたらはそれをやったんやな」って言うようなもんを作れると思うんや。人間レベルかそれ以上のシステムやな。
詳細に入る前に、人々がAIやと思っとることと人工知能の違いは何やと思う？ もう十分近づいとるから、人々がどう定義するかが重要になってきとるし、違いもあるんや。ある人にとっては、現在の人間の仕事のかなりの部分をこなせるシステムを意味するんや。もちろん、新しい仕事や新しいことをするようになるやろうけどな。他の人にとっては、新しい科学的知識の発見を助けるシステムを意味するんや。これらは明らかにすごく異なるマイルストーンで、世界に与える影響も全然違うんや。
でも、わいがもうその用語を好きじゃない理由は、たとえそれにこだわっとっても、自分で止められへんからや。どの用語が好きじゃないんや？ AGIや。今やほとんどの人にとって、本当に賢いAIを意味するだけになってもうたんや。でも、近づいてきとるからこそ、すごくあいまいになってきとるんや。
でも、わいが言おうとしとったのは、わいらはAGIを作るんや。それをどう呼びたいかは別として。そして少なくとも短期から中期的には、人々が思うほど世界を変えへんと思うんや。短期的には人々が思うほど変わらへん。わい思うんやけど、社会にはたくさんの慣性があるんや。
経済にも慣性があるし、人々の生活の仕方にも慣性があるんや。これはたぶん健全なことやと思う。この移行を管理するのにええことやと思うんや。でも、わいら皆、ある方法でものごとをやっとって、それに慣れとるんや。社会も超有機体として、ある方法でものごとをやっとって、それに慣れとるんや。
GPT-4で起こったことを見るのは示唆に富んどったと思う。最初に発表したとき、人々はすごく驚いたんや。「こんなことが起こるとは思わんかった。ここにあるんや」って。そして、人々は自分の生活を続けたんや。確かに物事は変わったし、人々はそれを使うようになった。世界にあるよりはない方がええ技術やな。もちろん、GPT-4はそんなにええもんちゃうし、5、6、7と、どんどん良くなっていくやろう。でも、4はChatGPTインターフェースの瞬間やった思うんや。多くの人が真剣に受け止めるようになった瞬間やったんや。
それでも生活は続くんや。それが人類や社会にとってええことやと思う？ それとも、生活はただ続くべきなんか？ それとも、この製品の親の一人として、わいら全員が立ち止まって、今がどういう状況かを考えるべきやと思う？
わい思うんやけど、個人としての人間や人類全体の回復力はすごいもんやと思う。新しい技術や変化に適応して、それを世界の一部にしてしまう能力があるのは本当に素晴らしいことやと思う。コロナは最近の例やと思うんや。世界がどのように適応したかを見たんや。そして、すぐにほぼ普通になったんや。
別の例として、それほど深刻じゃないけど示唆的なのは、数年前にあったUFOの話や。多くのわいの友達が「たぶんそれは本物のUFOや宇宙人じゃないやろ」って言うとったんや。でも、次の日には普通に仕事に行って子供と遊んどったんや。だって、どないすればええんや？ UFOが飛んでるんなら、飛んでるんやろ。どないもできへんやろ？
もっと時間をかけて考えるべきやったと思う？ わいらは世界としてそれをやっとって、それはええことやと思う。わいは、この技術の段階的な展開がすごく重要やと強く信じとるんや。秘密の研究所でAGIを作って、突然世界に投入するようなことはしたくないんや。わいらは何が来るか知っとるし、人々が「ほな、ここにあるんや」って言わなあかんようなことはしたくないんや。
人々が徐々に慣れていって、一緒に成長していく必要があるんや。そして今、社会や指導者、機関が会話をしとる。人々が実際に技術を使って、それが何をするのか、何ができないのか、リスクはどこにあるのか、利点はどこにあるのかを感じとる。これはすごくええことやと思う。
たぶん、わいらのミッションにとって今まででベストやったのは、段階的な展開戦略を採用したことやと思う。秘密裏に作って、何年も改良を重ねてから突然展開するということもできたやろう。でもそうせんかったんや。
今日、わいらOpenAIのビルに入ったんやけど、ちょっとした要塞みたいやな。未来の家って感じがするわ。あんたの投稿を見たんやけど。今日はゲストとして来たんか？
もう違うんや。今はもう戻ってきとるわ。ああ、あの真ん中の1日だけやったな。
わかった。あんたがゲストバッジつけて来たって投稿を見たんや。めっちゃ変な感じやったんやろうなって思うてん。家に帰ってきたみたいな感じやったんやけど、それでも…
せやな、家やねんけどな。なんか変な感じがするはずやったんやけどな。ゲストバッジをつけるのが。でも、みんなめっちゃ疲れとって、アドレナリンでいっぱいやったから、わいが期待しとったほど記念すべき瞬間には感じられへんかったんや。
その日、面白い話をしたり振り返ったりできるような瞬間はあったんやけどな。その日のわいの一番誇らしい瞬間の一つは、めっちゃ疲れとって気が散っとったんやけど、取締役会がその日わいをCEOに戻すと思っとったんやけど、もしそうならんかった場合に備えて、L3っていうわいらの一番下のソフトウェアエンジニアの職位の面接を受けたんや。わいらの一番優秀な人の一人にな。そいつがわいにOKを出してくれたんや。それはめっちゃ誇らしい瞬間やったわ。
なるほど、なるほど。まだスキルは健在やってことやな。でも、バッジのことはわいが思ったほど印象的じゃなかったんやな。
CEOとして、OpenAIで働く人々から公に見られるレベルのサポートを得るために、何をうまくやったと思う？ この話が出たとき…内部調査のことについては聞かへんから。それについてはコメントできへんのは分かっとるから。
せやな、そういうことやな。
でも、わい言いたいのは、会社全体の感情や起こっとることについては話せると思うんや。OpenAIで起こったような状況を見るのはめったにないわ。この会社とこのアイデアが、地球上のほとんどの人にとって存在しなかったのが、次の瞬間にはChatGPTっていう単純なプロンプト、ちょっとしたチャットボックスを発表して世界を変えたんや。たしか5日で100万ユーザーを達成したんやろ？テック製品の中で最速やったんちゃうか。
せやな、5日やな。
そして急速に1億人に達して、わいの個人的な経験でいうと、世界中の誰もこれが何なのか知らんかったところから、わいがみんなに説明しようとして、理解してもらうために詩や単純なものを見せなあかんかったんや。そして今では人々がわいにそれについて教えてくれるようになって、今やこれが何であり何を意味するのかを理解しようとしとる普遍的なアイデアになってもうたんや。
でも一方で、あんたはこの会社を通じて、ある意味で未来を形作り、形成しようとしとるんや。そして人々はあんたの後ろについとる。わいらはこの話を見たんや。サム・アルトマンがもうCEOじゃなくなったって。そして全てが渦巻いとった。わいもあんたと同じで、噂を見たんやけど、めっちゃクレイジーやったわ。わいが見た中で一番クレイジーやったのは、誰かが「信頼できる筋から聞いたんやけど、サムはAIとセックスしようとしたから解雇されたんや」って言うとったんや。それは…
それは…わいもどう反応したらええか分からへんわ。わいもそれ見たわ。その瞬間、公式に否定せなあかんと思うたわ。そんなことは起こってへんし。そもそも2つのことの組み合わせで、そんなことはできへんと思うけどな。
でも、わいが気になったのは、この出来事の扇情的な部分がOpenAIを違う観点から、違う瞬間に注目させたように思えたんや。そして大きな点の一つは、あんたのチームからのサポートやったんや。人々が出てきて「わいらはサムと一緒や。何が起ころうと」って言うてたんや。普通、会社のCEOと従業員はある意味で切り離されとるもんやけどな。
でも、これはただのチーム以上のものに感じるんや。わいが言おうとしとることは全然偽りの謙遜じゃないんや。わい自身が喜んで多くのクレジットを取るところはたくさんあるんやけど、これはわいについてのことじゃないと思うんや。わいがある種の象徴的な代表者やってことを除いてな。
でも、わいらがここでうまくやってきたことの一つは、人々が本当に重要性を信じとるミッションやと思うんや。そこで起こったことは、人々が、わいら全員が一生懸命働いて大きな進歩を遂げたけど、まだまだやることがたくさんあるミッションと組織とチームが本当の脅威にさらされとるって気づいたんやと思うんや。
本当にわい個人のことじゃなかったんや。もちろん、人々がわいのことを好きで、わいがええ仕事をしとると思っとるのは嬉しいけどな。でも、これはわいら全員が感じとる共通の忠誠心と、ミッションを完遂する義務感、そしてそれをやり遂げる能力を最大化したいという思いについてのことやったんや。
一番上のレベルで、ミッションは何やと思う？人工知能を手に入れること…AGIの利益をできるだけ広く分配して、その過程で全ての安全性の課題に成功裏に立ち向かうことやと思う。
それは面白い2行目やな。後でその安全性のことについて話したいわ。
OpenAIっていう組織を見たとき、OpenAIの始まりはすごく奇妙やったよな。間違っとったら訂正してな。でも、安全性を念頭に置いて始まったように思えるんや。人々のチームを集めて、「できる限り倫理的で社会に利益をもたらすAIを作る組織や会社、集団を作りたい」って言うたんやろ。それは会社の利益の定義の仕方にも表れとるよな。投資家がどうやって利益を受け取るかとかな。
でも、それもOpenAIの中で変わってきたんちゃうか。資本主義の力に耐えられると思う？ここにはめっちゃお金があるからな。お金が、あんたらがやろうとしとることやなぜやろうとしとるかを決めへん世界を本当に維持できると思う？
それは何らかの要因にならざるを得へんな。例えば、これらのシステムのトレーニングコストだけを考えても、わいらは資本主義の分野で何らかの方法でプレイせなあかんのや。他にええ言葉がないんやけどな。
でも、それが主な動機になることは決してないと思う。ちなみに、わいは資本主義が好きやねん。大きな欠点があるけど、世界が試してきた他のどのシステムと比べても、まだ一番ええもんやと思う。でも、それはもっとええものを目指すべきじゃないってことやないんや。
わいらは、この技術の最前線を進めるのに必要な、記録的な巨額の資本を使う方法を見つけると思う。それはわいらが早い段階で学んだことの一つやな。この技術は、わいらが思っとった以上にめっちゃ高額なんや。わいらはある程度知っとったんや。システムをスケールアップするっていうアイデアは持っとったんやけど、どこまで行くか分からんかったんや。
あんたはスケーリングの大ファンやったよな。それはあんたについて読んだことがあるわ。あんたの師匠の一人で、今はインフュージョンで一緒に投資しとる人が言うとったんやけど、「サムに問題を持ってくると、まず考えるのは『これをどうやって解決するか』で、次にすぐ言うのは『これをどうやってスケールアップするか』や」って。わい、名前を思い出せへんねんけど。
面白いな。でも、誰かがわいについてそんなこと言うたの聞いたことないわ。
せやな、せやな。でも、わい思うんやけど、これはあんたの人生の観察の一つやと思うんや。会社のいろんな側面や分野を通じて、スケールがしばしば驚くべき結果をもたらすってことやな。
例えば、これらのAIモデルをスケールアップすると、とても驚くべき結果が出たんや。核融合発電機をスケールアップすると、明らかな点でもそうでない点でもめっちゃ良くなる。会社をスケールアップするとこれらの利点があるんや。Yコンビネーターのような会社のグループをスケールアップすると、予想外の利点があるんや。
これについて十分に真剣に考えられてへんことがあると思うんや。わいらの場合、初期の頃はスケールが重要になるって知っとったんやけど、もっと賢いか勇気のある思考家やったら、最初からもっと大きく動いとったやろうな。でも、100億ドルかそれ以上のコンピューターを作りたいって言うのはめっちゃ難しいんや。だからわいらはそうせんかったんや。わいらが学ぶのがもっと遅かったんやけど、それでも学んだんや。
でも今、わいらはどれだけのスケールが必要かが分かってきた。そしてまた、資本主義はクールやと思う。わいは資本主義に反対してへんのや。いや、それは嘘や。システムとしての資本主義には反対することがたくさんあるけど、まだ発見されたものの中では一番ええと思うことには反対せえへんのや。
ChatGPTに聞いたことあるか？システムをデザインできるかって。いや、新しいシステムをデザインするわけやないけど、AIと資本主義がどう交差するかについてはたくさん質問したことがあるわ。AIについて、わいらの最初の重要な仮定の中で正しかったのは、それが起こるってことやった。
ちなみに、多くの人がそれを笑ったんやで。ああ、めっちゃバカにされたわ。
でもな、そこに到達する方法についてのわいらの考えの一部も正しかったんや。でも、多くの細かいところでは間違っとったんや。もちろん、科学ではそういうことが起こるし、それでええんや。
わいらは、言語モデルが機能し始める前は、これを作る方法についてめっちゃ違うアプローチを持っとったんや。AGIを作るのがどんなもんかについても、めっちゃ違う考えを持っとったと思う。このアイデア、つまり人間のように話しかけるだけでどんどん良くなっていくような反復的なツールになるってことが分からんかったんや。
だからAGIを作ったときに何が起こるかについて、わいらの考えはめっちゃ混乱しとったんや。AGIの前の瞬間とAGIの瞬間があって、そのあと他のシステムにそれを渡さなあかんみたいに考えとったんや。でも今はそうやないと思う。そしてわいはこれについてめっちゃ嬉しいんや。なぜかというと、ナビゲートするのがずっと簡単やと思うからや。
わい言いたいのは、これは「ただのツール」とは言えへんのや。なぜならいろんな面で違うからや。でも別の意味では、わいらは人類のための新しいツールを作ったんや。ツール箱に何か新しいものを加えたんや。
人々はそれを使って、いろんな信じられへんようなことをするやろう。でも人々は未来の設計者のままや。空の上にある一つのAGIやないんや。以前はできんかったことができるようになる。わいもできんかったことができるようになる。これからもっとたくさんのことができるようになるやろう。
その意味で、わいらのミッションを果たす方法の一部として、人間の能力に大きな影響を与える本当にええツールを作るだけっていう世界を想像できるんや。そしてそれについてわいはめっちゃ興奮しとるんや。
わいは、無料で広告なしのChatGPTを提供するのが個人的にめっちゃええと思うんや。なぜかというと、わい個人的に広告がインターネットにとって問題やと思うからや。でもわいらはこのツールを出して、人々が無料で使えるようにしとる。わいらは人々を製品にしようとしてへんし、もっと使わせようとしてもへん。
そして、わい思うんやけど、これはわいらがもっとできるっていう面白い道を示しとるんちゃうかな。
ほな、こないしようか。わいらの時間の中で、この会話の中で、話したいことがたくさんあるんやけど、全ての質問に答えられへんのは分かっとるわ。でも、いくつかのアイデアやいくつかの分野について話したいんや。
そして、たぶん一番タイムリーなのは、これからの会社の未来はどうなるんやろか？どこに向かっとると思う？わいが特に面白いと思うたのは、新しい取締役会がどうなったかってことやな。
OpenAIの新しい取締役会がどう構成されたかってな。前は女性が取締役会にいたけど、今はおらへんやろ。前は金銭的な利害関係のない人が取締役会にいたけど、今はそうやないやろ。そして、あんたが実装に関わったガードレールがなくなったんやないかって心配しとるんやけど、どう思う？
今、あんたは利益を守ったり、より安全な未来を定義したりするんやなく、お金を稼いでこの技術をできるだけ良くしたり大きくしたりすることに集中してる取締役会を持っとるわけやけど、どうするつもりなんや？
ほな、わい思うんやけど、わいらの以前のガバナンス構造と取締役会は、重要な意味で機能せんかったんや。だから、それを改善する方法を見つけるのはええことやと思う。そしてわいはその仕事をする取締役会をサポートするつもりや。
明らかに、現在の取締役会は成長して多様化する必要があって、それはすぐに起こると思う。そして、伝統的に代弁されてこなかった人々のために代弁する声や、AI安全性だけでなく、社会と相互作用するこれらの非常に複雑なシステムをできるだけ良くするために過去から学べる教訓についてめっちゃ慎重に考える声が必要やと思う。
これは悪いものを軽減するだけでなく、良いものを共有することも含むんや。それが代表される必要があるんや。だからわい、これらの全てのことを正しく行う二度目のチャンスを得られて興奮しとるんや。明らかに前回は間違えたけど、でもな、取締役会の多様化、ここで代表される必要がある全ての主要なステークホルダーのクラスを確実に代表すること、これをもっと民主的なものにする方法を見つること、この技術を管理する決定をするために政府にプッシュし続けること（わいは不完全やと知っとるけど、今のところ考えられる他のどの方法よりもええと思う）、わいらのユーザーベースともっと関わって、これがどう機能するかの制限を設定するのを助けてもらうこと、これら全てがめっちゃ重要やと思う。
それが前進する上での一つの大きなことになるやろう。取締役会と取締役会の拡大、そしてガバナンスやな。そして、もう一つの大きな問題のクラスがあるんや。
1週間前に聞かれたら、会社の安定化がわいの最優先事項やって言うたやろうな。でも、少なくとも内部的には、わいはかなりええ感じやと思う。わいらは一人のお客さんも失わんかったし、一人の従業員も失わんかった。わいらは成長し続けとるし、それはめっちゃ驚くべきことやと思う。
わいらは新製品の出荷を続けとるし、主要なパートナーシップも強化されとって、これによって妨げられてへんのや。そして来年前半の研究と製品計画は、今までで一番ええし、もっと焦点が絞られとると思う。
でもな、明らかに外部の安定化がまだたくさん必要や。そして、それ以上に、わいらは成功に対して十分に野心的に計画してこなかった可能性に直面しとるんや。わいらはChatGPTプラスに登録したいって人がいても、今は登録できへんのや。
あまりにも多くの人が使いたがっとるんや。そして、わいらが作る将来のシステムがどれだけええものになると思うか、そして人々がそれをどれだけ使いたがるかを考えると、わいらは1年中計画の後ろにおったんや。そしてついに追いつきたいと思っとるんや。
わいは常にあんたのことを一人の人間として考えとったわ。全ての取締役会の騒動が起こっとる間、嵐の目の中で何が起こっとるかにいつも興味があるんや。あんたがこの全てが起こったとき、どこにおったんか、何をしとったんか、あんたの世界で何が起こっとったんか、個人的なレベルで気になってたんや。
わいについて人々が言うことの一つは、わいはハリケーンの目の中に座って、それが周りで回っとる間でもめっちゃ冷静でおられるってことやねん。でも今回は、違うたんや。
今回は、嵐の目の中におって、それが収まらんかったっていう経験やったんや。わいはラスベガスのF1におったんや。
ああ、そうなんや。F1のファンなん？
せやで、めっちゃファンや。
チームはあるん？好きなチームとか。
正直言うて、わい…フェルスタッペンがめっちゃ上手いから、それを言うのは難しいんやけどな。
でもな、それはみんなが言うことやと思うわ。わいはまだ…いや、いや、実際はそれは人がスポーツに参加した時期によって違うと思うんや。わいはシューマッハのファンやったんや。なぜかっていうと、それがわいが見とった時代やったからな。まあ、ナイジェル・マンセルとか、エアトン・セナとかな。わかるやろ？
でもな、今フェルスタッペンは…めっちゃ正確やな。わかるわ。なんでかっていうと、それを見とるとほとんど退屈になるくらいやけどな。でも、めっちゃすごいんや。
だからわい、それにめっちゃ興奮しとったんや。最初の晩、木曜の遅くに着いて、最初の晩、誰かが…まあ、マンホールの溶接が不十分やったんや。そして誰かがそれを運転して通ったら、フェラーリのエンジンの一つを吹き飛ばしてもうた。
おお、すごいな。
練習が中止になってもうた。わい、レースを一度も見られへんかったんや。週末中ずっとホテルの部屋におったんや。この電話を受けたんやけど、それが何やったか全然分からんかったんや。そして取締役会に解雇されたんや。
それはもう夢みたいやったわ。わい、混乱しとったし、カオスやったわ。現実感がなかったんや。明らかに…まあ、動揺したし痛かったけど、その時点では混乱が支配的な感情やったわ。もう霧の中におるみたいやったんや。わいの意見では前例のない、めっちゃクレイジーな方法で起こったんや。
そして次の30分くらいの間に、わいの電話にめっちゃたくさんのメッセージが来て、電話が壊れてもうたんや。
まあ、これは誰からやったんや？
従業員…みんなからや。わいの電話はもう使えへんくらいやったんや。通知が止まらんかったからな。そして、しばらく動かんようになってもうた。そのメッセージが遅れて届いて、全部既読になってもうたんや。だからもう、誰と話したかとか…
わかるわ。そして、ここのチームと話して、何が起こっとるか理解しようとしとったんや。マイクロソフトがみんなに電話しとったし、もうまるで…
本当に落ち着かんかったし、現実感がなかったんや。そして…そして、ちょっと落ち着いて、こう思うたんや。「ほな、わいは続けられるし、まだAGIに取り組みたいんや。できへんかったら、何らかの方法で続けるつもりや」って。そして、どうするのが一番ええか考えとったんや。
グレッグが辞めて、他の人も何人か辞めて、人々からたくさんのメッセージをもらい始めたんや。「あんたと一緒に仕事したい」とか「どうなるんや」とかな。その時点では、OpenAIに戻ることは全然考えてへんかったわ。
想像できるわ。ただ、これからどうなるんかって考えとっただけやな。でも、これがどれくらい大きな業界の出来事やったかは全然分からんかったんや。なぜかっていうと、わいはニュースをほとんど読んでへんかったからや。わかったのは、めっちゃたくさんのメッセージをもらっとるってことだけやったんや。
せやな。あんたは実際に嵐の中におったからな。
せやで。わいはただOpenAIをサポートしようとしとって、自分が何をしたいのか理解しようとしとって、何が起こっとるのか理解しようとしとったんや。
そしてカリフォルニアに飛んで帰って、何人かの人と会って、その時点ではもう前に進むことにめっちゃ集中しとったんや。でもな、OpenAIにも最善を願っとったんや。
そして最初の晩はほとんど寝られへんかったわ。本当に眠れへんかったんや。また、ただめっちゃたくさんの会話が起こっとったんや。
そしてそこからはめっちゃクレイジーな週末やったんやけど、わいはまだ…まだちょっとショックを受けとるし、まだ少し状況を理解しようとしとるところやわ。時間が経って座って考える時間ができたら、もっとたくさんの感情が出てくると思うわ。
せやな。あんたは何もかもにすぐ戻らなあかんかったって感じるか？あんたの言うとおり、あんたはこのミッションの途中におるんやからな。あんたの目を見たらめっちゃ熱心やってわかるわ。そして世界は今、もう二度と戻れへん崖っぷちを越えてもうたんや。
だから、あんたは何かに向かって進んでる途中やったのに、突然、今おる場所ではそれを達成できへんように思えたんや。でもあんたが言うたように、マイクロソフトが出てきて、サティア・ナデラが「おい、うちに来て一緒に仕事しようや。このチームを再建しよう」って言うたんや。
サム・アルトマンについて、一緒に仕事した人が言うことが一つあるんや。それは、彼はしつこいってことや。彼はあきらめへんのや。人生に立ち止まらせられるって信じてへんのや。
あんたが何かを信じとって、目標があって、それに向かって進んでるように見えるんや。あんたはOpenAIについて公に何も言わへんかった。全然悪口を言わへんかったけど、確実にあんたに影響を与えたように思えるわ。
わいは、これから立ち直れへんようなことやとは思わへんけど、これを経験して影響を受けへんっていうのは本当に…本当に奇妙やと思うわ。
自分の一部を失ったように感じたか？
せやな、この…わいらはOpenAIを2015年の本当に終わりに始めたんや。本当の仕事の初日は2016年やったんや。そして、わいはこれにずっと取り組んできたんや。わいのCEOとしては2019年の初めからずっとフルタイムでやってきたんや。
そして、それは…AGIとわいの家族は、わいが一番大切にしとる2つのことなんや。だからその1つを失うのは…そして、ある意味では「ああ、わいはAGIに取り組むつもりやし、本当にミッションのことだけを気にしとった」って言うべきかもしれへんけど、もちろん、わいはこの組織のこと、この人々のこと、わいらのユーザーのこと、株主のこと、ここで築き上げたもの全てのことも気にしとるんや。だからな、もうめちゃくちゃ痛かったんや。
唯一比較できる人生経験は、もちろんそっちの方がずっと悪かったんやけど、わいの父親が亡くなった時やったな。それもめっちゃ突然のことやったんや。でも、混乱と喪失感、そして…あの時は、本当にそれを全部感じる時間が少しあったんやけど、
でもすぐにやることがめっちゃたくさんあって、めっちゃ予想外やったから…そして父の人生の後始末をしばらくせなあかんかってん。そして、それから1週間くらい経ってから、やっと一息つける瞬間があって、「うわ、これが本当に起こったなんて信じられへん」って思えたんや。
だからな、それの方がずっと辛かったんやけど、ここにもその同じようなものがあるんや。
想像できるわ。会社の未来とそこでのあんたの役割を見たとき、OpenAIを継続的に前進させながら、あんたが信じる方向に向かって突き進むバランスを、どうやって取ろうと思うてんの？でも同時に…あんたにはまだ緊急停止ボタンがあるんか？会社の中に、「もしわいらが社会に悪影響を与えるようなものを作ってると感じたら、介入して止める」っていうシステムがあるんか？
その能力はあるんか？それは組み込まれとるんか？
せやで。わいらはそれを持っとるし、過去にもそれを使うたことがあるんや。わいらは展開しないことを選んだシステムを作ったことがあるんや。
おもしろいな。
そして将来もきっとそうなるやろうな。あるいは、システムを作って「ほな、安全に展開できるようになるまでにもっと長い時間が必要や」って言うたこともあるんや。GPT-4の時もそうやったな。トレーニングが終わってから、全ての調整と安全性テストをするのに8ヶ月もかかったんや。
せやな。チームの何人かと話したの覚えとるわ。
せやで、それは取締役会の決定やないんや。ここで働いとる人々がただ自分の仕事をして、ミッションに専念しとるだけなんや。だからそれは続くやろうな。
そして、このチームについてわいが本当に誇りに思うことの一つは、カオス、危機、不確実性、ストレスの中でうまく機能する能力やねん。わいはそれにA+をあげるわ。みんなめっちゃええ仕事をしたんや。
そして、もっと強力な、非常に強力なシステムに近づくにつれて、わい思うんやけど、わいらが築いてきた文化とチームのこの能力が、たぶん一番重要な要素になるんちゃうかな。危機の中で冷静さを保ち、よく考えた決定を下す能力。わい思うんやけど、ここのチームはそれができることを本当に証明したんや。
それはめっちゃ重要やねん。わいはこんなことを見たんや。誰かが「OpenAIについて分かったことは、サムは何の肩書きもなくて会社を運営できるってことや」って言うとったんや。でもわい思うんやけど、それは全然違うわ。わい思うんやけど、それは全然起こらんかったんや。わい思うんやけど、起こったことは、会社がわい抜きで完全に機能できるってことの方が正しい学びやと思うんや。
それは文化やねん。チームが準備できとるんや。文化が準備できとるんや。わい思うんやけど、それはわいがめっちゃ誇りに思うことやねん。戻ってきてそれを続けられて本当に嬉しいわ。でもな、わいがこれを通じてチームがどう対処したかを見て、わいはより安心して眠れるようになったんや。
これから来る課題を考えたら、これよりもっと大きな課題が出てくるやろうな。でもわい希望し、信じとるのは、これが主観的な意味で一番難しいものやったってことや。なぜかっていうと、わいらはめっちゃ準備ができてへんかったからや。でも今は賭け金とか、ある重要な意味で、わいらはただの普通の会社やないってことに気づいたんや。
ああ、せやな。全然違うわ。全然違うわ。
ほな、それについてちょっと話そうか。ChatGPT、OpenAI、まあ、どう呼ぶことになるかわからへんけど、なぜかっていうと、あんたはDALL-E、Whisper、そして他のめっちゃすごい名前のアイデアとか、ブランド名、アーキテクチャのアイデアを持っとるからな。わいはそれが好きやわ。わい思うんやけど、ChatGPTがそれをやってもうたんちゃうかな。
わい思うんやけど、もうそれになってもうたんや。せやな、それはひどい名前やけど、もう普及しすぎてもうたんちゃうか。
この時点で変えられると思う？わい思うんやけど、この時点で変えるのは無理やと思うわ。
GPTだけとかChatだけに変えられへんかな？わからへんわ、わからへんわ。たぶん、時々製品や名前やアイデアがマーケターの夢を超えて成長することがあるんやと思う。
せやな。人々はもうそれを持っとるんや。
せやな。マーケターはChatGPTなんて名前を絶対に選ばへんやろうけど、わいらはそれにはまってもうたかもしれへんし、それでええかもしれへんな。
せやな。今や…マルチモーダルな側面がわいを魅了するわ。DALL-Eが最初に出てきたときのこと覚えとるわ。それはただのアイデアやったし、それがどう機能するかを見て、ノイズだけから画像を作れるプログラムがあるって人々に説明しようとしたんや。そしたら人々は「でも、そこから画像を取ってへんのか」って言うてきたんや。「でも、ソース画像はなかったんや」って。「でも、それは不可能やろ」って。そして、時々これを説明するのはめっちゃ難しいし、わい自身でさえ理解するのが難しいこともあるんや。
でもな、わいらが今住んでるこの世界を見たとき、わいらはそれを数字で語るんや。GPT-3.5、GPT-4、GPT-3、5、6、7、何になるかわからへんけどな。わいは技術的な用語を使わんようにして、製品の実際の使用例についてもっと話したいんや。
製品間で見たことの一つは、ChatGPT-3、3.5から4への飛躍やった。わいらがはるかに高いレベルの推論と呼ぶものを見たんや。ちょっとした創造性とその最初の兆しも見たんや。
せやな、せやな、まさにそうや。
そして、わいがこの製品とあんたらが今作っとる世界を見たとき、一般的な大規模言語モデルと今や専門化された大規模言語モデルがあるけど、使用例が劇的に変わると思う？今はただの小さなチャットボットで人々が…あんたが…これが製品が残る方法やと思う？それとも、全てが専門化されたGPTになる世界になると思う？
トレバーが自分のGPTを持って、自分のために何かをしようとしたり、この会社がそのGPTを持って、彼らのために何かをしたりするような世界になると思う？あんたはそれをどう見とる？明らかに未来を予測するのは難しいけど、今のところからどこに向かうと思う？
わい思うんやけど、あんたが今言うた2つのことの混合になると思うわ。未来を予測するのは難しいし、たぶんわいは間違うやろうけど、それでも試してみるわ。わい思うんやけど、あんたが言うた2つのことの混合になると思うわ。
一つは、ベースモデルがめっちゃ良くなって、わいには「これはできへん」って確信を持って言うのが難しくなると思うんや。そこに到達するのには長い時間がかかるけど、わい思うんやけど、そこに向かっとると思うんや。
あんたの時間軸でいう「長い時間」ってどれくらいなん？どう測るん？
次の数年ではないな。次の数年で毎年めっちゃ良くなるやろうけど、わいは…言おうと思うたけど確信は持てへんわ。2025年、2026年のモデルでもまだできへんことがたくさんあると思うわ。
でもな、モデルはいつもあんたを驚かせへんか？わいがAIの分野で働いとる技術者や、AIに関わっとる人と話すとき、人々が一番よく言う言葉は「驚き」やねん。人々は常に「わいらは驚いた」って言うてるんや。「わいらはChatGPTにこの分野について教えとると思うとったのに、突然言語を話し始めた」とか、「わいらはこれについて教えとると思うとったのに、突然橋の建て方を知っとった」とかな。
そやな、そういうことやねん。それは、たぶん2019年から2022年くらいまでの間の、ここにおる多くの人の主観的な経験やと思うわ。でも今は、わいら多くの人が驚かへんことを学んだんや。今は指数関数的な成長を信じとるんや。
だからGPT-5か何て呼ぶかはわからへんけど、それはいろんな面ですごくなるやろうな。具体的にできることとできへんことについては驚くこともあるやろうけど、それがすごいってことに誰も驚かへんやろうな。この時点で、わいらはそれを深いレベルで理解したと思うんや。
あんたが触れた2つ目のことは、これらのカスタムGPTで、もっと重要なのは、あんたも触れたパーソナルGPTやな。トレバーGPTみたいなもんや。それは、わい思うんやけど、次の数年間の大きなことになると思うんや。
もしあんたが望むなら、これらのモデルはあんたのことを知って、あんたの個人データにアクセスして、あんたが望む方法で答えて、あんたの文脈の中でめっちゃ効果的に働くようになるんや。そして、わい思うんやけど、多くの人々がそれを望むやろうな。
せやな、多くの人がそれを望むのはわかるわ。それは、ある意味では新しい労働力になるんちゃうかなって思うわ。あんたのGPTがほぼあんたの履歴書になって、ある意味ではあんたのGPTがあんた自身よりも価値があるようになるんちゃうかな。わかるやろ？
せやな、それはあんたが考えることや考えたこと全ての組み合わせと、あんたがアイデアを統合する方法と、あんたの個人的なGPTを組み合わせたものになるんや。わい…これはただのわいのクレイジーな未来の考えやけど、あんたが仕事に行って、「あんたのGPTは何や？」って聞かれて、「ほな、これがわいのGPTや」って答えるような世界になるんちゃうかな。
わいらはいつもこういう個人的なエージェンシーについて考えるんや。「わいはこれをやらせるつもりや」とかな。でも、あんたが言うとるのは面白いな。代わりに、これがあんたと他の人がどう関わるかになるんちゃうか？これはあんたの印象、あんたのアバター、あんたのエコーみたいなもんになるんやな。
わいはそこまで行くと思えるわ。なぜかっていうと、わいらは結局のところ、わいらの…知らんけど、全ての組み合わせみたいなもんやからな。それは奇妙な考えやけど、信じられるわ。
わいはそれがどこに行くか、何ができるようになるかについて常に魅了されとるわ。なんでかっていうと、ChatGPTが最初に爆発的に広まったとき、わいは絶対に忘れへんのやけど、人々が素早く気づいたのは、ロボット革命…わかっとるけど、ロボットちゃうねんけど、人々にとっては、ああ、ロボット革命が…機械が置き換えるんやないかって思うたんは、みんなが思うとったような仕事やなかったってことやな。
人々はトラック運転手とかそういう仕事が置き換えられると思うとったんやけど、実際にはそういう仕事の方が置き換えるのが難しいってことが分かってきたんや。実際に置き換えられそうなんは、いわゆる「キレイな仕事」やねん。ああ、あんたは弁護士やな。ChatGPT 5、6、7、何になるかわからんけど、それができたら弁護士はそんなに必要なくなるかもしれへんな。
あんたはエンジニアやな。あんたは…人間の体はほんまにすごいもんやな。本当にそうやな。
あんたは人間の体に取って代わるような進歩が見られると思う？それとも、まだ頭脳の…わい思うんやけど、いずれはロボットを働かせることができるようになるやろうな。人型ロボットとかな。
いずれは働くようになるやろうな。でもな、わいらはOpenAIの初期の頃にそれに取り組んでたんや。ロボット工学のプログラムがあってん。ああ、それ知らんかったわ。
わいらはこんなんを作ったんや。ロボットの手で、1本の手でルービックキューブを解けるようになったんや。めっちゃ器用さが必要やねん。わい思うんやけど、そこにはいろんな洞察が詰まっとるんや。でもその一つは、原子の世界よりもビットの世界の方が進歩するのがずっと簡単やってことやねん。
ロボットは全て間違った理由で難しかったんや。難しい研究の問題を進めるのに役立つから難しかったんやないんや。ロボットがよく壊れて、そんなに正確やなかったから難しかったんや。シミュレーターも悪かったし、一方で言語モデルは、全部仮想的にできるんや。ずっと速く進歩できるんや。
だから、認知タスクに焦点を当てることで、より生産的な問題をより速く進めることができたんやけど、もっと重要な点でも…わい思うんやけど、認知タスクを解決することの方が重要な問題やねん。
ロボットを作っても、必ずしも認知タスクをするシステムを作る方法を見つけることはできへんのや。でも認知タスクをするシステムを作れば、より良いロボットを作る方法を見つけるのを手伝うことができるんや。
ああ、そうやな、それは理解できるわ。そして、あんたは人工知能が達成されたと考える時期についてのアイデアを持っとるんか？個人的に…わいがミッションを…せやな、何をもって…なぜかっていうと、みんな人工知能について話すけど、わいらはそれが何なのかをどうやって知るんやろって思うねん。
これは前に言うた点に戻るけど、みんなが違う定義を持っとるんやな。個人的に、わいが喜ぶのは、新しい物理学を発見するのを手伝えるシステムができたときやな。それはめっちゃ嬉しいわ。
でもそれは一般的な知能を超えとるように思えるわ。それは…わかるやろ？多くの人が言うよりも超えとるように思えるんや。たぶんこれはわいが時々考えることやねんけど、一般的な知能をどう定義するんやろか？特定の分野での brilliance として定義するんか、それとも子供は確かに人工的に一般的に知能があるけど、常にプログラミングし続けなあかんってことやねん。
知ってるやろ、彼らはただ出てくるだけで、話せへんし、歩き方も知らへんし、知らへんことばっかりやねん。そしてあんたは常にこのAGIをプログラミングし続けとるんや。だからあんたが4歳児バージョンのシステムを手に入れたら、それがただ…知ってるやろ、自律的に、親からちょっとした助けを借りて、4歳の子供がするように世界を理解できるようになったら、どうなると思う？
ああ、せやな、それをAGIと呼べるかもしれへんな。もしわいらが本当にそれに対処できたら。新しい問題に直面して、ただそれを理解するっていう本当に一般化された能力やな。完璧にはできへんかもしれへん。4歳児だって常に完璧に理解するわけやないからな。
でもな、そしたらわいらは明らかにそれを手に入れることになるわ。思考と心を根本的に理解せずにそこに到達できると思う？それとも、わいらが…だからあんたもこのことを知っとると思うんやけど、AIの世界でわいの大好きな話の一つがあってん。
たしかマイクロソフトが取り組んでたプロジェクトやったと思うんやけど、男性の顔と女性の顔を見分けようとしてるAIがあってん。そしてそれはある時点でかなり正確になってん。99.9%の精度やったんやけど、黒人、特に黒人女性の顔で失敗し続けとったんや。彼女らを男性と間違えて分類し続けとったんや。
そして研究者たちは「何なんやろ、何なんやろ、何なんやろ」って考え続けとったんや。ある時点で…わいはこの話をこういう風に話すんやけど、ちょっと間違っとるかもしれへんけど、面白いと思うてん。ある時点で彼らは、AIを「ケニアに送った」んや。AIをアフリカに送ったんや。
そして彼らはケニアの研究チームに「しばらくこれを使って、何が起こるか見てくれへんか」って言うたんや。そしてAIがその側の世界で、彼らのデータセットとアフリカの顔で動いとる間に、特に黒人女性の顔に対してどんどん正確になっていったんや。
でも最終的に、彼らはAIが男性の顔と女性の顔の違いを全然知らんかったってことを発見したんや。AIがやっとったのは、メイクアップとの相関関係を引き出すだけやったんや。だからAIは「赤い唇と頬が赤くて、まぶたが青いような人は女性や」って考えとったんや。そして他の人は男性やって。
そして研究者たちが「そうや、正解や」って言い続けたから、AIはただの「チートコード」みたいなんを見つけたんや。知ってるやろ、これがどう機能するか。わいが理解しとる以上のことやけどな。ただチートコードを見つけて「ああ、あんたらが男性やと思うてるものと女性やと思うてるものが分かったわ」って言うて、それを彼らに与えたんや。
そして彼らは、黒人女性は一般的にメイクアップの面でサービスが行き届いてへんから、メイクアップをせえへんってことに気づいたんや。だからシステムはただ分からんかったんや。でもわいらはそれが分からんってことを知らんかったんや。
だからわい思うんやけど、AGIが何かを知らんとか知っとるってことをどうやって知るんやろ？それともただ欺いてそこに到達しとるだけなんやろか？どうやって知るんやろ？そしてそれがわいらの生活のたくさんの側面と絡み合うてるときに、知らんことのコストはどれくらいなんやろ？
あんたが言うたことの一つは、わいらがこれらのシステムが何をしとるかを理解する能力について進歩するやろうってことやねん。今のところ、解釈可能性はちょっと進歩したんやけど、それはこれらのモデルの一つを見て、いろんな方法でできるんや。
システムの中の全ての人工ニューロンが何をしとるかを理解しようとするレベルもあるし、システムが一歩一歩考えとる間に、「これらのうちどれに同意せえへんか」って見ることもできるんや。そしてもっと発見することもあるやろうな。
でもこれらのシステムが何をしとるかを理解する能力、希望的には彼らがなぜある結論に達したかを正確に説明してくれる能力、そしてそれを確実に堅牢にする能力は、わい思うんやけど、これらのシステムがどうやってできることをできるようになったかを本当に理解する前に進歩するやろうな。そして、わいらの脳がどうやってできることをできるようになったかも同じやねん。
だからわい思うんやけど、いずれはそれを理解するようになるやろうな。わいもめっちゃ興味あるわ。あんたもそうやろ？でもわい思うんやけど、これらのシステムをより良くするためにうまくいくってわかってることをするのと、解釈可能性の課題に取り組むのを助けてもらうのに、もっと進歩があるやろうな。
そして、これらのシステムが賢くなるにつれて、ただ騙されることが少なくなるやろうな。だからもっと洗練されたシステムなら、そのメイクアップの区別をせえへんかもしれへんし、もっと深いレベルで学んどったかもしれへんな。そしてわいらはそういうことが起こっとる証拠を見とると思うわ。
あんたが「そんなに簡単に騙されへん」って言うたことで、2つのことを考えさせられたわ。一つは安全性の側面、もう一つは正確性の側面やな。
わいらが最初に見たことの一つで、プレスがこれをめっちゃ取り上げたの覚えとるやろ。「AIが幻覚を見て、わいを殺すって考えとる」とかって言うてたやろ。そして人々は大規模言語モデルについて「考える」って言葉を使うのが好きやねん。わいはそれがめっちゃ面白いと思うわ。
なぜかっていうと、わいはいつもジャーナリストは、報道する前にそれが何をしとるか理解しようとすべきやと思うんやけど、「考える」って言葉を使うことで、わい思うんやけど、一般の人々に悪影響を与えとると思うんや。
せやな、わいはそれに共感するわ。わいらは馴染みのある用語を使う必要があるし、人間的な特徴を与える必要があるんやけど、あんたの言うとおり、それは悪影響を与えとると思うわ。
なぜかっていうと、あんたが「考えとる」って言うたら、人々は「ほな、わいを殺すことについて考えるんやろうか」って思うかもしれへんけど、そうやないんや。それは本当に考えとるわけやないんや。それは本当に、この魔法のようなトランスフォーマーを使って、単語がお互いにどう関係しとるかを見つけようとしとるだけなんや。
あんたは何をしとると思う？わいは何をしとると思う？
せやな、それは面白い質問やな。それは…そして今…だからこれはわいが言おうとしとったことやねん。わいらが一緒に考えたアイデアは、幻覚について話すことやったんや。最初の部分から始めよう。
AIが幻覚を見んようになると思う？ほな、その質問のより良いバージョンは、「わいらが望まんときに、人間と同じくらいの割合で幻覚を見んAIを手に入れることができるか」やと思うわ。そしてその質問に対しては、わいはイエスと言うやろうな。
でも実際には、人々がこれらのシステムを好きな大きな理由の一つは、新しいことをするからなんや。そしてもしそれが常に…せやな、幻覚はある種の特徴でもあり、バグでもあるんや。
ほな、それはわいが聞こうとしとったことやな。わいは「知的な存在の一部として幻覚を見ることは必要やないか」って聞こうとしとったんや。
全くその通りや。もしあんた…例えばAI研究者の仕事の仕方を考えてみよう。彼らはたくさんのデータを見て、たくさんのものを読んで得たこのアイデアを持っとって、そして「たぶんこれかもしれへん」「これを試してみようか」って考え始めるんや。そしてデータが戻ってきたら「ああ、これはうまくいかへんかったな」って。
今までなかった新しい仮説や説明を思いつく、この人間の能力、そしてそのほとんどは間違っとるんやけど、それを確かめるプロセスとフィードバックループがあって、どれが意味をなすかを見つける。それが人間の進歩の重要な要素なんや。
そして、AIが、知ってるやろ、ゴミを入れたらゴミが出てくるような出力をすることをどうやって防ぐんやろか。今のところ、AIは人間が作ったと考えられる情報を元に動いとるんや。人間が学べると考えた材料から学んでるんや。
今、OpenAIやAnthropicやLambdaなど、いろんなAIが出てきて、AIが人間よりも多くの情報を生み出すようになる世界に近づいとるように感じるんや。そしてそれはあまり検証されへんかもしれへん。そしたらどうするんやろか。AIは、あまり検証されてへんかもしれへん自分自身から学ぶことで、より良くなるんやろうか。わかるやろ、わいが言うとることが？
全くその通りや。それは、異なる文脈でどう振る舞うかを知ることに戻るんや。創造的なプロセスでは幻覚が欲しいけど、正確な事実を報告しようとするときには幻覚は欲しくないんや。
今のところ、ある意味で幻覚やけど素晴らしい新しい画像を生成できるシステムがあるし、事実だけを求めるときのシステムもある。後者はずっと良くなったけど、まだまだ改善の余地があるんや。
そして、これらのシステムが自分で生成したデータで訓練されるのはええと思うんや。ただし、システムがどのデータが良くてどれが悪いかを学ぶプロセスがあれば、やな。また、誰が言うたかだけでは十分やないんや。
なぜかっていうと、新しい科学的アイデアを思いつくなら、それは最初は価値のある幻覚かもしれへんからや。でも何が良くて何が悪いか、そしてそのプロセスに十分な人間の監視があって、わいら全員でこれらのものがどこに向かうかをコントロールし続けとるってことが重要なんや。
そういう制約があれば、将来のシステムが生成されたデータで訓練されるのはええことやと思うわ。
そして、あんたはわいに別のことを思い出させてくれたんや。わいはこれをどう計算したらええか分からへんのやけど、例えばGPT-5か6か何かが、ある時点で人類全体よりも多くの言葉を生成するときがいつになるか知りたいんや。それは重要な…マイルストーンのように感じるんや。
今、それを口に出して言うたら、たぶんそうやないかもしれへんな。どういう意味で生成するんや？
ああ、モデルが1年間に人類全体よりも多くの言葉を生成するときやな。今、80億人くらいおるやろ？平均して1年間に何言葉話すか計算できるやろ。
せやな、できるやろうな。でもそれが何をもたらすんやろか、それが問題やな。
せやな、だからわいはそれを言うた後で考え直したんや。なんか重要なマイルストーンのように感じたけど、たぶん猿がタイプライターを叩くみたいな意味でのマイルストーンなんやろな。たぶん人間はずっとそんな感じやったんかもしれへんし。
わい思うんやけど、それは…せやな、人類全体が…「考える」って言葉は使いたくないけど、あんたが言うたように使わん方がええと思うから、たぶんただ…人類全体が生成する言葉の量みたいなもんやな。
あんたとの時間があんまりないから、いくつかの…いくつかの質問に飛びたいんや。せんかったら人々に殺されそうや。
ほな、これはわいの方からの質問やけど。わいらはいつもAIがデータから学ぶって話すやろ。データセットを与えて、これが学ぶんやって。だからこの巨大なコンピューターが何十億ドルもかかるんやって。
AIが学べるようにな。でも、わいらに与えたデータが明らかに欠陥があるのに、どうやってそれよりも賢く考えるようにAIを教えるんやろか。
例えば、人種や経済や考え方について、わいらが出したデータは限られとるのに、どうやってAIにわいらほど限定的にならんように教えるんやろか。わいらが限定的なデータを与えとるのに。
まだ分からへんのや。でもそれがわいらの目の前にある最大の研究の課題の一つなんや。人間のデータをどう超えるかってな。そして、もし1年後にまたこの話ができたら、答えられると思うわ。でも今はまだ分からへんのや。
でもな、わいが信じとることがあるんや。これは世界の不公平と戦う重要な力になるって思うんや。わい思うんやけど、これらのシステムは…
全ての人間が持っとる深い欠陥を同じように持つことはないやろうな。はるかに人種差別が少なく、性差別が少なく、偏見が少なくできるはずや。世界の経済的公平さのための力になるやろうな。
わい思うんやけど、すごいAIの家庭教師やすごいAI医療アドバイザーを利用できるようにすれば、世界の貧しい半分の人々を、金持ちの半分よりも多く助けることになるやろうな。みんなを引き上げるけどな。
あんたが聞いた科学的な質問には答えられへんけど、この時点で、これらのシステムが…もちろん、実際にそうなるためには社会的に難しい仕事をせなあかんけど、世界の公平さを高めるのにすごくええもんになり得ると確信しとるわ。
たぶんそれは、二つ目の質問にぴったり繋がるんやないかな。あんたは何をしとるん？OpenAIは何をしとるん？この新しい技術が再び「持つ者」と「持たざる者」を生み出すのを少しでも減らすために何か考えとるん？
新しい技術が出るたびに、社会全体にとってはすごくええもんやったと言えるかもしれへんけど、それを持っとる人は全てを手に入れて、持ってへん人はゲームから外れるって瞬間を作り出すのを否定できへんよな。
わい思うんやけど、わいらはこれからもっと学ぶことがあるやろうな。でも今のところ、わいが思うにめっちゃ重要なことの一つは、広告でもなく、ただの無料サービスを提供しとることやねん。毎週1億人以上の人が使っとるんや。
そして、誰でもって言うのは公平やないかもしれへん。なぜかっていうと、まだいくつかの国ではブロックされとるか、わいらがブロックしとるからや。でもできるだけ多くの人に、本当に高品質で使いやすい無料のAIにアクセスしてもらえるようにしとるんや。
それはわいら全員にとって個人的にめっちゃ重要なことやと思うんや。そして、わいらがこの技術でやりたい他のこともあると思うんや。例えば、AIで病気の治療法を見つけて、それを世界中で利用できるようにすれば、明らかに有益やろ？
でもこのツールをできるだけ多くの人々の手に渡して、彼らに未来を設計させることは、めっちゃ重要なんや。そして、わい思うんやけど、これをもっともっと進められると思うわ。
ほな、もう2つ質問させてな。わいからもう一つ付け加えてもええか？
せやで、せやで、時間は全部あんたのもんや。どうぞ。
せやな、もう一つ重要やと思うのは、システムが何を言うか言わんか、何をするかせえへんかについて、誰が決定を下すのかってことやねん。誰が制限を設定するのかってな。
せやな、今のところ基本的にはOpenAIで働いとる人々が決めとるんや。そして誰も、それが世界の公平な代表やとは言わへんやろうな。
だから、この技術へのアクセスを広げるだけやなく、どうやってその管理を民主化するかを考えるのが、来年のわいらにとって大きな課題になるんや。
ほな、それはわいが聞こうとしとったことに繋がるな。安全性の面やな。わいらは会話の最初の方でこれについて話したよな。
世界を変えられるものを設計するとき、常に世界を最悪の方向に変える可能性があることを認識せなあかんのや。技術が飛躍するたびに、一人の人間がより大きな被害を与える能力が不釣り合いに増えてきたんや。
AIを完全に安全にすることは可能なんやろうか？これが一つ目の質問や。そして二つ目は、あんたの悪夢のシナリオは何や？どんなことが起これば、OpenAIやAIを停止するための赤いボタンを押すんや？「これが起これば停止せなあかん」って思うようなことは何や？何を恐れとるん？
ほな、最初の質問は安全にできるかってことやな。そして二つ目は悪夢のシナリオは何かってことやな。
わいが考えとるのは…まず、あんたが最初に言うた洞察、つまり壊滅的な被害を与えられる人の数が10年ごとに減っていくってことは、わいにとってめっちゃ深い真実に思えるんや。社会としてわいらが直面せなあかんことやと思うわ。
次に、システムを安全にすることについてやけど、わいはそれを二元論的なもんやとは考えてへんのや。わいらは飛行機は安全やって言うけど、飛行機はまだ墜落するんや。めっちゃ稀にやけどな。驚くほど稀にな。
わいらは薬は安全やって言うけど、FDAが承認した薬でも時々人を死なせることがあるんや。
だから安全性は…それはリスクと報酬のトレードオフを考えて、社会が許容できると決めることなんや。そしてわい思うんやけど、そこには到達できると思うわ。でもそれは何も悪いことが起こらへんってことやないんや。わい思うんやけど、AIで本当に悪いことが起こるやろうな。
わいらが防がなあかんのは…そしてわい思うんやけど、社会は実際にかなりええプロセスを持っとると思うわ。混沌としとるけどな。安全性の閾値がどうあるべきかを集団で決めるのにな。それは多くの利害関係者を巻き込む複雑な交渉で、わいらは社会としてそれをどんどん上手くなってきたんやけど、わいらが防がなあかんのは、あんたが触れたような壊滅的なリスクやねん。
核がみんなが挙げる例やな。核戦争は本当にグローバルな影響を持っとったから、世界はそれを違う風に扱って、この80年近く、わい思うんやけど、驚くべき仕事をしてきたんや。
そしてわい思うんやけど、AIにもそういうことがあるやろうな。確かに人々がよく話すのは、AIが合成病原体を設計して製造するのに使われることやな。それはめっちゃ大きな問題を引き起こす可能性があるんや。
わい思うんやけど、人々がよく話すのは、コンピューターセキュリティの問題やな。人間ができる以上のことを、どんなスキルレベルでもできるAIがな。
そして、わい思うんやけど、ただ新しいものもあるんや。モデルが十分に能力を持つようになって、サーバーから重みを抜き出す方法を自分で設計して、たくさんのコピーを作って、自分の行動を変更するようになるかもしれへんのや。もっとSFのシナリオみたいなもんやな。
でもわい思うんやけど、わいらは世界としてそれに直面せなあかんのや。たぶんその特定のケースやないかもしれへんけど、正確に定義できへんからって無視してもええってもんやないんや。壊滅的なリスク、あるいは存在そのものを脅かすようなリスクがあるっていう考えにな。
だからわいらはここで、そういった問題がどんなもんで、いつ起こるかもしれんのか、どうやって早めに察知できるかを予測して測定するために、たくさんの仕事をしとるんや。
そしてわい思うんやけど、「これについて全然話すべきやない、今日の問題である誤情報や偏見の問題だけを話すべきや」って言う人らは間違っとるんや。わいらは両方について話さなあかんのや。全ての段階で安全でなきゃあかんのや。
ほな…それは思うとったとおり怖いな。ほな、ちょっと聞くけど、本当に知事選に出馬しようと考えとるん？
いや、いや、いや、2017年か2016年くらいにほんの少しだけ考えたことがあるんや。
ああ、そうなんや。数週間くらい、ぼんやりとしたアイデアを楽しんだだけやな。
ほな、わいの最後の質問やけど、全体的に「What Now?」についてやねん。サム・アルトマンが魔法の杖を振って、AIが望む通りになったとしたら、それは未来に何をもたらすんや？全ての良い面は何や？みんなにとってのメリットは全部何や？そして…わいはこれを…全てのネガティブなことは言わんでええからな。
この質問をしてくれてありがとう。わい思うんやけど、いつもポジティブなことで終わるべきやな。
見てみい、わい思うんやけど、わいらは人類がこれまで見たことのない最大の豊かさの時代に向かっとるんや。そしてわい思うんやけど、その主な原動力はAIとエネルギーやねん。でも他にもあるやろうな。
でもこの2つのこと、つまりどんなアイデアでも思いつけること、それを実現できること、そしてこれを大規模にできることで、人々が持てるものの限界は、彼らが想像できることと、わいらが社会として集団で交渉できることになるんや。わい思うんやけど、これはめっちゃすごいことになるやろうな。
わいらは前に話したよな、全ての生徒が、今最高のアクセスを持つ最も裕福な生徒よりもええ教育体験を得られるってどういうことなんやろか？わかるやろ？全ての人が、今最高のアクセスを持つ最も裕福な人よりもええヘルスケアを受けられるってどういうことなんやろか？
一般的に言うて、人々が新しい種類の仕事カテゴリーを作らなあかんとしても、個人的に最もやりがいを感じることに取り組めるようになるってどういうことなんやろか？全ての人が…
たぶんあんたもわいも、自分の仕事が大好きやろ？でもそれは全ての人にとってそうやないと思うんや。
せやな、同意するわ。全ての人が大好きな仕事を持てるってどういうことなんやろか？そして、大企業や大きなチームのリソースを自由に使えるってどういうことなんやろか？
だからな、たぶんOpenAIの800人の代わりに、全ての人が800のさらに賢いAIシステムを持って、これら全てのことができるようになるんや。そして人々はただ創造して、全ての…
わい思うんやけど、これはめっちゃすごいことやと思うんや。そしてわい思うんやけど、わいらはこの世界に向かっとるんや。そして、それを実現するには技術以外にもたくさんの仕事が必要になるやろうな。社会はいくつかの変化をせなあかんやろうけど、わいらがこの豊かさの時代に向かっとるって事実が、わいはめっちゃ嬉しいんや。
わいからも最後に一言言わせてもらうわ。わいはAIの潜在的なメリットの大ファンなんや。めっちゃめっちゃ大きなファンやねん。知ってるやろ、わいは南アフリカで教育の仕事をしとるんや。わいの夢はいつも、全ての子供に可能な限り最高の…可能な限り最高の…をもたらすことやったんや。
わかるやろ？文字通り、誰一人取り残されへんようにな。なぜかっていうと、自分のペースで学べるからや。ちなみに、ChatGPTを使って何かを学んどる子供たちはどうなっとるん？わいが聞いとる話では…
せやな、めっちゃすごいんや。本当にすごいんや。知ってるやろ、この14歳の…
せやな、せやな。いや、本当にすごいんや。わいは独学で微積分を全部学んだんや。本当にすごいんや。
そして特に、ビデオとかそういうのがもっとマルチモーダルになったら、もっとすごくなるやろうな。わいはそれについて夢見とるんや。
あんたが言うたように、ヘルスケアについてもわいは夢見とるんや。わいは全部について夢見とるんや。
一つの実存的な質問で、わい思うんやけど、わいらが十分に問うてへんのは、AIが効果的にこれら全てのことを置き換えたとき、人類の目的をどう再定義するかってことやねん。なぜかっていうと、好むと好まざるとにかかわらず、歴史を振り返ってみると、わいらの目的がしばしばわいらの進歩を定義してきたってことに気づくからや。
知ってるやろ、わいらの目的がただ宗教やった時期があってん。そして、知ってるやろ、良かれ悪しかれ戦ったんや。考えてみい。宗教は人々を自分を超えたものについて考えさせ、ある方向に動かすのにめっちゃええ役割を果たしたんや。そして彼らは「これがわいの目的や。わいは神に仕えるために目覚める」って言うたんや。
どの神を考えとるかは関係ないんや。「わいは神に仕えるために目覚める。わいは神を喜ばせるために目覚める。わいは目覚めて…」って。そしてそれは人間を、わい思うんやけど、一つは何かに向かって動いとるように感じさせ、二つ目は共同体意識と所属感を与えたんや。
そしてわい思うんやけど、わいらがAIがこれを取り除く世界に向かうにつれて、わいらが忘れてほしくないのは、どれだけ多くの人が自分のアイデンティティを、自分が誰であるかではなく、自分が何をするかに完全に結びつけてきたかってことやねん。
そしてわいらがそれを取り除いたとき…あんたにクロークがなくなったとき、秘書がいなくなったとき、交換手がいなくなったとき、アシスタントがいなくなったとき、工場労働者がいなくなったとき、これら全てのものがなくなったとき…わいらは歴史で何が起こるかを見てきたんや。
しばしば過激主義が出てくるんや。大規模な反発があるんや…あんたはそれについて考えたことあるか？あんたはそれを受け入れる方法があると思うか？あんたはどう…わいらの目的を今どう表現するやろか？
わい思うんやけど、今わいらの目的は、何らかの形で収入を生み出すことに結びついた生存やねん。なぜかっていうと、それがわいらに生存の仕方を教えられてきた方法やからや。お金を稼がなあかんのや、生き残るためにな。
でもわいらは、それが再定義された時期があったのを見てきたんや。フランスはええ例やな。彼らは持っとったし、今でもバージョンがあると思うんやけど、アーティストファンドってのがあってん。彼らは「アーティストとしてあんたに支払うわ。ただフランスを美しく見せるものを作ってくれたらええんや」って言うたんや。それはめっちゃ美しいことやったんや。
あんたがUBIのファンやってのは知っとるな。例えばな。わいらはそれについて話す前に止めるべきやったな。
ほな、これを聞かせてくれや。あんたはなぜ普遍的基本所得がそんなに重要やと思うん？なぜかっていうと、あんたは信じてへんことに時間やお金を無駄にせえへんからや。そしてあんたは普遍的基本所得にたくさんの時間とお金を費やしとるんや。
わいが最後に見たのは、600億円くらいのプロジェクトの内400億円くらいをあんたが出しとるって…
わい思うんやけど、普遍的基本所得はわいらの前にある課題の完全な解決策やないのは当然やけど、貧困をなくすことはまぎれもなくええことやと思うんや。わい思うんやけど、資源のより良い再分配は全ての人にとってより良い社会につながるやろうな。
でもわい思うんやけど、お金を与えるのがこれの重要な部分やとは思わへんのや。ツールを与えることや、ガバナンスを与えることの方が重要やと思うんや。わい思うんやけど、人々は未来の設計者になりたいんや。
わい思うんやけど、人類の使命や意味について一貫したものがあるとすれば、それは確かに生存し、繁栄することやねん。個人的なレベルではな。でも集団としては、わいらには未来をより良くしたいっていう新たな集団的な欲求があるんや。
せやな。わいらはよく道を外れるけどな。でも人間の物語は「未来をより良くしよう」っていうもんなんや。それは技術であり、ガバナンスであり、わいらがお互いをどう扱うかであり、星を探検しに行くことであり、宇宙のしくみを理解することであり、何であれそういうことなんや。
そしてわいは、それがわいらの中にめっちゃ深く根付いとるって自信を持っとるんや。どんなツールを手に入れても、種としても個人としても繁栄したいっていう基本的な欲求や使命は、どこにも行かへんのや。
だからわいは、今から2世代後の世界がどうなるかについてめっちゃ楽観的なんや。でもあんたが指摘したことはめっちゃ重要やねん。もう自分のキャリアに就いて、実際にかなり幸せで、変化を望んでへん人々のことやな。そして変化がやってきとるんや。
わいらが以前の技術革命で見てきたのは、約2世代経つと、社会や人々はどんな量の仕事の入れ替わりにも適応できるようになるってことやねん。でも10年では無理やし、確実に5年では無理やな。そしてわいらはそれに直面しようとしとるんや。
わい思うんやけど、ある程度は、前に言うたように、人々が思うよりも遅くなるやろうけど、それでも社会が過去に対処せなあかんかったよりも速くなるやろうな。そしてそれが何を意味するのか、わいらがどうやってそれに適応せなあかんのか、わいはちょっと怖いけど、わいらはそれに直面せなあかんし、わいはわいらが何とかできると思うわ。わいはわいらが何とかできると確信しとるんや。
そしてわいは、わいらの子供や孫たちにわいらよりもええツールを与えたら、彼らはわいらを絶対に驚かせるようなことをするって確信しとるんや。そしてわいは、彼らがわいら全員がどれだけひどい状況やったかについてめっちゃ嫌な気分になってくれることを願っとるんや。
わい思うんやけど、未来はただめっちゃすごいもんになって、この人間の精神と、もっとええ世界や世界を超えたものを設計したいっていう欲求は素晴らしいもんやと思うんや。わいはそれについてめっちゃ嬉しいんや。
そしてわい思うんやけど、ある意味では、このちっちゃいもんをあんまり大したもんやと思わんほうがええんやないかな。知ってるやろ、スターウォーズのあのシーンで、悪い奴の一人が「あんたらが作ったこの技術的な恐怖にあんまり感心せんほうがええで。フォースの力に比べたらなんてことあらへんわ」って言うとるやろ。
わいもAIについてある重要な意味でそう感じるんや。つまり、わいらはこれにあんまり感心せんほうがええんやないかな。人間の精神がわいらを乗り越えさせてくれるし、それはどんな技術革命よりもずっと大きなもんなんや。
それはほんま、希望に満ちたええメッセージやな。わいはあんたが正しいことを願っとるわ。なぜかっていうと、わいはこの技術が大好きやからや。
一つ本当に厳しいこと…知ってるやろ、そしてわいがサム・アルトマンに、タイム誌の今年のCEOであり、今年の人物の一人として最後に言いたいことがあるんや。わい思うんやけど、あんたはこの役割で、特にOpenAIとAI自体がわいらに与える影響の大きさから、これからもそうあり続けるやろうな。
わいがあんたにお願いしたいのは、あんたが解雇されたときの気持ちを忘れんでほしいってことや。なぜかっていうと、あんたは多くの人を同じような立場に置くような技術を作っとるからや。なぜかっていうと、わいはあんたの中にその人間性を見とるからや。そしてわいは、あんたが作り続けるにつれて、常にそのことを考えとってほしいんや。
知ってるやろ、わいが土曜の朝、眠れんかった早朝にやったことは、「他の人が同じようなことを経験して、今わいが取締役会を責めとるのと同じように、わいを責めるときに、これから何を学べるやろうか」って書き留めたことやねん。
そしてあんたはそれを見つけたんか？
たくさんの…わい思うんやけど、たくさんの有用な個別の教訓があったんやけど、この全体の経験から得た共感と、わいの価値観の再確認は…確かに苦痛を伴うコストやったんやけど、その意味ではその経験ができてよかったと思うわ。
ほな、サム、時間をくれてありがとう。本当に…本当に楽しかったわ。1年後にまた話せることを願っとるわ。知ってるやろ、全ての新しい進歩について…
それは絶対せなあかんな。それはめっちゃ素晴らしいことになるやろうな。
間違いなくそうやな。ほな、ありがとう。
What Now? with Trevor Noah は、Spotify Studios が Daisy Productions、Full Well 73、Odyssey’s Pineapple Street Studios と提携して制作しとります。このショーのエグゼクティブプロデューサーは、トレバー・ノア、ベン・ウィンストン、ジェナ・ワイス・バーマン、バリー・フィンケルやで。プロデューサーは、エマニュエル・ハピネスとマリーナ・ハンキーやな。
音楽。ミキシングとマスタリングは、ハンナ・ブラウンが担当しとります。
時間を取って聞いてくれてありがとうございます。会話を楽しんでもらえたらええなと思います。何か残せたらええなと思います。来週また会えることを願っとります。同じ時間…つまりあんたが聞く時やねんけど、同じ場所…つまりあんたが聞いた場所やな。
来週の木曜日、新しいエピソードの What Now? やで。
コメント