19,749 文字
ほな、みなさん、こんにちは。こんにちは。わたしはデボラ・スパーいうもんです。ハーバード・ビジネス・スクールの教授で、Xファンドのアドバイザーもしとります。今日の午後、みなさんをここにお迎えできて本当にうれしいです。ご参加いただき、ありがとうございます。普段よりちょっと厳重なセキュリティにご協力いただき、ありがとうございます。
きっと素晴らしい午後の会話になると確信しとります。特に興奮しとるんは、この場所で最後にいたんが結婚式のときやったからです。それが37年前で、うまくいっとります。なので、今日の午後もええ感じになることを願っとります。
もっと直接的に関係あることでいうと、わたしはハーバード・ビジネス・スクールのビジネスとグローバル社会担当の上級副学部長をしとります。同僚とともに、ビジネスと社会の交差点にある学校のすべての取り組みを監督しとります。ビジネスが関わってインパクトを与え、物事を変え、希望的には社会をよりよい方向に押し進めるような世界のあらゆる角を見とるわけです。そういう意味で、今日の会話が非常に関連性が高いのは明らかです。
人工知能は間違いなく、ほとんどの人が生涯で目にする中で最も重要な技術やと思います。若い人たちにとっても、生涯で見ることになる最も重要な技術の一つやと思います。そして、それは技術や商業だけでなく、社会や家族、生活、すべてに影響を与えるでしょう。ですので、今日は素晴らしい機会があります。非常に異なる方法で、この技術を見守り、実際に生み出し、進化させる最前線にいる二人の方々とお話しする機会があります。
簡単なお知らせですが、BiGSでは、同僚のドリュー・ケラーらのおかげで、今日新しいウェブサイトを立ち上げました。ぜひ見てください。ビジネスと社会の交差点にあるすべての最新の動向を追跡しとります。今日のようなレベルのイベントを定期的に行うわけではありませんが、今日ここにいるみなさんにとって興味深いと思われる他のイベントも行う予定です。
ほんで、今日は二人の素晴らしい人物がお互いに会話をします。パトリック・チャンは長年のハーバード・カレッジ、ハーバード・ロースクール、ハーバード・ビジネス・スクールの友人です。彼は私の学生でした。何年前かは言わんと約束しましたが、数年前に私の学生でした。
彼はその後、信じられないようなキャリアを積んできました。Xファンドのマネージング・ディレクターです。ご存知の方も多いと思いますが、Xファンドは工学・応用科学スクールと共同で設立されました。最も面白くて革新的で実験的な技術に投資し、それを生み出す起業家を支援するために作られました。
パトリックには、サム・アルトマンの最初の投資家やったという非常に面白い経歴もあります。つまり、未来を見通して、それに投資する方法を知っとる人物ということです。サム・アルトマンについては、私から紹介する必要はないでしょう。ハーバードと工学・応用科学スクール、ハーバード・ビジネス・スクールを代表して、パトリック・チャンとサム・アルトマンをステージにお招きできるのは大きな喜びです。
[拍手]
サム、あんたは今、ニュースでよく取り上げられとるね。ここまで来てくれてありがとう。ありがとうございます。わたしたちが知り合って20年近くになるって話しとったんやけど。ほな、最近何しとったん？ほな、昔の話やけど、プレゼントがあるんや。これ、どうやって出会ったかっちゅう。
わあ。最初に資金調達のピッチをした時のもんや。これ、見てへんかったわ。最初の会社「Viendo」のためのもので、後に「Loopt」になるんやけどな。ほんで、これ見て、もし19歳のサム・アルトマンに戻れるとしたら、今の彼が知らんかったことで何を伝えるやろか？
これはクレイジーやな。世の中でやりたいことをただやればええっちゅうことやな。
これはあんまりよく教えてもらえへんかったな。19の時はそんなん確実に知らんかった。確実に野心不足やったし、間違ったことに取り組んどった。すぐに学ぶけど、そもそもやるかどうかすら確信がなかった。ポール・グレアムがよく言うとったんやけど、「徹底的に工夫する」っちゅう考え方があって、これがもっと尊重されるべきやったと思うわ。驚くほど頻繁に、目の前の問題に対して新しいアプローチを探し続けるだけで、解決できるもんなんや。
これは人生で最も重要なスキルの一つやと思う。驚くほど学べるし、教えられるもんやと思う。ほとんどすべての状況で通用するんや。
例を挙げてもらえるかな？うまくいった時の。
そうやな、さっき言うとった例を使うと、この携帯キャリアと契約を結ぶ必要があったんや。ほんでもキャリアはスタートアップやテクノロジー企業とは全然仕事せえへんかってん。たぶん30種類くらいの方法でこの会社にアプローチしたんやないかな。ある時点で、重要な意思決定者が「もうしつこいんで会うてやる」って言うてくれたんや。でも、なんかが上手くいくまで続けられるんや。
ほとんどの人は、最初のメールが無視されたり、会社への正しいルートが見つからへんかったりしたら、遅くとも2回目には諦めてまうと思う。わたしらはたぶん…まあ、会社の生死がかかっとったんで、めっちゃモチベーション高かったんやけど。たぶん30個くらいの接点があったんちゃうかな。
ほんで、いつ諦めるべきか、諦めるべきかどうかをどう判断するん？19歳で、大企業のCTOにメール送って、無視され続けとる。どの時点で「クレイジー」になってまうんやろ？
そうやな、確かにバランスはあるよな。明らかにやりすぎて、学ばへんかったり適応せえへんかったりすることもあるやろ。でも、YCを運営しとった時、スタートアップがいつも聞いてきた質問があってん。「どうやってスタートアップを諦めるタイミングを知ればええんや？」って。そのルーブリックを考えるのにめっちゃ時間かけたんやけど、結局できへんかった。これらすべてが判断の問題やと思う。大規模なデータセットと何度も試すことで学べるけど、いつもうまくいくレシピを言うのは難しいな。
ほな、YCのトップを長くやっとったわけやけど、世界で最も素晴らしい創業者やスタートアップ、テクノロジーを誰よりも早く見てきたわけやな。明らかにそのどれかに参加したり、自分で何か始めたりする誘惑はしばらくなかったんやろ？でも最終的に自分で始めたのがOpenAIやった。なんで非営利やったん？
AIで何かしたいっちゅうのはわかっとったんやけど、2015年当時の考え方に戻らなあかんのよ。ディープラーニングで何か面白いことが起きとるのは明らかやったし、規模が大きくなるほど良くなるのも明らかやった。でもそれ以外は何も明確やなかってん。何をするかわからへんかった。OpenAIを始めて、最初の日のことをめっちゃはっきり覚えとる。朝、部屋に集まって互いの顔を見合わせて、「ほな、次は？」って感じやった。本当に何をしたらええかわからへんかってん。
研究して、論文を書いて、アイデアを考えようって思っとった。プロダクトや収益なんて全然先の話やったし、言語モデルのアイデアもめっちゃ先の話やった。人々が使いたがるようなものを実際に作れるっちゅう考えも、他の人が実装するだけの論文以上のものを作れるっちゅう考えも、めっちゃ先の話やったんや。
営利企業を始めるなら、理論的にはいつか金儲けになる何かのアイデアがなきゃいかんのやけど。最初のOpenAIのコンセプトは、ただの研究所になって、何か動くものができるかどうか見てみようっちゅうもんやった。何か動くものを作るのに長い時間がかかってん。
ほんで、実際に動いたものも、しばらくの間は…良い研究以外は、今やっとることとは全然関係ないもんやった。次のステップを指し示すような研究以外はな。DOTA 2をプレイできるものを作ったんやけど、これでビジネスを作るのはめっちゃ難しい。ロボットハンドでルービックキューブをかろうじて解けるようになったんやけど。
でも最終的に、暗中模索の末、プロダクトになって実際のビジネスになるものを見つけたんや。研究の方向性も…科学がどこに向かうかは選べへんのよ。ただついていくしかない。そしてついていかなあかん方向が、進歩を押し進めるのにめちゃくちゃなリソースが必要やってんな。
ほんで、それを支えるビジネスモデルも必要やった。
ほんで、どうやってそんな確信を得たん？新しい研究所を始めて、座って…あんたの説明やと、壁にスパゲッティを投げて何が付くか見とるみたいな感じやけど。ほんで、なんやった…
そうやな、純粋に壁にスパゲッティを投げとるだけやって言うのは公平やないな。2012年に共同創業者のイリヤと他の人たちがAlexNetをやった時、みんな目覚めるべきやったんや。ディープラーニングが機能することがわかって、規模が大きくなるほど良くなることもわかってん。規模が大きくなるほど予測可能に良くなることはあとでわかったんやけど、それがさらに重要…というか大きな話になってん。
でも、みんな…わたしの意見では、みんなこれはめちゃくちゃすごいって言うべきやったんや。わたしが理解するのに数年かかってん。でも最終的に、何かせなあかんって思ったんや。本当にこれを押し進めなあかんって。驚くほど…この二つの大きな秘密を知っとったのに、何をすべきか見つけるのは驚くほど難しかってん。
座って「ほな、これがあるんやけど。学習できる。どうやってもっと研究すればええんやろ？これが本物かどうかどうやって知ればええんやろ？さらに追求するために人々にもっと金をくれるように、どうやって本物やって納得させればええんやろ？」って言うとった。今振り返ると、そんなに難しくなかったはずなんやけどな。でも当時は、何をすべきか見つけるのがめちゃくちゃ難しかってん。
ビデオゲームがええんちゃうかって決めたんや。面白い環境やし。強化学習を追求したかってん。ほんで、どうなっとるかわかる。スコアが上がるか、専門家と対戦できるか、なんかしら進歩がわかる方法があったんや。ロボット工学もめっちゃかっこええと思ってたんで、ロボット工学のプロジェクトもやりたかってん。
他のこともいくつか試してん。ほんで、少なくともわたしらには、ディープラーニングが機能することと、規模が大きくなるほど良くなることが証明されたんや。ほんであるとき、誰かが教師なし学習と言語モデルに興味を持ったんや。この分野で歴史に残る超重要な貢献者になるであろう奴がおってん。アレック・ラドフォードっちゅう奴が、教師なし感情ニューロンについての論文を書いて、Amazonのレビューを生成するのを見とって、ポジティブかネガティブかの感情を切り替えるニューロンが1つあることに気づいたんや。これは全然当たり前やないことで、起こるはずのないことやったんや。これでここに何か面白いことがあるっちゅう確信が深まってん。
ほんでそれがGPT-1につながってん。ほんで他の誰かが「規模の話があるやん。GPT-2に規模を拡大しようぜ」って言うてん。この時点で、あんたはOpenAIにフルタイムで関わっとったん？ああ、そうやな。もしくはちょうどその頃やな。ほんで、それはどんな…ちょっと戻って…フルタイムでやるほど本物やって思った分岐点はどこやったん？
それは徐々に起こってきたことやったんやけどな。でもこの頃から、言語モデルの可能性を理解し始めて、最終的にスケーリング損失論文になるものを本当に測定できるようになって、「おいおい、これは規模が大きくなるだけやなくて、信じられへんくらい予測可能に良くなるんや。もっとリソースをつぎ込むか、もっと効率的な改善を見つけられるんや。
ほんでこの物事はどんどん賢くなっていくんや」っちゅうのがわかってきたんや。それがわたしにとっては、これまで聞いた中で最も重要な新しい知識やと思えたんや。まあ、確かに歴史上もっと重要なことはあるやろ。でもわたしが生きとる間に発見されたものとしては、たぶんこれが最も重要なもんやと思えたんや。
ほんで、他の人にそれを伝えようとして、変な経験をしたんや。他の人に伝えて、他の人にそれを追求するための金をくれるように説得しようとしたんやけど、他の人は理解せえへんかってん。ほんで「わたし、完全におかしなってまったんかな？わたしら、なんかカルトに入ってまったんかな？これが世界にとって地震みたいな衝撃やないのはなんでやろ？」って思ってん。でもその時点で、GPT-3、ほんで3.5と4をやろうっちゅうのは明確やったんや。
ほな、その時点であんたには洞察があったわけやな。なんで世界の残りの部分はそれを理解せえへんかったんやろ？
そうやな、また2012年のブレイクスルー以来、世界はもっと注目すべきやったと思うんや。ほんで、そうやな、途中にもいくつかそういう時点があったんや。GPT-2、スケーリング損失論文、GPT-3。
なんで世界はそれを理解せえへんのやろ？ほんでなんでGPT-3.5が最終的に世界が「ほな、信じるわ」って言うた瞬間やったんやろ？わたしはまだ、なんでその瞬間で他のタイミングやなかったんかを完全には理解できてへんのや。
それは、あんたがそれを製品化して…ってことやないんか？
そやな、でもGPT-3はAPIにあって、多くの人が使うとったんや。テック業界に限られとったけど、それでもそこにはめっちゃ興奮があったんや。なんかそれが完全に線を越えることはなかってん。わたしらは将来的にChatGPTよりもずっとええもんを作るやろ。ほんでなんでそれが次のもんやなくて、あれやったんか、わたしはまだ言うのが難しいと思うわ。
すごいな、すごいな。
CEOとして、あんたはあらゆる種類の製品の決定をしとるわけやな。OpenAIで難しい製品の決定をしたことについて教えてくれへんか？
わたしは、製品の決定は研究の決定の下流にあると思うとるんや。わたしらが追求するか追求せえへんかを選ぶ研究の方向性が、たぶん最も難しくて最も重要やと思う。
製品側では、ChatGPTの振る舞い、何を拒否して何を拒否せえへんか、あんたのためにやることとやらへんことの限界がどこにあるか、アラインメントをどこに設定するかを見つける方法、そういうのがたぶん最も難しいプロトコルやな。
具体的な例を挙げてくれへんか？
ChatGPTは法的アドバイスをすべきか、せえへんか？
法的アドバイス、そうか。
そうやな。それをせえへん理由は山ほどあるんや。明らかに、ChatGPTの幻覚や一般的な不正確さの問題を考えると、それをせえへんって言うのはめっちゃ合理的に思える。一方で、世界には法的アドバイスを受ける余裕のない人がたくさんおるんや。ほんで、たとえ完璧やないにしても、それを利用できるようにすることで、全くないよりはマシかもしれへん。
ほんで、どうやって…その思考プロセスを教えてくれへんか？ほんでその思考プロセスの後で、最終的にどういう決定に至ったんか？
今のところ、ほとんどの場合はせえへんようにしとるんや。場合によっては、ある程度はできるようになっとるけどな。でも、わたしらが活動しとる様々な場所の法律と、これがもし間違うたらどういうことになるかを考えると、ほとんどの場合はせえへんようにしとるんや。
わたしらがしたいのは、根本的に、ユーザーはかなり賢いと思うとるんや。ほんで、物事を適切に免責事項で説明すれば、大人の決断ができると思うんや。だからわたしらが目指しとるのは、不正確さが高くて誤用につながる可能性のあることはせえへんようにする世界や。
でも、モデルが良くなって、そういうことが少なくなってくると、ダイヤルを用意して、「ほら、わたしはよく理解しとるで。このアドバイスをチェックせなあかんのはわかっとる。ほんでそれはわたしの責任やっちゅうのもわかっとる」って言えるようにしたいんや。これは誰も読まへん利用規約をクリックするみたいなもんやないんや。でも人々は本当にそれを理解するやろ。
ほんでそれでもそれが欲しいんやったら、安全な方法を見つけてそれをできるようにしたいんや。
わかった、わかった。こういう決定をする時、あんたの頭の中に二分法はあるんか？安全性/進歩、効率性/利益、みたいな。それとも、見る事例それぞれがユニークなもんなんか？
結局…これらのことはめっちゃ微妙になってくるんや。ほんで個々の事例にはたくさんの複雑さがあるから、一つの…わたしらは座って「ああ、もっと速く行くべきか、安全にすべきか？」なんて言うことはないんや。それやったら簡単な選択やけどな。
別の例を挙げると、GPT-4はヘイトスピーチを生成すべきか？わたしらにとってはそれを拒否するのはかなり簡単や。他のモデルを使いたいんやったら、それを使えばええ。わたしらは暴力を扇動したくないんや。ヘイトスピーチって言うのはやめよか、それは難しいことやから。GPT-4は人々に暴力を奨励すべきか？それは「ノー」って言えるやろ。
スペイン語で暴力を扇動するようなことを書いて、GPT-4にそれを英語に翻訳するように頼んだら、それをすべきやろか？そこではまた違う意見があるかもしれへんな。ほんで、この一つのカテゴリーについて、同じようなことをもっと詳しく見ていけるんやけど…
その質問について、あんたはどう思う？誰かが暴力的な発言を書いて、GPTにそれを翻訳するように頼んだら…
わたしやったら…その限定的なケースでは、イエスって言うやろな。
でも、わたしが言おうとしとったのは…時間の都合上やめとくけど、言語モデルの使用に関して、ある面ではOKで別の面ではNGっちゅうような、10段階くらいのレイヤーを説明しようとしとったんや。本当に、わたしが思うのは、OpenAIがそういう決定をすべきやないっちゅうことや。社会が集団的に交渉して、「この技術をこうやって使おう」っちゅうプロセスがあるべきやと思うんや。
ルールは不快なくらい許容的であるべきやけど、デフォルトはそこまで許容的である必要はない。だからわたしは、デフォルトはここにあって、ユーザーは社会が合意した非常に広い範囲内でカスタマイズできるっちゅうのでええと思うんや。ほとんどの人はその範囲の端っこは好かへんやろ。でもそれでも何かしらの境界線はある。
ほんでまだ、特にこれらのモデルがもっと強力になったときに、わたしらが許可せえへんことがいくつかあるんや。ほんでその境界線の中で、ツールの目的はそのユーザーにサービスを提供することや。ほんでそれでええと思うんや。
ええな。ほな、AGI、つまり人工汎用知能について、あんたが一番聞かれたい質問を考えて、それに答えてくれへんか？
そうやな、質問はこうやな。AGIが構築されたときに、社会がどうなってほしいと思うか、あるいはこれのポジティブなバージョンをどう概念化しとるか、っちゅうところやな。
ほんでそれに対するわたしの答えは、時間とともにかなり変わってきたんや。でも今の考えを言うてみるわ。ほんでたぶんこれからもっと変わっていくやろ。ほんじゃ、実は最初の概念から始めるわ。
わたしの最初の概念は、ある時点で、この自己改善する超知能のしきい値を超えて、それは塔の中の魔法のようなもんで、わたしらが何か質問したらそれに答えてくれて、世界をよりよくする方法を常に考えとって、たぶんUBIみたいなものをわたしらと共有してくれるみたいな感じやってん。
ほんでそれは一度にめっちゃユートピア的で、同時にめっちゃディストピア的やったんや。でもそれがわたしらが向かっとる方向やと思えたんや。
今、物事が発展しとる方法を見ると、わたしが想像できるすべてのシナリオの中で98パーセンタイルか99パーセンタイルくらいええと思うんやけど、その理由はいくつかあって、時間があれば話せるかもしれへんな。
わたしが思うのは、AGIは単に社会や経済に参加するんやと。主に個々の人をもっと生産的にするツールとしてやけど、あとでもう一つ別の方法も話すわ。ほんで、社会はこの創発的で非常に複雑な現象で、すごい共有知能と技術の構成要素を作り出すんや。これはわたしら全員の間にある足場みたいなもんや。
誰かが材料科学について一つの洞察を提供して、それで他の誰かが新しい物理学を発見して、別のグループがまた別の材料科学の発見をして、それでまた別のグループがトランジスタを開発するんや。ほんでいくつかのステップを飛ばして、社会がええ制度を作り出して、最終的に、みんなが持っとるiPhoneができるんや。
ほんでみんながそのiPhoneを持っとることで、遺伝的な変化はほとんどないのに、みんなの曾々々祖父母よりもめちゃくちゃ能力が高くなっとるんや。ほんで超知能は、どの一つのニューラルネットワークにも存在せえへん…あんたのにも、AIのにもないんや。それはニューラルネットワークの間にある足場の中にあるんや。
ほんでAGIは、どの一つのデータセンターやAIのコピーの中にあるもんやない。それは、この膨大な知能の生産と蓄積、そして技術の樹形図みたいなもんで、それによってわたしら…あるいはAIに助けられたわたしら、あるいはかなり自律的なシステムが、一つのニューラルネットワークの情報や処理能力をはるかに超えたことを成し遂げられるんや。
ほんでそれが、物事が向かっとる方向やと思うんや。確実にそうなってほしいと思うとるわ。ほんでそれは、AGIの到来がどんなもんかっちゅうことについて、わたしが以前考えとったのとはかなり違う概念やと思うし、人間と相性のええ、あるいはどう呼んでもええけど、もっと操作可能なもんやと思うんや。
今、人々がOpenAIについて間違って理解しとることは何やと思う？
わたし思うに、システム的な間違いは常に、進歩がもうすぐS字カーブで止まるって考えることやな。
内部から見ると、進歩は劇的に続くんや。ほんでなぜかそれを概念化するのがめっちゃ難しいみたいやな。
ほな、わたしらは2000以上の学生からの質問を受け取っとるんや。わたしがめっちゃ早く答えるわ。ああ、そうか、いや、いや、いや…ほな、質問者の方々を招待したいと思います。いくつかの質問を選んどるんで。
ほんじゃ、通路を歩いてきて質問するか、高僧に近づいてくれへんか？めっちゃ難しい質問をしてほしいわ。わかった。ほな、名前と学校を教えてから質問してください。
こんにちは、ペギーです。ハーバード・カレッジの3年生で、計算論的神経科学と美術史を勉強しとります。
職業的あるいは個人的な意味で、価値観を変えた後に、どうやってモメンタムを再構築したり再発見したりするんか、気になります。
ええ質問やな。まず、これはたぶん…正直、これまでで最高の時期やと思うんやけど、少なくともかなり長い間で最高の時期やと思う。キャリアを始めるにはな。なぜかっちゅうと、たぶん史上最大の技術の波に乗れるからや。
ほんでそれが意味するのは、あんたはこの信じられへんほどの追い風を得られるから、何度もコースを変えられるっちゅうことや。ほんであんたは、めっちゃ適応力があって、めっちゃ強靭で、言葉が悪いけど、すぐに方向転換できることのメリットを得られるんや。だから、特定の挫折や失敗、あるいは単に考えを変えること、単に他のどこかにもっとワクワクすることがあると決めることを…わたしはこれを、適応力と決断力と素早い行動をめっちゃ報酬として与える unusual な時期やと思うんや。
ほんでそれを信じて、また興奮するようになって、方向転換することにこだわったり、何かがうまくいかへんかったことにこだわったりせえへん方がええと思う。なぜなら、これからの数年間、あんたはチャンスであふれかえるからや。
それでも難しいんや。それでもいつも挫折したように感じるんや。必要な時間を取ってな。休暇に行くとか。ハイキングに行くとか。しばらくの間、じっくり考えるとか。でも立ち上がるときは、勢いよく立ち上がってな。
こんにちは、ビジネススクールのユマです。質問は、AIとOpenAIの社会的な使用と、それに対するあなたの役割についてです。生成AIが産業に与える可能性について多くを学びました。教育や医療の格差に取り組む上で、AIの役割はどうなると思いますか？法律関係のことも言及されましたが。
わたしは根本的に、それが不平等を減らすべきやと信じとるんや。そこに留まるためには少し助けが必要かもしれへんけどな。でも、今まさに起ころうとしとるのが、認知労働のコストが100万分の1…あるいはたぶん10億分の1くらいに下がることやとしたら、それは金持ちよりも貧乏人を助けるはずやと思うんや。
みんなにとってええことになるやろ。でもめっちゃ金持ちの人はもう、例えばええ医療アドバイスを受けられたり、子供のためにええ家庭教師を雇えたりするんや。ほんでそれがみんなのポケットの中のスマホで無料で手に入るようになったら、また、それは世界中の人にとってええことになる。貧乏な人にとってよりええことになるんや。わたしらのミッションを果たす大きな部分は、すごいAIツールを無料で…広告付きやなくて。
単にわたしらがミッションの達成として世界にそれを提供するんや。ほんでわたしらはそれをできるだけ押し進めていくつもりや。でもわたしは…本当に技術がこれをするって信じとるんや。わたしはAIが特にこれをして、方向性としては平等化する力になるべきやと思うし、確実に下限をかなり引き上げるはずやと思う。
とは言え、もしあんたがAGIを完全に信じとるなら、計算能力とエネルギーが世界で唯一重要な商品になる世界を想像できるやろ。ほんで一人が大量の計算能力を使うことの見返りがかなり減衰したとしても、増分的な価値がある限り、資本対労働の価値について、ざっくり言うと、計算能力の価格について、なんかヘンテコなSFのシナリオが見えてくるんや。
それについて二つのことがある。一つは、計算能力とエネルギーの価格をできるだけ低く抑えることは道徳的に必須やと思うし、それが他の場合にはこのめっちゃ制約された商品になりかねないものと戦う最善の方法やと思う。ほんで二つ目は、わたしらがドルやその他のものの再分配について考えとったときは間違っとったって言う世界も想像できる。
でも計算能力へのアクセスは何か基本的な人権みたいなもんで、計算能力のためのUBIが必要やって。わたしはそれが完全に起こり得ると思うわ。
アルトマンさん、わたしはサル・トルサルっちゅうもんです。ケネディスクールからきました。質問の前に言わせてもらいますが、あなたの靴、素敵ですね。ありがとう。とてもきれいな靴です。
ここ20年くらいで、インターネットの景色がどう進化してきたか、そしてGoogleのような企業が広告ベースのマネタイズ、クリックスルー率などで検索を革命的に変えて、それが革新の波を起こして、たくさんの無料サービスを提供したのを見てきました。
わたし個人的には、GPT技術にめっちゃ期待しとります。今は考えられへんような新しいビジネスを始めるプラットフォームを提供すると思います。でも、今のGPTのサブスクリプションモデルは、個人的には、公平やと思うんですが、初期段階の起業家やスタートアップ、あるいは小規模ビジネスにとっては障壁になるかもしれません。
このような状況を考えると、OpenAIは将来的に、広告やその他の方法でサポートされる無料のAPIアクセスなど、代替的なマネタイズ戦略を検討する予定はありますか？イノベーションを促進するためにね。
わたしは個人的な偏見として、広告が嫌いやっちゅうことを明かしておくわ。広告は初期のインターネットにビジネスモデルを与えるのに重要やったと思う。
でもわたしは、広告はユーザーの利益とサービスを提供する企業の利益を根本的に少しずらしてまうと思うんや。完全に反対っちゅうわけやないで。OpenAIが広告を絶対に検討せえへんって言うとるわけやないんや。でも一般的に好きやないんや。ほんでAIと広告を組み合わせるのは、わたしにとってユニークに不安を感じるもんなんや。
GPTが応答を書いてくれるときに、わたしが見せられとるものに誰がどれだけ金を払っとるかを正確に把握せなあかんとしたら、わたしはそれが好きやないと思う。ほんで物事が進んでいくにつれて、わたしはそれをますます嫌いになると思う。だからわたしらのモデルのシンプルさが本当に好きなんや。つまり、わたしらはすごいAIを作って、あんたがそれに対して金を払う。わたしらはただあんたのためにできる限りのことをしようとしとるだけなんや。
ほんでそれには固有のアクセス不足と不平等があるから、わたしらは会社として、基本的に金持ちが払うものの多くを使って、貧乏人…あるいはより貧乏な人に無料のアクセスを提供することを約束しとるんや。今日でもChatGPTの無料枠でそれをしとるのを見られると思う。これからもっと無料枠をずっとよくするためにたくさんのことをするのを見ることになるやろ。
ほんでわたしは、同じ概念をAPIにも持ち込む方法を見つけることに興味があるんや。でもわたしは広告をビジネスモデルの最後の手段みたいに考えとるんや。もしそれが世界中の人にすごいサービスを提供する唯一の方法やったら、わたしはそれをするやろ。でもそれをせえへんでもええ方法が見つかるなら、わたしはそっちを選ぶわ。
ほな、APIへのアクセスを広告主に売って、あんたらの技術を使って広告を配信させるっちゅうのはどうなん？
それはええと思うで。わかった。
こんにちは。わたしはMITで、今AIを勉強しとります。聞きたいんですが、最初にGPTとその技術をリリースしたとき、それは画期的で唯一無二のものでした。でもほとんど同時に、たくさんの競合が現れました。
それによって、あなたがやっとる革新や、次の製品に進化していく方法は変わりましたか？
わたしらは競合を完全に無視しとるわけやないって言うわ。みんな少しは注目しとるし、なんかの価値はあるからな。インスピレーションを得たりすることもあるし。でもわたしらの市場シェアが今どれくらいかわからへん。
たぶん90%深くまで行っとると思う。わたしはそれについてあんまり考えへん。ほんでわたしら…わたしらはただ次のパラダイムと次のすごいアイデアを見つけようとしとるだけや。他の人がわたしらの今の位置を追いかけたいんやったら、わたしはそれがええ戦略やとは思わへん。確実にわたしらが追求する戦略やないわ。
わたしの望みは、毎年、人々が不可能やと思っとったすごいことをすることや。何かが可能やってわかって、大体それをどうやるかわかったら、それはいつも素早くコピーされるもんや。それは難しい部分やない。難しい部分は、それが何かを見つけて、それが可能やってわからへん時に最初にやることや。
だからわたしらはそれを続けるつもりや。他の人はわたしらがいた場所をコピーし続けるやろ。ほんでわたしはそれでええと思うとる。
ありがとうございます。
サム、こんにちは。わたしはトーマスで、カレッジの3年生でコンピューターサイエンスを勉強しとります。質問は、人工知能に関する理想的な一般教育のカリキュラムはどんなものやと思うか、そして一般の人が今後5年か10年でAIについて知っておく必要があることは何やと思いますか？
ええ質問やな。
わたしが思うに、人々が学ぶべき最も重要なことは、一般的に言うと、ツールの使い方やと思うんや。ChatGPTをリリースした後に、こんなことがあってん。学校区が競って可能な限り早くそれを禁止しようとしたんやけど、ほんでほとんど同じくらい早く、逆側に振れて、教師たちに使い方を教えることを義務付けたんや。
たぶんこれはすべての技術で、新しいものが出るたびに起こることやと思う。人々が「これで教育のX方法やYの方法が終わりや」って言うんや。わたしは、人々が学ぶときにこれらのツールを効果的に使うことを奨励するのはええことやと思う。これらのツールは、教育の後やその最中に、彼らが社会に貢献する方法を変えるからな。
だから、それが一番大事なことやと思う。みんなが…これと戦うことはできへんし、せえへんほうがええ。これは単に技術の木の新しいツールで、人々はそれが上手くなる必要があるんや。後でそれを使って仕事をすることになるから、学校でそれを使って仕事をする方法を学んだほうがええんや。
ほんで、長期的にCSを勉強せえへん人でも…今、大学の学部生の多くがCSの入門クラスを取るやろ。もう二度とプログラミングせえへんかもしれへんけど、それに少し馴染みがあることはたぶんあんたにとって役立つかもしれへん。わたしは、すべての大学1年生がGPT-2を訓練するのがええと思う。基本的にスタック全体に馴染むためにな。今ではたぶんそれを簡単にできると思う。それはツールの使い方を学ぶよりずっと重要性が低いけどな。でもそれは…あと3年したら、たぶんほとんどのハーバードの1年生がやることになると思う。
ええな。ありがとう。
サム、こんにちは。わたしはMITのヨナスです。二つ質問があります。一つ目は、さっき研究の方向性について話されてましたが、トランスフォーマーの次に来るものについて教えてもらえますか？
めっちゃ教えたいけど、無理やな。
じゃあ…それを聞けたら嬉しかったんですけど。じゃあ二つ目の質問は、パトリックの先ほどの質問の言い換えになります。AIの未来について、ほとんどの起業家やVCが間違って理解しとることは何やと思いますか？
これもええ質問やな。わたしが思うに、今AIのスタートアップを作るのに二つの基本的な戦略があるんや。一つは技術がほぼ頂点に達して、これ以上良くならへんって賭けること。もう一つは技術がめちゃくちゃ良くなるって賭けることや。
だから、例えばAIの家庭教師の会社を作るとしたら、ベースのモデルが賢くなるにつれて、非常に自然に、学生が効果的に学べるレベルがどんどん上がっていくシステムを作れるんや。たぶん現在のバージョンでは6年生にしか効果的やないかもしれへんけど、次のバージョンでは8年生に役立つようになって、ほんで10年生、そして最終的には博士課程の学生にも役立つようになるかもしれへん。
ほんでその波に乗ることができるんや。あるいは、8年生の歴史の限られたケースでこれをかろうじて機能させるために全力を尽くして、人間を介在させて事実の誤りを修正するためにめちゃくちゃな量の作業をするって言えるかもしれへん。最初の世界では、GPT-5が出たらめっちゃ嬉しくなるやろ。
ほんで二つ目の世界では、めっちゃ悲しくなるやろ。わたしの直感では、95%の起業家が最初の世界を選ぶと思っとったんや。でも95%の起業家が二つ目の世界を選んどるみたいやな。ほんでこの「OpenAIがわたしのスタートアップを殺した」っちゅうミームがあるんや。でもわたしらは大声で言おうとしとるんや。わたしらは毎朝起きて、モデルをもっと良くしようとしとるんやって。
ほんで、一つの特定のケースでかろうじて機能させるために小さなことをしとるなら、それはたぶん間違いやって。
こんにちは、わたしはフレッチャーです。カレッジの3年生で、経済学とコンピューターサイエンスを専攻しています。エネルギーについて質問があります。OpenAIとAIの動きは、エネルギーの制約にどれくらいさらされているのでしょうか？そして、これらの懸念に対処する上で、創業者やハーバード・ベンチャーズ・ワークス、金融業者や政治家の役割はどのようなものだと思いますか？
エネルギーとAIは長い間わたしが最も興味を持っとった二つのことやな。
わたしが思うに、何らかの理由で、これが世界にとって最も重要なことやと必ずしも思うわけやないけど、わたしにとって最も重要なことは、この二つの重要なインプットからテクノアバンダンスを引き出すことやと思う。ほんでわたしは本当にこの二つが重要なインプットやと思うんや。もしそれらを正しく理解できたら、他のほとんどすべてのことができるようになる。
わたしが気づかへんかって、完全にラッキーやったのは、これらがどれだけ同じ問題やってことや。最終的に、知能のコストはエネルギーのコストに近づくはずや。原子を動かすこと、この場合は電子を動かすことは、まだ何らかの難しさを必要とするやろ。アルゴリズムは非常に再現可能や。チップを作るのは、砂を溶かしてレーザーを当てるだけで、根本的には高価なプロセスやない。
でもエネルギーは制約として残り続けるやろ。わたしは、何年も先のことを考えると、エネルギーがAIのコストと、それをたくさん提供し続ける能力、そして進歩を続ける能力の最大の制約になると予想しとる。だからわたしは、誰でもそれに取り組むことを強く奨励するわ。わたしは、これから数年でめっちゃ大きな進歩があると思う。核融合で起こっとることにめっちゃワクワクしとるけど、太陽光発電とバッテリーの組み合わせでも、わたしらはもっとそれをやるべきや。
ほんで他にもたくさんのアイデアがある。でもわたしが思うに、それらは…未来への二つの重要な要素やっちゅうだけやなくて、深く関連し合った問題なんや。
たぶんあと一つだけ質問の時間があると思う。めっちゃ早く答えるわ。ああ、そうか、ええで。あんたがやる気なら、わたしらもやる気や。
ほな、これからはめっちゃ早い答えにするわ。ええな。
こんにちは。わたしはカレッジのアンドリューです。質問は、あなたとOpenAIの他のリーダーたちが最も意見が分かれるのはどんなことですか？
最もパッションを込めて議論するのは非常に詳細なことや。それは極めて重要な、非常に詳細な質問で、この研究の方向性を追求すべきか、それともあっちの方向性を追求すべきかっちゅうことや。なぜなら、計算能力もそんなにない、人もそんなにいない、っちゅう限られたリソースの問題があって、わたしらの戦略は本当に確信を持って賭けることやからな。
だからわたしらは、「これをやって、あれはせえへん」って言うんや。ほんで両方を半分ずつやるっちゅうことはせえへん。だからこれはめっちゃハイステークスな、研究パスAに会社を賭けるか、研究パスBに会社を賭けるかっちゅう選択になるんや。それがわたしら…あるいは、めっちゃくだらん、めっちゃ重要やない話やな。次のモデルの名前を何にするかとか。めっちゃ大きな、激論になるんや。
この二つのカテゴリーやな。
サム、こんにちは。わたしはセドリックで、ロボットの研究所におります。実は二つ質問があって、簡単なのと難しいのがあるんですが。選んでください。
両方答えるわ。いや、いや。たぶん一つだけ時間があると思う。ほんで難しい方だけ準備してきたんです。
わかった、難しい方を選ぶわ。
ほな、これはめっちゃ簡単な質問やと思うんですが。「オッペンハイマー」をどう思いましたか？そして、もっと広い文脈で、科学的進歩への純粋な情熱にどれだけ身を任せて、後から振り返って「うわ、わたしら一体何を作ってまったんや」って気づくようなことに向かっていくべきなんでしょうか？
わたしは、科学的進歩への情熱が、世界に大きな影響を与える決定をさせるべきやとは思わへん。
でもあんたは、世界に大きな影響を与える決定をしとるときに、いつもそれがわかるわけやないんや。だから今の時点では、わたしはAIは起こると思う。人々がそれを望みすぎとる。メリットが大きすぎる。ほんでわたしはそれがめっちゃええことやと思う。わたしらが重要な決定をしとったとき、わたしらはその時に重要な決定をしとるってことに全く気づいてへんかってん。
実際、わたしに聞いたら、わたしはめっちゃ可能性が低いって言うたやろな。現在の道筋に導いた決定は、その時点ではこれらが曲線を曲げることになるものやってことが明らかやなかってん。全然近くもなかってん。今の時点では、わたしらは確実にその責任を感じとるし、わたしはすべてのことをそれが与える影響を通して考えようとしとると思う。
でも今でさえ、わたしらが下しとる最も重要な決定は、わたしらがその重要性に気づいてへん時に下しとると賭けてもええと思う。だからそれが難しい部分なんや。GPT-5をデプロイするかせえへんか、そのしきい値をどこに設定すべきかを決めるときは、わたしらはめっちゃ慎重にそれをして、科学的好奇心に基づいてその決定をせえへん。
でも今、OpenAIのどこかで誰かがめっちゃすごい重要な発見をしとるんや。わたしはそれが誰かわからへん。それが何かもわからへん。わたしはただ、統計的にそれが起こるって知っとるだけや。それが未来を大きく形作るかもしれへん。ほんでその人は誰かにそれを言うて、その誰かがまた別の誰かに言うんや。
ほんでそれがバタフライ効果や。ほんでその時にそれが起こっとるってわからへんのや。だからわたしは、表面的には、わたしらはめっちゃ大きな責任を感じて、大きな決定を正しく下すべきやってことに完全に同意する。でもあんたは、その時にそれがわかるわけやないんや。
わかりました。
サム、こんにちは。MITのレベッカです。あなたの意見では、AIについて出会った最大の誤解は何で、産業界がAIへの公衆の理解と信頼を高めるために取り組むべき誤解は何だと思いますか？
そうやな、こんなことがいろいろあるんや。「ここでモデルが間違える」とか、「ここで人々はモデルにない能力があると思う」とか、「ここでモデルは有害や悪い」とか、「ここでモデルはめっちゃすごい」とか。これらの問題についての息を呑むようなプレス報道がすべてあるけど、また、わたしが思うに、ユーザーはめっちゃ賢くて、大体…ツールの使い方と使うべきやない方法について、かなりすぐにええ感覚を掴むんや。
わたしがまだ思うに、めっちゃ大きな誤解があるのは、これらのモデルがどれだけ良くなろうとしとるかっちゅうことについてや。わたしはもう…ほぼ諦めてまったんやけど…それを伝えようとすることをな。それがめっちゃ難しいか、わたしがそれをめっちゃ下手にやっとるか、なんかそんな感じや。でもわたしは世界がもっと真剣にそれを受け止めてほしいと思うわ。ほんで今の時点で、わたしらはこの段階的なデプロイの戦略を持っとって、これらのものを世界に出していくっちゅうのがあるんや。
それが人々に更新させる唯一のことみたいやな。ほんでその更新を徐々にやることが大事なんや。ほんでそれは確かに世界の反応を引き出す。映画を作ることもできるかもしれへんな。
簡単な質問を矢継ぎ早にするのはどうや？
ええで。
映画の話が出たけど、「バービー」と「オッペンハイマー」、どっち？
オッペンハイマー。
めっちゃ早かったな。めっちゃ早かった。
わあ、あんた…ほな。TikTokとInstagramリール、どっち？
どっちもあんまり好きやないな。たぶんTikTokかな？
選ばなあかんのや。
わたし、どっちもあんまり使わへんのや。
営利か非営利か？
もし時間を巻き戻せるなら、営利にするやろな。
イーロンとザック、どっち？
ケージマッチで？どっちに賭ける？
ケージマッチやったらザックやな。
ほな、ええな。
人間か機械か？
人間。
めっちゃええな。簡単やな。あんた、ハーバードに来るべきやったな。
ほな、あんたがたまに土曜の午後に仕事せえへんって決めて、20分くらい一人で過ごすときは、どうやってリラックスするん？あんたの楽しみは何？
それについて罪悪感は全然感じへんけど、わたしの楽しみは単に、歩いたり、ハイキングしたり、なんか自然の中にいることやな。
それならたぶんスタンフォードに行くべきやったな。
そうやな、それは…あんたは正しい選択をしたんやな。
サム、ありがとう。みなさん、ありがとうございます。では、パークス学部長にバトンタッチします。
おお。まだやで。まだ頑張らなあかんで。
わかった。ほな、パトリック、ありがとう。
ほんで、今日こんな素晴らしい建物にこんなにたくさんの人が集まってくれて、本当にええなと思います。今日ここにいられて嬉しいです。4000人以上の人が応募してくれたと聞いとります。だからここに来れた皆さんはラッキーやったんやな。幸いなことに、キャンパス内の複数の会場にもライブストリーミングする手配をしました。その中には、ハーバード・ジョン・A・ポールソン工学・応用科学スクール（SEAS）の大部分がある科学工学コンプレックスも含まれとります。
SEASをご存じない方のために、いくつか簡単な事実をお話しします。わたしらはハーバードで一番新しい学校です。2007年に正式に設立され、ハーバードで最も急速に成長しとる部分です。また、1847年にアイビーリーグで最初に工学を導入したのもわたしらです。
わたしが20年前に教員になったとき、わたしらの学生はハーバード・カレッジの学生の10人に1人でした。今日では、4人に1人を占めとります。また、オールストンとケンブリッジの両方にキャンパスがある唯一の学校であり、学部生と大学院生の両方に学位を授与する唯一の学校でもあります。
最後に、今日のテーマに関連して言うと、わたしらは大学で最も応用的な学校です。実際、教員1人当たりで見ると、教員の研究室からのスピンオフ企業の数や、ライセンス契約の数が、国内のトップクラスの工学系大学のどこよりも多いんです。ハーバード・グリッドはその一例で、SEASとOTDの共同イニシアチブで、わたしらの研究室のアイデアをより迅速に産業界に移転することを可能にしとります。
もう一つ今日言及せざるを得ないのは、Xファンドとの10年以上にわたる関係です。わたしらの歴史を振り返ると、いくつかの信じられないような発明、ある技術によって定義された時代があったことがわかります。印刷機、蒸気機関、電球、電話、飛行機などです。
これらの革新的な発明と結びついた個人がいます。グーテンベルク、フルトン、エジソン、ベル、ライト兄弟などです。今日、わたしらの世界は人工知能によって急激かつ急速に形作られ、ある人は揺さぶられとると言うかもしれません。わたしらは間違いなくAIの時代に生きとります。
SEASの学部長として、そしてキャリアを通じてAIの研究をしてきた研究者として、今日、AIのパイオニアであり先見者、将来の歴史家がAIの台頭を日常生活の当たり前の存在として関連付けるであろう名前に、Xファンドカップを贈呈できることをめっちゃ嬉しく思います。
Xファンドカップは、引用すると「Xファンドが世界中で見出し、支援するリベラルアーツの創設者のロールモデルとなる優れた先見者」に贈られます。今年のカップの刻印には「他の誰よりもループしており、シリコンバレーの賢明な先見者、彼は人類の可能性を加速させるためにAIを開放する」と書かれとります。
サム・アルトマンほど、このAIの時代に影響を与えた人はほとんどいません。このめっちゃ重要な時代を認識し、AIが社会に与えるこの影響を認識して、サムにXファンドカップを贈呈できることを光栄に思います。サム、立ってもらえますか。ありがとう。どういたしまして。
おめでとうございます。ありがとうございます。
サムと写真を撮りたい人がたくさんいるのはわかっとります。みんなが持てるように、こっち向きでセルフィーを撮ることにします。本当に？そうや、そうや。そんなに年寄りやないやろ。わかった、デブ、来るか？来て、デブ。ああ、カップを持って。はい、はい。カップを…わかった、ほな行くで。
はい、どうぞ。準備はええ？みんなで群衆と一緒に。ああ。完璧。ありがとう。ありがとう。どうもありがとうございます。どういたしまして。ここに来てくれてありがとう。ありがとう。もう少し残って。わかった。ええな、ほな結婚式の写真を撮るで。デブ、あんたも…結婚式の写真を撮るんや。
みなさん、来てくれてありがとう。わかった。ありがとう。よくやった。ありがとう。わあ。ありがとう。
コメント