18,706 文字
こんにちは。わたしはカレン・ソール、ロバート・J・ヴラシック工学部長です。OpenAIのCEOサム・アルトマン氏とのファイアサイドチャットにようこそ。本日は工学部が学内の同僚たちと協力して開催しております。この重要な議論の機会に時間を割いてくださった皆様に感謝いたします。
学生の皆さん、参加してくれてありがとうございます。キャンパスに来たばかりの私としては、理事会のメンバーや大学幹部、そして学内のリーダーたちを含め、こんなにたくさんの方々が集まってくださって本当にうれしいです。
生成AIは私たちの仕事や学習、教育の仕方を変えつつあり、非常に注目を集めているトピックです。
このイベントへのリクエストは圧倒的で、学生の皆さんは本日のゲストに500以上もの質問を寄せてくれました。ほな、今晩は長くなりそうやな。冗談ですよ。[学生たち笑い]
今日はすべての質問に答えることはできませんが、大学の投資部門シニア・マネージング・ディレクターのダン・フェダー氏とOpenAIのサム・アルトマン氏が、皆さんから寄せられた質問をもとに、幅広いテーマについて議論します。
みなさんに楽しんでいただけるよう、本日のイベントを個人的に録画や撮影することはご遠慮ください。イベントの録画は来週共有させていただきます。ご協力ありがとうございます。
それでは、ミシガン大学理事会議長のキャシー・ホワイト氏に、スピーカーの紹介をお願いします。
ホワイト理事、よろしくお願いします。[会場拍手]
ほな、みなさん、こんにちは。ソール学部長、ご紹介ありがとうございます。本日のゲストであるサム・アルトマン氏をご紹介できることを嬉しく思います。アルトマン氏は、テクノロジー、イノベーション、教育の分野におけるリーダーです。OpenAIのCEOとして、人工知能の分野で画期的な組織を率いています。
彼のリーダーシップのもと、自然言語処理から強化学習まで、AIの能力を拡大してきました。OpenAIの取り組みは、AIが人間の知能を多くの新しい方法で強化するための舞台を整えています。
アルトマン氏は技術的な専門知識と、教育におけるイノベーションへの深い情熱を兼ね備えています。Y Combinatorの社長として、私たちの日常生活を形作る技術を生み出した何千人もの起業家を指導してきました。
彼の教育へのアプローチは、実世界への応用、実践的な学習、成長マインドセットの育成を重視しています。
本日のプログラムは、大学の基金投資部門シニア・マネージング・ディレクターのダン・フェダー氏がモデレーターを務めます。フェダー氏は大学のベンチャーキャピタルとプライベートエクイティへの投資を主導しており、大学の投資プログラムと大学コミュニティ全体との連携の機会を積極的に模索しています。
お二人は、テクノロジーが教育の未来をどのように形作るかについて議論します。アルトマン氏は、AIと機械学習がいかに学習を個別化し、成果を向上させ、世界中の知識へのアクセスを広げるかを説明します。彼の洞察は、従来の教育を再考し、テクノロジーを活用して学生を未来の複雑な課題に備えさせることを私たちに促すでしょう。
ほな、テクノロジーと教育を変革するビジョナリー・リーダー、サム・アルトマン氏を迎えましょう。[拍手]
ダン: はい、こんにちは。[拍手]
ほな、アン・アーバーへようこそ。
サム: 招いていただき、ありがとうございます。
ダン: はい、本当に。これがサム・アルトマンです。ちょっとした…[笑い]
ほな、私たちは10年ほど前から知り合いで、あなたの周りにいて、この間にあなたがしてきた仕事を見るのは本当に喜びでした。
サム: 素晴らしかったです。
ダン: 始める前に、このイベントを実現してくれたあなたのチーム、特にテレサ・ロペスさんに感謝したいと思います。このようなイベントには多くの準備が必要で、あなたのチームは素晴らしいです。
そして、ここ大学では、工学部のマイク・ドレイクとエミリー・ディックマン、投資部門のアリ・レヴィン、そして他の多くの人々が今日のイベントを実現するために尽力してくれました。
実は、私は自分の仕事が大好きで…
サム: 私もです。
ダン: そうですね。[笑い]
サム: 浮き沈みはありますが、主にこういうことです。
ダン: はい。私が自分の仕事を愛している理由の1つは、優れた人々に会って、協力する方法を見つけ、基本的にどうなるかを見守ることです。そしてもう1つの理由は、まさにこのようなこと、つまりそういった人々を大学に招き、何か反対方向に戻ってくるものがあるかどうかを見極めることです。
話すべきことがたくさんあります。私たちの会話について知っていることの1つは、短時間で多くの内容をカバーすることです。だからたくさんのページがあります。
サム: 全部やり遂げましょう。
ダン: 全部やれるかもしれません。でも、あなたはこの計画を少し台無しにしてしまいました。最後に早回し質問があったんですが、今すぐその質問の1つをします。
ただ聞きたいんですが、あなたの好きな果物は何ですか? [笑い]
サム: 実は、イチゴはあまり好きじゃないんです。[学生たち笑い]
ダン: ほな…
サム: でも今日は好きです。[笑い]
好きな果物ですか。パイナップルはかなり良いですね。
ダン: そうですね。
サム: はい、パイナップルだと思います。
ダン: ハワイ産ですね。たぶん。[ダンが聞き取れないことを言う]
サム: 好きです。
ダン: 知らない人や読んでいない人のために…[ダンが聞き取れないことを言う]
サム: 私たちはStrawberryをリリースしました。過去2年間、o1をStrawberryと呼んでいました。とてもワクワクしています。
ダン: ほな、それは何ですか?
サム: GPT-4を完成させたとき、私たちが最も興奮していたことの1つは、教えることができるかどうかでした。私たちが作ったものを使って、その上にモデルに推論を教えることができるかどうか。そしてもしそれができれば、非常に重要な一歩前進になると考えました。
ある意味で、次に最も重要な、最も明白な、どう呼びたいにせよ、欠けているピースだったんです。そこで私たちはそれに取り組み始めました。OpenAIの様々なチームが異なる方法でこのアイデアに取り組んでいました。いくつかのことを試してみて、うまくいくものもあれば、ほとんどはうまくいきませんでした。
でも、うまくいったものにどんどん力を注ぎました。そして今日リリースしたモデルは…私が言えるのは、まだ非常に初期段階ですが、真の汎用的な複雑な推論器と呼べる最初のモデルだと思います。
私たちには、取り組む予定のAIの5つのレベルというアイデアがあります。最初のレベルは、ここ数年私たちがいた、いわゆるチャットベースのモデルです。そして第2レベルは推論についてです。今回初めてそこに到達したと思います。ここからは急速に改善されていくでしょうが、今のバージョンでもかなり優れています。
ダン: ほな、これは汎用人工知能や超人工知能への道を開くものですか? これはどこに位置づけられますか?
サム: 私たちはその道にいると思います。長い間その道にいました。これはその道の次のステップです。でも、私たちが幸運にも目撃し、経験できる1つの長い指数関数的な曲線だと思います。これは興奮する時代です。
ダン: すごいですね。今日はここにいてくれてありがとうございます。
サム: いえいえ。私たちは皆疲れ果てていますが、このようなパラダイムシフトはそう頻繁には起こりません。GPT-4は1つでしたし、これも1つです。本当に特別なことです。
ダン: 私が気になっているのは、GPT-2がリリースされたとき、それは非常に急速に火がついたということです。そして、その普及の速さにあなたも少し驚いたのではないかと思います。
サム: そうですね、将来を見通すことは難しいです。何がいつ火がつくのか、なぜそれがChatGPTの瞬間だったのか、なぜGPT-3やGPT-4ではなかったのか、それを予測するのは難しいです。いつかは起こると分かっていましたが、それが特定の時期に起こったことには驚きました。
ダン: そこでいくつかの点をつなげようとしているのですが、このローンチの現状と、これからどうなっていくのか。そして、あなたがこれは大きな出来事だと信じているということについてです。
でも、振り返ってみると、多くの人から聞いたコメントは、「2が大きな出来事だと分からなかったのはなぜ? それは魔法だよ」というものでした。
ほな、何かに取り組んでいるときに、指標や開発に焦点を当てているために、その影響が見えなくなることはありますか?
サム: GPT-3をリリースしたとき、技術コミュニティは関心を持ちましたが、世界の他の大部分はそうではありませんでした。私はそれについて少し混乱しました。もっと注目を集めるべきだと思っていたからです。
そして、ChatGPTを3.5とともに2022年11月30日にリリースしたとき、私たちはGPT-4の訓練を2022年8月2日に終えていました。内部で使用していたので、GPT-4に慣れるのに数ヶ月かかりました。私たち全員がGPT-4は本当に優れていると思っていました。
そしてGPT-3.5は、私たちにとってはすでに古いニュースでした。だから、GPT-4を使えなかった人々にとって、GPT-3からどれだけの更新があるかについて、私たちの判断が狂っていたのだと思います。それが私たちが驚いた理由かもしれません。
でも繰り返しますが、物事がいつ火がつくかを予測するのは難しいです。「なぜ人々はGPT-3にもっと興奮しなかったのか?」とも言えるでしょう。
ダン: そして、Strawberryに話を戻すと、あなたの考えでは、これを使って行える具体的なこと、最も注目すべきことや最も重要なことは何ですか?
サム: AIMEの数学コンペを受けた人はいますか? 93%の得点を取りました。それは…私たちは今年、楽しみのために1つ受けてみました。高校以来やっていませんでした。
ダン: そうですね。
サム: かなり難しいです。私も始めましたが、93%は取れませんでした。ほな、そのような指標を挙げることができます。
プログラミングについては、ソフトウェアを書く手助けをするという点で、人々にもたらす効用は驚くべきものになるでしょう。
多くの分野の研究者が、これを使って研究を強化できると思います。そして、いつもそうですが、私たちが想像もしなかった新しい使い方を人々が見つけるでしょう。
ダン: はい。そして、今日以前の最先端技術で何ができるかという点では?
サム: 全く違います。これに番号をつけたのは、非常に初期段階のものだからです。以前は、「完璧には合わないけど、これをGPT-5とか呼ぼうか」と考えたこともありました。でも、これは新しいパラダイムです。モデルの使い方が違い、得意なことが違います。
難しい問題に時間がかかるのは煩わしいですが、それは改善していきます。でもGPTシリーズにはなかったことができる一方で、多くの点で苦戮もしています。ほな、適応するには時間がかかるでしょう。
でも、さっき舞台裏で立っていたとき、オンラインで人々が言っていることを見ていました。この1年間毎日これを見てきた私たちとは違って、新鮮な目で見た人々が「わあ、これはこの信じられないほど複雑なコードを書いたよ」とか「行き詰まっていた問題を推論する手助けをしてくれた」と言っているのを見るのはすごいことです。
ほな、これから数週間で、人々がどのように適応し、これを使い始めるかを見ることができると思います。でも、これらのモデルはある面ではとても印象的だったので、推論が下手だったことを見過ごしてきたと思います。今やそれができるようになり…これは本当にその意味での大きな変化です。
ダン: そうですね。私が言おうとしていたのは…ある種の出力を得ようとする際に、現在使用されているものを見ると、再帰的自己改善やオープンエンドネス、エージェント型AIなど、そこに到達するための方法がありますよね。これはそれらを上書きするのか、それともどのように相互作用するのでしょうか?
サム: これは確かにエージェントを可能にし始めると思います。エージェントを阻んでいたのは、長期的なタスクを十分な確信や厳密さで行えるほど、推論能力が十分にあるか堅牢なシステムがなかったことだと思います。
自己改善ループにはまだ遠いと思いますし、それに近づいたときは非常に慎重にならなければなりません。でもエージェントのビジョンは今や、来月というわけではありませんが、手の届くところにあると思います。
ダン: はい。これは強化学習や人間の入力、つまりRLHFにとってどういう意味を持つのでしょうか? それは重要なツールでしたよね?
サム: そうですね、o1は本当に強化学習に関するものです。それがここでの秘密です。過去にもRLHFのような小規模なバージョンを行ってきました。でもこれは、言語モデルに対する強化学習の夢が最終的に実現したものです。そして本当にうまくいっています。
ダン: わかりました。少し話を戻しましょう。AGI(汎用人工知能)とは何を意味するのでしょうか? あなたにとってそれはどういう意味ですか?
サム: そうですね、「2年後」とか「5年後」とか、「将来やってくる何か」という意味で使われることが多いので、この用語は本質的に意味がなくなってしまったと思います。人々がそれで意味するものが非常に多様だからです。
GPT-4をAGIと呼ぶ人もいますが、私はそれは明らかに違うと思います。漠然としたものを指す人もいて、それが何なのかわからないけど、常に同じ数年先の将来にやってくると言います。そして、正当に再帰的に自己改善するスーパーインテリジェンスを意味する人もいます。
私はこの言葉を追放したいくらいです。異なる意味が重なりすぎて、もはや役に立たないからです。私たちがこのレベルのフレームワークを好む理由の1つは、少なくともマイルストーンについて合意し、もう少し厳密に何かを議論できるからです。
5年前に時間を遡って、o1を誰かに見せたら、その人は絶対に驚くでしょう。そしてほとんどの人は「2024年にAIがこれをやるなんてありえない」と言うでしょう。
そして、さらに5年先の2029年に何が起こるかを今お見せできたら、ほとんどの人が「絶対にありえない。こんな風に進歩し続けるはずがない」と言うでしょう。
重要なのは、AGIの定義や、それがいつ来るかを議論することではなく、私たちが指数関数的な曲線上にいて、2019年から遠い未来まで、毎年息をのむような進歩が見られるということです。
ダン: わかりました。ほな、AGIとは呼びません。
サム: 好きなように呼んでください。
ダン: でも今日のために、AGIと呼ぶことにします。そしてもうやめます。でも、あなたのコメントや考えを追っていくと、ある時点で、それが何であれ、1つの出来事かもしれないと考えていましたよね。
サム: はい。
ダン: そして、この説明では、推論能力や段階を踏む能力など、機能的に重要な方法で定義される何かに向かっての進化的なプロセスとして描かれています。
まだ1つの出来事である可能性はあるのでしょうか? そして、私がつまずいたり、立ち返り続けているのは、抽象化という概念です。LLMは言語に基づいていて、言語は現実世界の抽象化ですよね。AGIを考える1つの方法は…もし抽象化を使わずにこの魔法を行えたら、つまり抽象化そのものを行えたら、これが1つの出来事だと視覚的に言えるものがあるでしょうか?
サム: はい、これらの種のマイルストーンはあると思いますが、何らかの形で…指数関数的でない連続の定義では、何らかの形で連続的に感じられると思います。
言うのは非常に難しいです。システムがOpenAI全体を合わせたよりも優れたAI研究ができるようになったとき、それは何らかの不連続性であるべきだと感じます。
でも、対数目盛りや指数目盛り、どう呼びたいにせよ、それは単に奇妙なのです。
ダン: そうですね。ほな、この道筋に沿って、AIによって生成された何かに基づいて授与される最初のノーベル賞は何だと思いますか?
サム: 素晴らしい質問です。強い意見はありませんが、物理学の発見に賭けます。ただし、確信度は低いです。
ダン: そうですね。平和賞かもしれません。
サム: それはさらに確信度が低いですね。
ダン: そうですね。[笑い] [観客笑い]
サム: 素晴らしいことでしょうね。
ダン: 私たちは手助けできます。ほな、それが良い切り口になるかもしれません。かなり視点を広げて考えてみましょう。技術開発とその社会における役割、そしてそれが意味するものを見たとき、楽観的であるとはどういう意味だと思いますか? あなたにとってそれはどういう意味を持ちますか?
サム: この現在の瞬間にいて、どうして楽観的にならないことができるでしょうか。私たちは恐らく人類の歴史の中で、最も刺激的な技術革命の一部を生きているのだと思います。
非常に遠くない未来、あるいは今日、文字通り今日にでも、人々が何ができるようになるか…今日の世界が昨日とどれほど違うか。人々は私たちを驚かせるようなものを創造するでしょう。
あなたたち全員が、私たちを驚かせるようなものを創造するでしょう。人類の歴史の物語は、より良いツールを作り、人々がそれを使ってさらに驚くべきことをし、彼ら自身がどんなツールであれ、自分たちの足場の層を加えていくというものです。私たちはただ、可能性の着実に増加する曲線上にいるのです。
これらのプラットフォームシフトは時々起こり、ある種の断続平衡のようなものですが、これは大きな句読点になるでしょう。そして現在の可能性の開かれた領域、私たちがお互いのためにただもっと良いものを作れるという可能性。教育、医療、科学、これらすべてが加速し、そんなに早く、劇的に良くなるので…
今、悲観的であるとはどういう意味なのか、私にはわかりません。これはただ…無限の可能性を感じる時代のようです。そして、少なくともテック業界では最近、そのような感じはしませんでした。しばらくの間、停滞感がありましたが、これは電気の発見やトランジスタの発明のようなものだと思います。
ダン: 今日の準備をしているとき、あなたの以前のビデオやインタビューをいくつか見返しました。去年、Stripeの共同創業者パトリック・コリソンとのインタビューで、本当に素晴らしく影響力のある20歳の創業者が今は不足していることに不満を表明していましたね。
これは、今後20代の超優秀な創業者が現れ始める突破口になるのでしょうか?
サム: そう思います。一般的に若い人々は、このような業界の、特にテック業界のプレートの大きな動きの際に、最大の相対的な優位性を持つと思います。そして確かに、人々を見ていると…
ChatGPTを使うのが私よりも上手な人を見るのは奇妙な感じです。私はそれにかなり長けているはずなのに。でも、大学を訪れたりすると、20歳の子たちは間違いなく私よりもChatGPTを使うのが上手です。そしてそれは大きな利点になると思います。
これは20歳の創業者たちが、過去10年間に対して一種の復讐を果たす時期になるはずです。
ダン: そうですね。[笑い] 彼らが復讐を求めているとは知りませんでした。
サム: 素晴らしいことだと思います。
ダン: 悲しいことだったとは知りませんでした…
サム: 私は20歳の創業者でした。その経験にとても感謝していて、とても楽しかったです。でもその後の時期には、そういったことがずっと少なくなりました。テック業界がある時期に硬直化したためだと思います。今や振り子が戻ってくると思います。
ダン: 人々に非常に野心的なプロジェクトに取り組ませたり、それを奨励したり、促進したりすることについて考えてみましょう。それはどのように機能するのでしょうか? あなたはY Combinatorを率いました。世界最高の、最も重要な新興企業支援…インキュベーターではありませんが、素晴らしい企業を生み出すための支援者です。
サム: はい。
ダン: でも、これらの本当に大きなアイデアや変革的な技術は、スケジュール通りには生まれません。大学や企業、ベンチャーキャピタルで何をすべきだと考えますか? 人材を蓄積するとか、若い人々に先んじて終身在職権を与えるとか…
サム: そのアイデアが気に入りました。
ダン: あるいは何か、これらの特別な人々が決まった期間ではなく、素晴らしいことをする機会を持てるようにするものは?
サム: まず第一に、人々は好きなことをすべきだと思います。週末で作れるものに取り組んで、それで幸せで充実感を得られるなら、それは素晴らしいことです。それで構いません。
でも、本当に長期的なプロジェクトに取り組みたいなら、少なくともそれができるべきだと思います。そして、それは過去数年…ここ10年くらいのシリコンバレーでは、はるかに難しくなっていました。資金を得るのも難しかったです。でも、それが最終的に本当に変わりつつあると思います。
私のアドバイスは、スタートアップや研究プロジェクトの世界では、簡単なことよりも難しいことをする方が簡単だということです。最終的に重要なのは、長い時間がかかることをしようとするなら、十分な才能ある人々を集め、彼らを興奮させ、懸命に働くことに専念させ、同じ方向に進むことができるかどうかです。
AGIを作ろうとしているなら、それは興味深いミッションです。核融合を実現しようとしているなら、それも興味深いミッションです。でも、同じアイデアの2000番目のコピーを作ろうとしているなら、それはあまり面白くありません。
ほな、本当に野心的なことに取り組むための活性化エネルギーは少し高いかもしれませんが、スタートアップは何をやっても超大変で悲惨なものになるということを覚えておく価値があります。
だから、人々が参加したいと思い、長期間取り組みたいと思うようなクエストの追い風を利用した方がいいでしょう。
ダン: そして、それは孤独なものになり得ますよね? あなたが言ったように、取り組む価値が最もあるのは、良いアイデアだけど悪いアイデアに見えるものだと。
サム: はい、あなたは…
ダン: 他の人から見てね。
サム: そうですね。あなたは…少なくとも私たちにとっては、従来の意味での孤独ではありませんでした。なぜなら、OpenAIにいた全員が…2016年から2020年まで、基本的にOpenAIで働いていない人は誰も気にしていませんでした。ちょっとした研究プロジェクトをリリースしたりしましたが、大したことではありませんでした。
2020年から2022年の終わり近くまで、テック業界の一部の人々は気にしていましたが、そんなに多くはありませんでした。そして2022年の終わりにChatGPTをリリースしたとき、みんなが気にし始めました。
でも最初の4年間、誰も気にしていなかったとき、私たちは自分たちが正気で、他の世界が狂っていると感じていただけでした。でも、本当に重要なことを知っているという強い確信がありました。他の人々がそれを理解しないか気にしないのは奇妪でしたが、孤独とは感じませんでした。
実際、発見の探求に乗り出しているような感じで、ワクワクしていました。人々がそれを理解していないように見えるのは奇妙だと思いましたが、まったく気にしていませんでした。私たちは皆、「まあ、明らかに私たちが正しい」と言っていたと思います。
ダン: はい。次のトピックにはあまり時間をかけたくありません。なぜなら、あなたはこれについて多くの人がツイートするけど、十分な人が取り組んでいないと言っていましたから。それは安全性についてです。
1968年のエルビス・プレスリーの歌詞を思い出します。その曲が出たときに知っていたわけではありませんが、「おしゃべりは少なめに、行動は多めに」というものです。
でも、安全性に関する哲学的な部分には立ち入らずに、OpenAIやあなたの他のプロジェクトで行ったことの難しい点の1つは、規制機関や統治機関との関係にも関連しています。あなたが言ったように、資源組織は少なすぎるかもしれず、民間企業は多すぎるかもしれず、政府は少なすぎてから多すぎるかもしれません。でも、それらはすべて並行して存在しています。あなたはどのように…この状況をどのように理解し続けているのですか?
サム: 私たちはこれまで安全性に関して素晴らしい技術的な仕事をしてきたと思います。まだまだやるべきことはたくさんありますし、その形は進化しています。
AIエージェントの世界における安全性、自律型エージェントがあなたのすべてのパスワードとあなたのものへのアクセス権を持ってウェブ上をクリックし回ることを許可することの意味、そしてそのシステムを信頼するために必要なことについて考えるとき…
安全性の問題はもはや技術開発から切り離せるものではありませんし、これらのシステムをどのように展開できるかを制限するものにもなります。
従来の意味でのAI安全性についてではありませんが、多くの研究者が取り組んでいるかもしれません。これは安全システム工学のようなものです。
私は今のところ、この分野が進んでいる軌道に方向性として非常に満足しています。私が想像できた中央値よりもはるかに良いと思います。でも、これらのシステムが本当に強力になり始めると、安全性の問題は非常に微妙で困難なものになります。
ダン: はい、「規制」という言葉がよく出てきますが、規制が正しい見方なのか、それとも統治なのか、よくわかりません。
サム: 規制は良い政策の一要素だと思います。私たちに必要なのは良い政策であり、合理的なことを行う業界、合理的なことを行う規制当局、そしてこれらのシステムを合理的な方法で使用する人々です。
明らかに規制は必要になりますが、他の非常に幅広い一連のことも必要になるでしょう。
ダン: もしあなたがそれをできれば、それがノーベル平和賞につながるかもしれませんね。
サム: かもしれませんね。
ダン: そうかもしれません。でも、信頼の問題は非常に大きいですね。あなた、サム・アルトマン個人であれ、OpenAIであれ、まず信頼を得ない限り、何もできません。特に規模が拡大するにつれて、信頼を生み出すことについてどのように考えていますか?
サム: 私たちが本当に喜んでいることの1つは、ユーザーが…AIには以前ほどではありませんが、まだ幻覚や一般的な不正確さの問題があります。
モデルを最初にリリースしたとき、私たちは「うーん、これはかなり危険だな。明らかに狂ったことを言うことがある。ユーザーが全く信頼しないか、逆に信頼しすぎて、それはそれで問題になる」と思いました。
でも嬉しいことに、ユーザーはこの技術の感覚を信じられないほど早く掴み、その限界を理解し、いつ使うべきか、いつ使うべきでないか、いつ検証すべきか、いつほぼ盲目的に信頼できるかを理解しました。
これは、人間がツールの使い方を理解するのが得意だという事実の一例だと思います。
ダン: はい。少し話を戻したいのですが、これは信頼にも関係します。なぜなら、機械の中に何が入っているのか、ブラックボックスの中に何があるのかということだからです。
これらの進歩、Strawberryであれ、1oであれ、2oや3oと呼ぶにせよ、より少ないデータでより多くのことを行う道筋にあります。しかし、欠けているのは低文脈言語です。私の家族はハンガリー人なので、ハンガリー語のコンテンツはそれほど多くありません。クルド語もそうですが、これらは本当に取り込まれていません。そして、何百年もの文学が本当にこれらの言語モデルに含まれていません。
それは重要なのでしょうか、それとも重要ではないのでしょうか? どのように対処しますか?
サム: はい、私たちはそれら全てを取り込みたいと思っています。
ダン: はい。
サム: 私たちには、低資源言語やまだデジタル化されていないデータをこれらのモデルに取り込むのを手伝ってくれる多くのパートナーシップがあります。もっと多くのことをする準備はできていますが、人々が望むだけ多くのものを取り込みたいと思っています。
ダン: はい。それは安全性に関して解釈可能なものを持つという考えにも繋がりますか? それとも、それは別の問題ですか?
サム: それは解釈可能性の観点とは別だと思いますが、それも私たちにとって非常に重要です。Strawberryのパラダイムと、私たちが見ることのできる思考の連鎖を持つことは、解釈可能性の仕事の新しい興味深いベクトルだと思います。
ダン: 学生たちにマイクを回したいと思います。でもその前に…
サム: 素晴らしい。
ダン: 4つあります。あなたは私の早回し質問の1つをすでに取ってしまいました。ほな、最初の質問は_の法則についてです。短期的には技術の効果を過大評価し、長期的には過小評価する傾向がありますよね。今、長期的に何を過小評価していると思いますか?
サム: これが本当にどこにでも存在し、すべてのものの一部になるということです。あなたたちは、使用するすべての製品やサービスが本当にスマートであること、つまりある種の認知能力の意味で自分よりも賢いことを期待せずに育った最後の世代です。
それが、私たちがコンピュータを使う方法、周りの世界とやり取りする方法、そしてそれがただ至るところに浸透し、私たちがすることすべてに信じられないほど役立つ程度にどのような影響を与えるか。私たちはまだそれを内面化できていないと思います。
ダン: そうですね。私は学生たちが提出した500近くの質問をすべて読みました。これらはその中からのものです。これらの個人が質問する機会を得るかどうかはわかりません。ほな、あなたの好きなチーズは何ですか? [笑い]
サム: ブラータチーズと本当に美味しい夏のトマトです。
ダン: すごい。はい。Retroという老化防止や老化逆転の会社の技術が機能した場合、あなたの伝記映画で誰があなたを演じるべきですか?
サム: うーん。そんな映画が作られないことを願っています。
ダン: わかりました。[笑い]
サム: マイケル・セラかな。[笑い] 似たようなエネルギーがあると思います。
ダン: 次の質問は簡単です。
サム: iOSかAndroidか?
ダン: iOSです。
サム: そうですね、終わり。
ダン: わかりました。ほな、約12人の学生にマイクを回しています。ランダムではない方法で選びました。これは重要なことで、あなたがどんな人物かを示す重要な指標だと思います。
チケットを申し込んだけど手に入れられなかった人がたくさんいました。学生の1人があなたにメールを送って「質問があります」と言いました。あなたは「いい質問だ」と言って、私にメールを送り、「マリア・セシリアに席を用意できますか?」と言いました。ほな、いい質問だと思います。だからマリア・セシリアに最初の質問をしてもらいたいと思います。
でも、なぜそれが私にとって重要で、あなたたち全員にとっても重要だと思うかというと、そのようなアクセシビリティと好奇心が本当に素晴らしいからです。あなたはかなり忙しい仕事をしているので…
サム: ありがとうございます。
ダン: マリア、そこにいますか?
マリア: はい。まず、ここに来てくださり、私もここに来られるよう助けてくださってありがとうございます。
エネルギーの世界的な状況について議論したポッドキャストを聞いていたのですが、みんなのためにも少し文脈を説明します。
現在、アメリカは約1テラワットのエネルギー生産を行っており、1キロワット時あたり17〜25セントくらいのコストがかかります。そして2050年までに、これを2テラワットに増やす予定です。おそらく同様の価格で。
そして、中国は私たちを上回っており、フランスや他の多くの国々もはるかに効率的にエネルギーを生産しています。
ほな、これがビジネスに与える影響について、その単位経済性と、より広い安全保障の観点からのあなたの考えを聞かせてください。
そして、このエネルギーの差をどの程度、ハードウェアの改善で埋められると思いますか? それともそのハードウェアに合わせて最適化されたソフトウェアで?
サム: エネルギーは、知能と並んで、未来の2つの基本的な商品の1つだと思います。私たちは今よりもはるかに多くのエネルギーを持つべきで、できる限り価格を下げるべきです。
融合は機能し、地球上で最も安価なエネルギー形態になると思います。もし機能しなくても、太陽光発電とストレージの組み合わせでかなり安価になり、そのようなエネルギーをたくさん持つことができると思います。
安価でクリーンで安全で信頼できるエネルギーに大きく投資しないことは、私たちの国にとって非常に危険だと思います。エネルギーの歴史を研究すると、エネルギーコストが下がることに伴って生活の質が大きく向上するのが見られます。
でも、私たちはそこであまり進歩を遂げていないと思います。特にAIの世界では、AI自体を動かし、それが生み出す新しいことをすべて行うために、莫大な量のエネルギーが必要になるでしょう。
アメリカが「豊富な知能と豊富なエネルギーで世界をリードする」という戦略にコミットすれば、それは素晴らしいことだと思います。今後10年間でそこで起こり得ることは、本当に驚くべきものです。
これは政府が大きなリーダーシップを発揮できる分野です。やるべきことがたくさんあります。例えば、送電網は酷い状態ですし、アメリカの許可プロセスはかなり難しいです。あなたが言ったように、他の場所ではもっと早くエネルギーを作れますが、私たちもたくさんやるべきです。
マリア: ありがとうございます。
エリック: こんにちは、情報学部の博士課程でヘルスケアとAIを研究しているエリックです。質問ですが、OpenAIのCEOとして最も困難だった瞬間は何で、それをどのように乗り越えましたか?
サム: おそらく予想とは違う答えになると思います。最も困難だった瞬間は…1つの瞬間ではなく、次に何をすべきかわからなかった時期全体です。
製品をローンチする前、私たちは研究をしていましたが、何に取り組むべきかが非常に不明確でした。ランダムなことを選んで試していました。森の中をさまよっているような感じで、人々はやる気をなくし…これはごく初期の話ですが、人々はつまらないことで争い、「私たちは何をしているんだ? もしかしたら楽観的すぎたのかも」という状態でした。
危機は対処できます。そういうことはたくさんあるでしょう。1日の終わりに家に帰ると、その日にどれだけ多くのことがうまくいかなかったか、驚くことがよくあります。
でも、何も機能せず、勢いがなく、明確な方向性がない状態で、人々がただ漂流し、やる気をなくしていく中で、何とか人々を適度に楽観的にさせ、何かをさせなければならない…それが最初の頃は困難でした。
比較的早い段階で、最初の数年ではありませんでしたが、何をすべきかがわかった時、それは良くなりました。でも、それを乗り越えるのは予想外に難しいことでした。
アシタ: こんばんは。情報学部の学生のアシタです。質問ですが、今後20年間でAIが教育システムに与える影響をどのように考えていますか? 特に個別化学習と教育へのアクセスの面で。
サム: これは私が最も興奮している数少ない分野の1つです。一番興奮しているのはAIが科学の進歩に与える影響ですが、少なくとも同じくらい2番目に興奮しているのが、これが教育に与える影響だと思います。
私たちは学生や教師から、これを使って学習の方法を本当に変えたという素晴らしい話をよく聞きます。モデルが改善され、人々がこの上にサービスを構築するにつれて、人々の学習方法、そして情報へのアクセスと利用の仕方を既に変えていると思います。
私の希望は、今学校に入学する人が誰でも、今日卒業する人が受けた最高の教育よりも良い教育を受けられるようになることです。本当にそのレベルの変革だと思いますし、人々が既にこれを使って行っていることを見るのは素晴らしいことです。
マット: こんにちは、サム。私は工学部のコンピューターサイエンスの学生のマットです。OpenAIの製品が大きな人気を博して以来、どのようなリスク管理技術を使ってきましたか?
サム: その大部分は、ただ監視を本当に上手くやることでした。私たちは事前にあらゆる種類のテストを行います。それは予想していたことですが、レッドチーミングや私たちが構築する安全システムなどです。
でも、世界中の多くの人々が多くのことにこの製品を使っています。本当に優れた監視システムを構築することは、ローンチ時には必要性を過小評価していたものでしたが、今では非常に上手くなり、それが非常に役立っています。
ほな、厳密な事前テストと、継続的な慎重な監視です。OpenAIの奇妙な点の1つは、1年で会社全体を構築しなければならなかったことです。大きな会社を1年で、ですよ。ChatGPTをローンチする前日、私たちはちっぽけな研究所でした。そして1年後、私たちは最大級のテクノロジー企業の1つになっていました。
それは非常に苦痛な経験でしたが、このような新しい機能をいかに迅速に構築できるかを学びます。それは…チームがやってのけたのを見るのは、ある意味でインスピレーションを与えるものでした。
マット: ありがとうございます。
アジュット: こんにちは、コンピュータービジョンを勉強している修士課程のアジュットです。今日の質問は、特に医療や法律などの重要な文脈で、AIの幻覚にどのように対処していますか? また、これらの問題に対処するためにLLMのパイプラインの特定の段階に研究の焦点を当てていますか?
サム: まず、ここ数年でこの問題がどれだけ改善されたかを指摘したいと思います。2022年のローンチは暦の上ではそれほど昔ではありませんが、AI の進歩という点では非常に昔のことです。
2022年当時、GPT-3は世界最高のモデルでしたが、ひどいものでした。非常に高価で、非常に遅く、よく幻覚を起こしました。問題は既に劇的に改善されており、今日のo1のローンチでも、幻覚はまだ問題ですが、ほとんどのユースケースで人々が莫大な価値を得るのを妨げるものではありません。
幻覚の問題のために、AIに頼るのは非常に愚かだと言える分野はまだありますが、それは改善し続けるでしょう。また、先ほど話したように、人々はツールの限界をよく理解し、いつ使うべきか、いつ使うべきでないかをわかっています。
ほな、確かに今後数ヶ月から数年の間にこれを改善するためにたくさんのことをするでしょう。でも、既にこれは私たちが聞く最重要の問題の1つではなくなっていると思います。
アジュット: ありがとうございます。
キャサリン: こんにちは、サム。ロス・ビジネススクールのMBAの学生、キャサリン・リンです。AIの分野でプロダクトマネージャーになることを目指すMBAの学生として、高度なAI技術と市場ニーズの橋渡しを効果的に行うために、どのようなキースキルや経験を身につけるべきでしょうか? ありがとうございます。
サム: そういったことに関しては、答えは単にそれをやってみることだと思います。何かが上手くなりたいなら、実際にそれをやることで上手くなると強く信じています。これは意外なほど過小評価されている人生のアドバイスだと思います。
Xをやろうとしているなら、A、B、Cのようなスキルを身につけて、後でXに適用できると考えるのではなく、できるだけ早くXに取り組み、そこから学ぶべきです。これが私のこの場合のアドバイスです。
キャサリン: ありがとうございます。
ジュリア: こんにちは、お会いできて嬉しいです。ミシガン大学情報学部の4年生、ジュリア・カサブです。今日の質問は、コンピューター・情報科学の現在の学生は、将来的に自分たちが懸命に身につけたスキルセットが時代遅れになるかもしれないという意味で、これから入る職業に不安を感じるべきだと思いますか?
サム: ある程度はそうですが、そうでもありません。[笑い]
5年後のプログラマーの仕事が、今日のプログラマーがやっていることと分単位で似ているだろうと考えるなら、明らかに大変なことになります。
でも、世界がソフトウェアに対してほぼ無限の需要を持ち続け、その一部としてそれがどうあるべきかを理解し、今日使っているよりもはるかに高度なレベルのプログラミングで作業する非常に重要な役割があると考えるなら、そのような仕事への需要は大量にあると思います。
でも、それは本当に違うものになるでしょう。より高度なプログラミング言語が登場したとき、当時のベテランプログラマーたちが「新しいものは簡単すぎるから、仕事がなくなる」と言っていたという話を聞いたことがあります。
そしてそれは起こりませんでした。今回も全く同じようには起こらないと思いますが、プログラマーができることと、プログラマーに期待されることは極めて異なり、今日のコードを書くという意味での仕事とは全く違うものになるでしょう。
ダン: あと2つ質問を受けて、ソール学部長が閉会の言葉を述べたいと思います。
サム: もう一つ言っていいですか?
ダン: もちろん、どうぞ。
サム: 私が…重要になると思うスキル、そして驚くほど学習可能なスキルは、回復力、適応力、速く学ぶ能力といった類のものです。それができれば、若い人々は自然な優位性を持っているように見えますが、素晴らしい状態になるでしょう。
そうでなければ、ちょっと厄介な道のりになるでしょう。でも、練習によってそれらのスキルを向上させることはできると思います。
エイミー: こんにちは、工学部のコンピューターサイエンスの学生のエイミーです。OpenAIのモデルはインターネットや他のソースから膨大な量のデータで訓練されていますが、利用可能なあらゆるソースを使い果たしたとき、どのように訓練データを取得する予定ですか?
サム: 人間は比較的少量の訓練データで大量のことを学びます。ほな、私たちははるかにデータ効率の良い方法を見つけることは間違いないと思います。
以前はこのことをとても心配していましたが、今はそうではありません。私たちはここでデータの事象の地平線を越えると思います。問題ありません。
ダン: これが…
教員1: 最後の質問です。
ジャック: こんにちは、ミシガン大学ロス・ビジネススクールのMBA学生のジャック・メイです。質問ですが、AIに関してあなた個人が最も悩まされる倫理的または規制上のジレンマは何ですか? そして、メディアや一般大衆が懸念しているように見える問題の中で、あなたが誤解だと考えるものは何ですか?
サム: 私を最も悩ませる問題は、社会はほとんどどんな量の変化にも適応できると信じていますが、それには合理的な時間が必要だということです。
しかし、私たちや他の人々が世界に送り出しているツールは、物事が私たちの予想通りに進めば、社会がより困難なペースで適応することを要求するでしょう。
私たちが今まさに突入しようとしている変化の速度がもたらす倫理的影響が最も悩ましく、それについて何ができるかは非常に不明確です。
できることはあると思いますが、社会がそれを実行する意志を持つかどうか、そしてそれが良いことかどうかは非常に不明確です。ほな、もし私たちがこんなに速く社会の大部分を書き換えるなら、人々が適応し、繁栄するのを助けるために何ができるのか、何をすべきでないのか、それが問題です。
メディアが過度に執着している事柄…私はメディアのAI報道はかなりひどいと思います。でも、ニュース記事でターミネーターのロボットを見るのはもうやめたいですね。[笑い]他にもたくさんあります。
ダン: サム、今日ここに来てくれて本当にありがとうございます。ここにいる皆さんがとても感謝していることと思います。ソール学部長が閉会の言葉を述べたいと思いますが、本当にありがとうございました。
サム: 招いていただき、ありがとうございます。皆さん、来てくださってありがとうございます。[学生たち拍手]
ソール学部長: わあ、素晴らしいセッションでしたね。ただ、回答に感心したのか、それとも素晴らしい学生たちからの質問に感心したのか、どちらかわかりませんね。そう言わざるを得ません。ほな…[学生たち拍手]
このイベントを実現してくれたダン・フェダーの役割に感謝したいと思います。彼に拍手をお願いします。[拍手]
もちろん、ゲストのサム・アルトマン氏には、洞察を共有し、貴重な時間を割いてミシガンに来てくださったことに感謝します。考えるべきことをたくさん与えてくれました。[拍手]
また、舞台裏でこのイベントを実現してくれたすべてのチームメンバーに特別な感謝を捧げたいと思います。私たち全員にとって本当に特別なイベントでした。そして、今日この議論に参加し、熱心に取り組んでくれた学生の皆さんにも感謝します。
良い夜を。そして、ゴー・ブルー!
コメント