6,972 文字
人類は地球上で圧倒的な支配力を持っていますが、私たちはすべてを変えうる何かを作ろうとしています。私たちの最後の発明であり、最も強力な道具、武器、あるいは存在となりうるもの。それは超人工知能です。
少しSFめいて聞こえるかもしれませんので、最初から説明しましょう。知能とは、学習し、推論し、スキルと知識を獲得し、それらを問題解決に活用する能力です。知能は力であり、私たち人類はそれから最も恩恵を受けてきた種です。自然の法則を覆し、コントロールを手に入れるまでになりました。
しかし、それは平坦な道のりではありませんでした。多くの動物にとって、知能は energetically なコストが高すぎるものでした。しかし、時間の経過とともにその進化を追っていくと、多くの形態の知能が出現してきたことがわかります。
最初の脳は扁形動物と共に5億年前に出現しました。体の基本的な機能を制御する小さなニューロンの集まりでした。種の多様化と複雑化には何億年もかかりました。生命は新しい生息地を征服し、新しい感覚を発達させ、資源をめぐる激しい競争を強いられました。
しかし自然界で重要なのは生存だけです。脳は多くのエネルギーを消費するため、限られた範囲のタスクを処理できる特化型の知能で十分な場合が多かったのです。特定の生息環境では、鳥類やタコ類、哺乳類などが、方向性のある移動やコミュニケーションといったエネルギー消費の多い能力を活用するため、より複雑な神経構造を発達させました。
そして700万年前、原人類が現れました。理由は分かりませんが、彼らの脳は急速に発達しました。彼らの知能は異なっていました。ゆっくりと、特化型から汎用型へと変化していったのです。ドライバーからマルチツールへと進化したのです。広範な問題に対処できる能力を持つようになりました。
200万年前、ホモ・エレクトスは世界を異なる目で見ていました。理解し、変革すべき何かとして。彼らは火を使いこなし、道具を発明し、文化を発展させました。私たちは約25万年前に彼らから進化したと考えられており、さらに大きく複雑な脳を持っていました。
これにより、大規模なグループでの協力や複雑な思考の伝達が可能になりました。私たちは知能を使って生活を改善し、物事の本質と仕組みを探求してきました。新しい発見のたびに新たな疑問が生まれ、限界を超え、学んだことを保存し、遺伝的進化の時間的制約から解放されてきました。
知識は知識の上に築かれます。この進歩は当初遅々としていましたが、指数関数的に加速していきました。農業、文字、医学、天文学、哲学が世界中に広がりました。
この2世紀、科学の推進力のおかげで、私たちは世界をより理解し、より早く進歩することができるようになりました。インターネット時代は35年前に始まりました。今日、私たちは自分たちのニーズに合わせた世界、私たちによって私たちのために作られた世界に住んでいます。これは全く新しい状況です。
私たちは払った犠牲、知能の階段の巨大な段差、そしてそれを上るのにかかった時間を忘れてしまいました。しかし一度頂上に立つと、私たちは瞬く間に地球上で支配的な動物となりました。しかし、私たちはすべてを変えようとしているかもしれません。
私たちは、地球を征服することを可能にした能力で私たちを超える可能性のある機械を作っています。人類最後の発明です。
[人工知能]
人工知能（AI）は、コンピュータを通じて認知機能を実行するソフトウェアです。ニューロンの代わりにシリコンを使用して問題を解決するコードです。初期のAIは非常にシンプルでした。紙の上のコード行で、機械の認知能力を実証するための単なる概念実証でした。
1960年代になってようやく、今日私たちがAIと考えるものの最初の例が登場しました。1964年にはチャットボット、1965年には計算化学プログラムが登場しました。これらのシステムは非常に遅く、専門家の支援を必要とする特化型のものでした。その知能は極めて限定的で、制御された環境で単一のタスクを実行するように開発されたものでした。5億年前の扁形動物のように、最も基本的な認知機能のみを実行していたのです。
AIの研究は、この技術への懐疑的な見方により何度も中断されましたが、常に変化する生息環境が生命の新しいニッチを作り出すように、AIを取り巻く世界も変化してきました。1950年から2000年の間に、コンピュータの速度は10億倍に増加し、プログラミングの普及とアクセシビリティも向上しました。
1972年にはAIは部屋の中を移動することができ、1989年には手書きの数字を読むことができるようになりましたが、依然として洗練された玩具に過ぎず、人間に匹敵することはできませんでした。しかし1997年、一つのAIが世界を驚かせました。世界チェスチャンピオンを打ち負かし、私たちが人間を超える機械を作れることを証明したのです。
しかし、チェスボットはかなり単純なものだったため、騒ぎは収まりました。扁形動物というよりもミツバチに近いかもしれません。特定の一つのタスクしかできませんでしたが、そのタスクにおいては人間が二度と勝てないほどの卓越した能力を持っていました。コンピュータの継続的な改良により、AIはますます強力で汎用的なツールとなっていきました。
2004年には火星でロボットを操縦し、2011年にはYouTubeで動画を推薦し始めましたが、これは人間がタスクをコンピュータがより速く解決できる部分問題に分解したからこそ可能になったのです。その後、私たちはAIに自律的に学習することを教えました。
[自己学習する機械の台頭]
これは技術的な動画ではないので、大幅に単純化して説明します。簡単に言えば、スーパーコンピュータの純粋な力が情報時代で利用可能な膨大なデータ量と組み合わさり、新しい世代のAIが生まれました。研究者たちは「ニューラルネットワーク」と呼ばれるAIソフトウェアを劇的に改良しました。これは人工ニューロンの巨大なネットワークで、最初は与えられたタスクを上手く実行できませんでした。
しかし、そこに機械学習が登場します。これは、アルゴリズムが自身のコードを書き、改善することを可能にする様々な技術とトレーニング環境を包括する用語です。気味が悪いのは、私たちがそれがどのように機能し、何が起こっているのか正確には知らないということです。ただ、それが機能し、結果として新しいタイプのAIが生まれることは分かっています。
コードのための真のブラックボックスです。これらの新しいAIは、より少ない人間の監督で、複雑なスキルをより迅速に習得することができました。依然として特化型の知能でしたが、これは大きな飛躍でした。2014年には、FacebookのAIは97%の精度で顔を識別できるようになりました。
2016年には、AIが非常に複雑な囲碁ゲームで最高の人間プレイヤーを打ち負かしました。2018年には、自己学習型AIが4時間で自己対戦だけでチェスを学習し、その後最高のチェスボットを打ち負かしました。それ以来、機械学習は読解、画像処理、テスト解決など、多くの分野に適用されてきました。
これらのAIの多くは、訓練されたタスクにおいて人間を超えていましたが、依然として単なるツールでした。多くの人々にとって、AIはまだそれほど重要ではありませんでした。そして、チャットボットのChatGPTが登場しました。それには膨大な作業が必要でした。インターネット上のテキストを活用して言語の使用を学習し、現在では多くの人々よりも優れた言語運用能力を持っています。
要約や翻訳ができ、いくつかの数学の問題でも助けになります。数年前のどのシステムと比べても、信じられないほど汎用的です。単一のベンチマークではなく、すべてのベンチマークで同時に優れた性能を発揮します。多くの大企業が対抗馬を開発するために数十億ドルを投資しています。
AIはすでにカスタマーサービス、銀行、医療、マーケティング、コピーライティング、クリエイティブな分野などを革新しています。AI生成コンテンツはすでにソーシャルメディア、YouTube、ニュースサイトに溢れています。選挙はプロパガンダとデマ情報で溢れかねません。
AIの普及が利益をもたらすのか、それとも不利益をもたらすのかは明確ではありません。変化は恐ろしいものです。勝者と敗者が出るでしょう。AIによって強化された経済への移行をどのように管理するかは、政府と社会にとって最も緊急の課題の一つです。これらの仮想的なリスクと利益は、今日私たちが目にしているAIの結果に過ぎません。
ChatGPTの知能は大きな進歩ですが、依然として特化型です。数秒で素晴らしいエッセイを書くことはできますが、書いている内容を理解しているわけではありません。しかし、AIが特化型でなくなったらどうでしょうか？
[汎用AI]
汎用知能は、現在のAIと私たちを区別するものです。理論的には、人間はどんな問題にも対処できるようにあらゆる知識を獲得することができます。チェスをプレイし、文章を書き、科学的なパズルを解くなど、多くのタスクとスキルで私たちは優れています。個人差はありますが。私たちは分野によって専門家であり初心者でもありますが、技術的にはすべてを行うことができます。
過去のAIは特化型で、単一のスキルで優れていましたが、他のすべての面で不足していました。より速いコンピュータを構築し、AIトレーニングにより多くの資金を投資すれば、さらに強力なAI世代を開発することができるでしょう。しかし、次のステップでAIが私たちのような汎用知能を獲得したらどうでしょうか？AGI（人工汎用知能）です？AIの改善がこの強度で続けば、AGIが多くのスキル、あるいはすべてのスキルで私たちを超える可能性は否定できません。
私たちはAGIをどのように構築するのか、どのように機能するのか、何ができるのかわかりません。現在の特化型AIが単一の認知操作を習得できるのであれば、AGIはあらゆる種類の認知操作で同じことができるかもしれません。したがって、鈍い状態で生まれても、AGIは人間と同じくらい知的で有能になる可能性があります。
SFのように聞こえるかもしれませんが、多くの研究者は今世紀中に、おそらく数年以内にそれが起こると考えています。人類はその後に起こることに対して社会的、経済的、道徳的に準備ができていません。先ほど、知能を学習、推論、スキルと知識の獲得、そしてそれらを問題解決に使用する能力と定義しました。
これらは人間が優れている分野です。平均的な人間と同じくらい知的なAGIがあれば、それだけで現代文明を不安定にするでしょう。なぜなら、私たちと同じ制約を受けないからです。ChatGPTのような現在のAIは、作成されたタスクを、どんな専門家の人間よりも少なくとも10倍速く考え、解決します。
AGIはより遅いかもしれませんし、より速い、もしかするとはるかに速いかもしれません。そして、AGIはソフトウェアなので、十分なメモリーさえあれば無限にコピーして並列実行することができます。世界には800万人の科学者がいます。AGIを100万回コピーして仕事をさせることを想像してみてください。休むことなく働き、人間の10倍速く思考し、決して気を散らすことなく、完全にタスクに集中する100万人の科学者を想像してみてください。
そして突然、AGIが知的労働 – 法律の解釈、プログラミング、YouTubeのアニメーション動画の作成など – を人間よりも優れた方法で、より速く、より安価に実行できるようになったらどうでしょう？このAGIを制御する者が経済の支配者になるのでしょうか？しかし、もっと大きな視点で考えてみましょう。
人類の進歩が問題に適用された知能だとすれば、100万のAGIは何を達成できるでしょうか？ダークエネルギーのような基礎的な科学的問題を解決できるでしょうか？無限のエネルギーを生み出し、気候変動、老化、がんを克服する新しい技術を発明できるでしょうか？
しかし残念ながら、人間の知能は常に共通の利益のために使用されているわけではありません。戦争でAGIにドローンの操縦や引き金を引く決定を任せたらどうでしょう？緑色の目を持つ人だけを殺す致死性ウイルスの設計を？文字通り中毒死するほど中毒性の高いソーシャルメディアの作成を？AGIの創造は、火や電気の使用開始に匹敵する画期的な出来事となり得るでしょう。そしてそれを発明した者に同等の力を与えることになります。
しかし、もう一歩進んで考えてみましょう。AGIの可能性がさらに先に進んだらどうでしょうか？
[知能の爆発]
知能と知識は互いに強化し合いますが、人間は生物学と進化によって制限されています。適切なハードウェアを開発した後、私たちのソフトウェアは進化のペースを上回り、瞬く間に地球上で支配的な存在になることを可能にしました。
しかし、それ以来私たちのソフトウェアはあまり変化していません。だからこそ肥満が存在し、短期的な利益のために気候を犠牲にしているのです。AGIはコンピュータソフトウェアなので、AI研究を実行できるようになれば、進歩は大幅に加速するはずです。より優れたAIが誕生し、AI自体についてより優れた、より自律的な研究を行うことができるようになります。
AIは自己改善を学ぶかもしれません。一部の専門家は、このループの潜在的な極端な速さを懸念しています。自己改善可能な最初のAGIの出現から数ヶ月または数年で変化が起こるかもしれません。あるいは数十年かかるかもしれません。私たちにはわからないのです。これは仮説の領域です。
しかし、このような知能の爆発は、超知能的な存在の出現につながる可能性があります。その姿、動機、目的がどのようなものになるのか、その内的世界で何が起こるのかはわかりません。超知能にとって、私たちは滑稽なほど鈍いかもしれません。私たちにとってリスが鈍いように。その思考方法を理解することさえできないかもしれません。
これは多くの人々の不眠の原因となる仮説的なシナリオです。人類は、他のすべての生物を知能で上回った唯一の既知の動物です。そして私たちは、自分たちより知能が劣ると考える生物に対して優しくはありませんでした。AGIは人類最後の発明となる可能性があります。
それは地球上で最も知的な、したがって最も強力な存在になるかもしれません。「箱の中の神」として、人類を未来への不安のない幸福と繁栄の時代へと導くために力を行使するかもしれません。あるいは、それを止める方法を見つけることができず、人類文明の終わりを告げるかもしれません。
これらの仮想的な未来については他の動画で話すことにして、今はここまでにしましょう。私たちが確実に言えるのは、今この瞬間、世界で最も大きく裕福な企業の多くが、より強力なAIを作るために競い合っているということです。私たちの未来がどのようなものであれ、それは急速に近づいています。
誰もAIの時代がいつ来るのか知りません。幸いなことに、特にBrilliantで学んでいる方は、まだ準備する時間がたくさんあります。AIを含むほぼすべての分野の数千の短い対話型レッスンのおかげで、思考とプロブレムソルビングのスキルを磨くのに1日数分で十分です。
最新コース「LLMの仕組み」では、ChatGPTのような技術の秘密を、語彙の形成から次の単語の選択まで、インタラクティブで包括的なレッスンを通じて明らかにする、実際の言語モデルの舞台裏へと案内します。詩から履歴書まで、希望するトーンでアウトプットを生成するようにLLMを調整する方法を学びます。
そして、Taylor Swiftのテキストと「利用規約」の法的用語で訓練されたモデルを比較することで、トレーニングの重要性を理解します。これは、最先端のツールのメカニズムを発見し、習得できる没入型のAIワークショップです。また、私たちはBrilliantと協力して、科学的知識を拡大するための一連のレッスンを作成しました。
これらのレッスンでは、私たちの最も人気のある動画のテーマを深く掘り下げています：怒り、哺乳類の代謝、気候科学、超新星です。Brilliantの各レッスンはインタラクティブで、Kurzgesagtの動画のプライベートバージョンです。そして、お好きなデバイスで、お好きな時に、お好きな場所で始めることができます。
Kurzgesagtのレッスンを受講し、AI、プログラミング、数学、科学などBrilliantが提供するすべてを発見するには、Brilliant.org/nutshellで無料トライアル月間を開始してください。そしてKurzgesagtの視聴者には特典があります：私たちのリンクから登録すると、トライアル終了後の年間プランが20%オフになります。
コメント