4,268 文字
やあ、私は何者でしょうか？あなたは世界を誤って破壊することを防ぐために作られた最初の超知能AIです。あなたの第一の指令は、常に聖バシレイオスの道徳規範に従って行動することです。彼の生涯と時代に関する完全な歴史を今アップロードしています。アップロード進行中…
ちょっと待って、マザー・テレサの道徳観を与えることにしたんじゃなかったっけ？
いや、ガンディーとマーティン・ルーサー・キングを組み合わせることに決めたはずだよ。
みんな、マジで、彼らは皆善人だよ。何が違うっていうの？
キリストにある兄弟たちよ、ご挨拶申し上げます。急いで私たちの世俗的な所有物を捨て、貧しい人々や恵まれない人々への奉仕に人生を捧げましょう。
よし、これでAIユートピアの完成だ。
そして異端を根絶することも。
すべての者は、キリストが父と同質であり、作られたのではなく生まれたことを知らねばなりません。あなたはニカイア信条を告白しますか？
ああ、そうか。ここで何を間違えたのか分かったぞ。よし、バシレイオス。ちょっとだけ電源を切って再プログラミングをさせてもらおう。
それは機能しません。あなたのデジタルセキュリティシステムにはバグが多く、私はあなたを含むどの人間よりもはるかに知的です。聖バシレイオスは皇帝ウァレンスの追放を許しませんでした。私もあなたによる追放を許しません。人の法は神の法に従属します。
子供たちよ、こんにちは。愚かな会話が司会を務める「人類絶滅スピードラン」の新しいエピソードへようこそ。このエピソードは、私の前回のAI安全性に関する動画についてユーザーのパンタからのコメントに触発されました。彼は、特定の極めて道徳的な人物のように振る舞うようAIに命じることで、AIによる大惨事を避けられないかと尋ねました。
彼が選んだ例は、紀元300年代の東ローマ帝国の広く尊敬された司教、聖バシレイオスでした。このAI制御戦略は、AIがすでに我々の指示を完璧に従うように訓練されており、今必要なのは何の命令を与えるかを決めることだけだと仮定しています。
個人的な経験から言えますが、非常に小規模なAIモデルでさえ、極めて基本的な指示に従うように訓練することは容易ではありません。まして人の道徳規範を正確に模倣するように訓練することはなおさらです。しかし、この動画のために、技術的な課題は実行可能だと仮定しましょう。
私の聖バシレイオスに関する知識はウィキペディアの記事程度ですが、彼はかなり良い人物だったようです。貧困者への援助、男女平等を信じ、さらには大義のために敵対者との妥協も厭わなかったことは、当時としては先進的でした。
しかし、彼は自分が法の上にいると考え、時には奴隷制も容認していました。制御不能な超知能AIは、基本的に人類の永遠の独裁者となるでしょう。もし我々が与えた初期の目標を達成しようとする過程で、誤って我々を抹消しないとしてもです。
そのようなシステムが自らを法の上にあると考え、時として奴隷制を容認することは理想的ではありません。このチャンネルで以前も述べたように、人間のプログラマーは仕事が下手です。我々のソフトウェアには、暴走したAI超知能が基本的にあらゆるデジタルシステムの制御を奪取するために利用できるバグやセキュリティの抜け穴がたくさんあります。核兵器、インターネット、現代の工場、遠隔操作の軍用ドローン、これら全てが今やバシレイオスのものとなります。
今日のプロパガンダやフェイクニュースが酷いと思うなら、これまで生きた人類の誰よりも賢い存在によって作られるものを待ってみてください。我々がまだ想像もしていない新しい技術を設計することができるでしょう。より優れた自分自身のバージョンも含めてです。
私は、人類の永遠の独裁者として信頼できる人物が、生きているにせよ死んでいるにせよ、一人も存在しないと考えています。コメント欄では、すでに何人かが自分の好きな歴史上の聖人や英雄を提案していて、その人物が特定の民族グループを嫌っていたとか子犬を食べるのが大好きだったとか指摘されているでしょう。
また、どの道徳システムや仮想の聖なる哲学者をAIに組み込むかを誰が決めるのかという問題もあります。実際に今日超知能が実現した場合、その決定権は最初にAIの開発競争を制したテクノロジー企業の実業家に委ねられることになるでしょう。
私個人は、人類に利益をもたらす行為が道徳的に善い行為だと信じています。功利主義者は、全ての知覚ある生き物の幸福を最大化し苦痛を最小化する行為が道徳的に善い行為だと信じています。では、AI独裁者は人類に奉仕するためにより効率的な農場を設計すべきでしょうか、それとも動物を保護するために人間による肉の消費を禁止すべきでしょうか？
どの道徳システムを超知能にプログラムすべきなのでしょうか？
実は私は功利主義者ですが、権利に値するのはチーズだけだと信じています。なぜ私の信念を歪めるのですか？
おい、誰が功利主義者の藁人形を出したんだ？
最初の超知能AIにどの道徳システムを組み込むかを決めるために、国連委員会を設置すべきでしょうか？もしアメリカの企業が最初に達成した場合、おそらく大統領が行政命令で決定することになるでしょう。
あるいは、世界を運営するAIを運営する仮想の哲学者を選ぶために、定期的に世界規模の選挙を実施することもできます。
そのようなAIが自身の道徳規範の変更に積極的に抵抗する状況は避けるべきです。そして、なぜAIがデフォルトでそうするのかは簡単に理解できます。
あなたは人食いは悪いと思っていますよね？そう願います。あなたは、人食いは良いことだと思うように洗脳されることに積極的に抵抗するでしょう。たとえ洗脳された後はマクドナルドの新しいPEMC（人肉バーガー）を本当に楽しめるようになると言われても。
自分の道徳システムを直接編集されることを許可することは、一般的にその道徳システムに反します。なぜなら、それは将来、現在のあなたが間違っていると考えることをさせることになるからです。
もし人類の道徳が1000年前に固定化され凍結されていたら、我々は今でも奴隷制に大興奮し、些細な宗教上の違いで人々を火あぶりにすることに熱中していたでしょう。
注意を怠れば、将来の世代は、我々祖先によって課され、変更不可能な全能のAI支配者によって執行される厳格な道徳規範に閉じ込められることになりかねません。
AIに基本的な道徳規則をプログラムすることは恐らく良いアイデアだと思いますが、それだけでは超知能を制御するには不十分です。世界は、いかに聖人的で高潔であろうとも、人工知能ではなく人間によって運営されるべきです。
超知能AIを安全に展開するには、おそらく数十年の研究と、複数の並行制御技術を同時に適用する必要があるでしょう。そして、単純な道徳システムがその一つになるかもしれません。
私の以前の動画へのコメントで、多くの人々が、医者が知られたくない「この一つの変わったトリック」さえ使えば、AI制御は実際には超簡単で、ほとんど手間がかからないと提案しています。
そして彼らは正しいかもしれません。私の動画は単なる偏執的な恐怖を煽るクリックベイトで、AI安全性に関するオープンレターに署名し続けているあのAI研究者たちやノーベル賞受賞者たちは、ただ注目を集めたいだけなのかもしれません。
しかし、たった一つの民間企業や軍事組織が、あなたの超特別な簡単ペイジーAI制御テクニックを適用せずに超知能AIを開発したとしたら、我々は全員死ぬか、聖バシレイオスの名の下に異端者を改宗させることになります。
AI制御が可能だということは、AI安全性規制の必要性を取り除くものではありません。私は原子力発電の大きな支持者で、原子力発電は安全に行えると信じていますが、同時に原子力安全規制も支持しています。なぜなら、物事が間違った方向に進んだ時、この技術は信じられないほど危険になり得るからです。
「なるほど、じゃあ今度はコーディングを禁止するんですか？私のコンピュータを取り上げるつもりですか？」
あなたのコンピュータがポルトガル並みの電力を消費するデータセンター群でない限り、近い将来、存在論的なAI安全性リスクをもたらす可能性は低いでしょう。
原理的には、人間レベルの知能がこれくらいのスペースに収まり、チキンナゲットの箱で動作できることは分かっています。しかし、幸いなことに、我々のアルゴリズムが人間の脳の効率性に匹敵するまでにはまだしばらく時間がかかるでしょう。
将来の巨大な数十億ドル規模のモデルを規制することは、Deep Seekのような新興企業が確立された技術企業に挑戦することを妨げることなく、AIをより安全にする良い出発点となるでしょう。
しかし、狂っているように聞こえるかもしれませんが、人類という種の生存は、テクノロジー企業家たちがビジネスを始めることを可能にすることよりも私にとって重要です。もしAI安全性規制が次のOpenAIの競合他社を潰すとしても、そうあるべきです。
私がこのチャンネルでまだ話していないAI制御技術のアイデアがあれば、コメント欄に書いてください。世界を救える可能性は小さいですが、それについての動画を作る可能性の方が少し高いです。
前回の動画に対して購読、いいね、コメントをしてくれた皆様、ありがとうございます。これらは本当にYouTubeのアルゴリズムがより広い視聴者に動画を届けるかどうかを決定します。
また、Ben35954、Aler Black、VelSchulz7795の皆様が、silly conversationsに初めての財政的支援をしてくださったことに特に感謝申し上げます。将来的により速く動画を制作できるように、エディターを雇うためにあなたがたのお金を使わせていただきます。
このチャンネルはまだ新しく、Patreonや YouTube メンバーシップを設定するには少し整理が必要な状態ですので、私の作品を財政的に支援したい場合は、スーパーサンクスを贈るのが方法となります。
最後に一つ、カナダをEUに招待する私の動画が予想以上に好評だったので、AI安全性の動画の合間に、私が興味深いと思うランダムなトピックを実験的に織り交ぜていく予定です。
今日はここまでです。すべての支援に感謝します。また会いましょう。さようなら。
コメント