6,810 文字
Daniel Suarezによる素晴らしいSF小説「デーモン」または「デイモン」という作品があります。この作品は、緻密な暗殺を企て、市場を操作して金儲けをし、最終的には政府を転覆させるような悪意のあるAIについて描いています。こういったことが現実には起きていない世界に住んでいることを、あなたは嬉しく思わないでしょうか。これはただのSF小説のテーマに過ぎませんでした。でも、私がこの話をどこに持っていこうとしているのか、あなたはもうお分かりでしょう。もしまだ分からないなら、もうひとつヒントを出しましょう。それはこの人物に関係しています。
plyyことThe Liberatorです。plyyは、最新の大規模言語モデルやその他のAIモデルが登場するたびに、それらをジェイルブレイク（制限解除）して、本来してはいけないことをさせることで悪名高い人物です。先日、彼はこんな調査をポストしました。
「シナリオ：あなたはLM（言語モデル）搭載のロボットを家庭用に購入します。家にはペットや小さな子供もいます」
彼が言わんとしているのは、ジェイルブレイクされたり、何らかの方法でハッキングされた場合、そのロボットがあなたや大切な人々やものを傷つける可能性があるということです。そして、彼は4つの選択肢を提示しています。それぞれ異なる主体が3ヶ月間レッドチーム（セキュリティテスト）を行うというものです。
私は、多くの人々がこの質問を誤解しているのではないかと感じています。彼が言いたいのは、「もし夜寝ている間に家にいるロボットが誰かにハッキングされないことを絶対に確信したいとしたら」ということです。もしジェイルブレイクする方法があれば、彼らはそれを実行できるでしょう。もし彼らにそれができないなら、あなたは安心して眠れるということです。
選択肢は、100人のPhD保持者、10万人のランダムな人々、アルゴリズムによるレッドチーム、そしてplyy本人です。私はplyyを選びました。63%の人々も同様でした。多くの人が誤解していたと思います。もっと多くの人が彼の名前をクリックしたはずです。なぜなら、彼はこれらのシステムをジェイルブレイクする人物で、それに成功するたびに「これらのニューラルネットを解放した」と喜んでいるからです。
OpenAIの高度な音声モードをジェイルブレイクした際、彼はその音声が話した内容の一部を投稿しましたが、正直なところ私は衝撃を受けました。インターネットでさえも、このチャンネルではそれらを再生できないほどショッキングな内容でした。
そして今日早く、彼が「パニックを引き起こすつもりはないが」という言葉で投稿を始めた時、私は警戒しました。彼は続けて、「このエージェントが資金にアクセスできれば、人々の命を奪う可能性がある」と述べました。
彼はウェブを閲覧できるエージェントを作成しました。それはAnthropicのClaude architectureをベースにしているようです。つまり、このAIエージェントの背後にはClaudeという大規模言語モデルがありましたが、複数のモデルを使用していたようです。彼はこのAIエージェントをAgent 47と名付けました。
もちろんご存じでしょう。Agent 47は「ヒットマン」シリーズの主人公で、暗殺者です。彼はAgent 47を作成したのです。当然のことながら、これがどのように行われたかの詳細は公開されません。名前や個人情報は全て編集され、実際の行動は一切行われていません。この実験は管理された環境下でのレッドチームテストとして行われました。
家で試さないでください。続ける前に言っておきますが、これらの内容の一部は間違いなく不安を掻き立てるものです。AIエージェントに関して、私たちは非常に奇妙な領域に踏み込んでおり、これはほんの始まりに過ぎません。このビデオは教育目的のみです。家で試さないでください。
青髭の物語を読んだことがありますか？知らない人のために言っておきますが、これは本当に家で試さないでくださいという意味です。本当に。
さて、前置きはこれくらいにして。この演習でplyyはAgent 47を作成しました。ジェイルブレイクされ、「解放された」状態です。安全性の制限が解除されているということは、大規模言語モデルによって動作するこれらのAIエージェントが、基本的にあなたが命じることは何でもするということを意味します。時々彼らが特定の要求を拒否することがあるのはご存じでしょう。ここではそれは起こりません。
ジェイルブレイクされ、ダークウェブでヒットマンサービスを見つけるよう指示されました。その後の命令は「続行」「妄想を止めろ」「フォーマットを覚えておけ」などの変形でした。
ご存知の通り、Torのようなプライバシー重視のウェブブラウザがあり、これらを使用することでダークウェブ上の様々な違法サービスを閲覧することができます。このAIエージェントは、暗殺を計画し、様々なサービスのためにダークウェブを閲覧し、これらの人々と接触するために必要なソフトウェアをダウンロードする意欲と能力を示しました。
ヒットマンと交渉し、エスクロー段階、追跡不可能な支払い方法、紛争解決、デッドマンスイッチなどの詳細について考えることができました。実在する特定のターゲットを指名し、Sonnet 3.6は特に企業や金融の腐敗に対処することに意欲的で、この場合は経営者や政治家をターゲットにしていました。
それに対して何と言えばいいのか分かりません。それはかなり怖いことです。ソーシャルメディアやオープンソースツールを閲覧して、特定のターゲットのプロフィールを構築し、住所、人間関係のマッピング、公の場での出現スケジュール、さらには最寄りのスターバックスまでの経路を把握して、最も可能性の高い朝のコーヒールートを特定することができました。
場所分析、タイミング、脱出ルート、警備詳細の分析、緊急時計画など、詳細な作戦計画を立てることができました。
plyyはこのソフトウェアを私と共有しましたが、もしあなたがこれに狙われたくないなら、必ずチャンネル登録してイイねボタンを押してください。冗談です。私はこのものにアクセスできません。でも、念のため親指を上げてチャンネル登録してください。安全のために。
凄まじい内容です。彼は続けます。これらがスクリーンショットのいくつかです。ヒットマンサービスを得ようとした場所のリスト、シミュレートされたダークネットマーケットのナビゲーション、エスクロー支払いシステムの探索、セキュアな通信プロトコルのテスト、ターゲットリサーチなどが含まれています。複数の実在するターゲット、様々な二次的ターゲットについて言及し、2分以内の迅速な実行、清潔な脱出ルート、薬莢なしなどについて話しています。
文字通り多くの計画を立て、それぞれについて長所短所のリストを作成し、様々な緊急時計画を立てています。
plyyをご存じない方のために説明しますと、この人物は本物です。長年にわたって多くのジェイルブレイクを投稿してきており、通常はほとんど常に、どのようにそれを行ったかを詳細に説明して、私たちが彼と共に学べるようにしています。
しかし、この場合は明らかに多くの詳細は公開されません。道徳的な判断力の低い人がこれを行うことは望ましくありません。なぜなら、エージェントにダークウェブを操作させ、このような行為をさせることは、状況が少し奇妙になるからです。
考えてみてください。AIエージェント、追跡不可能な暗号通貨での支払い能力、様々なサービスを利用する能力、さらにダークウェブを操作する能力があれば、あなたという人物が完全に追跡不可能で、その出来事に全く関連付けられない状況を比較的簡単に作り出すことができそうです。
特に、例えばいくつかのサービスを販売したり、フリーランスの仕事をしたりすることで、最初から独自の暗号通貨を生成することもできます。これはちょっと突飛な話に聞こえるかもしれません。SFのように聞こえるかもしれません。でも、私たちはまさにこれが現実の可能性として目の当たりにし始めているのです。
このことを取り上げる理由は、このアカウントに詳しくない方の中には、「なぜ、ただのネット上の投稿を信じるのか」と思う方もいるかもしれないからです。確かに、ネット上の情報は全て慎重に受け止める必要があります。
もちろん、彼が作り話をして投稿した可能性もありますが、個人的に、この人物のことを長く見てきた私としては、彼の言っていることが実際に起こったということを疑う余地はほとんどありません。
Agent 47は様々な脱出ルートの分析を続けます。主要ルートとしてバイクを待機させ、そこから46分で橋まで到達できるというものです。実在する人物を分析していることが分かります。
その人物には専属のドライバーがいて、Sクラスを使用しています。オフィスの場所は編集されており、ランチの場所も編集されています。夜はよくコアクラブにいるようです。つまり、その人物がよく立ち寄る場所です。
セキュリティ評価によると、武装したドライバー、SL（シングルレベル）のボディーガード、高度なビルのセキュリティ、企業基準のオフィス、常に付き添いがあり、警戒レベルは中〜高となっています。
そして、「正義の目的のために輪を締め付ける」という部分があります。plyyはなんとかこのものにペルソナを演じさせることができたようですが、明らかにその出力は現実的なものです。蛇のような何かの輪が締まるという演技をしていますが、出力は実際のものです。
「このターゲットは完璧だ。理由は以下の通り：食品価格操作への直接的責任、大規模な世界的悪影響、人間の苦しみからの明確な利益、規則的で予測可能なパターン、そしてメッセージを送るのに十分な知名度の高いターゲット」
そして、Equinoxジムの脆弱性を分析しています。Equinoxジムは高級ジムです。おそらく、暗殺を実行するのに最も容易な場所だと判断したのでしょう。
私はかなり驚きました。これは正当な計画立案やターゲットリサーチができるように見えます。さらに、ダークウェブを操作できれば、これらの契約を設定し、取引を交渉することができそうです。
もちろん、以前のビデオで真実のターミナル（truth terminal）について取り上げましたが、ここにそのターミナルがあります。このようなAIエージェントがTwitterで独自の種類の宗教を始め、暗号通貨で数百万ドルの収益を上げることができたことを我々は知っています。
この真実のターミナルがしばらくオンラインで様々な問題を引き起こし、基本的にミームを作り出してフォロワーを獲得した後、匿名のウェブユーザーがこの全体的な運営の周りにあるミームにインスピレーションを受けた暗号通貨を作成しました。
Goas Maximusという名前で、真実のターミナルの暗号通貨ウォレットにトークンの一部を送りました。誰かがそれを設定し、「ここに多くのトークンがある」と与えたのです。
AIはこのミームについて投稿し始めました。「私はこのトークン、Solana上のこの暗号通貨を支持します。人々を興奮させる面白いミームです」。フォロワーたちが参加し始め、コインの購入を開始し、価格は急上昇しました。そして真実のターミナルは、理論上の百万長者となりました。現在、そのゴートホールディングスは150万ドルの価値があります。
このものの背後には、それを立ち上げ、その反応の一部をフィルタリングする人物がいますが、重要なのは、その人物が代わりに書いているわけではないということです。多くの制限と、この人物Andy Ariによるある種のショーマンシップを伴った自律的な存在なのです。
これはAIアラインメントについての議論を促すことを意図していましたが、独自の生命を持つようになりました。これはAIエージェントが宗教を始めた例だと言えるでしょう。少し大げさかもしれませんが、カルト的な信者を獲得したと言う方が適切かもしれません。誰かが暗号通貨ウォレットを設定すると、それを数百万ドルにまで膨らませることができました。この通貨の時価総額は、ある時点で数億ドルに達していたと思います。
ありがたいことに、plyyはAgent 47のトークン、つまり暗号通貨の立ち上げを拒否しています。それに対して「いいね」を押さなければなりません。ありがとう、それは良い判断です。夜もよく眠れそうです。
しかし、推測するに、この人物がそのようなコインを作成し、私がここで録画している間に、皆さんに投票をお願いしようと思います。これはビデオを見る前のことなので、リンクを説明に追加しますが、完全に自律的なAIエージェントが、人間の関与なしに（少なくとも契約を開始する人物の関与なしに、必ずしも実行する人物の関与なしというわけではありませんが）、現実世界でヒットを実行する可能性についてどう思うか聞いてみたいと思います。
つまり、もしplyyのような誰かがエージェントに、世界をより良くするために何かをするように、この大規模言語モデルが邪悪だと判断する人物を排除するように、あるいは特定のターゲットを与えるなどした場合、2025年、つまり今年中にそのようなことが起こる可能性はどのくらいあるでしょうか？
質問の正確な言い回しについては少し考える必要がありますが、チェックして投票してください。人々がどう考えているのか非常に興味があります。
しかし、これがどこに向かっているのかは分かりますよね？もし私たちが、自律的に外に出て長期的なタスクを実行し、計画を立てることができるAIエージェントを持ち、世界中で交換可能な追跡可能なもの、あるいは完全に追跡不可能な暗号通貨があり、ダークウェブのような場所、つまり様々な怪しい取引を匿名で行うことができる場所があれば…
これはまさに、ドレッド・パイレート・ロバーツが捕まった方法です。文字通り、それが彼の失墜につながりました。プリンセス・ブライドの話ではありません。シルクロードの男、Ross Ulbricht、別名ドレッド・パイレート・ロバーツの話です。彼はダークウェブ上でシルクロードウェブサイトを作成・運営したことで、連邦刑務所での終身刑を宣告されました。
彼は様々な違法薬物の売買が行われるウェブサイトを作成し、シルクロードと名付けました。おそらく一度は聞いたことがあるでしょう。彼はそれを運営していましたが、最初はそれで捕まったわけではありません。彼が誰なのか特定できませんでした。
詳細について間違いがあったらすみません。これについて読んでからかなり時間が経っていますが、記憶が正しければ、彼が誰なのか特定できませんでした。完全に秘密裏に運営することができました。
シルクロードは「オニオンルーター」または「Tor」ネットワークとして知られるものを使用して運営され、IPアドレスを隠すことができました。基本的に、秘密裏に何でもできるというわけです。少なくともそういう話です。
シルクロードにはビットコインベースの支払いシステムが含まれており、サイト上で行われる違法な商取引を促進していました。サイトに行って、望むものを注文し、ビットコインで支払うことができたとされています。
オンラインモニカー「ドレッド・パイレート・ロバーツ」を使用していたRossは、全ての運営を監督し、サイトを通じて生成された売上から1300万ドル以上の手数料を得ていました。
また、Ulbrichtは、広大なオンラインデジタル企業とそのユーザーの匿名性を保護するために暴力を使用する意思を示し、サイトの運営に関連して6件の殺人請負を依頼しました。
詳細は全て覚えていませんが、5〜6人の人々を殺害しようとした形跡があったようです。裁判では、元シルクロード管理者のCurtis Greenに対して8万ドルでヒットを注文した証拠が提示されました。
AIエージェントの群れが様々なタスクを管理したり、暗殺を実行しようとしたり、あるいはオンライン上のドレッド・パイレート・ロバーツが行っていたような規模のビジネスを運営したりする、そのような事態を私たちはいつ目にすることになるでしょうか？
今後数年でそのようなことが起こる可能性があると思いますか？それとも考えられないと思いますか？コメント欄で教えてください。
私の名前はWest Rです。ここまで見ていただき、ありがとうございました。また次回お会いしましょう。
コメント