8,584 文字
AIの分野では、私たちは既にAGIを達成したか、少なくともすぐに達成するだろうと言う人がますます増えています。そして、その多くが超知能を視野に入れています。例えば、サム・アルトマンのブログ記事「Reflections」からの簡単な引用を紹介します。彼は「私たちは従来理解されてきたようなAGIの作り方を確実に知っているわけではありません」と述べています。サムがAGIをどのように定義しているのか気になる方のために、最新のインタビューで彼が述べた定義を紹介します。非常に大まかな考え方として、重要な仕事で働く熟練した人々ができることをAIシステムができるようになった時、それをAGIと呼ぶと彼は言っています。
では、AGIが到来したとき、人間はどうなるのでしょうか。家族の食事のために給料や賃金に頼って生活している労働者たちはどうなるのでしょうか。それはまだ議論の余地があります。私は様々な視点を提示しようと試みており、最近では良い意見や、かなり野心的でポジティブな意見もいくつか見てきました。
このポストは私の目を引きました。L Rudolphのサブスタックに投稿された「Capital AGI and human ambition」という記事です。結論を先に言うと、この記事の主なポイントは次の通りです。サム・アルトマンが定義するようなAGI、つまり労働力を代替するAIは、人間対非人間の生産要素の相対的重要性を変化させ、社会が人間に関心を持つインセンティブを低下させる一方で、既存の権力をより効果的で揺るぎないものにするということです。
多くの人々がAGI以降はお金は重要でなくなると言っていますが、著者はこれはおそらく完全に間違っていると考えています。
まず第一に、労働とは価値のあるものを生み出す人間の精神的・肉体的努力のことです。Xboxやベーコンなどの製品がその例です。主にXboxとベーコンですが。一方、資本財とは、工場やデータセンター、ソフトウェアなど、人間が構築した、商品やサービスの生産に使用されるものです。つまり、他のものを作るもの、私たちが好む価値のあるもの、例えばXboxやベーコンを作るものです。
彼はここで「資本」という言葉を、資本財のストックとそれらを購入するために支払うことができるお金の両方を指すために使用しています。お金について言及する時は「マネー」という言葉を使います。
ここで重要な文があります。AIの主要な経済的効果は、資本が労働のより一般的な代替物になっていくということです。つまり、ロボットや何らかのAIソフトウェアにその仕事をさせることができれば、人々に賃金を支払う必要がないということです。お金があれば、人間の労働力は必要ありません。
彼はこう述べています。「私はこの結果について説明し、最終的に以下のような結論に達します。労働力を代替するAIは、現実世界での結果を生み出す能力を劇的に向上させる一方で、人間が現実世界で力を振るう能力は、少なくともお金がなければ劇的に低下するでしょう。なぜなら、国家、企業、その他の機関が人間に関心を持つインセンティブがなくなり、人々が初期リソースに比べて突出した成果を上げることが難しくなるからです。抜本的な平等化措置は起こりそうにありません」
彼は次のように結論付けています。全体として、これは変革的なAIの見過ごされているデメリットを示しています。社会が永続的に静的になり、現在の力の不均衡が増幅され、不変のものになる可能性があるということです。
サム・アルトマンは2021年3月16日に、「すべてのことに対するムーアの法則」と呼ばれる同様の分析を投稿しました。それは私たちが読んでいる他の投稿と非常に似た形で始まります。アルトマンは言います。「考え、学習できるソフトウェアは、現在人々が行っている仕事をますます多く行うようになります。公共政策が適切に対応しなければ、さらに多くの力が労働から資本へと移行し、ほとんどの人々は今日よりも悪い状況に陥るでしょう」
このことを念頭に置いておいてください。彼らは同じような前提から始めているのです。初めの議論は同じです。AIとロボット工学は、人間の労働コストを削減します。もしそれが野放しになれば、より多くの力が労働から資本へと移行するでしょう。
次に、彼は起こり得るいくつかのシナリオについて説明します。一つは、AIによって一部の裕福なアメリカ人が極端な富を築き上げる一方で、世界的な物質的貧困が終わりを迎えるというシナリオです。また、世界の人口の大部分が実質的に力を失い、物質的な快適さえも問題になる可能性があるという動きもあります。
彼はこう述べています。「これらのシナリオで私が最も感情的に動かされるのは、支配階級が固定化された静的な社会は、私には活気や生命力がないように思えることです。できることなら、人間の野心を殺すべきではありません」
では、デフォルトの解決策は何でしょうか。まず、AIによって人間の労働コストが低下すると仮定します。これを労働代替AIと呼びましょう。
結果として生じる失業問題に対する標準的な解決策には2つのレベルがあります：
ユニバーサル・ベーシック・インカム（UBI）のような制度を採用する
すぐに超知能に到達し、その超知能が整列されていると仮定すれば、すべてが可能な技術的なワンダーランドである後スカーシティ社会に入る
もちろん、価格はまだ存在するでしょう。なぜなら、それは主に情報を伝達することに関係しているからです。たとえすべてがAIによって管理されていても、人間が気づいていなくても、何らかの価格シグナルは依然として存在するでしょう。
また、豊かさにも限りがあり、したがって配分が必要であることを覚えておいてください。例えば、土地や、人々は海辺に住むことを好みますが、海岸沿いの不動産には限りがあります。したがって、価格設定やその他の解決策が必要です。
次に、彼は現在、お金では才能を買うことが難しいという事実について語ります。特にテック業界では、非常に大きな契約や高額な給与があっても、トップレベルの才能を獲得するのは困難です。才能を判断するのは難しく、才能は稀少です。たとえ見つけることができても、トップレベルの才能は他の人々よりもお金で買収されにくい傾向にあります。
労働代替AIによって、これらの問題は解消されます。才能の価格は大幅に下がるでしょう。AIは同等の人間の労働力よりも安価になり、より良いコピーを作るための競争は激しくなるでしょう。お金を才能に変換する最後の大きな障壁は、トップレベルの才能が複雑な人間的な選好を持っているということです。彼らには選択肢があります。
対照的に、AIは特に簡単に買収できるように存在します。ほとんどの人々の力と影響力は、労働から、つまり給料を得ることからお金を得ることから派生しています。
次に、彼は「なぜ国家は親切なのか」について語ります。過去数世紀の間に、人間の福祉を気にかける国家への大きな変化がありました。なぜでしょうか。それには道徳的な変化があり、豊かさと技術は、より多くのもの、より多くの商品、より多くの基本的な商品を生産できることを意味します。また、国家が自由、繁栄、教育に関心を持つインセンティブもあります。
もちろん、これは国家が経済的に競争力を持つために必要だったからです。効率的な市場、良い教育システム、熟練労働者などが必要でした。これを封建制度と対比してみてください。封建制度では、勝利の戦略は、文盲の農民の人口を支配する搾取的な上流階級を作り、近隣の国家との戦争に勝つために搾取された地代の大部分を費やすことでした。そうですね。
ここでの主なポイントは、労働代替AI以降、国家はもはやその競争上の優位性を得るために人間にリソースを費やす必要がなくなるということです。また、人間は国家に対する影響力も少なくなります。ストライキを起こすこともできず、10年後や数十年後により強くなるために政府に投資を要求することもできません。
ここでのポイントは、私たちは現在持っている国家の善意、現在行使している力を確実に固定して、それが将来失われて封建時代に逆戻りすることがないようにする必要があるということです。
もちろん、労働代替AIは、様々な才能ある興味深い人々の突出した成功を殺すことになるでしょう。AIは、デフォルトで人間の起業家精神を時代遅れにし、AIがイノベーターとなり、知識人さえも排除する可能性があります。
彼はここで言います。「おそらく人間の知識人にとっては良くないでしょう。多くの知識人やイデオロギーがそれほどの力を持てるのは、天才が稀少な世界での産物だからだと私は推測します」
政治は最も影響を受けにくいかもしれません。なぜなら、彼の推測では、ほとんどの人間は特にその仕事を人間にしてもらいたいと考えているからです。それは本当でしょうか。私は疑問に思います。多くの人々は、少なくとも特定の決定については、公平なAGIに任せることを好むのではないでしょうか。これは汚職、偏見、多くの問題を排除するでしょう。私は否定的な面がないとは言いませんが、確かに特定のシナリオではより良く機能する可能性があります。
もちろん、軍事はより中央集権化され、行動を起こすために必要な人々は少なくなり、既存の軍隊に対してドローンのナポレオンが勝利する可能性も低くなります。宗教に関しては、新しい宗教を始めることに関してAIは極めて、極めて優れているかもしれません。私たちは既に、お金を稼ぐために、独自の暗号通貨を立ち上げ、一般的に予想以上にバイラルになるような準宗教的なテーマを展開するTwitterプロフィールをいくつか見てきました。
労働代替AIが到来し、UBIが可決され、誰も飢えることはなく、企業や国々はAIを最大限活用しようと躍起になるので、富の再分配は政治的議題の上位にはならないでしょう。
では、デフォルトの結果は何でしょうか。お金は今まで以上に現実世界で結果を買うことができるようになります。人々の労働は今まで以上に影響力を失います。ほとんどすべての分野で、労働を通じて突出した成功を収めることは不可能になります。国家間でも国内でも、変革的なレベルの資本はありませんでした。
結論として、これは前例のない静的で不平等な状態であり、AIの恩恵は誰もが享受し、確かに一部の人々は他の人々よりも裕福ですが、誰もが素晴らしい生活水準を持っています。人間の野心の唯一の現実的な形態は、自分のソーシャルネットワークやクラス内でローカルな社会的、政治的ゲームを演じることです。そして、もし多くの資本を持っていなければ、より広い世界に影響を与えるチャンスはもはやありません。
AIがより優れた詩人、芸術家、哲学者である以上、その人が個人的に知っている誰かでない限り、なぜ誰かが人間のすることを気にかけるでしょうか。未来の子供たちは、社会的流動性が消滅した状態で、親の影の下で人生を送ることになるでしょう。
ここに書かれていることについて、あなたはどう思いますか。これはAGIとオートメーション、UBIを懸念し、それを一種の人間の無力化と見なす人々の、方程式のもう一方の側面についての非常に良い考察です。私個人としては、そしてこれは単に私の意見であり、誰かに押し付けるつもりはありませんが、これらの多くは私にとってあまり意味をなしません。例えば、「人々の労働は以前よりも影響力が少なくなる」という点について。私自身も、私が知っている人も誰一人として、影響力を得るために仕事に就いたことはありません。私の知る限り、仕事に就く人は全員、生き残るために必要なものを買うためのお金を得るため、家族を養うため、屋根の下で暮らすために仕事をしています。
人々が異なる仕事の間で選択をする時、彼らは「このジョブはより多くのお金を払ってくれる」「このジョブはより良い福利厚生がある」「このジョブは会社内でより高い地位に上がれる可能性がある」「これはスタートアップだ」「これは既存の会社だ」といったことを考慮します。私の人生で一度も「この仕事は国家に対してより大きな影響力を与えてくれるから選ぶべきだ」と言う人を聞いたことはありません。
興味深いことに、この記事への最初のコメントは基本的にこう述べています。「労働の価格がゼロに近づくなら、確かに現在の富の一部は固定化されますが、それは必ずしも全ての人にとって悪いことではありません。労働コストがゼロになれば、労働を投入として必要とする商品やサービスの価格も急落します」
これがサム・アルトマンがブログで指摘していた重要なポイントです。価格に対するムーアの法則を想像してみてください。あなたが生存し、繁栄するために必要なすべてのものの価格が2年ごとに半分になっていくとしたらどうでしょうか。
例えば今、税引き前で生活するために10万ドルが必要だとします。家賃やローン、子供の学校、そのほか生存と繁栄に必要なすべてのものに。数年後には、それらすべてのことに必要なのは5万ドルだけになります。さらに2年後には2万5千ドルだけになります。このような傾向が続いたらどうなるでしょうか。
このコメント投稿者が述べているように、「私の隣人が自分の最大ニーズの1万倍を賄える一方で、私は100倍しか賄えないとしても、誰が気にするでしょうか」彼は「購買力の増加は本質的に良いことであり、その逆が真であるとは想像しがたい」と言っています。
これが私が思うに、ここで見過ごされている大きなポイントです。お金を一部の人々に与えれば、その人々の生活は良くなり、その人々は少し裕福になります。しかし、すべての商品とサービスのコストを下げれば、購買力が上がるため、すべての人がより裕福になります。
もう一つのポイントは、「AIはより優れた詩人、芸術家、哲学者であり、その人が個人的に知っている誰かでない限り、なぜ誰かが人間のすることを気にするでしょうか」という点です。私は最近、携帯電話のアプリを通じてオンラインでチェスを再び始めました。チェスAIは超人的で、文字通り私たちの誰も勝つことはできません。しかし、それは私のゲームの楽しみを台無しにしているでしょうか？いいえ。改善しているでしょうか？いいえ。実際のところ、それは本当に何の影響も与えていません。私は自分の進歩、上達、楽しみを気にかけ、自分と同じレベルの人々とマッチングされて対戦しています。
最近、私の甥と姪がピアノ、キーボードを弾き始め、基本的な曲を学び始めました。AIはピアノを本当に上手く弾くことができます。私の甥と姪は…（彼らがこれを見ているかもしれませんが）彼らは素晴らしい、本当に素晴らしい演奏をしていて、私は彼らをとても誇りに思っています。まだAIほど上手くはありませんが、それは私にとって重要ではありません。なぜなら、私は彼らの演奏を聴くことが好きだからです。
先日、あるレストランでライブ音楽があり、私はそれを本当に楽しみました。その演奏者たちが世界の最高のバンドやそれぞれの楽器演奏者の中でどのランクにいるのか、私は知りませんし、実際のところ気にもしていません。
彼はここで「人間の野心の唯一の現実的な形態は、自分のソーシャルネットワークやクラス内でローカルな社会的、政治的ゲームを演じることです」と言っています。それはどういう意味でしょうか。近所で最高のクリスマスデコレーションを持っているのは誰か、ということでしょうか。今、誰が住宅所有者協会で最高の地位にいるか、ということでしょうか。
人々は様々な方法で自分の野心を追求することができます。例えば、トレーニングをしたい場合は、ボディビル大会に参加して、地域や州、国、世界レベルのMr.ユニバースなどで、自分の身長区分や体重区分の人々と競い合うことができます。もっと変わったことをしたければ、障害物レースに参加してタフマダーレースで競うこともできます。身体的な活動が好きなら、ゲームリーグを始めたり、ギルドに参加したり、World of Warcraftクラシック、ハードコア、バニラなど、何でも好きなことができます。文字通り、自分が望むことは何でもできます。
また、競争する必要すらありません。私がよく自転車で周回していた湖があり、ストラヴァアプリで自分のタイムを記録していました。そのアプリでは、自転車や走るなど、湖を一周する全ての人と自分の記録を比較することができました。世界、少なくともその地域での自分の立ち位置を見ることができます。通常、私は尊敬に値するタイムを出そうと頑張ります。
ある日、これは驚くかもしれませんが、私は湖の周りをカジュアルに散歩することにしました。自転車で10分かかるところを40分かけて、そして私はそれを楽しみました。タイムを競わないことは、私の楽しみを減少させませんでした。
毎週40時間から60時間働く必要がないことは、私の人生を破壊しません。むしろ、より多く書き、より多く運動し、家族とより多くの時間を過ごし、より多くの自由時間を持つことができるでしょう。
確かに、エンターテイメント産業は人々を楽しませるためにおそらく本当に成長するでしょう。なぜなら、少し退屈があるだろうし、人々を関与させ続けるための何かを見つける必要があるからです。ずっと座って娯楽を楽しんでいるだけというわけにはいきません。しかし、それは良質な問題です。例えば、ホームレスの人々が医療費や子供たちの良い教育を払えないといった問題を解決するよりも、良い問題です。
ここでのもう一つの投稿は、「このすべてで欠けている要素は土地です。土地はゼロサムゲームのままで、環境のシミュレーション、宇宙居住地、または政治的解決策がない限り、不平等の最も重要な源となるでしょう」と述べています。
私は常に4年前のサム・アルトマンのブログ投稿を参照していますが、彼が言ったように「考え、学習できるソフトウェアは、現在人々が行っている仕事をますます多く行うようになります。公共政策が適切に対応しなければ、さらに多くの力が労働から資本へと移行し、ほとんどの人々は今日よりも悪い状況に陥るでしょう」
ここで彼は3つの文で、他の文章の3ページ分のような内容をカバーし、そして続けます。「私たちは、この技術的な未来を受け入れ、その世界で最も価値を持つ資産、つまり企業と土地に課税し、来るべき富を公平に分配するシステムを設計する必要があります」
つまり、みんなの仕事を維持して影響力を持たせようとするのではなく、単にその技術的な未来の世界で最も価値を持つもの、つまり有限な土地と、AIやロボットなどを使って全てのものを生産する企業に課税するのです。もはや所得に課税することはできないでしょう。なぜなら、実際に所得がないからです。誰も働いていないのですから。
また、AIトリリオネアは資本を持っているため、ほぼ無制限で無制約の力を持つことになるという考えは、必ずしも真実でしょうか。現在、お金を持っている人々は力を持っています。なぜなら、彼らは人々の労働に対してお金を支払うことができ、人々にお金を与えて自分の望むことをさせることができ、政治家を買収したり、キャンペーンにお金を出したり、特定の目的を支援したりできるからです。全てにお金がかかるからです。
再び、自分の最大ニーズの100倍を賄える状況で、あるAIトリリオネアがやってきて「私の望むことをしてくれたら支払いましょう」「賄賂を渡しましょう」などと言って、最大ニーズの1万倍を賄えるようになるとしても、そのような取引に対してどれだけ動機づけられるでしょうか。
私には、本当に重要なのは、この価格削減が現実的なのか、あるいはそれに類似したものなのか、オートメーションは人々が生存に必要とする基本的な商品やサービスの価格を大幅に、そして継続的に削減できるのかということのように思えます。
私が最後に調べた時、米国では福祉給付として一人当たり約4,000ドルを支払っていました。全員ではなく、一部の小グループに対してですが。もし生活費が4,000ドルまで下がったら、支出を増やすことなく、文字通り国中の全ての人にそのお金を与えることができます。基本的に、今支払っているのと同じ金額です。
これが私の見る限り、本当の主要な問題です。もしこれが機能するなら、UBIは現実的です。このような種類のコスト削減が見込めるなら。もしこれが現実的でないなら、確かに難しい問題に答えなければなりません。しかし、全ての人が仕事を持つことは、人生の究極の目的ではありません。
しかし、あなたはどう思いますか。私は完全に間違っているでしょうか。私は正しいでしょうか。私の考えを洗練させるのを手伝ってください。
ここまで見てくれてありがとうございます。私の名前はウェス・Rです。また会いましょう。
コメント