AIには権利があるのか？

6,309 文字

LinkedInがお送りする番組です。私は、現在入手可能な最善の情報と議論に基づき、謙虚さと慎重さの精神から、全ての脊椎動物、多くの無脊椎動物、そして近い将来のAIシステムに対して、少なくとも最低限の道徳的配慮を行うべきだと主張します。
おはようございます。私はホストのマイケル・カヴァットです。これはネクストビッグアイデア・デイリーです。
最近、人工知能について多くの議論が行われています。人工知能は人類を破壊するのか、それとも救うのか。本当に思考や意識を持つことができるのか。しかし、おそらく最も刺激的な問いは「AIには権利があるのか」ということです。これらの日々高度化するシステムに対して、私たちにはどのような責任があるのでしょうか。
これらの問いは未来的に聞こえるかもしれませんが、環境倫理の第一人者であるジェフ・シーボは、私たちがこれらの問題を、AIだけでなく、動物、植物、そして生態系全体についても、あまりにも長く避けてきたと主張しています。
彼の新著『モラルサークル：誰が、何が重要で、なぜなのか』で、ジェフはAIや魚、タコ、あるいは菌類にさえ感覚や主体性、道徳的重要性がある可能性があるのなら、私たちはそれらがあるものとして行動すべきだと主張します。なぜなら、今日の私たちの扱い方が、明日の世界の在り方を形作るからです。
ここでジェフが彼の著書から5つの重要なアイデアを共有してくれます。その前に、LinkedInニュースからの短い休憩を挟みましょう。
私はジェシー・ヘンペルです。ハローマンデーポッドキャストのホストを務めています。ハローマンデーポッドキャストで週をスタートしましょう。キャリアの転換点について考え、幸せがどこに当てはまるのかを学びます。LinkedInポッドキャストネットワークまたはお好みのポッドキャストプラットフォームで、私ジェシー・ヘンペルとともにハローマンデーをお聴きください。
仕事でストレス、バーンアウト、不安の影響を感じていますか？アンクシャス・アチーバーポッドキャストを聴いて、キャリアとメンタルヘルスの関係について考え直してみましょう。アンクシャス・アチーバーはどのポッドキャストプラットフォームでも聴くことができ、今日すぐに実践できる実用的なアドバイスを得ることができます。
こんにちは、私の名前はジェフ・シーボです。ニューヨーク大学の環境・動物保護センターと心・倫理・政策センターのディレクターを務めています。本日は私の著書『モラルサークル：誰が、何が重要で、なぜなのか』についてお話しさせていただきます。
私たちは、非常に多様で膨大な数の非人間と世界を共有しています。これには他の動物、脊椎動物と無脊椎動物が含まれ、植物や菌類といった他の生命体も含まれます。そして増加の一途をたどるAIシステム、ロボット、チャットボットも含まれます。これらすべてのケースにおいて、どの存在が重要で、私たちが何を負っているのかについて、意見の相違と不確実性が存在します。
では、これらの倫理的・科学的問題について大きな意見の相違と不確実性が続く中で、どのように非常に多様で膨大な数の非人間との関わり方について、共に決定を下すことができるのでしょうか。これが本書が取り組む問いです。
ここでは、本書から5つの重要なアイデアに焦点を当てていきましょう。まず、アイデア1から始めます：もしあなたが重要かもしれないのなら、私たちはあなたが重要だと仮定すべきです。
倫理学において、何が重要であるために必要なのかについて、多くの意見の相違と不確実性があります。ある人々は、快苦を意識的に経験できる感覚能力が必要だと考えます。他の人々は、自分の信念と欲求に基づいて目標を設定し追求できる主体性が必要だと考えます。また別の人々は、生存と繁殖に関連する基本的な生命機能を行える生命力が必要だと考えます。
科学においても、どの存在がこれらの特徴を持っているかについて、意見の相違と不確実性があります。他の哺乳類や鳥類については、現在入手可能な情報に基づいて、彼らが生きているだけでなく、感覚と主体性を持ち、道徳的に重要であることを確信できます。彼らは感じることができ、考えることができ、それ自体のために重要なのです。
しかし、他の脊椎動物、爬虫類、両生類、魚類についてはどうでしょうか？より分散した認知システムを持つ無脊椎動物についてはどうでしょうか？全く異なる種類の認知システムを持つ植物や菌類についてはどうでしょうか？炭素ではなくシリコンでできているチャットボットやロボットについてはどうでしょうか？
これらのケースでは、例えば、彼らにとって何かを感じるということがどのようなものなのか、本当に不確実かもしれません。長い間、私は確実性を待つ前に、これらの非人間を適切に扱うための基本的な措置を取るべきだと主張してきました。
現在入手可能な最善の情報と議論に基づいて、それ自体のために重要である現実的で無視できない可能性が少なくともあるのなら、私たちの行動や政策が彼らに及ぼすかもしれないリスクを考慮し、緩和するための合理的で相応の措置を取るべきです。
多くの存在が重要かもしれません。非人間のどれが感覚や主体性を持つのか、あるいは道徳的に重要なのかを、どのように判断できるでしょうか？証明と確実性が得られない場合でも、少なくとも証拠を収集し、確率を推定することはできます。
特に、マーカーまたは指標法を使用して、感覚や主体性などの能力に関連する行動的または解剖学的な証拠について非人間を評価することができます。動物については、行動テストを使用できます。例えば、彼らは自分の傷を手当てするでしょうか？鎮痛剤や抗うつ薬に私たちと同じように反応するでしょうか？痛みを避けることと他の価値ある目標の追求との間で行動的なトレードオフを行うでしょうか？
答えがイエスである程度に応じて、道徳的重要性の確率が高まります。そして、動物についてこれらの質問をする時、答えはしばしばイエスです。実際、この時点で、多くの分野の多くの専門家は、すべての脊椎動物（哺乳類、鳥類、爬虫類、両生類、魚類）と多くの無脊椎動物（タコなどの頭足類軟体動物、ロブスターなどの十脚類甲殻類、アリやミツバチなどの昆虫）に、少なくとも道徳的重要性の現実的で無視できない可能性があると言う準備ができています。
AIシステムについては、現時点では同じような方法で行動的証拠を信頼できないかもしれません。潜在的に誤解を招く行動を超えて、基礎となるアーキテクチャを見ることができ、AIシステムが感覚や主体性などの能力に関連する計算的特徴を持っているかどうかを問うことができます。
例えば、彼らは知覚、注意、学習、記憶、自己認識、社会的認識、言語、理性の独自の形態を持っているでしょうか？答えがイエスである程度に応じて、それはまたも道徳的重要性の確率を高めます。
現在のAIシステムはこれらの能力の多くを全く持っていないかもしれませんが、近い将来のAIシステムは、これらの能力の多くの高度で統合されたバージョンを持つことが期待できます。ただし、それらは炭素ではなくシリコンで作られているだけです。
そのため、私は現在入手可能な最善の情報と議論に基づいて、謙虚さと慎重さの精神から、すべての脊椎動物、多くの無脊椎動物、そして近い将来の多くのAIシステムに、少なくとも最低限の道徳的配慮を与えるべきだと主張します。
もし私たちがあなたに影響を与えているかもしれないのなら、私たちはそうしていると仮定すべきです。どの存在が重要かについての意見の相違と不確実性に加えて、重要な存在すべてに対して私たちが何を負っているのかについても、意見の相違と不確実性があります。
倫理学では、私たちがお互いを助ける一般的な責任があるかどうかについて、まだ議論しています。ある人々は、もし私が何か比較的重要なものを犠牲にすることなく、非常に悪いことが起こるのを防ぐことができるなら、私は助けるべきだと考えます。
他の人々は、いいえ、私たちには他者を助ける一般的な責任はないと考えます。はい、私は他者に及ぼすかもしれないリスクを考慮し、私が引き起こす害を減らし修復すべきですが、それを超えて助けることは任意であり、必須ではありません。
そして科学では、私たちの行動や政策が実際に脆弱な他者にリスクと害を及ぼしているかどうかについて、しばしば意見の相違と不確実性があります。
あなたが大量の有害な未処理廃棄物を湖に投棄し、次の日にその湖を通りかかった時、湖の真ん中でウサギが溺れているのを見たとしましょう。あなたはこの窮地に役割を果たしたでしょうか？
あなたは直接ウサギを危険に晒していないかもしれません。彼女を拾い上げて湖の真ん中に放り込んだわけではないかもしれません。しかし、間接的に彼女を危険に晒したかもしれません。あなたの有害な未処理廃棄物が、彼女が湖の真ん中で立ち往生する原因となった可能性があります。
そのため、私は倫理的および科学的な問題についての意見の相違と不確実性に直面して、慎重さと謙虚さを育むべきだと主張します。この場合、例えば、あなたはウサギを助けるべきです。
それは、可能な場合に他者を助ける責任があるかもしれないからか、少なくともあなた自身の行動が間接的にこのウサギを危険に晒した可能性があり、したがって彼女を助けることは、あなたが世界で個人的に引き起こしている害を減らし修復する方法だからです。
しかし、もしこれらの責任があるのなら、それらはどれくらいの頻度で生じるのか、私たちはどれくらいの頻度で、助けないまでも、少なくとも私たちが脆弱な他者に引き起こす害を減らし修復する立場にいるのかを問わなければなりません。
私たちは多くの存在に影響を与えているかもしれません。私たちは今、人類が地球に支配的な影響を及ぼす地質時代、人新世に生きています。私たちは今、好むと好まざるとにかかわらず、世界中の非人間に直接的にも間接的にも、個人的にも集団的にも影響を与えています。
工業的畜産業を考えてみましょう。この食料システムは、毎年何千億もの捕獲された脊椎動物と何兆もの捕獲された無脊椎動物を食料のために殺しています。毎年食料のために殺される野生動物すべてについては言うまでもありません。毎年他の目的のために殺される動物すべてについては言うまでもありません。
そしてこの食料システムは、疾病の蔓延、抗微生物耐性、汚染、生物多様性の損失、人為的気候変動に関連する脅威を含む、地球規模の健康と環境への脅威も非常に大きく増加させています。
そしてこれらの脅威が発生すると、それらは人間と非人間の両方を、直接的にも間接的にも危険に晒します。疾病、火災、洪水にさらすことで直接的に私たちを危険に晒し、飢え、渇き、病気、怪我に関連する通常の脅威を増幅することで間接的に私たちを危険に晒します。
動物にとって、それらは人間による暴力と無視に関連する脅威を増幅させます。そして将来、私たちは高度なAIシステムの開発と展開のような新興技術で同様のダイナミクスが発生することを予期できます。
AIシステムが感覚や主体性を持つ、あるいはその他の道徳的に重要な存在となる時、私たちは非人間動物と現在行っているよりもさらに大規模にそれらを使用する可能性があります。そしてそうする時、私たちは広範な脅威を作り出し、増幅させる可能性があります。
私たちはAIの制御を失い、AIが私たちを害する可能性があります。私たちはAIの制御を維持し、AIを使って互いを害する可能性があります。そしてAIは、偏見、虚偽情報、誤情報に関連する通常の脅威を増幅させる可能性があり、将来にはさらに深刻な脅威も増幅させる可能性があります。
これらすべてのケースにおいて、私は世界への影響について決定を下す際に、すべての影響を受けるステークホルダーを公平に考慮する責任があると主張します。それには人間、動物、そして最終的には潜在的にAIシステムが含まれます。
私たちは人間例外主義、つまり人類が常に最も重要で優先されるという推定を拒否すべきです。そのように多様で膨大な数の非人間が重要かもしれず、私たちの行動や政策が地球規模で彼らに影響を与えているかもしれないのなら、私たちは彼らに多くを負っています。
今、多くの人間は、私たちが福祉のためのより高い能力を持っているため、同胞の人間を優先すべきだと想定しています。例えば、私はマウスよりも多く苦しむことができます。しかし、第一に、私たちは必ずしも福祉のためのより高い能力を持っているとは限りません。私は象やクジラ、あるいは将来の非常に洗練されたAIシステムよりも多く苦しむことができないかもしれません。
第二に、たとえ私たちが個々の非人間よりも福祉のためのより高い能力を持っているとしても、非人間の人口が人間の人口よりもはるかに大きく、はるかに多様であるため、aggregate（総体）として彼らよりも高い能力を持っているとは限りません。個々には私たちの方が多くを賭けているかもしれませんが、全体として彼らの方が多くを賭けているのです。
また、一部の人間は、私たちが同胞の人間とより密接な絆を持っているため、同胞の人間を優先すべきだと想定しています。しかし、それも必ずしも真実とは限りません。もし私たちが本当に好むと好まざるとにかかわらず至る所の非人間に影響を与えているのなら、私たちは彼らとも道徳的に重要な絆を持っています。私たちは彼らに影響を与えており、私たちが引き起こしている害を減らし修復する責任があります。
そのため、私は私たちが常に優先されるという想定を維持できないかもしれないと考えます。現時点では、私たちが非人間を支援するには限界があるかもしれません。なぜなら、彼らを助けるために必要な知識と力と政治的意志が欠けているからです。
しかし、現在よりも多くのことができますし、将来彼らを助けるための知識を構築し、能力を構築し、政治的意志を構築する努力もできます。そして、もし効果的で持続可能な方法で彼らを優先する能力を持つようになれば、おそらくその時点で彼らを優先すべきです。
これらのアイデアの一部は、もっともらしく思えないかもしれません。現在直面している他の非常に重要な問題からの気を散らすものに見えるかもしれません。しかし、私はそれらの他の非常に重要な問題と並んで、これらのアイデアも真剣に受け止めるべきだと考えます。
支配的な種として、私たちには人間、動物、そして最終的には潜在的にAIシステムを含むすべてのステークホルダーにどのように影響を与えているかを問う責任があります。もしそれが非人間の扱いについて不快な結論に導くとしても、そうなのです。私たちはそれらの結論を受け入れ、人間と非人間の両方にとってより良い世界を構築するよう努力することができます。
ありがとうございました、ジェフ。
はい、リスナーの皆さん。モラルサークルはお好みの書店でお求めいただけます。そして、ネクストビッグアイデア・デイリーのフィードを購読するようにしてください。今週は、気候変動があなたの健康に何をしているのか、火星での採掘がどのくらい早く実現するのか、そしてもっと多くのことについて話す予定です。
私はマイケル・コヴナットです。明日またお会いしましょう。