22,627 文字
私の名前はネレア・ルイス・ミンゲサです。コンピュータサイエンス、より具体的には人工知能の博士号を持っています。皆さんとお話しする前に、まずは私の経歴についてお話ししたいと思います。この一見新しくて未来的な分野に、どういう経緯で関わることになったのか。実は、これは現在と深く結びついているんですよ。
小さい頃、私は絵を描くのが大好きで、特に漫画やアニメを描くのが好きでした。日本のアニメに夢中になっていて、中でも「セーラームーン」というアニメが大好きでした。若い方々はもうご存じないかもしれませんが、これは女性のエンパワーメントがテーマのアニメでした。
世界をより良い場所にするために戦う戦士たちのお話です。その中のセーラーマーキュリーというキャラクター、これは今でも私のSNSのニックネームなんですが、小さなコンピュータを使って知識を活かすキャラクターでした。振り返ってみると、「私も彼女のようになりたい」と初めて思ったのがこの時でした。
でも、それはアニメの話です。私は絵を描くのが大好きで、漫画を描く技術も上達してきた頃、インターネットが登場しました。確か11歳か12歳くらいの時です。インターネットを開いて、今では当たり前のGoogleの検索画面で、キーワードを入力できることに気づきました。
その時の私が最初に検索したのは、もちろん「セーラームーン」でした。すると、たくさんの情報が出てきたんです。それまで他の方法では見つけられなかった情報がたくさん見つかりました。ただし、多くは英語で書かれていました。
今では自分の言語でシステムを使うことに慣れていますが、当時はほとんどの情報が英語でした。そこで私は、なぜ人々がインターネットで情報を共有しているのか、なぜ突然ウェブページができて、そこに無料のコンテンツがあるのか、そういったことを調べ始めました。
私はキオスクで雑誌を買う必要もなくなりました。そこで調べ始めたんですが、私にとってはほとんどゲームのようでした。最初のウェブページを作り始めました。もちろん「セーラームーン」についてのページです。そして、自分の知っている少ない情報を共有し始めました。
でも、もっと面白いことを学びました。今でいうチュートリアルを通じて、気づかないうちにプログラミングを学んでいたんです。当時はインターネット上のブログでした。「HTMLって何だろう？」「ウェブサイトのレイヤーって何だろう？」といったことを学び始めました。
そして、それを公開して、人々に読んでもらえるようになりました。そこから重要な段階が訪れます。物事に名前をつける段階です。それが高校でした。高校の最後の方で、私がコンピュータに向いているということが分かってきて、そこで「これは一つの進路だよ。勉強して、これを仕事にできるんだよ」と言われました。
それは情報工学という分野で、他の選択肢以外にもこういう道があると分かりました。そこで私は決心しました。情報工学の道に進むことは決めていましたが、情報工学のどの分野に進むかはまだ分かっていませんでした。情報工学というとコンピュータを連想しますが、実はハードウェアやソフトウェア、インターネット、今では携帯アプリなど、様々な分野があります。
2009年に大学に入学しました。当時は周りで起こることすべてを吸収する状態でしたが、ある日、人工知能という言葉が耳に入ってきました。人工知能という授業があって、その時教授が説明してくれたのは、これが情報工学の一分野で、データを組み合わせ、機械に知能を持たせようとする試みだということでした。
もちろん、これはとても未来的で魅力的に聞こえました。ロボットに興味があった私にとって、このような未来的な日本のアニメに惹かれていた私にとって。そこで、この分野に挑戦してみようと決めました。もちろん、ゲーム開発やウェブ開発など、他の選択肢もありました。
でも、その時、人工知能に何かが引っかかりました。ただし、当時の2010年、2011年頃を考えると、人工知能は存在していましたが、これは長年開発されてきた分野なのに、今ほど一般的には知られていませんでした。視覚的な例も少なかったです。
その頃、私は人工知能について学び、専門性を高めるために博士課程に進むことを決めました。大学を卒業後、研究の世界に入り、約5年間、人工知能の理論的な部分、つまり推論や計画立案、私たちの思考プロセスに関わる部分と、実践的な応用を結びつけようとしました。
理論的で視覚的でない部分と、ロボット工学のような物理的な部分を結びつけ始めました。博士課程では、多くの人々、多くの研究者と出会い、基礎を固めることができました。でも、私には足りない部分がありました。それはコミュニケーションの部分です。今ではインターネットでも知られる理由の一つだと思いますが、それは人工知能という漠然とした概念を、皆さんのような一般の人々にどう近づけるかということです。
ここ7、8年は主に人工知能分野の普及活動に力を入れてきました。カルロス3世大学でTech Festというイベントを共同設立し、その後企業の世界に入り、そこでより応用的な人工知能に携わる機会を得ました。
人工知能の概念に戻りますと、既にお話ししましたが、現在の状況を考えると、何かが起きています。人工知能が私たちと共にあることは分かっています。しかし、その定義を考えると、人工知能は私たちの思考プロセスや推論に関係しています。
これらは人間らしさを表す特徴です。私たちが動物と異なる点を考えると、すぐに知能や思考方法を思い浮かべますよね。これは偶然ではありません。機械でもそれを実現しようとするのも偶然ではありません。実際、人工知能分野はそういう願望から生まれ、汎用人工知能、つまりどんな状況にも適応でき、未知の状況からも学習できるスーパーロボットやスーパーブレインの実現を目指しています。
これは私たちが経験を積んでいく過程に似ています。しかし、現在、研究の世界でも企業の世界でも、私たちが取り組んでいるのは特化型人工知能です。つまり、単独では価値のないデータを結びつけて情報にし、それを時間をかけて維持し、パターンを研究して知識に変えていくものです。
似たような状況での人々の行動パターンを見出したり、何千人もの分析データを比較して何らかのパターンを見つけ出したりします。これが日常的な人工知能であり、これを特化型人工知能と呼んでいます。
ここ数年で何が起きたのでしょうか？突然、私たちは「データを知識に変換できるなら、新しい知識を生成してみよう」と考え始めました。画像やテキストを扱うようになり、同じようなアルゴリズムを使って新しいデータを生成しようとしています。
そして今、私たちは人工知能の新しい段階を迎えています。生成AI（Generative AI）と呼ばれるものです。これが、今日の制御不能なまでの、しかし同時に素晴らしいブームをもたらし、誰もが人工知能について話し、聞きたがる状況を生み出しています。
「こんにちは。私はレオです。SF映画でよく、人工知能を搭載した機械やロボットが人類を滅ぼそうとする場面を見ますよね。『ターミネーター』のように。これは私たちが心配すべき問題だと思いますか？どう思われますか？」
とても良い質問ですね、本当に良い出発点です。人工知能の進歩によって、突然ロボットやコンピュータが私たちを殺そうとしたり、私たちよりも賢くなったりする状況に直面する可能性について考えてみましょう。お答えする前に、人工知能の起源について考えてみたいと思います。そうすればより理解しやすいと思います。
そもそも「人工知能」という言葉が生まれる前、つまり1965年より前のことですが、これは他の科学分野と比べるとそれほど古くない分野なんです。その少し前に、コンピュータの父と呼ばれるアラン・チューリングという数学者がいました。
アラン・チューリングは1950年頃に有名なチューリングテスト、または模倣ゲームを提案しました。もし知らない方がいれば、数年前に映画化もされましたが、このテストは次のような疑問を投げかけました：「暗い部屋で、二つのスクリーンがあり、一方に人間、もう一方に機械か別の人間がいる状況で…」
最初のコンピュータにいる人間が、キーボードを通じて会話をして、話し相手が機械なのか人間なのかを判断しなければならない。これがチューリングテストまたは模倣ゲームと呼ばれるものです。もし機械が向こう側にいる人間を騙して、本物の人間だと思わせることができれば、その機械は超知能的だと考えられていました。
現在、これはどうなっているでしょうか？私たちのコミュニケーション方法、言語自体、時には感じる不確実性、未知なるものへの不安など、これらを考えると、「ターミネーター」のような超知能的なシナリオからはまだまだ遠いことが分かります。
なぜでしょうか？とても明白なことですが、時々気づかないことがあります。機械には話し方を教えなければなりませんし、計画を立てることも教えなければなりません。でも、例えば、物を掴むことも教えなければなりません。もしターミネーターが目の前にいたとして、自然に歩いて、機敏に動いてほしいと思いますよね。例えば、私がボールを投げたとします…
ボールをどう掴むか、重さをどう予測するか、痛いかどうか、落とすかどうか、これらのことを人間はとても素早く判断します。でも機械にとって、遭遇する可能性のある物体の数、ぶつかる可能性のある人の数、そこから生じる可能性のある問題を考えると、これらの状況をデータとして扱うのは非常に難しいのです。
これらすべての層、つまり推論や計画立案といった中間段階を開発するまで、特化型AIから汎用AIに到達するまで、そのような状況に直面することは非常に難しいでしょう。最近学んでいるのは、主に、システムをより柔軟にするための異なるタイプのデータの扱い方で、これをマルチモーダリティと呼んでいます。
要約すると、私たちは安心していられます。「ターミネーター」のようなシナリオからはまだ遠いのです。
「こんにちは、ネレア。私はアナです。今お話があった通り、知能や認知面を測る方法はありますが、多くの場合、私たちが恐れているのは感情面での不確実性だと思います。感情面での教育は現在可能なのでしょうか？それとも将来可能になるのでしょうか？『ブレードランナー』のように、感情を持つことや記憶をプログラムすることは可能なのでしょうか？どうお考えですか？」
実は、感情の管理と機械は基本的に相性が良くありません。
もう少し深く考えてみましょう。例えば、私たちが何かを感じる時、何かが好きか嫌いかを感じる時、私たちの表情や視覚的な表現がありますよね。これについては多くの議論がありました。世界中のどんな人の感情でも検出できるのか？そして、何年もの研究の後でも、はっきりとした結論は出ていないようです。表情の表し方は人によって異なることが分かってきました。例えば、笑顔の度合い、眉の上げ方など、こういった感情認識に使われる要素は、すべての人で同じではないのです。これは文化や、あなたの出身地、表現方法などとも深く関係しています。
では、感情についてどう考えればいいのでしょうか？私は別の質問を投げかけたいと思います。それは、本当に機械に感情を表現させる必要があるのかということです。確かに、機械が感情を理解することは重要かもしれません。私たちが欲求不満を感じたり、恐れを感じたりする瞬間を理解することは、言語やマイクロ表情を通じて、技術的には努力すれば検出できるかもしれません。
しかし、長期的な相互作用の中でそれを使用することを考えると、つまり、機械が常に感情を処理するだけでなく、それに応じて反応することを考えると、これは人間なら期待できるかもしれません。私が気分が悪いとき、相手が「ごめんなさい」と言うように…
これは私たちにとってむしろ有害かもしれません。そのため、機械の感情認識や感情表現にはあまり進展を与えないという強い流れがあります。特に学術界では、感情認識に基づく製品を本当にリリースすることに意味があるのかという合意には至っていません。
一般的に、多くの面で上手く機能しません。そのため、私は将来的には再び機会が与えられるかもしれませんが、現在は技術的には準備ができているかもしれませんが、社会的にはあまり受け入れられていないものだと言えます。SFでも例を見てきましたが、それはSFの中に留まっています。
「こんにちは、ネレア。私はラウラです。近年、ロボットが患者のリハビリを助けたり、高齢者の介護をしたりするという研究がありますが、ロボットが日常生活でどのように私たちを助けることができるか、他の例を教えていただけますか？」
ロボットは、特に人手が足りない場所で、能力や注意の面で十分な人間を配置できない場所を補完する上で、非常に有用な要素となっています。
あなたが言及したような社会的ロボット工学で、特に多くの進歩が見られたのは、どのような分野でしょうか？確かに、医療分野、特に子供たちや高齢者に関する環境においてです。これはそれぞれの人生のステージとも関係しています。
子供時代を考えてみると、例えば病院に行かなければならない時、小さい子供がリハビリをしなければならない時など、それは非常に敵対的な環境で、子供にとってはとても複雑な状況です。そこで、この社会的ロボット工学が効果を発揮します。多くの場合、小さなロボットを置いて、子供がそれを友達として見るようにします。子供が同じ目線で見ることで、このセラピーや付き添いがより自然な形で行われるようになります。
家族が近くにいることに加えて、このようなアプローチが効果的です。高齢者、つまり第三世代について考えると、特にアジアの文化で大きく発展している部分があります。それはぬいぐるみのような社会的ロボットです。
実際、10年以上前に、パロという、アザラシのようなぬいぐるみロボットが日本の高齢者施設で非常に人気を集めました。当時は現在のような高度な会話システムはありませんでしたが、このアザラシは身振りを通じてある種の愛情を表現していました。ただし、その動きはごくわずかでした。
アニメのアザラシを想像してみてください。それをぬいぐるみの形にしたものを想像すると、大体のイメージが掴めると思います。このくらいの大きさで、これらの人々との絆は驚くほど深いものでした。突然、ペットのような存在を持つことができたからです。子供のような対等な関係ではなく、ペットを持つような関係でした。多くの場合、衛生面や管理の問題で、施設でペットを飼うことができないという事情がありました。
ここで社会的ロボット工学は非常にポジティブな発展を遂げています。もう一つ、私たちの国に関係する例を共有したいと思います。Marsi Bionicsという会社をご存知でしょうか？これは大学から生まれた会社で、CEOのエレナ・ガルシア・アルマダは、エクソスケルトンと呼ばれるものの先駆者の一人です。
アイアンマンを想像してもらえれば、似たようなものです。これらのエクソスケルトンは子供に装着して、この場合は子供ですが、移動に問題がある人がより強力なリハビリを行えるようにし、立ち上がることができるようになり、人生を変えることができます。
このように、人工知能がロボット工学のこの段階を補完していることが分かります。人工知能で他に何が良いことが見られているでしょうか？話すのが難しい人のために合成音声を使用することができます。
また、インターネットについて考えると、アクセシビリティのレイヤー全体を人工知能で扱うことができ、自動説明の生成や、特に障害を持つ人々のためのアクセス可能なコンテンツを生成することができます。そこから、最も応用的なものから研究の最前線まで、様々な機会が開かれ始めています。最後の例として共有したいのは、DeepMind社が行ったAlphaFoldという発見です。
これは人工知能を使って、私たちの体のタンパク質に関する膨大な情報を研究し、特定の病理がどのように発展するかを予測しようとするものでした。これらの病理が私たちの体でどのように発展するかを研究することで、それがいつ起こるかを予測することもできます。
これはタンパク質フォールディングと呼ばれる研究を通じて行われ、実際のタンパク質と人工的に生成されたタンパク質の最も包括的なデータベースを開くことになりました。現在、多くの研究グループでディープラーニングと生物医学、生化学の分野で活用されています。
医療分野には、メンタルヘルスに関連する別の領域もあります。ここでも人工知能が私たちを助け始めています。特に、ソーシャルメディアでの会話や患者とのやり取りを通じて観察できる行動パターンの検出に役立っています。
診察中かもしれませんが、一般的に人工知能は、特にインターネットを通じてこのケアの範囲をカバーしようとしています。例えば、スペインの研究者による自殺予防に関する非常に興味深いプロジェクトがあります。ソーシャルメディア上で、自殺、摂食障害、その他のメンタルヘルスの問題について話す傾向のあるグループの行動を研究し、これらのアルゴリズムを通じて、テキストの分析、使用される表現、ハッシュタグを研究することで、起こり得る結果を予防するのに役立てることができます。
これはあまり探求されていない分野かもしれませんが、人工知能を使用することで大きな進歩が見られるでしょう。ただし、この場合、常に情報源を保護し、匿名化する必要があります。
これらのシステムやすべての研究には、認証やリリースのプロセスがあり、Netflixの映画推薦アルゴリズムのように素早く機能するわけではありません。結局のところ、より広範な規制プロセスが必要なのです。
「こんにちは、ネレア。最近話題になっているフェイクニュースについて、特にそれを検出することがどれほど難しいのかについてお聞きしたいと思います。新技術が私たちを操作するリスクがあると思いますか？」
フェイクニュースは、特にパンデミックと最近のアメリカ大統領選挙以降、ソーシャルメディアや様々な場所で話題になり続けている問題です。人工知能の分野でも、このような虚偽のコンテンツの生成を促進しているのか、それとも人工知能を使って検出できるのかという議論がされています。まず、操作について話したいと思います。ソーシャルメディアでは、当然、私たちが最も親しみを感じるコンテンツを見て、「いいね」をつけ、インターネット上での人々の行動を測定する方法があります。
「ソーシャルジレンマ」というドキュメンタリーをご覧になったことがありますか？そこではこういったことについて語られています。しかし、一つの重要なポイントは、インターネット上の情報だけで、良くも悪くもその人を知ることができるということです。また、人々がどのように情報を受け取るかということも重要です。
フェイクニュースに関して取り組む際の非常に難しい部分の一つは、その形を予測しようとすることです。なぜなら、テーマは一般的に時事的なものであり、機械は時事的なものとの相性が良くないからです。つまり、以前に経験した状況を予測することはできます。
特定の行動を研究することはできます。有名な「クリックベイト」、注目を集めてクリックさせるような方法については。記事を読む前でも、ある種の偏向的な要素があるように見えるかどうかを研究することはできます。ここで人工知能は最初の一歩を踏み出しています。
しかし、情報の検証に関することは、現在でも人工知能の範囲を超えています。ただし、インターネット上でフェイクニュースがどのように広がったかを追跡するのには役立ちます。これは特にTwitter（現在のX）で行われ、フェイクニュースを拡散するグループがインターネット上でどのように移動し、行動するかを研究するために人工知能を使用することができます。
ここで人工知能は、増え続けるデータ量の中からパターンを抽出する能力を提供してくれます。しかし、それを止めることは、結局のところ、私たち一人一人が情報にどう反応し、どう検証するかという問題です。インターネット上では、情報源や著者性を検証しようとする新しいメカニズムも見られます。
いつか、ブロックチェーン技術や何らかの電子署名と組み合わさり、自分が誰であるかを証明できるようになるかもしれません。これは動画生成においても提案されていますが、依然として非常に新しい技術です。また、この分野における規制もまだ十分ではありません。
今後の展開を見守る必要がありますが、現在のところ、私たちが見られていて、これらのトピックや読みたいものがパーソナライズされているということ以外は、それ以上のことは提供できていません。
「今の話に関連して、モーガン・フリーマンの動画を思い出します。その中で彼は『私はモーガン・フリーマンではありません。この動画は本物ではありません』と言っています。これを作るためにどんな技術が使われているのでしょうか？」
このようなインターネット上で登場している動画、モーガン・フリーマンの動画や、他の有名人の動画（多くの人々に知られているため、理想的なプロフィールとなっています）は、「ディープフェイク」と呼ばれるもので、非常にリアルに見えます。
ここで人工知能は、例えば、実際に動画を撮影している人（皆さんのような普通の人）と、モーガン・フリーマンに関して収集された全ての動画やデータとのマッチング、つまり接続に使用されます。人工知能は、俳優の表現方法と視覚的な層を組み合わせます。
しかし、現在でもリアルタイムでこの技術を機能させることは難しいです。例えば、このスタジオで、皆さんの誰かのディープフェイクを数秒で生成することは非常に困難です。結局のところ、これらの技術は依然として分析時間を必要とし、その後、一つの人物から別の人物への関係性を作り出すアルゴリズムの制作時間も必要で、そしてほとんどの場合、特にインターネットでバイラルになる高画質の動画では、若干のポストプロダクションも必要です。
分かりましたか？人工知能が何をしているかというと、このようなデータをますます速く処理できるようになっており、ポストプロダクションの必要性も減ってきています。しかし、例えば私を撮影している場合、私のジェスチャーの仕方、目の動かし方、私特有の動作の仕方など、別の人が撮影しているメッセージであれば、それは現在の技術では、私が「なりすまし」（これがこの種の攻撃の呼び方です）の被害に遭っていることを比較的簡単に検出できる方法となります。また、このポストプロダクション（これは人工知能ではなくデジタル編集ツールで行われます）が適切に行われていない場合、背景と人物の間に小さな不完全さや変化が見られることがあります。特に横顔で動く時に、解像度が少し失われることもあります。
そして、メガネの反射でも見られます。これは話題になりましたが、メガネの反射や指を組み合わせる方法など、突然指が消えたり余分な指が出たりするショットがあるかもしれません。これらはディープフェイクを診断し、見分けるための利点となります。
しかし、この分野の発展も見守る必要があります。特に規制の面では、間違いなく議論を呼ぶでしょう。
「こんにちは、ネレア。私はソフィアです。言葉やフレーズから写真を作る能力に非常に興味があります。例えば、赤いずきんを着た少女が森の中にいて、狼に追いかけられている写真を作りたいのですが。人工知能は自分自身でそのような創造性を持つことができると思いますか？それとも、創造性が人間と機械を区別する要素となるのでしょうか？」
とても良い質問ですね。あなたが例に挙げた赤いずきんと森の中の場面…きっと皆さんは「赤ずきん」の童話を思い浮かべたと思います。
何が起きているかというと、これは時々機械が理解できないことの一つです。しかし今では、私たち自身の自然言語で表現できるようになり、機械に与える大量のデータのおかげで、「赤ずきん」や「狼」、「森」という言葉が出てくると、人工知能の中で「童話」という言葉とも関連付けられる可能性があります。
人工知能はこのような関連付けを行います。つまり、このような様々な文脈や情報、私たちの参照を関連付ける方法が、私たちの創造的プロセスにも少し似てきているということです。私たちは着想を得て、参考にし、「このスタイルが好き」「これはそうでもない」「ここの影がいい」などと言います。
そして、写真やイラストの中に一貫性をもたらし、それが人工知能が組み立てるコラージュを思い起こさせ始めます。今では数回のクリックで、最新のツールで見られるように、さらに言語で編集を続けることができる多くのオプションが得られます。
確かに、数年前の私は創造性と機械は遠い関係にあると考えていた一人でした。実際、2017年の私の動画があり、「これは実現までにまだまだ時間がかかるでしょう」と言っています。しかし、私たちがこの創造性をどのように認識するか、このプロセスをより職人的な、より私たち自身のものとして考える方法と、人工知能の創造性をどのように認識するかには違いがあると思います。
つまり、創造性には二つの異なる方法があると思います。AIの方はより明らかにデータに焦点を当てており、私たちの方はより着想に焦点を当てており、それを私たちは芸術と呼んでいます。しかし、近い将来、人間によって作られた芸術かAIによって作られた芸術かという議論はなくなると思います。
むしろ、人間自身がスケッチの部分を加速するためにAIのプラットフォームや特徴を活用し、その後の編集段階で私たち自身のタッチを加えることで、実際には協力して作品を作るようになると思います。
これは近い将来に見られるようになると思います。
「こんにちは、ネレア。もし将来、人間の脳にチップを埋め込むことができるようになったら、私たちはより賢くなれるでしょうか？さらに、この技術は私たちにとって何かリスクがあると思いますか？」
インテリジェントチップですか。人工知能だけでは足りなくて、インテリジェントチップまで考えているんですね。
考えてみてください。例えば医療機関による認証を受けていない、あるいはあなたのような人間でテストされていないチップを、あなたは埋め込みたいと思いますか？誰もそうは思わないでしょう。
これはまだ少し遠い未来の話です。確かに最初のプロトタイプは見られ始めていますが、それらの成功についてはまだ情報が少ないです。これは研究されている分野ですが、必ずしも人工知能の分野の中ではありません。結局のところ、この分野ではコンピューティング（チップの部分）と、より生物学的な分野、つまりこの技術を私たちの皮膚や神経系統にどのように挿入し、私たちがどのように反応するかを研究する分野を組み合わせています。
したがって、人工知能が大きな役割を果たす分野とは思えません。確かに、イーロン・マスクの有名なNeuralink のような、このようなシステムが普及する時期が来ると思います。その発展を見守りましょう。認証されるかどうかは分かりません。
例えば、カードや携帯電話で支払う時のコンタクトレス決済のような仕組みについて、皮膚にチップを入れて手首で支払いができるという話もありました。しかし私にとって、これはまだまだ慎重に見守るべき分野です。
そして、先ほど感情について話した時と同様に、本当に必要なのか、本当にそのような段階に到達したいのかという疑問も持っています。人工知能は、このようなチップにどのように情報を提供するかという点で役立つかもしれません。確かに、医療分野では研究が行われ、ある種の周波数で作業が行われています。例えば、パーキンソン病の患者は主に振動の問題を抱えています…
これは神経系の問題です。彼らが試みているのは、小さなチップを埋め込み、体が常に発している振動や信号と反対の信号を発信することです。波の性質を学べば分かりますが、このような振動から、反対の信号を出して、平坦な状態にすることができます。
そして突然、スプーンを持つことができなかった患者が、感動的な瞬間を迎えます。なぜなら、本当に彼らの生活を変え、特に普通に生活できるようになるからです。再び、このようなシステムは、その機能を確認し、普及するためにより多くの時間が必要かもしれません。まさに、この規制システムのためです。
なぜなら、「これらの研究や実際の患者での最初の分析はどれほど安全なのか？」という疑問も出てくるからです。ここでは規制の問題も出てきますし、inspiration（着想）の問題も出てきます。ニューロライツ（神経権）について話され始めており、インターネット時代、プライバシーや私たちが誰であるかということを超えて、何らかの保護が必要になるかもしれません。
私たち一人一人がどのような人間であるか、私たちの固有の「指紋」についても考える必要があります。ここでは、個人をどのように保護すべきかという議論が多くなされています。間違いなく、現在脳や感情などを研究している多くの神経科学者にとって興味深いテーマとなり、データ、人工知能、ニューロライツといったテーマが収束し始めるでしょう。
「こんにちは、ネレア。例えば携帯電話のロック解除に使用する顔認識について、何かリスクはあるのでしょうか？」
顔認識は、人工知能やアルゴリズム全般の研究分野の一つで、実際にかなりの議論を呼んでいます。
なぜなら、一方では「識別メカニズムを導入しよう」と言います。顔認識は私たちを一意に、つまり固有に認識する方法として考えられています。私たち全員、かなり異なる顔を持っています。技術的には素晴らしく、すごいことですが、個人の保護という点では、時間とともに私たちがどのように発展していくかということを考えると、それほど好ましくないかもしれません。例を挙げて説明してみましょう。
例えば、携帯電話で認証する時、最近Face IDや指紋認証が非常に普及していますが、これは生体認証を行いますが、一般的に、このシステムを実装する前にスキャンに使用されるあなたの顔に関する情報は、すべてローカルに保存されます。つまり、あなたの生体情報はあなたの携帯電話の中にあります。
あなたの携帯電話がこの検証を行い、銀行のアプリやWhatsAppなど、あなたがFace IDを設定している第三者のサービスに、あなたが電話の前にいることを確認したという信号を送ります。そのため、このようなシステムは、私が言うところの「ポケットに入れて持ち歩くデバイス」として普及しています。
しかし、公共空間のシステム、例えばカメラでは、それほど見られません。なぜでしょうか？なぜなら、公共空間での人々の顔認識情報は、どこにあるか分からないサーバーに送られ、誰がそれを運営しているのか、誰がそのデータを保管しているのか分からないからです。
新しい人工知能法では、生体認証は公共空間で禁止されることが多く議論されています。ただし、本当に必要な場合、例えば未成年者の捜索や警察の捜査、さらには戦時中の環境などは例外とされています。したがって、ヨーロッパではそれほど普及することはないでしょうが、お話ししたように、これは今日存在する技術であり、デバイス内で行われる限り、安全に使用することができます。
もう一つ、議論を呼んでいる例があります。メディアでも取り上げられた取り組みで、あなたの虹彩をスキャンしようというプロジェクトです。想像してみてください。既にお話ししたように、あなたの顔が固有のものであるなら、私があなたの虹彩の情報を取得すると、これは実はあなたの体の中で最も変化の少ない部分の一つです。あなたの顔は、大人になってからはほとんど変化しなくなりますが、年とともに多少は変化します。
しかし、虹彩は最も変化の少ない部分の一つで、遺伝的な面でも、人に関する最も多くの情報を含んでいるようです。したがって、虹彩のスキャンは、現在行われているような方法では、実行方法は安全かもしれませんが、保存方法は安全ではありません。
この生体情報がどこで使用されるのか、あるいはむしろ、突然誰かがあなたの虹彩の生体情報を保存しているシステムを攻撃した場合、何が起こるのかについて、多くの疑問と議論があります。なぜでしょうか？それは、あなたの虹彩は変更できないからです。パスワードのようなものではありません。おそらくあなたの顔や指紋のように、何らかの修正が研究される可能性があります。
しかし、虹彩手術を受けることは、最も簡単なことではないでしょうし、私たちがしたいと思うことでもないでしょう。ですから、これには注意が必要です。これは今の問題ではありません。私のメッセージは、これは今の問題ではないということです。リスクは将来にあります。なぜなら、あなたの虹彩は10年後でもほとんど同じままで、そうすると、なりすましや悪意のある攻撃を受ける可能性があるからです。
Netflixに「Coded Bias（コード化された偏見）」という非常に興味深いドキュメンタリーがあります。ここでは、この顔認識に関連する別の種類のジレンマが提起されています。それは、技術的な顔認識を行う時、あらゆる種類の顔を識別できなければならないということです。
つまり、子供の顔も認識でき、大人の顔も認識できますが、異なる民族の顔も認識できなければならないということです。現在の多くの製品システムが行っているように、白い肌を認識すれば、突然、皆さん全員がシステムの一部となります。しかし最近、特に2016年、2017年頃、人工知能の研究者たち、特にジョイ・ブオラムウィニらの研究によって、彼女自身が黒人であったため、このような顔の生体認識システムから非常に除外されていると感じていたことが分かり始めました。なぜなら、システムが彼女の顔を単純に検出できなかったからです。したがって、ここにも研究分野があり、私たちは文字通り、他者の立場に立つ必要があります。
私のような技術的な部分、アルゴリズムの構築とデザインに携わる者は、私たちが直面する例の多様性を理解しようと努めなければなりません。また、これらの人々がどのように感じるかということも理解する必要があります。なぜなら、今、安全かそうでないかを議論している一方で、識別されない、システムの一部として認識されないということは、人口の一部を無視しているということであり、その人々は人工知能システムの内外で発展する同等の権利を持っているからです。
これらのシステムで特に見られたのは、異なる民族を扱う際や、また性別が男性から女性に変わる場合にも、システムの認識精度が低下していくということでした。実際、ドキュメンタリーには、彼女が博士論文で自分の顔に合う白い仮面を作り、それを付けた瞬間、多くの人工知能アルゴリズムが突然彼女を認識し始めるという映像があります。それが人間の形をした仮面であっても、です。これがどこまで及ぶかお分かりいただけると思います。
もう一つの同様の例で、必ずしも人工知能の問題ではありませんが、センサー技術に関連するものとして、手のひらの認識があります。ここでも、石鹸ディスペンサーなどで、黒人の人の手をセンサーが検出しないというケースが見られています。つまり、人工知能の分野には、より社会的な視点に触れる研究分野があり、ここには多くの人文科学や社会科学の専門家も参入して研究を行っています。それはインクルージョン、つまりこのようなシステムのインクルージョンをどのように測定するかということで、間違いなく、これは人工知能が社会的に受け入れられるための大きな進歩の一つになると思います。
「こんにちは、ネレア。専門家の中には、人工知能とロボットが多くの仕事を失くすと言う人もいれば、新しい仕事を作り出すと言う人もいます。あなたはどう思いますか？」
仕事の未来は、人工知能における別の大きなジレンマです。しかし、私は結局、これは常にそうだったと思います。
歴史上の様々な革命を考えてみると、確かに大きな変化、大きな破壊的革新が起きています。最近のものを考えると、インターネットはその一つでしょう。携帯電話も、私たちの関係や通信の方法という点で、もう一つの革命だと考えることができます。
しかし、私たちの仕事について考えると、人工知能は以前には起きなかった新しいことをもたらします。それは私たちのように話す能力です。突然、つい最近までエンジニアだけがコードを使って人工知能を使用していた状態から、突然すべての人々に開放され、自然言語で対話できるようになったのです。
では、これによって何が起きるのでしょうか？「もし正しい依頼方法を知っているなら、私がしていることと似たことを機械ができ始める」という警告を発します。正しい依頼方法を学ぶ必要があります。おそらく、やりたいタスクのコンテキストも与える必要があります。しかし、突然それをやってのけるのです。
完璧にはできないかもしれません。不確実性や未知の状況、経験に関連する状況にはあまり対応できないかもしれませんが、もし仕事に就いたばかりで、その組織の知識や経験がない人を考えてみると、あるいは皆さんのような若い人たち、まだ学び、発見することがたくさん残っている人たちを考えてみると、人工知能技術が突然、より速く働くのを助けてくれるかもしれません。
しかし、それは別の議論も開きます：「では、私の仕事はどれだけの価値があるのか？」これについて、私は仕事の完全な代替、つまり人工知能による完全な置き換えを想像するのは非常に難しいと考える人の一人です。
おそらく、人工知能がうまく機能しない部分を日々目にしているからでもあります。人工知能が混乱したり、時々特定の用語のコンテキストをうまく理解できなかったりするのを見ています。したがって、どんな職種でもうまくできるとは考えにくいです。
例えば、要約を作ったり、議事録を取ったり、翻訳したりすることを考えると、これらの生成システムが頭角を現し始めているように見えます。しかし、再び、人工知能だけを使用した場合、必要な品質は得られないと思います。そして、人間的な対応があります。
結局のところ、誰もが、ある状況に直面した時、特に知らない状況や顧客サービスの場面で、それを乗り切るのを助けてくれる何らかの人間的な対応を期待しています。したがって、協力について話す方が、より安全で現実的だと思います。そして、現在は人間が作ったのかAIが作ったのかを区別していますが、数年後には「私がやった」と言うだけで十分になるでしょう。
人工知能を部分的に使用したか、人工知能機能を持つツールを使用したかは重要ではなくなります。私はそのように考えたいと思います。例えば、OpenAIのCEOであるサム・アルトマンの言葉があります：「人工知能はタスクを自動化するのは得意だが、仕事を自動化するのは得意ではない」。
しかし、タスクや仕事の危険性のために人間をあまりにも多く危険にさらしていないかどうかを考える必要がある状況もあります。ここで人工知能は大きな進歩を見せています。例えば、送電塔の点検を考えてみましょう。
「設備の状態を確認しなければならない、高圧送電塔に登らなければならない」というタスクがあります。このようなタスクは現在、ドローンと人工知能を組み合わせてドローンが撮影した画像を分析することで、より安全に行うことができ、事故に遭う可能性のあるこのような作業に人を危険にさらす必要がありません。
アクティブセーフティと呼ばれる分野が登場しており、これは災害や火災など、アクセスが困難な場所で、再びドローンによる空撮や、場合によっては自律型の車両を使用し、人間が運転することなく特定の地形でよりアクセスしやすい方法で、何が起きているのかを理解するのに役立ち、そして再び、機械と人間の間で、最も簡単な対応方法を見つけようとします。
常に私たちの命を守りながらです。私はこの部分は…まあ、良いニュースであり、人工知能開発の非常にポジティブな部分だと思います。また、産業など、生産ラインや多くの機械がある施設でも見られ始めています。ここでは多くのセンサー技術が導入され、例えば人間がいる場合、切断機械などの機械が作動しないようになっています。
しかし、工場や製油所、あらゆる産業で今まさに起きていることの画像と、点検プロセスの情報を組み合わせようとしています。画像とテキストを組み合わせることができれば、これらの機械がいつ点検されたか、どのような事故があったか、年間のどの時期に、内部スタッフか外部スタッフがいたかを知ることができます。
これらは人身事故の数を減らすのに役立つ可能性がある状況です。特に、機械に接する機会が多く、物理的な事故に遭う可能性のある環境にいる人々の場合です。
「こんにちは、ネレア。私はアメリアです。工業系の高校生です。あなたが大学にいた時、学年に3、4人の女性しかいなかったと聞きました。この分野にもっと女性の代表者が必要だと思いますか？」
見てください、これは少しずつ変化していっている問題だと思います。私たちが望むほどの速さではありませんが、だからこそ私も女性としての立場について多くの啓発活動や活動を行ってきました。残念ながら、テクノロジー分野では女性は少数でしたが、さらに少数だった上に、公に認められる女性の人物像が非常に少なかったのです。
これは分野の発展とも関係があり、例えばコンピュータ、特にパーソナルコンピュータが登場した時期に、突然、広告で私たち女性がほとんど付属品のように扱われ始めました。昔の車の広告でモデルが登場したように。
コンピュータでも同じことが起きていました。そこにあるメッセージは「コンピュータはより生産的になるため、家族と過ごす時間を増やすためのもの」というものでしたが、写真に写っているのはスーツを着た男性でした。ここには、テクノロジーについてどのように語り、どのように別の言説を展開するかという部分があります。
私は、工学、情報工学、その他の分野から社会にどのような影響を与えることができるかという応用例をもっと聞きたかったと思います。また、エレナ・ガルシア・アルマダがエクソスケルトンを作った例のような、テクノロジーの発展に参加した他の女性たちの例も聞きたかったと思います。
そうですね、私たちは少数でした。確かに、残っていた女性たちはとても優秀でした。これも言っておかなければなりません。なぜなら、そこに留まろうとして周りのレベルに追いつこうとする時、再び、あなたの中の何かが警戒を始め、他の人々が話すように話そうとするからです。
多くの場合、女性として慣れていない会話です。そのため、より多く自分をさらし、より多く働き、より多く勉強します。そして、励ましのメッセージも送りたいと思います。私はここにいます。私は、おそらく今日私が持っているような声を持っていない多くの人々の一例かもしれませんが、何であれ、私たちが女性であることは本当に関係ないということを理解することが重要だと思います。
私たちはプロフェッショナルです。そのため、女性のロールモデルが不足しているかどうかについて話し合うことは重要ですが、私たちの仕事について話すことも重要だと思います。なぜなら、それこそが、あなたのような人々や、聴衆の中にいる他の少女や女性たちがこのような進路を選んだり、キャリアの方向転換をしたいと思った時に職業の機会を与えたりするきっかけとなるからです。そして何より、男性の仕事や女性の仕事というものはないということを普通のことにすることが大切です。
例えば、人工知能やこのようなチームで働く時、あなたが唯一の女性で男性に囲まれている状況を考えると、特殊なことが起こります。それは多様性の欠如です。プロジェクトに取り組む時、私たち一人一人の考え方は、私たちが誰であるか、どのように話すか、どのように関係を築いてきたか、私たちの文化的背景、学歴などによって影響を受けます。
テクノロジーでは、まさにこの男性の割合が高いために、例えばスマートウォッチのデザインで、数年前、ストラップが非常に幅広く、女性の購買者がいないことに気づいて悩んでいた例がありました。そして初めて社内の女性に見せた時、「ストラップが広すぎます。女性はこのような時計を買いません」と言われました。
この明白な例は製品のインターフェースに関するものですが、もっと深刻な問題もあります。例えば、顔認識アルゴリズムで同じように認識されないこと、歴史的なデータのバイアスによって特定の言葉と関連付けられてしまうこと、おそらく女性が仕事に触れる機会が少なかったり、医学でも研究されることが少なかったりしたことなどです。
これらすべてが、今突然人工知能に入れると、そこから抽出されるパターンが…おそらく私が病気の症状を持っていても、それは実際には男性の症状かもしれず、私は異なる症状を持っているかもしれません。または、例えばすべてのデバイスシステムなどの場合、女性の声は高音なので、私の声が同じように認識されない可能性があります。
そして、自動運転車のようなシステムを考えると、男性の声と同じように私の声が認識されず、危険な状況に陥る可能性があります。そこで、このような状況が出てくると、内部から研究する必要があります。人々に関わる環境では特に、製品をリリースする前に、バイアスの評価や、データの多様性、そして人工知能が導き出す結論の評価を行わずに待つことはできません。
「こんにちは、ネレア。私はカルロタです。科学・技術・人文学という学部で学んでいます。大学では人工知能に関して二つの立場の教授がいます。一つはこのようなツールの使用を推奨する立場、もう一つはこのような技術の使用を望まず、教育における脅威だと見なす立場です。これについてどのようにお考えですか？」
そうですね、私はほとんどの場合、人工知能の使用に賛成する立場です。確かに、人工知能に携わり、その長所短所を見てきた人間として、これらのツールが私たちにもたらす影響を相対化することもできます。特に、失敗を見てきて、どこでうまく機能しないかを知っているからです。
教育でこのようなツールを使い始めることは良いことだと思います。賛成か反対かというだけでなく、将来の職場環境で遭遇することになるからです。今日、誰も手作業で会計をしようとは考えませんし、インターネットがあるのに図書館に行って参考資料を探そうとは考えないでしょう。
私にとって、人工知能は再び、この意味での別の動き、別の破壊的革新であり、情報を見つけるだけでなく、直接それを消化し、下書きのようなものを準備するのを助けてくれます。確かに、これで授業の宿題もできるかもしれませんね。そのため、教育は徐々にこのようなシステムを統合していくと思います。
教育空間全体で統合する意味はないかもしれませんが、このツールを使って「ここが出発点です。これらの生成ツール」、生成ツールについて話していますが、「を使って、あるテーマの要約を作ってください」と言うのは興味深いと思います。それは本かもしれませんし、議論したいテーマかもしれません。何でもいいですが、人工知能は下書きを提供してくれます。
3段落かもしれませんし、4段落かもしれません。英語で書いてもらうこともできます…何が起こるかというと、ここからあなたの仕事が始まります。なぜなら、与えられた参考文献が気に入らないかもしれませんし、何かが間違っていることに気づくかもしれませんし、学生として、インターネットで確認する必要があるかもしれないからです。
この作業は、数年後のあなたの職場での仕事にとても似ています。先ほど言ったように、機械と人間の協力は非常に一般的になり、クリック、クリック、クリックとなり、この会話を繰り返し、繰り返し、繰り返し改善していくことになります。
したがって、これらのツールに早めに触れ、その長所短所を見極めることができれば、それに越したことはありません。また、一種のパーソナルチューターとしても非常に良い面があると思います。このような使い方をしたことがない場合はお勧めします。なぜなら、例えば私が皆さんの質問に答えているように、私も人工知能を使って、これらの質問にどう答えるかのアドバイスをもらうことができるからです。
「この専門的な概念を、このテーマを知らない聴衆にどのように説明しますか？」「このタスクに関する試験でどのような質問が出るでしょうか？」「テストを作成して、正解を教えてください」。つまり、チューターとして対話する方法もあり、ここで人工知能は、特に学生が教室にいない時、より家にいて、自分の勉強や学習方法がある時に、かなり主要な役割を果たすと思います。
「こんにちは、ネレア。私はチャロです。とても興味深い会話をありがとうございます。この機会に感謝を伝えたいと思います。私の質問は以下の通りです。あなたは生成AIのブームについて、制御不能な状態だとおっしゃいましたが、確かに人々はChatGPTの回答に魅了される人々と、恐怖を感じる人々の二つに分かれています。現在のこれらのシステムに対して、私たちはどのような姿勢を取るべきでしょうか？何を期待できるのでしょうか？」
生成AIからは大きなことと大きな進歩が期待できます。確かに、私は中庸を守ることを推奨します。そこに徳があると言われています。そのため、これらの進歩と、それがどのように普及してきたかについて、楽観的である必要があります。
私にとって、これはとても素晴らしいことです。特に私のように、これに携わってきた者にとって…人工知能に携わって約10年になります。これほど多くの業界の人々と会話を開くことができたなんて、想像もできなかったでしょう。つまり、ジャーナリストと話し、教育者と話し、製薬業界、医療、物流の人々と話し…
そうですね、人文科学、死語の研究なども含めて…まあ、たくさんのことがあります。そこで、人工知能について一つの疑問が浮かびます：将来、というよりもほぼ現在、これから5年でどうなるのか？確かに、私はこのブームは少し落ち着くと思います。
つまり、新しいツールへの魅了の時期があり、その後、それらを統合していき、突然、それらが登場した時のことをほとんど忘れてしまうということです。これは携帯電話で多く起きたことです。例えば、スマートフォンが銀行口座のような最もプライベートな情報を保管する方法になり、チャットを通じて最も近い人々とコミュニケーションを取ったり、インターネットで情報を検索したりするようになるとは、想像もしていませんでした。
電話をかけるためにほとんど使用しないほどです。人工知能も同じようになると思います。本当に強力な応用がある分野を見つけ始め、例えば、デバイスとのやり取り方法に関するトレンドが見られるでしょう。これは私が非常に魅了される話題の一つです。数年後には、私たちが知っているようなキーボードが、携帯電話の画面に統合されたように、コンピュータのキーボードも多くのことに必要なくなるかもしれません。
それはすべて、突然、デジタルシステムとのやり取り方を変えることができたからです。したがって、おそらく音声が、これらのシステムと話し、理解し合い、私たちが行いたいタスクを繰り返し改善していく次のツールとなるでしょう。
これは非常に興味深いポイントとなり、多くの人々が他の「バックグラウンド」、つまり別のプロフェッショナルレベルで人工知能の中で働き始めることにもつながるでしょう。そして、規制の観点からもバブルが少し落ち着くと思います。なぜなら、私たちは人工知能が…
インターネットに製品をリリースし、新しい進歩を作ることが、非常に速く到達するように見えますが、企業への適用、医療環境、例えば司法のような環境への採用においては、これらの監査メカニズム、評価、例えばバイアスの評価、バイアスの管理、データの管理などがさらに規制されていくのを見ることになるでしょう。
したがって、人工知能にこの安全ベルトやエアバッグを付け始めることにもなり、おそらくこれらの進歩も落ち着いていくでしょう。ただし、確実に分からないのは、これらすべてが起こるスピードです。ここに大きな疑問があります。なぜなら、私たちは2、3年の非常に急激で継続的な人工知能の進歩を経験してきたからです。
2020年、私はGPT-3のリリースを覚えています。これはChatGPTの親であり、現在ではSoraという最新のアルゴリズムによる動画生成について話しています。そうすると、ある時点で「規制レベルを超えて、これをどのように使用するのか？」と考えることになります。
分かりません。私たちが日常生活にこれらのシステムを組み込んでいく速度も、その方向性を示してくれると思います。しかし、現在、人工知能の専門家や関係者で、その時期を言える人はいないと思います。なぜなら、この3年間の進歩、進歩、進歩があまりにも私たちを追い越してしまい、それらすべてを少し消化し、一般の人々による使用に目を向け、そこから人工知能に関する新しい協力や新しい考え方を見つける必要があるかもしれないからです。
最後に、それでもなお、私たちのように機械が推論できるようになるにはまだ遠いということも強調したいと思います。様々な質問を通じてこれについて話してきましたが、確かに人工知能、特に一般の人々からより多くの受け入れや成功を見ている生成AIは、依然として長期的な推論を行う必要がある場合、決定を下す必要がある場合、特に具体的なパラメータを考慮に入れなければならない場合にはうまく機能しないシステムです。
例えば、司法命令を考えた場合、企業がどのように機能するかを考えた場合。したがって、ここにはまだ多くの道のりがあり、間違いなく公開され続ける新しい進歩が、この場合、データを生成し、人工的なデータを生成するために生まれた人工知能に、より論理的な層を追加することになるでしょう。
そしてここで、これが達成され始める時、おそらく汎用人工知能への道筋が見え始めるかもしれません。もし本当にそこに到達したいのであれば、これは私が締めくくりに使いたいもう一つの未解決の質問です。もし突然、多くの科学的な動きが既に言っているように、「本当にこのスーパーブレインに到達する必要があるのか、それとも現在または近い将来の人工知能の知識で十分なのか？」と考えることになるでしょう。
以上です。この説明全体を楽しんでいただけたと願っています。特に、人工知能に魅了され続け、進歩、そして決して少なくない進歩について常に最新の情報を得ていただけることを願っています。ありがとうございました。
コメント