私たちの最初のゲストは、Anthropicの共同創業者であり、機械学習、神経科学、認知科学を組み合わせたAI研究所の兄妹です。皆さん、ダリオとダニエラをステージに迎えましょう。皆さん、どうもありがとう。ここにいてくれてとても興奮しています。まず、Google検索の結果やMicrosoft Copilotについて聞いたことがあるかもしれない初心者のために、Claudeについて教えてください。そして、昨年登場した大型言語モデルやチャットボットとどのように異なるのかを教えてください。
はい。Anthropicの創設に戻ると、私たちがAnthropicを始めるためにOpenAIを離れたとき、私たちには二つの主要な仮説がありました。そのうちの一つは、多くの企業がこの分野で非常に成功を収めていると考えているもので、もう一つはAnthropicに特有のものでした。最初の仮説は、スケーリング仮説と呼ばれるもので、これらのモデルを大規模にスケーリングすれば、より多くのデータを追加し、モデル内の計算パラメータを増やすことで、さまざまなタスクでより良いパフォーマンスを発揮するという考えです。私たちはその早期の支持者でしたが、これはすべての企業に共通していると思います。二つ目の仮説は、これらのモデルをスケーリングするだけでなく、それらを非常に強力なロケットのようにする必要があるというものでした。私たちは、AIシステムの価値を明示的に指定する方法としての憲法AIや、AIシステムの内部を調べる解釈可能性、AIのセキュリティや脱獄耐性に関するさまざまなことに取り組んできました。ですから、私たちの仕事は、純粋なスケーリングと、このような操縦と安全性の要素を組み合わせたものだと考えています。
次に、その質問にも答えてもらえますか？つまり、iOSアプリをダウンロードできる消費者や、AmazonやGoogleのクラウドでAPIにアクセスできる企業ユーザーにとって、Anthropicが選ばれる理由を教えてください。
今日、私たちの最大のモデルであるClaude 3 OSは、世界で最も強力で優れたモデルです。そのため、特に複雑な認知タスクを行う企業にとって、Claude 3 Opusは素晴らしい選択肢です。また、私たちは企業やビジネスの選択肢を提供しています。これは、お客様からのフィードバックによるものです。時には、最高で最速のモデルが必要な場合もありますが、時には、より安価で迅速なモデルが必要な場合もあります。Claude 3 Haikuは、カスタマーサポートなど、非常に迅速で価格競争力のあるモデルが必要なビジネスに最適です。さらに、私たちは信頼性と安全性に重点を置いており、消費者や企業はそのアプローチに共感しています。ツールとしてClaudeを使用する際には、返ってくる結果が正確で信頼性があり、予定通りに動作することが重要です。Anthropicはこの種の仕事を優先していることで知られています。
消費者としてAIを体験していますが、これは新技術の最初のデモンストレーションのようなものでしょうか？それともツールの背景に隠れてしまうのでしょうか？
実際には両方だと思います。一つの方向性は、AIシステムが既存の技術インフラに浸透し始めることです。たとえば、コード補完への統合や、IntuitがTurboTaxに関する質問に答えるためにAIシステムを使用していることなどです。もう一つの方向性は、チャットボットがツールと連携し、個人的なアシスタントとして行動することです。これらの技術は企業と消費者の両方で存在するでしょう。私たちは企業に焦点を当てていますが、あらゆる場所にAIを展開しています。
来週のGoogle IOイベントや来月のAppleのWWDCイベントで、AIのソフトウェアやオペレーティングシステムへの統合について多くの話を聞くでしょう。iOSで紹介されたClaudeアプリのようなサードパーティアプリの役割についてどう考えていますか？
私たちの一般的な視点は、モデルを構築するのに多大な努力とリソースが必要であり、構築したモデルを可能な限り多くの場所に展開したいと考えています。最近、チーム向けの製品を発表しましたが、それもモバイルで利用可能です。現在のチャットボットは、企業環境に展開しようとすると、あたかも路上から連れてきた賢い人間と一緒に働くようなもので、すべての文脈を持っていないことが多いです。私たちは、データベースや企業固有の情報と連携することで、より情報に基づいた従業員のようにすることを目指しています。モバイルアプリはその一部であり、消費者体験にもなります。
あなたと共同創業者は、人類に調和したモデルを開発し、予期せぬリスクを発生させない、安全なAIを目指しています。AIの方向性に関する懸念をどのように発展させましたか？
私たちの基本原則は、この技術には非常に多くの潜在的な利益があると感じていることです。たとえば、ヘルスケアや科学の分野での変革です。私たちの顧客であるPfizerやDana-Farber Cancer Instituteが行っている仕事は本当に素晴らしいです。また、過去の技術革新から学ぶべき教訓もあると感じています。ソーシャルメディアのようなものからも多くの良いことがありましたが、同時に多くの害もありました。これらの技術が引き起こす可能性のある外部性について広い視点を持ち、責任あるリーダーとして行動することを目指しています。
冒頭のビデオを見ましたか？昨年のこの会議で、EmilyがSam Altmanに「なぜ私たちはあなたを信頼すべきですか？」と尋ねたシーンがありました。彼の答えは「信頼すべきではない」でした。あなたに同じ質問をします。なぜあなたを信頼すべきでしょうか？
私の見解は、人を信頼するのではなく、機関を信頼するべきだということです。Anthropicは信頼できる機関であり、社会的にも企業としても信頼されています。最終的には、実績がすべてです。Anthropicは長く存在していませんが、信頼性を築く努力をしてきました。技術が非常に強力になると、民主的正当性や政府の関与についての質問が生じるかもしれません。まだその段階には達していませんが、そのようなメカニズムについて考える必要があります。
AmazonやGoogleから7億ドル以上の資金を調達しました。この道を歩み始める前と比べて、世界は今安全でしょうか？
AIの分野は非常に挑戦的です。私たちは最善の責任ある行動者であることを目指しており、市場や政策にポジティブな影響を与えることを目指しています。たとえば、昨年9月に責任あるスケーリング計画を発表し、その後、他の企業も同様の取り組みを始めました。私たちは良い例を示し、他の企業にもその例に従うよう促しています。
OpenAIから独立した理由の一つは、方向性や価値観の違いでしたが、今のOpenAIを見て懸念が現実化していると感じますか？
Anthropicは常に独自のビジョンとストーリーを持っています。私たちは、最初から価値観が一致しているチームで何かを築く機会を見ました。この機会を活かして、責任ある、安全で信頼できるツールを開発することができました。私たちの価値観に基づいてこの会社を設立したのです。
AIがもたらす最も緊急の課題は何かを尋ねる投票を行います。いくつかの選択肢がありますので、意見をお聞かせください。兄妹で会社を始めるのはどんな感じですか？
私たちは幼い頃からとても仲が良く、問題を解決したいという強い思いを持っていました。会社を一緒に運営することは、その思いを最大限に表現する形です。私たちは毎週、オリジナルのFinal Fantasy VIIをプレイしていました。今では、PS5の新しいリメイクをプレイしていますが、基本的には同じです。
あなたの育った環境や家族のダイナミクスが起業家になることに影響を与えましたか？
私たちは1990年代のサンフランシスコで育ち、最初のテックブームを間近で見ました。その影響でテクノロジーに興味を持ちました。
これまでの大型言語モデルのようなステップアップを続けるのが難しくなることを心配していますか？
まだまだ成長の余地があります。現在のモデルは1億ドルの範囲ですが、数年内に1000倍の成長が見込まれます。アルゴリズムも効率化され、さらに進化するでしょう。
これらのモデルのカーボンフットプリントについて心配していますか？
Anthropicはカーボンオフセットに投資しています。完璧な解決策はありませんが、これは重要な問題です。
FTCがAnthropicとGoogleやAmazonなどの大手テック企業との関係を調査しています。これらの関係が競争を阻害するという議論はありますか？
Anthropicは二つの異なるクラウドプロバイダーとの関係を持っており、独立性と選択肢を提供しています。私たちは独立した企業であり、独自の道を進んでいます。
AIの進展のペースが続くと仮定して、この未来に興奮すべき理由を教えてください。
興奮と恐れの両方を持つべきです。例えば、医学分野では癌やアルツハイマー病のような複雑な疾患に対して、AIが大きな可能性を持っています。私たちはすでにPfizerのような企業との協力で進展を見ています。この技術は生活の質を向上させる可能性があります。
ダリオとダニエラ・アモディ、ありがとうございました。
コメント