マイクロソフト、DeepSeekのデータを調査

2,169 文字

センチネルワンのチーフセキュリティオフィサーであるスタモス氏に伺います。OpenAIや他のAIラボが自社の知的財産について懸念を持つのは正当なのでしょうか？
アレックス: そう思います。DeepSeekが主張するような少ない計算能力と低コストで、そのような高性能なモデルを構築できたという主張を疑問視する人が多くいます。
素晴らしいブレークスルーもありました。彼らは訓練コストと推論の両方において大きなブレークスルーを示す論文を発表しました。推論とは、利用者がモデルを実際に使用する際の処理のことであり、彼らは実際に他の人々も利用できる形で成果を文書化するという、正当なブレークスルーを達成しました。
多くの人々が、DeepSeekの構築にはAzure上で動作するOpenAIのモデルとMetaのオープンソースモデルを利用したと考えており、それが現在調査されている点です。
マイク: マイクロソフトやOpenAI、そして他のプロバイダーは、これが再び起こるのを防ぐために何かできることはありますか？DeepSeekでなくても、おそらく中国の他の競合他社から？
アレックス: これが課題です。マイクロソフトのビジネスモデルは、Microsoft Azureにアカウントを開設し、自分の目的のために使用できるOpenAIモデルのプライベートコピーを作成するよう依頼できるというものです。これは、マイクロソフトがOpenAIへの数十億ドルの投資を収益化する方法です。これは理論的には彼らにとっても、OpenAIにとっても、顧客にとっても素晴らしいことです。
理論上、モデルの重みを顧客に公開せず、顧客の企業秘密データも公開しないOpenAIのバージョンを持つことができます。しかし実際に起きているのは、何百万回も何十億回も質問を投げかけることでデータを抽出する方法を人々が見つけ出したということです。
古くて賢い教授がいて、その教授に多くの質問をして、効果的にその教授のコピーになるようなものを想像してください。それが機械の速度で起こり得るのです。それを数日、数週間、または数ヶ月かけて行うことができます。そしてそれがマイクロソフトが運営しているビジネスモデルです。そのような行動を検知することは可能かもしれませんが、それは我々が販売しているものでもあります。
彼らはDeepSeekが何をしたのかを調査するでしょうが、誰かが実際にマイクロソフトが望み、対価を得ている方法でモデルを利用しているのか、それともそれらのモデルをコピーしているのかを判断するのは、いたちごっこになるでしょう。
キャロライン: プライバシーの懸念の詳細についてお聞きしたいと思います。ホワイトハウスの元CIOであるテレサ・ペイトンが私たちに加わりました。彼女はこう述べています。
これは未検証のアプリです。いわゆる倫理的ハッキングや実際のアプリのテスト、そしてデータがどのように扱われ、どこに保存され、アルゴリズムがどのように機能するかについてより詳しく知る機会があるまでは、企業の機密情報を多く入力しないよう注意を促したいと思います。
オープンソースではありますが、その実力は十分に検証される必要があります。
キャロライン: DeepSeekは最もダウンロード数の多いアプリとなり、さらに今やアリババも最新の強力なAIノベルを発表しています。同様の慎重さが必要でしょうか？
アレックス: ここで話が複雑になり、二つの異なる事柄を慎重に区別する必要があります。人々がダウンロードしているDeepSeekアプリがあります。
そのデータは直接中国に送られます。DeepSeekをダウンロードしたり、そのウェブサイトにアクセスしてクエリを入力すると、そのデータは直接中国に送られ、その中国企業が利用可能で、中国政府も問題なくアクセスできます。確かに、企業は従業員がDeepSeekアプリを携帯電話にダウンロードすることを許可すべきではありません。
オープンソースモデルの重みをダウンロードする場合、それは中国には送られません。リスクはいくつかありますが、それらはほとんど理論的なものです。モデルの重みには中国共産党に向けたイデオロギー的な偏りがあります。例えば、天安門広場について尋ねても答えないでしょうし、習近平についてプーさんの物語を作ることもないでしょう。
つまり、中国政府がAIのイデオロギー的一貫性について作成したルールに従っているのです。これはセキュリティリスクではありません。とはいえ、セキュリティに敏感な用途でAIを使用する際のバックドアについて、人々が興味深いアイデアを考え出しています。それはそれほど大きな問題ではありません。
企業がモデルの重みを使用する上でより興味深い質問は、法的問題です。それがMetaやOpenAIのモデルのトレードオフだったことが判明した場合、法的にはどうなるのでしょうか？DeepSeekはオープンソースを持っていますが、法的問題を解決する現実性は持っていません。
OpenAIは訓練データの使用について訴えられています。これは問題の一つです。知的財産の問題は解決されていません。我々は18世紀、19世紀、そして20世紀初頭の著作権の考え方を扱おうとしています。