セキュリティ企業の「Wiz」が、悪意のあるAIモデルをHugging Face上で実行することでそのAIモデルを通してHugging Faceのシステムに侵入できる脆弱(ぜいじゃく)性を発見したと発表しました。
Hugging FaceではAIモデルのアップロード・ダウンロードのほかに、アップロードされているAIをHugging Faceのシステム上で実行して簡単に動作を確認する「Inference API」という機能が用意されています。
AIモデルは開発されたフレームワークに基づいてさまざまな形式で保存されています。Hugging Faceにはさまざまな形式のAIモデルをアップロード可能ですが、AIモデルの形式のなかには「pickle」のようにリモートコード実行が可能で安全ではないものも存在しています。 そこで、Wizのチームはpickle形式で悪意のあるAIモデルを作成し、Hugging FaceにアップロードしてInference APIで実行しました。このAIモデルは、一般的な入力には通常のAIのようにふるまいます。上記の通り、AIモデルを実行するサービス「AI-as-a-Service」において悪意のあるAIモデルは大きなリスクとなります。悪意のあるAIモデルを実行することでシステムを乗っ取られて自社や他の顧客のデータへアクセスされてしまう可能性があるのはもちろん、悪意のあるAIアプリケーションをコンパイルすることでCI/CDパイプラインを乗っ取ってサプライチェーン攻撃をされる可能性もあるとのこと。
Hugging Faceはセキュリティの問題の多くはpickle形式のモデルで発生しており、運用環境ではpickle形式を使用しないよう述べた上で、Wizのクラウドセキュリティサービス「Wiz for Cloud Security Posture Management」を使用するなど安全性を高めるための取り組みを行っていることをアピールし「私たちは今後もAIコミュニティの保護とセキュリティのリーダーであり続けるつもりだ」と訴えました。
South Africa Latest News, South Africa Headlines
Similar News:You can also read news stories similar to this one that we have collected from other news sources.
SentinelOne と Wiz が、エンド ツー エンドのクラウド セキュリティを提供するための独占的パートナーシップを発表SentinelOne Japan株式会社のプレスリリース（2023年3月9日 11時31分）SentinelOne と Wiz が、エンド ツー エンドのクラウド セキュリティを提供するための独占的パートナーシップを発表
Read more »