WAND、ChatGPT API導入サービス開発者向けプロンプトインジェクション対策コンサルティングサービスを提供開始

プロンプトインジェクションは、ChatGPTを始めとする生成AIを活用したサービス開発において増加の一途をたどるセキュリティ脅威の1つであり、データプライバシーの侵害やサービスの挙動の乗っ取りを目指す悪意のある攻撃を指す。この脅威に対抗するため、同社で生成AIセキュリティチームを発足し、生成AI特化型のセキュリティコンサルティング／攻撃対策支援および、自社オリジナルのプロンプトインジェクション判定AIモデルの提供を開始した。

プロンプトインジェクション対策コンサルティングサービスでは、プロンプトインジェクションに精通するエンジニアがクライアント企業を訪問し、AI事業に関するセキュリティ面での対策提言、従業員教育とトレーニング、緊急時の対応支援などを提供する。クライアントの個別のニーズに合わせた、カスタマイズされたソリューションを提供し、セキュリティインシデントの発生を最小限に抑える。

また、あわせて簡単に悪意あるプロンプトインジェクションをAIが検知できる「プロンプトインジェクション検知AI」をリリースした。数行のコードを埋め込むだけで、悪意あるプロンプトインジェクションをAIが検知し、機密情報の引き出しやAIの乗っ取りを防止する。