生成AIのフェイクを見破る、企業向けフェイク検出サービスをリリース

2024/4/10

Today's PICK UP

AI総合研究所として活動するNABLAS株式会社は、企業向けフェイク検出サービスをリリースした。これにより、メディアやSNSにおける情報だけでなく人間の目では見抜けないレベルのフェイクコンテンツに対しても、ユーザー独自で専門的かつ信頼性の高いフェイク判定を行えるようになる。

Contents

■フェイク検出器（Fake Detector）とは
■サービスの特徴
■今後の展望

■フェイク検出器（Fake Detector）とは

このフェイク検出器（Fake Detector）は、画像・動画・音声などの様々な形式のデータに対し、それがAIによって生成されたものであるかを判定するプロダクトだ。
また、テキスト情報に対しては、特定のデータベースやWeb上の情報を参照し真偽を明らかにするファクトチェック機能を有している。
この度のフェイク検出サービスではSaaS形式でフェイク検出器を提供する。

テキストファクトチェックに関する詳細はこちら
https://prtimes.jp/main/html/rd/p/000000061.000038634.html

■サービスの特徴

本サービスには、該当のデータがAIで生成されたフェイクデータか否かを判定するフェイク検出アプリの提供と、該当のデータが過去画像の流用や編集が加えられたデータか否かといったデータの信頼性を多面的かつ総合的に検証するフェイク鑑定・レポートサービスがある。

出典元：プレスリリース

①様々なデータ形式へ対応
画像、動画、音声、テキストなど、多様な形式のフェイク検出に対応しています。これにより、様々なメディアコンテンツに対する信頼性のチェックを行うことが可能。

出典元：プレスリリース

②最新の生成AI技術へ対応
最新生成AI技術で作られたデータのフェイク検出対応に取り組んでいる。フェイク検出では、モデルがこれまでに学習したデータ内に存在するデータの特徴を基にフェイク検証を行う。そのため学習データに存在しない最新の手法で生成されたフェイクメディアの検出には課題がある。当社のフェイク検出では、基盤システム内で自動的に多様なフェイクデータを生成し学習を進める仕組み構築に取り組んでおり、最新の生成AI技術への対応を進めている。

出典元：プレスリリース

③用途や環境に合わせたカスタマイズ提供
検出したいデータに合わせた検出モデルのカスタマイズや、利用する環境に合わせた基盤の構築など、個々のニーズに合わせたサービス提供が可能。

④信頼性を多面的にチェック
AIによる検出だけでなく、アカウントや拡散経路の信頼性調査、データの加工や、データの内容とそこに含まれるリンクなどの付帯情報を踏まえたファクトチェックなど、多面的かつ総合的な信頼性チェックを行う。これにより、より高い信頼性の判定を行うことが可能だ。