研究背景・目的

　AIの進展により、人間由来のデータを大量にAIに学習させることで、本物と見紛う映像、声、文章といった「フェイクメディア」の大量生成が技術的に可能となりました。フェイクメディアによる詐欺や詐称、情報操作が現実の脅威となっており、フェイクメディアであるか否かの真贋判定の必要性が高まっています。

　しかし、AIによるフェイクメディアの生成技術は日々進化しており、多様な手法が存在します。その対象もさまざまであり、映像中に含まれる個人の顔や表情、声に含まれる個人性もしくは発話内容、新聞記事や口コミなどもAIで自動生成することが可能です。このように多種多様で、日々進化するフェイクメディアに対して、頑健に真贋判定を行うことが重要な課題です。

研究内容

　私たちは、画像、映像、音声、自然言語を対象としたAIによる生成技術を有しており、この技術を活用したフェイクメディアの検出技術を研究開発しています。検出方法は、人間による分析などを一切必要としない、大量のデータに基づく自動識別手法です。それゆえ、圧縮やダウンコンバージョンなどのメディア処理が施されていても、一定の信頼度をもって真贋判定を行うことが可能です。

　私たちのフェイクメディア検出技術を用いると、対象とするメディアの真贋判定処理の他に、当該メディアがフェイクであれば、どの部分や領域が改ざんされているのか特定することが可能です。フェイクであると判断した根拠を示す技術であり、フェイクメディアの流通が増加してくると考えられる今後、欠かせない技術になると考えられます。

産業応用の可能性

フェイク顔映像を自動判定するプログラムを開発

　ディープフェイクに代表されるAIにより生成されたフェイク顔映像を自動判定するプログラム「SYNTHETIQ:Synthetic video detector」を開発しました。本プログラムは、判定対象となる映像のアップロードから、判定結果を示した映像をダウンロードするまでの全てのプロセスをウェブ APIとして利用可能なものです。このウェブAPIの活用により、AIを活用したウェブサービス「AIas a service, AIaaS」を容易に実現できると期待されます。