Metaは、AI生成音声に透かしを埋め込むシステム「AudioSeal」を開発した。同ツールはソーシャルメディア企業が好ましくないコンテンツを見つけて削除する際に役立つといい、音声クローニング・ツールを使った偽情報や詐欺の増加問題の解決策として期待されている。

システムのツールは「オーディオシール（AudioSeal）」と呼ばれ、例えば1時間のポッドキャストの中から、AIによって生成された可能性のある部分をピンポイントで特定できる。

現行技術では、長時間の音声からAIが生成した部分を特定する場合、秒単位で全体をチェックして透かしの有無を確認しなくてはならない。

一方AudioSealは、音声トラック全体の各セクションに一貫して透かしを埋め込むことで、透かしを局在させている。そのため、音声が切り取られたり編集されていても、透かしを検出できるという。

シカゴ大学のベン・ジャオ教授は同ツールについて、「自分が出会ったどの音声透かしシステムよりも優れたもの」だと話す。また、非営利団体パートナーシップ・オン・AI（Partnership on AI）でAI・メディアインテグリティ（AI and Media Integrity）プログラムの責任者を務めるクレア・レイボヴィッチは、「透かし技術を向上させる研究を進めるのは有意義なこと。映像コンテンツよりも印を付けたり検出したりするのがしばしば難しい、音声のようなメディアではなおさらだ」と称賛した。

ただ、メタの研究チームは同ツールの課題も指摘。システムへの攻撃テストを実施したところ、透かしのアルゴリズムに関する情報が公開されるほど脆弱性が高まることを発見したという。さらに、同社では自社のツールによって作成されたAI生成音声に透かしを入れる計画は現時点ではない、と言及している。

AudioSealは「GitHub」で無料で入手可能。誰でもダウンロードでき、AIが生成した音声クリップに透かしを入れることが可能だ。

同ツールは、将来的には音声を生成するAIモデルにも導入され、自動的に透かしが入るようになる可能性もある。実証成果には大きな注目が集まっており、7月には、オーストリアのウィーンで開催される「機械学習に関する国際会議（ICML）」で開発者らによる成果発表が予定されている。

プレスリリースはこちら

研究論文はこちら

Top Image : © Meta