Google DeepMindとHugging Faceは、AIが生成するテキストの検知が可能な「透かし」を入れるSynthID Textをリリースした。利用はAPI経由で行い、様々なAIモデルとの互換性を持つ。

「SynthID Text」は、AIが生成したテキストに特殊な「透かし」を埋め込む技術。人間には気づかれにくく、専用の検出器で識別できる。

透かしは、G関数と呼ばれる特殊な関数で生成され、テキストの品質やAIモデルの動作に影響を与えないように埋め込まれるという。

セキュリティを高めるため、AIモデルごとに専用の透かし設定が必要。設定には透かしを作るための数値のリストと、透かしがどれくらい改変に強いかを決める値が重要になる。AIに透かしを判別させるには、透かし入りのテキストと透かしなしのテキストを使って、判別を学習させるという。

ただし、Hugging Faceは、SynthID Textが事実中心のテキストでは透かしの効果が薄いことを指摘。テキストの大幅な書き換えや翻訳によって検出が難しくなる可能性があるため、利用の際は注意が必要だ。

プレスリリースはこちら

SynthID

Top Image : © Hugging Face