Google Deepmindの電子透かし「SynthID」が解決するAI活用の問題とは

生成AIの利便性や可能性については多くの人が注目していますが、一方で運用に当たってはいくつかの課題も残されています。そんな中GoogleのAI部門とも言えるGoogle Deepmindが開発した「SynthID」は、生成AI運用における課題の一つを解消できるツールであるとして、期待が集まっています。

この記事では、Google Deepmindが発表した電子透かしツールのSynthIDについて、その機能や登場によって何が変わるのかを解説します。

目次：

1. 生成AI活用の課題
2. Google Deepmindの電子透かし「SynthID」について
3. SynthIDの主な機能
4. SynthIDの登場で何が変わるのか

生成AI活用の課題

生成AIはここ1〜2年の間で急激に社会に浸透した、次世代AI技術の一種です。従来のAIとは異なり、ユーザーは自然言語でAIに指示を伝えることで、テキストの生成や画像の生成などを学習データをもとにゼロから行なってくれるという驚異的なテクノロジーとなっています。

これまでは人間のクリエイティブな領域をAIが担うには何年もかかると言われていましたが、生成AIの進化のスピードは私たちの予想を遥かに上回り、高い成果を残せるようになってきました。一部では人間が生成AIの登場によって突如職を失うようなケースも世界では確認でき、どのように生成AIを運用するかが世界的な課題となっています。

このようなAI活用の問題は、AIの利便性の高さゆえに議論が活発化していますが、もう一つ生成AI運用の前に検討すべき課題として注目すべきなのが、著作権の問題です。

生成AIはゼロからアイデアを形にしてくれる便利なツールですが、アイデアを形にする際にはもととなる学習データの内容を反映しています。

生成AIが学習したデータが全て著作権フリー、あるいは認可されたデータであれば問題はありませんが、インターネット上の情報を無作為にインプットしているケースも珍しくなく、その中には著作権の問題を無視して学習に用いられたコンテンツも無数に含まれています。

既存の著作物を意図せずしてひょう窃するようなケースも後をたたず、生成コンテンツを巡る権利の問題は今後より細かく整備されていくことになるでしょう。

また、AIで生成したコンテンツそのものの著作権や、AI生成のフェイク画像であることを明示するための技術の必要性も注目されています。フェイク画像が本物の写真としてネット上で拡散されたり、フェイク画像がさらに学習データとして使用されたりすることで、事実とは乖離した情報が世の中に蔓延する危険性は未曾有のものであると言えるでしょう。

Google Deepmindの電子透かし「SynthID」について

このようなフェイク画像の拡散を回避するべく、GoogleのAI開発部門であるGoogle Deepmindが2023年8月に発表したのが「SynthID」と呼ばれる電子透かしツールです*1。

SynthIDは、AIで生成された画像に対して電子透かしを人間の目には見えないように配置し、本物の画像とそうでないフェイク画像を必要に応じて見分けられるようにするというツールです。

これまでAIが生成したフェイク画像とそうでない本物の画像を見分けるためには、ある程度知見のある有識者やエキスパートがフェイク画像の特徴を把握しながら判別しなければならず、場合によってはフェイク画像を見落とす可能性も十分にありました。

また、一つ一つの画像を丁寧に精査するのにも膨大な時間がかかるため、些細な画像のためにファクトチェックを行うのは非効率な工程でもあったのです。

このような問題を解決するために登場したのが、SynthIDです。電子透かしの有無を確認するだけで、その画像がフェイク画像かどうかを一瞬で把握することができます。

SynthIDの主な機能

SynthIDは、Googleが提供する機械学習プラットフォームの「Vertex」上で提供されている画像生成AI「Imagen」でのみ使用ができる透かし機能です。Imagenで生成した画像を構成するピクセルに対して電子透かしを埋め込むことで、ユーザーには見えない形でAIが生成した画像か、そうでないかを判断することができます。

ピクセル単位で電子透かしを埋め込むSynthIDですが、画像を編集した場合でもこの透かしは残り続けるのが特徴です。画像にフィルタをかけたり、縮尺を変更したり、トリミングや圧縮をかけたりしても、電子透かしは正しく機能します。

また、SynthIDは電子透かしを生成画像に付与するだけでなく、インプットした画像がAIの画像であるかどうかを判別する機能も備えています。画像における電子透かしの有無を判断するだけでなく、総合的に判断して画像がAIによって生成された可能性があるかも確認でき、非常に便利です。

SynthIDの登場で何が変わるのか

現在、SynthIDはImagenでのみ動作する電子透かし機能ですが、この機能は他の画像生成AIについても実装される可能性があることが言及されています*2。画像生成AIはImagen以外にも多くのサービスが登場しており、現状ではそれらを使って生成したAIに電子透かしをSynthIDのように入れることはできないため、実現すればフェイク画像の拡散を大幅に縮小することもできるでしょう。

また、SynthIDのようにフェイク画像とそうでない画像を高いレベルで見分けられるようになれば、電子透かし以外の要素で画像の判別が可能になるため、やはり同ツールの普及に期待したいところです。

SynthIDは今のところ画像の生成にのみ対応していますが、今後は画像以外にもテキストや動画、オーディオに対しての電子透かしを実装できる可能性があるとしています*3。

これらの生成コンテンツもフェイクのものとそうでないものの判別が困難になりつつあるため、何らかの方法で確実に判別ができる基準があれば大いに生成AI運用を前進させられるかもしれません。

まとめ

この記事では、生成AI運用におけるフェイク画像の問題をクリアできるSynthIDについて解説しました。

Google Deepmindが開発したSynthIDは、現状ではImagen上で生成した画像にのみ電子透かしを入れられるツールですが、いずれは他の生成AIや、画像以外のコンテンツにも適用できるようになることが期待されています。

生成AIの性能が向上し、もはや人の目では判別がつかなくなりつつある以上、このようなツールの開発や普及は必然必須と言えるでしょう。

出典：

*1 GIGAZINE「Googleが「画像生成AIで生成した画像」に電子透かしを入れてフェイクの拡散を防止するツール「SynthID」を発表」

https://gigazine.net/news/20230830-google-deepmind-synthid/

*2 上に同じ

*3 上に同じ