Image:Koshiro K / Shutterstock.com
Metaは、FacebookおよびInstagramに投稿された写真家の作品に「Made with AI（AIで生成）」とのラベルを付与したことで多数の苦情を受け取った。現在、同社はラベルの文言を「AI info（AI情報）」に改める対応を行っている。
写真や動画関連技術に関するニュースサイトPetapixelは、写真家のピーター・ヤン氏が撮影した富士山の画像にAI生成ラベルが自動的に付けられた事例を紹介し、Instagramがヤン氏の写真が生成AIツールによって軽微な修正を行っていたからだったとその原因を伝えている。
ヤン氏はInstagramに苦情を述べたところ、責任者であるアダム・モセリ氏からこのラベルが自動的に付与されたのかと尋ねられ、その後ラベルは取り除かれたという。
Petapixelは、ヤン氏の写真にラベルが付けられた現象を再現するため、Adobe Photoshopの「生成塗りつぶし」ツールで修正した画像をInstagramに投稿してみた。修正は軽微なものだったが、結果は見事に「AIで生成」ラベルが付与されることとなった。
ところが「スポット修復ブラシ」や「コンテンツに応じた塗りつぶし」「コピースタンプ」といったツールでの修復は、見た目にはほとんど同じ修正であるにもかかわらずラベルは付けられなかった（これらのツールは「生成塗りつぶし」のようにAIで塗りつぶしパターンを生成するのでなく、画像内の他の場所からパターンを持ってきている）。
無駄に厳密な区別をしているようにも思えるこの対応の違いは、Metaによれば画像加工ソフトウェア業界による、生成AIを使用した際に画像に埋め込まれる電子透かし「C2PA Content Credentials」をトリガーとして行われているとのことだ。Photoshopで言えば「コンテンツに応じた塗りつぶし」は画像内の他の部分からのコピペなので画像に透かしは含まれないが、「生成塗りつぶし」を使えば、その画像ファイルには生成AIによる修正が含まれることを示す電子透かしが埋め込まれ、IntagramやFacebookはそれを読み取ることでラベルを付与しているということになる。
Metaは「業界全体の企業と協力してプロセスを改善し、ラベル付けのアプローチが当社の意図とより一致するように努めており、現在は当社のアプリ全体で『AIで生成』ラベルを『AI情報』に更新し、ユーザーがそれをクリックすれば詳しい情報を確認できるようにしている」と述べた。
ただ、この新しい「AI情報」ラベルには、問題の画像に使われた可能性のある 生成AIを使用するツールに関する詳細は含まれていないとEngadgetは伝えている。これに対して、Metaはラベルをクリックしたときに表示されるメッセージに「ユーザーがAIシグナルを含むコンテンツをシェアした場合、当社のシステムがそれを読み取ることができる」といった通知を追加することを検討中だと返答した。
今回の問題は、一般的なユーザーには大した話ではないかもしれないが、写真家らが写真に映り込んだゴミやシミのようなものを除去する程度の修正を行うのは特別なことではなく、それだけで画像全体が「AIで生成」されたというのは少々乱暴な対応と言えるだろう。
ニュースなどに使われる写真の場合は、その信頼度を大きく損ねる可能性がある。たとえば、スポーツの試合における決定的瞬間を捉えたはずの写真に「AIで生成」とラベルづけされていたら、読者はどう思うだろうか。すでに類似のケースは報告されており、Metaはこの問題についてユーザーからのフィードバックをもとに「AI情報」への表示の改善だけでなく、「画像のなかでAIツールが使用されている量をラベルに反映すべく、アプローチを評価し続けている」と述べている。
