「Facebook」や「Instagram」の運営会社Metaは、人工知能（AI）によって生成または加工されたソーシャルメディアの投稿を検出するのに苦戦しており、本物の写真を誤ってラベル付けしてしまうことがあると報じられている。Metaは4月、AIによって生成または加工されたと検出された投稿へのラベル付けを5月に開始すると発表した。しかし、TechCrunchとPetaPixelの報道によると、一部の人の投稿が実際にはそうではないにもかかわらず「Made with AI」とラベル付けされているという。
元ホワイトハウス写真家のPete Souza氏はTechCrunchに対し、Adobeのトリミング機能では、画像をJPEGとして保存する前にフラット化する必要があり、その動作が原因でAI生成画像として検知されたのではないかと語った。またPetaPixelは、生成AIツールを使って写真から不要なオブジェクトを削除しただけでもラベルが追加されたという、別の写真家の声を伝えている。
Metaの広報担当者はTechCrunchに対し、ラベル付けに関する検証を続け、AIの利用度合いが反映されるようにするとコメントしている。
この報道は、他のユーザーやその投稿の本質を判断しやすくするためにソーシャルメディア企業が果たす役割について、疑問を投げかけるものだ。技術が進化し、特にAIツールが広く提供され使いやすくなったことで、何が真実なのかを見分けることがますます難しくなっている。
歴史上、他人の作品を自分の作品として発表したり、作品を加工して実際とは異なるように見せかけたりする人は後を絶たない。急速に発展するAIの時代において、こうした嘘はかつてないほど早く、簡単に広まっているように見える。業界ウォッチャーは、AIを利用したソーシャルメディアアカウントが実在の人物を装っている例も確認している。
この問題へのMetaの対応は、テクノロジー業界全体にわたる取り組みの一環だ。OpenAIは5月、同社のAIツールによってロシア、中国、イラン、イスラエルとつながりのあるソーシャルメディアの偽情報キャンペーンを妨害したと発表した。Appleは先頃、新たなAI機能群「Apple Intelligence」でもAI生成画像にメタデータを追加すると述べた。
「改変されたことが分かるように、生成画像のメタデータをマークアップする」と、Appleのソフトウェアエンジニアリング担当シニアバイスプレジデント、Craig Federighi氏は最近のポッドキャストで述べた。OpenAI、TikTok、Google、Microsoft、Adobeも同様の動きを発表している。
それでもなお、AIによって作成または加工された投稿を正確に特定することはますます難しくなり、AI生成の誤情報を表す「slop」という新しい用語が広まっている。メディアの専門家らは、2024年11月の米大統領選に向けて、この問題がさらに深刻化する可能性が高いと警告している。
この記事は海外Red Ventures発の記事を朝日インタラクティブが日本向けに編集したものです。
