2023年9月、X(旧ツイッター)で世界に拡散されたバイデン大統領の演説。流ちょうな日本語でアメリカの教育政策を語ります。口の動きもぴたりと合っています。
でもこれはいわゆるフェイク動画。
動画は瞬く間に拡散され、再生回数は200万回以上を記録しました。
(街の人の感想)
「すごい技術ですね」
「てっきり翻訳した人の声かと思いました」
「海外旅行行きまくりたい。これ使いたいよね」
この“フェイク動画”、作って投稿した人は、岐阜県にいました。
各務原市に住むITコンサルタントの坂田誠さん。
(大石アンカーマン)
「これはどうやって作っているんですか?」
(坂田誠さん)
「作るのは簡単ですね。スマホで撮って(ソフト)に上げれば、ペラペラになります」
この技術を知ってもらおうと投稿したという坂田さん。
使ったのはアメリカで作られた「ヘイジェン(HeyGen)」という動画生成AI。
大石アンカーマンが“英語ペラペラ”に
試しに、私、大石も実験してみることに。
(大石アンカーマン)
「こんにちは、CBCの大石邦彦です。私は山形県の最上町出身です。名古屋にやってきて、もう30年近くになるんですが、もう名古屋に慣れました。味噌煮込みうどん大好きになりました…」
故郷山形と味噌煮込みうどんの話をして、40以上ある言語から英語を選ぶと…。
(大石アンカーマンが話す映像)
"I am Kunihiko Oishi representing to CBC. I'm here from Mogamicho Yamagata Prefecture.It's been almost 30 years. but I'm already used to Nagoya. I come to love miso nikomi udon."
(大石アンカーマン)
「まったく違和感がないですね」
(坂田誠さん)
「そうですね。本人がしゃべっているのと同等」
口の動きも合わせ「味噌煮込み」という言葉も英語っぽい発音に変わっています。そしてアラビア語でも…
(大石アンカーマンがアラビア語で話す映像)
この通り。さらに翻訳だけではありません。
(大石アンカーマン)
「どんなことでもしゃべらせることができる?」
(坂田誠さん)
「そうです。“デジタル大石”ができます」
“しゃべっていないこと”をしゃべらせる動画も簡単に…
“しゃべっていないこと”をしゃべらせる、完全なフェイクも作れるといいます。
(大石アンカーマン)
「私はCBCテレビでニュースのアンカーマンを務めています。政治・経済はもちろんスポーツまで、いろんな方にお会いしてきました。これまで街頭インタビューも含めると、3万人ぐらいの方にはマイクを向けたのではないかと思います」
まずは自己紹介の映像を撮り、次に全く違う内容で文章を作り、AIに認識させると…
(作られたニセ大石の映像)
「私はアメリカ・ニューヨーク州の出身です。ここまでプライベートジェットでやってきました。普段の仕事はハリウッド俳優なのですが、最近趣味で始めたのがベースボールです、ついに憧れのドジャースに入団しました。今年はホームラン王を目指します」
映像の中の話が、全く違うことを話しているように作り変えられています。
(大石アンカーマン)
「むしろ怖いですねなんか…」
(坂田誠さん)
「悪いことに使おうと思えば、いくらでも悪いことに使える。良いことに使おうと思えば、良いことに使える。あくまでツールですから。それによって何がなされるかは使う人次第」
あまりに精巧なフェイク動画は、影響力のある人に事実とは全く違うことを話させて、株価を操作したり、国際紛争を引き起こす恐れもあります。
AIの専門家はフェイク動画を見破れるか
このフェイク動画、どう見破ればいいのか。
AIの専門家、国立情報学研究所の佐藤一郎教授に見比べてもらいました。
(大石アンカーマン)
「どちらがホンモノでどちらがフェイクか」
佐藤教授は映像の細かい部分でフェイクかどうかを見分けるといいます。
(国立情報学研究所 佐藤一郎 教授)
「見ている限りだときれいに処理をしている。ただやや顔の境界線がはっきり出ているので違和感はある。顎のラインがはっきり出ていて、上に(合成した口を)乗せている感じ」
佐藤教授がフェイクと判断したのは…
(大石アンカーマン)
「AI研究の今や“第一人者”の佐藤先生。正解はですね…最初がホンモノ、後がニセモノでした!」
佐藤教授が「フェイク」と判断したのは、本物でした。
(国立情報学研究所 佐藤一郎 教授)
「わからないですね…」
(大石アンカーマン)
「先生がご覧になってもわからないですか?」
(国立情報学研究所 佐藤一郎 教授)
「わかんない!」
(国立情報学研究所 佐藤一郎 教授)
「人間はもう見破れないと思った方がいい。かなり精巧にできていますから、まず重要なのは、自分は見破れるとは思わないこと。“自分もだまされるんだ”というつもりで見ていかないといかない」
最新AIはフェイクを見破ることができるか
では最新のAIは判定できるのか。
東京のAI研究所、NABLAS(ナブラス)。
これまで、フェイクが疑われる100以上の画像や動画を解析してきました。
2022年、静岡の水害で拡散された街全体が水没している「フェイク画像」をAIに入れてみると。
(NABLAS 鈴木都生 取締役)
「これは100%フェイクであると判定結果が出ています。かなり自信を持ってAIがフェイク判定している結果」
「(判定の)根拠として強く見ているものほど赤く可視化している」
AIは、即座にフェイクと判定。続いて別の動画の判定をお願いしました。
(大石アンカーマン)
「実は、我々動画を持ってきました」
あの「ニセ大石」動画も鑑定してもらうことに。
(大石アンカーマン)
「見抜く自信はありますか?」
(NABLAS 鈴木都生 取締役)
「そうですね…自信は50:50です」
最新AIでのフェイク動画解析 鑑定結果は?
果たして結果は…!?
(大石)
「さあ出た!」
(NABLAS 鈴木都生 取締役)
「結果としては“リアル”の可能性が高いと出ています」
(大石アンカーマン)
「あれ?」
76%リアル。つまり本物である可能性が高いと、間違いの判断を下しました。
(大石アンカーマン)
「正直手ごわかった?」
(NABLAS 鈴木都生 取締役)
「手ごわかったですね」
(NABLAS 鈴木都生 取締役)
「今の生成AIツールは、あすとか来週にすぐ新しいものが出てくるので、今回検出できなかった部分を今後自分たちで強化していく」
AIの進化が予想以上のスピードで進む中、もはや見破ることが難しいフェイク。
ネットで流れる映像を簡単には信じられない時代が、すでに来ています。
(国立情報学研究所 佐藤一郎 教授)
「動画を誰が撮影して、どういう風に編集して流しているのか、全体をみて、その情報が本物かを考えていく必要があると思う。“Withフェイク”という時代です」
(大石アンカーマン)
「“Withフェイク”!? “Withコロナ”という言葉がありましたけども、フェイクとともに生きる…?」
(国立情報学研究所 佐藤一郎 教授)
「残念ながら、そういう時代だと思います」
2024年1月18日放送 CBCテレビ「チャント!」より