本物と疑う余地ないディープフェイク登場で慌てる米国の大物ら
いま米国で、「ディープフェイク」という技術が大議論を呼んでいる。これは「ディープラーニング」と「フェイク」をミックスした新造語で、AI(人工知能)が可能にした偽物の動画制作技術のことだ。従来のフェイクニュースと異なり、本物との区別がほとんど不可能なほど巧妙に作られた点に特徴がある。人物の顔の形やしわ、目鼻、まゆ、唇の動きなどをCGでスキャンし、そのデータを別の人物の映像の顔にかぶせることで、素人目には本人の動画とほぼ区別がつかなくなる。(高橋眞人)
オバマ氏にトランプ氏を罵らせたディープフェイク動画
実際に米国で昨年4月に大きな議論を呼んだケースがある。オバマ氏があたかもトランプ大統領のことを「とんでもない間抜けだ」と罵っているように見える動画が、あっという間にフェイスブックなどを通じて全米に広がった。バズフィードがワシントン州立大学の協力も得て、ハリウッドの映画製作会社と共同で制作したもので、同社CEOは「作品が最初から偽物であることを断っており、今後、AI技術が超スピードで発展し、この種のディープフェイク動画が出回ることによって社会混乱が起こりうることを警告したかった」と意図を語っている。
ポルノ動画と組み合わせて信頼失墜を狙う動画も
また、セクシーさを売り物にしている女優のスカーレット・ヨハンソンさんの顔がポルノ動画のセックスシーンの女性の映像にはめこまれた動画が大量に出回るといった被害が報告されている。非常に精巧なアイコラ画像の動画版のようなものだ。それ以外にも、本人のまったく知らないところで別人が演じるわいせつ動画に登場させられていたケースが多数あるという。
ロイター通信も、今後、技術のさらなる進展により、識別がむずかしくなると予想されることから、政治家や芸能人などの有名人は、この技術の存在に注意しておくべきだと警告している。
外国政府からの選挙干渉に使われる恐れも
今後予想されるディープフェイク動画の悪用法として、有名人や政治家などをポルノ動画とミックスさせ、その人物の品位を貶めたり、敵対する外国政府が米国の選挙に干渉したりといったことが指摘されている。「トランプ大統領が中国を標的にした核ミサイル発射の最終決定を下した」といった重要な演説をSNSで拡散するという仮定のケースも議論されている。ディープフェイク動画の恐ろしさは、単なる噂話などとは異なり、視覚と聴覚に訴えることによって受け手に信じ込ませ、さらにそれを瞬時に世界中に拡散できる点にある。ある専門家は、「近い将来、国と国の戦争を引き起こし、一方の国の戦況を有利な方向に誘導するといった要因にさえなりかねない」と指摘する。
「敵対国」はすでにディープフェイクを使用し始めている
このため米議会では昨年、「オバマ演説」動画が騒がれてから、その潜在的脅威と対策について真剣な議論が戦わされてきた。最初に問題提起して注目を集めたのが、下院情報特別委員会のアダム・シフ議員ら3人の民主党議員。シフ議員らは昨年9月、本会議で「ディープフェイク動画は個人の信用を失墜させ、脅迫の材料として悪用されるだけでなく、外国敵対勢力がこれを悪用し、国家安全保障上の脅威になりうる」と警告した。
今年に入り、上院のマルコ・ルビオ議員(共和党)も今年3月、「ザ・ヒル」とのインタビューで「わが国の敵対国はすでにアメリカ国内に対立要因となるような材料をばらまくため、フェイク動画を使用し始めている」と述べた。
今のところはまだ識別可能とされるが・・・
ロイター通信は、世の中に警鐘を鳴らすため、実際にハリウッドの映画製作会社と共同で、ディープフェイク動画を制作する実験を行った。口の動きの不自然さなどから違いが識別できるという結果になったが、今後の技術の進展により、ディープフェイクの精度はますます高まると予想されている。これは、すべてのメディアが、ディープフェイク動画の誤用に注意を払わなければならないということを意味する。