Oddbean new post about | logout
 専門家から指摘されたラファエラの冤罪
 
 
一方、専門家の反応は異なっていた。彼らによると、喫煙ビデオにおける顔や煙の動きを再現するのはかなり高難度。デジタル機器はiPhone8くらいしか持っていなかったラファエラのような素人が製作できた可能性は限りなく低く、本物の映像である線が妥当。つまり、冤罪が指摘された。

事態はひっくり返った。女の子たちが主張したほかのディープフェイクの数々にしても、自らSNSに投稿したものだったと証言された。さらに、一部の嫌がらせメッセージの送り主は、まったく別の17歳の男子だった。

取材で浮かびあがったシナリオでは、ほとんどの登場人物が清廉潔白ではない。女の子たちは確かに嫌がらせを受けていたが、自分の非行を隠すため嘘もついていた。容疑者のスマートフォンをろくに調べず、肉眼でディープフェイクと決めつけたという刑事は、児童ポルノ所持などの重罪で逮捕された… 
 全国ニュースになったあと、検察局はディープフェイクの告発をひっそり取りさげた。顔写真つきで「ディープフェイク・ママ」として喧伝されたラファエラは、世界中から誹謗中傷を受けて失職。裁判で無罪を主張したものの、嫌がらせメッセージによるハラスメント行為で有罪判決を受けた。アリーはチアをやめ、マディは引っ越した… 
 深刻化していくディープフェイクの被害
 
 
この騒動は、AI普及時代の社会問題の教訓となった。ひとつは「嘘つきの配当」と言われる問題。嘘を本物に見せるディープフェイクが有名になればなるほど、本当のことを偽物だと主張して説明責任を回避する者が出てくる。

深刻なのは、ほとんどの警察がディープフェイクを検証する術を持っていないことだ。適切な技術を持っている専門家はアメリカでもひと握りだという… 
 ジムでナンパを断られた男性が、腹いせとして…
 
 
本物のディープフェイク被害も深刻化している。Sensity AI社の2019年調査によると、オンラインのディープフェイク動画の9割は同意がとられていないポルノで、そのうち9割の描写対象が女性。ジムでナンパを断られた男性が、腹いせとして当該女性と自分のディープフェイクポルノを生成し「本物の映像」として広めた事例も報告されている。全国的な法律が追いついていないため、州によってはこのような行為が違法とされないリスクがあるという。

金融犯罪も増加中だ。イギリスでは、エネルギー会社の最高責任者の音声を偽造することで22万ユーロ(約3,500万円)を振り込ませるディープフェイク版オレオレ詐欺が発生した。

今でも、技術は進歩しつづけている。あと5年程度で、ディープフェイク製作はもっと簡単になると予想されている… 
 もうなにを信じたらいいかわからない、そんな今の時代は「情報の黙示録」と呼ばれている。ただし、楽観的な意見もある。現在、GoogleのAlphabet社やMicrosoft社は、こうしたフェイク情報の検証機能開発に力を入れている。かつて自動車開発において安全性が重視されるようになっていったように、情報セキュリティも強化されていくかもしれないとのことだ…