Oddbean new post about login | logout 地元の警察は、件の映像をふくめたサイバーハラスメントでラファエラを刑事告訴。さらに、マディ親子は有名ニュース番組に出演していき、被害経験を語っていった。母親が子どものライバルを蹴落とそうとした話は、そこまで鮮烈なネタでもない。しかし、普通の中年が他人の人生を破壊するほどリアルな偽動画を作った物語は、人々にAI普及時代の恐ろしさを感じさせるに十分だった…
専門家から指摘されたラファエラの冤罪 一方、専門家の反応は異なっていた。彼らによると、喫煙ビデオにおける顔や煙の動きを再現するのはかなり高難度。デジタル機器はiPhone8くらいしか持っていなかったラファエラのような素人が製作できた可能性は限りなく低く、本物の映像である線が妥当。つまり、冤罪が指摘された。 事態はひっくり返った。女の子たちが主張したほかのディープフェイクの数々にしても、自らSNSに投稿したものだったと証言された。さらに、一部の嫌がらせメッセージの送り主は、まったく別の17歳の男子だった。 取材で浮かびあがったシナリオでは、ほとんどの登場人物が清廉潔白ではない。女の子たちは確かに嫌がらせを受けていたが、自分の非行を隠すため嘘もついていた。容疑者のスマートフォンをろくに調べず、肉眼でディープフェイクと決めつけたという刑事は、児童ポルノ所持などの重罪で逮捕された…
全国ニュースになったあと、検察局はディープフェイクの告発をひっそり取りさげた。顔写真つきで「ディープフェイク・ママ」として喧伝されたラファエラは、世界中から誹謗中傷を受けて失職。裁判で無罪を主張したものの、嫌がらせメッセージによるハラスメント行為で有罪判決を受けた。アリーはチアをやめ、マディは引っ越した…
深刻化していくディープフェイクの被害 この騒動は、AI普及時代の社会問題の教訓となった。ひとつは「嘘つきの配当」と言われる問題。嘘を本物に見せるディープフェイクが有名になればなるほど、本当のことを偽物だと主張して説明責任を回避する者が出てくる。 深刻なのは、ほとんどの警察がディープフェイクを検証する術を持っていないことだ。適切な技術を持っている専門家はアメリカでもひと握りだという…
ジムでナンパを断られた男性が、腹いせとして… 本物のディープフェイク被害も深刻化している。Sensity AI社の2019年調査によると、オンラインのディープフェイク動画の9割は同意がとられていないポルノで、そのうち9割の描写対象が女性。ジムでナンパを断られた男性が、腹いせとして当該女性と自分のディープフェイクポルノを生成し「本物の映像」として広めた事例も報告されている。全国的な法律が追いついていないため、州によってはこのような行為が違法とされないリスクがあるという。 金融犯罪も増加中だ。イギリスでは、エネルギー会社の最高責任者の音声を偽造することで22万ユーロ（約3,500万円）を振り込ませるディープフェイク版オレオレ詐欺が発生した。 今でも、技術は進歩しつづけている。あと5年程度で、ディープフェイク製作はもっと簡単になると予想されている…