Oddbean new post about login | logout 強豪チアリーダーチームで起きた衝撃の事件 アメリカでは、信じられないディープフェイク事件が衝撃を呼んだ。舞台となったのは、田舎町の強豪チアリーダーチーム。チーム内競争も激しいエリート女子集団だ。コロナ禍の夏、10万人のSNSフォロワーを誇る16歳のブロンド選手、マディの喫煙映像がコーチのもとへ届けられた。差出人不明の密告により追放処分の危機に瀕した彼女は、驚きと恐怖で号泣したという。 「あのビデオに映ってるのは私じゃない。でも誰にも信じてもらえない。証拠があるって言われるから…でも、あれは絶対に捏造」。 マディを信じた母親は、ビデオを警察に通報。さらに、ほかの親たちとともに、合計4人のチアリーダーが嫌がらせ被害を報告した。1ヶ月ものあいだ、見知らぬ電話番号からの脅迫、さらには少女たちの非行を偽造したディープフェイクが届きつづけていたのだという警察は、回線を調べることで、一人の容疑者を逮捕した。その正体とは、チア軍団エースたるアリーの母親、ラファエラだった。 こうして「ディープフェイク・ママ」が全国ニュースになった…
地元の警察は、件の映像をふくめたサイバーハラスメントでラファエラを刑事告訴。さらに、マディ親子は有名ニュース番組に出演していき、被害経験を語っていった。母親が子どものライバルを蹴落とそうとした話は、そこまで鮮烈なネタでもない。しかし、普通の中年が他人の人生を破壊するほどリアルな偽動画を作った物語は、人々にAI普及時代の恐ろしさを感じさせるに十分だった…
専門家から指摘されたラファエラの冤罪 一方、専門家の反応は異なっていた。彼らによると、喫煙ビデオにおける顔や煙の動きを再現するのはかなり高難度。デジタル機器はiPhone8くらいしか持っていなかったラファエラのような素人が製作できた可能性は限りなく低く、本物の映像である線が妥当。つまり、冤罪が指摘された。 事態はひっくり返った。女の子たちが主張したほかのディープフェイクの数々にしても、自らSNSに投稿したものだったと証言された。さらに、一部の嫌がらせメッセージの送り主は、まったく別の17歳の男子だった。 取材で浮かびあがったシナリオでは、ほとんどの登場人物が清廉潔白ではない。女の子たちは確かに嫌がらせを受けていたが、自分の非行を隠すため嘘もついていた。容疑者のスマートフォンをろくに調べず、肉眼でディープフェイクと決めつけたという刑事は、児童ポルノ所持などの重罪で逮捕された…
全国ニュースになったあと、検察局はディープフェイクの告発をひっそり取りさげた。顔写真つきで「ディープフェイク・ママ」として喧伝されたラファエラは、世界中から誹謗中傷を受けて失職。裁判で無罪を主張したものの、嫌がらせメッセージによるハラスメント行為で有罪判決を受けた。アリーはチアをやめ、マディは引っ越した…
深刻化していくディープフェイクの被害 この騒動は、AI普及時代の社会問題の教訓となった。ひとつは「嘘つきの配当」と言われる問題。嘘を本物に見せるディープフェイクが有名になればなるほど、本当のことを偽物だと主張して説明責任を回避する者が出てくる。 深刻なのは、ほとんどの警察がディープフェイクを検証する術を持っていないことだ。適切な技術を持っている専門家はアメリカでもひと握りだという…
ジムでナンパを断られた男性が、腹いせとして… 本物のディープフェイク被害も深刻化している。Sensity AI社の2019年調査によると、オンラインのディープフェイク動画の9割は同意がとられていないポルノで、そのうち9割の描写対象が女性。ジムでナンパを断られた男性が、腹いせとして当該女性と自分のディープフェイクポルノを生成し「本物の映像」として広めた事例も報告されている。全国的な法律が追いついていないため、州によってはこのような行為が違法とされないリスクがあるという。 金融犯罪も増加中だ。イギリスでは、エネルギー会社の最高責任者の音声を偽造することで22万ユーロ（約3,500万円）を振り込ませるディープフェイク版オレオレ詐欺が発生した。 今でも、技術は進歩しつづけている。あと5年程度で、ディープフェイク製作はもっと簡単になると予想されている…