撮影した覚えのない妊娠写真が、SNSで拡散される。
そんな信じがたい事態に巻き込まれたのが、少女時代のユナだ。
9月28日、複数の韓国メディアは、ユナが妊娠したかのように見せかけたAI生成画像がオンライン上で広まっていると報じた。
だが、AIを利用して「ありもしない事実」を作られたのは、ユナだけではない。撮影していない結婚写真が出回り、存在しない交際歴を裏付けるかのような音声が登場。さらには、人気俳優になりすまして金銭をだまし取る事件まで発生している。
韓国芸能界では今、AIを悪用した偽の写真や音声が、スターの私生活を捏造するだけでなく、実際に人から金を奪う犯罪の道具にまでなっているのだ。
存在しない「妊娠写真」が拡散
ユナの問題の画像には、お腹が大きくなったユナと男性が並び、男性が彼女のお腹に手を添えてカメラに向かってポーズを取る姿が写っている。
一見すると、2人が妊娠を記念して撮影した写真のようだ。しかし、実際にはAIを利用して作られた合成画像で、ユナはその男性と一緒に撮影すらしていない。
報道によると、この画像は今年6月、ある男性ユーザーによって投稿されたものだという。当時も問題となり、元の投稿は削除されたが、その後もスレッズやインスタグラムなどを通じて共有され続け、約3カ月を経て再び注目を集めた。
ネット上では「度を越したAI合成」「本人に深刻な不快感を与えかねない」など、批判の声が相次いでいる。
作った本人が投稿を消しても、作られた写真は消えない。ユナの事例は、AIによる虚偽画像が独り歩きする厄介さを物語っている。
同様の騒動は、同じ少女時代のティファニーにも起きている。ティファニーと俳優ピョン・ヨハンが婚姻届を提出し、正式な夫婦となったことを受け、ネット上には2人の結婚写真らしき画像が出回ったのだ。
ピンク色の衣装をまとった2人を、ドレス姿の少女時代メンバーたちが囲む、華やかな集合写真だ。
ところが、こちらもAIによって生成されたもの。ティファニーとピョン・ヨハン、そして少女時代メンバーは、実際にはそのような写真を撮影していなかった。
ユナの場合は、存在しない妊娠という出来事そのものを作られた。一方、ティファニーは実際の結婚という事実に、存在しない記念写真を付け加えられた形だ。
完全な作り話だけでなく、本当のニュースに偽の画像を紛れ込ませることでも、人々を信じ込ませられる。AIによる捏造の厄介さは、そこにもある。
存在しない「事実」が犯罪にも
しかも、作られるのは写真だけではない。
俳優キム・スヒョンをめぐっては、故キム・セロンさんと未成年時から交際していたという疑惑を裏付けるものとして、故人の声だと主張する音声が公開され、大きな騒動となった。
これに対し、所属事務所ゴールドメダリストは5月、捜査結果に関する声明を発表。公開された故人のものとされる音声について、AI技術で生成された捏造資料と確認されたと説明した。
さらに警察も、キム・スヒョンが故人と未成年時から交際していたという主張を虚偽と判断。交際の根拠として示された音声やメッセージについても、AIなどを利用して捏造されたものとみている。
本人が実際には口にしていない言葉を、あたかも本人の発言であるかのように「証拠」として流通させる。AIを悪用した捏造は、ここまで及んでいるのだ。
さらに、AIを使ってスターになりすまし、一般人の金銭被害につながった事件も報じられた。
昨年10月に報じられたのは、俳優イ・ジョンジェを装った人物が、AIを利用して50代女性から5億ウォン（約5800万円）をだまし取ったとされる事件だ。
報道で公開されたやり取りには、イ・ジョンジェ本人が撮影したかのような顔写真とメッセージが並んでいた。単に有名人の名前を名乗るだけでなく、その顔まで使い、本人と交流しているように信じ込ませる手口だった。
イ・ジョンジェの所属事務所アーティストカンパニーも、所属俳優になりすまして金銭を要求する事件が発生したとして、注意を呼びかけている。
存在しない交際歴を語るための音声。存在しない本人との交流を信じさせる画像。AIで作られた虚構が、芸能人の名誉だけでなく、一般人の財産にも影響を及ぼしている。
ところが、本人がAIを使っても思わぬ騒動に
一方、第三者の悪意による捏造とは異なるケースもある。
ドラマ『私たちのブルース』で知られる画家兼女優のソ・ウネは9月25日、夫と並んで超音波写真を手に持つ画像を自身のSNSに投稿した。
背景にはベビーベッドなども写っており、妊娠を報告したのではないかとの憶測が広がった。しかし、実際にはAIで作られた画像だった。
関係者は、知人から受け取ったアプリで秋夕（チュソク）のあいさつカードを作る過程で偶然生成されたものだと説明。妊娠説を否定し、本人が投稿したことで誤解を招いた点も認めた。画像はその後、削除された。
悪意ある第三者が作ったものではなくても、本人が公開したAI画像が、実際には起きていない出来事として受け取られてしまったわけだ。
さらに、宇宙少女のソラは、AIによる「筆跡」の加工で思わぬ批判を浴びた。
9月17日、長年所属したSTARSHIPエンターテインメントとの契約終了を報告する際、ソラは手紙形式の画像をSNSに投稿した。ところが、画像には文字が崩れたり、不自然な表記になったりしている箇所があったことから、AIを使ったのではないかとの疑問が浮上した。
本人の説明によれば、もともとの手紙は自分で書いたもの。ただ、手書きの文字が不揃いで読みにくく感じられたため、見やすく加工しようとしたという。
つまり、AIに手紙の内容を考えさせたのではなく、自分で書いた手紙の筆跡を整えようとしたのだ。その過程で文字に誤りが生じ、本人は配慮が足りなかったとして謝罪。元の直筆手紙を改めて公開した。
事実を伝えるために使った画像が、かえって本人の思いへの疑問を生んでしまったという、皮肉な出来事だった。
作られた「事実」は、簡単には消えない
ユナの妊娠写真、ティファニーの結婚写真、本人のものとされた音声、有名俳優になりすましたメッセージ。そして、本人が公開したAI画像や、加工された筆跡。
背景も目的も異なるが、共通しているのは、実際には存在しなかったものが、現実の記録のように受け取られてしまうことだ。
もちろん、他人の顔や声を無断で使って虚偽の情報を広める行為と、本人が便利な道具としてAIを使い、結果的に誤解を招くことは同列には扱えない。
ただ、AIが作った画像や音声を目にした人が、それを本物だと信じてしまえば、虚構は本人の意思とは関係なく広がっていく。最初の投稿が削除されても、約3カ月後に再び出回ったユナの写真は、その象徴ともいえるだろう。
撮っていない写真も、口にしていない言葉も、今やAIによって簡単に作られる。だが、AIが勝手に嘘をつき、誰かを傷つけているわけではない。他人の顔や声を使って虚構を作り、それを事実のように広めているのは、あくまで人間だ。
技術が進歩するほど、その使い手の責任も重くなる。便利な道具を、誰かの人生を傷つける道具に変えてはならない。
■【写真】「そんなにあったの？」少女時代・ユナ、“意外な”ボリューム感
![Assassin's Creed Unity Limited Benefits Shipped & Limited with Benefits [並行輸入品] image](https://m.media-amazon.com/images/I/512vWACDUYL._SL160_.jpg)
