元プロゴルファーの朴セリと俳優キム・スンスの結婚発表映像に、数百万人が騙された。
その映像は、人工知能（AI）によって制作された虚偽コンテンツであることが確認された。
【画像】AIを利用し…5000万円を騙し取った韓国詐欺グループの手口
最近、YouTubeやSNSを中心に拡散した映像には、2人があるバラエティ番組への出演をきっかけに恋人関係へ発展し、SBSニュースで結婚を公式発表したという設定が盛り込まれていた。
さらに、「1月23日にソウル市内某所で、家族と知人のみを招いて非公開の結婚式を挙げる」という具体的な状況まで含まれており、事実であるかのように巧妙に装われていた。
映像は、実際のニュース報道画面に酷似した字幕構成やナレーション、画面転換方式をそのまま模倣して制作されていた。そのため一部の視聴者は内容を事実として受け止め、コメント欄には「おめでとう」「お似合いだ」といった反応が相次いだ。
問題の映像はその後、複数のプラットフォームに複製・再流通されて拡散し、一部の映像は再生回数が870万回を超えた。2人の結婚を既成事実のように信じる反応まで現れ、虚偽情報が急速に広まった。
しかし、これは実際とはまったく無関係な偽動画であった。
実在人物の画像と音声を合成し、既存のニュース画面や記事形式を切り貼りして制作された、典型的なAI生成の虚偽コンテンツだ。制作目的は、再生回数と広告収益の確保であると伝えられている。
このように、事実と異なる内容をニュースのように装って流布される低品質なAI生成物は「AIスロップ（AI Slop）」と呼ばれる。スロップとは本来、食べ残しや汚物を意味する語であり、SNS環境では刺激的な設定を付加してクリックを誘導する虚偽コンテンツを指す。
特に、結婚、離婚、死亡など大衆の関心が高い題材が繰り返し利用され、有名人のイメージが用いられる場合、信頼度が急激に高まるという特徴がある。専門家らは、実際のニュース形式を借用するほど、利用者が真偽を見分けることが難しくなると指摘している。
アメリカの動画編集プラットフォーム「Kapwing」の分析によれば、韓国はAIスロップコンテンツの最大消費国として挙げられた。韓国拠点のAIスロップチャンネルの累計再生回数は約84億回に達し、パキスタン（約53億回）やアメリカ（約34億回）を大きく上回った。
虚偽情報が実際のニュースのように消費される構造が固定化するなか、プラットフォーム次元での制裁や広告収益の遮断など、より強力な対応が必要だとする声も高まっている。
（記事提供＝OSEN）
■前科持ち「元アイドル練習生」の登場で、再びざわめくK-POP界とファンたち…真偽不明の“噂”の恐ろしさ
