蒂姆·阿尔珀
蒂姆是一位拥有二十年从业经验的记者、作家和专栏作家,曾为BBC、卫报和朝鲜日报等媒体撰稿。他是监管、商业和行业领域的专家,并精通…
韩国赌场运营商江原土地（Kangwon Land）已誓言对制作一段看似显示足球运动员孙兴慜（Son Heung-min）为江原土地主题博彩应用代言的深度伪造视频的创作者采取行动。
《首尔新闻》（Seoul Shinmun）于8月13日报道,首尔 Metropolitan 警察局网络调查科正应江原土地请求,调查一起非法博彩应用运营案件。
江原土地公司运营着高1度假村（High1 Resort）,这是韩国唯一一家允许持国内护照的游客进入的赌场。高1度假村还提供多种与博彩无关的游客景点,包括滑雪场、高尔夫球场和两家酒店。
警方表示,利用人工智能工具制作的视频被传播,以使包括孙兴慜在内的名人看似在为非法博彩平台代言。
该应用程序设计成与江原土地的官方作品相似,并包含逼真的AI生成的视频片段,使其看起来似乎孙兴慜与该平台有联系。
孙兴慜赌场广告是AI伪造的,运营商称
涉事视频还包含其他名人,如主要广播网络的新闻主播。
虚假名人声称自己是该应用的“大使”。该视频已被上传至多个主要社交媒体平台。
这些深度伪造的名人向观众解释为何他们“推荐 Kangwon Land 应用给所有人”。
他们还似乎解释了该应用的“便捷性”。深度伪造内容声称“所有奖金将在五分钟内存入您的银行账户”。
运营商解释称,其并未运营任何在线赌场应用程序或提供任何非实体赌场博彩服务。
YouTube及Instagram上流传的视频
在新闻稿中,Kangwon Land表示：“冒充Kangwon Land的非法在线网站正利用AI技术巧妙合成Kangwon Land官员、体育明星及其他名人的面部、声音和言论。他们试图通过YouTube、Instagram等平台诱使用户访问其非法博彩网站。”
该公司补充称,该应用程序和涉事视频很可能是钓鱼操作者的杰作。
江原土地表示,将通过“大幅扩大”非法博彩监控团队规模予以回应。
孙是韩国最受欢迎的运动员之一。孙在祖国的知名度今年大幅提升,因其带领托特纳姆热刺队在2024-2025赛季欧联杯中夺冠。
他近期已完成以数百万美元转会费加盟美国职业足球大联盟（MLS）球队洛杉矶FC的交易。
本月早些时候,韩国电视名人兼网络漫画家李玛莲（笔名ChimChakMan）威胁要对一家利用人工智能（AI）使其看起来像是在向粉丝推广在线博彩应用程序的公司采取法律行动。
亚洲其他地区也出现了类似的指控。今年7月,马来西亚Instagram和TikTok明星叶品（Yipin）表示,广告商正在盗用她的内容,并利用AI工具使其看起来像是她在推广非法博彩网站。
专家警告称,诈骗分子正转向利用AI
韩国金融消费者保护基金会最近警告称,AI技术正迅速演变为诈骗工具。
该基金会指出,犯罪分子现在正利用AI和深度伪造技术进行网络钓鱼、爱情诈骗和投资诈骗。该机构指出,这一现象在国内和国际上均已普遍存在。
韩国犯罪学与司法政策研究所称,近年来与深度伪造相关的警方案件数量增长了六倍以上。
该研究所指出,案件数量从2021年的156起增至2024年的964起,并预计到2025年底将出现更大增幅。