隐藏你的孩子,隐藏你的妻子,并隐藏埃隆·马斯克——因为没有人能免受人工智能深度假货的威胁。
美国参议院将就此事举行听证会 绝无假货 周二行动。 这项由参议员克里斯·库恩斯 (Chris Coons)、玛莎·布莱克本 (Marsha Blackburn)、艾米·克洛布查 (Amy Klobuchar) 和汤姆·蒂利斯 (Thom Tillis) 领导的两党提案旨在“保护所有人的声音和视觉相似性,防止生成人工智能未经授权的娱乐”。
得益于消费者人工智能工具,深度伪造品(经过令人信服地修改以歪曲某人的言论或行为的图像或录音)现在比以往任何时候都更容易创建。 该立法草案将追究个人或公司生产未经授权的深度伪造品的责任,追究故意托管这些深度伪造品的平台的责任,并根据公认的第一修正案保护将某些数字复制品排除在覆盖范围之外。
该提案引用了 2023 年两个备受瞩目的未经授权深度伪造的例子——人工智能生成的 Drake 和 The Weeknd 歌曲 标题为“袖子上的心”和牙科计划广告 特色 深度伪造的汤姆·汉克斯。
自该案卷发布以来的几个月里,深度造假变得更加先进,而且更难被发现。 深度造假应用程序的可访问性使普通人能够使用该技术来实现病毒式的欺骗和小规模的报复阴谋,甚至是五位数的浪漫骗局。
AI 图帕克和史努比狗狗
说唱歌手德雷克,他的声音是 克隆的 在热门歌曲《Heart on My Sleeve》中,他周末因创作自己的深度赝品而陷入困境。 4 月 19 日,Drake 发行了“Taylor Made”,这是一首针对音乐家 Kendrick Lamar 的 diss 歌曲,其中包括由 AI 生成的 Snoop Dogg 和已故的 Tupac Shakur(Lamar 的两位偶像)的声音。
在歌曲中,AI 生成的 Tupac 嘲笑 Lamar,并迫使他对 Drake 之前的 diss 歌曲做出回应。 “你似乎对所有的宣传都有点紧张,”人工智能图帕克的声音说道。
在一个 陈述 上周三,代表 Shakur 遗产的律师称“Taylor Made”是“对有史以来最伟大的嘻哈艺术家之一的遗产的公然滥用”。 遗产管理委员会表示,它从来没有——也永远不会——批准使用图帕克的声音,并敦促德雷克在 24 小时内撤下这首歌。
“泰勒制造”已于周五从德雷克的社交媒体上删除。 几个月前,这位说唱歌手在网站上发布了“这是最后一根稻草人工智能” Instagram,回应人工智能深度伪造的自己说唱 Ice Spice 的歌曲。
埃隆·马斯克 (Elon Musk) 的浪漫骗局损失 50,000 美元
名人深度造假被用于诈骗,在此过程中骗取了数万美元。 据 4 月 19 日的广播报道,一名韩国女子在爱上深度假货版埃隆·马斯克后,在一场浪漫骗局中损失了 50,777 美元。 韩国广播公司。
这名化名郑智善的女士在节目中表示, 特斯拉 CEO 去年在 Instagram 上加她为好友。
“虽然在阅读了马斯克的自传后我一直是他的超级粉丝,但一开始我对此表示怀疑,”她告诉我 韩国广播公司, 根据 翻译为 韩国先驱报。
骗子向 Jeong 发送了马斯克的身份证件和他工作时的照片,说服了她。 他给她发短信谈论他的孩子和乘坐直升机上班的事情,并告诉她他经常随机联系粉丝。 郑甚至说她通过视频通话与“马斯克”交谈,马斯克在视频中告诉她,“我爱你,你知道吗?”
假马斯克随后承诺投资郑的钱并帮助她致富。 他说服她将 7000 万韩元(50,770 美元)存入银行账户,然后消失得无影无踪。
一名深造高中校长在网上疯传
一月份巴尔的摩郊区爆发愤怒情绪 当当地高中校长的录音 似乎发表种族主义和反犹太主义言论的言论迅速传播。
派克斯维尔高中的校长埃里克·艾斯沃特 (Eric Eiswert) 已被行政休假。 录音被发送给国家媒体和全国有色人种协进会,而艾斯沃特则收到了暴力威胁, 根据 到 美国有线电视新闻网。
直到上周四,地方当局才证实了艾斯沃特一直知道的事情——录音是人工智能生成的。 据巴尔的摩县警察局称,这段录音是由学校体育主任达中·达里恩 (Dazon Darien) 创建的,他曾与艾斯沃特发生冲突。
警方报告称,艾斯沃特去年 12 月对达里恩进行了调查,指控其滥用 2,000 美元的学校资金。 据警方称,去年 12 月之前,校长曾与达里恩谈过,由于工作表现问题,不再续签合同,并要求管理人员更密切地监督达里恩的表现。
在包括联邦调查局承包商在内的法医专家的帮助下,巴尔的摩警方得出结论,该录音“包含人工智能生成内容的痕迹”并且“被操纵”。 达里恩周四被捕,罪名包括扰乱学校运作。
巴尔的摩县行政长官约翰尼·奥尔谢夫斯基 (Johnny Olszewski) 周四对媒体表示:“我们很高兴能够查明这段音频的来源。” “然而,很明显,我们也正在进入一个令人深感担忧的新领域。”