如今，

AI技术的发展

(资料图片)

给生活带来了不少便利，

但AI生成的虚假影像真假难辨，

也带来了不少隐患。

此前，

"AI孙燕姿"成了新晋网红，

版权问题引起热议

美国有百万粉丝的网红

出售AI版本的自己

和粉丝谈恋爱

从而轻松年入4亿人民币

最近又有一名人

遇到AI的自己...

不过是一场骗局！

据《每日邮报》5月13日报道，一家西班牙小电影公司意外收到英国著名男星“卷福”本尼迪克特·康伯巴奇的电话，称对电影剧本感兴趣想合作，该公司受宠若惊。

“他是我们这个时代最有才华的演员之一，他主动联系我们并对我们的项目表现出兴趣，我们简直不敢相信有这么好运。”该公司编剧兼导演威廉说。

本尼迪克特·康伯巴奇以出演英国剧集《神探夏洛克》、电影《模仿游戏》《奇异博士》而为观众熟知，他的嗓音独特，富有磁性，非常具有区分度。

“100%是康伯巴奇的声音，毫无疑问。”威廉说。因此，公司听到声音后就确定是康伯巴奇本人。威廉说，公司与“康伯巴奇”进行了几次对话，但随后就注意到了“一些危险信号”。

“康伯巴奇”不愿见面，同时“还有一些奇怪的要求”，比如在见面之前要“先支付20万英镑的注册费”。

Peabody Films的技术人员接听电话（图源：每日邮报）

随后，威廉向真正的康伯巴奇

经纪公司致电，

被告知并没有这件事情。

威廉和公司这才意识到，他们可能落入了AI冒充名人的骗局中。“当我们发现被冒充著名演员的人工智能欺骗后，我们感到震惊和失望。”据威廉称，该电影公司目前已经打算报警。

今年早些时候，微软研究人员展示了一种文本转语音AI模型“VALL-E”，该模型只需3秒钟音频，就可以合成任何人的声音，保留说话者的情绪基调，并可以说出任何内容。

据报道，AI专家阿列克谢·希特罗夫表示，AI生成的虚假图像和声音已经被广泛用于商业欺诈。网络安全公司迈克菲发现，在美国、英国、法国、德国、日本、澳大利亚和印度，有10%的人曾被人工智能语音诈骗。

对于AI可能带来的风险，

监管也必须推进。

一个月前，我国国家网信办起草了《生成式人工智能服务管理办法》（征求意见稿），该办法适用于基于算法、模型、规则生成的文本、图片、声音、视频等。其中明确表示，利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。

原标题：《知名男星亲自打电话求合作？结果出乎意料...》