能唱能骗，AI震撼到的不只孙燕姿，有人10分钟被骗430万（组图）

许久没在萤光幕前亮相的华语流行乐坛天后孙燕姿，最近在人工智能（AI）加持下频频出现在公众视线里。

打开中国影音网站B站，可以发现「孙燕姿」翻唱各类歌曲的作品从4月起爆发式增长，当中不少都获得百万点击率，比如周杰伦《发如雪》、南拳妈妈《下雨天》，以及王菲《红豆》等等。

有媒体不完全统计，这类翻唱作品至今已有超过1000首，数量远远超出孙燕姿出道20多年的作品总和。

但如果仔细留意，可以发现这些歌曲都不是孙燕姿本人亲自翻唱，而是「AI孙燕姿」。

由于模拟音色还原度高，孙燕姿成为AI宠儿。（bilibili）

所谓AI孙燕姿，简单来说，就是透过模型训练和后期处理，让AI用孙燕姿的声音翻唱其他歌手的歌曲。虽然AI翻唱技术在唱腔、技巧上离原唱者还有一定差距，但音色已经基本实现复刻，足以以假乱真。

有网民点评：「真以为是孙燕姿本人翻唱了……很有孙燕姿的音色特色，除了唱腔和技巧差一点，人声和背景音乐的融合度很高，完全就是一首高分新歌。」

也有网民开玩笑说：「真的太像燕姿本人唱的。燕姿，如果你还不出来开演唱会，发新专辑，你就要被AI取代了！」

随著AI孙燕姿不断在各大网络平台发行翻唱歌曲，加上网络舆论发酵，相关话题「AI出来后第一个失业的是孙燕姿」、「专家称孙燕姿音色不受法律保护」前不久也登上了微博热搜榜。截至5月23日下午1时，两个话题的阅读次数都分别超过1亿次。

在讨论度居高不下的背景下，天后孙燕姿本人5月22日终于发文回应。她在个人音乐公司「Make Music」的部落格自嘲写道：「我的粉丝们都已跳槽，也同时接受我就是一名冷门歌手的事实，而我的AI角色也成为了目前所谓的顶流。毕竟该怎么跟一个每几分钟就能推出一张新专辑的『人』比呢？」

尽管如此，孙燕姿在文章中没有对AI发展表现出悲观或消极的态度。相反的，她形容自己就像一个吃著爆米花、坐在电影院最好座位上的人。「在这无边无际的存在之海中，凡事皆有可能，凡事皆无所谓，我认为思想纯净、做自己，已然足够。」

AI孙燕姿违法侵权吗？

音乐版权律师赵智功接受《新京报》贝壳财经采访时说，AI孙燕姿作品是有版权问题的，具体需要根据不同的使用场景来追究；如果是目前B站影片上传者（简称UP主）「自娱自乐」不涉及商业化的情况，可能不涉及著作财产权，但还是涉及著作人身权，比如署名、表明表演者身份、表演形象不受歪曲等。

赵智功还指出，孙燕姿翻唱什么歌曲，本来就是应该由她本人以及其经纪公司或唱片公司，基于艺人设定和音乐市场的考量共同决定的。但现在AI孙燕姿可以翻唱任何歌曲，「AI翻唱Cover歌曲侵犯了孙燕姿本身的市场资源」。

曾就职于多家音乐流媒体平台版权部的李强也持相同看法。他并说：「在未获得歌手授权下，AI对歌手声音的模拟甚至公开展示，应属于对歌手表演者权的侵权行为。」

AI歌手甚至包含张国荣等已故巨星。（bilibili）

据观察，AI歌手在中国网络上并不罕见。在AI孙燕姿诞生之前，已经有「AI周杰伦」，「AI王菲」、「AI邓紫棋」的作品流传于B站。目前，包括孙燕姿在内，尚未有歌手或经纪公司发布官方声明禁止AI翻唱行为或对此追责。

中国出现AI换脸新骗局 10分钟被骗430万元人民币

除了孙燕姿，另一则有关AI的话题近来也刷遍中国网络，那就是AI诈骗。

内蒙古包头市公安局旗下微信公号5月20日发布通报称，当地警方本月初破获了一起使用AI技术进行电信诈骗的案件，受害者是福州市某科技公司法人代表郭先生。

根据通报，郭先生的好友有一天突然透过微信视讯联系他说，自己的朋友在外地竞标，需要430万元（人民币，下同）保证金，且需要公对公帐户过帐，想要借郭先生公司的帐户走账。

这位好友也向郭先生要了银行卡号，声称已经把钱打到郭先生的帐户上，还把银行转帐底单的截图透过微信发给了郭先生。

AI发展使诈骗技术不断变化出新。（资料图片）

通报指出，由于是视讯聊天，加上出于对朋友的信任，郭先生没有核实钱是否到账，先后分两笔把430万元给对方打了过去；钱款转帐完成后，郭先生还给好友微信发了一条短讯，告诉他事情已经办妥。不料，「好友回过来的消息竟然是一个问号」。

通报说，郭先生随即拨打好友电话核实，结果对方坚称没有这回事，他这才意识到自己遇到了使用AI换脸技术的「高端」骗局，并立即报警。

事后回忆起当时的情形，郭先生说：「从头到尾都没有和我提借钱的事情，就说会先把钱给我打过来，再让我给他朋友帐户转过去，而且当时是给我打了视讯的，我在视讯中也确认了面孔和声音，所以才放松了戒备。」

据《每日经济新闻》报道，AI诈骗目前有声音合成和AI换脸两种形式。声音合成诈骗，骗子会先透过骚扰电话录音等来提取某人声音，获取素材后进行声音合成，从而可以用伪造的声音骗过目标。

至于AI换脸，骗子会先分析公众在网上发布的资讯筛选目标人群，之后透过AI技术换脸伪装，再透过视讯进行资讯确认，完成诈骗。

博通咨询首席分析师王蓬博向《北京商报》说：「我觉得科技的进步也让防范诈骗的难度在提升。发生的原因还在于资讯爆炸导致的资讯泄露过度。」

用AI虚构新闻赚流量

在网络高速时代的背景下，AI带给人们的挑战还不止于此。

中国多家媒体在约两个星期前报道，一名男子因利用人工智能软件ChatGPT炮制虚假新闻，被警方采取刑事强制措施。彭博社称，这似乎是中国首起与滥用人工智能相关的刑事案件之一。

甘肃省平凉市公安局5月7日在其微信公号发布通报称，涉事的洪姓男子「利用现代技术手段编造虚假资讯，并散布在网络上，被大量传播流览」。此前当地警方发现，一篇编造关于火车事故导致九人死亡的文章，发布在百度「百家号」的多个帐号上。该文章在被删除前的点击量已达1万5000余次。

调查显示，该洪姓男子使用了ChatGPT来修改编辑近年的社会热点新闻。他在审讯中说，自己是透过微信好友获知了如何利用网络赚取流量变现的方法。

通报指出，该编造的虚假资讯被大量传播流览，意味著洪姓男子的行为涉嫌构成「寻衅滋事罪」。该罪名至少可判处五年监禁。

有网民就此评论说，案件暴露了AI技术在网络资讯传播领域可能带来的风险和挑战。「在不法分子手中，AI也可能成为制造和传播虚假资讯、误导舆论的利器」「AI将让媒体的新闻真假难辨。」

中国已出手 多国AI监管「山雨欲来」

美国OpenAI公司开发的ChatGPT去年11月横空出世后，在中国科技圈掀起巨大波澜，腾讯、百度等中国多家科技公司自今年3月纷纷推出对标该聊天机器人的服务。

科大讯飞「火星认知大模型」。（官网截图）

为加强对这类技术的监管，网信办4月11日发布《生成式人工智能服务管理办法》草案。草案表明，中国支援人工智能演算法、框架等基础技术的自主创新。不过，企业在向民众提供生成式人工智能服务前，必须向网信部门申报安全评估；生成内容应当体现社会主义核心价值观，不得含有颠覆国家政权、推翻社会主义制度、煽动分裂或破坏国家统一、宣扬恐怖极端主义、民族仇恨、可能扰乱经济及社会秩序等内容。

草案也规定企业也须确保内容真实准确，采取措施防止生成虚假资讯；禁止非法获取、披露、利用个人资讯和隐私和商业秘密。使用者方则须依法提供真实身份资讯等。

《华尔街日报》报道认为，在生成式AI（generative AI）构成的挑战引发担忧之际，中国此举走在了努力驯化这种新技术的世界各地政府的前列。生成式AI，一般泛指可以进行内容原创，通过演算法来生成图像、文字、音乐，甚至代码和视频，而且不需要人工干预的AI。上述提到的ChatGPT、AI孙燕姿等等都有这种特点。

一名不具名的中国人工智能从业者则向英国广播公司（BBC）中文网分析说，中国之所以这么快采取监管行动主要有三个原因：生成式AI的伦理问题、破坏力，以及极快的进化速度。这位业内人士没有对此进一步阐述。

但BBC中文网报道，生成式AI进化速度极快，ChatGPT去年11月推出后，今年3月反复运算出的GPT-4，不仅知识面更广、对答更流畅，开始能够读懂图片内容，在律师资格考试中拿下高分，而且具备自我反思的能力。

除了中国，在日本广岛开会的七国集团（G7）领导人上周也说，世界各国必须加紧对生成式AI的快速发展进行评估，因此决定今年内针对「负责任地「使用此技术展开讨论。G7领导人在声明中说：「我们认识到有必要立即评估生成人工智能的机遇和挑战，它在各个国家和领域都越来越重要。」

欧洲联盟领导人也出席会议。欧盟正在推进立法以监管人工智能技术，可能出台世界上第一部全面的人工智能监管法。有关法案下月将提呈给欧洲议会，通过后就可同个别成员国展开立法谈判。

正如特斯拉兴起，推高了全球电动车行业的热情；去年底推出的ChatGPT犹如一把大火，点燃了整个人工智能行业，仅仅几个月，全球科技巨头都争相进入这个领域。但「AI孙燕姿」、AI换脸骗局、AI虚构新闻等事件告诉了我们，该技术也带来了前所未有的新挑战。

究竟AI是利大于弊，还是弊大于利，现在还难以断定。唯一可以明确的是，AI的发展还在起步阶段，带给世界的震撼才刚刚开始。