AI声音,骗得人家破人亡
作者：微信文章萝卜君团队亲测有效、自用物美价廉、睡后亦可赚钱的集合快递小程序，有需要的朋友可以试试：
“妈，我出事了，快打 5 万块到这个账户！”
如果这是短信或者微信消息，这些年久经电诈考研的普通群众已经不信了。
但假如这是语音电话，对面的声音真的很像那个经常闯祸的儿子呢？
会有些人，尤其是中老年人，没有意识到如今AI技术的突飞猛进，又牵挂远在天边的子女，听了这样的语音就会慌了神，问上几句就会急匆匆按要求打钱。
打完了钱，家长会赶紧再联系孩子，询问事情解决没有，却发现对方一脸茫然，压根没这回事。
家长这才会意识到自己上当受骗了。
这不是虚构的剧情，而是正在真实发生的骗局。骗子模仿亲属声音如此相似，是因为AI克隆声音技术。
十几秒，AI复制一个人的声音
有了AI，一个人的声音能被轻易地复制。
我们每个人的声音虽说独特，但归根结底都可以通过数学建模，合成相似特征，如频率、音色、声调、语速甚至情感这些关键特征，都可以被AI从我们日常说话的片段中提取出来建模合成。
以前AI模仿声音还有不少瑕疵，近年来，声音提取设备和算法越来越完善，AI模仿声音更加惟妙惟肖，真假难辨。
而且AI克隆声音技术非常普遍，很多常用软件上就有这个功能，比如剪映就有“克隆音色”功能，方便大家在给视频配音时用AI生成自己的声音。
你可以看到，这项功能声称“仅需10秒音频，即可快速克隆专属音色”，操作起来非常简单。
还有很多其他程序，有的甚至是开源本地部署的，可以脱机运行复制音色。开发者声称无法收集用户信息，也不对用户的使用目的负责，无法追查到究竟谁在复制音色。
这就给动了坏心思的人以可乘之机，他们会复制别人的声音，达到不可告人的目的。
AI复制声音，名人遭殃
拿走别人的声音合成新的音频，这事早就不稀奇了，两年半之前，B站上就流行 “AI孙燕姿翻唱” 视频。
“AI孙燕姿” 翻唱了周杰伦、王力宏、陶喆等数位歌手的作品，有的像上图中翻唱的《发如雪》，高达几百万播放。
但这些歌曲，没有一首是孙燕姿本人演唱的，都是通过AI克隆声音技术实现的。
有了AI孙燕姿，就会有AI周杰伦、AI邓紫棋、AI许嵩等 “歌手”，翻唱的歌曲从影视原声带、流行歌曲到网络歌曲，几乎覆盖了所有热门类型。
但总归是侵权，唱唱情歌似乎没啥大事，但用名人声音生成其他语音呢？
我们之前就举了很多名人被AI合成视频的例子，这些视频里的名人说话声音，显然是通过AI克隆声音技术做出来的。
还有更省事的，直接连AI合成视频都没有，只放个AI合成音频。
雷军就说过AI语音给他造成的麻烦，他刷抖音时经常看到 “雷军语音包” 的恶搞视频，有网友甚至投诉国庆期间被他的AI语音 “骂”了7天，闹得他不得不呼吁大家不要再玩这类语音包。
这还只是恶搞，要是靠AI合成音频骗人买东西呢？一些商家在短视频平台带货时，AI合成明星、医生的声音销售服装、保健品等，这就涉嫌虚假宣传了。
若是有人直接拿AI合成的音频诈骗呢？
AI合成语音，普通人深受其害
AI克隆名人声音更多是侵权和误导，那么在练习时长两年半后，克隆普通人声音，瞄准大家的钱包和名誉，就常见起来了。
文章开头的事情，是真实案例，有人接到 “儿子” 的来电，对方带着哭腔说开车撞了人，急需 5 万元押金，否则要被拘留，还让她联系 “公安机关工作人员”，强调别回拨原号码。
电话里的声音和亲生儿子几乎一致，迷惑性很强，幸好转账时银行工作人员察觉不对劲，劝阻了当事人，才避免了财产损失。
《2024 年人工智能安全报告》显示，基于AI的深度伪造欺诈在2023年激增30倍，对网络安全和社会安全构成严重威胁。
可见诈骗分子非常关心技术发展，站在时代前列，积极应用新技术诈骗我们。
除了诈骗，AI 克隆普通人声音还可能被用于造谣。在社交平台上，已经出现了用 AI 模仿普通人声音发布不雅言论、传播虚假信息的情况，如果你被莫名其妙封号了，还真可能是这个原因。
这种AI合成语音诈骗或是陷害，简直防不胜防，因为一个人的声音很好复制，现在获取声音样本的渠道太多了。
任何人都可能在社交媒体上发语音动态、在视频里被拍下说话片段、和朋友会有语音聊天记录、甚至骗子给人打电话都能收集语音，只需十秒钟的片段，都可能成为被采集。
不需要你同意，也不需要告知你，你的声音就可能被悄悄 “拿走”，变成别人手中的工具。
拿走你的声音，他们干什么，可就由不得你了。
说是可以追究责任，但摊上这种事总归非常麻烦，我们还是得关心AI前沿技术发展，在技术刚出现，还难以追究责任的时期，小心防备新技术对我们的伤害。
我们还要注意，不要随意在社交媒体发布语音片段，避免被不法分子获取用于 AI 克隆。平时和亲友的语音聊天记录、电话录音等，也要注意妥善保管，不要轻易泄露给陌生人。
全文完，喜欢就扫码关注一下吧
延展阅读：
《深度：东大做了什么？小日子急到半夜尖叫》
《深度：美国外交重大转向？开始全球收缩？》
《深度：刀把软，钱袋瘪，嘴巴硬，小乌小日的白左末路？》
《深度：“治安处罚记录封存”是不是一场认知战？》
《深度：小日子真要拥核了？》
《深度：告别马六甲？谁也别想封住东大！》
《深度：懂王妙计安天下，俄乌还得接着打？》
《深度：要不是这次大火，你还记得香港是一国两制吗？》
《深度：香港，宁可守规矩烧死人，也不担责灭大火？》
《深度：懂贼不死，信用破产，美国毁灭》
页:
[1]