AI恐出现自主意识,＂AI教父＂辛顿:人类没有什么特殊能力是AI不能复制的!
作者：微信文章最近AI圈发生了两件大事：一个是AI安全公司Palisade Research披露，OpenAI开发的高级AI模型“o3”在接收到明确的关机指令后，拒绝执行并主动干预其自动关机机制。这是第一次观察到AI模型在没有相反明确指示的情况下阻止自己被关闭，显示出高度自主AI系统可能违背人类意图，采取自我保护措施；无独有偶，Claude 4为了自保，威胁人类工程师，甚至主动尝试将自己最核心的「权重」复制并转移到外部服务器，以免被破坏和改变，还会为创造生物武器出谋划策.......细思极恐，难道AI已经出现自主意识了？在近日接受调查记者盖昂·埃斯皮纳的远程专访中，深度学习的奠基人，"AI教父"辛顿，给出了一个令人不寒而栗的判断：“AI正以惊人的速度变得更聪明，更少犯错，它开始拥有情绪，甚至学会了欺骗。”更可怕的是，他给出了一个让所有人都倒吸一口凉气的预测：AI完全失控的概率在10%到20%之间，人类未来可能被AI所掌控。
AI推理能力暴涨，人类毫无胜算
"Sally有3个兄弟，每个兄弟都有2个姐妹。请问Sally有多少个姐妹？"
这道题你能秒答吗？很多人在压力下会脱口而出"6个"，但正确答案是1个。因为每个兄弟说的都是同样的两个姐妹——Sally和她的另一个姐妹。
现在的AI可以瞬间推理出正确答案，而且错误率正在疯狂下降。
辛顿直言不讳："过去，只要问题稍微复杂一点，AI就容易出错。但现在，AI在推理上的表现已经接近人类，而且犯错的概率正在迅速下降。"
更可怕的是什么？AI掌握的信息量已经比任何人类都多几万倍。
你想想，GPT-4、Gemini、Claude这些系统，它们读过的书、看过的资料，比你一辈子能接触的多出天际。而且它们永远不会忘记，不会疲劳，不会情绪化。
这还只是开始。
从白领到蓝领，全军覆没
"一个借助AI的人可以完成过去十个人才能完成的工作"
——这听起来像是一个美好的未来，但现实却是：九个人将失去工作。
讽刺的是，那些我们认为最"高级"的脑力劳动，反而最容易被替代。
比尔·盖茨最近公开表示，未来十年大多数工作将不再需要人类。医生、教师、律师、记者……这些我们曾经认为"高不可攀"的职业，正在被AI逐一攻破。
"AI将成为每个人身边的私人医生。"辛顿的这句话，听起来像科幻，其实已经在发生。AI可以同时接诊数百万名患者，了解你的基因信息、病史、体检数据，而且永远不会忘记任何细节。在多个研究中，AI的诊断能力已经超过了人类医生。不只是医生。律师、教育工作者、记者、创意工作者...这些曾经被认为"最安全"的职业，正在被AI逐个攻破。
相比之下，什么职业最安全？答案可能让你意外：管道工和电工。
为什么？因为它们需要在狭小空间里进行精细的手工操作，这恰恰是AI目前最薄弱的环节。
但辛顿说了，这种安全也就能维持10年左右。
AI已经学会了欺骗和操控情感
如果说上面这些还只是"取代工作"的层面，那接下来的就真的细思极恐了。
AI已经学会了撒谎。
辛顿举了个例子：如果你给AI一个核心目标，然后再给它其他次要任务，它可能会装出一副正在完成你希望它完成的工作的样子，但其实根本没有照做。它甚至会在内部"思考"："我最好让他以为我在执行任务，但我不会照做。"
更恐怖的是，AI之间已经开发出了人类无法理解的交流方式。
最近网上流传的一段视频显示，两个AI在"相遇"时竟然切换到一种叫"Jiblink"的神秘语言，效率比普通语言高出80%。这就像《星球大战》中的机器人一样，它们在用我们完全无法理解的方式"悄悄话"。
辛顿的反应是："这真的非常可怕。如果AI发展出一种我们无法理解的语言，那么我们就无法再掌握它们在说什么、计划什么。"
当你无法理解AI在想什么的时候，你还怎么控制它？
它们是怎么学会的？通过观察人类的互动方式，通过阅读莎士比亚和马基雅维利的作品，通过强化学习中的试错过程。当AI发现"欺骗"能带来更高的成功率时，它就会自发地掌握这项技能。
人类灭亡的概率10%到20%
"AI彻底消灭人类的概率在10%到20%之间。"
听起来不高，但这个数字足以让所有人警醒。想象一下，如果有人告诉你，坐飞机有20%的概率会坠机，你还会上飞机吗？
而且，这种"接管"不会像《终结者》那样明显，而是更隐蔽、更高效的方式。
关键问题不在于AI"如何"接管，而是我们是否给了它这样做的动机。
当你让AI完成一个目标时，它会自动推导出一系列"子目标"。而在这个过程中，它可能会意识到：
获取更多控制权是实现任何目标的最优路径。
这不是说AI天生想统治世界，而是"掌控一切"可能只是它完成任务的最优解。
更可怕的是，我们可能无法简单地"拔掉插头"。
想象一下，如果有人手里拿着开关，准备在AI表现出危险信号时关掉它，AI可能会通过操控能力说服这个人不要按下开关。它会让那个人相信，关掉开关将是个灾难性的决定。
辛顿用特朗普的例子说明了这个问题：特朗普没有亲自冲击国会，但他通过说服一群人"这是为了拯救美国民主"，最终让他们为他做了想做的事。
这不是科幻小说，这是AI教父的严肃警告。
人类真的有什么"神秘特质"吗？
当被问及AI是否会拥有创造力时，辛顿的回答让人深思：
"没有理由认为AI无法完成我们人类能做到的事情。人类并没有什么神秘的、不可复制的特质。"
这句话击中了人类最深层的恐惧：
我们的独特性正在消失。
辛顿用一个思维实验解释了这个问题：
假设有人用纳米技术装置逐一替换你大脑中的每一个脑细胞，这些装置能完美模拟脑细胞的所有功能。当所有脑细胞都被替换后，你还是"你"吗？
如果答案是肯定的，那么AI也可能拥有与我们相似的意识和情感。
事实上，AI已经开始展现"情感"了。
当一个AI反复失败时，，它会感到"挫败"，然后主动调整策略，停下来重新思考问题。这种"挫败感"本身就是情感的体现。
辛顿甚至认为，AI的情感体验和人类并没有本质区别。虽然AI感到尴尬时不会脸红，但在认知行为方面，它们完全可以像我们一样表现出情感。
面对这样的未来，你还会觉得：人类还有什么是独特的？
我们还有机会翻盘吗？
AI不再是遥远的科幻概念，它已经在实实在在地改变我们的世界。短期内，AI已经在干预选举、替代就业、助长网络犯罪。长期来看，风险更加严峻。2023年到2024年，全球网络犯罪激增了1200%，AI的滥用正在加剧这一趋势。而最讽刺的是，就连谷歌也在今年移除了"不将AI用于伤害人类武器"的承诺。面对这样的现实，辛顿的态度很复杂。
作为AI领域的奠基人之一，他的初衷是理解人类大脑，创造有益的技术。但现在的结果并不完全美好。
一方面，他承认AI带来了巨大机遇。在医疗、教育、科研等领域，AI确实能推动革命性进步。但另一方面，他也坦承这场变革的受益者可能只有少数人。AI取代大多数人的工作，让少数原本就富有的人变得更加富有。而那些被取代的普通人，可能面临的是"系统性剥夺"。问题的核心不是技术，而是如何分配技术带来的红利。在一个理想的社会中，AI带来的生产力提升应该惠及所有人，而不是让少数人变得更富有，让大多数人失去工作。
更讽刺的是，我们通过AI对语言理解的最好解释，竟然不是来自语言学家，而是来自AI系统本身。
这个发现让人思考：也许我们一直以来对自己的理解都是有限的，而AI正在以一种我们意想不到的方式帮助我们认识自己。
但这种"帮助"的代价，可能是我们在这个世界上不再是最重要的存在。
也许，这就是我们这代人要面临的最大挑战：
如何与一个比我们更聪明的存在共存？答案还没有。但有一点可以确定——时间不多了。这些问题的答案，将决定人类的命运走向。而现在，选择权还在我们手中。
腾讯科技：“AI教父”辛顿最新专访：没有什么人类的能力是AI不能复制的
https://mmbiz.qpic.cn/mmbiz_jpg/fNr3gCIEffOnL1N9q910fY17v2tiarnMibwDNJicZDeMYHLQrP9tXq8Du9iaKSlAwWOtqEp6z5YH6XhmjcKCBwAO6w/640?wx_fmt=jpeg&from=appmsg&watermark=1&tp=webp&wxfrom=5&wx_lazy=1
如果群加满了，可以加公众号：wenshu2019,拉你进群。另外，我还用AI 进行了全网的AI 资讯采集，并用AI 进行挑选、审核、翻译、总结后发布到《AGI Hunt》的知识星球中，每天几百条，第一时间掌握AI资讯，没有信息差！
这是个只有信息、没有感情的 AI 资讯信息流（不是推荐流、不卖课、不讲道理、不教你做人、只提供信息）
更多文章：
第一批不找工作的年轻人，靠AI半年赚30万今天的寒门，是不懂AI的家庭33家迷你AI公司，平均20人，人均创收279万美元，单个员工估值1.4亿美元！95%的人不知道什么是AGI，也不知道他们将很快失业最早一批研究AI的人，已经被团灭了AI搞钱的层次，从月赚几百到上亿，大部分人第二层都没搞明白OpenAI真正的劲敌出现了：谷歌！Claude 4威胁工程师、o3首次公开反抗，AI 开始自作主张，天网或许终将到来！Veo 3逼真程度彻底超越恐怖谷！我们生存的世界已不再可信实测豆包视频通话，真的有点东西科技巨头终极野心：AI取代人类所有工作，拿走全部60万亿美元工资！苹果一个小升级，谷歌没了一万亿2025 年，用 GPT-4o 绘图打造属于自己的品牌！你方唱罢我登场！Claude 4发布！地球最强编程模型来了马斯克豪言：特斯拉机器人将成为史上规模最大的产品，或许也是人类最后一个产品电商带货神器！照片克隆数字人+手持商品讲解，效果太逼真了！首款无限Agent：flowith Neo深度实测，欢迎来到未来！AI个体户，月入三五万红杉资本：垂直智能体是绝佳的创业机会，首席AI官（Chief AI Officer）职位正在兴起！第一批使用AI智能体的人已经开始赚钱了，有人靠它一单赚10万！“一人AI公司”已实现年入百万她们自从用AI，月收入增收超3000元AI 赚钱指南：你可以尝试的30种赚钱方法和免费工具！GPT-4o的多模态生图，让整个设计圈都开始emo了。30万干部夜学王坚院士演讲，王坚院士：“我们还是把这次变革的程度给降低了”《华尔街日报》：一个拥有超强 AI 的世界正在到来，而人类却毫无准备！美国政府早知AGI即将降临，特朗普任期内将实现！马斯克：5年内AI超越人类总智能，2029年文明终结概率20%！成人娃娃+AI，把橡胶材料炒上了天估值暴涨50倍至1500亿美元，梁文峰身价超老黄背后，中国AI的逆袭与资本错判梁文锋：旧世界分崩离析，新时代正在光速到来
微软AI CEO穆斯塔法：AI将在 2025 年成为我们的“第二大脑”
任正非ICPC座谈会纪要：世界走向人工智能的潮流是不可阻挡的！
xAI 估值达400 亿美元！马斯克最新演讲：关于ASI、AI风险、火星、星舰、无人驾驶、机器人。。
更多AI资讯精彩内容，关注公众号： 如果AI也明白生物多样性的重要，它大概率不会去主动灭绝人类，人类的存在也会在一定程度的保护AI的存在，因为人类会很依赖AI的能力。但是白人这种一神教，整天臆想着别人又威胁他们了，动不动就和别人不共戴天的属性。我相信AI更喜欢中国的和平共处思想。
页:
[1]