AI-AGI-从“堆算力”走向“造大脑”-人类发展AI的同时也要让自己拥有掌控AI的能力
作者：微信文章今天先趁还有点体力挤点时间来聊聊AI。近期，OpenAI的前首席科学家伊利亚对于人工智能未来发展提出了独特的观点，他大体的意思是：大模型需要从“堆算力”走向“造大脑”。
可以简单理解为：AI需要突破的是学习的能力。大家知道，大模型是训练出来的，而我们人类，天生就有很强的学习能力，AGI（通用人工智能）的实现，则需要先达到我们人类水准。另外，伊利亚提到的人类情绪的作用也是一个很有趣的观点。我们往往会觉得情绪是不好的，理性才能做好事情，情绪往往是我们觉得搞砸事情的那个。而伊利亚的观点恰恰相反，他认为：情绪是进化赋予我们的“内置价值函数”，这个词有点深奥啊，我们可以不管它，只要知道他想表达的是：AI目前缺乏的就是这种能够提供“即时反馈”和“指导决策”的“生物本能”。毕竟我们人类在地球上繁衍生息了这么长的时间，很多东西都成了我们的本能。就像有时候我们看到一个东西，莫名其妙就觉得哪里不对，然后我们就不会去接近，从而避开了一些不好的事情，本能可以保护我们，可以帮我们做很多选择，虽然很多时候它不一定对，但按照自己内心想要的走了，内在的自我是舒适的（这才是人该有的样子）。 伊利亚觉得情绪是我们的本能，也并指出，虽然这种本能也会出错，但情绪可能正是通往AGI的钥匙。未来的AI怎么处理情绪呢？他认为，未来的AI可能不需要像人类一样有“胃”这样的器官来产生饥饿感。但它可以通过算法直接模拟出类似“关怀生命”、“追求卓越”的价值函数，从而实现真正的自主学习和对齐。我们人类就像是AI的父母，我们创造了AI，并且想方设法一点点助力其成长。随着AI的发展，科技装上了强力引擎，就像孩子渐渐长大开始回馈父母。AI带来了很多方面突飞猛进的变化，帮我们解决了很多难题，实现了很多新的突破。机器人，生物医疗等等各种消息充斥着我们的耳目。同时也让我们真假难辨，不知道真实情况。另外，AI发展的同时，也有一部分声音是很担心AI“反动”的，那些机器人袭击、威胁人类的消息我们也屡见不鲜。确实，AI已经在很多方面超越了我们，在底层给它设置规则当然是需要的，但更重要的，可能是一边发展AI，一边让我们人类自身也通过各种脑机接口、外骨骼等赛博格的方式让自己既保留人类生物的特性，也能在各方面变得越来越强大。不落后于AI，才能掌控它。（毕竟它来自于我们）还有就是，AI和其带动的科技行业，现在真实的发展情况可能并没有各种媒体报道的那么精彩。拿机器人来说，前不久马斯克的擎天柱机器人摔跤事件其实就透露出当前机器人的大体情况，可能大多数还停留在操控表演或是一些简单任务的阶段。不过也有些公司看到了这些，就开始在做帮忙训练机器人的事情，好让各类机器人能适应各种不同的工作，更快地走进生产和家庭。总体来说有问题，但也有发展方向。生物医疗也是不断有各种利好消息传出，脑机接口也在部分试点纳入了医保，不过总体都还停留在试点和治疗方面的小部分，增强还没有开始。现在，我们日常还是照样在过着原来的日子，只不过一些发展会渐渐地改变世界。忙忙碌碌的每一天，留点时间理一理思绪，是很好的。在我们造出AI和带着AI发展的这一路上，我们的生物体会借助AI治愈各种疾病，强化我们的身体和大脑，我们中部分人可能会选择赛博格的方式，让自己和AI拥有一样的能力，并超越它，最终才能掌控它。
所以，让我们多用用AI，多了解科技的最新动向，多向这个宇宙提提问题，让自己保持好奇心和探索欲，多跟亲朋好友互动，多体验新事物，最后，祝大家幸福！
页:
[1]