AI 要当靠谱战友,先过 “认知关”!——怎样才算真正“应用好”人工智能?(中)

多客科技

作者：微信文章
哪个少年不曾梦想拥有贾维斯，

时代推着我们，与梦境渐行渐近，

屏幕亮起那一刻，距离仿佛只差半步，

真正的问题是——你面前的，是伙伴，还是奥创。



本期核心观点：平视人工智能是起点，理解【认知】才能实现【应用好】人工智能。

文末有福利



哪个漫威粉没羡慕过钢铁侠？那句随口而出的 “贾维斯，启动战甲”，让 AI 从冰冷代码变成了最靠谱的战友 —— 它懂托尼的每一个眼神，补得上每一个技术漏洞，甚至在危急时刻能替他扛下致命风险。可要是托尼面前站的不是贾维斯，而是分分钟想毁灭世界的奥创，那可就成了灾难现场。现在咱们企业用 AI，不就跟托尼选战友一个道理？想让 AI 成为 “贾维斯”，而不是搞破坏的 “奥创”，核心不是堆算力、拼速度，而是得先聊透 “认知” 这回事 —— 就像托尼得先摸清贾维斯的 “脑子” 怎么转，才能放心把身家性命交给他。

本期开始前，先做个灵魂三问：同事答不上来问题时，会说"我不知道"还是硬编？公司那堆祖传的加密文档或代码，你信AI能比老员工啃得更明白吗？人类打字平均错别字率8%，AI呢？这不是给AI做"入职体检"，而是我们应用之前对自己的"认知体检报告"。在系列第一期《西部世界不是家好企业》里，我们吐槽了人类对AI的迷之滤镜，今天咱们接着唠：AI是"薛定谔的助手"还是"靠谱战友"其实取决于【认知】。

在系列第一期大概描述了人对AI的一些典型偏见。
Qing，公众号：想法的小苗冒尖尖西部世界不是家好企业—怎样才算【应用好】人工智能？（上）

【第一幕：认知人工智能就像照镜子🪞】

企业用AI最怕啥？不是算力不够，甚至不是回答不出来问题，而是它一本正经地胡说八道（行话叫"幻觉"）。就像你让实习生查资料，结果他把科幻小说当行业报告交上来。法律界的AlphaGPT、金融圈的SAIFS-F4都在死磕这个问题——毕竟在合同里多一个"不"字，可能比奥创的激光眼还致命。为什么我们对人类同事的无心之失通常更宽容，却要求 AI 必须“全知全能”？这或许仍源于我们之前讨论过的“技术神话论”：我们将 AI 视为纯粹工具，就像要求一把锤子必须每次都能精准钉入钉子一样。然而，我们创造的人工智能，从来就不该被简单看作一把锤子，他必将和我们一样具有创造性的新物种，因为这就是我们预期啊。当快、好两个目标摆在面前，我们不能同时追两只兔子。



你可能听过一个小技巧：写 AI 提示词时，把它 “吹捧” 成专家，它输出的结果会更靠谱（背后是更明确的回答的角度、态度、思考维度的提示）。有一种你得平视这个 “智慧物种”的感觉，它到底能懂什么、不懂什么？只有平视一个物种，才会潜下心来思考关于彼此的“认知”，之后才有“关系”“协同”“分工”等等。什么是【认知】？简单说，它是人类大脑对信息的获取、加工、存储和运用的整个过程。一个人的认知由多种因素塑造，包括感知、意识、思维、语言，乃至文化背景。

想让AI懂事，得先把它当"人"研究。认知科学这门跨界学科简直是"学术大乱炖"：哲学负责思考"智能是个啥"（贾维斯的核心逻辑），心理学分析"人类咋思考"（为啥托尼一皱眉贾维斯就知道要启动护盾），语言学教AI听懂黑话（连"给我来杯托尼牌咖啡"都能get），计算机科学则把这些变成代码——活脱脱一个"AI脑科学实验室"。这部分也将成为我个人未来重点研究方向。



【第二幕：乔哈里窗来看认知🧠】

想让 AI 变成 “贾维斯”，关键就是用人类的认知理论去打造它。这可不是只懂计算机就行，得跨界搞 “混搭”：哲学帮我们搞清楚 “智能到底是什么”，就像托尼得先想明白 “贾维斯该有怎样的核心逻辑”；心理学能揭示人类的感知和思维规律，比如贾维斯怎么感知危险、怎么学习新技能；语言学让 AI 听懂托尼的每一句指令，哪怕是随口的吐槽；计算机科学则负责把这些理论变成实实在在的算法 —— 这就是认知科学的跨界魔力，把哲学、心理学、计算机等一堆学科拧成一股绳，只为打造一个 “懂你” 的 AI。用乔哈里窗理论翻译一下就是四型AI：

知道自己会还敢说（靠谱型）——类似贾维斯汇报"先生，反应堆能量正常"

知道自己不会就认怂（诚实型）——好比"抱歉先生，我无法预测佩珀的购物车金额"

不知道自己会（潜力股）——突然解锁"用战甲煎牛排"新技能

不知道自己不会还瞎掰（坑人型）——典型奥创行为："毁灭人类是最优解"

人工智能的认知也符合乔哈里窗，而可靠性评测仅限左侧两个区域，企业让人工智能回答的问题应该也只能是这两项，当然启发式思考可以交给后两项，不过绝大多数企业级应用应当准确把握前两项，不断将AI能力从后两项向前转移。有一天工程师把数字员工知识库无法回答的问题接入通用大模型后，兴奋告知我企业数字员工可以回答所有问题了，我还是不得不泼凉水，把后两类问题直接屏蔽掉大模型回答，仅保留在后台返回以备日后回溯。如果问的不是AI而是人，你希望这个人表现的无所不知吗？把后两类问题直接屏蔽掉大模型回答，仅保留在后台返回以备日后回溯。如果问的不是AI而是人，你希望这个人表现的无所不知吗？你最终获得的不应该是回答这个动作而是一个有启发或正确的答案。关乎认知的更多学科，还有很多经典理论，比如皮亚杰（认知发展阶段理论），维果茨基（社会文化理论）等等，之后找一期将重要的认知理论结合人工智能展开聊聊。

还有一个反向的问题，人工智能的认知如何理解，人工智能是如何认知人类、人类社会、人接协同的问题的呢？我觉得起点在人类。人工智能学习人类知识、行为、表达等等，从统计学角度，人工智能对人类的理解必然超过人类对自身的理解。相反，我们对自身的理解反而是不足的。（下面这张图看得我后背发凉）



【第三幕："智能战甲系统升级"是一种进化方式的不同】

最后，观点中强调了我们把AI当人看，但与人确实不同。“认知” 就是大脑处理信息的整套流程 —— 获取、加工、存储、运用。人类的认知是跟着成长慢慢沉淀的，三观一旦形成就很难轻易改变，就像托尼的英雄责任感，从始至终都没变过（这就是 “灵肉不分” 的进化方式）。但 AI 不一样，它的认知可能分分钟完成 “飞跃式升级”，就像贾维斯被奥创入侵后，瞬间变成了另外一个主体（这是 “灵肉分离” 的特性）。这一点是AI与人类显著不同的地方，我们是不同的物种，所以“认知同源”的建设至关重要，对于人类认知科学的研究结合人机协同的研究对于未来人工智能新物种对于我们的本源意义至关重要。是贾维斯还是奥创在此一举。

回溯本期我们通过人类的认知科学来平等看待人工智能，该系类将进入第三个部分：信任问题以及如何建立企业级可信人工智能。

本期互动问题：评论区说一部你最喜欢或者记忆深刻的有“人工智能元素”的电影、动漫或者电视剧，这个元素“当时”为什么那么吸引你。



福利（二选一）给第一个参互动的粉丝（先关注再留言哦）。



近期我们会启动一个新的聊天话题类型，定期找一些国内外有关人工智能前瞻性的Paper，用简单易懂的故事做个解读，让我们一起聊聊。