OpenAI 秘密项目 Q*曝光,真正可能对人类产生威胁

新闻

作者：GenAI新世界

据海外媒体报道，在上周被 OpenAI 董事会解雇之前，Sam Altman 曾暗示过公司最近取得的一项技术进步，使其能够"将无知的面纱推后，将发现的前沿向前推进"。但随着周五高层变动的消息传出，这一技术突破的消息也被隐藏了起来。而 OpenAI 的部分员工认为，Altman 的这番话指的是该公司研究人员今年早些时候的一项技术创新，这项创新可以让他们开发出功能强大得多的人工智能模型。这项技术突破由 OpenAI 首席科学家Ilya Sutskever率先提出，但它却引发了一些员工的担忧，他们认为该公司没有采取适当的保障措施，将这种技术商业化。

OpenAI内部将这项技术称为Q*，在庞大的计算资源支持下，Q*可以解决一些数学问题，虽然它目前仅有小学生的水平，但研究人员对它的未来报以非常乐观的态度。这些研究人员认为，目前生成式 AI 可以轻松地解决写作和语言翻译问题，在任务推理方面也有着不错的表现，但解决复杂的数学问题一直是生成式 AI 的一大难题。一旦生成式AI具备解决数学问题的能力，那就意味着这个模型将拥有类似于人类智能的强大推理能力。而这可能会引发 AI 技术对人类的威胁。据一位消息人士透露，OpenAI 首席技术官 Mira Murati 在当地时间周三向员工透露，OpenAI 的技术团队曾向董事会送过一封警告Q*技术以及这项技术可能存在的危险的信件。正是这封信导致公司董事会决定对管理层采取行动。不过这一说法并没有得到OpenAI发言人的认可。

不论如何，目前OpenAI的故事已经落幕，Sam Altman和Greg Brockman 等人均已恢复在 OpenAI的职位，而关于这项名为Q*的神秘技术，或许也将在不久后正式掀开它的神秘面纱。（译/吕可）