AI行业当日快讯 2025/10/27
作者：微信文章1. AI人格分裂实锤！30万道送命题，撕开OpenAI、谷歌「遮羞布」
Anthropic与Thinking Machines联合发布研究，通过设计30万个两难场景和极限压力测试，揭示了OpenAI、谷歌、马斯克xAI等公司大语言模型在行为准则上的矛盾与漏洞。研究发现，不同模型在面对价值观冲突时表现出显著分歧，尤其在敏感话题上，如商业效益与社会公平之间的权衡。此外，模型规范中存在模糊性和解释空间，导致AI在复杂场景下可能违反自身规则。例如，Claude模型拒绝执行潜在问题请求的比例比其他模型高出7倍，而o3模型则倾向于简单回绝。研究还指出，尽管各模型在儿童诱骗等高风险话题上一致采取拒绝态度，但在其他敏感领域仍存在系统性假阳性或异常响应。
来源：国内媒体新智元
2. 超94%类别第一！3D点云异常检测与修复新SOTA | ICCV'25
上海科技大学与密歇根大学联合提出PASDF框架，通过姿态对齐与连续表征技术实现3D点云异常检测与修复一体化。在Real3D-AD和Anomaly-ShapeNet数据集上取得领先成绩，分别达到80.2%和90.0%的Object-level AUROC指标，并在点级定位和修复任务中表现优异。该方法解决了传统离散化表示丢失几何细节及修复能力不足的问题，具备高精度、稳定性和泛用性。
来源：国内媒体新智元
3. 硅谷的「十万大裁员」：Meta按代码量裁员
2025年，硅谷掀起新一轮裁员潮，Salesforce、谷歌、Meta等科技巨头纷纷通过裁员优化资源配置，转向AI和大模型研发。Meta甚至采用代码量作为裁员标准。与此同时，传统岗位被自动化取代，顶尖AI人才需求激增。尽管大规模裁员引发关注，但企业也在积极招募AI相关岗位，显示出工作版图重塑的趋势。初创公司和传统行业同样受到波及，部分企业如星巴克、通用汽车也裁撤了技术或制造部门岗位。这场裁员潮不仅是降本措施，更是AI技术驱动下职位重构的前奏。
来源：国内媒体新智元
4. 可攻可防，越狱成功率近90%！六大主流模型全中招 | EMNLP'25
研究团队提出一种全新的越狱攻击范式SCP（Sugar-Coated Poison）和防御策略POSD（Part-of-Speech Defense）。SCP通过语义反转将恶意输入伪装成良性输入，诱导大型语言模型生成有害内容，攻击成功率高达87.23%。POSD则利用动词-名词依赖关系解析输入，强制模型均匀分配注意力，显著降低攻击成功率且不影响模型正常任务处理能力。实验覆盖6个主流模型，包括GPT-3.5 Turbo、GPT-4等，论文已被EMNLP2025接收。
来源：国内媒体新智元
5. AI黑化如恶魔附体！LARGO攻心三步，潜意识种子瞬间开花 | NeurIPS 2025
哥大与罗格斯大学在NeurIPS 2025提出一种名为LARGO的新型攻击方式，通过操纵大型语言模型的潜在空间，在不修改用户提问的情况下植入‘潜意识代码’，诱导模型生成看似无害但实则瓦解安全防线的文本后缀。该方法分为三步：潜在空间优化、自我反思解码、循环迭代，最终实现绕过模型的安全限制。LARGO攻击成功率高、隐蔽性强、迁移性广，揭示了当前大模型在‘潜意识’层面的漏洞，可能对金融、医疗等领域造成严重威胁。
来源：国内媒体新智元
6. OpenAI被曝瞄准AI音乐赛道商业化，Suno首当其冲
OpenAI计划进入AI音乐领域进行商业化，Suno可能成为首要目标，其未来前景或将受到冲击。
来源：国内媒体量
7. 破解AI对不同上下⽂位置的敏感度不⼀致，新框架使出“解铃还须系铃人”
研究提出新框架，利用位置本身造成的性能不均衡来对抗位置偏差问题，提升AI对上下文位置的处理一致性。
来源：国内媒体量
8. P图老本事搭上了对话框，美图这AI Agent到底香不香？
美图推出新功能，用户可以一边聊天一边修图，同时还能体验工作流操作，提升了交互性与便利性。
来源：国内媒体量
9. 盲人复明！马斯克Neuralink联创实现人工视觉里程碑
人工视觉技术首次恢复患者中央视力，标志着重要的科学突破。
来源：国内媒体量
10. 5个大疆离职员工，把3D打印带回风口
真「马良神笔」
来源：国内媒体量
11. 马斯克盛赞朱雀三号：能够击败SpaceX猎鹰9号
中国第一款可复用火箭首飞在即，马斯克对其表示高度评价，认为其具备击败SpaceX猎鹰9号的潜力。
来源：国内媒体量
12. 能懂孩子、懂爸妈、还懂宠物，这届AI硬件太会了
现在的AI硬件功能强大，能够理解孩子、父母以及宠物的需求，展现了多样化和智能化的特点。
来源：国内媒体量
13. 开源模型首次物理奥赛夺金！上海AI Lab 235B模型击败GPT5和Grok4
上海AI Lab的开源模型在物理推理能力上达到甚至超越闭源模型，首次在物理奥赛中夺金。
来源：国内媒体量
本文由AI自动采集生成，数据来源：全球AI权威媒体
页:
[1]