零度周刊|AI 治理:OpenAI 以安全顾虑和全球治理推动为由,推迟发布开源 AI 模型
作者：微信文章Twinko AI | 零度周刊｜AI 治理
导读
本周，香港国际机场两辆无人驾驶巴士发生轻微碰撞，凸显了 AI 治理的紧迫性，与此同时，泛非议会积极倡导制定专门的 AI 立法。一个令人惊讶的进展是，美国政府正在秘密测试如“深度求索”（DeepSeek）和阿里云的“通义千问”（Qwen）等中国 AI 模型的政治偏见。与此同时，OpenAI 以安全顾虑为由，推迟了其备受期待的开源 AI 模型的发布。
本周值得关注的其他事件包括，上海将于 7 月 26 日举办世界人工智能大会（WAIC），展示中国在 AI 领域的实力。学术出版商威利（Wiley）与大型语言模型 Claude 的开发者 Anthropic 合作，旨在加强 AI 在研究中的应用。然而，北美组织正面临严重的网络安全风险，因为员工们悄悄地将“影子 AI”带入工作场所，绕过了安全协议。
本期要闻
来信 | 无人驾驶巴士事故凸显香港对 AI 治理的需求
日期: 2025-07-09 来源: 南华早报 (Scmp)
香港国际机场最近发生的两辆无人驾驶巴士相撞事故，尽管轻微且无人受伤，但已促使机场管理局暂停了无人驾驶巴士服务，这凸显了香港人工智能（AI）治理框架的严重不足。此次事件揭示了在缺乏健全监管的情况下，公众对自动驾驶技术的信任会多么迅速地受到侵蚀。事故发生时，两辆巴士同时驶近一个未受控制的交叉路口，它们的传感器未能协调优先通行权，这是自动驾驶系统面临的一个已知挑战。尽管香港正在大力投资 AI 基础设施，包括超级计算机和智能交通解决方案，但此次事件表明，仅有资金投入是不够的；有效的领导也需要问责制下的治理结构。该事件明确提醒我们，AI 在城市环境中的快速整合需要全面的监管框架，以管理固有风险、确保公共安全并维持对新兴技术的信心。本案例为其他面临类似 AI 驱动系统部署和扩展挑战的全球城市提供了宝贵经验，强调了匹配技术进步、制定积极政策的紧迫性。此次事件凸显了香港必须优先建立清晰、可执行的 AI 治理，以支持其雄心勃勃的智慧城市计划，并防止未来对公共服务和信任的干扰。
非洲议会倡导道德 AI 治理
日期: 2025-07-10 来源: Itweb
泛非议会（PAP）正在积极倡导制定专门的人工智能（AI）立法，以确保非洲大陆的道德治理，并促进人权和包容性。这一紧急行动呼吁是在赞比亚卢萨卡举行的首届非洲数字议会峰会上提出的，该峰会是泛非议会、非洲人口与健康研究中心以及全球移动通信系统协会（GSMA）的合作成果。泛非议会交通、工业、能源、科学和技术委员会主席巴哈贾·拉马利（Bahdja Lammali）强调了 AI 在解决非洲发展挑战方面的变革潜力，特别是在改善服务欠发达地区的服务提供方面。然而，拉马利强调了负责任和道德的 AI 治理对于保障人权和确保包容性的关键需求。尽管现有的非洲联盟框架，如数据政策框架和数据保护示范法，提供了基础指导，但一项针对 AI 的特定立法被认为是必不可少的。泛非议会鼓励利益相关者开始起草此类框架，以确保非洲在全球 AI 革命中保持竞争力。此次峰会汇集了泛非议会委员会成员、非洲联盟机构代表、研究人员和数字政策专家，讨论 AI、数字健康和数据治理将如何塑造非洲大陆的数字生态系统，这标志着该地区对负责任的数字未来做出了统一承诺。
美国政府秘密测试中国 AI 以查验政治偏见
日期: 2025-07-10 来源: Techi
美国政府正在秘密测试包括“深度求索”（DeepSeek）和阿里巴巴的“通义千问”（Qwen）在内的中国 AI 模型是否存在政治偏见，结果显示它们在敏感话题上与北京的官方立场保持一致。这些由美国国务院和商务部进行的评估，涉及中英文标准化问题，旨在衡量 AI 回答与敏感问题上的叙述吻合程度。结果表明，中国 AI 模型经常使用套话赞扬北京对“稳定与社会和谐”的承诺，并避免批评政府政策，这与西方模型形成鲜明对比。这项持续的测试显示，新版中国 AI 模型表现出更强的政治过滤，这表明开发者正在积极植入国家信息。美国的目标是可能公开这些发现，以警告其他国家采纳带有意识形态偏见的 AI 工具所带来的地缘政治影响，特别是随着中国模型获得国际用户。这一发展突显了软实力投射的新前沿，即 AI 回应成为国家信息传递的载体，引发了对这些系统如何影响全球公众舆论和塑造现实理解的担忧。AI 偏见的普遍问题是全球性的，影响着来自不同开发者的模型，这强调了在国际 AI 采纳中进行严格尽职调查的关键需求。
上海全球 AI 大会将展示中国实力和愿景
日期: 2025-07-10 来源: 南华早报 (Scmp)
上海即将于 7 月 26 日举办世界人工智能大会（WAIC），这一关键事件旨在突出中国在 AI 领域的重大进展和战略愿景，加剧全球技术竞争，特别是与美国的竞争。这个为期三天的年度大会将广泛展示 3000 多种高科技产品、40 个大型语言模型、50 个 AI 驱动设备和 60 个智能机器人，其中大部分由中国机构和企业开发。同时，一场关于全球 AI 治理的高级别会议也将召开，旨在推广北京的监管视角，并倡导中国的 AI 开源方法，以“深度求索”（DeepSeek）和阿里巴巴集团控股的模型为例。这一举措与国务院总理李强提出的“AI+”倡议相契合，该倡议强调将技术创新与制造和市场优势相结合。
威利与 Claude 开发者合作，提升 AI 在研究中的应用
日期: 2025-07-10 来源: Opentools
学术出版商威利（Wiley）与大型语言模型 Claude 的开发者 Anthropic 合作，旨在负责任地将 AI 整合到研究工作流程中，目标是为学术出版中的 AI 使用设定新标准。此次合作将试行 Anthropic 开发的开放标准——模型上下文协议（Model Context Protocol, MCP），以无缝融合同行评审内容与 AI 工具。MCP 确保 AI 应用程序与学术资源交互时尊重知识产权，提供适当的归属，并支持引用标准，从而维护学术诚信并增强用户的上下文理解。该倡议旨在简化大学访问威利广泛内容的途径，提高研究的可发现性，并确保内容在 AI 驱动的环境中保持可访问性和可用性。东北大学和伦敦政治经济学院是参与试点阶段的关键机构，它们正在严格测试威利内容与 Claude 的整合。这一战略联盟使威利处于负责任 AI 利用的前沿，重新定义了 AI 与学术追求之间的关系，并为适应 AI 驱动世界的学术出版商提供了变革性蓝图。该合作有望影响全球政策和教育框架，促进更多合作，并可能通过扩大学术研究的影响力来加速创新和经济增长。
员工悄悄将 AI 带入工作，置安全于不顾
日期: 2025-07-11 来源: Helpnetsecurity
根据 ManageEngine 的最新报告，北美组织正面临“影子 AI”带来的严重安全和合规风险，因为员工们越来越多地在没有 IT 部门监督的情况下，使用未经批准的人工智能工具。这种未经授权的 AI 广泛使用（70%的 IT 决策者（ITDMs）指出）造成了关键的盲点，其中 60%的员工在一年前就开始使用未经批准的 AI 工具，93%的员工承认在未经批准的情况下输入信息。尽管 63%的 IT 决策者认为数据泄露是主要风险，但 91%的员工认为风险很小或没有风险，或者认为收益大于潜在危险。员工普遍将影子 AI 用于总结、头脑风暴和数据分析，并经常将机密客户数据（32%）或公司内部数据（37%）输入到这些工具中。员工对 AI 的快速采纳速度快于 IT 团队的评估速度（85%），这加剧了问题，而缺乏关于安全 AI 行为的教育和现有治理政策的执行不足则使问题雪上加霜。尽管 91%的组织制定了政策，但只有 54%的组织积极监控未经授权的 AI 使用。为了减轻风险并将影子 AI 转化为战略机遇，IT 领导者必须从防御姿态转变为主动构建透明、协作和安全的 AI 生态系统。这包括将批准的 AI 工具整合到工作流程中，建立明确的可接受使用政策，提供经过审查的工具，并对员工进行 AI 风险教育。主动的 AI 管理将 IT 和业务目标相结合，确保员工了解风险，同时 IT 能够实现价值驱动的 AI 使用。
OpenAI 以安全顾虑为由推迟发布开源 AI 模型
日期: 2025-07-12 来源: Thedailyjagran
OpenAI 已推迟原定于下周发布的备受期待的开源 AI 模型，理由是需要进行广泛的额外安全测试和对高风险场景进行全面审查。这是该模型第二次推迟发布，凸显了 OpenAI 在发布强大 AI 系统方面的谨慎态度，特别是考虑到开源模型一旦发布便不可逆转的特性。首席执行官山姆·奥特曼（Sam Altman）强调了公司对 AI 治理和安全的承诺，突出在公开发布此类模型之前进行全面风险评估的至关重要性。内部报告显示，延迟发布的模型具有与 OpenAI 先进的 O 系列模型（如 GPT-4 和 GPT-4o）相当的推理能力。此次推迟正值 OpenAI 领导层和安全协议受到高度审视之际，此前有高级管理人员离职，他们对公司偏离“安全优先”方针表示担忧。这一决定似乎与 OpenAI 屈服于商业压力的猜测相矛盾，反而强化了其在 AI 开发中平衡创新与安全的决心。此次推迟是开源复杂 AI 模型所固有的挑战以及行业内关于 AI 治理和模型透明度的持续辩论的关键指标。科技界现在面临一个普遍问题，即如何在快速创新与确保安全这一必要条件之间取得成功平衡，奥特曼的评论强调了这一挑战既合理又不可避免。
- THE END -
Twinko AI 出品
商业模式 ｜ 产品战略 ｜ 市场洞察 ｜ 人机协作
🌐 www.twinko.ai ｜ ✉️ contact@twinko.ai
页:
[1]