OpenAI发布五步计划，聚焦智能时代网络安全防御民主化

Anthropic安全警告或适得其反，政府叫停其最强AI

Anthropic公开反对因单一潜在越狱漏洞撤回已部署的商用模型，认为此举在狭窄场景下不必要。该公司强调在安全与可用性间寻求平衡，质疑现有评估方法论的碎片化，并呼吁更精细的风险分级机制。此举反映了AI行业在创新速度与风险控制间的紧张关系，以及监管框架下的解释空间。Anthropic主张在确保稳定性的前提下迭代修复，而非一刀切召回，以维护商业信任与长期发展。

防护过严致研究受阻：Fable模型安全边界遭专家质疑

近日，Anthropic发布的AI模型Fable因安全防护机制过于严苛遭网络安全界批评。研究人员指出，Fable对基础安全分析任务（如解析恶意软件、防御测试）采取“一刀切”式拦截，严重削弱其实用价值。这凸显了AI安全治理的经典悖论：难以区分防御性研究与恶意攻击。事件引发对AI“过度对齐”的讨论，业界呼吁提供细粒度权限或白名单机制。该争议表明，在网络安全等高风险专业领域，如何平衡“足够安全”与“足够有用”，仍是AI行业亟待解决的挑战。

德国法院裁定谷歌须为AI概览生成虚假陈述担责

近期一项司法裁决明确，AI系统的设计、训练、运营及管理方须对其生成响应造成的损害承担法律责任，打破“技术中立”免责逻辑，推动AI监管由伦理倡导转向实质问责。裁决将责任贯穿AI全生命周期，倒逼企业强化合规、红队测试与数据治理，推高运营及保险成本，并可能加速行业整合。对开源生态形成挑战，或促使更多企业转向可控的API服务。该案为全球AI立法提供后端追责样本，有助于构建全生命周期问责闭环，遏制野蛮生长。同时，极端法律风险或引发算法过度保守，如何在保护公众权益与维持创新间平衡，仍需持续探索。此次裁决标志技术与责任不可脱轨，企业须为AI“开口”担责，确保技术稳健服务社会。

百万AI代理人互联将至，DeepMind追问失控风险如何化解

在人工智能技术飞速发展的今天，一个全新的风险领域正引起顶尖科技公司的高度警惕：当数百万个AI智能体（AI agents）在互联网上相互交互时，可能带来的潜在危险。谷歌DeepMind（Google DeepMind）近日联合多个机构宣布，将投入1000万美元资金，专门用于研究多智能体系统的行为模式及其安全风险。

这项研究由谷歌DeepMind的AGI安全与对齐研究负责人罗欣·沙阿（Rohin Shah）主导。他指出，随着能够无需人类监督即可执行任务的智能体大规模进入市场，并且这些智能体能够接受其他智能体发出的指令，一种全新的风险类别正在形成。这种风险并非科幻电影中的遥远想象，...