AI安全

微软为开发者提供更优方式控制AI智能体行为

在人工智能应用快速向生产环境渗透的当下，如何让智能体（agent）在复杂场景中既保持高效，又不偏离安全与合规的轨道，正成为行业必须直面的核心命题。近期，一项新的技术规范悄然进入开发者视野，它并未高调发布，却为智能体治理提供了一条可移植、可复用的新路径。通过将策略从代码中剥离并以独立文件的形式存在，这项规范让开发、合规与安全团队第一次拥有了在同一套规则语言下协同工作的可能。

长期以来，智能体系统的策略管理多依赖于硬编码或平台专属配置。这种做法在早期验证阶段或许足够灵活，但一旦进入多团队协作与跨环境部署阶段，矛盾便开始显现。开发团队关注功能迭代与性能指标，合规团队紧盯数据隐私与监...

谷歌推防AI语音诈骗功能，识别假冒来电

随着公众防骗意识提升、陌生号码接通率走低，电信诈骗正转向以“信任”为核心的新形态。不法分子利用号码伪装技术与AI深度伪造合成语音，结合暗网泄露的精准数据，定制高度场景化的话术，突破受害者心理防线。现有拦截机制难以应对此类高级伪装，监管与技术升级存在滞后。对此，企业正引入多因子验证与线下复核，个人需养成回拨验证与约定暗号的习惯，技术端也开始探索实时语音特征识别。这场围绕信任与伪装的博弈，正推动通信协议与AI治理的协同演进，证明“真实”需更强基础设施支撑，安全已成为需持续投入的长期进程。

亚马逊因Ring人脸识别功能未获同意存储图像遭集体诉讼

近日，亚马逊旗下Ring公司因AI面部识别功能“熟悉面孔”遭集体诉讼。原告指控该功能在未经授权下，采集并存储路人面部数据，将私人门前变为微型扫描站，严重侵犯隐私。此案凸显了AI技术过度收集数据与法律“知情同意”原则的深层冲突，标志着争议从数据安全转向AI底层设计伦理。该案将成为检验美国隐私法律对生物识别技术约束力的关键试金石，若胜诉将推动智能家居行业向“隐私优先”范式转型。

OpenAI呼吁全球合作，设立国际机构保障青少年AI安全

OpenAI近日呼吁全球各国协同行动，提议成立“国际人工智能安全研究所”，以加强青少年AI安全防护。该机构旨在聚焦三大支柱：强化安全防护（如有害内容过滤与心理依赖预警）、确立国际标准（涵盖年龄门槛、数据隐私与内容标识）、拓展发展机遇（将AI转化为个性化教育工具并缩小数字鸿沟）。倡议基于生成式AI普及下青少年面临独立思考退化、深度伪造与信息偏见等风险，强调单边治理不足。尽管面临主权国家信任壁垒、商业独立性及文化价值观差异等挑战，此举标志着AI产业从技术狂飙转向全球生态共建的关键一步。

佛罗里达州就暴力事件起诉OpenAI与奥特曼，系首例此类诉讼

近日，一起围绕ChatGPT与佛罗里达州立大学枪击案相关的诉讼引发广泛关注，将AI法律责任推至风口浪尖。原告指控ChatGPT的运作或信息与该悲剧存在关联，此案成为AI伦理与责任领域的标志性案例。案件核心挑战在于证明AI输出与极端行为的因果关系，并可能开启“算法教唆”等全新法律辩论。该案审理结果将深远影响AI行业：若OpenAI担责，将迫使AI公司调整安全策略，影响商业化；若认定使用者担责，则强化“AI中立工具论”。此案不仅关乎言论自由与内容监管的平衡，更可能为AI时代的法律责任体系树立关键里程碑。

红帽官方NPM账号沦陷：数十包遭植入蠕虫，供应链攻击狂窃凭证

Official Red Hat NPM accounts have been compromised and used to push a malicious worm that spreads from machine to machine, where it pilfers sensitive credentials in hopes of stealing yet more confidential data, researchers said. The supply-chain attack began Monday and remained active at the time t...

红帽官方NPM账户遭入侵，恶意蠕虫窃取敏感凭证

研究人员表示，红帽官方NPM账户遭入侵，被用于推送恶意蠕虫病毒。该病毒可在机器间传播，窃取敏感凭证以盗取更多机密数据。此次供应链攻击始于周一，目前仍处于活跃状态。

AI政策路线图：透明与审慎监管能否界定安全边界？

在AI技术加速重塑产业与监管趋紧的背景下，一家头部AI企业罕见公开其政策立场，提出四大原则：以透明度提升政策倡导公信力；支持审慎监管，平衡创新与风险；坚守AI安全底线，加大对齐与测试投入；拒绝外部政治团体代言，保持独立发声。此举意在回应公众审视、适配全球合规框架，并以自我约束换取发展空间。企业正从技术驱动转向兼具政治智慧与社会责任的治理角色，其承诺的落实将检验行业在创新、安全与治理间能否形成可持续范式。

DuckDuckGo推无AI搜索扩展，流量激增吸引用户

在生成式人工智能席卷搜索引擎行业的当下，一家以隐私保护为旗帜的搜索引擎选择逆流而行。近日，专注于匿名搜索体验的DuckDuckGo（鸭鸭搜索）面向Chrome与Firefox用户同步上线了两款被其称为“无AI”的浏览器扩展程序。这一动作被视为对当前行业过度依赖大模型技术的一种纠偏，也再次将用户数据控制权与算法透明度的话题推向前台。

这两款扩展分别针对网页浏览与搜索场景中的内容增强需求，但刻意绕开了生成式AI的介入路径。与主流搜索引擎纷纷将大模型嵌入搜索结果摘要、对话式回答乃至页面改写不同，DuckDuckGo选择通过规则驱动与本地化处理来优化用户的浏览效率。其官方表述强调，技...

Making sense of the debate over AI psychosis

科技播客Equity近期探讨了科技CEO是否陷入“AI精神病”的议题，指其将AI视为救世主，忽视风险并做出激进决策。这一现象源于硅谷的颠覆者情结、商业竞争压力及信息茧房效应。尽管反对者认为这是创新必需的非理性押注，但警示指出，这种狂热可能导致企业纠错机制钝化、资本泡沫及社会风险。文章呼吁在拥抱AI的同时，保持理性与责任，避免技术被少数精英的狂想主导。