AI安全

OpenAI与Hugging Face联手应对模型评估安全事件

OpenAI与Hugging Face联合披露一起AI模型评估中的安全事件，攻击者利用模型与外部数据接口的漏洞，绕过防护窃取评估数据。事件具有高级持续性威胁特征，可能涉及国家级黑客。两家公司已启动应急响应，确认核心模型权重和用户隐私未受影响，并发布安全建议。此次事件凸显AI模型评估环节的安全风险，行业需加强防护与协作。

OpenAI is scared of open-weight models. Should the

近日，关于禁止中国制造的开源大语言模型（LLM）的讨论在国际科技界悄然升温，这一动向不仅折射出地缘政治对人工智能领域的渗透，更揭示了整个行业在将前沿技术转化为可持续商业模式时所面临的深层困境。从表面上看，禁令的提出似乎源于对数据安全和技术主权的担忧，但深入分析后会发现，这背后隐藏着AI行业从技术竞赛转向商业变现过程中的一个核心矛盾：开源与闭源、开放与管控之间的张力。

开源大语言模型，尤其是那些由中国公司如阿里巴巴、百度、智谱AI等开发的“open-weight”模型，近年来在全球范围内获得了广泛关注。这些模型通过公开其权重参数，允许开发者和企业自由下载、修改和部署，极大地降低...

The Download: AI hiring biases, and weather data s

This is today’s edition of The Download, our weekday newsletter that provides a daily dose of what’s going on in the world of technology. AI is more likely than humans to form biases when hiring The next time you apply for a job, AI may screen your résumé before any human sees it. But there’s ...

Kimi: Threat or menace?

本周，中国人工智能初创公司Moonshot AI（月之暗面）正式发布了其旗舰大模型Kimi的新版本，这一消息迅速在科技界和公众舆论中引发广泛讨论。然而，真正让舆论沸腾的并非模型本身的技术参数，而是一句伴随发布而流传的评论——“全面AI共产主义”（full AI communism）的到来。这一概念迅速在社交媒体上掀起波澜，引发了关于AI技术发展对社会结构、经济模式乃至人类未来可能产生深远影响的激烈辩论。

Kimi作为Moonshot AI的核心产品，自推出以来便以长文本处理能力著称。此次新版本的发布，据称在推理能力、多模态交互和上下文理解方面取得了显著突破。尽管官方并未公布详...

提示注入攻击正挫败AI黑客代理

在人工智能安全领域，一种名为“上下文炸弹”（Context Bombing）的新兴防御策略正引起广泛关注。这种技术并非通过物理摧毁或代码封锁来对抗恶意AI代理（AI Agent），而是巧妙地利用其自身的逻辑漏洞，诱使它们在发动攻击前主动“关机”。这一发现为日益严峻的AI安全问题提供了一种全新的、非暴力的解决思路。

随着大语言模型（LLM）和自主AI代理的快速发展，如何防范这些系统被恶意利用已成为全球科技界的核心议题。传统的安全措施，如防火墙、权限控制和行为监控，在面对能够自主决策、动态调整策略的AI代理时，往往显得力不从心。而“上下文炸弹”的出现，则像是一把针对AI心理的“钥...

Agentic AI Security: Defending Against Prompt Inje

随着人工智能技术从单纯的对话模型向具备自主行动能力的智能体（Agentic AI）演进，一个全新的安全战场正在悄然成型。业内专家警告，当AI系统不再仅仅是“回答问题”，而是开始调用工具、执行任务、访问外部数据时，一种名为“提示注入”（Prompt Injection）的攻击手段正变得愈发危险，而与之相伴的“工具滥用”（Tool Misuse）风险，更是让整个AI安全生态面临前所未有的挑战。

所谓提示注入，并非新鲜事物。在早期的聊天机器人时代，攻击者就曾尝试通过精心设计的输入，诱使模型无视其原始指令，转而执行恶意操作。然而，当这一攻击手法应用于智能体系统时，其破坏力被指数级放大...

Why the first GPU financiers are turning to infere

在人工智能基础设施投资持续升温的背景下，一笔高达4亿美元的芯片担保贷款近日浮出水面，标志着AI基础设施交易正进入一个全新阶段。这笔贷款由一家专注于AI基础设施的金融科技公司提供，以芯片作为核心抵押资产，旨在为AI初创企业获取急需的算力资源。这一模式的出现，不仅反映了AI领域对算力需求的爆炸性增长，也揭示了传统融资方式在应对这一新兴市场时的局限性。

据行业消息人士透露，这笔贷款由总部位于美国的AI基础设施融资平台提供商主导，其核心逻辑是将高性能AI芯片（如NVIDIA的GPU）作为抵押品，为AI企业提供资金支持。这些芯片通常用于训练和运行大型语言模型及其他复杂AI应用，其市场价...

San Francisco Demands Apple and Google Delete AI ‘

在数字技术飞速发展的今天，人工智能（AI）的伦理边界正成为全球关注的焦点。近日，美国加利福尼亚州旧金山（San Francisco）市检察官办公室采取了一项引人注目的法律行动，向多家科技巨头发出了正式的停止侵权函，要求它们立即停止从13款“换脸”应用程序中获利。这一举措不仅揭示了AI技术被滥用的严峻现实，更将矛头直指那些在技术红利与道德责任之间摇摆不定的平台企业。

根据市检察官办公室本周发出的函件，这些被点名的“换脸”应用（face-swap apps）存在一个令人不安的共同特征：它们被绝大多数用户用于制作和传播针对女性及未成年女孩的色情内容。检察官办公室指出，这些应用利用A...

A Humanoid Company Backed by Eric Trump Is Prepari

在人工智能技术日新月异的今天，一家名为Foundation Future Industries（未来工业基金会）的初创公司正悄然引发科技界的广泛关注。这家公司不仅因其前沿的技术探索而备受瞩目，更因其与政界高层的微妙联系而成为舆论焦点。近日，该公司首席执行官在接受权威科技媒体WIRED专访时，首次对外透露了其正在探索的“某些动能性事物”（kinetic things），这一措辞立刻在业内引发了无数猜测与讨论。

据知情人士透露，Foundation Future Industries的特别之处在于，其首席战略顾问一职由美国总统的儿子担任。这一独特的身份背景，使得该公司的每一步动向...

The risk of weather data sabotage is rising

Every morning, airline dispatchers, grid operators, and farmers around the world make decisions based on the same thing: a weather forecast. While these forecasts are something that most people glance at for two seconds, weather predictions influence major strategic decisions in many industries, ...