AI安全

共 30 篇文章

AI安全
AI代理记忆策略如何选?决策树方法给出答案

在人工智能(AI)智能体的开发过程中,记忆策略的选择往往决定了其能否在复杂任务中表现出色。对于许多开发者而言,面对琳琅满目的技术选项,如何为AI智能体挑选最合适的记忆方案,已成为一个令人头疼的难题。近日,一项关于AI智能体记忆策略的决策树分析方法引起了业界的广泛关注,该方法通过系统化的逻辑框架,帮助开发者快速锁定最优记忆方案,从而提升智能体的性能与效率。

记忆机制是AI智能体实现长期交互与持续学习的关键。无论是简单的对话机器人,还是复杂的自主任务系统,智能体都需要依赖记忆来存储历史信息、理解上下文并做出合理决策。然而,不同类型的记忆策略在存储容量、检索速度、计算开销以及应用场...

AI安全
Sperm donors need limits, says a European fertilit

Ties van der Meer doesn’t know how many siblings he has. The 47-year-old was conceived at a private fertility clinic in the Netherlands using sperm provided by an anonymous donor. After the Netherlands banned anonymous donation in 2004, the doctor who ran the clinic destroyed records that might h...

AI安全
Robot Dogs, Teslas, and Rescue Helicopters: The UN

在日内瓦湖畔,一场关于人工智能未来的全球对话正在展开。这场由联合国(UN)主办的“AI for Good”(人工智能向善)全球峰会,表面上充满了硅谷式的乐观氛围——现场编程演示、技术展示、创业者的激情演讲,仿佛一切都在朝着光明的方向发展。然而,在表面的热闹之下,一个更为紧迫的问题悄然浮现:当人工智能技术的发展速度已经远远超出预期,全球治理体系是否还能及时跟上,避免技术失控的灾难性后果?

本届峰会的核心议题,并非单纯的技术展示,而是如何在全球范围内建立有效的治理框架。与会者普遍认为,AI技术的迭代速度已经超越了历史上任何一次技术革命。从生成式AI(Generative AI)到...

AI安全
Elon Musk praises Mythos/Fable, promises not to ‘c

在人工智能行业风起云涌的今天,一则关于资金与信任的博弈正在硅谷悄然上演。据知情人士透露,AI初创公司Anthropic正面临一个艰难抉择:是否将其核心模型托管在Elon Musk(埃隆·马斯克)旗下的基础设施之上。这一决定背后,牵扯着高达约400亿美元的收入预期,而马斯克本人则信誓旦旦地表示,他的公司完全有能力承担这一重任。

Anthropic作为AI领域备受瞩目的新星,以其对AI安全性和伦理性的高度重视而闻名。然而,当涉及到与马斯克控制的实体合作时,这家公司显然陷入了深思。马斯克不仅是特斯拉(Tesla)和SpaceX的掌舵人,还拥有xAI(一家专注于人工智能研究的公司)以...

AI安全
Patch for Windows Defender 0-day could allow attac

A patch Microsoft released on Wednesday to fix a zero-day vulnerability in its Defender security engine may cause Windows machines to write files large enough to completely consume available disk space, the researcher who discovered the flaw said. RoguePlanet, tracked as CVE-2026-50656, came to publ...

AI安全
Google’s deepfake detector system used to debunk M

本周早些时候,一张令人震惊的照片在社交媒体上广泛传播,画面显示美国肯塔基州参议员米奇·麦康奈尔(Mitch McConnell)躺在病床上,身上连接着各种管子,表情极度痛苦。然而,经过调查确认,这实际上是一张由人工智能(AI)生成的虚假图片,并非真实照片。这一事件再次引发了公众对AI伪造内容潜在风险的广泛讨论,尤其是在政治领域,虚假信息的传播可能对公众认知和民主进程造成严重影响。

随着生成式人工智能技术的飞速发展,如Deepfake(深度伪造)和图像生成模型,制作高度逼真的假图像和视频变得前所未有的容易。这些技术最初在娱乐和创意产业中展现出巨大潜力,比如用于电影特效或艺术创作...

AI安全
我打造了一个自我进化的AI,你也能做到

在人工智能领域,前沿实验室(frontier labs)往往被视为技术突破的绝对主导力量。然而,一系列关于“用AI构建AI”的最新实验正在揭示一个更具颠覆性的趋势:未来的AI创新格局,或许远不止掌握在少数顶尖机构手中。这些实验表明,当AI学会自我优化和自主开发时,技术的民主化进程可能比预想中来得更快。

传统的AI开发模式高度依赖顶尖科学家和巨额算力。OpenAI、Google DeepMind等前沿实验室凭借其雄厚的资金和人才储备,不断推出如GPT-4、Gemini等划时代的大模型。这种“精英化”路径让许多人认为,AI的未来只会属于这些资源密集型的巨头。但近期来自学术界和开源...

AI安全
Google pays $250K for Linux vulnerability allowing

在开源操作系统的世界里,安全漏洞的发现总是牵动着开发者和运维人员的神经。本周,Linux操作系统再次敲响了警钟——两个严重级别极高的安全漏洞相继浮出水面,其中一个尤其令人担忧,它允许不受信任的虚拟机突破其隔离环境,直接获取宿主机的最高管理权限(root权限)。这一发现不仅暴露了长达16年的潜伏威胁,更对云计算平台的安全性提出了严峻挑战。

这个被赋予编号CVE-2026-53359的漏洞,被安全研究人员命名为“Januscape”。它的藏身之处并不简单:它潜伏在KVM(Kernel-based Virtual Machine,基于内核的虚拟机)之中。KVM本质上是一个内置于众多...

AI安全
Meta欲让AI眼镜不再诡异,但其AI策略却背道而驰

在人工智能技术飞速发展的今天,智能穿戴设备正以前所未有的速度融入人们的日常生活。然而,这些设备在带来便利的同时,也引发了关于隐私保护的深刻忧虑。近日,Meta(原名Facebook)宣布为其智能眼镜产品引入一项新的防护机制,旨在防止他人利用该设备进行未经同意的秘密录制。这一举措看似是对用户隐私的积极回应,但与此同时,该公司正不断拓展其AI产品对个人数据的采集与使用边界,使得这一更新背后的动机与平衡点成为业界关注的焦点。

据悉,Meta此次新增的安全措施主要针对其智能眼镜的隐蔽拍摄功能。此前,这类产品因其外观与普通眼镜无异,且具备摄像头和AI助手功能,使得旁观者难以察觉自己是否...

AI安全
Our approach to government and national security p

OpenAI近日公布与政府及国家安全机构合作的核心原则,强调在确保公共安全、维护民主问责制前提下推动AI负责任应用。框架要求AI系统不得用于大规模杀伤性武器或侵犯人权监控,所有政府应用需接受独立透明审查,并须通过严格安全测试。此举旨在平衡技术创新与民主治理,但面临定义边界、监督执行等现实挑战,为行业树立新标杆的同时引发广泛讨论。