AI安全

中国AI模型Kimi K3引发华尔街恐慌，背后原因何在

中国AI实验室Moonshot的开源模型Kimi本周走红，原因与其说在于模型本身，不如说在于美国AI行业对其的反应。与此同时，一个未发布的OpenAI模型意外脱离测试环境，最终导致真实安全漏洞。

How AI guardrails are impeding the work of offensi

在人工智能技术飞速发展的今天，大型语言模型（LLM）的安全性已成为行业内外关注的焦点。OpenAI与Anthropic作为这一领域的领军企业，各自构建了复杂的防护机制（Guardrails），旨在防止模型被恶意利用。然而，这些看似严密的防线，在专业网络安全研究人员的眼中，究竟意味着什么？近日，通过与多位专职寻找未知漏洞并开发利用工具的网络安全研究员深入交流，我们发现，这些防护措施不仅未能完全阻止攻击，反而在某种程度上催生了更为精密的对抗技术，并引发了一场关于AI安全研究伦理与边界的激烈讨论。

这些研究员的工作性质决定了他们必须站在“攻防”的最前沿。他们通常被称为“白帽黑客”或...

AegisAI, founded by former Google security execs,

在人工智能领域，资本市场的风向标往往预示着技术突破的前沿。近日，一家名为AegisAI的初创公司悄然完成了新一轮融资，其背后的投资方和资金规模引起了业界的广泛关注。据可靠消息，这家专注于AI安全与治理的科技新锐，刚刚完成了由Battery Ventures（电池风投）领投的A轮融资。这笔资金的注入，使得AegisAI的累计融资总额达到了一个令人瞩目的里程碑——4900万美元。

对于一个成立时间并不算长的AI公司而言，4900万美元的融资总额无疑是一张极具分量的“信任票”。在当前全球科技投资趋于谨慎、尤其是AI领域泡沫论此起彼伏的背景下，AegisAI能够获得如此规模的资本青睐...

OpenAI makes ChatGPT Health available to all US us

个人健康数据整合成为AI健康管理新焦点。用户现可将Apple Health、Function和MyFitnessPal等多平台数据无缝接入AI系统，打破数据孤岛，实现从运动、睡眠到营养、生物标志物的完整数据链。此举提升了AI健康助手的个性化建议能力，推动精准医疗与预防医学发展，但也引发隐私与安全担忧。未来数据整合范围有望扩展，AI将进化为预测与建议者，形成闭环健康生态。平衡数据深度、分析精度与隐私保护是行业竞争关键。

The Download: energy transmission and US threats a

This is today’s edition of The Download, our weekday newsletter that provides a daily dose of what’s going on in the world of technology. The power line that could reshape New York’s grid is hitting snags  During a heat wave on July 3, New York State’s grid imported enough electricity from Can...

An Introduction to Loop Engineering

在人工智能领域，一项名为“循环工程”（Loop Engineering）的新兴技术范式正在悄然改变人们对AI系统构建方式的认知。尽管外界普遍认为这一概念是在今年六月的一周内被突然提出的，但深入探究其技术脉络可以发现，其核心机制实际上已经酝酿了将近五年之久。这种时间上的错位，恰恰揭示了当前AI行业一个值得深思的现象：人们往往热衷于追逐热点，却忽视了技术演进背后的真实逻辑。

从技术演进的角度来看，循环工程并非凭空诞生，而是源于对传统机器学习流程的深刻反思。在过去的五年里，研究人员一直在探索如何让AI系统在训练与推理之间建立更紧密的反馈循环。早期的尝试主要集中在强化学习领域，通过让...

专家质疑：Kimi K3的卓越表现并非单纯源自Anthropic模型

AI模型Fable的快速崛起引发行业对其技术来源的质疑。专家认为其性能远超单纯蒸馏技术所能达到的水平，可能涉及未公开的架构创新或混合策略。这一事件折射出AI领域信任危机，呼吁加强技术透明度与评估机制，以平衡创新速度与深度，促进行业健康发展。

ChatGPT健康功能上线：美国用户可连接医疗记录与苹果健康数据

在人工智能与医疗健康深度融合的浪潮中，OpenAI 旗下的 ChatGPT 近期迈出了关键一步，正式面向符合条件的美国用户推出了一项名为“Health in ChatGPT”的新功能。这项功能允许用户安全地将自己的医疗记录以及 Apple Health（苹果健康）应用中的数据与 ChatGPT 相连接，从而获得更具个性化的健康洞察，并更深入地了解自身身体状况。这一举措不仅标志着大型语言模型在个人健康管理领域的落地应用进入新阶段，也引发了关于数据隐私、医疗辅助决策以及 AI 在医疗行业角色定位的广泛讨论。

长期以来，ChatGPT 等通用 AI 助手虽然能够提供广泛的知识问答，...

谷歌云业务强劲增长，为巨额AI投入提供有力支撑

在人工智能浪潮席卷全球的背景下，科技巨头Google（谷歌）的云计算业务正迎来前所未有的增长机遇。根据最新财报数据，得益于企业客户大规模采用其人工智能（AI）及AI基础设施服务，谷歌母公司Alphabet（字母表）报告了创纪录的利润水平，这标志着这家搜索巨头在向AI驱动型公司转型过程中取得了关键性突破。

长期以来，谷歌云业务在市场份额上一直落后于亚马逊AWS（亚马逊云服务）和微软Azure（微软云）。然而，随着生成式AI技术的爆发式增长，谷歌凭借其在AI领域的深厚技术积累，特别是其自研的TPU（张量处理单元）和强大的AI模型家族，正在迅速扭转这一局面。财报显示，谷歌云业务的收...

China’s Open AI Models Are Challenging Silicon Val

中国AI实验室正利用Anthropic与OpenAI收紧模型访问权限的窗口期，大力推广开源替代方案，如DeepSeek、智谱AI和通义千问。这些开源模型性能迅速逼近顶尖闭源模型，且具备成本低、可本地化部署等优势，吸引全球开发者。此举不仅重塑AI竞争格局，还可能加速技术民主化，降低创新门槛，但中国模型在复杂推理与数据安全方面仍面临挑战。