AI安全
共 30 篇文章
Anthropic与黑石押注：下一万亿美元AI商机在于应用而非模型
在人工智能技术快速迭代的当下，如何让大模型真正落地企业场景，已成为行业面临的核心挑战。近日，一家名为Ode的初创公司正式亮相，其背后站着AI领域的重要玩家Anthropic（人工智能研究公司Anthropic）。这家新公司的诞生，揭示了一个日益清晰的行业趋势：AI实验室正试图通过将“前线部署工程师”直接嵌入企业内部，来加速企业级AI应用的普及。
Ode的商业模式颇为独特。它并非传统意义上的软件供应商，而更像一支“AI特遣队”。根据公开信息，Ode的核心做法是将一批具备深厚技术背景的工程师长期派驻到客户公司，与客户的业务团队并肩工作。这些工程师不仅负责部署和调试AI模型，更承担...
Rime picks up $24M Series A to help enterprises fi
在全球人工智能技术快速迭代的浪潮中，语音交互作为人机沟通的重要桥梁，正经历着前所未有的规模化应用。近期，一家名为Rime的人工智能语音平台引起了行业内的广泛关注。据可靠消息源透露，该公司目前每月处理的通话量已突破1亿次大关，这一数字横跨了其服务的多家企业客户，标志着AI语音技术从实验室走向大规模商业部署的关键转折点。
Rime所处理的每月超过1亿次通话，并非单一场景下的简单重复，而是涵盖了客户服务、电话销售、市场调研、智能助手等多个垂直领域。这一庞大的数据量背后，是AI语音识别、自然语言处理以及语音合成技术的深度融合。行业分析师指出，能够达到如此量级的企业在全球范围内屈指可数...
The US is advancing AI safety through state and fe
在人工智能（AI）治理的全球性讨论中，如何平衡技术创新与安全监管始终是各国政府与科技企业共同面临的难题。近日，人工智能领域的领军企业OpenAI提出了一种颇具新意的治理思路，被其称为“反向联邦主义”（reverse federalism）。这一概念的核心在于，主张从地方州级立法实践出发，逐步汇聚并构建起一套全国性的AI安全框架，从而在确保技术发展的同时，兼顾民主参与与公共安全。
长期以来，围绕AI监管的争论往往集中在“自上而下”的联邦统一立法模式，即由中央政府制定一套适用于全国的严格规则。然而，这种模式在技术迭代速度远超立法进程的现实面前，常常显得力不从心。OpenAI此次提...
GPT-Red: Unlocking Self-Improvement for Robustness
OpenAI披露了名为GPT-Red的自动化AI安全测试系统，通过自对弈机制让AI模型相互对抗，以提升安全性和抗攻击能力。该系统能自动生成多样化测试用例，覆盖传统人工红队测试的效率瓶颈，标志着AI安全从被动防御转向主动对抗。尽管面临局限性，但被视为人工测试的重要补充，有望成为AI开发标配工具。
OpenAI员工自筹超21万美元，资助对手对抗公司高层
在人工智能领域，OpenAI（开放人工智能）不仅因其前沿技术而备受瞩目，其内部的政治动向同样引人关注。近日，一场围绕公司内部政治行动委员会（PAC）的资金流向争议，揭示了这家AI巨头内部存在的深刻分歧。根据最新披露的财务数据，OpenAI的员工已向一个名为“反对引领未来”的政治行动委员会捐赠了超过21.5万美元，而“引领未来”（Leading the Future）这个组织，正是由OpenAI联合创始人兼总裁格雷格·布罗克曼（Greg Brockman）所支持的。
这一事件的核心，在于OpenAI员工与公司高层在政治立场上的公开对立。员工们通过捐款的方式，明确表达了对布罗克曼...
OpenAI researcher Miles Wang in talks to launch AI
在人工智能（AI）技术飞速发展的浪潮中，生命科学领域正成为资本与科技交汇的新高地。近期，一系列围绕AI驱动生命科学突破的融资讨论，揭示了投资者对将人工智能应用于生物医药、基因研究及药物研发等方向的浓厚兴趣。这一趋势不仅反映了技术边界的拓展，更预示着未来医疗健康产业可能迎来的深刻变革。
长期以来，生命科学领域的研发面临着周期长、成本高、成功率低的困境。一款新药从实验室到上市，平均需要耗费十年以上的时间和数十亿美元的资金，而最终能通过临床试验并获批的概率却不足10%。这种高投入、低回报的现状，使得传统研发模式逐渐触及天花板。然而，人工智能的介入，为打破这一僵局提供了全新的可能性。...
Lorde says AI glasses are ‘not sexy’
在当今信息爆炸的时代，真假难辨已成为全球性的普遍焦虑。近日，著名歌手Lorde（洛德）在一次公开演出中，站在舞台上向观众发出了一句意味深长的感慨：“在我们的世界里，越来越难以分辨什么是真实的。”这句话迅速在社交媒体和科技圈引发热议，不仅因为它来自一位极具影响力的艺术家，更因为它精准地切中了当下人工智能（AI）技术飞速发展所带来的核心社会问题——真实性的危机。
Lorde的发言并非孤立事件，而是对当前数字生态中“深度伪造”（Deepfake）技术泛滥、AI生成内容（AIGC）日益普及的一种直观回应。随着生成式AI（Generative AI）的爆发式增长，从逼真的虚假视频、音频...
Anthropic新广告引发不安，伦理形象遭质疑
Anthropic通过强调AI伦理风险强化其“道德标杆”形象，被指为精心策划的公关策略。该公司试图在AI行业竞争中差异化定位，吸引谨慎用户和投资者。但批评者认为这种“道德营销”效果有限，且面临产品安全与信任危机风险。行业整体已重视伦理责任，Anthropic的策略能否成功取决于实际兑现承诺。
Hinge创始人获1800万美元，打造AI语音交友平台Overtone
在人工智能技术日益渗透各行各业的今天，一种全新的社交模式正在悄然兴起。与传统的基于文字、图片或视频的社交平台不同，一家名为Overtone的初创公司正试图用声音重新定义人与人之间的连接方式。该公司将自己定位为“一个由AI驱动、以声音和音频为核心的高端引荐服务”，旨在通过精心筛选的语音互动，为用户提供更具深度和真实感的社交体验。
Overtone的核心理念在于，声音能够传递比文字和图片更丰富的情感信息。在快节奏的数字时代，人们习惯了通过简短的文字消息或精心修饰的照片进行交流，但这种方式往往掩盖了真实的情绪和个性。Overtone认为，一个人的语调、语速、停顿和语气变化，能够揭示...
DeepMind CEO calls for an independent standards bo
在人工智能（AI）技术飞速迭代的今天，如何确保这一前沿科技的安全与可控，已成为全球科技界与监管层共同面临的紧迫课题。近日，谷歌旗下顶尖AI实验室DeepMind的联合创始人兼首席执行官Demis Hassabis（德米斯·哈萨比斯）提出了一项颇具前瞻性的构想：借鉴美国金融业监管局（FINRA）的模式，成立一个专门针对前沿AI模型的“标准制定机构”。这一提议旨在为日益强大的AI系统设立统一的测试标准与发布规范，从而在技术创新与风险管理之间寻求平衡。
哈萨比斯在近期的一次公开讨论中阐述了这一设想。他坦言，当前AI领域的发展速度之快，已超出了传统监管框架的应对能力。尤其是像大型语言...
