AI安全
共 30 篇文章
Anthropic暂停新模型访问,印度AI雄心遭遇警钟?
美国AI初创公司Anthropic因模型安全与伦理漏洞引发全球关注,成为印度反思AI战略的警钟。印度科技界指出,其在基础模型、人才与政策上的结构性短板导致产业过度依赖海外接口,面临安全、数据主权与治理规则缺位风险。尽管印度AI应用层融资与场景落地增长迅速,但缺乏自主可控底座将放大医疗、金融等公共领域隐患。事件倒逼印度加快基础算力、数据与伦理投入,酝酿分级监管框架,推动AI战略从规模扩张转向安全可信的质变,以在全球AI版图中争取主动。
OpenAI遭多州检察长联合调查,涉及广告与健康数据
美国多州检察机关联合对OpenAI发起法律审查,范围涵盖广告营销合规与健康数据隐私保护,凸显监管对AI巨头系统性风险的担忧。调查直指产品宣传边界、消费者知情权及健康信息在模型训练与接口调用中的合规隐患,暴露现行法律滞后与碎片化背景下地方监管的主动补位。此次审查标志生成式AI由野蛮生长转向规范发展,敦促企业重塑合规与伦理防线。OpenAI的应对将影响行业隐性标准与监管走向,提示技术突破须在法律与社会契约框架内推进。
德国法院裁定谷歌须为AI概览生成虚假陈述担责
近期一项司法裁决明确,AI系统的设计、训练、运营及管理方须对其生成响应造成的损害承担法律责任,打破“技术中立”免责逻辑,推动AI监管由伦理倡导转向实质问责。裁决将责任贯穿AI全生命周期,倒逼企业强化合规、红队测试与数据治理,推高运营及保险成本,并可能加速行业整合。对开源生态形成挑战,或促使更多企业转向可控的API服务。该案为全球AI立法提供后端追责样本,有助于构建全生命周期问责闭环,遏制野蛮生长。同时,极端法律风险或引发算法过度保守,如何在保护公众权益与维持创新间平衡,仍需持续探索。此次裁决标志技术与责任不可脱轨,企业须为AI“开口”担责,确保技术稳健服务社会。
Anthropic安全警告或适得其反,政府叫停其最强AI
Anthropic公开反对因单一潜在越狱漏洞撤回已部署的商用模型,认为此举在狭窄场景下不必要。该公司强调在安全与可用性间寻求平衡,质疑现有评估方法论的碎片化,并呼吁更精细的风险分级机制。此举反映了AI行业在创新速度与风险控制间的紧张关系,以及监管框架下的解释空间。Anthropic主张在确保稳定性的前提下迭代修复,而非一刀切召回,以维护商业信任与长期发展。
6500人AI团队濒临反叛,Meta工程师控诉内部环境如炼狱
科技巨头内部报告显示,其一个6500人部门濒临“起义”,员工不满升级为集体对抗。分析认为,僵化决策、高压考核、薪酬缺乏竞争力及战略频繁调整是主因,反映出行业“降本增效”周期下员工安全感丧失的普遍问题。此事件警示人才流失风险,考验管理层化解信任危机及企业治理透明度的智慧。
谷歌起诉利用AI诈骗数十万受害者的中国网络犯罪团伙
全球科技巨头披露“Outsider Enterprise”电信诈骗案,两周发送约250万条AI生成短信,受害者达数十万人。攻击利用大语言模型实现内容定制与行为模拟,绕过传统关键词防御,呈现规模化、精准化特征。事件凸显AI滥用降低犯罪成本、提升攻击效率,给通信安全、平台治理与公众防范带来新挑战。运营商传统规则滞后,跨境溯源难度上升,平台主动披露有助于风险共治,但需平衡模仿风险。防御方加速引入语义理解与多模态验证,监管与立法仍待完善。提升数字素养、强化多因素验证与协同治理,是应对AI驱动诈骗、维系数字社会安全与效率平衡的关键。
CVE-2026-35273遭ShinyHunters连攻两周,百企PeopleSoft失守被勒索
活跃勒索组织ShinyHunters利用Oracle PeopleSoft高危漏洞CVE-2026-35273(评分9.8)实施攻击,在Oracle披露前已持续利用超两周。该SSRF漏洞可被远程利用,攻击者借此以受控服务器向目标内网发起请求。Mandiant确认约百家客户遭入侵,至少一家被勒索付款以避免数据泄露;Oracle已发布临时缓解措施,完整补丁尚未发布。
美国反数据中心浪潮背后,专家称不能简单归咎中国
在当前全球人工智能竞赛日趋白热化的背景下,美国国内围绕数据中心建设的争论正演变为一场充满地缘政治色彩的话语交锋。近期,美国共和党议员、科技领域投资者,乃至人工智能巨头OpenAI,纷纷将国内反对数据中心扩张的声浪与“中国干涉”挂钩,暗示这些抵制行为可能在无形中削弱美国的算力优势,从而让全球竞争对手趁虚而入。然而,多位政策与行业专家对此发出警告,将复杂的国内基础设施争议简单归咎于外部势力干预,不仅偏离了事实核心,更可能掩盖亟待解决的真正问题。
随着大语言模型和生成式AI的迅猛发展,算力已成为定义国家竞争力的新基石。为了支撑庞大的训练与推理需求,科技巨头们正以前所未有的速度在美国...
对话OpenAI工程师:领衔ChatGPT史上最大变革
OpenAI正经历由内部驱动的深度变革,Thibault Sottiaux主导ChatGPT全面重构,推动生成式AI从技术爆发迈向产品成熟。依托在AI编程领域积累的工程化经验,他统筹界面、交互、底层架构与商业逻辑的升级,以平台化思路降低使用门槛并强化企业定制能力。行业竞争正从模型参数转向生态、体验与系统级能力,用户更关注可靠性、可控性与合规成本。此次重构通过更清晰的产品分层、模块化设计与合规接口,平衡创新速度与责任边界,旨在将ChatGPT由对话入口进化为能力中枢,在规模化应用中兑现长期价值。
弗州加码能源与人才投入,能否拓宽就业并提升用能可负担性?
在当今全球科技竞争日益激烈的背景下,美国多州正加速推进人工智能与清洁能源的深度融合。近日,一项旨在培养下一代技术劳动力并大力投资能源项目的州级计划引发行业关注。该计划不仅着眼于短期经济增长,更试图通过系统性的教育革新和产业布局,为未来十年甚至更长时间的科技自主与可持续发展奠定基础。这一举措折射出美国地方政府在联邦政策摇摆不定的情况下,正主动承担起构建未来产业生态的重任。
据可靠信息源披露,该州政府正联合多家科技企业与教育机构,共同打造一个名为“下一代劳动力(next-generation workforce)”的综合性培训体系。该体系的核心在于将人工智能、数据科学、可再生能源...