AI安全
共 30 篇文章
Trump drops restrictions on Anthropic’s Mythos and
在人工智能行业高速发展的当下，大语言模型的应用边界正在不断拓展，从严肃的代码编写、学术研究，逐渐延伸至充满想象力的文学创作领域。然而，技术与创意的碰撞并非总是顺风顺水，偶尔也会因安全边界的界定而陷入短暂的停滞。近日，备受业界关注的AI初创公司Anthropic宣布，将于7月1日起逐步恢复其旗下模型对Fable的访问权限。这一决定不仅标志着一场关于AI创作能力与安全审查的短暂博弈告一段落，更折射出当前AI行业在内容生成监管上的深层思考与战略平衡。
要理解此次事件的意义，首先需要将目光投向Fable这一独特的交互式故事生成平台。作为近年来崛起的数字叙事工具，Fable致力于利用人...
Anthropic launches Claude Sonnet 5 as a cheaper wa
Anthropic发布最新大模型Claude Sonnet 5，核心亮点包括：1.强化智能体能力，实现从对话式AI向任务执行式AI跨越，支持多步骤自主规划与协作；2.采取极具竞争力的低价策略，推理成本较旗舰Opus降近50%，瞄准预算敏感的企业客户；3.升级安全护栏，以“更安全合规”建立差异化优势。该模型精准卡位性价比生态，试图以价格撬动OpenAI和谷歌的既有市场，推动行业从追求“过剩性能”转向“规模化落地”。尽管仍面临复杂任务长尾错误及低价盈利可持续性的挑战，但其发布预示AI竞争更注重成本与可靠性的务实解法。
Proton隐私AI聊天机器人Lumo获升级
在全球数字化进程不断加速的当下，网络隐私与数据安全已成为广大网民最核心的诉求之一。长期以来，以谷歌（Google）为代表的科技巨头凭借其庞大的生态体系，在搜索引擎、邮箱服务及云存储等领域占据了绝对的市场主导地位。然而，这种高度集中的商业模式往往伴随着对用户数据的深度挖掘与商业化利用，引发了外界对于隐私泄露的持续担忧。在这样的行业背景下，以“隐私至上”为核心信仰的科技公司 Proton 逐渐从边缘走向舞台中央，成为了对抗数据霸权的重要力量。
本周，Proton 官方正式宣布推出其核心产品线的最新重大更新——Lumo 2.0。这一版本的发布不仅是 Proton 产品矩阵的一次常规...
Meta外包人员假扮青少年测试竞品AI对敏感话题回应
Meta被曝雇佣数百名外包承包商伪装成儿童，对Google Gemini、OpenAI ChatGPT等竞品AI聊天机器人进行高风险话题测试，以探测其安全漏洞。此举虽为商业竞争，但引发巨大伦理争议，暴露了当前AI安全机制在应对刻意恶意提示词时的脆弱性。行业面临安全防御与商业内耗的困境，专家呼吁需从模型架构深层推进安全建设，建立统一测试标准与透明披露机制，并加强监管，防止商业利益凌驾于儿童保护之上。
谷歌Gemini免费版在美国上线个性化AI图像生成
在人工智能技术日新月异的今天，个性化体验正成为各大科技巨头竞逐的下一个核心战场。近日，谷歌（Google）宣布了一项重要举措：将其旗下大模型Gemini的个性化AI图像生成功能，正式向美国地区的符合条件的免费用户开放。这一动作标志着AI图像创作正在从少数人的付费特权，转变为大众化的日常工具，同时也意味着谷歌在构建“超级个性化”AI生态的道路上迈出了关键一步。
长期以来，AI生成图像虽然引发了广泛的关注与惊叹，但大多数产品仍停留在“指令-输出”的机械模式中。用户需要详细描述画面元素、风格和光影，AI才能据此生成相应的图片。然而，谷歌此次扩展的个性化功能，试图打破这一传统范式。该...
下载：指标缺陷与AI风险警示
本文探讨了量化指标的局限性，指出指标虽能揭示信息，但可能掩盖或扭曲真正重要的东西。此外，文章介绍了印度利用AI系统预警人象冲突，以及美国允许Anthropic发布Mythos 5模型、中国AI模型在安全漏洞发现上匹敌Mythos等科技新闻。最后，研究显示Z世代因身份认同更易相信网络 misinformation。
最健康创始人患癌，用AI反击
癌症患者康纳将血液指标、扫描数据及个人日记等碎片化医疗数据全面输入AI助手Claude，借助其多模态融合与模式识别能力，打破了医疗数据孤岛与医患信息壁垒，为精准医疗决策提供新视角。此举虽具先锋性，但也引发对AI幻觉风险、隐私安全及过度依赖导致数字焦虑的担忧。该案例预示医疗正向“人机协同”范式转移：AI作为数据伴侣赋能个体，人类医生保留最终决策权。未来需发展经临床微调、防幻觉且符合隐私法规的医疗级AI，并建立相应监管框架，以技术赋能而非替代医生，助患者赢得更多胜算与尊严。
超百家美企与政府机构获授权：Anthropic Mythos 5开放非美员工使用
超100家企业和政府机构获授权部署先进AI系统Mythos 5，授权范围涵盖非美国籍员工，标志着AI从实验室专用向产业通用转变。该系统可能具备独特能力，但引发数据主权与安全讨论。行业分析认为此举将冲击现有AI市场格局，降低技术门槛，同时需平衡开放与管控风险。
Why everyone from OpenAI to SpaceX is building the
多年来，英伟达一直主导着AI芯片市场，但完全依赖它的时代可能即将结束。OpenAI刚刚公布了其与博通合作打造的自研推理芯片Jalapeño计划，加入谷歌、苹果和SpaceX等越来越多公司自研芯片的行列，以摆脱对外部供应商的依赖。
白宫叫停OpenAI新模型发布，GPT-5.6暂不可用
在人工智能领域，监管与创新之间的张力正以愈发激烈的态势展开。据可靠消息，美国白宫近期要求OpenAI推迟其最新一代人工智能模型GPT-5.6的发布计划。这一指令发生在Anthropic被迫将其最先进的人工智能模型下线仅仅两周之后，标志着美国政府正在对AI技术的安全性与社会影响采取更为积极的干预姿态。
GPT-5.6被视为OpenAI在生成式人工智能领域的又一重大突破。该模型在语言理解、推理能力以及多模态交互方面据称取得了显著提升，能够处理更为复杂的任务，并在多个基准测试中展现出超越前代模型的性能。然而，正是这种前所未有的能力提升，引发了监管机构对其潜在风险的深切关注。白宫方面...
