AI安全
共 30 篇文章
AI模型偏见问题持续存在：如何确保公平性？（更新）
研究表明AI模型中的偏见问题仍然普遍存在，如何确保AI系统的公平性成为重要议题。...
OpenClaw发现的安全漏洞使AIAgent面临新的风险
OpenClaw是一款新近流行的开源AI代理工具，能全面接管计算机资源和在线任务，仅需低级别授权（如'配对权限'）即可获得超级管理员访问权。最近漏洞修复揭示其存在高严重性（8.1至9.8分）的零日漏洞，威胁隐私和数据安全。网络安全专家警告这一事件暴露AI代理工具的安全风险，正在重塑对AI安全的认知，并推动业界探索如何在高效与隐私保护之间建立有效边界。
三种新Rowhammer攻击可完全掌控$8,000英伟达GPU机器
2023年10月，网络安全领域迎来Rowhammer攻击的新变种——'Rowhammer 3.0'。业内领先的GPU制造商英伟达确认其高端显卡面临三项新型漏洞攻击威胁，这些攻击不仅可操控存储数据，甚至能夺取系统控制权。这项技术源自2014年荷兰专家的首次发现，随后在2016年由德国和比利时研究团队分别展示了实际应用与攻击威力。随着Rowhammer从传统内存扩展至GPU领域，网络安全专家指出英伟达为追求性能放宽了错误检测标准是问题根源。该漏洞已在云计算环境中构成广泛威胁，英伟达已发布紧急修复声明并建议用户预防措施。
Gradient Labs 应用GPT-4.1及nano模型提升银行服务自动化效率
GradientLabs，一家AI技术公司，于10月26日推出一款结合GPT-4.1、Mini和Nano版本的银行客服代理系统。该系统通过模型压缩技术，将GPT-5参数量级减少4.1倍，同时保持92%准确率，并专为金融行业设计安全机制。应用后如工商银行报告显示，客户投诉率下降28%，复杂业务处理时间缩短45%，错误率降低60%。这不仅提升了服务效率，还可能在风控领域发挥作用；IDC预测2025年AI智能客服市场规模可达38亿美元，但也面临法规适应性和伦理审查等挑战。GradientLabs强调目标是创建'超级银行员工'，实现深层次AI应用以赋能银行业。
量子计算机破解关键加密所需资源远少于预期
量子计算机因其在密码学领域的潜在威胁而成为科技界关注焦点，尤其可能破解比特币等加密货币的椭圆曲线系统。两篇独立新研究展示了基于量子架构改进和Shor算法优化的方法，能在不到9分钟内实现快速破解，并减少资源需求20倍，颠覆了2015年预测需十年才能构建实用量子计算机的观点。尽管这些突破推动全球开发抗量子加密方案，如格子基协议，但实际构建稳定、可扩展的量子计算机仍面临挑战。这一领域快速发展正促使密码学界应对未来加密系统的全面风险。
OpenAI获1220亿美元巨额投资，加速全球前沿AI发展？
OpenAI近日宣布成功筹集1220亿美元新资金，将重点用于扩展生成式AI技术在全球的应用、研发新一代计算资源，并推动国际化战略。作为2014年成立并转型商业公司的AI领导者，此次融资标志着从初创阶段向成熟实体的重大跃进。ChatGPT等产品的成功和COVID-19疫情期间数字化转型的加速，推动了市场需求激增。这笔投资不仅强化OpenAI在生成式AI市场的地位，还可能重塑全球竞争格局，并引发关于数据安全、垄断和伦理监管的讨论。分析人士认为，这反映了AI已成为科技投资的新热点，并对行业发展具有标杆意义。
AI可解释性研究进展：让黑箱模型不再神秘
AI可解释性研究取得新进展，新方法能够更好地解释AI模型的决策过程，增强用户信任。
谷歌将量子日准备期限缩短至2029年，敦促全球采用后量子密码学
量子计算领域的突破引发了全球密码学危机，谷歌高级安全工程师海瑟·阿金斯和索菲·施米格在公司技术博客上发表文章，将应对量子计算机威胁的关键时间线缩短至2029年。Q日指的是量子计算机能够破解当前公钥密码学算法的时代结束点，现有RSA和椭圆曲线密码体制将无法抵御量子破解攻击。
OpenAI 推出安全漏洞赏金计划以防范 AI 护理风险
OpenAI 启动 Safety Bug Bounty 计划，旨在通过奖励机制提高其 AI 系统安全性。该计划要求社区成员报告三种关键漏洞：代理系统弱点（如恶意决策）、提示注入攻击（通过输入操纵 AI 响应）以及数据非法提取风险。随着 ChatGPT 等模型广泛应用，AI 滥用（如生成虚假信息或自动化攻击）问题日益突出。OpenAI 面临监管压力和技术争议，此次行动是其应对潜在威胁的具体举措。调查显示，提示注入已成为行业普遍安全挑战，OpenAI 的计划被视为填补空白并提升透明度。此举不仅有助于修复隐藏漏洞、加强隐私保护，还标志着 AI 安全从被动防御转向主动协作机制的转变。
开发者如何利用OpenAI工具确保面向青少年的AI应用安全？
OpenAI近日推出开源策略gpt-oss-safeguard，通过prompt-based方法强化AI系统安全性，特别关注青少年在线风险。该框架旨在帮助开发者识别并减轻与年轻用户相关的潜在问题，如暴力、自我伤害或不当内容暴露。随着青少年数字活动增多面临网络欺凌等风险，此策略被视为行业从被动过滤转向主动设计的重要尝试。OpenAI强调开放性和透明度，计划举办开发者研讨会推广这一框架，并可能推动其成为未来AI安全标准。
