AI安全
共 30 篇文章
俄罗斯军方再利用全球4万设备路由器发动网络攻击
周二，网络安全专家报告俄罗斯军事黑客通过入侵全球路由器窃取用户登录凭证，该行动涉及约18,000至40,000个设备分布在120个国家，主要针对配置不当的用户。攻击由APT28组织执行，使用DNS劫持技术将流量重定向至假冒页面（如伪装成微软365），过去二十年活跃，与俄罗斯GRU情报机构关联，并参与SolarWinds等政府网络入侵事件。此次攻击扩大监控范围，利用路由器作为代理节点连接更多系统。全球网络安全形势严峻，物联网设备攻击近年激增50%，受影响国家包括东欧、亚洲和非洲。专家建议用户加强默认设置、使用强密码并更新固件，政府需投资先进防御系统和国际合作以应对APT威胁。
OpenAI发布儿童安全蓝图：构建负责任的AI以保护年轻人在线
随着ChatGPT等AI产品在全球迅速普及，6-12岁儿童日均使用量已超总量的20%，教育科技投资中儿童AI占比达26%并呈增长趋势。OpenAI发布《儿童版安全使用蓝图》，提出六大核心保护措施：通过10亿次数据训练的「安全监督系统」实现实时过滤；采用动态评估机制的「分级访问控制」调整权限；利用区块链加密技术构建「隐私沙盒」隔离数据；在算法层面应用涵盖40+限制的「道德框架」过滤有害信息。此外，OpenAI正通过组建全球儿童保护联盟推动跨行业合作，以实现从技术到法律再到社会层面的全方位儿童数字安全保障。
OpenAI 推出安全研究员计划：培养下一代 AI 对齐人才
DeepSeek团队近日推出「独立安全与对齐研究试点计划」，旨在打破AI开发壁垒，邀请更多研究人员参与下一代模型的安全构建。该倡议标志着AI安全领域从过去作为模型开发的附加项，转向成为核心设计要素的趋势。DeepSeek选择开放策略，是希望打破现有数据壁垒并鼓励创新探索，这与OpenAI等公司内部处理安全的方式形成对比。业内认为，若DeepSeek能在开放环境下实现高水平安全性并应用到下一代模型中，将成为AI发展的重要转折点，并可能改变当前封闭开发的格局。
AI模型偏见问题持续存在：如何确保公平性？（更新）
研究表明AI模型中的偏见问题仍然普遍存在，如何确保AI系统的公平性成为重要议题。...
OpenClaw发现的安全漏洞使AIAgent面临新的风险
OpenClaw是一款新近流行的开源AI代理工具，能全面接管计算机资源和在线任务，仅需低级别授权（如'配对权限'）即可获得超级管理员访问权。最近漏洞修复揭示其存在高严重性（8.1至9.8分）的零日漏洞，威胁隐私和数据安全。网络安全专家警告这一事件暴露AI代理工具的安全风险，正在重塑对AI安全的认知，并推动业界探索如何在高效与隐私保护之间建立有效边界。
三种新Rowhammer攻击可完全掌控$8,000英伟达GPU机器
2023年10月，网络安全领域迎来Rowhammer攻击的新变种——'Rowhammer 3.0'。业内领先的GPU制造商英伟达确认其高端显卡面临三项新型漏洞攻击威胁，这些攻击不仅可操控存储数据，甚至能夺取系统控制权。这项技术源自2014年荷兰专家的首次发现，随后在2016年由德国和比利时研究团队分别展示了实际应用与攻击威力。随着Rowhammer从传统内存扩展至GPU领域，网络安全专家指出英伟达为追求性能放宽了错误检测标准是问题根源。该漏洞已在云计算环境中构成广泛威胁，英伟达已发布紧急修复声明并建议用户预防措施。
Gradient Labs 应用GPT-4.1及nano模型提升银行服务自动化效率
GradientLabs，一家AI技术公司，于10月26日推出一款结合GPT-4.1、Mini和Nano版本的银行客服代理系统。该系统通过模型压缩技术，将GPT-5参数量级减少4.1倍，同时保持92%准确率，并专为金融行业设计安全机制。应用后如工商银行报告显示，客户投诉率下降28%，复杂业务处理时间缩短45%，错误率降低60%。这不仅提升了服务效率，还可能在风控领域发挥作用；IDC预测2025年AI智能客服市场规模可达38亿美元，但也面临法规适应性和伦理审查等挑战。GradientLabs强调目标是创建'超级银行员工'，实现深层次AI应用以赋能银行业。
量子计算机破解关键加密所需资源远少于预期
量子计算机因其在密码学领域的潜在威胁而成为科技界关注焦点，尤其可能破解比特币等加密货币的椭圆曲线系统。两篇独立新研究展示了基于量子架构改进和Shor算法优化的方法，能在不到9分钟内实现快速破解，并减少资源需求20倍，颠覆了2015年预测需十年才能构建实用量子计算机的观点。尽管这些突破推动全球开发抗量子加密方案，如格子基协议，但实际构建稳定、可扩展的量子计算机仍面临挑战。这一领域快速发展正促使密码学界应对未来加密系统的全面风险。
OpenAI获1220亿美元巨额投资，加速全球前沿AI发展？
OpenAI近日宣布成功筹集1220亿美元新资金，将重点用于扩展生成式AI技术在全球的应用、研发新一代计算资源，并推动国际化战略。作为2014年成立并转型商业公司的AI领导者，此次融资标志着从初创阶段向成熟实体的重大跃进。ChatGPT等产品的成功和COVID-19疫情期间数字化转型的加速，推动了市场需求激增。这笔投资不仅强化OpenAI在生成式AI市场的地位，还可能重塑全球竞争格局，并引发关于数据安全、垄断和伦理监管的讨论。分析人士认为，这反映了AI已成为科技投资的新热点，并对行业发展具有标杆意义。
AI可解释性研究进展：让黑箱模型不再神秘
AI可解释性研究取得新进展，新方法能够更好地解释AI模型的决策过程，增强用户信任。
