AI安全
共 30 篇文章
美国核能复兴背景下 高水平废物年产量2000吨亟需处理方案
在美国，核能正因科技公司对数据中心的巨大电力需求而重新获得多方共识。然而，在这股热潮下，长期被忽视的核废料处理问题凸显出来：美国每年产生近2000公吨高辐射废物，目前主要依赖反应堆现场的临时存储设施（钢/混凝土水池），而非设计用于长期储存的深层地质库。这一局面源于政治反对、公众担忧以及资金停止，使得Yucca Mountain项目停滞近三十年。相比之下，芬兰和法国正推进永久解决方案，并在核废料管理方面积累了经验（如再处理技术）。中国在全球范围内加速核能建设。专家指出，气候变化压力加剧了全球对核废料处理的需求，但单纯依赖技术创新不足以解决这一难题。美国作为全球最大经济体之一，现在需要从战略层面行动起来，考虑投资建设深层地质储存库以应对不断增长的核废料挑战。
OpenAI发布五步计划，聚焦智能时代网络安全防御民主化
人工智能技术的快速发展正显著重塑网络安全领域。2024年3月，OpenAI在其最新报告中宣布了一项为期五年的战略计划，旨在加强网络安全防范和提升整体安全水平。
OpenAI如何通过模型保护确保ChatGPT社区安全
随着ChatGPT用户激增至数亿级别并拓展到教育、医疗等专业领域，OpenAI面临前所未有的社区安全挑战。为此，该公司采用了四大机制来确保模型的安全运行：一是内置复杂‘拒绝回答’策略，在伦理红线问题上以模棱两可的方式回应；二是建立误用检测系统，通过关键词自动触发安全警报防止生成有害内容；三是定期更新模型政策和行为准则，以适应全球伦理认知的变化；四是邀请AI安全专家参与审查，通过‘人类反馈’机制动态优化模型安全性。此外，OpenAI还将其安全策略应用于包括GPT-4在内的一系列开源模型中。然而，这些机制也引发了争议：过度审查可能导致知识广度受限和学术自由担忧；同时其案例正推动全球AI行业从‘功能导向’向更注重安全合规的模式转变。
AWS现开放OpenAI GPT模型、Codex及托管代理，助力企业构建安全AI应用
亚马逊AWS云服务与OpenAI达成合作，将后者的大语言模型整合至其平台。此次整合的关键在于AWS能提供企业级安全合规保障，解决过去因开放模型数据风险而阻碍AI在生产环境应用的问题。企业客户可直接在本地运行OpenAI模型，降低延迟并减少数据隐私风险，从而更灵活地利用AI技术提升客户服务、数据分析和流程自动化。AWS强调了这一整合对于客户的重要性，旨在帮助他们更安全地部署AI解决方案。
Sam Altman 提出五项原则，致力于确保 AGI 带来全人类福祉
2024年3月15日，OpenAI CEO Sam Altman在纽约全球科技峰会上正式提出五项AGI发展原则，引发行业震动。这五项原则包括：强调透明度优先（算法路径可追溯），主张人类控制权并开发审计系统架构，承诺参与全球AGI监管框架的构建，并展示正在设计的安全开关以允许监管干预最先进模型运行，同时严格禁止开发军用AGI。这些原则标志着OpenAI从过去聚焦商业产品转向更注重技术治理，也暗示全球超级智能研发领域正经历重大转向。声明直指AI安全领域的核心议题，引发业界对技术可行性、竞争策略差异以及AGI时代监管新框架的激烈讨论。
为何顶尖大学官网竟指向色情网站？调查发现管理疏漏导致域名劫持危机
网络安全研究员谢霍夫近日调查发现，世界顶尖大学（包括加州大学伯克利分校、哥伦比亚大学和圣路易斯华盛顿大学）的部分网站被黑客劫持，传播非法色情内容甚至网络诈骗。事件涉及至少34所大学，这些子域名（如provost.washu.edu下的dmkcsex-10.pdf）被重定向至成人网站，突显出域名管理中的技术漏洞和疏忽大意。
为什么macOS和Linux用户需要紧急更新ASP.NET Core？新漏洞危及系统权限！
微软近日紧急发布安全补丁，修复ASP.NET Core框架中的高危漏洞CVE-2026-40372，该漏洞影响Microsoft.AspNetCore.DataProtection NuGet包的10.0.0至10.0.6版本，允许攻击者未经授权获得SYSTEM级权限并篡改系统行为。漏洞根源在于HMAC机制未能正确验证数字签名，导致伪造负载被利用。受影响设备包括服务器、桌面应用和云服务，在Linux或macOS上尤为危险，即使更新后仍可能面临风险。建议用户立即检查并升级相关NuGet包以防范类似开源软件供应链中的安全威胁，并加强身份验证策略。
OpenAI 推出先进开源模型自动检测并掩盖文本中的个人信息
人工智能技术快速发展，伴随数据爆炸式增长，隐私泄露问题日益凸显。在一个为期一周的数据隐私专题研讨会上，专家聚焦文本处理领域，并透露OpenAI最新开发的Privacy Filter技术取得突破性进展。
五大咨询巨头联手OpenAI，共助Codex Labs企业化部署
OpenAI 推出 Codex Labs，旨在帮助企业利用 AI 实现高效的软件开发。该计划的核心是 Codex 模型，它基于 OpenAI 的 GPT 研究成果，能够自动编写和优化代码，降低错误率并加快创新速度。Codex 拥有超过 4 亿每周活跃用户，并与安盛、普华永道及Infosys等公司合作，覆盖软件开发的整个生命周期——从分析到测试。此举标志着 OpenAI 正式从非营利性研究转向商业应用，致力于解决软件开发市场快速增长中的实施和合规等行业挑战。
微软为何难逃2010年Flame攻击陷阱？
2012年网络安全调查显示，Flame恶意软件利用了微软Windows更新机制中的MD5散列函数弱点。通过创建两个不同输入却相同输出的伪造证书，它伪装成合法更新在伊朗政府系统中传播，可能导致数据泄露或系统崩溃。事件突显密码学的脆弱性，自2004年起该弱点已知；网络安全行业因此转向更可靠的算法如SHA-256。Flame攻击的规模和潜在国家级背景强调了加强防御、提升系统韧性及国际合作的重要性，以防止未来类似大规模破坏事件的发生。
