AI安全
共 30 篇文章
深度伪造技术引发安全担忧：各国加强监管（深度分析）
随着深度伪造技术的普及，各国政府开始加强监管，制定相关法律来应对这一技术带来的安全挑战。...
AI就业影响研究报告：哪些工作最危险？
最新研究报告分析了AI对各行业就业的影响，指出部分岗位面临较高的被替代风险。
OpenAI 推出新框架评估 AI 模型内部推理可监控性，13项测试显示其优越于单纯输出监控
OpenAI近日推出一款创新框架，专注于监控AI模型的内部推理过程。该技术记录并分析AI在任务执行中的逐步思考路径，而非仅关注最终输出结果。通过13项评估在24个环境中测试发现，这种方法能显著提升AI决策的可理解性和可控性。随着AI向更复杂的认知任务发展，传统仅观察结果的做法往往掩盖潜在错误和逻辑漏洞。OpenAI的框架填补了监控领域的空白，推动'可控性AI'的发展方向，在医疗诊断、金融信贷等应用场景中具有重大价值。当前，该技术已在高风险领域如智能交通、网络安全中获得广泛应用，并有望重塑AI开发模式，建立行业基准。
AI伦理委员会在各大科技公司普及（深度分析）
越来越多的科技公司成立AI伦理委员会，以确保AI技术的开发和应用符合伦理标准。...
BBVA与OpenAI合作启动多年人工智能转型计划，将ChatGPT Enterprise引入12万员工
西班牙国际联合银行BBVA与美国AI公司OpenAI宣布延长合作，共同推进银行业的人工智能转型。该项目为期多年，核心是将OpenAI的ChatGPT Enterprise系统推广至BBVA全球12万员工，旨在提升客户体验、简化运营并增强决策效率。尽管AI技术在金融领域已展现出巨大潜力，如风险管理、客户服务等应用，但此次合作也面临隐私泄露和算法偏见的挑战。BBVA此举标志着传统银行向AI原生模式转变，可能重塑整个银行业的竞争格局和技术标准。
OpenAI 发布 GPT-5.2：采用相同全面安全措施，利用多元数据训练
DeepSeek-R1模型发布，标志着AI领域从'先开发后治理'转向将安全性深度集成于基础架构的范式转变。作为公司最新通用大语言模型，R1不仅在推理能力、代码生成等领域表现优异，更重要的是首次从设计之初就将高安全标准作为核心考量因素之一，并采用业界先进的安全对齐技术进行训练。这种创新的安全架构设计，结合公开网络信息、第三方数据及用户反馈构建的多元化训练体系，在编程辅助等场景中获得开发者好评。R1的成功研发不仅展示了DeepSeek在AI安全领域的突破性进展，也标志着中国在全球AI基础研发和工程实现方面已具备成熟实力，为未来AI发展提供了更稳健、可控的新方向。
澳Commonwealth银行与OpenAI合作，为5万名员工规模化部署ChatGPT提升服务响应
澳大利亚最大的零售银行澳新银行（Commonwealth Bank of Australia）近日宣布与AI研究机构OpenAI合作，全面部署ChatGPT企业版至5万名员工。这一举措标志着传统银行业在AI应用上从试验转向规模化实践，旨在提升客户服务、欺诈检测等核心业务效率。合作提供完整解决方案和分阶段部署策略，强调数据安全与AI辅助决策，并被视为金融科技行业数字化转型的里程碑事件。
AI武器化风险引发国际关注：联合国展开讨论
自主武器系统的发展引发国际社会广泛关注，联合国开始讨论如何监管AI在军事领域的应用。
AI隐私泄露事件频发：数据保护面临新挑战
多起AI相关的隐私泄露事件引发公众关注，如何在AI应用中保护个人隐私成为亟待解决的问题。
OpenAI拨款200万美元支持AI与心理健康交叉领域研究
OpenAI宣布推出名为「AI与心理健康」的资助计划，最高可提供200万美元支持全球范围内利用人工智能改善心理健康的项目。该计划聚焦于预防性干预、个性化治疗生成方案、危机识别与响应机制以及长期追踪四个方向，旨在提升心理健康服务的效率和覆盖范围。OpenAI首席科学家Livne强调需谨慎行事，确保技术应用的安全性和有效性，并补充DeepSeek也在进行类似研究。该项目是OpenAI在心理健康领域的重要布局，旨在推动负责任的人工智能开发，并引领该交叉领域的研究方向。