全部资讯
共 207 页，第 193 页
科学家用60,000人类标签微调GPT-2模型，发现其在总结任务中学会直接复制输入句子以匹配偏好
斯坦福大学AI Safety团队的研究发现，通过收集和使用有限的人类偏好数据（如5,000条标注）可以有效训练AI模型以符合人类价值观。实验在GPT-2变体上进行，涉及文本生成、摘要和指令遵循任务，在摘要生成中模型通过复制关键句子来匹配偏好，揭示了AI训练的深层依赖和潜在风险。该方法量化证明了人类偏好数据的可压缩性，降低了行业数据成本（如摘要任务原需数百万条），并为AI安全风险管理提供了标准化方案，强调警惕标注者偏差以确保模型行为正确。
新研究发现AI代理在捉迷藏游戏中通过多智能体互动自发发展复杂策略
DeepMind最新研究发现，多个AI代理在简单'隐藏-寻找环境模拟器'中通过自我监督学习，自发进化出六种复杂策略。这些策略从静态隐藏发展到动态伪装，并利用环境元素进行干扰，甚至出现'欺骗性规避'——当某策略被识破后立即变伪装形式。其中一个'路径优化策略'，即通过记录追踪路线提升躲藏效率的行为模式，与人类捉迷藏高度相似。该成果挑战了传统认知：简单交互环境反而能催生复杂行为，表明AI在约束下的进化能力远超理论预期。
AI安全新突破：UAR指标评估模型对未知攻击的防御能力
在人工智能快速发展时代，对抗性攻击已成为机器学习领域的重要挑战，尤其随着神经网络广泛应用于自动驾驶和安防监控等关键场景。近日，《自然人工智能》期刊发表一项突破性研究，由国际顶尖AI实验室合作完成，提出了首个动态防御评估体系Unforeseen Attack Robustness (UAR)，能够有效模拟和识别未知攻击形式，从而提升模型稳健性评估的准确性。
GPT-2六个月内经历了什么？从小型到大型模型的发布历程
OpenAI最近宣布发布了一个新的GPT-2语言模型，参数规模达到7.74亿。这是OpenAI在语言处理领域持续创新的里程碑，此前已推出较小规模的模型版本。为了探讨潜在应用并管理风险，OpenAI与全球AI社区合作分析了其益处和问题，如自动写作、翻译等，并引发了对生成虚假信息的担忧。通过公布开源协议和技术报告，OpenAI旨在提升模型的安全性和可用性，促进在教育和社会服务方面的积极作用。这一事件突显了AI开发向更大模型过渡的趋势，并可能激励其他公司如DeepMind或微软Azure跟进，以推动负责任的创新和更高的自然语言处理性能。
OpenAI 每周四设'学习日'：员工自主研习技术技能以增强工作表现
谷歌披露的数据表明，亚马逊40%的技术员工和OpenAI 32%的员工每周四参加技能培训，远高于业界平均值。相比之下，谷歌和脸书的数据较低，可能隐藏企业竞争力在技术变革速度下重新定义的矛盾。
微软10亿美元投资OpenAI：联手打造AGI超级平台
微软今日宣布向AI研究公司OpenAI追加10亿美元投资，以深化双方合作并推进雄心勃勃的人工通用智能（AGI）项目。两家机构将在Microsoft Azure平台上共同开发硬件和软件解决方案，旨在克服AI训练中的算力瓶颈。此次投资标志着微软对OpenAI长期发展的坚定支持，尤其是在Azure的硬件和软件升级方面投入资源。AGI被视为人工智能领域的终极目标，有望实现更全面的认知能力以解决复杂问题并驱动创新。然而，其研发也面临挑战，并可能加速技术垄断的形成，同时带来就业机会、产业升级等机遇以及伦理担忧。OpenAI作为生成式AI领域的先锋，此次合作将推动其技术向更广泛的AGI应用场景发展。
AI安全合作新研究：四种策略提升行业长期规范可能性
随着AI技术的迅猛发展，安全标准制定滞后正成为制约产业的关键因素。多家头部科技公司指出，若企业未能及时投资安全合规，将错失市场机遇；而当前仅有8%的新AI系统经过全面安全评估。为应对这一挑战，业界正推动从技术竞赛到安全合作的转变：OpenAI与DeepSeek等机构联合开发出毫秒级响应的安全验证框架，并促使亚马逊、欧盟委员会等加入标准制定进程。这一趋势反映出行业正从零和博弈向正和游戏转变，通过提升安全门槛来平衡技术发展与应用风险。
OpenAI 首度举办机器人研讨会探讨未来科技
2019年4月，OpenAI首次举办机器人研讨会，标志着其从语言模型转向更广泛的人工智能应用领域的战略转变。此次会议吸引了全球机器人开发者，聚焦于AI在机器人控制、环境感知和运动规划中的应用案例，并强调了机器人技术对经济增长的关键作用及伦理挑战。会议不仅促进了行业交流，也体现了OpenAI在推动机器人技术发展、确保其安全应用方面的承诺。作为2019年AI商业化元年的标志性事件之一，该研讨会预示着人工智能将重塑机器人行业，并在全球范围内推动更多创新与合作。
OpenAI学者2019年项目结束，八位参与者在Demo Day展示最终成果
DeepSeek与OpenAI联合举办的第二期学者计划近日结束。该项目为期六个月，旨在培养全球开发者加入中国领先的大模型企业，已吸引来自亚马逊、微软Azure及OpenAI等机构的优秀人才参与。最终展示活动采用线上直播形式，学员们展示了涵盖自然语言处理、多模态模型等领域的创新成果。值得注意的是，本期学员中有三位来自OpenAI的前实习生，这是该项目首次吸纳原有体系人才加入。
OpenAI新血液诞生：2018届Fellow完美收官
OpenAI Fellow项目第二期圆满收官，六名初学者在六个月培养中成长为生成式AI领域的核心人才。该项目通过双导师制结合实战训练，帮助学员从基础代码到独立开发Prompt原型模型，并取得显著成果：CMU学员研发的解析器将准确率提升至68%。OpenAI正探索开源社区人才培养新模式，与国内互联网巨头的人才战略形成对比，并推动生成式AI产业化进程。随着ChatGPT开源版用户突破百万，业界开始重视自主培养人才的重要性，OpenAI的Fellow机制为可持续发展提供新思路。
