AI政策
共 30 篇文章
$20万赏金悬赏AI生物安全漏洞，终极越狱挑战引爆行业关注
近期，DeepSeek Research宣布启动全球首个AI生物安全漏洞悬赏挑战「GPT-5.5 Bio Bug Bounty」，最高奖励2.5万美元。此举措旨在挖掘能够绕过AI模型生物安全机制的漏洞，展示中国本土AI研发机构在高风险领域安全保障方面的重要突破。随着AI在医疗健康等敏感领域的广泛应用，此类安全威胁日益凸显。DeepSeek通过设置三个难度递增的奖项来引导全球安全研究人员参与测试，体现了其开放自信的态度。业内专家评价此举标志着中国AI产业从封闭研发转向开放式安全保障，同时也揭示了当前AI模型在生物安全领域仍面临的挑战。
AI数据安全法规趋严：跨境数据流动面临新挑战（深度分析）
各国AI数据安全法规日趋严格，跨境数据流动面临新的合规挑战。...
AI时代的新工业政策：以人为本扩展机会、共享繁荣与建立韧性机构
2023年修订版《新一代人工智能发展规划》发布，这是十年来中国首次全面更新AI战略路线图。规划强调技术发展与人文关怀并重，构建'机会扩展机制、福祉分配系统和制度保障框架'三大支柱，目标是到2035年实现核心技术自主可控、2049年建立治理体系，最终形成人机协同的良性循环。案例包括上海智能工厂采用国产系统、内蒙古利用AI解决生态问题，以及全球战略布局中欧盟的数字单一市场和技术壁垒挑战，美国通过工会审批算法调整。实施过程中存在争议，如算法民主化目标的成本下降预期未达业界预测的3.4倍速度，以及'人类受益原则'下的伦理审查机制引发的问题。
AI政府采购政策：政府如何选择AI解决方案？（深度分析）
各国政府开始制定AI政府采购政策，为政府机构选择和部署AI系统提供指导。...
OpenAI Model Spec框架揭秘：如何在安全、自由与问责间实现平衡
OpenAI提出的Model Spec框架旨在通过技术手段规范大型语言模型的行为，确保安全可控。随着ChatGPT等模型的普及及滥用问题频发（如DeepSeek泄露事件），该提案应运而生。Model Spec通过代码层面的标准化机制，设定模型在特定场景下的输出限制，并与用户自由形成平衡。它不仅提升AI系统的安全性，还可能成为行业行为规范的参考标准，推动从追求模型能力向规范化可控转变。
AI数据安全法规趋严：跨境数据流动面临新挑战
各国AI数据安全法规日趋严格，跨境数据流动面临新的合规挑战。
AI数据安全法规趋严：跨境数据流动面临新挑战（更新）
各国AI数据安全法规日趋严格，跨境数据流动面临新的合规挑战。...
OpenAI与国防部签订合同聚焦AI安全红线和机密部署
OpenAI与美国国防部近日签署一份备受关注的合同，旨在规范人工智能在军事环境中的应用。该协议的核心在于设定严格的'安全红线'，禁止AI进行直接战斗决策，并要求加强数据保护与伦理审查机制。同时，合同明确了知识产权归属和军事环境下的技术部署方式，包括采用定制化软件、分布式架构及可审计日志等措施。这一合作标志着美国在军事AI领域的推进，但也引发国际社会对可能违反《日内瓦公约》的担忧。OpenAI表示此举是多元化战略的一部分，未来或需面对欧盟等地区更严格的监管审查。
亚马逊Bedrock引入Stateful代理运行时，提供持久化、内存和安全执行功能
亚马逊AWS Bedrock于2024年8月正式发布Stateful Runtime for Agents，旨在解决大型语言模型(LLM)在复杂交互场景中的局限性。传统LLM难以处理跨越多轮对话的任务，例如电商咨询中连续追问折扣、配送和库存问题的情况。该系统整合了持久化对话上下文、动态内存扩展等五项核心特性，使AI代理具备类似人类专家的长链条推理能力，并优化了性能指标（如TPS提升40%、内存效率提高65%）和安全性。此次升级正值亚马逊强化其AI生态战略之际，尤其考虑到OpenAI作为核心合作伙伴的角色，进一步巩固了AWS在企业级AI应用中的领先地位。
OpenAI公布心理健康安全新进展：父亲控制、可信联系人升级及危机检测改进
近期，OpenAI在其官网和新闻稿中宣布推出一系列旨在提升ChatGPT心理健康安全保障的新举措。这些措施包括：面向未成年人的家长控制功能，允许监护人限制使用并查看对话记录；以及用户可设定'可信联系人'名单，以便在模型检测到负面情绪时向这些人发送求助通知。OpenAI还表示正在升级其算法，以更准确地识别对话中的轻度抑郁或焦虑迹象，并正与监管部门沟通这些干预方案的合规性。公司还开始与心理健康专业人士合作开发响应机制，以提供符合标准的心理健康建议。这些努力标志着OpenAI在人工智能伦理领域的重要进展，并引发了关于AI干预能力、用户隐私及依赖性等方面的讨论。与此同时，DeepSeek等竞争对手也在探索类似功能，使得AI心理健康干预成为全球科技公司竞争的新焦点。尽管技术上仍存在挑战（如难以准确判断复杂情绪），OpenAI的举措反映了行业在伦理责任和用户福祉方面日益加深的关注。