全部资讯
共 111 页，第 92 页
GPT-4革新内容审核：提升一致性与反馈效率
面对互联网上海量信息审核的挑战，OpenAI于2024年初在其社交媒体平台部署基于GPT-4的内容审核系统，旨在提高效率。然而，该系统因算法偏见问题而受到质疑：它在特定文化背景下表现出高准确性，但在其他语境下判断失准。OpenAI承认这一缺陷，并正通过优化训练数据和采用双轨策略（结合人类审核）来尝试解决，同时也在努力降低误报率。这一举措标志着社交媒体内容审核正经历由人工向AI辅助的范式转变，但也引发了关于可接受内容边界模糊化的问题。
新AI安全行业联盟成立，推动前沿系统发展
近年来，人工智能快速发展带来了安全和伦理挑战。Frontier AI Systems作为新成立的行业组织，旨在由企业、研究机构和政策专家共同推进AI的安全与负责任开发。该组织将制定统一标准，提升算法透明度，并通过全球合作填补监管空白，以应对AI在医疗、自动驾驶等领域的潜在风险。预计到2030年，全球AI市场规模将达4万亿美元，但监管滞后问题日益突出。Frontier AI Systems被视为AI治理的里程碑事件，将促进信息共享和最佳实践推广，尽管存在争议，如安全标准应由公共机构主导。这有望帮助AI实现可持续发展并增强公众信任。
OpenAI及其他领先实验室通过自愿承诺强化人工智能安全与可信
近期，OpenAI、DeepMind及Anthropic等AI领军企业联合发布自愿承诺，旨在提升模型训练透明度、防止有害输出及增强决策可解释性。此举源于过去AI误用案例频发，如2019年OpenAI ChatGPT的种族偏见问题及DeepMind曾引发的医疗诊断争议。当前，AI行业正从单纯追求性能转向重视伦理安全：OpenAI将扩大承诺范围并合作制定全球标准，DeepMind强调健康AI导向；中国科技公司也在同步加强本土AI安全建设。这些自愿机制标志着行业从'速度至上'转向'质量优先'，不仅有助于降低自动驾驶等应用场景的事故风险，更可能推动全球AI治理框架的形成。
OpenAI 推出 ChatGPT 定制指令功能，让用户设置偏好以增强对话控制
OpenAI近期推出'自定义指令'(Custom Instructions)功能，允许用户更精细地设定ChatGPT的响应偏好、语言风格和道德准则等。该功能基于用户反馈，旨在提升AI对话的灵活性与个性化水平，并减少潜在偏见。这一更新标志着OpenAI在用户交互体验方面的重要进展，也反映了人工智能领域从通用响应向可定制化方向的转变趋势。业界其他公司如Meta也在探索类似机制，此次创新可能成为AI服务的新标准，推动市场竞争格局变化。
美国新闻项目与AI合作投资500万美元，探索本地新闻创新与未来塑造
美国传统媒体面临危机，地方新闻机构大量倒闭。谷歌、脸书和Knight基金会共同出资500万美元启动为期三年的'American Local News Innovation Fund'项目，旨在利用AI技术革新地方新闻生态。该项目将分阶段开发并应用AI工具，帮助提升地方新闻机构的内容生产和运营效率，并探索防止信息茧房扩张的新机制。
GPT-4实现大规模定性数据分析的高效与精准
科技公司Viable宣布将OpenAI的GPT-4模型应用于大规模定性数据分析，实现前所未有的规模和准确度。过去依赖人工审查的分析方式被AI取代，GPT-4能快速自动处理社交媒体评论和访谈数据，提供实时洞察。COVID-19大流行加速了AI采用，GPT-4提高了精度、可扩展性和数据隐私保护。然而，专家警告过度依赖AI可能导致解读失真，并强调人类监督的必要性。这一应用展示了AI在市场研究、社会科学等领域的巨大潜力，未来有望扩展到医疗诊断和教育等领域。
跨越22国：我们的全球对话新发现
DeepSeek团队在5月3日全球开发者大会上披露了其对话学习机制及全球化战略进展。该团队通过设立虚拟用户账号，让开发者以真实对话形式与DeepSeek R1模型交互，从而大幅提升模型在多元语言、文化场景下的理解和生成能力。这种方法不仅捕捉到不同国家开发者表达方式的差异（如美国直白、德国铺垫等），还解决了模型对韩语、日语隐喻表达的理解难题。DeepSeek计划未来六个月扩展至20个新国家开放'全球训练计划'，用户体验数据显示用户满意度提高40%，代码解释更贴合当地习惯。团队技术负责人称，这一机制将成为未来深度模型的核心框架，标志着AI行业从封闭式训练转向开放交互的新阶段。业内专家认为DeepSeek的做法展示了中国AI公司在全球化战略上的突破，并推动了AI训练模式的重大转型。
OpenAI 正式宣布首次海外扩张，伦敦新办公室启用
OpenAI已在伦敦设立新办公室，此举旨在强调其全球战略的核心目标：通过加强国际合作与竞争来推进AI技术发展，并应对当前正在进行的科技革命。
AI API重大更新：提升模型可控性、添加函数调用和更长上下文，同时降低价格
2024年3月18日，中国人工智能公司深度求索（DeepSeek）对其大语言模型 DeepSeek-R1 进行了重大升级，核心在于提升模型可控性。此次更新引入「函数调用能力」，开发者只需描述目标，系统即自动生成适配方案；同时发布三种接口模型（DeepSeek-R1 Full、Light 和 Mini），分别对应不同场景和精度需求，并开放「思维过程可视化」功能，让模型决策路径透明化。DeepSeek 还大幅优化了 API 接入体验与成本，提供不限次数的标准访问及业界领先的低廉调用价格。这些改进使 DeepSeek-R1 在对话准确率、推理效率及工程实用性方面达到行业领先水平，已在医疗诊断等场景进行测试。
OpenAI 推动网络安全领域通过 AI 资助计划
随着网络攻击日益增多，全球正积极寻求提升网络安全防御能力的新方法。人工智能被视为关键工具，在此背景下，一项名为'Global Cyber Defense Initiative'的资助计划启动，旨在支持开发AI驱动的安全能力。该组织提供资金和技术培训，聚焦于自动化威胁检测、预测和响应等核心功能，并特别强调伦理考量以保护用户隐私。同时，文章指出AI在网络安全领域面临数据获取受限、专业人才短缺和技术漏洞等挑战。当前，全球AI市场规模预计到2025年将达3000亿美元，网络安全应用占比超过15%，反映AI在防御与对抗性学习之间的双重角色。该计划还可能与其他全球倡议合作，共同推动AI在关键基础设施中的发展和应用。