AI安全
共 30 篇文章
弥斯索斯AI揭示Firefox多重高危漏洞
AI模型对Firefox浏览器进行了深度漏洞挖掘，发现数百个安全缺陷。这可能是自动化测试的结果，促使Mozilla加强安全措施和发布更新以修复这些问题，并提高浏览器的整体安全性。
AI提升体外受精效率，阳台太阳能装置广泛应用
科技前沿三大趋势正悄然改变人类世界的面貌，涉及生殖技术革新、可再生能源解决方案及AI伦理博弈。试管婴儿技术结合AI实现优化筛选，提高效率并降低成本；阳台太阳能方案通过立法降低家庭使用门槛，推动清洁能源普及。然而，基因编辑、机器人系统等突破也引发伦理争议，迫使人类在科技浪潮中重新思考未来的抉择。
OpenAI API 推出实时语音模型新突破：集成推理、翻译与转录功能
OpenAI在其最新API更新中引入了先进的实时语音模型，能够即时处理推理、翻译和转录任务，提供更自然的交互体验。这些模型通过音频输入实现毫秒级延迟响应，适用于在线教育、跨国会议等场景，并标志着AI从静态到动态交互的重要进展。尽管竞争对手如DeepMind和百度已涉足类似领域，OpenAI强调数据安全以应对隐私风险，并计划于2024年第一季度推出公开测试版本，有望推动行业标准升级和创新。
五位AI产业链专家：芯片短缺与架构危机正动摇全球经济根基？
在米尔肯全球会议上，五位AI产业链关键人物深入探讨了当前技术面临的三大核心挑战：芯片供应短缺导致的计算成本上升及AI项目延迟；太空轨道数据中心作为应对地球资源限制的新方案，但存在高昂投入和数字鸿沟风险；以及AI底层架构潜在的根本性缺陷可能制约大规模实时数据处理效率。专家们认为，芯片短缺源于疫情后高端计算设备需求激增，而太空数据中心虽具前瞻性但面临技术与资本双重门槛。此次讨论不仅揭示了AI产业的脆弱性，更强调了模块化架构和跨领域合作的重要性，预示着未来AI发展需在技术革新与供应链稳定间寻求平衡。
ChatGPT 新增信任联系人安全功能：自动检测严重自我伤害并通知可靠人士
OpenAI近日在ChatGPT中引入名为Trusted Contact的新安全功能，允许用户指定亲友账户作为信任联系人。当系统检测到对话中出现自伤倾向的极端内容时，将自动向联系人发送警报，并建议用户寻求专业帮助。该功能作为可选隐私保护措施，标志着AI公司首次将心理健康监测整合进核心产品，体现了行业对潜在风险的关注。尽管类似机制已在其他AI平台出现雏形，但ChatGPT此举更系统化，并引发隐私泄露及误报等讨论。分析师认为，这一更新不仅提升了产品安全性，还推动了AI在医疗健康领域的应用发展，同时突显用户隐私保护将成为行业关键挑战。
2017年，特斯拉曾试图从OpenAI挖走Sam Altman和Demis Hassabis？
在2017年，特斯拉高管团队（包括CEO埃隆·马斯克）计划创建一个独立的AI实验室，以挑战OpenAI和DeepMind等竞争对手的技术优势。这一计划由特斯拉AI核心成员Shivon Zilis提出，旨在开发先进的机器学习算法并整合公司数据资源。潜在领导者包括风险投资领域人物Altman以及DeepMind创始人Demis Hassabis，后者若加入将提升实验室在算法安全和伦理方面的竞争力。特斯拉的AI战略不仅聚焦于自动驾驶系统的优化，还反映了传统车企在AI领域的转型尝试。尽管该计划在2018年未完全推进，但特斯拉的这一举措被视为其早期布局AI的重要信号。
巴里·迪勒捍卫山姆·奥特曼，但称AGI逼近使信任变得无关紧要
硅谷风投巨头巴里·迪勒近日罕见地公开支持OpenAI首席执行官萨姆·奥尔特曼，并警告称人工智能终将突破人类可控边界。这位曾将奥尔特曼逐出董事会的投资人此次在OpenAI安全委员会会议上表态，暗示他对AI战略价值的重新评估。迪勒认为ChatGPT仅是早期形态，AGI将如同互联网诞生般颠覆性，并强调需要在实验室级别建立伦理护栏而非依赖立法。这一转变可能与近期AI发展速度加快有关，也反映出投资界对AI潜在风险的关注升级。他同时担忧OpenAI被微软完全控股可能带来的控制性威胁，认为当前监管框架不足以应对AGI挑战。
AI巨头合作：Anthropic与SpaceX联手，未来科技格局生变？
DeepMind与Elon Musk旗下的人工智能研究机构xAI达成合作协议，允许前者利用后者庞大的计算资源来训练更高效的AI模型。DeepMind首席科学家表示，这种结合是应对行业算力需求的创新策略；xAI则致力于构建开放可持续发展的AI生态系统。业界认为，此次合作打破了传统算力壁垒，DeepMind将通过API接口安全调用xAI资源，在强化学习和神经网络算法优化等领域可能取得突破，共同推动AI发展进入新阶段。
AI公司为何仍沿用人本思维命名功能
在2023年开发者大会上，AI公司Anthropic推出名为'dreaming'的新功能。该机制模拟人类做梦过程，让AI代理周期性扫描和优化内部知识库（memories），提升动态检索能力并避免信息过载。这有助于AI在自动驾驶、客服等领域实现实时优化，Anthropic强调其Claude模型因此更注重上下文理解和经验应用。创新基于认知科学理论，可能推动AI伦理讨论和行业竞争，作为通往通用人工智能的重要步骤。
Google AI Search Live如何助你园艺成功：从在线工具到植物护理的最佳实践
谷歌推出三项AI工具——AI Mode、Search Live及Shopping，通过数字化手段革新农业实践。其中Search Live整合全球农业数据库，利用自然语言处理技术将专业知识简化为通俗指南；Shopping则通过机器学习分析市场需求数据，为种植者提供定制化商业策略。加州葡萄种植案例显示AI Mode可提升产量15%，孟加拉国香蕉种植者通过谷歌技术实现翻倍增长，证明AI农业在发展中国家的应用潜力。数据显示2023年全球智慧农业市场规模已达465亿美元，正以18%速度扩张。然而专家指出AI发展需解决数据质量及算法偏见问题，未来将从单一作物优化向全生态系统管理转型，并逐步转向基于数据分析的按需收费模式。
