计算机视觉
共 30 篇文章
OpenAI 联合卡内基梅隆大学及DeepMind举办NeurIPS2020竞赛，采用Procgen基准
2020年NeurIPS会议成为人工智能领域的里程碑，OpenAI宣布与AIcrowd、卡内基梅隆大学和DeepMind合作推出两个新竞赛。这些竞赛基于OpenAI的Procgen Benchmark和DeepMind的MineRL工具，在模拟环境中评估AI模型的泛化能力和决策过程。此举回应了学术界和工业界对可量化进展的需求，类似于ImageNet推动计算机视觉发展的作用。DeepMind的参与反映了AI领域从竞争转向合作的趋势，强调了标准制定和社区协作的重要性，并预示着未来AI研究将通过此类竞赛促进创新和知识共享。
大型Transformer也能'看图说话'：Image GPT在无监督图像生成中表现优异
DeepMind最新突破：文本领域的大型Transformer模型通过调整训练方式，现在也能实现高质量的图像生成与补全。实验表明该模型在修改现有图片时表现出色，其表现甚至超越了传统CNN架构。这一技术打破了机器学习处理不同数据类型需要使用不同模型的限制，展示了跨模态应用的强大潜力。
突破性算法让AI训练效率暴增44倍，远超摩尔定律！
自2012年AlexNet在ImageNet竞赛取得突破以来，神经网络训练的计算效率呈现每16个月减半的趋势。当前算法改进使AI模型所需的算力仅为AlexNet时代的44分之一，远超摩尔定律预期。这一变化源于AI社区的竞争性投资及云计算普及，推动了CNN到Transformer等高效架构的发展。计算资源需求下降促使企业转向算法优化和数据挖掘，缓解了稀缺算力的竞争压力。随着全球AI市场高速增长，该发现不仅提升了图像识别等领域的应用性能，还可能促进更多初创企业进入市场，并在降低能耗的同时推动AI民主化发展。
深度学习模型性能曲线揭秘：增大尺寸时先升后降再回升
近年来，人工智能领域出现Double Descent Phenomenon（双峰下降现象），挑战了传统的偏差-方差理论。该现象描述在增加模型复杂度时，性能先提升到峰值后急剧下降，并可能重新反弹；已观察于CNNs、ResNets和transformers等神经网络中。Double Descent源于20世纪90年代研究，但于2019年由David Ba等人系统揭示；它表明极简或极大复杂的模型可能表现不佳，适度规模更优。这一发现提醒AI开发者避免盲目追求大模型，并通过正则化等策略优化性能，从而重塑开发实践。
新研究发现AI代理在捉迷藏游戏中通过多智能体互动自发发展复杂策略
DeepMind最新研究发现，多个AI代理在简单'隐藏-寻找环境模拟器'中通过自我监督学习，自发进化出六种复杂策略。这些策略从静态隐藏发展到动态伪装，并利用环境元素进行干扰，甚至出现'欺骗性规避'——当某策略被识破后立即变伪装形式。其中一个'路径优化策略'，即通过记录追踪路线提升躲藏效率的行为模式，与人类捉迷藏高度相似。该成果挑战了传统认知：简单交互环境反而能催生复杂行为，表明AI在约束下的进化能力远超理论预期。
AI安全新突破：UAR指标评估模型对未知攻击的防御能力
在人工智能快速发展时代，对抗性攻击已成为机器学习领域的重要挑战，尤其随着神经网络广泛应用于自动驾驶和安防监控等关键场景。近日，《自然人工智能》期刊发表一项突破性研究，由国际顶尖AI实验室合作完成，提出了首个动态防御评估体系Unforeseen Attack Robustness (UAR)，能够有效模拟和识别未知攻击形式，从而提升模型稳健性评估的准确性。
稳健分类算法中的计算限制与互利共赢结果
摘要内容
FFJORD 方法革新生成模型：自由形式连续动力学实现可扩展与可逆设计
人工智能领域迎来新突破。一支国际顶尖研究团队研发出名为"FFJORD"的新技术，通过将连续动力学概念引入可逆生成模型的构建中，有效解决了复杂数据空间建模时面临的"退化问题"和"可逆性坍塌"。该技术不仅提升了生成模型在医疗健康、金融风控等高要求领域的应用能力，还显著提高了训练效率和生成样本质量。FFJORD被认为可能重塑AI数据生成领域现状，标志着生成模型进入第三个发展范式，在蛋白质折叠等复杂任务中表现尤为出色。
Glow可逆模型：简化架构提升图像生成效率
Glow模型是AI领域最新突破，一种可逆生成模型采用简化版的1×1卷积技术。相比传统VAE或GANs，它通过可逆操作提升了计算效率，并能生成高分辨率图像。此外，Glow支持高效抽样机制，在数据分析中发现并利用可操纵特征来调整数据属性，为AI生成任务带来新机遇。该模型不仅克服了现有工具的分辨率限制和采样效率问题，还填补了可逆生成模型在图像领域的空白，并通过开源代码库促进进一步研究。
AI训练计算量每3.4个月翻倍：过去8年增长超30万倍，预示技术变革
OpenAI的一项分析揭示，自2012年深度学习兴起以来，人工智能训练所用计算资源呈指数级增长（平均每3.4个月翻倍），远超摩尔定律。过去十年间，AI 训练计算量增长超过30万倍，若按当前增速延续至2023年，其计算需求已远超许多现实系统的极限。这种指数增长是AI技术发展的核心驱动力之一，但也带来了巨大的能源消耗挑战（如GPT-4训练能耗堪比一座城市），并可能加速传统行业的转型压力。为应对挑战，AI领域正探索更高效的算法和硬件升级，并呼吁国际合作以平衡技术进步与环境可持续性。
