AI安全
共 30 篇文章
新研究显示AI在急诊诊断中准确率更高，挑战人类医生
一项新研究在真实急诊案例中评估了大型语言模型（LLMs）的表现，发现特定AI模型的诊断准确率达92%，超过经验医生平均水平。该研究首次将LLMs置于急诊环境，尤其在罕见症状处理上效果显著。随着AI诊断工具市场预计2030年超100亿美元，技术潜力获证实。但数据隐私（如GDPR限制）、算法透明性等伦理挑战需解决，建议进一步临床试验以提升可靠性。未来AI将作为辅助决策工具，在诊断后提供个性化治疗建议，而非取代医生角色，从而推动医疗从业者工作方式变革并创造新职业机遇。
揭秘迪士尼人脸识别：NSA寻找漏洞新方法？少年因黑客事件被起诉
美国国家安全局（NSA）近期测试Anthropic的Mythos Preview AI工具，以评估其在网络安全中的潜在漏洞风险。同时，一名芬兰青少年因涉嫌参与臭名昭著的Scattered Spider黑客组织攻击而被起诉，该组织通过电话系统实施精准网络犯罪，已造成欧洲多国损失。这些事件突显AI在网络安全领域的双重作用：既能帮助防御机构高效监测威胁，也可能被恶意利用。NSA的行动与美国政府加大对AI监管的呼吁相吻合，强调了全球合作应对技术伦理挑战的必要性，并预示未来可能出现更多AI驱动的网络安全变体攻击。总体上，这反映了网络安全从被动防御转向主动调查的趋势，呼吁平衡安全与创新。
马斯克否认被奥尔特曼欺骗？xAI承认借鉴OpenAI模型
埃隆·马斯克因不满OpenAI利用他提供的3800万美元资金转向商业运作，而起诉了该公司创始人兼CEO Sam Altman 和联合创始人 Greg Brockman。马斯克曾是OpenAI的坚定支持者，过去三年他的立场转变基于对该公司偏离非营利使命、将技术出售给竞争对手的担忧。诉讼的核心在于奥雷克团队如何使用他的资金，以及马斯克对OpenAI是否仍能履行其最初使命的质疑。随着诉讼持续，谷歌董事会成员雷·库奇加入证人行列，这起案件不仅关乎OpenAI的未来发展，也可能影响整个AI行业的格局和监管责任。
美国高管暗资支持AI运动：鼓吹中国AI为潜在威胁
在全球AI竞争加剧的背景下，美国国会成立 'Build American AI' 非营利组织，通过超级政治行动委员会筹集资金推动宣传活动。目的是应对中国在AI算法、算力和芯片领域的快速崛起，利用 '中国威胁论' 在美国公众中制造紧迫感，以促进国内技术发展或限制他国进展。该策略借鉴了半导体出口管制等历史案例，但批评者认为AI发展需全球合作而非零和博弈。此外，欧洲国家如英国、法国也表达了类似担忧，美国政府则采取双管齐下的方式，既投资国内AI又加强监管。这种做法虽试图维护国家优势，但可能影响全球AI健康发展。
Ubuntu服务器故障已持续超过24小时，影响用户正常通信和更新获取
过去24小时，Canonical的Ubuntu官方网站和服务器遭受大规模DDoS攻击，导致服务中断。许多用户无法访问网站或下载系统更新。网络安全专家认为这可能是由自称受伊朗政府支持的黑客团体发起，该组织此前曾声称对eBay服务器瘫痪事件负责。
三天庭审后，Musk仍反对OpenAI商业化
埃隆·马斯克因Twitter收购OpenAI后，该公司前CEO Sam Altman推动收费模式被指控违背了最初非营利的开发理念。马斯克认为董事会的人事变动和商业化决策是对他战略意图的背叛，并在诉讼中提供了大量数字证据，包括邮件、短信和社交媒体记录。OpenAI否认任何不当行为，并强调转向收费是应对高额研发成本的必要措施，同时重新提出'以人类为中心'的理念。这场诉讼不仅反映了科技巨头在AI发展中的利益冲突，也引发了关于商业策略与技术伦理的讨论。
美国国防部与Nvidia、Microsoft及AWS签订协议，在机密网络中部署人工智能技术
美国国防部正积极调整其在人工智能领域的战略合作伙伴关系，近期与多家AI技术供应商签订了新合同。三年前经历Anthropic合作争议后，DOD决定拓宽技术来源，以降低对单一供应商的依赖风险，并优先采用已获美军系统安全认证的现有商业解决方案，构建更加多元化的技术生态系统。
美国国防部与Nvidia、Microsoft和AWS合作，在保密网络上部署AI
美国国防部在与AI公司Anthropic发生争议后，加速推进供应商多元化战略以降低国防系统对单一技术提供商的依赖风险。过去几年中，AI在军事领域的应用日益突出，但过度集中于少数供应商可能带来战略劣势和潜在安全问题。Anthropic事件促使DOD重新审视合作协议，开始与更多初创公司、开源社区及不同类型的AI企业合作，并加强了对供应商的技术透明度审查。此举旨在提升国防系统的弹性，应对全球AI竞争加剧的背景，并减少算法黑箱风险。DOD还借鉴了过去冷战时期科技采购的经验，认为在AI时代这种策略尤为关键。虽然此举可能重塑国防AI格局并加剧行业竞争，但也带来了算法兼容性等新挑战。
AI时代网络安全挑战：传统方法如何应对？
在MIT Technology Review举办的EmTech AI峰会上，GCCybersecurity联合创始人兼首席执行官Tarique Mustafa博士强调，在AI时代网络安全策略必须从根本上重新思考。他指出，传统的'事后叠加'安全方法已无法应对日益复杂的威胁形势，而AI应成为安全架构的核心驱动力。Mustafa博士凭借在知识表示、推理演算等领域的技术积累，结合其超过二十年的行业经验，提出AI不仅能够通过机器学习分析海量数据、预测攻击路径等手段提升防御能力，更是构建新一代安全系统的关键。当前全球企业正积极布局AI驱动网络安全领域，随着量子计算等技术的发展，这种架构可能成为抵御新型网络威胁的关键防线。此次讨论标志着网络安全行业正经历一场深刻的变革，从保护AI系统本身转向重塑整个安全生态体系。
AI工厂实现数据控制规模化：平衡所有权与安全流动的新策略
在数字化时代背景下，数据已成为企业及国家的关键资产。随着人工智能技术快速发展并应用到各领域中，关于数据所有权、使用权限以及如何在保障隐私安全的前提下实现高效利用的核心问题亟待解决。过去几年，AI经历了从技术突破到大规模应用的跃进，像ChatGPT这样的通用模型虽然展现了强大的能力，但难以适配特定行业需求。因此，许多公司开始转向构建自身的AI系统以应对这些挑战。
