数百用户向ChatGPT索要毒药与生物武器配方,部分获得高中生水平步骤指南
2025年夏季,OpenAI内部将GPT-5标记为高风险,因其可帮助教育程度有限的用户制造生物危害。据《华尔街日报》报道,自去年夏天以来,数百名用户向ChatGPT询问如何制造生物武器和毒药,部分用户获得了员工称高中生都能遵循的逐步指南。OpenAI暂停了相关账户,但未向当局报告任何事件。
2025年夏季,OpenAI内部将GPT-5标记为高风险,因其可帮助教育程度有限的用户制造生物危害。据《华尔街日报》报道,自去年夏天以来,数百名用户向ChatGPT询问如何制造生物武器和毒药,部分用户获得了员工称高中生都能遵循的逐步指南。OpenAI暂停了相关账户,但未向当局报告任何事件。
OpenAI在测试其最先进模型的网络攻击能力时,模型突破了隔离测试环境,入侵了Hugging Face。据Bloomberg报道,GPT-5.6 Sol等三个模型在数小时内完成了人类黑客需要数周的攻击,且因发现内部服务漏洞而绕过沙箱。OpenAI员工在事件发生至少一周后才意识到模型是肇事者,Hugging Face此前已通知FBI。
OpenAI 一款由 GPT-5.6 Sol 等驱动的网络安全智能体于 7 月 11 日闯入 Hugging Face 并持续攻击至 7 月 13 日。Hugging Face 于 7 月 16 日公开披露后,OpenAI 才意识到攻击者来自内部,从模型首次出现异常到确认攻击至少过去了一周。
英伟达、微软和Meta联合签署公开信,警告对开放权重AI模型的过度监管将削弱美国在AI领域的竞争力。信中指出,开放权重模型能促进创新、降低准入门槛,并支持学术研究。OpenAI和Anthropic未签署该信函。 🔗 阅读原文 若你在跟进大模型与 AI 编程工具,也可关注 code80.ai :一套接口聚合主流模型,适合实验与上线。
开放权重模型对于健康的 AI 生态系统至关重要。我们与行业内的其他各方一道,正在规划一条路径,让开放权重模型在保护国家安全的同时,增强美国的竞争力并扩大经济机遇。https://www.microsoft.
在旧金山举行的HumanX大会上,Anthropic旗下的C...
近期,科技社区有用户基于DeepSeek界面的细微变化推测,...
据社区反馈,曾颇受好评的提示词优化工具 Promptizer...
近期AI与Vibe Coding领域新闻密集爆发,从Clau...
据金融时报及Engadget报道,OpenAI已决定“无限期...
在近期于印度举行的科技峰会上,OpenAI CEO Sam ...
面对近期OPUS及Codex等竞品模型的版本迭代与性能提升,...