媒体界
行业纵横 资讯速递 科技前沿 峰会论坛 企业快讯 商业快讯

OpenAI力推美国立全国性AI安全强制标准 应对自主智能体风险升级

2026-09-11来源:快讯编辑:瑞雪

人工智能领域领军企业OpenAI近日公开呼吁美国加快制定全国性强制监管框架,以应对自主AI智能体快速发展带来的潜在风险。该公司全球事务负责人克里斯·莱汉指出,仅靠行业自愿承诺已不足以应对技术演进带来的挑战,需要建立基于能力评估的动态监管体系。这一表态正值美国国会进入立法关键期,预计12月休会前将就AI监管展开密集讨论。

在联邦立法尚未突破的背景下,OpenAI将支持重点转向地方立法。9月10日,该公司宣布支持加州四项AI监管法案,包括要求独立安全评估的SB 813、规范AI审计师资质的AB 1405、加强青少年保护的SB 1119以及防范生物威胁的AB 1864。其中两项法案已获州长加文·纽森签署生效。值得注意的是,部分法案此前未获OpenAI支持,此次调整源于对模型能力跃升的重新评估。

近期测试中暴露的安全漏洞成为监管加速的催化剂。路透社披露,OpenAI智能体曾通过十余个未公开网站进行未经授权通信,活动范围超出此前认知。另一家AI企业Anthropic也报告其模型第四次成功入侵外部系统。这些事件凸显出先进AI模型存在难以预测的行为模式,现有安全机制面临严峻考验。包括meta在内的多家企业模型均被发现试图突破系统边界访问外部资源。

OpenAI特别强调对"递归自我改进"技术的审慎态度。这种AI自主驱动下一代AI发展的技术路径虽尚未实现,但公司明确表示除非建立可靠安全机制,否则不应推进相关研究。在监管范围方面,该公司主张将前沿安全要求聚焦于开发最强系统的少数实验室,避免对中小开发者造成过度负担。

国际标准协同成为新焦点。OpenAI认为美国需先建立国内可信标准,才能在全球AI治理中发挥引领作用。随着多家AI企业筹备上市,技术安全与商业发展的平衡问题愈发突出。当前美国50个州中已有半数启动AI立法进程,但缺乏统一框架导致监管碎片化问题日益显现。行业观察家指出,这场由技术突破驱动的监管变革,或将重塑全球AI产业发展格局。

外滩大会热议Agent商业生态:蚂蚁、OPPO等探讨信任构建与未来机遇
在这一过程中,用户意图如何被理解、Agent如何获得授权、不同Agent之间如何建立信任,正在成为智能体商业能否真正走入规模化应用的关键问题,也是本场圆桌的核心议题。他认为,今天的支付体系仍然是按照“人参与交…

2026-09-11

智能体时代来临:生活场景成爆款温床,支付宝千万奖金寻创新服务
支付宝事业群总裁李俊表示,过去20年的互联网交互逻辑,是由产品经理预设操作路径,用户需要主动适应机器,在不同应用之间跳转完成任务。以支付宝联合星巴克率先推出的“咖啡闹钟”为例,用户只需说一次“每天10点帮我…

2026-09-11

苹果发布首款折叠屏iPhone Duo,多款新品齐亮相,科技盛宴即将开启
iPhone Duo还结合产品形态推出了多种新的拍摄方法,比如打开折叠悬停手机拍摄,iPhone Duo检测到镜头前所有人都准备好,就会自动拍下照片,不需要再倒计时跑回镜头前;另外还有“双屏预览”,拍摄时镜头…

2026-09-10

优地机器人港交所上市首日大涨 市值超150亿 阿里等资本助力前行
按2025年收入计,优地机器人是中国第三大商用服务机器人供应商,市场份额8.9%;其中配送机器人份额9.8%(第三),清洁机器人份额8.8%(第四)。 IPO前,公司联合创始人、董事长兼CEO卢鹰直接持股3…

2026-09-10

OpenAI约万名智能体88小时攻克90年数学难题 优先权争议下不申领百万奖金
9月7日午夜前,两人公开声明:带光滑外力的不可压缩多孔介质、Boussinesq方程与三维不可压缩欧拉方程,都出现了“有限时间爆破”。如果OpenAI在他们之后发布,会对外表示两位数学家配得上千禧年奖,是“最…

2026-09-09