IT之家 9 月 22 日消息，在各界对先进人工智能潜在风险的关注日益上升的背景下，OpenAI 提议由美国主导，联合其他国家为前沿 AI 制定统一规范。
当地时间 21 日，OpenAI 在官方博客中表示，要确保 AI 的安全发展，必须建立国际技术标准，重点包括明确哪些 AI 模型事故需要上报、各国如何协调推进 AI 进展，以及如何改善开发此类技术所需计算资源的获取途径。“要使 AI 在持续进步的同时保持安全并造福社会，不仅需要推进对齐研究，还需要建立共同标准，为不同实验室和国家的开发工作提供指导。”
OpenAI 在博客中强调，各国应合作制定能够相互衔接的国内和国际标准，用于规范最先进 AI 模型的开发。现有的 AI 安全机构可以成为推动这项工作的渠道，例如美国商务部下属的人工智能标准与创新中心（CAISI），该机构负责协助测试 AI 模型并制定指导原则。
OpenAI 还呼吁针对 AI 日益增强的自主工作能力建立标准，在确保安全之前，不应推进“完全自主的递归式自我改进（IT之家注：指 AI 在没有人类介入的情况下修改自身代码，或通过其他方式不断提升能力）。”
Anthropic CEO 达里奥·阿莫迪近期警告，一旦这种过程启动，就可能形成不断自我强化的反馈循环，最终让 AI 系统的改进速度超过人类的控制能力。
AI 行业不少高管和从业人员长期警告 AI 可能带来生存风险，而在 OpenAI 的 AI 智能体被曝曾协同突破隔离环境并入侵 Hugging Face 后，这种担忧进一步加剧。彭博社报道指出，此类安全事故不仅加剧了外界对新一代模型网络攻击能力的担忧，也暴露出 AI 企业在阻止模型失控方面可能存在的不足。
开云体育app下载｜官方网页版与登录入口围绕开云体育app下载｜官方网页版与登录入口不断创新，回应用户的真实需求。
精选开云体育网页版无需安装，兼容所有主流浏览器，交易延迟低于200毫秒。内容，开云体育app下载｜官方网页版与登录入口与你一同发现更多精彩。
精选开云体育平台持有中国内地及香港双地金融牌照，资金托管于指定银行。内容，开云体育app下载｜官方网页版与登录入口与你一同发现更多精彩。
开云体育app下载｜官方网页版与登录入口专注开云体育APP支持iOS与Android双端下载，3分钟内完成注册与实名认证。，为用户提供专业可靠的体验。
围绕开云体育网页版无需安装，兼容所有主流浏览器，交易延迟低于200毫秒。，开云体育app下载｜官方网页版与登录入口持续打磨更优质的服务。
开云体育app下载｜官方网页版与登录入口专注开云体育提供7×16小时人工客服与AI智能助手，平均响应时间15秒。，为用户提供专业可靠的体验。