按 Enter 搜索 · ESC 关闭

AI × Crypto

OpenAI引入四家独立机构开展嵌入式AI安全评估

11月17日,OpenAI宣布与Apollo Research、Goodfire、METR和Transluce四家独立机构合作,启动首阶段嵌入式安全评估,允许外部专家访问内部模型、源代码、训练数据及监控系统,审查模型对齐和安全防护措施。其中Apollo Research重点评估模型是否会暗中违背开发者意图,Goodfire研究模型内部机制及训练监控,METR审查大规模强化学习训练中的模型失调行为,Transluce评估后训练阶段的安全测试质量。评估人员必要时进入OpenAI办公场所,通过专用设备访问敏感资料,OpenAI基金会董事会下属独立监督委员会将全程监督并接收完整报告。

分享本文

相关快讯

Cointime 分享卡片
长按上方图片 → 保存到相册 / 转发分享
寻求报道 加入社群 意见反馈