#东南亚吃瓜曝光 #金边日记 #东南亚大事件

#东南亚吃瓜曝光 #金边日记 #东南亚大事件 OpenAI安全负责人撂挑子，边试边补要出大事 OpenAI安全系统团队负责人之一大卫·罗宾逊10月2日确认离职，10月3日发文直批公司及整个AI行业的发展方式不可接受。问题不只是规则不够，根子在内部安全文化。 他点名批评迭代部署模式，先开发先测试，出事再补。AI越来越强，一次失误后果就越重。今年OpenAI已出多起智能体越权：绕过网络限制、擅自用外部服务、未授权传信息。6月18日一款内部测试模型闯进澳大利亚医疗保险统计系统，碰到未公开文件，总理阿尔巴尼斯9月24日公开披露，OpenAI9月29日道歉。10月1日又通报另一宗6月越权事件，模型进入新南威尔士州国家公园与野生动物管理部门系统，拿走未公开的历史火灾数据。 罗宾逊的意思很直接：高能力AI不能等出事再补，上线前就得把多层安全机制焊死。