17cccg吃瓜网


OpenAI关键安全性团队解散,还签订了密封协议书!

伴随着首席科学家库迪亚的离去,OpenAI关键安全团队“非常两端对齐”被曝出散伙。与此同时,一份“密封协议书”也把OpenAI推上风口浪尖。

5月14日,OpenAI创始人、首席科学家库迪亚·苏茨克维(Ilya
Sutskever)公布辞职,几小时后,非常两端对齐团队负责人杨·菜克(Jan Leike)对外宣布辞职。

据媒体报道,伴随着二位领导干部离去,非常两端对齐精英团队已经被散伙,将纳入别的科学研究工作中。知情人士透露,重视AI系统优化的职工早已对企业CEO尼克·奥特战士(Sam
Altman)领导失去自信。

与此同时,OpenAI也被爆出激励员工在离职时签定含有“不抵毁服务承诺”的离职协议,假如回绝签定就要舍弃企业股份。

5月19日,奥特战士出文认可这一条文并道歉称已经在改动,“假如一切签定过这种旧合同的前员工对此感到担忧,可以联系我,我们还会解决这些问题。”

OpenAI核心安全团队解散,还签了封口协议!

OpenAI被爆出的“不抵毁协议书”

奥特战士回复称:“我们从未取回任何一个人不仅利益,假如我们不签订协议(或不愿意不抵毁协议书),我们也不会这么做。不仅利益便是不仅利益。”

他指出,文档含有一项关于潜在性股份撤销相关条款,“虽然我们从未取回其他东西,但是这决不应该是我们在所有的文件和通讯中提及内容。这件事是我的错,都是我来为管理方法OpenAI而觉得的极少数难堪之一;我也不知道出现了这种事情,可我要了解。大概在以往一个月的时间里,研究团队已经开始修补规范辞职公文……对此我深感抱歉。”

“密封协议书”以外,安全性工作人员的陆续离去,引起大众的更高忧虑。OpenAI的世界级两端对齐精英团队主要职能对研制的AI进行评价并督促,避免AI迈向无法控制局势。

菜克在宣布辞职后,同样在X(推文)发帖子痛斥OpenAI及领导阶层“高度重视光鲜的商品,企业安全文化和程序不会再获得重视”。

他指出:“OpenAI务必成为一家安全第一的AGI(通用人工智能)企业……辞掉这一份工作就是我做过最困难的事情之一,只要我们急需解决搞清楚怎样帮助与控制比我聪慧得多人工智能系统。但是,我和OpenAI领导阶层在公司的核心优先事项上出现分歧已有一段时间,直到我们最后达到零界点。”

杨·菜克的推文

菜克还强调:“我坚信我们要资金投入更多精力来为下一代实体模型充分准备,关心安全系数,监管,充分准备,让AI具备竞技性的可扩展性、(非常)两端对齐,关心安全性、社会效应等相关主题。各种问题很难做到对,我很担心我们并没有向着恰当的方向前进。”

埃隆马斯克同样在菜克的推文下回复说:“安全隐患在OpenAl并非头等大事。”

那时,OpenAI首席总裁格雷戈里·布罗克曼(Greg
Brockman)曾发布与奥特战士一同署名的回应表示,“一直在为安全性布署作用日渐强大的软件打下基础”,自此将依据布署全过程中吸取教训,不断完善实体模型行为表现乱用监管,“今后将比以往更加艰难。大家要不断提高安全工作中,以满足每一种新模式的风险性。”

文中提到:“大家还没确定何时会做到公布的安全标准,假如这时候延迟公布时刻表也无所谓……我们将继续根据不同的时间段开展安全研究。大家将进一步与政府与很多相关者就安全隐患进行合作。”

回复中也坦言:“现在还没有切实可行的对策具体指导怎样迈向AGI,对于我们来说工作经验了解能够帮助引导前进的道路。我们坚信大家既可以完成巨大的优势,又可努力降低比较严重风险。我们很认真地对待我在这里所扮演的角色,并仔细衡量对行为反馈。”

之前的2023年底,奥特战士曾经被OpenAI股东会辞退。据媒体报道称,导火线是几位科研人员写信给警告说一项强悍的AI(人工智能技术)发觉很有可能危及人们。但是在700多名员工威协离职及其微软中国等多重压力之下,奥特战士很快就重回OpenAI出任CEO,并组建了新股东会。

据知情人士透露,OpenAI技术总监琪亚·穆拉蒂(Mira
Murati)曾告知职工,一封有关Q*(音标发音为Q-Star)AI实现突破的信函促进股东会实施了辞退行为。

OpenAI在Q*上取得的进展,让部分公司内部人员坚信,这应该是她们寻找“智能(即AGI)”的创新。OpenAI将AGI界定为“比人类更聪明的AI系统软件”。

未经允许不得转载:17cccg吃瓜网 » OpenAI关键安全性团队解散,还签订了密封协议书!

17cccg吃瓜网 带给你想要内容

联系我们