2025-06-15 13:13:30 | 来源: AICG工具箱
原本以为平静的周末,没想到OpenAI的「宫斗大戏」即将开启第二季。
本周二,原OpenAI首席科学家Ilya Sutskever官宣离职,一同出走的还有Ilay的铁哥们、去年在公司内部成立的「超级对齐团队」负责人Jan Leike。
Jan Leike曾任OpenAI的安全主管。也是「超级对齐团队」的项目目前主要的负责人,在Ilya Sutskever远程办公的最近半年时间内,他一直充当中间人的角色。
「超级对齐团队」的诞生,被认为是CEO奥特曼推进商业化与Ilya推进AI安全建设之间的对立矛盾的标志性事件。
所谓“超级对齐”,就是让AI与人类的思维能力无限接近,以确保AI不会越界做出对人不利的事情。
刚离职,Jan Leike很快发文向奥特曼发难:
①OpenAI必须转型为一家将「安全」放在首位的AGI研究公司
②放弃这份工作是人生中最艰难的决定之一
③在公司核心发展重点的问题上与OpenAI领导层长期存在分歧
除此之外,外媒Vox同时曝出了OpenAI极其严苛的离职保密协议。
——OpenAI员工离职前必须签署保密和不诋毁条款。该协议禁止他们终身批评OpenAI,如果离职员工拒绝签署文件或违反协议规定,他们可能会失去在公司工作期间获得的所有报酬,这可能价值数百万美元。
目前不知道Jan Leike和Ilya是否也签署了类似的协议。
事实上,在去年11月的「宫斗大戏」上演之前,Ilya Sutskever曾接受专访表示,目前他的首要任务并不是构建下一代的GPT大模型或者其他AI大模型,而是搞清楚如何阻止“无赖的超级人工智能”。
IlaySutskever深信,ChatGPT“可能存在意识”,全世界需要知道他的公司和其他公司创造出技术力量的真相。
在IlyaSutskever看来,AI与人类的关系应该是子女与家长的关系,人类有责任“教导”人工智能符合社会价值观。
相反的,受迫于商业化压力的奥特曼则多次否认ChatGPT存在安全风险,并且强调OpenAI致力于AI安全的全球监管。
对于Jan Leike的发难,奥特曼简单回应:我要去写小作文。
第二季的剧情即将上演,瓜子板凳安排上嘞~~
热门榜单
星火绘镜
常用AI百度文库AI智能助手
常用AI快影
常用AI星火文档问答
常用AI小冰岛
常用AIKrea AI
常用AI即梦AI
常用AIPika AI
常用AI秘塔AI搜索
常用AI热门资讯
快手APP上线首个AI社交技能:「AI小快」聊天机器人,成为评论区的欢乐喜剧人
04-13美图秀秀推出类似Photoshop的“AI扩图”功能,一键全自动,更适合中国宝宝体质
05-26国产最强文生视频模型「可灵」首发:直出2分钟超长视频,生成质量完胜OpenAI Sora丨免费体验
02-25苹果iPhone 15搭载的A17 Pro芯片的AI运算能力比上一代提升2倍,本地端侧算力“遥遥领先”
05-16商汤AI视频生成器如影使用方法_如影使用教程_AI视频生成测评
01-07controlnet怎么安装_controlnet怎么使用?
01-16怎么开通ChatGPT PLUS_GPT PLUS怎么开通_开通GPTs方法有哪些
01-21手机怎么运行stable diffusion
01-24怎么使画面与众不同_chaos指令有什么用
01-28库克回应「苹果AI」国服上线时间丨苹果发布iOS 18.2开发者测试版接入ChatGPT丨Runway推出一键表情复制功能
02-02