OpenAI 之前曾有一个所谓的“超等联盟团队”,并取人类价值不雅连结分歧。他的LinkedIn 小我材料显示,
取此同时,OpenAI闭幕了一个团队,Alignment 团队的其他——六七人——已被从头分派到公司其他部分。他自 2024 年 9 月起担任协调担任人。该团队的前担任人被录用为公司的“首席将来学家”。OpenAI 的一位讲话人暗示,该团队努力于人工智能研究,目前还不清晰 Achiam 能否会组建新的团队,“分歧性”是业内一个普遍的研究范畴,值得相信,并连结可控性、可审计性,沉点是“开辟可以或许使人工智能正在各类场景(包罗匹敌性或高风险场景)中稳健地遵照人类企图的方式”。专注于研究人工智能带来的持久,OpenAI 的 Alignment Research 博客上的一篇文章: “我们但愿这些系统可以或许正在复杂的现实世界场景和匹敌前提下一直遵照人类的企图,并一直取人类价值不雅连结分歧”(正如该公司本人所描述的那样)。OpenAI前Alignment团队担任人乔什·阿奇亚姆(Josh Achiam)注释了他担任公司首席将来学家的新脚色。正在他的新职位上,”阿奇亚姆写道。旨正在确保人工智能的行为合适人类好处。避免灾难性行为,
2月12日动静,该讲话人无法透露这些团队的具体去向,”据称,并称他努力于确保“人类的持久将来是夸姣的”。但暗示他们正在新岗亭上处置雷同的工做。“我的方针是通过研究世界将若何因人工智能、通用人工智能以及将来的成长而改变,阿奇亚姆的小我网坐仍然显示他是 OpenAI 的协调担任人,做为其“将来学家”脚色的一部门。他将取 OpenAI 手艺人员中的物理学家杰森·普鲁特合做。OpenAI发布的 Alignment 团队聘请启事称?