OpenAI 安全系统团队负责人翁荔宣布离职,高管离职潮仍未结束

aixo 2024-11-10 08:08:48
大模型 2024-11-10 08:08:48

翁荔的技术博客深入、细致,具有前瞻性,被很多 AI 研究者视为重要的参考资料。如今,她离开了 ,开启新的征程。而且她表示,之后可能有更多时间频繁更新博客。

自从 Sam 重新执掌 以来,该公司就陷入了持续不断的高管离职潮中。虽然近段时间有些外部新高管加入,但很显然这个离职潮仍未结束。

就在刚刚, 安全系统团队负责人翁荔( Weng)在 X 上宣布将离开已经工作了近 7 年的 。同时,她还公开分享了发给团队的离职信,不过其中并未明确说明她接下来的职业计划。

推文发布后, 内外的一些知名人士为其送上了祝福,包括著名研究科学家 Noam Brown、 首席信息安全官 Dane 、思维链提出者 Jason Wei 等等。

当然,许多网友也纷纷送上了自己的祝福,毕竟她不仅在 推动了安全相关的研究和实践,偶尔更新的博客 Lil’Log 也实实在在地帮助了很多人。

Weng 博客地址:

以下是她与团队分享的离职信的中文版:

亲爱的朋友们,

我做出了离开 的艰难决定。11 月 15 日将是我在办公室的最后一天。

是我成长为科学家和团队领导者的地方,我将永远珍惜与我一路共事和结交的朋友在一起的时光。 团队一直是我的知己、老师,也是我身份认同的一部分。

我还记得 2017 年 的使命让我多么着迷,一群人梦想着一个不可能实现的科幻未来。在这里,我一开始研究的是全栈机器人难题 —— 从深度强化学习算法到感知再到固件 —— 目标是教会单台机械手如何解决魔方问题。整个团队花了两年时间,但我们最终做到了。

当 进入 GPT 范式,我们开始探索将最佳 AI 模型部署到现实世界的方法时,我组建了第一个应用研究( )团队,推出了微调 APl、嵌入 APl 和审核端点的初始版本,为应用安全工作奠定了基础,并为许多早期 API 客户提供了新的解决方案。

GPT-4 发布后,我被要求接受一项新挑战,重新考虑 安全系统的愿景,并将工作集中在一个拥有完整安全椎栈的团队之下。那是我曾做过的最困难、压力最大又最激动人心的事情之一。现在,安全系统( )团队有超过 80 位出色的科学家、工程师、产品经理、政策专家,而且我为我们作为一个团队所取得的一切成就感到非常自豪。我们一起成为了每次发布的基石 —— 从 GPT-4 及其视觉和 turbo 版本到 GPT Store、语音功能和 o1。我们在训练这些模型使其既强大又负责任方面所做的工作为行业树立了新的标准。我为我们在 o1- 模型方面取得的最新成就感到特别自豪,它是我们迄今为止最安全的模型,在保持其实用性的同时,表现出对越狱攻击的卓越抵抗力。

我们一起取得了令人瞩目的成就:

回顾我们所取得的成就,我为安全系统团队的每个人都感到骄傲,我非常有信心团队将继续蓬勃发展。我爱你们❤️。

现在,在 工作了 7 年后,我准备重新开始并探索一些新东西。 正处于火箭般的增长轨迹上,我只希望这里的每个人都一切顺利。

附言:我的博客还在,会继续下去。我可能很快就会有时间更频繁地更新它,也可能会有更多时间来编程;)

爱你们的,

Weng 介绍

Weng 是 华人科学家,她 2018 年加入 ,参与了 GPT-4 项目的预训练、强化学习 & 对齐、模型安全等方面的工作。她本科毕业于北大,曾前往香港大学进行短期交流,博士毕业于印第安纳大学伯明顿分校。

根据领英资料显示, Weng 在 已经工作了近 7 年时间,担任安全研究副总裁一职。

2021 年 - 2023 年工作期间, Weng 建立并领导了应用人工智能研究团队,包括产品研究、合作伙伴研究和应用安全,从而使得 的 API 更强大、更实用、更安全。

之前,她还是 机器人团队的技术主管,专注于训练关于机器人任务的算法,如教机械手如何解决魔方、旋转方块等。

在加入 之前,她还在 、 从事软件工程和数据科学方面的工作。

显示, Weng 论文引用量超过 13000 多次。

闲暇时间, Weng 还写了一些关于 AI 的博客文章,她的博客深入、细致,具有前瞻性,被很多 AI 研究者视为重要的参考资料(见文末「扩展阅读」)。感兴趣的读者可以前去阅读。