OpenAI 变革：从科技旗手到利润导向，如何确保 AI 安全？

腾讯科技讯 9月4日消息，据外媒报道，作为科技行业进军AI的旗手，正在努力转变成一家以利润为导向的公司，并同时满足大家对AI安全性的需要。目前正在对管理团队甚至组织方式进行重大变革，希望有助于它从一些富可敌国的公司那里获得投资。

图： 首席执行官山姆·奥特曼招募了一批经验丰富的科技高管。

在过去数月中，AI在线聊天工具的开发商聘请了一批科技高管、虚假信息甄别专家和AI安全研究人员。此外还增加了七名董事会成员，其中包括一名掌管过美国国家安全局（ ）的四星陆军上将。同时，该公司也在努力确保其AI技术不会对人类造成严重危害。

也在与 微软、苹果、英伟达和投资公司这样的投资者进行谈判，以达成一项对其估值达1000亿美元的交易。正在考虑改变其公司结构，以便增大对投资者的吸引力。

作为一家位于旧金山的初创公司，其管理层和一些顶级研究人员之间经历了长期的公开冲突，但现在它正在努力把自身形象转变得比较严肃老成，做好引领科技行业向AI进军的准备。去年，围绕公司首席执行官山姆·奥特曼 （Sam ）管理方式的斗争非常令人瞩目，现在也试图将淡化相关冲突。

但是，媒体对20多名现任和前任员工和董事会成员的采访表明，这种过渡相当困难。一边是新员工和新高管在涌入，一边是公司的早期员工仍在流失。快速增长并没有解决 “应该是什么”这个根本问题：它究竟是为人类的利益而创建的尖端AI实验室，还是一个致力于利润的抱负远大的行业巨头？

新高管就位，老员工流失

目前拥有1700多名员工，其中80%是在2022年11月发布之后入职的。奥特曼和公司其他高层主持了新高管的招聘工作，而新任董事长、前高管布雷特·泰勒（Bret ）则负责监督董事会的扩张。

“虽然初创企业必须随着其影响力的增长而自然发展和调增，但我们意识到正在以前所未有的速度经历这一转型，”泰勒在媒体的一份声明中表示，“我们的董事会和 的专业团队仍然专注于安全地构建可以为每个人解决难题的AI。”

一些新高管曾在其他科技公司担任重要职务。的新任首席财务官莎拉·法瑞尔 （Sarah Friar）曾是的首席执行官。的新任首席产品官凯文·威尔（Kevin Weil）曾担任的产品高级副总裁。本·尼莫（Ben Nimmo）曾在领导过与欺骗性社交媒体活动的斗争。华金·坎德拉（ ）曾负责监督降低AI风险的努力。现在，这他俩也在担任类似的角色。

上周五还表示，克林顿担任总统时期的白宫资深人士克里斯·勒汉（Chris ）将成为该公司全球政策负责人。他之前曾在担任高级职务，于今年加入了。

但是，在2015年底一起创立的13人中只剩下了三人，当时他们的使命是创造通用人工智能（AGI） ，一种可以做人脑能做的任何事情的机器。这三人中有一位是公司总裁格雷格·布罗克曼（Greg ），他已经请假到年底，理由是在工作了近十年后需要休假。

“这样的人员增减是很常见的事情，但我们正处在聚光灯下，一切都被放大了。”的首席战略官杰森·权(Jason Kwon) 说。“扩大公司规模真的很难。你必须一直进行权衡。有些人可能不喜欢这些决定。扩大规模会让事情复杂得多。”

从最初的非营利性研究实验室开始，的宗旨就一直处于争论之中。2018年，公司主要支持者马斯克（Elon Musk）在与其他创始人发生争执后离开。2022年初，一群主要研究人员担心商业力量在不成熟的时候就将的技术推向市场，于是自己成立了AI公司，成为了的竞争对手。

出于类似的担忧，的董事会在去年年底突然解雇了奥特曼。但五天后又恢复了他的职务。

有些员工质疑奥特曼，有些员工不想建立一家常规科技公司更想从事尖端的研究。另外还有一些矛盾，比如曾试图从公开发声批评公司的员工手里收回 的股票，这些股票可能价值数百万美元。结果导致一名研究人员愤而离职 ，此后撤销了这种做法。

的两大驱动力

是由两种力量驱动的，这两种力量并不总是相容。

一方面，该公司是由很多、很多金钱驱动的。一位知情人士表示，该公司的年营收现已超过20亿美元。每周有超过2亿用户，是9个月前的两倍。目前尚不清楚该公司每年的支出是多少，但据估计有70亿美元。微软已经是的最大投资者，投资额高达130亿美元。

但正在考虑对公司结构进行重大变更，以寻求更多投资。目前，最初的 董事会（作为一个非营利组织成立）控制着该公司，投资者没有进行官方干预。三位知情人士透露说，作为新融资讨论的一部分，正在考虑做出改变，使公司结构对投资者更具吸引力。目前新的结构尚未确定。

的另一股驱动力量是许多AI研究人员（包括一些员工）对技术的担忧。他们认为这些技术可能有助于传播虚假信息、推动网络攻击，甚至摧毁人类。这种紧张关系导致了去年11月的一场冲突，当时包括首席科学家兼联合创始人伊利亚·萨茨克弗（Ilya ）在内的四名董事会成员罢免了奥特曼。

奥特曼重新获得公司的控制权后，公司上空笼罩着一片乌云。萨茨克弗没有再回工作。

萨茨克弗博士曾与另一位研究人员延·雷克（Jan Leike）一起在建立了的团队，旨在探索一些方法来确保公司未来的技术不会造成危害。

今年5月，萨茨克弗博士离开了，创办了自己的AI公司。很快雷克博士也离开，加入了。“安全文化和流程已经让位于亮闪闪的产品了。”他说。

图：萨茨克弗博士5月离开，创办了自己的AI公司。

其他一些人也跟随他们走出了的大门。

“我仍然担心和其他AI公司没有适当的计划来管理他们筹集了百亿美元以构建的尖端AI系统的风险，”最近离开该公司的研究员威廉·桑德斯（ ）说。

萨茨克弗博士和雷克博士的离开后，将他们的工作转移给另一位联合创始人约翰·舒尔曼（John ）。之前的团队聚焦于多年之后可能发生的危害，新团队探索了近期和长期的风险。

聘请了法瑞尔女士担任首席财务官（她之前在担任过相同的职位），威尔先生担任首席产品官。

图：为推出了一项新功能，名为“代码解释器”。

一些前高管因签署了保密协议而要求匿名接受采访，他们认为之前的麻烦未必就烟消云散了。其中三人提到了亚历山大·马德利（ Madry），他曾经在领导的团队旨在探索灾难性的AI风险。对于他和他的团队如何融入更大的组织出现了一些意见分歧之后，马德利博士转向了另一个研究项目。

随着一些员工离职，他们被要求签署法律文件——如果他们公开批评公司，他们将失去的股票。这在员工中引发了新的担忧，即便后来公司撤销了这种做法，担忧也没有消散。

6月初，研究员托多尔·马尔科夫（Todor ）在公司的内部消息系统上发布了一条消息，宣布他因为公司的这种做法而辞职。

他说，的领导层在这个问题上一再误导员工。正因为如此，他觉得不能相信公司的领导层会建立通用人工智能AGI ——这与公司董事会在解雇奥特曼时所说的话是一致的。

“你经常谈到我们有责任安全地发展AI，并广泛地分配它带来的裨益，”他写道。“我们如何相信你能承担起这个责任？”

图：美国国家安全局前主管、退役将军保罗·中曾根是董事会的几名新成员之一。

几天后，宣布美国退役陆军将军保罗·中曾根（Paul M. ）加入其董事会。近日在一次采访中，有人问他如何看待这个新环境。

“有些人觉得我是刚接触AI，其实我对AI并不陌生，“他在接受电话采访时说。“我管理过美国国家安全局。多年来，我一直在处理相关事情。

上个月，在主持新的安全工作的联合创始人舒尔曼博士也从公司辞职，加入了 。他表示想重新回到可以“亲自动手”的技术工作上。

本文来自“腾讯科技”，作者：云开，36氪经授权发布。