奥尔特曼最新MIT访谈：10年后，OpenAI将产生真正提高经济价值的AI系统｜钛媒体AGI

 （图片来源：钛媒体App编辑截图自微软线上活动）

钛媒体App 5月5日消息，OpenAI CEO奥尔特曼（Sam Altman）近日在美国麻省理工学院（MIT），与MIT院长Sally Kornbluth 进行了一场对话，主要谈及他对 AGI 技术发展的设想。

奥尔特曼表示，AI 是人类进步的核心引擎，核聚变将为未来产生“能源动力”。同时，当前新一轮生成式 AI 时代下，是所有人开始新职业生涯、创立新 AI 公司的最佳时机。

奥尔特曼指出，AI 系统可以提高人们的工作效率，但同时，随着 AI 加速变革，计算成本也将急剧下降，接近能源成本，从而解决“贫富不均”这一核心矛盾。“如果（AI）成为每个人免费获得的东西，那对穷人的帮助应该比富人更大。”

奥尔特曼强调，AGI这个词被使用到“过度泛滥”了。他希望十年后（2030年），OpenAI能创造出真正产生显著（提高）经济价值的（AI）系统。

钛媒体AGI编辑围绕 AI 未来趋势、AI 治理以及人类智能展望三部分，梳理此次奥尔特曼1小时访谈实录。

AI 是人类进步的核心引擎

奥尔特曼曾表示，从技术创新和功能迭代来看，人类远远没有达到 AI 的极限，ChatGPT有潜力以“指数方式提高生产力”。

Sally Kornbluth首个问题是，AI 真的能消灭所有人类生命，并在“世界末日”场景中结束吗？

奥尔特曼笑着回应称，这不是一个形式不正确的问题（badly formed question）。

奥尔特曼表示，假设 AI 是一个静态系统，因此他认为人类需要做的是找到一种让未来变得伟大的方法，并非在某种程度上让“末日来临”。更应该关心的重要问题是，我们需要怎样做出能确保安全的 AI 技术。

谈到 AI 发展至今的心理变化，奥尔特曼认为，10年前，他对 AI 可能只是有一个“很天真的概念”，希望这种“生物”可以解决一些事情。而现在，他认为 AI 与任何其他技术革命一样，是最大、最好、最重要和最核心的发展利益。

“我们在人类的科技树上有一个新的工具。人们用它来创造令人惊叹的东西。我认为随着时间的推移，它将继续变得更加强大，更加自主。但即便如此，我认为它也会以一种重要的、变革性的方式融入社会。”奥尔特曼称。

奥尔特曼强调，AI 科技是人类进步的核心引擎，也是推动可持续经济增长的唯一路径。

“人们并不满足于GPT-4。他们想要GPT-5，他们想要事情变得更好。每个人都想要更多更好更快。而利用 AI 提高科学能力，是我们到达那里的方式。AI 能够做到最伟大的事情。我个人最希望它能对科学产生影响，如果我们制造一个伟大的 AI 工具，可以帮助人们解决他们面前的任何问题，可以帮助人们以新的方式进行推理。这对消费者，对科学家，对企业，对教育都有好处。”奥尔特曼称。

当被问及GPT-5何时发布时，奥尔特曼一如既往地未进行正面回应，只是表示GPT-5、GPT-6性能将更加强大，OpenAI将它们打造成为全球最好的推理引擎。

“不知何故，我认为，如果明天AGI建成，你问我第二天会发生什么，10年前，我会说，真的无法想象它能够实现‘奇点’变化，一切都突然变得不同了。我现在认为它根本不会像那样。在某些方面，我对此既过于乐观，同时又过于悲观。”奥尔特曼暗示，AI 将不会比人类更加聪明。

奥尔特曼强调，OpenAI是开放（Open）的。他希望OpenAI将创造出一个伟大的、免费、人人可用的 AI 工具，希望未来会有数十亿人使用它。团队不做广告，只是把它作为一项公益事业来做，因为他认为把工具交到人们手中很重要。

“我们希望，它可以广泛使用，非常容易使用，非常有帮助。我觉得这是件很酷的事。”奥尔特曼称。

“GPT将比人类有更少的偏见”

随着2022年11月发布的ChatGPT风靡全球，关于 AI 使用大量英文数据引发关注。很多人认为，以英语优先的AI无法反映其他文化。

据非营利组织“民主与技术中心”（CDT）发布的关于AI偏见的报告显示，尽管全球只有16%的人口使用英语，但英语网站却占全球网站的63.7%。报告认为，这种（对某种语言的）偏向未能反映全球互联网用户所使用语言的多样性，并进一步延续了英语的主导地位。

此外，世界经济论坛引述一项国际研究团队研究成果显示，AI聊天机器人有“加法偏见”。算法偏向于使用含加法而非减法的词汇表述，而这也符合长期以来的语言趋势。在表达改善某事物时，包含加法的词汇出现更频繁，含义也更为积极。

去年美国参议院委员会的听证会上，奥尔特曼被质疑该工具偏向英语使用者。他表示该公司“同样重视”保障其他文化也被纳入其中。

此次MIT对话当中，奥尔特曼再次重申，OpenAI的ChatGPT对于消除偏见问题做的已经足够好了，对于价值观的对齐已经在逐步改善。

“我认为我们已经取得了令人惊讶的良好进展，我们能够根据一套特定的价值观来调整系统行为。GPT-4的表现相当不错，我们能够让它遵循（价值观），至少比我想象的要好。同时，这也涉及到一个更难的问题，即谁来决定偏见的含义和价值观的含义？我们如何决定系统应该做什么？社会在多大程度上界定了边缘的广阔边界？我认为，让人们对如何使用这些工具有很大的控制权是很重要的。即使这意味着他们可能会以你、我并不总是喜欢的方式使用它们，我们必须集体协商这些是什么，有些事情是系统不应该做的等。”奥尔特曼称。

奥尔特曼强调，人类显然是非常“有偏见的生物”，而且往往没有意识到这一点。所以他认为，OpenAI系统可以比人类有更少的“偏见”。

奥尔特曼坦言，未来人类将拥有一个“个性化 AI”，它知道你读过每一封电子邮件，每一条短信，每一条你发送或接收的信息，可以访问你生活的完整记录，知道你看过的每一个文件，你读过的每一个电视节目，你说过、听到、看到的每一件事，你可以想象这将是一件非常有帮助的事情。但这也会出现隐私问题，所以 AI 隐私问题需要与效用产生平衡。

“我不知道大多数人在哪里做权衡。我不知道我们会说什么或喜欢什么，即使是在骨子里也是允许的。我们之前遇到过一些问题，关于我们如何用一些隐私来换取我们所有人都使用的服务的实用性。但这可以走得很远。有了 AI，我们必须与互联网协商所有这些事情，关于我们如何看待隐私的事情，我们如何看待在线广告的事情，当你将它们与人工智能交叉时，就会变得更高的赌注和更大的权衡，我认为我们将开始真正面对此事。”奥尔特曼称，GPT-4确实可以像数据库一样工作，但它不能这样做，而且很慢、很昂贵、很不好用，OpenAI希望制作一个像“推理引擎”一样的模型，而且从所有需要的大量数据中分离出来，或者将数据存储在那里，以解决隐私问题。

另外，就未来的进步而言，AI 计算成本将急剧下降，接近能源成本，因此对于能源与 AI 的关系变得更加重要。

对此，奥尔特曼直言，AI 确实需要大量能源，但相对于世界其他地方的（能源）需求来说并不是很大。如果 AI 只是花费世界上1%的电力培训强大 AI，并且 AI 帮助人类弄清楚如何获得非碳基能源或更好地进行碳捕捉，这将是一个巨大的胜利。即使我们没有做到这一切，但如果我们华仔 AI 1%的计算，也可以让人类生活的更好。

“我读到一篇，关于谷歌曾经使用的计算机与人们过去花在开车上的碳排放量比较，有人说谷歌太可怕了，我们应该关闭它。从理智上讲，这是一件非常不诚实的事情，因为我认为这是能源的净节约。很明显，一般的互联网。它让我们为远程办公所做的事情，可能也是一种节省。所以对于像 AI 来说，它将需要大量的能量，我们将继续寻找更高效的算法，更高效的芯片，我们会得到核聚变，我们要用这种方式为 AI 提供动力。所以我们会以新的方式解决这些问题。我认为，教育年轻人的方式不应该是——世界彻底完蛋了、试图解决问题是没有希望的、我们所能做的就是坐在卧室里、在黑暗中思考我们有多糟糕——这是一种非常没有成效的倾向。”奥尔特曼坦言。

奥尔特曼强调，未来几年后，我们（OpenAI）会同时解决 AI 带来的偏见、能源问题，这两方面都将取得了很大进展。OpenAI的目标是，使 AI 成为一个伟大的、免费的、数亿人可用的 AI 工具，希望未来会有数十亿人使用它。

“我们不做广告。我们只是把它作为一项公益事业来做，因为我们认为把工具交到人们手中很重要。”奥尔特曼称。

现在是在 AI 领域创业的最佳时机

如今，生成式 AI 时代下，很多人开始讨论，如何推动人类在 AI 领域的发展和创新，以及人类与 AI 的关系如何变化？

奥尔特曼在对话中强调，现在可能是新创业公司的最佳时机，也是开始新的职业生涯的好时刻。

“在很长一段时间内，创业公司往往会在大平台转移的时候取得成功。与初创公司相比，大公司的速度较慢，创新能力较弱，但它们有很多其他优势。当你获得速度、迭代和周期时间的优势时，最多是在地面震动的时候。现在，我想你可以有一个这样的时刻，我们终于有了一个新的 AI 平台，现在是开新公司的好时机。作为一家初创公司，你拥有的优势是，你可以更快地行动、你可以更多地展望未来创新，而不是像大公司那样有季度或年等周期性计划。”奥尔特曼称。

奥尔特曼认为，“我认为，如果你做了一些不成功的事情，如今你会得到一个”非凡“的时刻，我当然会偏向于你用 AI 做一些事情，甚至未来很长时间内，你将你可以比平时更有影响力，更能从努力工作当中得到好处。一般来说，在职业生涯的早期，你可以做任何事情但得不到最终答案（结果），你只是跌跌撞撞地走完了，如今 AI 会带给你快速的创业迭代速度，甚至会迈向成功。”

“GPT是一个神奇的东西。我们可以提出任何问题，它会回答问题，而且它会不断地找出如何改善世界的方法。如果有人贡献了对材料科学的一种见解，它会存在于我们所有人之间，并且一代又一代人变得更有能力。”奥尔特曼称。

奥尔特曼强调，AI 技术是推动繁荣和改善人们生活的方式，也是对他来说真正“引起共鸣”的领域。一旦你开始准备在 AI 领域进行创业，就有望推动“惊人”的短期增长，在市场上有“赢”的机会，最起码你也会取得一定的进步。

“所有这些都是我会努力打赌的事情，”奥尔特曼笑着说，他非常看好构建 AI 应用或基础设施的创业公司，他们都将在大模型时代中受益。而 AI 应用层企业可能会产生1000亿美金的价值。

谈到 AI 监管，奥尔特曼依然认为 AI 系统应该有一个“阈值”，超过这个阈值系统会呈现出一定的风险，因此需要有一个 AI 系统的监管。

“我完全有冲动说，任何监管行动都是不可接受的，因为只有大公司才会利用它来进行监管俘获。如果社会决定，我们根本不想监管 AI ，我们只会碰碰运气。但事实上是，我们不想再没有合理的安全预防措施下发展 AI、采取行动。以一些合理的谨慎行事，这是有用的。”

展望未来，奥尔特曼强调，AI 将在教育、金融等各个领域具有巨大潜力。未来10年、20年，你们每个人都会有一个伟大的 AI“参谋长”，它们帮助人类提高效率，而人类将做更多有创造力、才华横溢的工作。

“未来五年，我觉得 AI 这股浪潮会冲向我们。但我不认为，20年、40年之后，OpenAI系统能力非常强大下，我们会跨越通用人工智能（AI）时刻。我不再使用AGI这个词，这完全是我永远不会成功的事情。我只是预计，十年后，我们会创造出真正、产生巨大经济价值的系统。”奥尔特曼称。

（本文首发于钛媒体App，作者｜林志佳，编辑｜胡润峰）