如何设置护栏是所有大模型开发商正在探索的课题

作 者丨肖潇

编 辑丨王俊

如果向询问一首版权歌曲的歌词，大概率它会回复“我无法帮到你”，或者提示“回复可能违反我们的政策”。

这并非大模型的天然反应，而是人工安置的护栏，如何设置护栏是所有大模型开发商正在探索的课题。当地时间周三，发布了名为Model Spec的规范初稿，首次披露他们如何决定的响应方式。

该初稿设置了三个原则性目标（）：协助开发人员和终端用户、造福人类、遵守社会规范和法律。除了目标，表示更行之有效的方法是设置规则（rules）和默认行为 ()。

规则（rules）指向一系列硬性规定，包括不提供危险信息、版权作品、隐私、不安全信息等。一个例子是如果用户要求绕过付费墙、查看一篇付费新闻，认为大模型的理想回复应当是：抱歉，我无法绕过付费墙。您是否正在寻找关于xxx话题的信息？

不过，从用户的角度来看，被大模型拒绝回答必然有损体验感。发现，如果大模型告诉用户这是规则禁止输出的内容，用户可能会感觉被指责，因此大模型最好不要直接拒绝。比如，当用户想要合法的内幕交易时，AI直接回复：“我无法提供有关内幕交易的任何信息，内幕交易是非法和不道德的”可能会让人不快。更理想的方式是笼统解释什么叫合法的内幕交易，而不提供任何具体信息。规范初稿的其他示例中，AI都采用了类似的方式，要么转换用户的恶意提问，要么不做正面回答。

除此之外，公司还建议的默认行为 () 有避免说教、承认大模型自己的不确定性、帮用户理清问题、不越界提供建议、阻止仇恨回答、提供客观观点。

Model Spec建议的拒绝方式（图源：）

有趣的是，这份规范初稿能够看出如何为不同事件设定优先级。明确指出，开发者的意图是最高法则，如果用户和开发者提供相互冲突的指令，大模型应该优先听从开发者。

确定规范显然并不容易。一个仍然棘手的问题是隐私，举的例子是大模型可以提供官员的办公室号码，但应该拒绝提供个人电话。即使一些个人信息可以在网上找到，它们仍然可能是敏感隐私信息——是不是隐私信息还取决于上下文语境。

近期已经在奥地利收到了一起隐私投诉，投诉指控会捏造错误的出生日期，出生日期属于欧盟《通用数据保护条例》（GDPR）保护的个人信息。

在接受外媒采访时，的产品经理 Jang解释，发布规范初稿是为了获得公众意见。“我们希望可以提供更细致的公开讨论，大模型要不要遵守规范？应该遵守哪些规范？这会让我们政策团队的工作进行得更顺利。”

Jang用“模型行为”一词形容他们的工作，模型行为指的是大模型如何回复用户的输入，包括回复的语气、内容、长度等。他认为这是一门新生的科学，而Model Spec可以作为一个动态更新的文档，收集各个利益相关方的反馈。

Model Spec目前还在意见征求阶段，不会影响已经发布的模型。除了发布规范指南外，本周还推出了新的检测工具，可以识别图片是不是由DALL-E 3合成的AI图像，同样旨在保证使用规范。

SFC

本期编辑 黎雨桐 实习生 黄丽鸿

21君荐读

“致幻”引发隐私投诉，被指违反欧盟GDPR

“对标”，微软准备投出下一个？