生成式人工智能利弊凸显，如何确保内容真实可靠成关键
8月5日消息，据外媒报道，生成式人工智能技术是近两年全球科技领域的一大热点，各种大语言模型和生成式人工智能聊天机器人的推出，给消费者的日常生活和工作带来了便利，例如由训练的，在撰写邮件、文案、翻译、代码等方面，就能为用户提供帮助。
但随着生成式人工智能技术不断增强和广泛应用，弊端也日益凸显，被滥用的越来越多，部分学生更是将其用来完成作业、撰写论文等，甚至在部分教授的论文中，也出现了来自生成式人工智能的内容。而在人工智能生成内容越来越普遍的背景下，了解内容的来源、确定是否是来自于生成式人工智能及确保内容的真实可靠也就变得越来越重要。
而从外媒的报道来看，在生成式人工智能领域走在前列的，一直在尝试通过新的方式，来确保生成式人工智能文本的真实性。
在最新的报道中，外媒就提到，在为测试文本水印，在检测释义等局部变化时，已显现出很高的准确性。
虽然方面目前并未公布他们为研发的文本水印是如何运作的，但外媒猜测可能是在生成的文本中嵌入隐藏的标识符，这样更容易追踪和验证一段内容是否由人工智能生成。
不过，也有外媒在报道中提到，为测试的文本水印，也面临挑战，使用翻译工具或其他模型改变文本后，不一定能做到万无一失。此外，也有研究表明，文本水印可能会对部分人群造成影响，例如将作为写作辅助工具的母语为其他语言的人群，会对他们的非母语写作造成影响。
当然，外媒在报道中也提到，在考虑的不只是文本水印，他们也在探索其他的方式，来确定文本内容的来源，外媒提到的就有元数据和检测分类器。加密签名的元数据，可以提供一种更可靠的方法来跟踪文本的来源。检测分类器是使用人工智能，来识别文本内容是否由模型生成的工具。（海蓝）
生成海报
