美国政府与 OpenAI、Anthropic 达成合作协议，助力人工智能安全技术测试与评估
格隆汇8月29日｜据路透，美国政府宣布与在生成式人工智能领域领先全球的初创公司以及达成合作协议，以帮助测试和评估他们即将推出的人工智能安全技术。根据周四宣布的一项协议，美国人工智能安全问题研究所将提前获得这些AI科技公司的主要新AI模型，以评估其能力范围和风险，并就缓解潜在关键问题的方法进行合作。据了解，美国人工智能安全研究所是美国商务部国家标准与技术研究院(NIST)的重要部分。这些合作协议达成之际，人们越来越希望通过监管渠道来减轻人工智能所面临的潜在灾难性风险，例如最近通过州议会的备受争议的加州人工智能安全法案SB 1047。该组织在一份声明中表示，还将与英国人工智能安全研究所密切合作，提供有关潜在的安全改进反馈。
