大模型与数据安全主题论坛：聚焦数安底座，释放数据潜能
天津北方网讯：近日，作为第二届网络空间安全（天津）论坛重要组成部分，大模型与数据安全主题论坛，聚焦“夯实数安底座 释放数据潜能”主题，邀请先进计算与关键软件（信创）海河实验室主任龚克、贵州大数据安全工程研究中心主任杜跃进等知名专家学者以及国家部委、科研院所、知名高校、业内前沿企业代表，围绕大模型与数据安全制度建设、数据安全保护技术发展、网络数据人工智能安全治理实践等热点话题进行深入探讨，汇聚产业成果和先进经验，进一步健全大模型与数据安全保障体系，助力国内数字经济高质量发展。
参加主题论坛的专家学者一致认为，大模型技术正逐渐成为推动社会进步和产业升级的关键核心力量，但其安全性、可靠性、可控性正面临前所未有的挑战。
“发展人工智能新质生产力是硬道理，不发展是最大的不安全。占据技术高地，才能相对安全。”龚克认为，当前，人工智能的所有风险主要来自两个方面，一是技术问题，缺乏坚实理论基础，存在基于概率的本征性问题等。二是应用问题，主要是误用、滥用和恶用，以及盲目依赖。对此，人工智能的治理要促进创新、确保安全和教育公民驾驭，而非依赖人工智能。
“数字安全将影响人们的生产方式、生活方式和社会治理方式。目前除存在网络安全、数据安全的风险之外，数据污染和投毒、模型和算法安全、不可解释性及生成式AI的泛化特性用于业务决策等也存在着相应风险。”杜跃进表示，在快速发展和变化中，唯有加强研究和实践、快速迭代和改进，并在充分利用数字革命带来的技术、发挥新的工作模式优势的前提下，才有可能应对大模型安全特有的新问题。（津云新闻编辑刘颖）
