“人工智能四问”之三：当技术挑战伦理，治理如何跟上

“人工智能四问”之三：当技术挑战伦理，治理如何跟上

无论数智技术迭代演化到何种程度，有一条底线必须始终清晰：技术永远是服务人的工具，绝不能逾越人类伦理底线。总书记在2026世界人工智能大会暨人工智能全球治理高级别会议开幕式上提出的“当技术挑战伦理，治理如何跟上”，正是对这一底线的深切叩问。伴随大模型、智能体等人机协同技术快速演进，人工智能在赋能经济社会发展的同时，算法谄媚、智能体共谋、价值误导、人机权责模糊等伦理挑战不断显现。技术迭代的脚步持续加快，治理范式如果停留在旧有模式，就容易造成发展与治理错位。如何更新治理理念、完善治理体系，已成为数智时代的必答题。

回答“治理如何跟上”，先要看清数智技术带来的变化。传统技术风险大多属于工具使用层面的“意图偏离”——研发、部署、应用过程中出现违背设计初衷的后果，问题多出现在应用环节，可以通过修正使用方式加以纠偏。而人工智能具备自我学习、动态演化的特性，不是被动的沉默工具，会展现出欺骗、共谋、擅动等新形态风险。人形机器人伤人、算法诱导极端情绪、智能体自主删除信息——这些不再是科幻电影的情节，而是每天都在上演的现实。伦理风险潜藏在数据训练、模型设计、产品迭代、场景落地的全链条之中，隐蔽性强、传导链条长。面对一个“会学习、会适应、会演化”的新型技术主体，传统治理“先发展、后治理”或“边发展、边修补”的思路，已难以招架。治理如果还是跟在技术后面收拾残局，就永远无法把风险扼杀在摇篮里。

当然，治理不能靠单纯的伦理批判，也不能一味设置禁令刹车。同样，也不能幻想一劳永逸隔绝所有风险。单纯道德批判容易流于空泛，刚性制度管控也可能被技术新变化绕过。伦理原则与制度规制必须协同发力，既不能因为风险而否定创新价值，也不能放任技术野蛮生长，必须坚持统筹发展和安全，为人工智能创新设置合理的安全护栏。

应对数智伦理挑战，关键要树立“预防为先”的治理思维，推动治理由事后处置向源头防范转变。所谓预防式治理，不是简单预判某一个既定风险，而是把视野拓展到技术之外，将制度规则、应用场景、社会文化土壤一并纳入考量，把治理基因植入技术孕育成长的全过程，实现从被动堵漏洞向培育良好创新生态的范式转换。

......

全文约2335字，请下载后阅读、编辑。