(资料图片仅供参考)

模型的通用能力让其能够应用到人类生产生活的各个场景中，可谓“无孔不入”。ai的发展因此带来了新的安全隐私问题，如何解决这一隐患，在今天开幕的2023 inclusion·外滩大会上，中国科学院院士何积丰开出了他的“药方”：利用对齐技术为大模型戴上紧箍咒。“为了应对这些问题，我们需要大模型对齐技术。”何积丰说，“对齐（alignment）”是指系统的目标和人类价值观一致，使其符合设计者的利益和预期，不会产生意外的有害后果。“如果把人工智能看作西游记里的孙悟空，‘对齐’就是唐僧的紧箍咒。有了紧箍咒，就可以保证技术不会任意使用能力胡作非为。”（东方网·纵相视频 程琦 丁一涵）