张天翼 通用和可信是AI发展的双翼

　　7月12日，在2023新京报贝壳财经夏季峰会“人工智能潮涌 生成数智未来”主题论坛上，蚂蚁安全天筭实验室首席科学家、蚂蚁集团可信AI技术负责人张天翼表示，“AI的通用能力和可信要素是大模型发展的双翼。负责任、可信的人工智能，已经成为AI发展一定需要考量的维度。”

　　“大模型是新AI时代到来的标志。”张天翼说，“但同时，大家也很快注意到，AI技术的固有风险也被极度扩大，伴随着能力的突破性进展和智能涌现，带来了更隐蔽、破坏性更强的风险。如此强大能力的技术，结合低门槛的应用，在数字网络中打开了更大的风险敞口。”

　　大模型因其算法的高度复杂性和不确定性、模型运行的强自主性导致“黑箱”问题和不可解释，使得其决策链路存在高度不理解和不可控性。此外，大模型的隐患还包括隐私安全问题和偏见、歧视性等公平问题。

　　针对大模型等AI创新所带来的风险，张天翼表示，以AI安全和鲁棒性、可解释性、隐私保护和公平性为核心的可信AI已经成为新阶段平衡AI创新与风险的核心技术手段。

　　“在新AI时代，我们看到的不仅是机遇，还有挑战。”张天翼说，“为解决大模型的安全问题，我们需要在用户输入、大模型服务和生成输出三个环节做出保障，使得其在应用过程中更加安全、可靠、可控。”

　　AI的通用能力和可信要素是大模型发展的双翼。——张天翼

　　新京报贝壳财经记者 罗亦丹