信赖原则作为现代刑法中过失认定的基石理论,其核心逻辑在于合理分配社会活动中的风险与责任。人工智能技术广泛应用下,信赖原则经历“数智嬗变”:当信赖对象从“人”转向“算法”,当风险从“可预见”转向“黑箱化”,传统法律框架面临严峻挑战。如何重构信赖边界、厘清人机责任,成为司法实践亟待解决的命题。

问题提出:该如何信赖人工智能

在传统过失犯罪认定中,信赖原则通过“合理期待”与“可预见性”的标尺,为责任划分提供依据。在人工智能时代,信赖原则的核心价值不仅在于责任分配,更在于推动技术、法律与伦理的协同治理。它既是过失认定的标尺,也是技术发展的护栏。

人工智能应用场景重塑着人类社会的信任结构。从自动驾驶到医疗诊断,从金融风控到司法裁判,人工智能系统的决策能力不断突破传统人类认知的边界。但技术的“黑箱性”与人类对效率的过度追求,催生了一种危险的“过度信赖”,即用户倾向于将复杂决策权让渡给算法,而忽视了技术本身的局限性与法律责任的模糊性。一些偶发事故不仅暴露出技术局限性与人机协作的断层,也引发人们对信赖边界的深刻反思:在人工智能深度介入人类决策的场景中,应该如何重新定义“合理信赖”?当技术失灵时,应如何在人、机、制度之间分配责任?

人工智能应用场景下信赖原则的数智嬗变

人工智能的迅猛发展正在深刻重构信赖原则的传统范式。从“人—人”互信到“人—机—人”的复杂协作,技术介入使得信赖关系发生根本性异化:算法的不透明性动摇了可预测性基础,企业的技术神话模糊了责任边界,而系统性风险的升级更远超传统“可容许危险”的范畴。信赖对象异化、信赖程度失衡与风险后果升级共同诠释了人工智能解构并重塑信赖原则的内在逻辑。

一是信赖对象的异化:从人际信赖到人机信赖。传统信赖原则适用于自然人之间的相互期待,以人类行为的可预测性为前提,属于“人—人”的二元结构。而人工智能系统的决策逻辑具有不透明性,其介入使信赖关系演化为“人—机—人”的三元结构。人工智能的“算法黑箱”特性导致信赖基础不透明,当技术能力与用户期待错位时,盲目信赖将转化为“过度依赖”,引发灾难。