金融机构如何面对AI幻觉

2025-04-14 09:14:25

  今年的在金融领域,庞大的用户群体和海量数据积累还为人工智能技术的落地提供了优质场景。随着“人工智能+”行动的持续推进,AI大模型已经成为不少金融机构的标配。与此同时,问题也随之而来,“一本正经说胡话”的AI幻觉已经让不少金融从业者感到头疼,更令人担忧的是,金融业的高精确性要求使得AI幻觉问题被放大,从模型误判到资金损失可能仅是一步之遥。

  AI幻觉是指AI大模型生成的内容与现实世界事实或用户输入不一致的现象。简而言之,就是AI在“胡说八道”。

  中国邮政储蓄银行研究员娄飞鹏表示,AI幻觉会生成看似不合理、与事实不符的结果,如果出现在营销领域,可能导致银行无法向客户做好解释,从而增加银行维护客户群体的难度;如果出现在风险管理领域,可能使银行因为无法理解其中的逻辑原因,无法有效采取针对性的风险管理措施。

  目前来看,完全消除AI幻觉并不现实。AI幻觉是一把“双刃剑”,尽管可能给金融这样对精确性要求较高的行业带来风险,但在文学艺术等创作领域,许多人视其为灵感的催化剂,甚至主动加以利用激发创新。“对金融机构而言,需要对AI大模型有一定的容错度。”娄飞鹏认为,对不同类型的经营管理决策需要在AI生成结果和人工经验判断上设置不同的权重比例。在AI输出结果的基础上,辅以人工判断更好地开展决策。同时通过适时增加数据指标、调整优化大模型等方法尽量减少AI幻觉的发生。

下一篇:场景牵引轻工业数字化转型
上一篇:“乡聚伙伴”强村富民
返回顶部小火箭