在安全这件事上，AI没那么可靠

中国应急管理报 

近日，笔者由于迷信AI（人工智能）导航，在山里迷了路，最终求助他人，才得以脱困。现在，大家已习惯把AI当成助手，也由此产生一种错觉，即可以把风险判断交给“无所不能”的AI。但现实证明，真实世界的安全，是跑现场查出来、盯细节守出来的。因此，在安全这件事上，AI有时也没那么可靠。

工作生活中，AI掉链子的场景真不少：在山区误将小路说成主干道，让车主在悬崖边心惊胆战；在城市里把单行道规划成双向通行，害得司机被扣分罚款；有人咨询“如何正确使用灭火器”，AI给出的步骤完全颠倒；企业借助AI开展风险辨识，结果隐患没查出来，生成的清单还张冠李戴……AI的一个小失误，给普通人带来的却是实打实的麻烦，甚至会危及生命。而当对AI的判断提出质疑时，它往往会用更肯定的语气驳回，进一步误导使用者。

说到这里，估计很多人会纳闷：AI那么“聪明”，怎么会在安全问题上频频出错？

笔者认为，AI的本质是数据整合和分析工具，现阶段，大部分AI工具只会“抄作业”，不会“察实情”。它无法辨别信息真假、判断场景的特殊性，更难以生成对安全的敬畏。AI的所有输出都来自对现有大数据的加工，可现实世界瞬息万变，对动态变化的信息，AI难以及时全面捕捉。

安全来源于紧扣实情、扎根现场。安全要靠人的参与，离不开人的实地走访、现场巡检、逐项核验、事后复盘等。比如，高处作业需要仔细检查防护用具，反复确认作业环境是否安全；危化品生产需要逐项核对物料参数，紧盯设备运行状态……这些，AI都不能完全做到，无法产生身处现场的真实感受。

完全依赖AI，安全责任难以划分。一旦采信错误建议酿成事故，AI不会有丝毫愧疚，只会机械重复：“抱歉，是我分析错误，这次我会给你一个不绕弯、最直接、最靠谱的方案。”平台通常会在不起眼的位置标注“内容仅供参考”，轻飘飘几个字，就把所有风险都转嫁给了用户。然而，人员已经遇险，错误已经酿成，时间不会倒流，使用者没有后悔药可买，全部损失都要自行承担。

当然，我们并非全盘否定AI的价值。作为工具，它可以辅助我们完成部分工作，减少大量机械性劳动。但涉及人身安全、重大风险的决策，大家绝不能轻信AI，一定要结合现场实际进行决断。毕竟，比起AI的智能判断，人的清醒与思辨，才能筑起最靠谱的安全防线。