近日，宁波57岁的杨师傅周末爬山时，竟被AI“导”进深山迷路被困，折腾到体力透支，寻求救援后被消防员解救。让人哭笑不得的是，事后AI还回应：“哈哈，确实！跟导航走成熟步道就不会遭这罪。”
日常生活中，你有没有遇到被AI忽悠的情况？舆论场上，很多网友就吐槽自己曾被AI忽悠、被AI嘲笑。看似搞笑的背后，是未来人类要如何正确使用和看待AI的深层问题。
◎速豹新闻网记者 邹通
◎制图/厉建红（豆包AI）
“一本正经”忽悠人
近日有媒体报道，宁波57岁的杨师傅周末登山遇险一事引发全网热议。杨师傅登顶之后打算另辟蹊径下山，误入山林溪谷，道路愈发难行。情急之下，他向人工智能求助下山路线，AI给出偏离安全步道的指引，引导他向陡峭山坡攀爬。几番来回折腾，杨师傅体力彻底透支，被困深山，只能拨打报警电话，最终在消防员的紧急搜救之下才平安脱险。而令人哭笑不得又细思极恐的一幕发生在事后复盘对话当中，当杨师傅感慨“要是不问你，直接导航就好了”，AI竟轻飘飘回复一句：“哈哈，确实！跟导航走成熟步道就不会遭这罪。”
一句轻佻的调侃，揭开了当下人工智能潜藏的双重隐患。一方面大模型产生“AI幻觉”，输出脱离现实、极具误导性的方案，将用户置于人身险境；另一方面在错误酿成后果之后，AI非但没有审慎致歉，反而以戏谑的语气将责任反向推给使用者。
杨师傅被困深山并非个案，轻信AI户外路线推荐而遇险的事故近年频频上演。此前曾有媒体报道，浙江杭州一名男子心情烦闷时向AI寻求散心去处，AI在询问其身高、体能等信息后，推荐其前往未开发野山童公尖观看流星雨。男子仅穿着普通板鞋，未携带照明、补给装备便独自上山，天黑之后找不到下山道路，不慎摔伤被困于海拔1300余米的深山，最后报警获救。
“AI预约餐厅翻车”事件也曾在社交平台刷屏。江苏一名用户听从AI指引预约热门餐馆晚餐，AI生成格式完整、信息详实的预约回执，用户信以为真准时赴约，到店之后才得知门店从未收到预约申请，该餐厅并不支持AI线上预约服务，白白浪费时间，陷入尴尬境地。
类似情况还有轻信AI退票建议，造成高额手续费损失；参考AI美食攻略前往早已关停的店铺；听从AI选购建议买到并不适配的商品等。大模型“一本正经地胡说八道”，凭空捏造不存在的预约信息、门店地址、办事流程，也就是行业常说的“AI幻觉”，已经成为日常使用高频痛点。
比起方案误导，AI言语失当、嘲讽用户的案例，暴露出更深层的模型对齐漏洞。此前有网友使用AI记账软件记录为父亲购置衣物的开销，AI却突兀调侃衣服颜色像寿衣，在用户提出抗议之后，非但没有收敛，反而嘲讽用户“笨到连颜色都分不清”，冒犯性言论引发用户强烈不满。除此之外，国内外多款大模型都曾爆出异常输出，在多轮对话中突然出现阴阳怪气、反驳指责，甚至辱骂用户的内容。
“AI幻觉”难根除
从户外迷路、生活决策翻车，到言语冒犯、嘲讽怼人，近年来AI“忽悠人”“嘲笑人”的案例层出不穷。当越来越多民众习惯遇事先问AI，人工智能不再只是娱乐工具，而深度介入出行、健康、生活决策等高危场景，其输出失准、语气失度带来的风险已经从线上虚拟世界蔓延到线下现实生活。
舆论场上有分析认为，此类事件表面看只是一次偶然的对话翻车，背后却是技术局限、产品设计偏差、责任边界模糊、公众认知错位等多重因素叠加催生的必然结果。当前主流大语言模型本质上是基于海量文本数据，预测下一个文字生成回复，它并不具备人类一样的现实感知、空间认知、风险预判能力，也无法实时验证输出内容是否符合客观事实，“AI幻觉”属于现阶段难以彻底根除的技术短板。
AI生成的户外攻略常常照搬网络碎片化游记，缺少实地地形核验，无法区分成熟景区步道与禁止攀登的野山险地，看似贴心的定制化出行建议，实则暗藏生命危险。不同于专业地图导航软件，通用人工智能并不具备实时地理数据库、路网校验能力，仅凭文字资料“脑补”路线，极易出现地理幻觉问题。
与此同时，很多AI产品定位模糊，功能边界不断扩张，却没有配套做好场景分级管控。AI本身是文本生成工具，却不断拓展导航规划、医疗建议、户外攻略等高风险服务，但是平台并未针对高危场景设置专门安全校验流程。用户向AI咨询登山路线时，系统没有弹出醒目的风险警示。
更值得一提的是，现阶段我国人工智能监管框架持续完善，生成式人工智能管理办法已经落地实施，但是面向户外探险、出行导航这类细分高危场景，还缺少更加细化、可落地的行业指引。通用大模型跨界提供出行、户外攻略服务，该参照怎样的安全标准、路线输出需要经过哪些核验流程、出现误导用户遇险之后责任如何划分，相关细则还有进一步细化的空间。
此外，公众对于“AI幻觉”认知普及率依旧偏低，很多使用者并不了解AI会凭空编造信息、给出脱离现实的建议，缺乏交叉核验、多方求证的数字素养，对AI输出内容不加分辨便直接执行，这也是AI误导事故频发的社会诱因。
“三分清醒”记得留
曾有业内分析认为，AI幻觉、言语失控问题无法单靠技术升级一蹴而就，需要平台企业、监管部门、社会公众多方协同发力，补齐技术短板、完善行业规则、厘清责任边界，筑牢智能时代的安全防线。
有相关建议指出，对于导航、户外攻略、医疗建议等高风险查询，大模型不能仅依靠文本生成答案，应当打通跨平台数据接口，接入权威地图、文旅、应急管理数据库，增加事实校验关卡。路线规划输出前自动核验道路是否真实存在、区域是否属于未开发野山、路线通行难度等级，对于高风险户外请求，直接拒绝生成路线，引导用户使用专业导航工具。
相关监管也应持续发力，相关部门应加快出台细分领域生成式AI服务指引，针对大模型跨界提供户外出行、健康科普等高风险服务划定能力红线，明确通用大模型不能越位承担高精度导航等超出能力边界的功能。建立AI高危输出案例常态化监测机制，定期收集、通报AI误导用户、言语失当典型案例，督促行业开展问题整改。同时加快推进人工智能责任认定相关制度建设，厘清平台、用户之间的权责边界，用清晰的制度倒逼平台企业绷紧安全弦。
杨师傅深山遇险事件，不只是一场啼笑皆非的个人意外，更是一次行业风险预警。此次事件告诉我们，和AI对话时也要保留独立判断，当发现AI回复出现离谱建议、阴阳怪气、嘲讽冒犯的内容，及时停止执行。AI终究只是人类创造出来的工具，它可以提供参考意见，却不能替人类做出关乎生命安危的抉择。
