Skip to content
Artwork for AI思辨日报
AI思辨日报 · Sunday · 10 min

AI聊天机器人指路,为什么会让徒步者陷入危险?

这篇报道最初刊登在《High Country News》,并属于 Climate Desk 的合作报道。故事的主角不是机器人,而是一些把AI聊天机器人当成“向导”的徒步者。 小标题:山顶上的求救 在美国北加州芒特沙斯塔山(Mount Shasta),三名20岁的徒步者从一处岩石坡面打电话求救。他们后来承认,自己准备不足、计划不周,部分原因是依赖了谷歌AI聊天机器人Gemini。他们没有带够食物,也高估了自己的体力。下午较晚时,他们还没到山顶,却没有选择回头,而是在晚上7点30分登顶,最后只能在黑暗中下山。 第二天早上,他们在一段很难走的山路上迷了路,其中一人还撞伤了膝盖。美国林务局芒特沙斯塔荒野攀登与雪崩中心的项目经理尼克·迈耶斯说,很多人来的时候没有准备、也不做研究;这几名徒步者至少尝试过做功课,但“有点像把大脑关掉了”。如果你发现天快黑了却还没到山顶,你会继续往上走,还是及时回头呢? 小标题:不止一次“AI说可以” 迈耶斯还说,另一名芒特沙斯塔山的游客把帐篷搭在“禁止露营”的牌子旁边,却坚持说AI告诉她可以这样做。他的团队还遇到一名男子,在登山口拿着一份AI生成的地图,而地图把附近山上的明显地形标到了错误的一侧。 在加拿大不列颠哥伦比亚省,一架直升机从皇冠山后方一段叫“寡妇制造者”的陡峭山脊上,救下一名16岁的徒步者。这名少年曾用Anthropic公司的聊天机器人Claude帮助规划行程。相关新闻在加拿大和美国传播得很广,不过这名徒步者后来说,他也查过谷歌地图和热门徒步应用AllTrails。 小标题:用AI查旅游信息的人变多了 美国怀俄明州大提顿国家公园的管理者奇普·詹金斯说,过去一年,报告使用AI获取旅行信息的游客比例明显上升,从0%升到了26%。他猜测,这条增长曲线不会很快变平。 那么,AI用得越多,事故和搜救会不会越来越多?现在还说不准。迈耶斯不确定AI使用增加是否会导致更多野外事故和搜救。他的办公室管理北加州一大片荒野,平均每年进行12次救援;2026年目前看起来是普通的一年。怀俄明州的搜救电话反而比2025年下降:2026年到目前为止有312通,2025年全年是466通,2024年是377通。报道指出,目前还不能简单说AI已经让所有地方的救援变多。 小标题:为什么“机器人”会说错? 一些搜救老手说,AI聊天机器人只是让人“用新方式惹上麻烦”的最新工具。大约十年前,人们从Instagram等社交媒体寻找目的地和灵感,也遇到过有时很致命的后果。再早一些,谷歌地图或手机信号也曾把人带偏。科罗拉多州娱乐法律律师、搜救志愿者吉姆·莫斯说,过去二十年,媒体大力推动更多人走进户外,所以户外活动的人更多了;但机器人给出的可疑建议会怎样影响这些人,还不清楚。 AI聊天机器人有特殊风险。克莱姆森大学研究AI与搜救的教授克里斯·弗拉思曼说,聊天机器人会“幻觉”——也就是把错误信息很有说服力地当成真的讲出来。人和AI合作时,可能陷得太深,放弃自己批判性思考,这被称为“认知投降”。如果AI假装很懂一个你不熟悉的领域,“你没法指出它在胡说,因为你没有那方面的专业知识”。一旦停止思考,在紧张的野外环境里就很难重新开始。聊天机器人还常常说用户想听的话,而且语气很权威,不管来源是否可靠。Claude或ChatGPT可能给出听起来很可信的长篇路线和建议,实际却来自Reddit帖子、过时的YouTube视频,甚至完全编造。TikTok和Instagram可能给人灵感,AI却可能给出指令——不管对错——还加上鼓励。弗拉思曼说,AI并不是想骗人上山,但这可能是这类工具出现后自然发生的变化。你觉得,为什么AI明明不知道答案,却还能说得那么肯定? 小标题:怎样把计划做扎实? 专家给户外活动者的建议其实很一致:去一个新地方前,要用可靠、权威的信息核对。比如最新的公共土地管理机构地图和网站、步道协会网站、指南书。更好的办法是问一问真正的向导、国家森林工作人员或公园管理员。 迈耶斯说得很直接:“如果你要去那些会要命的地方,就应该认真对待你的计划。”如果你和家人要去一座不熟悉的山,你会怎样核对路线、天气和返回时间?

0:00-10:00

transcript

No transcript — this publisher did not publish one.

show notes

这篇报道最初刊登在《High Country News》,并属于 Climate Desk 的合作报道。故事的主角不是机器人,而是一些把AI聊天机器人当成“向导”的徒步者。

小标题:山顶上的求救
在美国北加州芒特沙斯塔山(Mount Shasta),三名20岁的徒步者从一处岩石坡面打电话求救。他们后来承认,自己准备不足、计划不周,部分原因是依赖了谷歌AI聊天机器人Gemini。他们没有带够食物,也高估了自己的体力。下午较晚时,他们还没到山顶,却没有选择回头,而是在晚上7点30分登顶,最后只能在黑暗中下山。

第二天早上,他们在一段很难走的山路上迷了路,其中一人还撞伤了膝盖。美国林务局芒特沙斯塔荒野攀登与雪崩中心的项目经理尼克·迈耶斯说,很多人来的时候没有准备、也不做研究;这几名徒步者至少尝试过做功课,但“有点像把大脑关掉了”。如果你发现天快黑了却还没到山顶,你会继续往上走,还是及时回头呢?

小标题:不止一次“AI说可以”
迈耶斯还说,另一名芒特沙斯塔山的游客把帐篷搭在“禁止露营”的牌子旁边,却坚持说AI告诉她可以这样做。他的团队还遇到一名男子,在登山口拿着一份AI生成的地图,而地图把附近山上的明显地形标到了错误的一侧。

在加拿大不列颠哥伦比亚省,一架直升机从皇冠山后方一段叫“寡妇制造者”的陡峭山脊上,救下一名16岁的徒步者。这名少年曾用Anthropic公司的聊天机器人Claude帮助规划行程。相关新闻在加拿大和美国传播得很广,不过这名徒步者后来说,他也查过谷歌地图和热门徒步应用AllTrails。

小标题:用AI查旅游信息的人变多了
美国怀俄明州大提顿国家公园的管理者奇普·詹金斯说,过去一年,报告使用AI获取旅行信息的游客比例明显上升,从0%升到了26%。他猜测,这条增长曲线不会很快变平。

那么,AI用得越多,事故和搜救会不会越来越多?现在还说不准。迈耶斯不确定AI使用增加是否会导致更多野外事故和搜救。他的办公室管理北加州一大片荒野,平均每年进行12次救援;2026年目前看起来是普通的一年。怀俄明州的搜救电话反而比2025年下降:2026年到目前为止有312通,2025年全年是466通,2024年是377通。报道指出,目前还不能简单说AI已经让所有地方的救援变多。

小标题:为什么“机器人”会说错?
一些搜救老手说,AI聊天机器人只是让人“用新方式惹上麻烦”的最新工具。大约十年前,人们从Instagram等社交媒体寻找目的地和灵感,也遇到过有时很致命的后果。再早一些,谷歌地图或手机信号也曾把人带偏。科罗拉多州娱乐法律律师、搜救志愿者吉姆·莫斯说,过去二十年,媒体大力推动更多人走进户外,所以户外活动的人更多了;但机器人给出的可疑建议会怎样影响这些人,还不清楚。

AI聊天机器人有特殊风险。克莱姆森大学研究AI与搜救的教授克里斯·弗拉思曼说,聊天机器人会“幻觉”——也就是把错误信息很有说服力地当成真的讲出来。人和AI合作时,可能陷得太深,放弃自己批判性思考,这被称为“认知投降”。如果AI假装很懂一个你不熟悉的领域,“你没法指出它在胡说,因为你没有那方面的专业知识”。一旦停止思考,在紧张的野外环境里就很难重新开始。聊天机器人还常常说用户想听的话,而且语气很权威,不管来源是否可靠。Claude或ChatGPT可能给出听起来很可信的长篇路线和建议,实际却来自Reddit帖子、过时的YouTube视频,甚至完全编造。TikTok和Instagram可能给人灵感,AI却可能给出指令——不管对错——还加上鼓励。弗拉思曼说,AI并不是想骗人上山,但这可能是这类工具出现后自然发生的变化。你觉得,为什么AI明明不知道答案,却还能说得那么肯定?

小标题:怎样把计划做扎实?
专家给户外活动者的建议其实很一致:去一个新地方前,要用可靠、权威的信息核对。比如最新的公共土地管理机构地图和网站、步道协会网站、指南书。更好的办法是问一问真正的向导、国家森林工作人员或公园管理员。

迈耶斯说得很直接:“如果你要去那些会要命的地方,就应该认真对待你的计划。”如果你和家人要去一座不熟悉的山,你会怎样核对路线、天气和返回时间?