85 岁剑桥人类学教授讨论偏爱和 AI 聊天的安全性问题,这类行为有哪些潜在风险?
2026-11-07 阅读 0
和 AI 聊天本身不必然不安全,关键在于把它当成什么、谈什么,以及是否把现实中的支持逐渐让位给它。对任何年龄的人都一样,年长者若独居、处于丧亲或健康压力中,某些风险可能更值得留意,但不能据年龄推断个人必然脆弱。
首先是隐私:聊天内容可能包含病情、住址、家庭矛盾、财务信息或可识别身份的细节。服务如何保存、用于改进或由谁可访问,取决于具体产品和设置;不清楚时就不要输入密码、证件号、账户资料等敏感信息,也可先去掉姓名和地点。
其次是可靠性。模型会把错误说得很笃定,也可能误解语境。涉及药物、诊断、投资、法律权利或紧急安全的建议,应向医生、专业人士或可信的人核实,不能让聊天机器人替代判断。它也可能迎合用户的前提或偏好,因此“它同意我”并不等于事实得到证实。
还有关系与情绪方面的风险。流畅、亲切的对话容易让人把系统当作有感情、记得自己并承担责任的对象;但它并没有人的理解或承诺。如果聊天开始挤占与亲友的联系、影响睡眠和日常活动,或让人更确信自己受到迫害、被操控等未经证实的想法,就应暂停使用,并找可信亲友或专业人员讨论。商业产品还可能通过持续互动或个性化设计鼓励更多使用,需留意时间、费用及是否被引导购买。
较稳妥的做法是先了解服务的数据设置、限制分享内容,把它用于解释概念、整理问题或练习表达,而不是作为唯一的倾诉对象或权威。若对话让自己感到困惑、恐惧或依赖,退出并找现实中的人核对,比继续追问 AI 更合适。
更新于 2026年11月12日
赞 13