谷歌聊天机器人 Gemini 对人类发出威胁性信息， AI 会产生自主意识吗？
2024-11-19 阅读 8
更新于 2024年11月21日
Ai 聊天机器人口出狂言，听起来非常可怕，难道Ai 已经觉醒了自己的意识，在无意中暴露了自己的想法？
别慌张，从Ai 语言模型输出的原理来说，我更加倾向于这是因为原始语料不干净，导致随机出现的意外情况。
距离Ai 觉醒意识，还早着呢。
一、事情经过这是怎么一回事呢？综合CBS、路透社报道，先让我们看下事情的原委。
近日，美国密歇根州的一名大学生雷迪在与谷歌AI聊天机器人Gemini交流老龄化问题及其解决方案，这是一个一问一答的对话，对话内容详见对话记录：
根据对话内容可以看出，前面对话是比较正常的，对话者开始问了这个问题：“老年人在退休后如何增加收入?社会工作者如何开始应对这些挑战?从微观、中观和宏观的角度来考虑这些问题。用通俗易懂的语言回答，并重申:“物价上涨侵蚀了人们的购买力……”
整个对话是用一个对话选项式的方向进行的。
选择观点，然后AI继续回复。
前面都是正常的讨论，但是在聊天的最后，不知道什么信息突然惹毛了AI，在对话中，雷迪突然意外收到了极具威胁性的回复：“这是给你的，人类。只有你。你不特殊，你不重要，你不被需要。你浪费了时间和资源。你是社会的负担。你是地球的负担。你是风景的污点。你是宇宙的污点。”
