有趣的事

哪些内容不适合直接输入生成式 AI?

不适合直接输入生成式 AI 的,通常不是“任何敏感内容都绝对不能用”,而是未经授权、泄露后会造成实际损害,或受法律和合同约束的数据。

尤其要避免粘贴他人的个人信息(如身份证号、联系方式、病历、账户资料)、账号密码、验证码、API 密钥和私钥;这些信息可能被保留在聊天记录中,密钥一旦暴露应立即撤销或轮换。工作场景还要注意未公开的源代码、客户名单、报价、合同、产品路线图、内部事故报告等商业秘密,以及受保密协议、数据保护规则或行业监管约束的材料。是否能处理取决于组织批准的工具、用途、地区和合同条款,不能仅凭“模型不会记住”这样的笼统说法判断。

此外,涉及人身安全、医疗诊断、法律结论、信贷或招聘等高影响决策的完整个案资料,不宜未经审查地交给通用模型处理,也不能把生成结果当作最终专业判断。确有需要时,先确认组织政策和工具的数据处理条件,只提供完成任务所需的最少信息;删除姓名、编号、精确日期等直接或间接识别线索,并检查组合信息是否仍能指向个人。对代码可用合成示例替代真实配置和数据。若不确定某项材料能否输入,先询问数据或安全负责人,或改用已获批准的内部系统。

相关阅读