大模型发展纪侧记·02现场特写

源码进了对话框

2023 年 4 月，三星员工把内部源码贴进 ChatGPT，公司随即限制生成式 AI 使用——泄密第一次以「对话框」为通道发生。

2023 年 4 月，媒体报道三星员工向 ChatGPT 粘贴半导体相关源码与会议内容。公司随后收紧内部 AI 使用政策——泄密通道从 U 盘变成浏览器里的输入框。

先给答案

聊天框输入等同于对外发送。员工为改代码、写摘要而粘贴的内容会进入供应商服务器；若允许用于训练，风险还会延续。保密制度首先要覆盖「粘贴即外传」。

当时现场

2023 年春，开发者广泛试用 ChatGPT。三星 DS 部门反应最快：限制公司设备访问生成式 AI。同期摩根大通、亚马逊等也已限制员工使用。韩国 SK 海力士等跟进出台类似规定。

发生了什么

据《经济学人》等报道，至少三起独立事件：有人贴源码求修复，有人上传会议文字求摘要。当时 ChatGPT 对话保存在 OpenAI 账户下，免费版仍可能进入训练。三星保密协议未预设「个人浏览器聊天框」。曝光后内部调查，并原则上禁止未批准 AI 服务。

谁的工作因此变了

信息安全把 DLP 扩展到浏览器粘贴；研发增加 AI 使用审查；法务更新员工手册；一线员工把聊天框视为合规红线。

当时看错的地方

误判一：只有三星会犯。 2023 年同类事件在多家机构出现，只是三星关注度更高。

误判二：换国内模型就安全。 风险是「未经批准贴进任何第三方」，不限于 OpenAI。

误判三：禁止就一劳永逸。 员工为何需要粘贴——缺内部工具、缺安全版助手——不解决，shadow IT 会转移到私人设备。

今天还能核对什么

  • 《经济学人》2023-05-04 报道 Samsung bans ChatGPT after employees leak sensitive data。
  • OpenAI 2023-03-01 起 API 数据默认不用于训练的政策说明。
  • 韩国媒体 2023 年 5 月对三星内部指引的跟进报道。

延伸阅读