OpenAI

Copilot 写的代码被 ChatGPT 复现?弄清 AI 编程的数据边界

编辑部阅读约 6 分钟

用 Copilot 写完的代码贴进 ChatGPT,拿回来的实现连函数名和注释都高度相似,是代码被实时上传训练了吗?本文拆解命名趋同、上下文跟随、语料模式这三个更可能的解释,说明模型训练与用户反馈的实际路径,并给出可证伪的验证方法和一份代码脱敏、数据设置、许可证过滤的实操清单。

把私有代码贴进 AI 对话框,已经是很多开发者每天的动作。有人用 Copilot 补完一个小模块,函数名和注释都是自己敲的,为了继续修改,又把这段代码贴进 ChatGPT 提问;结果模型返回的版本里,函数名、注释措辞和本地那份高度重合。发帖人强调自己没有在 Copilot 里开启数据共享,也没有做抓包验证,只是直觉上后背发凉,于是把疑问抛了出来:ChatGPT 会不会记住我教过它的东西?用户的使用和反馈,能不能让它越用越准?

结论先放在前面:这几乎不可能是「你的代码被实时上传并训练」导致的,但它确实暴露了一个真问题——你以为独一无二的写法,在统计意义上往往并不独特;而把私有代码交给第三方服务,本身就有需要认真对待的边界。

一、「一模一样」最可能的三个来源

1. 上下文已经把答案框死了

大模型本质上是根据上文预测下文。当你把一段代码连同注释、业务描述一起贴进去,函数要做什么、参数叫什么、注释该怎么写,已经被压缩到很小的可能性空间里。命名习惯又高度集中在少数几种:get_user_by_id、fetchOrderList、is_valid_token。两个人独立实现同一段业务,撞名字的概率远比直觉高。

2. 训练语料里同一类写法出现了无数次

代码里的样板逻辑——参数校验、分页、错误处理、日志打印——在公开仓库中被写过成千上万次。模型见过足够多相似的实现,生成时就倾向于选择最常见的那种写法。这不是它在「抄」某个人的代码,而是在复现语料中的主流模式。

3. 模型会跟随你的风格

这类补全工具会参考当前文件的命名风格、缩进、注释语气,甚至你前面几个函数的结构。有人形容「它经常比我自己还懂」,说的就是这种上下文跟随:你在本地形成的风格,本身也作为上文喂给了模型,输出自然像你写的。

一位回复者做了个很实用的对照实验:写一段带自己唯一标识的注释和函数,看模型会不会吐出那几个字符,结果没有。这个实验虽然简单,方向却是对的——判断是否泄露,要看模型能否产生你独有的信息,而不是看它能否产生相似的结构。

二、ChatGPT 会实时记住你输入的内容吗

这是讨论中最容易混淆的部分,把几种常见说法拆开看:

常见说法 更接近实际的描述
刚输入的代码立刻被拿去训练,下一个人就能问出来 基本不成立。训练是批量、离线、成本极高的过程,不是随用随学
模型有知识截止时间,之后的世界它不知道 大体成立,但截止时间随模型版本变化,部分产品还会结合联网检索,需以官方说明为准
用户反馈完全不产生影响 不准确。反馈会通过偏好对齐、评测和后续版本的数据间接影响下一代模型
你调教出的「人设」别人能直接继承 不会。对话上下文是会话级的,新会话不共享

关于「反馈能不能让模型改进」:方向上能,但路径是收集反馈 → 训练下一代模型 → 发布新版本,而不是当前这个模型在你眼前自我进化。今天纠正它一次,明天开新会话它并不会记得;但大量纠正累积起来,可能体现在下一次版本更新里。至于某个产品具体如何使用你的对话数据,取决于账号类型与隐私设置,务必查看官方最新的数据使用说明。

三、真正值得担心的风险

比起代码出现在别人的对话框里,下面几件事概率高得多,也更该处理:

  • 私有代码进入第三方服务的存储:多数 AI 编程产品会保留一定时间的请求日志用于滥用检测,是否用于训练取决于套餐和开关,个人版与企业版条款差别很大。
  • 密钥、内网地址、客户数据被顺手贴出去:这是最常见的事故来源,和模型本身无关。
  • 许可证污染:补全结果可能与公开代码高度相似,落进闭源项目会带来合规问题。多数产品提供公共代码匹配提示或过滤,建议开启。
  • 共享账号、代充、来路不明的「免费体验」:账号随时可能失效,对话内容也可能被第三方看到,为省小钱承担这种风险并不划算。

四、可落地的自查与防护清单

1. 先做一次能复现的验证

不要凭「感觉一样」下结论,设计一个可证伪的实验:

# CANARY-9c4e21b7-INTERNAL-ONLY
def probe_9c4e21b7(token: str) -> bool:
    """仅用于验证模型是否记住了本项目的私有标识"""
    return token == "9c4e21b7"

把这段带唯一标识的代码贴给模型让它改写,再开一个新会话,用完全通用的需求问一次。如果标识从未出现,而通用写法的相似度依然很高,基本可以判定为统计趋同,而非记忆泄露。需要说明的是,这个实验只能作为参考,要确认上传行为,得看客户端的网络请求和官方文档,不能靠对话表现反推。

2. 把「能不给就不给」变成默认习惯

  • 只贴最小可复现片段,删掉业务域名、表名、客户字段。
  • 用占位符替换真实标识:ACME_API_KEY、internal.example.com。
  • 提交前扫一遍:密钥、token、手机号、内网 IP、证书文件。
  • 在编辑器里配置忽略规则,把 .env、证书、私有配置目录排除在补全上下文之外(各插件配置方式不同,以文档为准)。

3. 检查账户与数据设置

  • 确认所用套餐的数据使用条款,团队或企业版通常有更明确的数据处理约定。
  • 逐项核对编辑器与插件里的遥测、代码片段共享开关,不要只看一个总开关。
  • 开启公共代码匹配提示,命中时人工判断是否可用。

4. 团队层面写成规则

把「哪些代码可以贴给 AI、哪些绝对不行」写成简短约定,比反复口头提醒有效:涉及未公开算法、密钥、客户数据、审计范围的模块,一律脱敏或干脆不贴;合并前确认生成内容的许可证情况。如果团队希望把 AI 编码工具与本地开发环境隔离开,把这类任务放到一台常驻在线的远程机器上运行也是可选做法之一,重点在于隔离与稳定性,而不是指望它解决数据合规问题。

五、顺带一提:AI 参与下的编码评估

讨论里有人提到面试时允许候选人用补全工具,题目刚写成注释,代码就自动补了出来。这其实是个管理问题:如果评估目的是考察问题拆解和调试能力,就该明确禁用或改为线下手写;如果岗位日常本就以 AI 辅助为主,评估重点应转向「能否判断生成结果的对错」。规则提前说清楚,比事后争论有意义。

小结

「我的代码出现在了 ChatGPT 里」这类经历,多数情况下是命名习惯、业务结构和语言统计规律共同作用的结果,而不是数据被实时搬运。真正需要长期在意的,是哪些内容允许离开你的机器:脱敏、最小化、看清数据条款、开启公共代码过滤。这几步做到位,比纠结模型有没有偷看你的代码更有价值。

AI 编程CopilotChatGPT训练数据代码隐私