ChatGPT卷入柬埔寨诈骗流水线

OpenAI封禁一批协同诈骗账号

OpenAI于7月31日披露，公司已经封禁一组疑似由柬埔寨诈骗网络控制、彼此协同运作的ChatGPT账号。根据IT之家报道，这批账号被用于投资、恋爱和赌博诈骗，相关活动发生在2026年早些时候，最初线索来自WhatsApp。

协同账号是指在身份、任务、话术或操作节奏上存在关联，并共同服务于同一行动目标的一组账号。OpenAI没有公布被封禁账号的准确数量，也没有披露受害者规模和涉案总金额，但其调查认为，这些用户极有可能来自柬埔寨，并在班迭棉吉省波贝地区活动。

这不是一起“有人让ChatGPT写了几句诈骗文案”的零散滥用事件。OpenAI观察到的行为覆盖虚假身份创建、跨语言翻译、招募宣传、受害者沟通以及内部管理，说明生成式AI已经进入诈骗团伙的日常生产流程，扮演的是通用办公系统，而不只是聊天机器人。

从恋爱关系到虚假投资，AI接入了完整链条

杀猪盘是一类通过长期经营虚假关系建立信任，再诱导受害者参与虚假投资、赌博或资金转移的诈骗模式。此次被查处的网络会先用虚假身份接近目标，与受害者建立恋爱或朋友关系，随后将话题引向加密货币、黄金交易等项目，最终诱导对方投入资金。

这批账号对ChatGPT的使用可以分为对外欺骗和对内协作两部分。对外，模型被用于创建人物设定、翻译诈骗消息、制作宣传内容和调整沟通语气；对内，模型则被用于起草通知、翻译员工交流记录，并处理日常运营文字。

| 使用环节 | ChatGPT承担的任务 | 对诈骗网络的价值 | 主要风险 | |---|---|---|---| | 虚假身份包装 | 生成人物背景、职业经历和社交叙事 | 降低批量创建人设的成本 | 多个身份可以快速适配不同受害者 | | 跨语言沟通 | 翻译诈骗消息和员工交流记录 | 扩大可接触的国家与语言范围 | 团伙不再高度依赖熟练外语人员 | | 宣传与招募 | 制作活动文案、招募材料和图片文字 | 提高内容产出速度 | 可能掩盖强迫劳动与人口贩运风险 | | 关系维护 | 调整语气、续写对话和准备回复 | 维持更长时间的沟通 | 让诈骗者更容易同时经营多个目标 | | 内部管理 | 起草通知和整理工作信息 | 将AI嵌入组织运营 | 诈骗活动更容易形成标准化流程 | | 投资诱导 | 包装加密货币或黄金交易叙事 | 提升虚假项目的表面可信度 | 受害者可能把流畅表达误判为专业能力 |

AI在这条链路中的核心作用不是创造一种全新的骗局，而是压低既有骗局的内容成本。过去，一个团伙要覆盖多种语言，需要招聘翻译、培训话术人员并反复校对；现在，模型可以在几秒到几分钟内完成初稿，再由操作人员做少量修改。

这种效率提升尤其适合“广撒网、慢筛选”的诈骗模式。诈骗者可以针对不同年龄、职业、地区和情感状态准备多套叙事，在早期同时接触更多目标，再把表现出信任或投资兴趣的人交给更有经验的成员跟进。

真正危险的是稳定性，不是文采

生成式AI在诈骗中的放大效应，首先来自语言质量的稳定，而不是某一句话有多高明。传统机器翻译或模板群发往往会留下语法错误、称谓混乱和文化不适配等破绽，ChatGPT则能持续调整语气，把同一套意思改写成更像商务沟通、日常聊天或亲密关系对话的表达。

稳定的人设能够延长诈骗者暴露破绽所需的时间。一个虚构角色需要记住自己的职业、居住地、家庭情况、投资经历和日常安排，任何前后矛盾都可能引起怀疑；模型可以帮助整理这些设定，并围绕设定持续生成内容，相当于给诈骗操作员配了一本随时可查询的人设手册。

跨语言能力则直接扩大了诈骗网络的潜在市场。诈骗团伙不必为每一种目标语言配置完整团队，只需要少量能够判断输出是否可用的人员，就能把既有话术改造成多个语言版本。模型未必能完全掌握当地文化，但对于大规模筛选目标而言，只要降低最明显的语言障碍，就可能产生实际价值。

| 能力维度 | 传统模板诈骗 | 接入生成式AI后 | 本次事件中的表现 | |---|---|---|---| | 内容生产 | 依赖固定脚本，改写成本较高 | 可快速生成多版本表达 | 制作诈骗宣传和内部通知 | | 语言覆盖 | 受限于团队外语能力 | 可低成本完成初步翻译 | 翻译受害者消息与员工记录 | | 身份包装 | 人工编写背景，容易重复 | 可按目标生成不同人物设定 | 创建和维护虚假身份 | | 场景切换 | 更换骗局需要重新培训 | 可在投资、恋爱、赌博叙事间切换 | 多种诈骗类型并行出现 | | 组织协作 | 依赖人工传达和本地管理 | 可辅助整理、改写内部材料 | GPT被用于起草内部通知 |

流畅表达也可能制造一种错误的专业感。涉及加密货币或黄金交易时，受害者面对的往往不是明显粗糙的网页和错字连篇的消息，而是一套术语完整、逻辑连贯、回应及时的叙事系统；语言质量无法证明项目真实，却可能被误认为对方更专业、更可靠。

案件还指向人口贩卖与强迫犯罪

OpenAI在相关账号活动中还观察到涉及人口贩卖和强迫犯罪的内容。人口贩卖是通过欺骗、胁迫或控制等方式剥夺个人自由并实施剥削的犯罪活动，而强迫犯罪是指受控制人员被迫参与诈骗、洗钱或其他违法行为。

这一线索与东南亚诈骗园区的公开报道相互呼应，但目前公开信息不足以判断每一个涉事账号背后的操作人员究竟是组织者、自愿参与者还是被强迫劳动者。因此，将所有账号使用者简单归为同一种身份并不准确，平台治理既要阻断诈骗，也要避免忽视潜在受害者。

招募内容在这类网络中具有双重风险。表面上，它可能以高薪客服、翻译、运营或海外工作为名吸引求职者；进入封闭园区后，人员却可能遭到证件扣押、暴力威胁或被迫参与诈骗。此次披露没有给出完整司法认定，但ChatGPT被用于制作招募材料，说明AI生成内容已经触及诈骗网络补充人力的入口。

这也解释了为什么单纯识别“诈骗关键词”很难解决问题。招募广告、员工通知和日常翻译单独看都可能是正常业务，风险通常来自多个行为的组合：同一批账号持续创建虚假身份、批量切换语言、讨论受害者进度，并围绕投资或赌博项目重复使用类似流程。

封号有效，但封号不是终点

OpenAI此次采取的是基于账号网络的协同处置，而不是只拒绝某一条提示词。账号网络治理是通过内容、行为和关联信号识别共同执行任务的一组主体，再对整个集群采取限制或封禁措施的方法。

这种做法比单次内容拦截更接近问题本质。诈骗者完全可以把恶意请求拆成看似无害的小任务，例如先翻译一段文字，再改写人物介绍，最后润色投资说明；如果系统只判断每一轮对话是否包含明显诈骗指令，就可能看不见多个任务拼接后的真实用途。

OpenAI还表示已向行业合作伙伴共享相关信息。威胁情报共享是平台之间交换恶意账号特征、基础设施线索和行为模式，以便在不同服务上识别同一攻击网络的协作机制。由于这起事件最初由WhatsApp提供线索，案件本身已经说明诈骗链条横跨聊天平台、AI产品和潜在的投资或支付场景，任何单个平台都只能看到其中一段。

不过，平台封禁无法等同于摧毁线下组织。账号可以重新注册，话术可以迁移到其他模型，诈骗者也可以改用本地部署工具；如果组织者、通信渠道、虚假投资页面和资金流没有同步受到打击，封号更多是在提高其运营成本，而不是让网络彻底消失。

OpenAI没有披露具体检测规则是合理的，因为过度公开指标会帮助对手规避风控。但透明度仍有提升空间，包括公布处置账号的大致规模、主要受害地区、诈骗语言分布、从接收线索到封禁的时间，以及共享情报后其他平台采取了什么行动。

目前损失未知，不能把“数千美元”当成案件总额

这起案件尚无可核实的总经济损失数字。公开材料只提到，部分诈骗者曾在ChatGPT对话中表示，一些受害者损失了数千美元；这属于涉事用户在聊天中的陈述，不是经执法机构审计后的案件总额，也不能推算全部受害者的损失。

| 已确认信息 | 当前状态 | |---|---| | 事件时间 | 相关活动发生在2026年早些时候，OpenAI于7月31日披露处置结果 | | 初始线索 | 来自WhatsApp | | 疑似地点 | 柬埔寨班迭棉吉省波贝地区 | | 诈骗类型 | 投资、恋爱和赌博诈骗 | | AI用途 | 虚假身份、翻译、宣传内容、内部通知和员工交流记录 | | 账号处置 | 一组协同ChatGPT账号已被封禁 | | 情报协作 | OpenAI已向行业合作伙伴共享信息 | | 账号数量 | 未公布 | | 受害者数量 | 未公布 | | 总经济损失 | 未知，只有个别“数千美元”陈述 |

数字缺失本身值得关注，但不宜被解读为事件影响较小。恋爱投资诈骗通常具有较长的建立信任周期，受害者也可能因为羞耻、跨境追偿困难或尚未意识到受骗而延迟报案，平台看到的对话记录与执法机关掌握的资金损失往往不是同一套数据。

AI公司正在从内容审核转向行动识别

此次处置释放出的重要信号，是大模型安全正在从“这句话能不能回答”转向“这个账号网络在做什么”。前者关注单次生成内容，后者关注长期行为、账号关联、任务分工和跨平台证据，两者的技术难度和隐私边界都明显不同。

单次拒答只能拦住最直接的恶意请求。诈骗者如果让模型“帮我欺骗受害者投资”，系统较容易识别；但如果请求变成“把这段黄金投资介绍写得更自然”“将消息翻译成印尼语”或“为海外客服起草通知”，单条内容可能完全合法，只有结合上下文和重复行为才能看出风险。

行为治理也不能变成不透明的全面监控。平台需要在检测欺诈、保护用户隐私和减少误封之间建立清晰边界，并为正常的翻译、金融教育、反诈研究和文学创作保留申诉空间。OpenAI的公开政策允许因欺诈、诈骗、规避安全限制和其他违法使用停用账号，但具体执行仍需要可审计的内部流程。

对模型厂商来说，更实际的方向是把风险信号分层处理。明显索取诈骗策略的请求可以直接拒绝；反复生成大量相似身份和投资话术的账号可以进入增强审核；多个账号共享同类任务和操作节奏时，则应按协同网络分析，而不是等到每个账号分别触发高风险阈值。

这次封禁有用，但无法单靠模型护栏解决诈骗

OpenAI的处置值得肯定，因为它没有把责任停留在“模型只是工具”这句话上。ChatGPT虽然不是骗局的发起者，却确实被嵌入了虚假身份、语言翻译、宣传制作和内部管理等环节；产品提供者能够观察到异常使用，就有责任阻断服务并向相关平台共享线索。

但把事件概括为“AI让诈骗突然变得聪明”同样失真。诈骗网络原本就拥有成熟的话术、人员分工、社交平台账号和资金承接渠道，AI主要减少了翻译、改写和内容生产所需的人力，使其更容易扩大覆盖面，却没有替代建立信任、控制人员、转移资金和逃避执法等关键环节。

真正有效的治理必须跨越模型、社交平台和执法机构。模型厂商负责识别异常生成行为，聊天平台负责阻断引流和虚假身份，金融与交易平台负责追踪异常资金，执法机构则需要处理线下园区、人口贩卖和组织者；缺少其中任何一环，诈骗网络都可能换一个入口继续运行。

对普通用户而言，判断依据也不应停留在文字是否自然。陌生人迅速建立亲密关系、主动谈论加密货币或黄金投资、要求转到指定平台、展示无法独立验证的盈利截图，以及以税费或解冻费阻止提现，仍然是比“这段话像不像AI写的”更可靠的风险信号。

这起事件最终暴露的不是一个模型失控，而是一套成熟犯罪产业对通用AI的吸收能力。OpenAI封禁协同账号提高了团伙使用ChatGPT的成本，也给行业提供了可复用的行为样本；但在账号数量、受害者规模和资金损失仍未公开的情况下，这次行动更像一次及时止损，而不是案件已经结束。

参考来源

• IT之家：ChatGPT被柬埔寨诈骗网络利用，OpenAI出手封禁——整理OpenAI披露的案件地点、诈骗类型、ChatGPT用途及账号处置情况。
• IT之家移动版：OpenAI封禁涉柬埔寨诈骗网络账号——同一事件的移动端报道，可用于交叉核对公开信息。