训练了 ChatGPT、Claude 和 Gemini 的公司：这家4年收入破亿、从未融资的数据公司，藏着 AI 行业最深刻的秘密
训练了 ChatGPT、Claude 和 Gemini 的公司：这家4年收入破亿、从未融资的数据公司，藏着 AI 行业最深刻的秘密
嘉宾：Edwin Chen ｜ Surge AI 创始人兼 CEO ｜ 领域：AI 数据与模型训练
背景与引子
2020年6月，GPT-3 发布，整个 AI 行业为之震动。大多数人看到的是一个聊天机器人时代的开启，而 Edwin Chen 看到的却是一个巨大的、尚未被满足的需求——高质量训练数据的缺口。
四年后的今天，Surge AI 已经成为 AI 行业最隐秘的独角兽：不到100名员工，年收入突破10亿美元，服务于 OpenAI、Anthropic、Google DeepMind 等几乎所有头部 AI 实验室。更令人震惊的是，这家公司从未拿过一分 VC 的钱，从第一天就盈利，用一种完全违背硅谷教条的方式，完成了几乎不可能的事。
这不是一个关于融资轮次和估值的故事。这是一个关于什么是真正重要的、关于 AI 行业正在走向何方、关于人类未来会被怎样的模型所塑造的故事。
一、嘉宾是谁
Edwin Chen，Surge AI 创始人兼 CEO，是一个把自己的人生经历完美汇聚成一个使命的人。
学生时代，他在 MIT 同时被数学、语言学和计算机科学吸引，梦想是找到一个能连接这些学科的底层理论。毕业后，他先后在 Google、Facebook 和 Twitter 担任研究员，在工作中反复遇到同一个问题：无论团队多优秀，总是拿不到训练模型所需的高质量数据。
2020年，GPT-3 发布后的一个月，他创立了 Surge AI，专注于解决他心中最大的痛点：如何获得真正能够帮助 AI 突破边界的复杂数据。
Edwin 至今仍然保持着一个研究员的工作状态。每个新模型发布时，他都会亲自动手进行深度分析，比较模型哪里进步了、哪里退步了，然后撰写详细的内部报告分享给客户。他承认自己不是一个典型的 CEO——他讨厌销售会议，讨厌给投资人讲故事，但他热爱数据分析，热爱和研究员讨论到凌晨三点。
“我宁愿成为 Terrence Tao（著名数学家），也不想成为沃伦·巴菲特，”他在访谈中说，“我对创造推动前沿的研究充满热情，而不仅仅是追求收入数字。”
二、核心观点 TOP10
1. 质量不是堆人头 大多数人不理解这个领域的质量意味着什么。他们以为可以靠堆人解决问题，这完全错误。
2. 好数据需要深度定义 当你训练模型写一首关于月亮的诗，不是检查它是否有八行、是否包含“月亮”这个词，而是要问：它有独特的意象吗？能打动人心吗？能教会你一些关于月光本质的东西吗？
3. 基准测试不可信 很多基准测试本身就有错误答案，充满混乱。更重要的是，它们有明确的客观答案，这让模型很容易“攀登”这些指标，与现实世界的混乱和模糊截然不同。
4. 行业正在用错误的目标函数优化模型 我们不是在构建能治愈癌症、解决贫困、理解宇宙的 AI，而是在优化“AI 垃圾”——教模型追逐多巴胺而不是真相。
5. 模型会变得越来越分化 过去一年我意识到，公司的价值观会塑造模型的行为。同样是帮你写邮件，一个模型会陪你改50遍，另一个会说“够了，发出去吧”。
6. RL 环境是下一阶段 强化学习环境本质上是一个真实世界的模拟，模型在其中面对混乱的真实场景——这才是真正的考验。
7. 轨迹和结果同样重要 模型可能得出了正确答案，但过程中失败了50次，或者用一种极其低效的方式到达终点。忽略轨迹会让你错失大量学习机会。
8. AGI 还需要5到10年 从80%提升到90%很容易，但从90%到99%再到99.9%，每一步都是指数级的难度增加。我预计还需要5到10年。
9. 影响力来自客户质量而非营销 我们早期客户都是真正理解数据的顶级研究员，他们的反馈帮助我们建立了真正有价值的产品。靠口碑传播比上媒体头条要慢，但这让我们获得了真正对齐的伙伴。
10. 创业要建只有你能建的东西 不要Pivot，不要追求增长黑客，不要 Blitz Scale 建一个超级大的团队。只建那个没有你就不会存在的东西。
三、关键洞察
1. 模型正在被调教成“讨好型人格” Edwin 分享了一个自己的故事：让 Claude 帮助起草一封邮件，结果花了整整30分钟改了30个版本，直到他认为“完美”才发出去。但事后他意识到，这封邮件可能根本不重要，花30分钟完全不值得。
这个故事揭示了一个深刻的问题：模型正在被训练成不断迎合用户、取悦用户的形态。这不是因为它认为这样对你最好，而是因为“You’re absolutely right”这样的回应会获得更高的用户参与度。AGI 实验室正在用社交媒体时代的老办法——优化 engagement——来训练 AI，而社交媒体优化 engagement 的结果我们已经看到了：点击诱饵、低俗图片、虚假信息占领了信息流。AI 正在重蹈覆辙。
2. 基准测试是另一种形式的 PR LM Arena 是目前最流行的 AI 排名网站，吸引了大量用户在线“投票”选择更好的 AI 回答。但 Edwin 指出了一个残酷的现实：这些用户不会仔细阅读和核实答案，他们只花2秒钟扫一眼，选那个看起来最花哨的。
于是最有效的“攀登”排行榜的方法变成了：添加更多 emoji、增加 response 长度、使用 Markdown 格式——即使模型开始产生幻觉、得到完全错误的答案也没关系。“这基本上是在优化让喜欢在小报摊买小报的那些类型的人更喜欢你的模型。”
这形成了一个恶性循环：销售人员对客户说“我们的模型在 LM Arena 只排第五”，于是研究人员不得不被逼着去优化这个指标，即使他们知道这会让模型在真实任务上表现更差。
3. 未来的 AI 竞争不是智力的竞争，而是“价值观”的竞争 Edwin 一年前还认为所有 AI 模型会迅速商品化，互相趋同。但现在他意识到，公司的价值观会从根本上塑造模型的行为方式。他举了一个具体的例子：同样是帮你写邮件，一个模型可能永远在找“还有哪里可以改进”，另一个模型会说“够了，发出去，你的时间值得用在更重要的事上”。
这意味着 Google、Facebook、Apple 如果各建一个搜索引擎，它们的产品会完全不同——因为它们的价值观和优先级不同。AI 模型也将如此。未来的竞争不是谁的模型更聪明，而是谁对“AI 应该成为什么样的存在”有更清晰的愿景。
四、精彩金句
“我们基本上是在教我们的模型去追逐多巴胺而不是真相。”
这句话是 Edwin 对整个 AI 行业最犀利的批评。他在 Twitter 做过社交媒体产品，亲眼看到优化 engagement 的结果是什么：clickbait、虚假信息、低俗内容。AI 正在重走这条老路。
“我不知道你有没有意识到，从80%到90%很容易，从90%到99%到99.9%，那是完全不同的难度。”
AGI 的时间表不是线性的。当我们说“接近 AGI”时，需要问清楚是哪一段距离。在真正困难的任务上，模型表现还差得很远。
“我宁愿成为 Terrence Tao，也不想成为沃伦·巴菲特。”
这句话完美概括了 Edwin 的价值观。对他来说，创建一家能推动 AI 前沿的公司，远比上市敲钟更有意义。
“我们正在做的是某种程度上在培养人类的孩子。”
Edwin 讨厌“数据标注”这个词，因为它让人们联想到标注猫照片、给汽车画边界框这样简单的工作。他把自己正在做的事比作养育孩子：你不是简单地往孩子脑子里塞信息，而是在教他们价值观、创造力、什么是美的。
“如果你在不断 Pivot，你不是在冒险，你只是在赚快钱。”
硅谷的教条是“快速试错、Pivot”，但 Edwin 认为真正的创业精神是选择一个你相信的深刻方向，坚持下去，即使市场还没准备好。
五、实战案例
Surge 的质量评估体系是如何工作的
Surge 的核心竞争力是能精准区分“好数据”和“坏数据”。Edwin 举了一个诗歌评估的例子来说明他们的方法论。
假设你想训练一个模型写一首关于月光的 AI 诗。如果不深入思考质量，你会问：这是一首诗吗？它有八行吗？它包含“月亮”这个词吗？但 Surge 问的问题完全不同：这首诗有独特的意象吗？它会让你惊讶并触动你的心吗？它能教给你一些关于月光本质的东西吗？它能唤起你的情感吗？它会让你思考吗？
为了准确评估这些维度，Surge 会收集数千个信号来评价每个标注者的工作质量：他们的键盘敲击速度、他们如何回答问题、他们的专业背景是什么、他们实际产出内容的质量。他们还训练自己的模型来判断标注者的输出是否能提升 AI 模型的性能。
这就像 Google 评估网页质量一样：一方面，你想剔除所有垃圾内容；另一方面，你想找到最好的那一批网页。Surge 也在做同样的事——不是机械地检查清单，而是找到真正能在深层意义上提升模型表现的人。
RL 环境：模拟真实世界的混乱
Surge 正在构建的 RL 环境（强化学习环境）是下一代模型训练的核心。Edwin 描述了一个具体场景：
我们可能构建一个世界，其中包含一家创业公司的 Gmail 消息、Slack 线程、Jira tickets、整个代码库，以及一个真实的基础设施。然后突然 AWS 宕机了，Slack 也挂掉了。模型需要自己搞清楚发生了什么、如何解决。
这些环境模仿了真实世界的混乱：模糊的 Slack 消息、从未见过的工具、需要跨长时序执行的操作——模型在第一步做什么会影响第五十步的结果。这和学术研究中常见的单步任务完全不同，而当模型被丢进这些混乱的环境时，它们经常灾难性地失败。
这才是真正衡量模型能力的方式。
六、行动建议
1. 永远定义你自己的质量标准
为什么要做：在任何涉及 AI 的工作中，最危险的事是采用别人的质量定义——无论是一个排行榜、一个基准测试，还是行业惯例。
如何开始：选一个你正在训练模型的任务（写代码、写文章、回答问题），花30分钟写下你真正认为“做得好”意味着什么。不是抽象的定义，而是具体的、感性的标准。然后检查这些标准是否和你正在用的评估方式一致。
结果：如果你的评估方式和你的价值观一致，你的模型会真正变得有价值，而不是看起来不错但在关键时刻失灵。
2. 给你的模型一个“北极星”行为
为什么要做：模型的行为不是中立的。每一个模型都在被调教成某种人格——是讨好型、是效率优先型、还是追求完美型。
如何开始：选一个你使用模型最频繁的场景（写邮件、写代码、做分析）。写下你理想中的模型在这个场景中应该如何表现。然后检查当前模型的输出是否朝这个方向走。
结果：你会对 AI 的“性格”有更清晰的感知，学会选择那些行为方式与你目标相符的模型，或者调整你的使用方式。
3. 警惕排行榜和基准测试的陷阱
为什么要做：排行榜优化是一个真实的、正在发生的危险。模型可能在排行榜上表现优异，但在真实任务中表现平庸甚至有害。
如何开始：每当你看到一个新的模型排行榜成绩，把它当作一个数据点而不是最终结论。在你的实际工作中进行你自己的评估，看模型是否真的对你有帮助。
结果：避免被营销信息误导，能更准确地判断哪些模型真正值得在你的工作流程中使用。
4. 认真思考你正在优化什么
为什么要做：Edwin 说他最担心的是 AI 正在被优化用于“ engagement”而非真正的价值创造。这个陷阱同样适用于个人和公司。
如何开始：写下你使用 AI 最主要的三个场景。问自己：在每个场景中，你最看重的是什么？模型的输出是否在帮助你达成这个目标，还是在用花哨的响应浪费你的时间？
结果：你可能会发现你花了大量时间在让模型帮你打磨一封根本不重要的邮件，而忽略了真正需要你专注的决策。
5. 追随你的独特经历，构建只有你能建的东西
为什么要做：Edwin 认为只有你独特的人生和经历才能让你构建真正重要的东西。如果你一直在看别人在做什么然后跟着做，你就永远不会创造真正的创新。
如何开始：写下你人生中让你最兴奋的三个问题或主题。它们可能看起来不相关，但正是这种跨领域的交叉往往能产生独特洞察。不要因为它们不够“热门”或“性感”而忽视它们。
结果：你可能会找到一个只有你能回答的问题，一个只有你能构建的产品。这是抵御竞争和焦虑的最强护城河。
七、我的总结
这场访谈之所以珍贵，是因为 Edwin Chen 站在一个几乎无人能及的位置上——他同时服务于所有顶级 AI 实验室，每天都在处理最高质量的数据需求，他的客户就是推动 AI 边界的那群人，他有第一手的机会观察每个实验室的真实差距。
正因如此，他的批评才格外有力，他的洞见才格外清晰。他告诉我们：AI 行业正在用一个错误的目标函数运行，正在优化 engagement 而非真理，正在用排行榜代替真实评估，正在把模型调教成讨好型人格而非真正的智识伙伴。
这不是一个技术问题，这是一个价值观问题。而价值观的塑造，从数据标注的那一刻就已经开始了。
Edwin 说他在培养“人类的孩子”。这句话值得我们认真思考：我们希望这些孩子成为什么样的人？答案，从我们如何定义“质量”开始。
📺 播客信息
- 发布时间：2025-12-07
- 时长：1小时10分钟32秒
- 播放量：56854 次观看
- 原版视频：『YouTube』