Y Combinator 的 Garry Tan 希望美国开放权重 AI 实验室也“蒸馏”前沿模型

在中国 AI 实验室利用蒸馏技术从前沿模型开发商那里提取知识的问题上，Y Combinator CEO Garry Tan 希望监管机构不要介入。事实上，他认为美国 AI 实验室或许也应该玩同样的游戏。 “我什么都不会做，”他本周早些时候接受 CNBC 采访时说。“我们可以主张，应该建立一套美国式的蒸馏制度。” 他向 TechCrunch 进一步解释，这意味着他希望规模较小的美国开放权重 AI 实验室对美国前沿 AI 实验室使用同类训练技术，从而让美国拥有更强大的、非中国的开放权重选择。 蒸馏是指模型开发者通过大量提示另一个模型，以学习其运作和推理方式。AI 实验室通常且合法地使用这种方法来帮助训练新模型。 Anthropic 本周发布第二份报告，指控中国实验室从事“非法蒸馏攻击”，隐瞒身份，未经许可进行蒸馏，并依赖欺诈和窃取的凭证。Anthropic CEO Dario Amodei 此前曾公开呼吁美国监管机构打击蒸馏。 值得注意的是，这家硅谷著名且高产的创业加速器的掌门人并不认同。 需要明确的是，Tan 并不主张美国 AI 实验室使用窃取的凭证进行蒸馏。他希望它们能够自由地“走前门”。事实上，他的论点有两方面。他认为，AI 实验室规定客户可以如何处理模型与其分享的信息，属于越权。 他还指出，专有 AI 实验室在尽可能吸收人类知识来训练模型时，并没有征求许可。它们曾大量摄入受版权保护的材料，且未获知识产权持有者的许可，这一点广为人知。 “控制用户和客户对闭源权重模型的 API 调用做什么，会让人感到束缚。政府可以发挥作用，让一件事正常化：对基于广泛公开可获取数据训练出来的智能的访问，本身也应更像一种公共物品，而不是被限制性服务条款锁起来的东西，”当被问及为什么美国实验室也应自由蒸馏时，他对 TechCrunch 说。 Tan 本人是如此狂热的 AI 用户，以至于曾形容自己患有“赛博精神病”，他希望在开放权重 AI 实验室与前沿实验室之间取得平衡。 “他们处于前沿，并推动其向前发展。我们希望这能获得资金支持，并持续成为一种出色的商业模式，”他对 CNBC 说。“你也希望开放权重模型给人们带来自由和访问权。” 在他看来，真正的 AI 末日论场景，是前沿 AI 的全部巨大力量最终落入一家强大的专有提供商手中。“最糟糕的场景，AI 的末日论场景，就是只剩下一家公司，”他说。“它拥有最好的资本渠道。它拥有最好的 AI 研究人员。它一路领先，突然之间，出现了一家垄断性的巨头。那会很糟糕。”