ChatGPT 发明者推出新型 AI 模型，令开发者兴奋不已

ChatGPT 曾让迪奥戈·阿尔梅达（Diogo Almeida）伤透了心。 阿尔梅达曾是 OpenAI 研究员，参与构建 ChatGPT，并随后发明了“基于人类反馈的强化学习”（RLHF）——这项模型训练技术或许是我们当前 AI 时代最重要的推动因素。但尽管 ChatGPT 能力出众，他仍感到失望。 “我们把闪电装进了瓶子，可它却不实用，”阿尔梅达告诉 TechCrunch。“从那以后，我一直在与这个问题搏斗。我花了些时间才得出结论：问题在于我们一直在针对人类语言进行优化……四年来，我们在人类语言上做得极其出色，但它对自动化并不实用，因为计算机说的是另一种语言。” 两年前，阿尔梅达离开 OpenAI，创办了 TypeSafe AI，一家试图解决这个问题的初创公司。本周，该公司发布了一款基于 Transformer 的新模型 Jev，它不是大语言模型（LLM）。它不输出文本，而是输出概率，或公司所称的“校准决策”。 摒弃语言带来几个好处：模型变得极其便宜且快速；由于用户预先定义输出，它不会产生幻觉。其输出 token 免费，输入 token 按十亿级而非百万级计费。 开发者对这款产品兴趣浓厚；由于需求过高，该公司一度无法通过 API 向用户提供服务。Jev 似乎对软件自动化最有用。迄今为止，软件开发者将其视为一种更便宜、更稳健的方式，把智能融入代码。 例如，构建智能体基础设施的公司 Vercel 的软件工程师 Pranit Sharma 表示，他的公司曾使用 OpenAI 的 ChatGPT Luna 5.6 运行分类器，以审查命令安全性。当 Vercel 用 Jev 替换 OpenAI 的 Luna 后，获得结果的速度快了 5 到 18 倍，准确率也更高。 另一位开发者、Bryo AI 首席技术官 Nikhil Mudholkar 将 Jev 与 Gemini 进行对比测试，用于分类商务邮件。在他的测试中，Gemini 准确率略高，但成本高出 10 到 20 倍。更令 Mudholkar 感兴趣的是 Jev 的置信度分数——“它是唯一一个返回真实概率的模型，这使它非常适合自动化工作流！！” 除了在某些用例中替代 LLM，这个新模型还可以增强 LLM，充当对其不当行为的智能检查。用智能体监控智能体很快就会变得昂贵，但阿尔梅达认为，用 Jev 来做这件事是合理的。他预计用户会部署 Jev 来追踪 LLM 智能体的轨迹并防止越狱。 “归根结底，它把幻觉问题在一定程度上交给了用户，”Earendil 首席技术官 Armin Ronacher 解释道。Earendil 开发了开源模型框架 Pi。“用户必须说，好吧，如果它只返回 50% 的概率，也许这就是掷硬币，我不予理会。但如果它返回 95%，当然，那我就可以据此做点什么。” Ronacher 表示，Jev 的另一个潜在用途是模型路由。预测某项工作负载是否需要特定模型会很有用，但用 LLM 来做这件事成本高昂。Jev 的低成本和高速度让这种实时分流成为可能。 这也是阿尔梅达的希望。该模型以 19 世纪经济学家威廉·斯坦利·杰文斯（William Stanley Jevons）命名，其同名悖论描述了商品成本下降如何导致其使用量越来越大。在这个案例中，智能成本的下降应会带来其广泛部署。 “我们认为，智能软件将无处不在，以一种涌现式、分布式的方式……更像是早期互联网，而不是人们现在试图打造的那种超级应用，”阿尔梅达说。 阿尔梅达对模型架构守口如瓶，外界观察者怀疑它构建在一个开放权重 LLM 之上。公司将 Jev 称为“系统一模型”，专注于直觉而非推理，并专门聚焦于合适的任务。阿尔梅达表示，Jev 完全使用合成数据训练，采用一种他称为“基于校准决策的强化学习”的技术。 “我们很早就下注，要自己制造所有数据，这是我一生中做过的最好赌注之一——在我看来，比我们的产品发布更好，比 RLHF 更好，”他告诉 TechCrunch。“我们公司有一半是一个实验室，基本上拥有‘统计上充分理解的合成数据’这一整个子领域，而这现在是我的人生乐趣。” 目前，Jev 在这类模型中独树一帜，但 Ronacher 预计，既然其用途已经显而易见，竞争者将会涌现。 “从很多方面看，我们本该更早看到这一点，但大概因为 LLM 如此便宜且受到补贴，你往往还不需要有创造力，”他说。 TypeSafe 自身将构建更多版本、更多模态的模型。当被问及 TypeSafe 是否是一家前沿实验室时，阿尔梅达说：“前沿实验室的主要产品是恐惧或炒作。我希望我们的主要产品是智能……但我们不是那种意义上的实验室，你知道，比如押注无限财富、一种宗教，或在数据中心里造神，或当下流行的无论什么东西。”