JetBrains发布全新AI编码助手：融合多个大型语言模型，实现供应商中立

JetBrains于当地时间周三推出了一款新的AI编码助手，该助手能够从开发者的集成开发环境（IDE）获取信息，并将其反馈给AI软件，以提供编码建议、代码重构和文档支持。JetBrains声称，其AI助手是第一个供应商中立的此类产品，因为它使用了多个大型语言模型，而不是依赖单一的AI平台。

JetBrains的数据科学开发者倡导者Jodie Burchell表示：“我们之所以称自己为中立，是因为你不会被锁定在一个大型语言模型中。这也意味着你不会被锁定在一个可能会过时，可能无法跟上最新发展的模型中。”

该平台的基础包括OpenAI和谷歌的LLMs，以及JetBrains创建的一些较小的LLM模型。不同的模型用于不同的任务。例如，代码生成可能很直接，因此可以比诸如“为什么这个bug会发生？”这样的问题更容易解决。Burchell说，这需要更大模型所提供的更细腻的语言理解。JetBrains的AI服务自动处理哪个模型获得哪个查询。通过使用AI服务架构，JetBrains可以连接新模型，而无需用户更换AI提供商。

Burchell表示：“如果你有一个更简单的任务，你可以使用一个较小的[模型]，也许是我们内部的一个大型语言模型。如果你需要做一些非常复杂的事情，你将不得不使用GPT。”

第三方LLM公司不会存储数据，尽管信息会被共享以创建底层大型语言模型的提示，她说。

Burchell说：“我们与供应商的协议是，他们不能存储数据。他们不能将其用于生成模型输出和审查之外的任何事情——所以基本上是安全检查。”她还说：“我们永远不会与那些有此类协议的第三方供应商合作，他们可以将数据用于除此之外的任何事情。”

开发者对于将所有编码工作交给AI助手并不特别热衷——JetBrains最近的一项调查发现，只有17%的受访者表示他们愿意将代码创作委托给AI助手。但是，当涉及到帮助时，56%的受访者表示，如果有机会，他们会让AI助手编写代码注释和文档。

到目前为止，这项服务仅对付费客户开放，因为在底层使用大型语言模型的成本较高，Burchell说。该计划是将其推广到其他产品中，但目前，AI助手作为订阅附加产品可用于大多数IDE，包括IntelliJ IDEA、PyCharm、PhpStorm和ReSharper。社区授权的IDE和拥有教育、初创或开源许可的用户是例外。

JetBrains和其他AI助手目前无法实现的一种可能性是作为本地版本提供这样的解决方案，依赖于内部模型在公司的本地服务器上运行。一些公司对这种方法感兴趣，因为它具有安全优势。

Burchell说：“显然，这将是你在安全方面能够获得的最好效果，但使用潜力不如我们正在合作的第三方供应商那么强大的模型显然会有一些权衡。”她说：“这是一个权衡，但这将是一种我们正在积极探讨的可能性。”

提供本地模型之所以困难，简单来说是因为AI运行在非常大的神经网络上。

她解释说：“这意味着构建模型显然是一回事——[它]需要很长时间——但实际运行模型并实时获得答案是一个重大的工程问题。”

模型必须接受大量的上下文，例如通过模型运行的一段代码以预测接下来的内容，她解释说。然后它运行新的预测以及之前的信息通过模型以预测序列的下一部分。它不断这样做，实时进行，同时进行所有网络和安全检查。

“在后台从工程角度需要发生的事情相当惊人，”Burchell说。“它需要GPU，并且需要以成本效益高的方式使用GPU。所以如果你有足够的计算能力来解决这个问题那么它不一定是一个不可逾越的问题。但以一种不过分昂贵的方式能够做到这一点是困难的。”

这个过程的有趣副作用是蒸馏。这意味着随着模型的发展运行它所需的神经网络会随着时间的推移变得更小因为它能够用更少的参数提供相同的性能她说。

供应商正在积极解决LLMs的挑战但这是JetBrains正在与第三方供应商合作的原因之一：这样做有助于降低成本并使JetBrains能够提供负担得起的产品Burchell说。该公司还在探索开源替代品。

Burchell表示有些人对于将AI系统捆绑到其IDE中表示担忧为了适应这些开发者JetBrains已经引入了禁用AI的功能。