Retool最初是作为构建业务线应用程序的平台,但在过去几年中,这家资金雄厚的初创公司还添加了许多后端服务,包括最近的工作流程自动化服务。今天,它推出了许多新工具,帮助用户构建基于人工智能的应用程序,包括托管矢量存储,使他们能够更轻松地向大型语言模型(LLM)添加上下文。
正如 Retool 首席执行官兼联合创始人 David Hsu 告诉我的那样,他的许多客户已经在考虑如何在他们的应用程序中使用人工智能,但对于大多数企业来说,使用这些工具的价值在于能够推理其内部数据。他们可以选择将数据复制并粘贴到查询中以添加上下文,但这是有限的,并且很快就会变得相当昂贵。虽然很少有企业拥有训练自己模型的资源,但他们可能会使用合理数量的数据来微调现有模型。然而,Hsu 认为,利用公司的所有生产数据来微调模型也不太可行,而且这些数据很快就会过时。
目前,将自定义数据引入法学硕士的最先进技术是将数据矢量化,以便这些模型可以轻松访问这些数据。这就是为什么您会看到Google、Microsoft、DataStax和MongoDB等公司在最近几个月都推出了矢量搜索服务。
在 Hsu 看来,这些产品没有太多区别——它们的功能都非常相似。“我认为问题实际上不在于您选择哪个矢量数据库——无论是 MongoDB 还是其他数据库。相反,问题是如何实际将数据获取到这个矢量化数据库中以及如何使其保持最新。例如,如何将其与 Salesforce 同步,以便您可以向 LLM 提出问题,并实际让它从 Salesforce 中提取新数据。” 他认为,这就是 Retool 的客户目前在为其业务用例构建定制人工智能应用程序时面临的最大障碍,因此该公司今天推出 Retool Vectors 就不足为奇了,这是一项托管矢量存储服务(使用开放式平台) Postgres 的源pgvector 扩展是其核心)。
Hsu 解释说,Retool 在内部测试了使用 Intercom 的 GPT 支持的人工智能聊天机器人来处理一些客户服务交互。该机器人已经可以访问大量业务上下文,能够关闭大约 20% 的订单。但随后,使用与包含 Retool 的所有 Salesforce 数据、支持数据等的 LLM 相结合的矢量数据库,其定制机器人的成交率上升到近 60%。该公司还将销售电话中的所有记录进行矢量化,然后将 OpenAI 的 API 置于其之上以进行查询。
这里的一个绝妙功能是,Retool 还使用其最近推出的工作流服务来保持企业的生产数据库和矢量化数据库同步,确保模型能够访问最新信息。
除了矢量存储服务之外,Retool 还推出了许多基于人工智能的操作,适用于文本摘要和分类、图像生成等常见用例。Retool 与 OpenAI 合作提供这些功能,其中包括集成到 Retool 工作流程中。
OpenAI 首席运营官 Brad Lightcap 表示:“我们非常高兴与Retool合作,让更多公司能够在其业务中利用生成式 AI。” “从减少手工工作到分享更多知识,再到添加新的面向客户的功能,我们相信像Retool这样的工具可以帮助企业更快地将人工智能投入生产,而不会影响安全性。”