Tara:一款可以将LLM接入Comfy UI的插件

站长之家 2024-04-08 14:22:39新闻资讯
38

近日,一款名为Tara的新插件引起了大家的关注。这款插件可以将大型语言模型(LLM)接入到Comfy UI中,而且支持通过简单的设置API,将节点用于优化提示词等工作。

tara.png

项目地址:https://github.com/ronniebasak/ComfyUI-Tara-LLM-Integration/tree/main

在以前的类似节点中,要么只能使用本地的LLM,要么API的配置过程非常复杂。而Tara插件则大大简化了这个过程,使得API的管理和添加变得非常简单。此外,Tara还将集成LLaVa模型,这无疑将极大地拓宽其应用范围。左边是优化后的提示词生成的内容,可以看出其效果显著。

Tara插件包含四个节点,每个节点都有其特定的功能:

TaraPrompter:这个节点的主要作用是利用输入引导来生成更精确的正向和负向结果。

TaraApiKeyLoader:这个节点负责管理和加载为不同的大型语言模型(LLM)服务所保存的API密钥。

TaraApiKeySaver:这个节点为API密钥提供了一种安全的内部保存和存储方法。

TaraDaisyChainNode:这个节点通过使输出能够串联进后续的提示中,使得复杂的工作流程得以实现,从而方便进行清单创建、验证、执行、评估和优化等一系列复杂操作。

LLM
THE END
tom
不图事事圆满 但图事事甘心。

相关推荐

MovieLLM:快速合成电影级视频的AI框架
​近日,复旦大学和腾讯PCG的研究人员共同开发了一个名为MovieLLM的新颖框架,该框架能够从简单的文本提示中生成高质量、电影级别的视频数据。令人惊讶的是,MovieLLM甚至能仅...
2024-03-07 新闻资讯
19

LangChain开源AnythingLLM:可与任何内容聊天的私人ChatGPT
今日,LangChain正式开源全栈应用程序AnythingLLM,为用户提供了构建私有ChatGPT的便利。无论是使用商业的现成LLM(Large Language Models),还是流行的开源LLM和VectorDB解决...
2023-12-11 新闻资讯
30

Atom:一种低位量化技术,可实现高效、准确(LLM)服务
Atom 是一种低比特量化技术,通过使用低比特操作符和低比特量化来减少内存使用,从而显著提高吞吐量而不损失准确性。它使用了细粒度和混合精度量化的特殊组合,以保持卓越的准...
2023-11-24 新闻资讯
16