Tara:一款可以将LLM接入Comfy UI的插件

站长之家 2024-04-08 14:22:39新闻资讯
503

近日,一款名为Tara的新插件引起了大家的关注。这款插件可以将大型语言模型(LLM)接入到Comfy UI中,而且支持通过简单的设置API,将节点用于优化提示词等工作。

tara.png

项目地址:https://github.com/ronniebasak/ComfyUI-Tara-LLM-Integration/tree/main

在以前的类似节点中,要么只能使用本地的LLM,要么API的配置过程非常复杂。而Tara插件则大大简化了这个过程,使得API的管理和添加变得非常简单。此外,Tara还将集成LLaVa模型,这无疑将极大地拓宽其应用范围。左边是优化后的提示词生成的内容,可以看出其效果显著。

Tara插件包含四个节点,每个节点都有其特定的功能:

TaraPrompter:这个节点的主要作用是利用输入引导来生成更精确的正向和负向结果。

TaraApiKeyLoader:这个节点负责管理和加载为不同的大型语言模型(LLM)服务所保存的API密钥。

TaraApiKeySaver:这个节点为API密钥提供了一种安全的内部保存和存储方法。

TaraDaisyChainNode:这个节点通过使输出能够串联进后续的提示中,使得复杂的工作流程得以实现,从而方便进行清单创建、验证、执行、评估和优化等一系列复杂操作。

LLM
THE END
tom
不图事事圆满 但图事事甘心。

相关推荐

Parlant:专为实际应用设计的LLM(大型语言模型)智能体框架
Parlant 是由emcie-co团队开发的一款专为实际应用设计的LLM(大型语言模型)智能体框架,其核心目标是解决传统AI代理在面向客户场景中行为不可预测、难以控制的痛点。通过创新...
2025-08-19 新闻资讯
941

SmolLM:Hugging Face推出的轻量高效多语言长上下文推理模型
SmolLM 是Hugging Face推出的"小而精"语言模型系列,其名称"Smol"源于"Small"的变体,直指其"以小搏大"的核心设计哲学。该项目始于SmolLM2的发布,最初定位为资源受限设备(如...
2025-07-11 新闻资讯
547

PreenCut:一款基于大语言模型(LLM)的开源AI视频剪辑工具
PreenCut 是一款基于大语言模型(LLM)的开源视频剪辑工具,旨在通过AI技术彻底革新传统视频剪辑中素材处理效率低下、语义关联识别困难的痛点。与传统剪辑软件依赖时间轴手动操...
2025-07-08 新闻资讯
551

Nano-vLLM:1200行Python代码实现的高性能轻量级大模型推理引擎
Nano-vLLM是由DeepSeek AI研究员俞星凯开发的轻量级大语言模型(LLM)推理框架,作为当前最简洁的vLLM实现方案之一,其核心创新在于仅用1200行Python代码即复现了原版vLLM的核心...
2025-06-16 新闻资讯
721

Ming-Lite-Omni:蚂蚁集团开源的一款原生全模态多模态大语言模型(MLLM)
Ming-Lite-Omni是蚂蚁集团百灵大模型团队(InclusionAI)开源的一款原生全模态多模态大语言模型(MLLM),基于MoE(Mixture of Experts)架构设计,总参数18B,激活参数3B。作为蚂蚁...
2025-05-30 新闻资讯
523

LLaDA-V:人大高瓴与蚂蚁集团联合开源的多模态大语言模型(MLLM)框架
LLaDA-V是由中国人民大学高瓴人工智能学院与蚂蚁集团联合研发的开源多模态大语言模型(MLLM)框架,首次将纯扩散模型架构成功应用于视觉-语言多模态理解任务。其核心创新在于突...
2025-05-28 新闻资讯
577