GitHub - LostRuins/koboldcpp: Un sencillo enfoque de un solo archivo para ejecutar varios modelos GGML y GGUF con la interfaz de KoboldAI.

KoboldCPP

Introducción:

Una forma sencilla de ejecutar varios modelos GGML y GGUF con la interfaz de KoboldAI en un solo archivo - LostRuins/koboldcpp.

Asistente de IA Herramientas para desarrolladores LLM

KoboldCPP Información del producto

¿Qué es KoboldCPP? ?

KoboldCpp es una fácil de usar software generador de texto basado en IA para modelos GGML y GGUF. Es un único distributable self-contained desde Concedo, que se construye a partir de llama.cpp, y agrega un versátil endpoint API Kobold, soporte adicional de formatos, generación de imágenes con Stable Diffusion, compatibilidad hacia atrás, así como una interfaz gráfica elegante con historias persistentes, herramientas de edición, formatos de guardado, memoria, información del mundo, nota del autor, personajes, escenarios y todo lo que Kobold y Kobold Lite tienen para ofrecer.

Características principales de KoboldCPP

Software de generación de texto inteligente y fácil de usar.

Soporte para los modelos GGML y GGUF.

Un solo distribuible autónomo e integrado.

Se basa en llama.cpp.

Endpoint versátil de la API Kobold.

Además de soporte para otros formatos.

Generación de imágenes de Stable Diffusion.

Compatibilidad hacia atrás

Interfaz de usuario elegante con historias persistentes, herramientas de edición, formatos de guardado, memoria, información del mundo, nota del autor, personajes, escenarios.