GitHub - LostRuins/koboldcpp: Un semplice modo in un solo file per eseguire diversi modelli GGML e GGUF con l'interfaccia di KoboldAI.

KoboldCPP

Introduzione:

Un semplice modo per eseguire diversi modelli GGML e GGUF utilizzando l'interfaccia di KoboldAI in un'unica cartella - LostRuins/koboldcpp

Assistente IA Strumenti per sviluppatori LLM

KoboldCPP Informazioni sul prodotto

Cos'è KoboldCPP? ?

KoboldCpp è un software di generazione testuale AI facile da usare per i modelli GGML e GGUF. È una singola distribuibile autonoma fornita da Concedo, basata su llama.cpp, aggiunge un versatile endpoint API di Kobold, supporto aggiuntivo ai formati, generazione di immagini con Stable Diffusion, compatibilità retrograda, nonché un'interfaccia utente elegante con storie persistenti, strumenti di editing, formati di salvataggio, memoria, informazioni sul mondo, nota dell'autore, personaggi, scenari e tutto ciò che Kobold e Kobold Lite hanno da offrire.

Funzionalità principali di KoboldCPP

Software di generazione testuale basato sull'IA, facile da usare.

Supporta i modelli GGML e GGUF.

Singolo modulo distribuibile autonomo.

Si basa su llama.cpp.

Endpoint versatile dell'API Kobold versatilmente.

Supporto aggiuntivo per formattazione.

Generazione di immagini con Stable Diffusion.

Compatibilità retrograda.

Interfaccia utente elegante con storie persistenti, strumenti di modifica, formati di salvataggio, memoria, informazioni sul mondo, nota dell'autore, personaggi, scenari.