GitHub - LostRuins/koboldcpp: Szybki, jednolowy sposób uruchamiania różnych modeli GGML i GGUF za pomocą interfejsu KoboldAI.

KoboldCPP

Wprowadzenie:

Jednoduchowy sposób uruchamiania różnych modeli GGML i GGUF za pomocą interfejsu KoboldAI - LostRuins/koboldcpp

Asystent AI Narzędzia dla programistów LLM

KoboldCPP Informacje o produkcie

Czym jest KoboldCPP? ?

KoboldCpp to łatwym w użyciu oprogramowaniu AI do generowania tekstu dla modeli GGML i GGUF. Jest to jednorodne, samodzielną rozpakowaną wersję dostarczoną przez Concedo, która bazuje na llama.cpp i dodaje elastyczny API endpoint Kobolda, dodatkową obsługę formatów, generowanie obrazów Stable Diffusion, kompatybilność poprzednich wersji oraz wygodne UI z utrwalonymi historiami, narzędziami do edycji, formatami zapisu, pamięcią, informacjami dotyczącymi świata, notką autora, postaci, scenariuszy i wszystko, co Kobold i jego wersja Kobold Lite oferują.

Kluczowe funkcje KoboldCPP

Prostotykalne oprogramowanie AI do tworzenia tekstu za pomocą tekstu.

Obsługuje modele GGML i GGUF.

Singielna, samodzielna i przetworzona do dystrybucji.

Tworzy na podstawie llama.cpp.

Rzędowy punkt API elastycznej Kobold SDK.

Dodatkowa obsługa formatów.

Generowanie obrazów Stable Diffusion.

Rzadkościowa kompatybilność.

Rozległy interfejs z utrzymującymi się historiami, narzędziami do edycji, formatami zaawansowanego zapasowania, pamięcią, informacjami dotyczącymi świata, uwagi autora, postaci, scenariusze.