KoboldCPP
GitHub - LostRuins/koboldcpp: Een eenvoudige één-bestandsmethode om verschillende GGML en GGUF modellen met de gebruikersinterface van KoboldAI uit te voeren.
Inleiding:
Een eenvoudige één-filerecht manier om verschillende GGML en GGUF modellen te draaien met de gebruikersinterface van KoboldAI - LostRuins/koboldcpp
KoboldCPP Productinformatie
Wat is KoboldCPP? ?
KoboldCpp is een handige AI tekstgeneratie software voor GGML en GGUF modellen. Het is één volledig zelfstandig distribuabel van Concedo, gebaseerd op llama.cpp. Het voegt een geavanceerde Kobold API-eindpunt toe, extra formaatondersteuning, Stable Diffusion beeldgeneratie, backward compatibility, evenals een fancy UI met persistente verhalen, bewerkingshulpmiddelen, opslagformaten, geheugen, wereldinformatie, auteurnotitie, karakters, scenarios en alles wat Kobold en Kobold Lite te bieden hebben.