GitHub - LostRuins/koboldcpp: Um jeito simples de um único arquivo para executar vários modelos GGML e GGUF com a interface do KoboldAI.

KoboldCPP

Introdução:

Uma maneira simples de executar vários modelos GGML e GGUF com a interface do KoboldAI em um único arquivo - LostRuins/koboldcpp.

Assistente de IA Ferramentas para Desenvolvedores LLM

KoboldCPP Informação do Produto

O que é KoboldCPP? ?

KoboldCpp é um software fácil de usar para geração automática de texto, projetado para modelos GGML e GGUF. É uma distribuição única e contínua fornecida pela Concedo, que se baseia no llama.cpp e adiciona uma versátil API do Kobold, suporte adicional a formatos, geração de imagens com o Stable Diffusion, compatibilidade retroativa, além de uma interface elegante com histórias persistentes, ferramentas de edição, formatos de salvar, memória, informações do mundo, nota do autor, personagens, cenários e tudo o que o Kobold e o Kobold Lite têm a oferecer.

Recursos principais de KoboldCPP

Software de geração de texto inteligente e fácil de usar.

Suporta os modelos GGML e GGUF.

单个自包含的可分发组件。

Se baseia em llama.cpp.

Ponto de extremidade da API versátil do Kobold.

Açerto, vou manter o formato original. "Adicional suporte de formato" é a tradução para o português.

Geração de imagens da Stable Diffusion.

Compatibilidade retroativa.

Interface graciosamente desenhada com histórias persistentes, ferramentas de edição, formatos de salvamento, memória, informações do mundo, nota do autor, personagens, cenários.