GitHub - oobabooga/text-generation-webui: واجهة المستخدم عبر الإنترنت Gradio للكبيرة النموذج اللغوي. يدعم التحويلات (...) 请注意，由于内容的限制，我无法在翻译中保留所有的HTML标签。如果需要保留这些标签，请提供原始格式以便准确翻译。

Oobabooga

مقدمة:

واجهة ويب Gradio للكبيرة النموذجات اللغوية. تدعم تحويلات، GPTQ، AWQ، EXL2، llama.cpp (GGUF)، نماذج اللاما. - oobabooga/generation-text-واجهة الويب

مساعد الذكاء الاصطناعي أدوات المطور نموذج اللغة الكبير

Oobabooga معلومات المنتج

ما هو Oobabooga؟ ?

واجهة ويب Gradio للكبيرة النموذجات اللغوية. تدعم تحويلات، GPTQ، AWQ، EXL2، llama.cpp (GGUF)، نماذج اللاما.

الميزات الأساسية لـ Oobabooga

م的背后有多个模型：Transformer、llama.cpp（通过llama-cpp-python）、ExLlamaV2、AutoGPTQ、AutoAWQ、GPTQ-for-LLaMa、QuIP#。

قائمة حذاء سريعة للتبديل بين النماذج المختلفة.

عدد كبير من 확장ات (الم整合ة والمستهلكي المساهم)， بما في ذلك Coqui TTS ل Outputs الصوتية الواقعية، Whisper STT للمدخلات الصوتية، الترجمة، خطوط متعددة الوسائط، قواعد بيانات النصوص، مزامنة Stable Diffusion، وأكثر من ذلك.

دردشة مع الشخصيات الشخصية.

قوامات حوار محددة ل النماذج التي تتبع التعليمات، بما في ذلك Llama-2-Chat، Alpaca، Vicuna، Mistral.

لارا: تدريب نماذج جديدة من لارا مع بياناتك الخاصة، قم بتحميل / إزالة لارا بشكل فوري لل generar ion.

مكتبة التحويلات المدمجة: تحميل النماذج بدقة 4 بت أو 8 بت عبر bitsandbytes، استخدام llama.cpp مع عينات transformers (-loader llamacpp_HF)، التحليل على الحاسوب بدقة 32 بت باستخدام PyTorch.