Open WebUI
Open WebUI is an extensible, feature-rich, and user-friendly self-hosted AI platform designed to operate entirely offline. It supports various LLM runners like Ollama and OpenAI-compatible APIs, with built-in inference engine for RAG, making it a powerful AI deployment solution.
See also
- ChatGPT
- LLM
- llama
- LangChain - LLM을 외부와 연결해주는 라이브러리
- Open WebUI
- LM Studio
- ollama - 사용 편의성, 다양한 모델 지원, 효율적인 리소스 관리
- vLLM - 고성능 추론, 메모리 효율성, 대규모 배치 처리
- LocalAI - 다양한 모델 유형 지원 (텍스트, 음성, 이미지)
- FastChat - 다양한 오픈소스 모델 지원, 웹 UI 제공