Lemonade

GPU와 NPU를 활용한 빠른 오픈소스 로컬 LLM 서버

About

AMD 지원 로컬 AI 서버로, GPU와 NPU를 활용해 텍스트·이미지·음성을 빠르게 처리하는 오픈소스 플랫폼
로컬 실행과 개인정보 보호를 중시하며, OpenAI API 표준과 호환되어 다양한 앱과 즉시 연동 가능
C++ 기반 경량 백엔드와 자동 하드웨어 설정, 멀티 모델 동시 실행으로 실용적 로컬 AI 환경 제공
Chat, Vision, Image Generation, Transcription, Speech Generation을 하나의 통합 API로 지원
Windows, Linux, macOS(beta) 에서 동일한 환경을 제공하며, 내장 GUI로 모델 다운로드와 전환이 간편함