C# · llama.cpp

model-tray

Lokální LLM, který se načte, když ho potřebuju.

Otevřít na GitHubZeptej se mě
model-tray
Open

source

Jak to funguje

Aplikace v systémové liště Windows. Zpřístupňuje llama.cpp přes API kompatibilní s OpenAI. Open source.