2 commits

Author	SHA1	Message	Date
Dieter Schlüter	317ad2ff97	feat(llm): Make-Targets zum Wechseln des LLM-Backends (Ollama <-> llama.cpp) ... - scripts/llm-server/switch-llm.sh: gibt GPU des anderen Backends frei (llama.cpp-Container stoppen bzw. Ollama-Modelle entladen, Dienst bleibt), startet das gewünschte Backend, passt LOCAL_LLM_* in .env an und startet das Gateway (als Dienst) neu bzw. weist auf manuellen Neustart hin. - Makefile: Targets `llm-ollama` / `llm-llamacpp` (Modell via OLLAMA_MODEL=...). - Doku §4.7 + Schnellbefehle §4.0: Make-Targets als empfohlener Weg, inkl. Erklärung warum der Gateway-Neustart nötig ist (Makefile exportiert .env als Env-Variablen -> Vorrang vor .env-Datei). Getestet: Round-Trip ollama -> llamacpp -> ollama; llama.cpp 2,3s, gemma3 warm. Co-Authored-By: Claude Opus 4.8 <noreply@anthropic.com>	2026-06-20 15:56:42 +02:00
Dieter Schlüter	28c729f1d4	feat(llm): lokales llama.cpp-Modell (va_llm) als zentrale, sprachoptimierte KI ... - scripts/llm-server/: start/stop/status fuer llama.cpp-Server (Port 8001, GPU 1, Modell Qwen3.6-35B-A3B-Uncensored, Alias va_llm) - alles per ENV ueberschreibbar - Defaults auf den lokalen Server umgestellt (config.py, .example-Configs, .env.example) - Provider local-openai-compatible sprachoptimiert: Reasoning aus (chat_template_kwargs.enable_thinking=false) + knapper Sprach-System-Prompt, optional max_tokens/temperature - Antwort ~9x schneller, kurze vorlesbare Texte - Makefile-Targets llm-up/llm-down/llm-status - Doku (README, BEDIENUNGSANLEITUNG) auf llama.cpp statt Ollama aktualisiert Co-Authored-By: Claude Opus 4.8 <noreply@anthropic.com>	2026-06-18 02:57:57 +02:00