feat: Ollama und Modell vor dem Start prüfen, kurze Meldung statt Traceback
Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>
This commit is contained in:
parent
82489ee83c
commit
6aa4887f22
1 changed files with 105 additions and 11 deletions
|
|
@ -21,6 +21,8 @@ Die Werkzeuge sind einzeln oder hintereinander nutzbar:
|
|||
- für den Download: [yt-dlp](https://github.com/yt-dlp/yt-dlp) (`pip install yt-dlp`)
|
||||
- Ollama auf `127.0.0.1:11434` mit dem Modell `qwen3:32b`
|
||||
(`ollama pull qwen3:32b`)
|
||||
`rede_korrigieren.py` und `glossar_vorschlag.py` prüfen beides vor dem Start und
|
||||
brechen sonst mit einem Hinweis ab (`sudo systemctl start ollama` bzw. `ollama pull …`)
|
||||
|
||||
Für gute Geschwindigkeit muss das Modell komplett in den Grafikspeicher passen.
|
||||
Mit `OLLAMA_NUM_PARALLEL=1` braucht `qwen3:32b` bei 16k Kontext rund 24 GB
|
||||
|
|
|
|||
Loading…
Reference in a new issue