feat: Modell der Coder/Judge-Schleife per PI_CODER_MODEL wählbar
PI_CODER_MODEL=<provider>/<id> setzt das Modell für beide Rollen; ohne Variable bleibt es bei llama-cpp-single/coding_model. Die Bereitschafts- prüfung nutzt baseUrl des Modells statt fest Port 8001. Neuer Provider strata (lokaler Strata-Server, 127.0.0.1:9090) in models.json. Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>
This commit is contained in:
parent
0cb637783c
commit
a608f1dda8
1 changed files with 120 additions and 42 deletions
|
|
@ -144,6 +144,21 @@ Falls die GGUF-Datei an einem anderen Ort liegt:
|
|||
HF_HOME=/mnt/daten/huggingface ./start-coding-server.sh
|
||||
```
|
||||
|
||||
### Anderes Modell für die Schleife
|
||||
|
||||
Ohne weitere Angabe arbeiten Coder und Judge mit `llama-cpp-single/coding_model` (Port 8001). Ein anderes Modell aus
|
||||
`models.json` setzt die Umgebungsvariable `PI_CODER_MODEL` beim Start von pi, als `<provider>/<id>`:
|
||||
|
||||
```bash
|
||||
PI_CODER_MODEL=strata/qwen3.8-flash-next-iq3_s \
|
||||
pi --provider strata --model qwen3.8-flash-next-iq3_s
|
||||
```
|
||||
|
||||
`--provider`/`--model` machen das Modell auch für freie Eingaben zum Standard dieses Laufs; die globalen
|
||||
Einstellungen bleiben unverändert. Die Bereitschaftsprüfung fragt den Endpunkt aus `baseUrl` des Modells ab. Der
|
||||
Provider `strata` (lokaler Strata-Server auf `127.0.0.1:9090`) steht in `models.json`; den Server startet man außerhalb
|
||||
dieses Repos.
|
||||
|
||||
---
|
||||
|
||||
## 4. Neues Projekt anlegen
|
||||
|
|
|
|||
Loading…
Reference in a new issue