43 lines
2 KiB
Markdown
43 lines
2 KiB
Markdown
|
# Beispiel-User-Prompts
|
|||
|
|
|
|||
|
|
Diese User-Prompts sind zum Testen der System-Prompts in
|
|||
|
|
[`../example_system_prompts/`](../example_system_prompts/) gedacht — je vier pro
|
|||
|
|
Domäne, jeweils als eigene Datei, damit sie direkt über `--prompt-file` laufen.
|
|||
|
|
|
|||
|
|
Referenzmodell (zunächst): das Default-Modell aus `llama.cpp.config`
|
|||
|
|
(`models/qwen3/Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-Q4_K_M.gguf`).
|
|||
|
|
|
|||
|
|
## Zuordnung
|
|||
|
|
|
|||
|
|
| System-Prompt | passende User-Prompts |
|
|||
|
|
|---|---|
|
|||
|
|
| `system_prompt_prosa.md` | `prosa_01_werkstatt.md`, `prosa_02_dystopie.md`, `prosa_03_essay.md`, `prosa_04_dialog.md` |
|
|||
|
|
| `system_prompt_reden.md` | `reden_01_abifeier.md`, `reden_02_windkraft.md`, `reden_03_umstrukturierung.md`, `reden_04_gedenken.md` |
|
|||
|
|
| `system_prompt_coding.md` | `coding_01_jsonl_validator.md`, `coding_02_refactor.md`, `coding_03_ts_retry.md`, `coding_04_performance.md` |
|
|||
|
|
|
|||
|
|
Jeder User-Prompt fordert gezielt Eigenschaften heraus, die der jeweilige
|
|||
|
|
System-Prompt verspricht (z. B. „show, don't tell" und Schlussbild bei Prosa;
|
|||
|
|
Zielkonflikte und vorweggenommene Einwände bei Reden; Sicherheit, Fehler-
|
|||
|
|
behandlung und Tests beim Coding).
|
|||
|
|
|
|||
|
|
## Ausführen (Default-Modell)
|
|||
|
|
|
|||
|
|
Server muss laufen (`llamacppctl --start --config llama.cpp.config`). Dann z. B.:
|
|||
|
|
|
|||
|
|
```bash
|
|||
|
|
llamacppctl --chat --config llama.cpp.config \
|
|||
|
|
--system-file example_system_prompts/system_prompt_prosa.md \
|
|||
|
|
--prompt-file example_user_prompts/prosa_01_werkstatt.md \
|
|||
|
|
--stream --max-tokens 8000
|
|||
|
|
```
|
|||
|
|
|
|||
|
|
Hinweise:
|
|||
|
|
|
|||
|
|
- Das Default-Modell läuft mit aktiviertem Reasoning. Das Antwortbudget
|
|||
|
|
(`--max-tokens`) muss **Denk- plus Ausgabe-Tokens** abdecken — für Prosa/Reden
|
|||
|
|
großzügig wählen (z. B. 6000–10000), sonst bricht die sichtbare Antwort ab
|
|||
|
|
oder bleibt leer.
|
|||
|
|
- **`--stream` benutzen.** Ohne Streaming wartet das Tool die komplette Antwort
|
|||
|
|
in einem einzigen Read ab und läuft beim langen Reasoning-Output in den
|
|||
|
|
Default-`--read-timeout` (30 s). Beim Streaming setzt jeder Token den Timeout
|
|||
|
|
zurück. Für lange nicht-gestreamte Läufe zusätzlich `--read-timeout 600`.
|