llamacppctl/example_user_prompts/README.md
dschlueter f193acf032 docs: add example system/user prompts for prose, speeches, and code
Add example_system_prompts/ (prose, speeches, coding) and matching
example_user_prompts/ (four user prompts per domain, one file each so they
run directly via --prompt-file), plus a README mapping the pairs and the run
command against the default model.

Also refine the three system prompts: separate narrative register from
character speech and add a length default (prose); add a duration→word-count
rule, spoken-language guidance, a no-invented-evidence rule, and a salutation
note (speeches); fix the mangled numbered list and add a language default,
a no-invented-APIs rule, and clearer output ordering (coding).

Co-Authored-By: Claude Opus 4.8 <noreply@anthropic.com>
2026-07-07 19:56:26 +02:00

2 KiB
Raw Blame History

Beispiel-User-Prompts

Diese User-Prompts sind zum Testen der System-Prompts in ../example_system_prompts/ gedacht — je vier pro Domäne, jeweils als eigene Datei, damit sie direkt über --prompt-file laufen.

Referenzmodell (zunächst): das Default-Modell aus llama.cpp.config (models/qwen3/Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-Q4_K_M.gguf).

Zuordnung

System-Prompt passende User-Prompts
system_prompt_prosa.md prosa_01_werkstatt.md, prosa_02_dystopie.md, prosa_03_essay.md, prosa_04_dialog.md
system_prompt_reden.md reden_01_abifeier.md, reden_02_windkraft.md, reden_03_umstrukturierung.md, reden_04_gedenken.md
system_prompt_coding.md coding_01_jsonl_validator.md, coding_02_refactor.md, coding_03_ts_retry.md, coding_04_performance.md

Jeder User-Prompt fordert gezielt Eigenschaften heraus, die der jeweilige System-Prompt verspricht (z. B. „show, don't tell" und Schlussbild bei Prosa; Zielkonflikte und vorweggenommene Einwände bei Reden; Sicherheit, Fehler- behandlung und Tests beim Coding).

Ausführen (Default-Modell)

Server muss laufen (llamacppctl --start --config llama.cpp.config). Dann z. B.:

llamacppctl --chat --config llama.cpp.config \
  --system-file example_system_prompts/system_prompt_prosa.md \
  --prompt-file example_user_prompts/prosa_01_werkstatt.md \
  --stream --max-tokens 8000

Hinweise:

  • Das Default-Modell läuft mit aktiviertem Reasoning. Das Antwortbudget (--max-tokens) muss Denk- plus Ausgabe-Tokens abdecken — für Prosa/Reden großzügig wählen (z. B. 600010000), sonst bricht die sichtbare Antwort ab oder bleibt leer.
  • --stream benutzen. Ohne Streaming wartet das Tool die komplette Antwort in einem einzigen Read ab und läuft beim langen Reasoning-Output in den Default---read-timeout (30 s). Beim Streaming setzt jeder Token den Timeout zurück. Für lange nicht-gestreamte Läufe zusätzlich --read-timeout 600.