0521 968 7740Mo–Fr, 8–17 Uhr
Öffentliche Benchmarktabellen liefern einen ersten Hinweis auf die Fähigkeiten eines Sprachmodells. Für eine technische Entscheidung braucht dein Team einen Test, der die eigenen Aufgaben und Qualitätsgrenzen abbildet. Die Schulung entwickelt dafür ein Bewertungsraster für Qwen 3.8. Du formulierst überprüfbare Kriterien für eine Programmieraufgabe oder einen agentischen Ablauf, bevor das Modell den ersten Prompt erhält. Ein fester Datensatz verhindert, dass wechselnde Eingaben die Ergebnisse verzerren. Die ersten Durchläufe erfolgen lokal mit Qwen3.8-27B. Q5_K_M, Q8_0 und NVFP4 werden unter vergleichbaren Parametern gestartet. Speicherbelegung, Antwortlatenz und Token-Durchsatz kommen direkt ins Testprotokoll. Du untersuchst anschließend die fachliche Ausgabe und dokumentierst Fehler so, dass ein weiterer Lauf dieselbe Prüfung wiederholen kann. Eine Änderung am Kontextfenster zeigt, wie stark der Key-Value-Cache die verfügbare Hardware beeinflusst. Die Plus-Variante bearbeitet danach dieselben Testfälle über den Online-Zugang. Für jeden Aufruf wird festgehalten, welche Daten übertragen werden und welche Kosten- oder Latenzgrenze für den Einsatz gilt. Du bewertest auch strukturierte Ausgaben und Werkzeugaufrufe, da agentische Anwendungen zusätzliche Fehlerpfade mitbringen. Prompt Injection wird mit einem begrenzten Werkzeugsatz geprüft. Abliterated Modelle dienen als Sicherheitsbeispiel für Varianten mit veränderten Schutzmechanismen. Die Ergebnisse fließen in eine Entscheidungsmatrix für den lokalen und den online gestützten Betrieb. Sie enthält die benötigte Hardware, die gewählte Quantisierung und die Freigabekriterien. Du verlässt das Training mit einem wiederholbaren Testverfahren, das neue Modellstände oder weitere Qwen-Varianten anhand derselben Anforderungen bewertet.
