Parameter (Gewichte) sind die Milliarden Zahlenwerte im neuronalen Netz, die beim Training angepasst werden — sie sind das Modell.
Was bedeutet Parameter & Gewichte?
Die Milliarden Zahlenwerte im neuronalen Netz, die beim Training angepasst werden — sie sind das Modell. Alles, was ein LLM „weiß“ und „kann“, steckt in diesen Zahlen. „7B“ oder „70B“ bei Modellnamen = 7 bzw. 70 Milliarden Parameter.
Abgrenzung — worauf es ankommt
Mehr Parameter ≠ automatisch besser: Datenqualität, Trainingsmethode und Destillation zählen mit — kleine spezialisierte Modelle schlagen große generische bei engen Aufgaben regelmäßig, und sie sind billiger und schneller. Nach dem Training sind die Gewichte eingefroren: Im Chat lernt das Modell nichts dazu.
Beispiel aus der Praxis
„Open Weights“-Modelle wie Llama oder Mistral: Die Gewichte sind frei herunterladbar, man kann sie auf eigener Hardware betreiben — relevant für Datenschutz-sensible Branchen.
Zum Weiterdenken
Verwandte Begriffe: Loss-Funktion (misst den Fehler der Vorhersage), Gradientenabstieg + Backpropagation (das Verfahren, das die Gewichte Schritt für Schritt verbessert), Epoche (ein kompletter Durchlauf durch die Trainingsdaten), Overfitting (Modell lernt Trainingsdaten auswendig statt zu verallgemeinern — erkennbar daran, dass es auf Testdaten deutlich schlechter abschneidet).
Parameter & Gewichte in Ihrem Unternehmen nutzen?
Von der Theorie in die Praxis: Wir zeigen Ihnen den passenden Weg — pragmatisch, DSGVO-konform und messbar.
Kostenlos · unverbindlich