← Alle Themen

// Thema#Quantisierung

DE

Was auf deiner Maschine wirklich läuft

„Die offenen Modelle haben aufgeholt“ stimmt — und führt in die Irre. Das beste offene Modell liegt nur 3 Punkte hinter dem Weltbesten, hat 2,8 Billionen Parameter und läuft nur im Rechenzentrum. Was auf deine Grafikkarte passt, liegt rund 23 Punkte zurück. „Offen“ heißt nicht „lokal“ — und ein kleingerechnetes Modell rauscht nicht, es lügt selbstsicher. Der Betrieb kostet mehr als die Karte.

Weiterlesen →