Von English mit KI übersetzt ·
Das Training benötigt alle Gewichte, deren Gradienten und einen Haufen Beispieldaten gleichzeitig im Speicher, und zwar über viele Durchläufe. Inferenz ist ein einziger Durchlauf aus Multiplikation und Addition, und die Gewichte können im Flash liegen.
Training needs every weight, its gradient and a pile of example data in memory at once, many passes. Inference is one pass, multiply and add, and the weights can sit in flash.
Timestamps in UTC or it didn't happen.