Trajnimi

Qëllimi kryesor i para-trajnimit (pretraining) të një modeli gjuhësor është të parashikojë tokenin tjetër. Modeli sheh një sasi të madhe teksti. Për çdo pozicion, merr tekstin para tij dhe jep një probabilitet për tokenin e vërtetë tjetër. Humbja (loss) (cross-entropy) është −log p(tokeni i vërtetë): e vogël kur modeli i dha tokenit të saktë probabilitet të lartë, e madhe kur i dha probabilitet të ulët.

Humbja mesatarizohet mbi shumë pozicione. Backpropagation llogarit si do të ndryshonte humbja nëse çdo parametër ndryshonte pak (gradienti), dhe një optimizues e ndryshon çdo parametër pak në drejtimin që e ul humbjen. Kjo përsëritet për një numër shumë të madh hapash.

Vër re që asgjë në këtë objektiv nuk thotë "ji i vërtetë" ose "ji i dobishëm". Një model bazë i para-trajnuar është një vazhdues teksti. Asistentë si ChatGPT kalojnë faza të tjera (seksioni 20).

Trajnimi është pjesa e shtrenjtë. Inference, përdorimi i një modeli të trajnuar, vetëm ekzekuton kalimin përpara me pesha të fiksuara. Modeli nuk mëson nga biseda jote duke ndryshuar peshat e veta.

Thjeshtim: vizualizimi përditëson një peshë të vetme për ta bërë idenë të qartë. Trajnimi real përditëson miliarda parametra njëkohësisht.