Rrjedha Residuale
Si udhëton një hyrje nëpër rrjedhën residuale
E gjithë hyrja “The cat sat on the” embed-ohet dhe ngjitet në rrjedhën residuale si një grumbull vektorësh, një rresht për token. Në çdo shtresë çdo kokë lexon të njëjtin grumbull në paralel, pastaj të gjitha daljet e kokave shtohen prapa në një rezultat të vetëm. Një kokë e Shtresës 2 lexon vetëm një dritare 64-dimensionale të saj: lëviz dritaren dhe shiko çfarë kalon.
Çdo pozicion tokeni ka rrjedhën e vet residuale; vizatimi i tregon bashkë si një grumbull. Attention është i vetmi hap ku pozicionet shkëmbejnë informacion. Të gjitha numrat e dimensioneve dhe përqindjet këtu janë hamendësime ilustruese: në një model real nënhapësirat e sakta nuk njihen paraprakisht dhe duhen matur nga peshat. E thjeshtuar: tregohen 4 koka për shtresë (një model real ka 12 ose më shumë), dhe nënhapësira e çdo koke vizatohet si një segment 64-dimensional mbi një vijë 768-dimensionale. Në realitet nënhapësirat janë drejtime në hapësirën 768-dimensionale dhe mbivendosja matet me produkt skalar, por ideja është e njëjtë: nëse drejtimet janë pingule, asgjë nuk kalon. Vetë embedding-u i tokenit injorohet kur llogaritet mbivendosja.
Model lodër për intuitë, jo pesha reale të një modeli.
Çfarë po sheh
Hyrja është fjalia e papërfunduar "The cat sat on the". Çdo token është një rresht. Animacioni i trajton ato rreshta si një pirg vektorësh dhe e ecën pirgun nga embedding-u, nëpër një shtresë të parë, te një shtresë e dytë. Në çdo shtresë kokat e lexojnë pirgun dhe daljet e tyre shtohen përsëri, që është rregulli rezidual: shto, mos zëvendëso. Një kontroll të lejon të shtirem se shtresa 1 shkroi vetëm në disa nga 768 dimensionet, dhe se një kokë e shtresës 2 lexon një dritare 64-dimensionale. Nëse dritarja e humb brezin e shkruar, leximi që tregon faqja qetësohet.
Ky ndërveprim i fundit është qëllimi i lodrës. Kokat nuk marrin secila një kopje private të gjithë modelit. Ato lexojnë dhe shkruajnë drejtime brenda një rrjedhe të përbashkët. Nëse dy nënhapësira janë pingule, prodhimi pikë është zero dhe koka e mëvonshme nuk e sheh shkrimin e mëparshëm. Faqja e thotë këtë në shënimin e vet, dhe kjo është pjesa që vlen të mbahet mend.
Çfarë është thjeshtuar këtu
768 dhe 64 janë gjerësitë e GPT-2 small, të përdorura këtu si numra të njohur, jo si matje e këtij animacioni. Rrëshqitësi "rreth 567 dimensione" nis te një hamendësim. Faqja e quan hamendësim. Asnjë mbivendosje në vizatim nuk është llogaritur nga pesha. Tregohen katër koka; GPT-2 small ka dymbëdhjetë në një shtresë, dhe modelet e tjera ndryshojnë. Nënhapësirat vizatohen si segmente të një vije. Në hapësirën reale ato janë drejtime, dhe mbivendosja është prodhim pikë, që mund të jetë i pjesshëm, jo një dritare e prerë. Embedding-u i token-it lihet jashtë llogaritjes së mbivendosjes, siç thotë shënimi në faqe.
Lëvizja është mësim, jo një forward pass. Nuk ka shkrim MLP, nuk ka layer norm, dhe nuk ka unembedding në fund. Nuk lexon parashikimin e tokenit tjetër nga kanavaca. Logit lens do të ishte ai lexim, dhe kjo faqe nuk e bën.
Si lidhet me modelet reale
Pothuajse çdo punim i mëvonshëm i mech interp e përdor këtë rrjedhë si fletoren e përbashkët të modelit. Mathematical Framework është burimi i pamjes. Kur del nga lodra, i ruan aktivizimet reziduale në çdo shtresë, i dekodon me logit lens nëse do një përshtypje të parë, dhe pastaj bën patch të komponentëve për të parë cili shkrim pati rëndësi. Grafet e atribuimit janë një version shumë më i madh i "kush shkroi çfarë në rrjedhë për këtë prompt".
Lexo rrjedhën reziduale, shtresat MLP dhe logit lens, pastaj punimin e kuadrit. Rrëshqitësit e dimensioneve në këtë faqe janë për intuitë mbi mbivendosjen. Nuk janë rezultat për ndonjë model të trajnuar.