Fjalor i interpretueshmërisë mekanistike
| Termi | Me gjuhë të thjeshtë |
|---|---|
| Residual stream | Vektori i vazhdueshëm në çdo pozicion token-i nga i cili shtresat lexojnë dhe në të cilin shkruajnë. |
| Attention head | Komponent që lëviz informacion mes pozicioneve të token-ave. |
| QK circuit | Vendos ku shikon koka e vëmendjes. |
| OV circuit | Vendos çfarë informacioni kopjon koka. |
| MLP layer | Përpunon informacion në një pozicion; shpesh shihet si memorie asociacionesh. |
| Feature | Drejtim në hapësirën e aktivizimeve që i përgjigjet një vetie të njohur nga njeriu. |
| Circuit | Nënrrjetë e modelit që kryen një llogaritje të identifikueshme. |
| Polysemanticity | Një neuron i vetëm që përgjigjet për disa koncepte të palidhura. |
| Monosemanticity | Njësi që i përgjigjet një koncepti të qartë. |
| Superposition | Ruajtja e më shumë veçorive sesa dimensione, duke i mbivendosur. |
| Sparse autoencoder (SAE) | Rrjetë që e zbërthen aktivizimin në veçori të rralla, më të interpretueshme. |
| Dictionary learning | Mësimi i një bashkësie drejtimesh ndërtuese që rindërtojnë aktivizimet. |
| Induction head | Model vëmendjeje që plotëson "A B ... A → B". |
| Activation patching | Kopjimi i një aktivizimi mes ekzekutimeve për të testuar rëndësinë shkakësore. |
| Ablation | Heqja e një komponenti për të parë çfarë prishet. |
| Logit lens | Dekodimi i aktivizimeve të shtresave të ndërmjetme në parashikime token-ash. |
| Probing | Trajnimi i një klasifikuesi të vogël mbi aktivizimet për të zbuluar informacion. |
| Steering | Shtimi i një drejtimi në aktivizime për të ndryshuar sjelljen. |
| Grokking | Përgjithësim i papritur shumë pas memorizimit të të dhënave. |
| Universality hypothesis | Ideja që modele të ndryshme mësojnë veçori dhe qarqe të ngjashme. |
| Attribution graph | Graf që tregon si veçoritë ndikojnë njëra-tjetrën për një prompt. |
| Transcoder | Model i rrallë që përafron një shtresë MLP me veçori të interpretueshme. |
| Feature splitting | Një veçori që ndahet në të tjera më të imta kur fjalori zgjerohet. |
| Faithfulness | Nëse shpjegimi pasqyron çfarë llogarit vërtet modeli. |
Shpjegimet më të gjata janë te konceptet kryesore. Fjalori i Neel Nanda është referenca e gjatë e fushës.
Autor: mej7.com, projekt edukativ i pavarur. Rishikuar së fundmi: 6 nëntor 2026.