Çfarë janë embeddings?
Embeddings janë përfaqësime numerike (zakonisht vektorë) ku tokenët ose fjalët vendosen në një hapësirë ku kuptimet e ngjashme janë më afër njëra-tjetrës.
Modeli mëson këto vektorë gjatë trajnimit; pastaj i përdor në shtresa të transformer-it për llogaritje attention dhe transformimesh.
mej7.com ka seksion interaktiv embeddings ku shikon dimensione (ilustruese) dhe marrëdhëniet hapësinore të thjeshtuara.
Për mënyrën si studiuesit i lexojnë drejtimet brenda një modeli, shih çfarë është interpretueshmëria mekanistike dhe laboratorin 3D të embeddings. Ai laborator është ilustrim, jo pesha reale.