Çfarë janë embeddings?
Embeddings janë përfaqësime numerike (zakonisht vektorë) ku tokenët ose fjalët vendosen në një hapësirë ku kuptimet e ngjashme janë më afër njëra-tjetrës.
Modeli mëson këto vektorë gjatë trajnimit; pastaj i përdor në shtresa të transformer-it për llogaritje attention dhe transformimesh.
mej7.com ka seksion interaktiv embeddings ku shikon dimensione (ilustruese) dhe marrëdhëniet hapësinore të thjeshtuara.