Laboratori i Rrjetit Nevral
Shiko rrjetin duke llogaritur
Laborator interaktiv feed-forward — forward pass, matrica, trajnim në të dhëna lodër, autopsi neuroni. Të gjitha numrat vijnë nga simulimi real.
Në detaje
Një rrjetë nervore është një grumbull shtresash. Çdo shtresë merr një vektor numrash, e shumëzon me një matricë peshash, shton bias-e dhe aplikon një funksion aktivizimi. Dalja bëhet hyrja e shtresës tjetër. "Feed-forward" do të thotë që informacioni rrjedh në një drejtim, nga hyrja te dalja. Ky proces quhet kalimi përpara (forward pass).
Trajnimi i rregullon peshat që daljet të përputhen me objektivat e dëshiruar në shumë shembuj (seksionet 17 dhe 18). Një rrjetë me të paktën një shtresë të fshehur dhe një aktivizim jolinear mund të përafrojë çdo funksion të vazhdueshëm në një zonë të kufizuar me çdo saktësi të dëshiruar, nëse ka mjaftueshëm neurone (teorema e përafrimit universal). Ajo teoremë thotë që është e mundur, jo që është e lehtë të gjenden peshat e duhura.
Edhe transformerat përmbajnë rrjeta feed-forward: MLP në çdo bllok (seksioni 13). Laboratori më poshtë përdor një rrjetë shumë të vogël për një problem lodër. Modelet reale gjuhësore përdorin të njëjtat gurë ndërtimi në shkallë shumë më të madhe.