Halucinacionet
Përse AI mund të jetë i sigurt dhe gabim njëkohësisht?
Modeli gjeneron sekuenca të mundshme statistikisht, jo kërkime në një bazë të dhënash të garantuar të vërtetash.
Modeli mund të prodhojë një përgjigje me besim të lartë edhe kur nuk ekziston përgjigje e saktë — për shkak të kufizimeve në të dhënat e trajnimit, pyetjeve të paqarta, gjenerimit statistikor, dhe mungesës së verifikimit të garantuar faktik. Kjo nuk është thjesht "AI nuk e di".
Në detaje
Një halucinacion është një dalje e rrjedhshme që është e gabuar ose e pambështetur nga faktet. Modeli u trajnua të prodhojë vazhdime të besueshme, dhe asgjë në procesin bazë nuk i kontrollon pretendimet me realitetin. Kur informacioni është i rrallë, mungon ose është i paqartë, modeli prapë mund të prodhojë një hamendje që tingëllon e sigurt. Kjo nuk është gënjeshtër: modeli nuk ka qëllim të mashtrojë.
Fazat e mëvonshme të trajnimit mund t'i zvogëlojnë halucinacionet, por nuk i heqin. Një ton i sigurt nuk është provë që diçka është e saktë. Referencat dhe citimet e shpikura janë një shembull i njohur.
Çfarë ndihmon:
- Kërko burime dhe kontrolloji, sepse një model mund të shpikë burime.
- Vendos tekstin përkatës në prompt dhe kërkoji modelit të përgjigjet prej tij.
- Përdor sisteme që marrin informacion nga dokumente (retrieval-augmented generation, RAG) ose përdorin mjete si kërkimi dhe makinat llogaritëse.
- Verifiko faktet e rëndësishme, sidomos në mjekësi, drejtësi, financa dhe siguri.