Čitanje · 7 min · Lekcija 3 od 8
Halucinacije i kako ih uhvatiti
Zašto model izmišlja činjenice i koje vas jednostavne navike od toga štite.
Halucinacija je odgovor koji zvuči točno, a nije: izmišljena statistika, sudska presuda koja nikad nije postojala ili značajka proizvoda koju vaša tvrtka ne nudi. Događa se jer je model optimiziran da stvara uvjerljiv tekst, pa kad mu nedostaju činjenice, prazninu popuni nečim što se uklapa u obrazac.
Halucinacije se javljaju na predvidljivim mjestima: točni brojevi, datumi, imena, citati, izvori i sve što je novo ili specifično za vašu organizaciju. Općenita objašnjenja i preoblikovanje teksta koji ste sami dali znatno su sigurniji, jer model radi s materijalom koji ima pred sobom.
Tri navike hvataju većinu problema. Dajte modelu izvorni materijal i tražite da odgovara samo na temelju njega. Zamolite ga da kaže kad nije siguran umjesto da nagađa. I provjerite svaki broj, ime i citat u izvoru prije nego što tekst pošaljete dalje.
Ključni zaključci
- Halucinacije su tečni odgovori koji su činjenično pogrešni.
- Brojevi, imena, datumi i citati najrizičniji su dijelovi svakog odgovora.
- Oslanjanje na vlastite izvore i provjera ključnih činjenica sprječavaju većinu grešaka.