Čitanje · 7 min · Lekcija 8 od 9
Ljudski nadzor koji zaista radi
Zašto potvrda jednim klikom nije nadzor i kako ga osmisliti bolje.
Ljudski nadzor tiho zakaže kad postane puka formalnost. Ako recenzent odobri dvjesto AI odluka na sat, ništa ne nadzire, nego samo klika. Pristranost prema automatizaciji, odnosno sklonost da se vjeruje prijedlozima sustava, s vremenom to dodatno pogoršava.
Učinkovit nadzor traži tri stvari: recenzenta sa znanjem i ovlasti da poništi odluku sustava, dovoljno informacija za procjenu rezultata, poput izvora ili razloga iza neke ocjene, i opseg posla koji omogućuje stvarnu pažnju. Provjere nasumičnih uzoraka pomažu da pažnja ostane oštra.
Nadzor postavite ondje gdje su greške skupe ili nepovratne: odluke o ljudima, novac koji izlazi iz tvrtke, poruke velikom broju kupaca. Nacrti s malim posljedicama trebaju lakšu provjeru. Kad razinu provjere uskladite s rizikom, nadzor ostaje smislen, a ne simboličan.
Ključni zaključci
- Masovno odobravanje nije nadzor.
- Recenzentima trebaju znanje, ovlasti, informacije i vrijeme.
- Dubinu provjere uskladite s cijenom greške.