Video · 9 min · Lekcija 1 od 7
RAG u jednoj petlji
Pitanje, dohvat, odgovor: kako model dobiva vaše znanje bez ponovnog treniranja.
Transkript
Opći model poznaje javni internet do datuma završetka treniranja, ali ne i vaša pravila o cijenama, vaše procedure ni odluku od prošlog tjedna. Retrieval-augmented generation tu prazninu zatvara jednostavnom petljom: korisnik postavi pitanje, sustav iz vaših dokumenata dohvati najrelevantnije odlomke, a model odgovara koristeći te odlomke kao izvor.
Ništa se ne trenira ponovno. Vaši dokumenti ostaju u vašem indeksu i modelu se predaju samo kao kontekst za pojedino pitanje. Zato se RAG gradi brže od dodatnog treniranja, lako ga je ažurirati kad se dokument promijeni i puno ga je lakše revidirati, jer svaki odgovor može pokazati tekst iz kojeg je nastao.
Dodatno treniranje (fine-tuning) i dalje ima svoje mjesto kad model treba naučiti stil ili uzak format. Ali kad je cilj odgovarati na temelju činjenica koje se mijenjaju, RAG je gotovo uvijek bolji prvi izbor.
Ključni zaključci
- RAG dohvaća relevantne odlomke i odgovara na temelju njih.
- Vaše znanje ostaje u vašem indeksu i model se ne trenira ponovno.
- Za činjenice koje se mijenjaju RAG je obično bolji od dodatnog treniranja.