Mit jelent a human-in-the-loop a gyakorlatban?

Sok vállalat első reakciója a Generatív AI kapcsán a pánik: "A gép hallucinálhat, ezért minden kimenetet egy szenior embernek jóvá kell hagynia!". Ez papíron jól hangzik, a gyakorlatban viszont két hét után a szenior ember "vakon" nyomkodja az Elfogad gombot (Approval Fatigue), vagy egyszerűen leállítja a rendszert, mert "lassabb, mintha ő csinálná meg magától".

A Human-in-the-Loop (Ember a hurokban) célja, hogy pontosan ott adjon kontrollt, ahol a gép bizonytalan, és ott adjon sebességet, ahol az AI magabiztos.

Ahelyett, hogy mindenre ráeresztenénk az embert, bevezetjük a Bizalmi Küszöböt (Confidence Threshold). A feladat kockázata határozza meg, milyen szinten kell bevonni az embert:

Ha egy jóváhagyó elé letesznek egy A/4-es oldalt, hogy az AI ezt generálta, nagyon lassan fog haladni. A jó felhasználói felület nemcsak két (Elfogad/Elutasít) gombot ad. A felület (pl. a belső admin) kiemeli a forrást.

• Side-by-side (Egymás melletti nézet): Bal oldalon az eredeti PDF (kiemelve az a bekezdés sárgával, ahonnan az AI dolgozott). Jobb oldalon az AI által kinyert adat. Egy pillantással ellenőrizhető a tény.
• Szerkeszthető kimenet: Az Elutasítás nem elég. Az embernek lehetőséget kell adni, hogy kicseréljen egy számot vagy mondatot az AI válaszában, majd úgy fogadja el a csomagot. Ez lesz a modell továbbképzésének (Fine-tuning) jövőbeni alapja.

Technológiailag a legnagyobb kihívás az, hogy a folyamatot "altatni" (Suspend) kell.

Képzeljünk el egy Beszerző AI Agentet. Az Agent összegyűjti 3 beszállító árait, beteszi egy táblázatba, majd meg kell várnia a pénzügyi vezetőt, aki épp szabadságon van. A kód nem futhat végtelen hurokban a memóriában napokig.

Erre való egy modern State Machine Graph architektúra (pl. LangGraph). Az AI elmenti a teljes állapotát (memóriáját, promptjait, API válaszait) egy adatbázisba (Checkpointing), és kilép. Amikor a vezető 3 nap múlva rákattint az "Elfogadom" gombra az e-mailjében, a rendszer "felébreszti" (Resume) a Graph-ot pontosan onnan, ahol abbamaradt, és folytatja a rendelés leadásával az ERP rendszerben.

"Egy AI-projekt Governance megbeszélésén el kell jutni a 'No-Touch Rate' (Emberi beavatkozás nélküli arány) fogalmáig. Az első hetekben ez lehet 10% (mindent nézünk). Ahogy gyűlik az auditált, megbízható napló (Trace), és látjuk, hogy a gép bizonyos al-feladatokban sosem hibázik, úgy engedjük egyre lazábbra a gyeplőt. Évek alatt a rutinfeladatoknál el lehet jutni a 90-95%-os autonómiáig. A HITL nem egy statikus állapot, hanem egy utazás a bizalomépítésben." — Udvarhelyi Dávid, Biztonsági és AI Tanácsadó

Ha az ember korrigálja az AI-t, a modell azonnal tanul belőle?
Nem (és biztonsági okokból nem is szabad neki). Ha azonnal (valós időben) betanulna minden gépelési hibát vagy rosszindulatú munkavállalói adatot, a rendszer hamar összeomlana (Data Poisoning). A javítások bekerülnek egy külön "Feedback" adatbázisba, amiből a fejlesztők havi szinten készítenek egy új, tisztított tanítóhalmazt a következö verzióhoz.

Mi van, ha 5 szakértőből 3 máshogy javítja ki az AI-t (szubjektív feladat)?
Ez a "Labeling Disagreement" tipikus esete (főleg szövegírásnál vagy dizájnnál). Ilyenkor az AI nem tud mit tanulni az emberi visszacsatolásból, hiszen a "Célváltozó" maga is zajos. A cégnek belső folyamatszabályzattal (Style Guide) kell sztenderdizálnia a válaszokat az emberi oldalon, mielőtt az AI-t kérnék számon.