Mikor nem érdemes AI-t használni?

Vannak üzleti feladatok, ahol a technológiai újdonság varázsa elhomályosítja a józan észt. Egy Generatív AI (LLM) modell futtatása sokkal lassabb, számításigényesebb, és nagyságrendekkel drágább, mint egy hagyományos algoritmusé. Ha csak azért vezetünk be AI-t, hogy kiírhassuk a weboldalra, valószínűleg pénzt égetünk.

Az AI valószínűségi (Probabilistic) alapon működik. Ez azt jelenti, hogy 100-ból 98-szor tökéletes lesz, de 2-szer hallucinál vagy hibázik. Ha olyan folyamatról beszélünk, ahol a Nulla Tolerancia az elvárás (például banki kamatszámítás, adóbevallások, repülőgép-vezérlés matematikai számításai), oda TILOS "tisztán" AI-t tenni.

• Alternatíva: Klasszikus IF-THEN kódolás. Ha A > B, akkor C. Ezt egy egyszerű Python vagy Excel makró másodpercek alatt, 100%-os determinizmussal elvégzi, míg az AI esetleg "kreatívan" kitalál egy harmadik számot.
• A megoldás (Hibrid): Az AI elolvashatja a bejövő emailt (Kreatív feladat), de a számítást, amit a levélből kiszedett adatokkal kell elvégezni, már egy hagyományos, zárt Kód-modulnak kell átadnia (Tool Calling).

A mondás tartja: "Garbage in, Garbage out" (Szemét be, Szemét ki). Egy Machine Learning modell betanításához, de még egy jó RAG rendszerhez is tisztított, strukturált, vagy legalábbis digitálisan értelmezhető adat kell.

Nagyon sok adminisztratív feladat arra épül, hogy a dolgozó "A" rendszerből kimásol egy adatot, és beilleszti "B" rendszerbe, mindig ugyanazon, jól definiált gombok megnyomásával.

• Erre "Intelligenciát" (AI-t) hívni felesleges túllövés.
• A megoldás az RPA (UiPath, Power Automate stb.): Ezek a szoftverrobotok "rögzítik" az ember képernyő-kattintásait, és elvégzik a mechanikus munkát sokkal stabilabban.
• Akkor kell AI, ha az "A" rendszerbe bejövő adat minden nap máshogy néz ki (pl. ügyfelek által írt szabad-szöveges panasz-emailek).

"Egy projektfelmérés (Discovery) során az esetek 30%-ában azt javaslom az ügyfélnek, hogy egyelőre tegye félre az AI terveit. Nem azért, mert ne tudnánk lefejleszteni, hanem mert hiányzik a 'Data Maturity' (Adat-érettség). Ha az alapfolyamatok kaotikusak, és nincs dokumentálva, hogy ki milyen döntést hoz a cégben, az AI nem fogja 'rendbe tenni' a vállalatot. Az AI automatizál. Ha a káoszt automatizáljuk, akkor csak gyorsabban fogjuk megkapni a kaotikus és hibás eredményeket. Előbb tegyenek rendet a ház körül, utána jöhet a rakétamotor." — Udvarhelyi Dávid, AI Architect

Akkor is érdemes AI-t bevezetni, ha az csak a munkaidő 5%-át spórolja meg?
Kizárólag akkor, ha az a munka óriási volumenben (pl. havi 50.000 tranzakció) zajlik, és az 5% megtakarítás TCO-ja meghaladja az AI rendszer beruházási költségét. Ha 2 ember heti 1 óráját váltjuk ki egy drága AI rendszerrel, az gazdasági öngyilkosság.

Mi van, ha az AI-modellek fejlődnek, és a jövőben tudnak determinisztikus számításokat végezni?
Bár az újabb (pl. OpenAI o1) modellek egyre jobbak a logikában és a matekban, a klasszikus szoftverfejlesztés API-hívásainak költsége továbbra is a töredéke marad az AI Token-költségeinek. Tehát ami fix szabállyal megírható, azt a jövőben is olcsóbb lesz kóddal futtatni.