Hogyan kerüljük el, hogy az AI-projekt pilot maradjon?

Egy Jupyter Notebook-ban, kiválasztott, tisztított (kézzel masszírozott) tesztadatokon egy Senior Data Scientist 2 hét alatt varázslatos AI modellt épít. Létrehoznak egy csilivili webes felületet (Gradio/Streamlit), a vezetőség megnézi, bólogat. Aztán jön a kérdés: "Akkor ezt kössük be a 15 éves, elavult SAP rendszerünkbe, de úgy, hogy a GDPR szerint senki ne lássa más adatait."

Itt áll le a projekt. Kiderül, hogy az infrastruktúra nem bírja a terhelést, a biztonsági osztály megvétózza a felhős API-kat, és senki (egyetlen üzleti vezető sem) akar felelősséget vállalni a rendszerért.

Ha az AI projekt csak a "Laborból" (K+F, vagy Innovációs osztály) indul, halálra van ítélve. Az IT tudja megépíteni, de nem az IT fogja használni.

• Kell egy Szponzor: Egy konkrét üzleti vezető (pl. az Ügyfélszolgálati Igazgató), akinek fáj a jelenlegi lassú folyamat, és neki van rászánt büdzséje (P&L felelőssége).
• A Felhasználói Ellenállás: Ha a dolgozókat nem vonják be a Pilot fázisba, úgy fogják érezni, hogy az AI a "munkájukra tör". Ha ők nem kezdik el használni az MVP-t, az AI semmit nem fog tanulni (Feedback Loop), és az egész rendszer elhal.

A vezetők gyakran összekeverik a Proof of Value-t (Bizonyíték, hogy lehetséges) az MVP-vel (Minimum Viable Product – Legkisebb Éles Termék). A Pilot kódjának nagy részét az élesítés előtt ki kell dobni.

Gyakori anti-pattern, hogy a projekt végén odamennek a cég IT Biztonsági vezetőjéhez, hogy engedje ki a rendszert a tűzfalon kívülre. Ő lát egy "Fekete Doboz" felhős API-t, ahova szenzitív ügyféladatok áramlanak, és azonnal blokkolja az egészet (Compliance / GDPR okokból).

A megoldás: Security by Design. Az IT Biztonságot és a jogot már az architektúra tervezésekor (Discovery) be kell vonni. Dönteni kell a Pszeudonimizálásról (nevek cseréje) a LLM-be küldés előtt, vagy az On-Premise (lokális) AI futtatásáról.

"Amikor egy Pilotot tervezünk, mi valójában fordítva gondolkozunk (Reverse Engineering). Megkérdezzük: Mi az a legszigorúbb technikai feltétel, amivel az éles IT környezetbe egyáltalán betehetjük a lábunkat? Ha tudjuk, hogy a cég eszméletlenül szigorú VPN-t használ, és egy külső API meghívása tiltott, akkor a Pilotot sem felhős OpenAI-val fejlesztjük, hanem azonnal egy lokális Llama 3 modellel. A Pilot ne a varázslatot bizonyítsa, hanem azt, hogy a varázslat a Vállalat belső szabályain belül is működik." — Udvarhelyi Dávid, AI Architect

Mennyi ideig tartson egy Pilot?
Egy jól definiált Proof of Value (PoV) fázis soha ne legyen hosszabb 2-4 hétnél. Ennyi idő alatt tisztán látszik az adat minősége és az algoritmus korlátai. Ha a Pilot elhúzódik 6 hónapig, az azt jelenti, hogy "Scope Creep" van (folyamatosan új funkciókat találnak ki az élesítés helyett).

Hogyan skálázzuk fel (Rollout) az elkészült MVP-t?
Fokozatosan. A "Big Bang" (mindenkire ráöntjük az új szoftvert) ritkán működik. Először egy szűk, technikailag affinis csoport ("Bajnokok") kapja meg. Ők visszajelzéseket adnak (Feature Flag alapú kioldás). Amikor a modell finomhangolódott az ő éles adataikon, akkor nyitjuk meg a többi osztálynak, már egy bizonyított eszközként.