Saját AI vagy ChatGPT Enterprise? Útmutató a nagyvállalati döntéshez

A legtöbb vállalatnál a "Saját AI-t fejlesszünk, vagy vegyünk ChatGPT Enterprise-t?" kérdés hibás dichotómián alapul. A valóságban a két megoldás más-más problémát old meg. A ChatGPT Enterprise egy azonnal használható, biztonságos felület az alkalmazottak produktivitásának (szövegírás, kódolás, azonnali fordítás, adatvizualizáció) növelésére. Egy Saját AI (Egyedi AI Agent / RAG architektúra) viszont olyan folyamatokba épül be, ahol a nyelvi modell API-n keresztül kommunikál a céges rendszerekkel (ERP, CRM), és emberi beavatkozás nélkül, strukturáltan hajt végre előre definiált üzleti szabályokat.

Az általános szövegalkotás, a belső tudás keresése és egy saját, több vállalati rendszeren átívelő munkafolyamat teljesen különböző igény. Mielőtt licencet vásárolna vagy fejlesztőket bérelne, sorolja fel az elvárt műveleteket, a felhasználói szerepeket, az elfogadható hibát és az adatkezelési korlátokat. Ezt a listát kell összevetni a választott csomagban ténylegesen elérhető és engedélyezett képességekkel.

• Ember által vezérelt "Copilot" feladatok: Ideális a ChatGPT Enterprise. A felhasználó beír egy promptot, a rendszer válaszol, az ember pedig átveszi, lemásolja vagy továbbgondolja az eredményt.
• Rendszer által vezérelt "Agentic" feladatok: Ideális az Egyedi AI. Egy új e-mail beérkezése automatikusan triggerel egy folyamatot, a modell strukturált JSON adatot generál, amit egy script betölt az SAP-ba.

Használja az alábbi táblázatot az irányvonal meghatározásához:

Az OpenAI dokumentációja szerint a ChatGPT bővítményei (Plugins) és csatlakozói (Connectors) külső rendszerekben keresést, lekérést, szinkronizálást vagy műveleteket is támogathatnak. Az elérhetőség, a szerepkörök és az engedélyezett műveletek külön szabályozhatók; a csatlakoztatott szolgáltatás saját jogosultságai továbbra is érvényesek. A konkrét képességet csatlakozónként és munkaterületenként kell ellenőrizni. (Forrás: OpenAI – Plugin controls).

A saját értékelésünkben ezért azt vizsgáljuk, hogy a kész felület és a ténylegesen elérhető kapcsolatok lefedik-e a folyamatot, és hogyan történik a kivételek kezelése. Ha az alkalmazottaknak minden reggel be kell jelentkezniük egy felületre, onnan áthúzni az adatokat egy chat ablakba, majd a kapott választ manuálisan visszamásolni az ügyviteli rendszerbe, akkor a szövegírás szintjén nyertünk időt, de a folyamat szintjén új overheadet hoztunk létre.

"A dobozos SaaS megoldások fantasztikusak az egyéni produktivitás növelésére, de amint egy folyamat a háttérben (background-job), API hívásokkal, robusztus kivételkezeléssel és 100%-os determinisztikus elvárásokkal kell hogy lefusson, a webes chat felületek használhatatlanná válnak. Ilyenkor van szükség a technológia mély, API szintű implementációjára." — Szabó Attila, Integrációs Szakértő

Egyedi rendszerre lehet szükség, ha saját felület, speciális adatmodell, ipari eszközkapcsolat, vagy összetett üzleti szabályrendszer kell. Fontos tisztázni: az "egyedi alkalmazás" (Custom AI Application) is használhatja a háttérben az OpenAI (vagy az Anthropic, Google) szolgáltatói API-ját! A "saját AI" nem feltétlenül jelent saját modell tanítását a nulláról.

Néhány konkrét vállalati példa, amikor az egyedi fejlesztés az egyetlen járható út:

• Háttérfolyamatok (Background Automation): A cél egy olyan rendszer, ami éjjel-nappal figyeli a beérkező Support jegyeket, kategorizálja őket, és az egyértelmű esetekben azonnal válaszol vagy újraindítja az ügyfél routerét API-n keresztül. Ide nem emberi chat ablak kell.
• Szigorú kimeneti sémák (Structured Output): Az AI feladata dokumentumok (pl. számlák, fuvarlevelek) adatosítása. Az eredménynek egy tökéletesen formázott, az ERP által befogadható JSON fájlnak kell lennie, amiből nem hiányozhatnak mezők.
• Többlépcsős RAG (Retrieval-Augmented Generation): A modellnek komplex kereséseket kell végeznie a 10 terabájtnyi céges Sharepointban, majd ezek alapján összehasonlító jelentéseket generálnia – mindezt úgy, hogy a keresési eredményeknél szigorúan érvényesüljenek a felhasználói Active Directory jogosultságok.

Cserébe az egyedi fejlesztésnél a rendszerarchitektúra tervezésének, a tesztelésnek, az üzemeltetésnek és a továbbfejlesztésnek a felelősségét is meg kell szervezni. A szoftvert karban kell tartani.

Az OpenAI a Business, Enterprise és Edu ügyfeleknél (akár a ChatGPT felületén, akár az API-n keresztül elért információkról) azt írja, hogy nem használja őket modelltréninghez. Ettől külön kérdés a megőrzés (Data Retention policy, általában 30 nap vagy Zero Data Retention), a szinkronizált index, az adatrégió (Európai szerverek), és a kapcsolódó szolgáltatás adatkezelése.

Egyedi rendszerben is fel kell térképezni minden adatfeldolgozót és másolatot. Ha a követelmény a teljes lokális (On-Premise) működés, ahol az adat soha nem hagyhatja el a cég fizikai szervereit (pl. védelmi ipar, speciális egészségügy, kormányzati szektor), akkor a ChatGPT Enterprise már nem opció. Ilyenkor a saját hardveren futtatott nyílt forráskódú modellek (pl. Llama 3, Mistral) jelentik az egyetlen alternatívát.

A licencek vagy modellkérések mellett (API költségek) vegye számításba a beállítást, az integrációt, az oktatást, az emberi ellenőrzést (HITL felületek karbantartása) és a hosszú távú Cloud üzemeltetést. A döntéshez egy anonimizált, valós feladatkészletet érdemes végigfuttatni mindkét megközelítéssel.

Gyakori, hogy a hibrid modell a nyerő: a kollégák napi munkáját a ChatGPT Enterprise segíti (kódolás, fordítás, vázlatírás), míg a kritikus, nagytömegű adatbeviteli és ügyfélszolgálati folyamatokat egy egyedi integráció (AI Agent) végzi a háttérben.

A következő lépés az építkezéshez egy architektúra tervezés, ahol feltérképezzük a vállalati célrendszerek (ERP, CRM) API képességeit, és kiválasztjuk a megfelelő megoldási irányt.