Vállalati AI-biztonság, a rendszerbe tervezve.

Külön térképezzük fel a dokumentumtárat, a keresési indexet, a modellkéréseket, a naplókat és a mentéseket. Mindegyikhez kijelöljük a tárolási helyet, a megőrzési időt és a törlés módját.

Érzékeny dokumentumoknál adatminimalizálást, szükség szerinti maszkolást és jogosultságszűrt keresést tervezünk. A titkok és hozzáférési kulcsok nem kerülnek a modell bemenetébe.

A vállalati bejelentkezéshez kapcsolódó SSO és szerepkörök alapján szabályozható az adatolvasás és a műveletvégrehajtás. A források engedélyeit a keresésben és az eszközhasználatban is érvényesíteni kell.

A pénzügyi, külső kommunikációs vagy adatváltoztató műveleteknél emberi jóváhagyás, értékhatár és végrehajtási napló állítható be. A dokumentumok tartalmát adatként kezeljük, nem felülíró rendszerutasításként.

Naplózzuk a releváns műveleteket, a használt modellverziót, az eredmény státuszát és a jóváhagyásokat. A naplózást úgy tervezzük, hogy ne keletkezzen indokolatlan másolat az érzékeny adatokról.

A bevezetés része a hibás válaszok, jogosultsági határok és támadó dokumentumok tesztelése. Üzemeltetéskor riasztások, korlátok és visszaállítási eljárások segítik a felelős működést.

Az alkalmazás célját, felhasználóit és kockázatait a vállalat jogi és adatvédelmi felelőseivel együtt tisztázzuk. Az EU AI Act és más alkalmazandó követelmények értelmezéséből dokumentálható műszaki és szervezeti feladatok készülnek.

A végleges megfelelőség az adott felhasználástól, a szerződésektől és a vállalat működésétől is függ. A fejlesztési tervben rögzítjük a felelősöket és az ellenőrzéshez szükséges bizonyítékokat.