Adatklasszifikáció
Az adatok érzékenység, jogalap és üzleti hatás szerint kategóriát kapnak. Az osztály határozza meg, mely modellhez, régióba és naplóba kerülhet az információ.
Bevezetés / 06
AI-biztonság, jogosultság és governance már az architektúra szintjén
A governance nem utólagos szabályzat. Az identitást, az adatforrásokat, az eszközjogosultságokat, a jóváhagyási pontokat, a naplózást és a visszaállást a rendszer architektúrájába építjük.
CONTROL LAYERS / 01FOLYAMATÁBRA
FEDEZD FEL A FOLYAMATOTVálassz egy pontot az ábrán
Rámutatással kiemelheted, kattintással vagy koppintással rögzítheted a kapcsolatait.
BEMENET / Identity8 LÉPÉSKIMENET / Incident response
01Üzleti célból indulunk
02Valós rendszerkörnyezetre tervezünk
03Emberi kontrollt építünk be
04Éles működésig visszük
A megoldandó probléma
Az AI-kockázat nagy része rendszer- és folyamatkockázat.
A modell mellett az is számít, milyen adatot láthat, milyen műveletet indíthat, kinek a nevében dolgozik, hogyan kezeljük a prompt injectiont, és mi történik hiba esetén. Egy adatvédelmi nyilatkozat ezeket nem oldja meg.
A megoldás
Védelmi rétegek és egyértelmű felelősségek
Az adatklasszifikációtól indulunk, majd az identitás, tool-scope, read/write szétválasztás, approval és audit rétegeit tervezzük meg. A modell- és promptváltozásokat regressziós teszt, incidens esetén pedig dokumentált visszaállási folyamat védi.
CONTROL LAYERS / 01FOLYAMATÁBRA
FEDEZD FEL A FOLYAMATOTVálassz egy pontot az ábrán
Rámutatással kiemelheted, kattintással vagy koppintással rögzítheted a kapcsolatait.
BEMENET / Identity8 LÉPÉSKIMENET / Incident response
Identity és RBAC/ABAC
A szerepkör- és attribútumalapú szabályok a felhasználó, adat és művelet jellemzőit együtt értékelik. A hozzáférést a kiszolgáló oldali policy engine érvényesíti.
Tool-szintű jogosultság
Minden tool külön scope-ot, paraméterkorlátot és műveleti limitet kap. Az agent nem fedezhet fel vagy hívhat meg engedély nélküli vállalati funkciót.
Human-in-the-loop
A kritikus művelet előtt a rendszer megmutatja a javaslatot, a forrásokat és a várható hatást. A jogosult személy döntése és esetleges módosítása auditálható.
Prompt injection védelem
A külső dokumentum és felhasználói szöveg nem írhatja felül a rendszer szabályait. Elkülönítjük az utasítást az adattól, szűrjük a tool-kérést és tesztesetekkel mérjük a védelmet.
Audit, eval és incident response
Az auditnapló, rendszeres eval és incidensfolyamat közös bizonyítékláncot alkot. Eltérés esetén az érintett verzió leállítható, visszaállítható és kivizsgálható.
Konkrét munkafolyamatok
Nem általános AI. Pontos üzleti feladatok.
PÉLDA / 01
Kockázatos írási művelet
A rendszer a művelet előtt megmutatja a célrekordot, a változást és az indoklást.
- Identity
- Policy
- Preview
- Jóváhagyás és audit
PÉLDA / 02
AI-incidens kezelése
A riasztástól a scope korlátozásán és visszaállításon át a tesztfrissítésig vezetett folyamat.
- Észlelés
- Korlátozás
- Vizsgálat
- Javítás és regresszió
Adat és integráció
A rendszer a vállalati kontextust használja.
Az adatforrásokat, hozzáférési módokat, frissítési ciklust és felelősséget a fejlesztés előtt tisztázzuk.
Adatforrások
AdatbesorolásIdentity providerTool-katalógusAuditlogEval készletIncidensadatokKapcsolódási módok
SSO / IAMSIEMPolicy engineMonitoring és ticketingBiztonság és emberi kontroll
Autonómia csak kijelölt határok között.
A kritikus pontoknál a rendszer megáll, elmagyarázza a javaslatot, és a jogosult felhasználó döntése után folytatja.
01Least privilege✓
02Read/write szétválasztás✓
03Kötelező approval✓
04Titok- és adatmaszkolás✓
05Regressziós teszt✓
06Visszaállási terv✓
Fejlesztési folyamat
A bizonyítható értéktől az éles működésig.
01Felmérés
02Architektúra
03Proof of Value
04Éles fejlesztés
05Bevezetés és mérés
Kézzelfogható eredmény
Mit adunk át?
Nem csak modellfájlt vagy hozzáférést. Dokumentált, tesztelhető és üzemeltethető rendszert.
- ✓AI-kontrolltérkép
- ✓Jogosultsági és tool-policy
- ✓Approval és audit design
- ✓Biztonsági tesztkészlet
- ✓Monitoring és incidens runbook
- ✓Felelősségi modell
Jó választás, ha…
✓ Az AI érzékeny adatot vagy műveletet kezel
✓ Több szerepkör és rendszer kapcsolódik
✓ A működésnek auditálhatónak kell lennie
Nem ezt javasoljuk, ha…
— A projekt csak nyilvános adaton futó, művelet nélküli kísérlet
— Nincs vállalati identity vagy adatbesorolás
— A szervezet nem jelöl ki kontrolltulajdonost
30 perces projekt-egyeztetés
Melyik folyamatot érdemes elsőként átalakítani?
Közvetlenül műszaki és üzleti vezetőinkkel egyeztethet. Az első beszélgetéshez elég a megoldandó problémát ismernie.