Adatklasszifikáció
A képességet az adott folyamat adataihoz, jogosultságaihoz és mérési céljához igazítjuk.
Bevezetés / 06
AI-biztonság, jogosultság és governance már az architektúra szintjén
A governance nem utólagos szabályzat. Az identitást, az adatforrásokat, az eszközjogosultságokat, a jóváhagyási pontokat, a naplózást és a visszaállást a rendszer architektúrájába építjük.
CONTROL LAYERS / 01POLICY PASS
INPUT / IdentityGATESOUTPUT / KONTROLLÁLT MŰVELET
01Üzleti célból indulunk
02Valós rendszerkörnyezetre tervezünk
03Emberi kontrollt építünk be
04Éles működésig visszük
A megoldandó probléma
Az AI-kockázat nagy része rendszer- és folyamatkockázat.
A modell mellett az is számít, milyen adatot láthat, milyen műveletet indíthat, kinek a nevében dolgozik, hogyan kezeljük a prompt injectiont, és mi történik hiba esetén. Egy adatvédelmi nyilatkozat ezeket nem oldja meg.
A megoldás működése
Védelmi rétegek és egyértelmű felelősségek
Az adatklasszifikációtól indulunk, majd az identitás, tool-scope, read/write szétválasztás, approval és audit rétegeit tervezzük meg. A modell- és promptváltozásokat regressziós teszt, incidens esetén pedig dokumentált visszaállási folyamat védi.
CONTROL LAYERS / 01POLICY PASS
INPUT / IdentityGATESOUTPUT / KONTROLLÁLT MŰVELET
Identity és RBAC/ABAC
A képességet az adott folyamat adataihoz, jogosultságaihoz és mérési céljához igazítjuk.
Tool-szintű jogosultság
A képességet az adott folyamat adataihoz, jogosultságaihoz és mérési céljához igazítjuk.
Human-in-the-loop
A képességet az adott folyamat adataihoz, jogosultságaihoz és mérési céljához igazítjuk.
Prompt injection védelem
A képességet az adott folyamat adataihoz, jogosultságaihoz és mérési céljához igazítjuk.
Audit, eval és incident response
A képességet az adott folyamat adataihoz, jogosultságaihoz és mérési céljához igazítjuk.
Konkrét munkafolyamatok
Nem általános AI. Pontos üzleti feladatok.
PÉLDA / 01
Kockázatos írási művelet
A rendszer a művelet előtt megmutatja a célrekordot, a változást és az indoklást.
- Identity
- Policy
- Preview
- Jóváhagyás és audit
PÉLDA / 02
AI-incidens kezelése
A riasztástól a scope korlátozásán és visszaállításon át a tesztfrissítésig vezetett folyamat.
- Észlelés
- Korlátozás
- Vizsgálat
- Javítás és regresszió
Adat és integráció
A rendszer a vállalati kontextust használja.
Az adatforrásokat, hozzáférési módokat, frissítési ciklust és felelősséget a fejlesztés előtt tisztázzuk.
Adatforrások
AdatbesorolásIdentity providerTool-katalógusAuditlogEval készletIncidensadatokKapcsolódási módok
SSO / IAMSIEMPolicy engineMonitoring és ticketingBiztonság és emberi kontroll
Autonómia csak kijelölt határok között.
A kritikus pontoknál a rendszer megáll, elmagyarázza a javaslatot, és a jogosult felhasználó döntése után folytatja.
01Least privilege✓
02Read/write szétválasztás✓
03Kötelező approval✓
04Titok- és adatmaszkolás✓
05Regressziós teszt✓
06Visszaállási terv✓
Fejlesztési folyamat
A bizonyítható értéktől az éles működésig.
01Felmérés
02Architektúra
03Proof of Value
04Éles fejlesztés
05Bevezetés és mérés
Kézzelfogható eredmény
Mit adunk át?
Nem csak modellfájlt vagy hozzáférést. Dokumentált, tesztelhető és üzemeltethető rendszert.
- ✓AI-kontrolltérkép
- ✓Jogosultsági és tool-policy
- ✓Approval és audit design
- ✓Biztonsági tesztkészlet
- ✓Monitoring és incidens runbook
- ✓Felelősségi modell
Jó választás, ha…
✓ Az AI érzékeny adatot vagy műveletet kezel
✓ Több szerepkör és rendszer kapcsolódik
✓ A működésnek auditálhatónak kell lennie
Nem ezt javasoljuk, ha…
— A projekt csak nyilvános adaton futó, művelet nélküli kísérlet
— Nincs vállalati identity vagy adatbesorolás
— A szervezet nem jelöl ki kontrolltulajdonost
Technikai egyeztetés