EU AI Act, DORA in GDPR – skladnost, vgrajena že v zasnovo
En strukturni odgovor na tri uredbe: najprej klasificirajte, nato ohranite podatke in inferenco v EU – tako se vsaka obveznost preslika v dokaze, ki jih dostavimo, ne v obljubo, ki jo damo.
Ilustracija, ustvarjena z AI
EU AI Act, DORA in GDPR se berejo kot trije ločeni pravilniki, a za večino sistemov AI si delijo eno temeljno tveganje: odvisnost od oblaka in modelov, ki jih ne morete pregledati, zajeziti ali obdržati znotraj EU. Dve odločitvi opravita večino težkega dela pri vseh treh. Prvič, klasifikacija – zapišite raven tveganja po AI Act za vsak sistem, ali sodite v obseg DORA kot finančni subjekt ali kot tretja oseba na področju IKT, ter zakonito podlago za vsak tok osebnih podatkov; skoraj vsaka nadaljnja dolžnost izhaja iz tega, da to prvo presojo opravite pravilno in jo zabeležite. Drugič, suverenost – ohranite podatke in izvajanje modela v EU — gostovanje v EU in model, ki teče pri ponudniku v EU ali na vaših strežnikih. Ta stran obravnava vse tri režime v tej luči in nato pokaže, kako dokaze vgradimo v sistem, namesto da bi jih tik pred revizijo naknadno dodajali. To ni pravni nasvet in nismo vaš organ za skladnost: odgovornost za klasifikacijo, zakonito podlago in regulativne prijave ostaja na vas in vašem pravnem svetovalcu. Opisuje, kako vam kot inženirji pomagamo izpolniti te uredbe in se nanje pripraviti, utemeljeno na produkcijskih izvedbah, ne kako jih razlagati – za kar koli zavezujočega in za potrditev trenutnih datumov postopnega uvajanja se zanesite na uradna besedila (Uredba (EU) 2024/1689, Uredba (EU) 2022/2554 in GDPR) ali na svojega pravnega svetovalca.
Začnite s klasifikacijo, ne s kontrolnim seznamom
Preden se dotaknete katerega koli kontrolnega ukrepa, odločite tri stvari in jih zapišite: raven tveganja po AI Act za vsak sistem, ki ga dostavite, ali sodite v obseg DORA kot finančni subjekt ali njegova tretja oseba na področju IKT, ter zakonito podlago za vsak tok osebnih podatkov. Če to zgrešite, bodisi po nepotrebnem zapletete orodja z minimalnim tveganjem bodisi, še huje, premalo nadzirate nekaj, kar ima resne posledice. Ob dvomu klasificirajte navzgor, imenujte enega odgovornega lastnika na sistem in zabeležite utemeljitev ob kodi, da odločitev preživi naslednjo izdajo. Ta klasifikacija je vaša odgovornost; v nadaljevanju je opisano, kaj vsaka presoja nato zahteva in kako podporni dokazi postanejo lastnost same gradnje.
EU AI Act – ravni tveganja in vaše dolžnosti kot uvajalca (deployer)
Uredba (EU) 2024/1689 razvršča sisteme AI v štiri ravni, in višja kot je raven, težja je dolžnost: prepovedanih sistemov ne gradite; visokotvegani sistemi (zaposlovanje, krediti, izobraževanje, kritična infrastruktura in podobna področja z resnimi posledicami) morajo zagotoviti obvladovanje tveganj, upravljanje podatkov, tehnično dokumentacijo, beleženje in sledljivost, človeški nadzor ter točnost in robustnost; sistemi z omejenim tveganjem morajo zagotoviti preglednost – uporabnikom povejte, da se pogovarjajo z AI, in označite sintetično vsebino; minimalno tveganje ne nosi obveznosti, vezanih na raven – a dolžnost iz člena 4, da je osebje, ki sistem upravlja, dovolj vešče AI, velja za ponudnike in uvajalce na vseh ravneh, tudi minimalni, od 2. februarja 2025. Visoko tveganje je opredeljeno večinoma z rabo in kontekstom, ne s tem, kako pameten je model, tako da preprost klasifikator, ki odloča o tem, kdo dobi posojilo, prekaša močan model, ki povzema vaše lastne zapiske. Uredba tudi loči dolžnosti ponudnikov modelov za splošne namene od dolžnosti vas kot uvajalca (deployer), ki na njem gradi izdelek – večina produktnih ekip so uvajalci, pri visokotveganem sistemu pa vas člen 26 zavezuje, da sistem uporabljate skladno z njegovimi navodili, dodelite pristojni človeški nadzor z resnično potjo za zaustavitev in razveljavitev, in hranite dnevnike, ki jih sistem ustvari. Člen 27 dodaja ločeno dolžnost za uvajalce – oceno učinka na temeljne pravice za rabo v javnih organih in določeno visokotvegano rabo. Vsako dolžnost preslikamo v artefakt: fiksiran izvor modela in različice za tehnično evidenco; revizijska sled, zaščitena pred spremembami, ki je podatkovna baza ne dovoli urejati, ločena po najemnikih in uveljavljena na ravni podatkovne baze za obveznost beleženja; vgrajena točka človeškega pregleda (human-in-the-loop) za nadzor; ter obvestila o preglednosti glede interakcije z AI in sintetične vsebine, kjer se uporabljajo. Ohranjanje inference na EU-suvereni infrastrukturi ali na vaši lastni odstrani čezmejno spremenljivko, tako da klasifikacija in dokazi ostanejo čisti. Uredba se postopno uvaja približno od 2024 do 2028, zato potrdite trenutni rok za svojo raven glede na uradno besedilo, ne glede na trženjsko stran.
DORA – tveganje IKT in tretjih oseb, ki ga finančni subjekt lahko vpiše v svoj register
Digital Operational Resilience Act (Uredba (EU) 2022/2554) velja za banke, zavarovalnice, investicijska podjetja in širok nabor drugih finančnih subjektov – ter za tretje ponudnike IKT, ki jim zagotavljajo storitve. Zavezuje k okviru za obvladovanje tveganj IKT, klasifikaciji in poročanju o incidentih, testiranju odpornosti ter registru informacij, ki opisuje vsako odvisnost od tretjih oseb na področju IKT, s posebno pozornostjo na tveganje koncentracije, kjer preveč kritičnih storitev sloni na enem ponudniku. Popolna odvisnost od enega samega globalnega hiperskalarja za inferenco AI je natanko tisto tveganje koncentracije, ki ga morate po DORA prepoznati in zmanjšati. EU-suverena ali lastno gostovana namestitev – izvajanje inference in iskanja znotraj EU pri ponudniku v EU ali lastno gostovana na vaši infrastrukturi, s podatki in inferenco znotraj EU – zmanjša to odvisnost od kritičnega ponudnika ter ohrani dobavno verigo IKT znotraj vašega nadzora in jurisdikcije. Smo ponudnik storitev IKT, ki ga lahko ocenite in dokumentirate, ne jamstvo odpornosti: testiranje odpornosti in vzdrževanje registra ostajata vaš program. Kar dobavimo, so dejstva, na katera se opirata vaš register in testiranje – kje sistem teče, od česa je odvisen, in po najemnikih ločena revizijska sled, zaščitena pred spremembami.
GDPR – podatkovna plast pod obema
AI Act ureja sistem in DORA ureja operativno odpornost, a GDPR ureja osebne podatke, ki tečejo skozi vse to, in če se vaš AI dotika osebnih podatkov, velja v celoti in vzporedno. Rezidenca podatkov, podpisan DPA, vzdrževan ROPA, obravnava DSAR in DPIA za bolj tvegano obdelavo so nosilni elementi – in večino tega dela lahko ponovno uporabite, saj se DPIA po GDPR in dokumentacija za obvladovanje tveganj po AI Act v veliki meri prekrivata, ko ju napišete tako, da se medsebojno sklicujeta. Naša EU-suverena pot ohranja podatke in inferenco znotraj EU po zasnovi, tako da vam poleg vsega drugega ni treba razmišljati o čezmejnih prenosih, in zakrivanje osebnih podatkov teče, preden model vidi podatke, kar zoži to, kar se sploh kdaj obdela. Priklic (retrieval) je pogosta past: indeksiranje dokumenta ne podeli nove zakonite podlage za njegovo prikazovanje, zato je treba najmanjši obseg podatkov, omejitev namena in zagovorljivo hrambo dnevnikov zasnovati vnaprej, ne popravljati kasneje – in dostop omejimo po strankah v sami bazi, tako da je ta meja uveljavljiva, ne domnevana. Vzpostavitev zakonite podlage ostaja vaša odgovornost; mi gradimo kontrole, ki poskrbijo, da drži.
Kako pomaga TechRevati – ena namestitev, dokazi za vse tri režime
Akt o umetni inteligenci (AI Act) ureja sistem, DORA ureja operativno odpornost finančnega subjekta, ki ga upravlja, in GDPR ureja osebne podatke, ki tečejo skozi – a se močno prekrivajo, in večina dokazov je skupnih. Začnemo pri vašem primeru rabe na EinCoreRAG — v oblaku v EU (gostovanje v EU, model pri ponudniku v EU po vaši izbiri) ali kot EinCoreRAG Enterprise na vašem strežniku, v vašem omrežju — katerega lastnosti podpirajo izpolnjevanje dolžnosti v vseh treh režimih – revizijska sled, zaščitena pred spremembami, ki je podatkovna baza ne dovoli urejati, ločena po najemnikih in uveljavljena na ravni podatkovne baze za beleženje in sledljivost; pripeti izvor modela in različice za tehnično evidenco in vaš register; zakrivanje osebnih podatkov, preden model vidi podatke, za najmanjši obseg podatkov po GDPR; pot za zaustavitev in razveljavitev s človekom v zanki (human-in-the-loop) za nadzor človeka pri visokotveganih sistemih (čl. 14 in 26); ter dostop, omejen po strankah v sami bazi, z izdajo Enterprise na vašem strežniku za najmočnejšo ločitev. Da bomo jasni glede lastne drže: naše kontrole so preslikane v dokaze SOC 2 in ISO 27001 in vas lahko popeljemo skozi to preslikavo, a je atestacija v našem razvojnem načrtu in je še nimamo – ne bomo trdili, da imamo certifikate, ki jih nimamo. Dokaz so izvedbe: VAP zaznavo izvaja na napravi v objektu stranke, ven pa privzeto gredo samo dogodki, kratek izsek kot dokaz in tehnični podatki o delovanju naprave; Prova vsak zapis podpiše na sami kameri Axis, s ključem, ki nikoli ne zapusti naprave; GateRev teče na strankini infrastrukturi, z revizijsko sledjo vsakega obiska, namenjeno le dodajanju – vsak zasnovan tako, da so dokazi o skladnosti lastnost sistema, ne panika pred zagonom.
Pogosta vprašanja
Kaj zahteva EU AI Act in od kdaj?
AI Act (Uredba (EU) 2024/1689) sisteme AI razvršča po tveganju in obveznosti uvaja postopoma: prepovedane prakse in pismenost na področju AI veljajo od 2. februarja 2025, obveznosti za modele za splošne namene od 2. avgusta 2025, pravila preglednosti iz člena 50 — da ljudem poveste, da komunicirajo z AI, in označite vsebino, ki jo je ustvaril AI — pa od 2. avgusta 2026. Uredba (EU) 2026/1744 je samostojne visokotvegane sisteme iz Priloge III prestavila na 2. december 2027, visokotvegano AI v izdelkih iz Priloge I pa na 2. avgust 2028, kot fiksna datuma. Prvi korak je vedno razvrstitev: kateri vaš sistem sodi kam in ali ste ponudnik ali uvajalec (deployer).
Ali vsebina o EU AI Act, DORA ali GDPR tukaj šteje za pravni nasvet?
Ne. Vse na tej strani so inženirske smernice o tem, kako vam pomagamo izpolniti te uredbe in se nanje pripraviti, utemeljeno na produkcijskih izvedbah. Ni pravni nasvet in ni jamstvo skladnosti, in nismo vaš organ za skladnost – odgovornost za klasifikacijo tveganja, zakonito podlago, regulativne prijave in vzdrževanje registra ostaja na vas in vašem pravnem svetovalcu. Regulativni roki in obseg se spreminjajo, zato potrdite podrobnosti za svojo raven in subjekt glede na uradna besedila (Uredba (EU) 2024/1689, Uredba (EU) 2022/2554 in GDPR) ali svojega pravnega svetovalca, preden se na kar koli od tega zanesete.
Smo finančni subjekt po DORA – kako EU-suverena namestitev pomaga našemu registru tveganja tretjih oseb na področju IKT?
DORA (Uredba (EU) 2022/2554) zahteva, da prepoznate, obvladujete in dokumentirate tveganje tretjih oseb na področju IKT, vključno s tveganjem koncentracije, kjer en kritični ponudnik nosi preveč obremenitve. Popolna odvisnost od enega samega globalnega hiperskalarja za inferenco AI je natanko takšno tveganje koncentracije. Izvajanje inference in vektorskega iskanja na EU-suvereni poti (gostovanje v EU in ponudnik modela v EU) ali lastno gostovano na vaši infrastrukturi, s podatki in inferenco znotraj EU, zmanjša to odvisnost in ohrani dobavno verigo IKT znotraj vaše jurisdikcije – in vam da konkretna dejstva za vpis v vaš register informacij: kje sistem teče, od česa je odvisen in po najemnikih ločena revizijska sled, zaščitena pred spremembami. Smo ponudnik storitev IKT, ki ga lahko ocenite in dokumentirate; testiranje odpornosti in vzdrževanje registra ostajata vaš program, mi pa dobavimo dejstva o namestitvi, da ga dopolnite.
Ali imate certifikat SOC 2, ISO 27001 ali HIPAA?
Naše kontrole so preslikane na dokaze SOC 2 in ISO 27001 in skozi to preslikavo vas popeljemo; formalna atestacija je na časovnem načrtu in še ni pridobljena. Če je pridobljen certifikat obvezna zahteva v vašem nabavnem postopku, nam to povejte čim prej in natančno vam pokažemo, kje smo. Kar dostavimo danes, je dokazljivo: revizijska sled, zaščitena pred spremembami, ki je podatkovna baza ne dovoli urejati, ločena po najemnikih in uveljavljena na ravni podatkovne baze, ter izolacija najemnikov v podatkovni bazi, preizkušena na več kot 1.000 delovnih okoljih.
Ali sem po EU AI Act ponudnik ali uvajalec (deployer), in ali me klic modela tretje osebe prek API-ja odveže obveznosti?
Za večino ekip, ki gradijo izdelek na modelu za splošne namene, ste uvajalec (deployer), ne ponudnik modela, in uporaba prek API-ja ne odstrani vaših dolžnosti. Pri visokotveganih sistemih obveznosti uvajalca po členu 26 vključujejo pristojni človeški nadzor z resnično potjo za zaustavitev in razveljavitev, hrambo dnevnikov, ki jih sistem ustvari, preglednost do prizadetih oseb (ocena učinka na temeljne pravice je ločena dolžnost po členu 27 za določeno rabo); dolžnosti ponudnika glede osnovnega modela slonijo na tistem, ki ga dobavlja. Fiksiramo model in različico, od katere ste odvisni, in privzeto beležimo operativne dokaze, na katerih temeljijo te dolžnosti. Če osnovni model bistveno fino nastavite ali ga predstavite kot svojega, lahko začnejo za vas veljati dolžnosti ponudnika, kar velja ponovno preveriti s pravnim svetovalcem – in klasifikacija tveganja ter odločitev o namestitvi ostajata vaši.
Ali je naš klepetalni robot AI visokotvegan po EU AI Act?
Običajno ne, vsaj ne privzeto. Klepetalni robot za podporo strankam ali pomočnik običajno sodi pod pravila preglednosti za omejeno tveganje, kar pomeni, da morate uporabnikom povedati, da komunicirajo z AI, in označiti vsebino, ki jo ustvari AI. Visokotvegan postane šele, ko se uporablja na področju z resnimi posledicami, ki ga Uredba navaja – na primer bistveno vpliva na odločitve o zaposlovanju, kreditih ali varnosti – tako da je klasifikacija odvisna od rabe in konteksta, ne od zmogljivosti modela. Ob dvomu klasificirajte navzgor in zabeležite utemeljitev.
Ali moramo vse preseliti v Evropo ali lahko ohranimo nekaj modelov, gostovanih v ZDA?
Odločate se premišljeno, za vsako delovno obremenitev posebej. Mnoge delovne obremenitve odlično tečejo na modelih, gostovanih v ZDA, in to podpiramo – bistvo je, da je izbira namerna in da je revizijska sled nedotaknjena v vsakem primeru. Kjer EU AI Act, DORA ali GDPR naredijo čezmejno obdelavo za resnično tveganje, EU-suverena pot (gostovanje v EU in ponudnik modela v EU ali vaš strežnik) povsem odstrani čezmejno spremenljivko in ohrani vaše podatke v EU. Začetek z enim resničnim primerom rabe vam omogoča, da suvereno pot dokažete, preden se zavežete.
Suverenost dokazana, ne obljubljena — začnite z enim resničnim primerom rabe
Povejte nam, kateri primer rabe morate rešiti, in postavili ga bomo na EinCoreRAG — v oblaku v EU z modelom, ki teče v EU ali kot EinCoreRAG Enterprise na vašem strežniku, v vašem omrežju — z vgrajenimi dokazi o skladnosti: razvrščeno po ravni tveganja, osebni podatki zakriti, preden jih model vidi, revizijska sled za vsako organizacijo, ki je ni mogoče urejati, zaščitena pred spremembami, uveljavljena v podatkovni bazi, pot, na kateri človek ustavi sistem in razveljavi odločitev ter dostop, omejen po strankah v sami bazi. Videli boste, kako inženiring, ki izhaja iz razvrstitve in suverenosti, obveznosti iz Akta o UI, DORA in GDPR spremeni v lastnosti sistema namesto v papirologijo pred revizijo — obseg pa določimo skupaj. Dogovorite se za pogovor.