Adimen Artifizialari buruzko (EB) 2024/1689 Erregelamenduak —AI Act izenez ezagunak— adimen artifizialerako munduko lehen esparru juridiko horizontala ezartzen du. "Arrisku handikotzat" jotzen diren sistemetarako, betebehar osoak 2026ko abuztutik aurrera aplikatzen dira. Administrazio publikoentzat, horrek esan nahi du dagoeneko erabiltzen ari diren edo laster hartuko dituzten tresna asko gardentasun-, gainbegiratze- eta dokumentazio-erregimen zorrotz baten mende geratuko direla.
Zer jotzen den "arrisku handikotzat" administrazio publikoan
Erregelamenduaren III. eranskinak arrisku handikotzat jotzen diren AA erabilerak zerrendatzen ditu. Horietako batzuek zuzenean eragiten diote administrazio publikoari:
- Urrutiko identifikazio biometrikoa publikoarentzat irisgarriak diren espazioetan (udal-kameretako aurpegi-ezagutza barne, polizia-helburuetarako salbuespen zehatzak izan ezik).
- Erabakiak hartzeko sistemak funtsezko zerbitzu publikoetarako sarbideari buruz (gizarte-laguntzak, osasun-zerbitzuak, etab.).
- Justizia-administrazioak erabiltzen dituen sistemak eta prozesu demokratikoak.
- Azpiegitura kritikoak kudeatzeko eta ustiatzeko sistemak (trafiko-kontrola, horniketak).
- Polizia-agintariek erabiltzen dituzten sistemak, banakako arriskuak ebaluatzeko edo emozioak detektatzeko.
Badira, halaber, erabat debekatutako praktikak, administrazioentzat salbuespenik gabe: gobernuaren "social scoring"-a, jatorri arrazialaren araberako sailkapen biometrikoa, lantokietan edo ikastetxeetan emozioak ondorioztatzea, eta aurpegi-ezagutzako datu-baseak sortzea bereizi gabeko scraping bidez.
Arrisku handiko sistemen betebeharrak
Sistema bat III. eranskinaren barruan sartzen denean, hornitzaileak (gure kasuan, Labraxek) eta erabiltzaileak (sistema hedatzen duen administrazioak) betebehar desberdinak hartzen dituzte:
Hornitzailearen betebeharrak
- Kalitatea kudeatzeko sistema dokumentatua, bizi-ziklo osorako prozedurekin.
- Dokumentazio tekniko zehatza: diseinua, entrenamendu-datuak, errendimendu-metrikak, identifikatutako arriskuak eta arintze-neurriak.
- Erregistroak (logak) gordetzea sistemaren bizitza erabilgarri osoan, erabakien trazabilitatearekin.
- CE marka eta EBko adostasun-adierazpena merkaturatu aurretik.
- Europako datu-basean inskribatzea, arrisku handiko AA sistemen erregistroan.
Administrazio erabiltzailearen betebeharrak
- Giza gainbegiratze eraginkorra: trebatutako langileek sistemaren edozein erabaki baliogabetu ahal izan behar dute.
- Eragindako pertsonei informazioa ematea: pertsona bat AAn oinarritutako erabaki baten xede denean, horren berri eman behar zaio.
- Oinarrizko eskubideetan duen eraginaren ebaluazioa hedatu aurretik.
- Erregistroak (logak) gordetzea gutxienez 6 hilabetez.
- Lankidetza zaintza-agintariekin.
Espainiako kasua: AESIA eta araudi-sandboxa
Espainia da AArako agintaritza nazional espezifikoa sortu duen EBko lehen herrialdea: Adimen Artifiziala Gainbegiratzeko Espainiako Agentzia (AESIA), A Coruñan egoitza duena. AESIA da Espainian AI Act betetzen dela zaintzeko agintaritza eskuduna, baita araudi-sandboxa baimentzekoa ere; horri esker, AA sistemak ingurune kontrolatuetan probatu daitezke modu masiboan hedatu aurretik.
Espainiako administrazio publikoentzat, hiru figura dira funtsezkoak:
- AESIA, merkatua zaintzeko agintaritza gisa.
- AEPD, agintaritza eskudun gisa datu pertsonalen tratamendua dagoenean (ia beti gertatzen dena).
- Harremanetarako gune bakarra administrazio bakoitzean, AI Act-en betebeharrak kudeatzeko.
Toki-administrazioan ohikoak diren AA sistemak
Ikus ditzagun erabilera ohikoenak zein diren eta zer arrisku-maila aplikatzen zaien:
| Erabilera-kasua | Arriskua | Inplikazioa |
|---|---|---|
| Matrikulen OCR (ANPR) pertsona identifikatu gabe | Mugatua | Oinarrizko gardentasuna |
| Udaleko aurpegi-ezagutza orokorra | Handia / debekatua | Zehaztutako kasuetan soilik |
| Herritarrei arreta emateko txatbota | Mugatua | AA dela adierazi |
| Gizarte-zerbitzuetarako analisi prediktiboa | Handia | Dokumentazioa + gainbegiratzea |
| Grafiti bandalikoetako ereduak automatikoki detektatzea | Handia | Dokumentazioa + gainbegiratzea |
| Ekitaldietako edukiera automatikoki zenbatzea | Mugatua | Oinarrizko gardentasuna |
Muga meharra xehetasunean dago. Adibidez, matrikulak soilik irakurri eta baimenak egiaztatzen dituen ANPR kamera bat arrisku mugatukoa da. Kamera bera, aurpegi-ezagutza gehituta, arrisku handikoa edo baita debekatua ere izan daiteke, kasuaren arabera.
Nola prestatu: lau urrats
1. Erabiltzen ari diren AA sistemen inbentarioa egitea
Administrazio askok ez dakite zenbat AA osagai ari diren lanean. Hasi inbentario batekin: zer sistemak erabiltzen dituzte ereduak? Nork eman zituen? Ba al dago dokumentazio teknikorik eskuragarri?
2. Arrisku-mailaren arabera sailkatzea
Sistema bakoitza Erregelamenduaren kategorietako batean kokatu behar da: debekatua, arrisku handikoa, arrisku mugatukoa, arrisku txikikoa. Administrazioarekin lan egiten duen aholkularitzak edo hornitzaileak berak aholkua eman dezakete.
3. Hornitzaileari dokumentazioa eskatzea
Arrisku handiko sistemetan, administrazioak egiaztatu ahal izan behar du hornitzaileak betetzen duela. Eskatu dokumentazio teknikoa, adostasun-adierazpena eta erregistro operatiboak.
4. Harremanetarako gunea izendatzea eta langileak prestatzea
AI Act-ek eskatzen du sistema erabiltzen duten pertsonek prestakuntza egokia izatea. Barne-arduradun bat izendatzea eta prestakuntza planifikatzea derrigorrezkoa da arrisku handiko sistemetan.
Nola heltzen diogun Labraxen
Labraxen AA osagaiak dituzten produktuak ditugu —batez ere Grafiti-ID eta OCR-ID—, betebeharraren lehen egunetik AI Act betetzeko diseinatuak. Erreferentzia-esparru gisa ISO/IEC 42001 erabiltzen dugu, adimen artifizialaren kudeaketa-sistemen nazioarteko araua; gobernantza-egitura ematen du (rolak, arriskuen ebaluazioa, entrenamendu-datuen kontrola, gainbegiratzea eta etengabeko hobekuntza), eta Europako erregelamenduak eskatzen duenaren zati handi bat horren gainean eraikitzen da. Honako hauek barne:
- Dokumentazio tekniko osoa, bezeroentzat eta agintarientzat eskuragarri.
- Erregistro operatibo esportagarriak, sistemaren bizi-zikloan zehar gordeak.
- Giza gainbegiratzeko mekanismo integratuak (sistema batek ere ez du eskubideei buruzko azken erabakirik hartzen giza berrikuspenik izateko aukerarik gabe).
- Produktu bakoitzeko operadoreentzako prestakuntza espezifikoa.
- Arrisku handiko sistemen Europako datu-basean inskribatzea, hala dagokionean.
- AAren kudeaketa ISO/IEC 42001 arauaren arabera; Labraxek ziurtagiri hori du.
Zure administrazioa AA duten sistemak ebaluatzen edo hedatzen ari bada, AI Act-en barrena bidea egiten eta betetzea egituratzen lagun zaitzakegu.
