Atzinums

Esošais regulējums nerisinakritisku problēmu: tas klusē par paša MI modeļa tiesisko statusu pēc tam, kad tas apmācīts ar sensitīviem datiem, kas var skar gan valsts noslēpumu (piemēram, militāra rakstura informācija vai informācija par kritisko infrastruktūru), kā arī sensitīvus personas datus un pamattiesības. Tas rada tiesisku vakuumu, kurā ļaunprātīgs lietotājs varētu nozagt vai nopludināt nevis pašu datubāzi, bet gan tikai apmācīto modeli. Lai gan no šī modeļa būtu iespējams atgūt sensitīvu informāciju par personām vai pat valsts noslēpumu, saskaņā ar spēkā esošo regulējumu nebūtu skaidra tiesiskā pamata efektīvi vērsties pret pārkāpēju par šo datu neatļautu iegūšanu, jo juridiski stingri aizsargāti bija tikai sākotnējie dati, nevis to "atvasinājums" modelī. Lai šo drošības robu novērstu, ir nepieciešams veikt divas izmaiņas. Pirmkārt, likumā ir skaidri jānostiprina princips, ka MI modelis manto savu apmācības datu juridisko aizsardzības režīmu – ja dati ir klasificēti kā valsts noslēpums, tad arī modelis ir līdzīgi klasificēts.. Otrkārt, gadījumam, ja notiek noplūde vai tiek konstatēta ļaunprātīga datu izgūšana no modeļa, Centram ir jāpiešķir reālas "ugunsdzēsēja" pilnvaras – tiesības pieņemt lēmumu par jebkura bīstama risinājuma tūlītēju atsaukšanu no tirgus vai publiskās aprites, lai apturētu kaitējuma izplatību, - tas jānodrošina ar grozījumiem Mākslīgā intelekta centra likumā, šo nav iespējams izdarīt MK noteikumu līmenī.

-

Paŗeizējais formulējums rada iespaidu, ka Centrs attiecīgajā administratīvajā aktā var arī neiekļaut informāciju par regulatīvās vides mērķiem, kas ir nepareizi. Tāpat noteikumu projekta 4. panta redakcija ir juridiski nenoteikta un pārmērīgi vispārīga, jo tā nenosaka skaidras robežas Centra pilnvarām atļaut atkāpes no spēkā esošiem likumiem, ko pieļauj MI Centra likums. Šāda nenoteiktība rada tiešu risku, ka, aizbildinoties ar inovāciju veicināšanu, var tikt pieļauti būtiski pārkāpumi jomās, kas skar pamattiesības, personas datu un valsts noslēpuma aizsardzību, vienlaikus apdraudot nacionālā regulējuma saderību ar ES Mākslīgā intelekta aktu. Piedāvātā redakcija šos riskus novērš, ieviešot trīspakāpju kontroles sistēmu: pirmkārt, tā skaidri nosaka lēmuma obligāto saturu; otrkārt, tā novelk "sarkanās līnijas" jeb jomas, kurās atkāpes nav pieļaujamas; un, treškārt, tā nostiprina neatkarīgu juridisko kontroli (Tieslietu ministrijas atzinums) un publisko caurskatāmību. Šāds regulējums līdzsvaro inovācijas veicināšanu ar sabiedrības interešu un tiesiskuma aizsardzību.

4. pants. Administratīvais akts par regulatīvās vides izveidi un atkāpju piemērošanas ierobežojumi
(1) Centrs, izdodot administratīvo aktu par regulatīvās vides izveidi, tajā iekļauj vismaz šādu informāciju:
4.1. regulatīvās vides izveides mērķis;
4.2. regulatīvās vides nosacījumi, tai skaitā apstrādājamo personas datu apjoms un kategorijas;
4.3. laika grafiks un projekta īstenošanas posmi;
4.4. izmantojamās tehniskās metodes un datu apstrādes vide;
4.5. testēšanas reālos apstākļos nosacījumi, ja tādi tiek plānoti.
(2) Speciālās regulatīvās vides ietvaros piemērojamās atkāpes no spēkā esošajiem normatīvajiem aktiem nav pieļaujamas attiecībā uz:
2.1. Eiropas Parlamenta un Padomes Regulas (ES) 2024/1689 (Mākslīgā intelekta akts) 5. pantā noteiktajām aizliegtajām mākslīgā intelekta praksēm;
2.2. normatīvajiem aktiem, kas regulē valsts noslēpuma aizsardzību, personas datu apstrādi un cilvēka pamattiesību ievērošanu;
2.3. prasībām, kas Mākslīgā intelekta aktā noteiktas augsta riska mākslīgā intelekta sistēmu gala atbilstības novērtēšanai un pēctirgus uzraudzībai.
(3) Atkāpes no šā panta otrās daļas 2.3. apakšpunktā minētajām prasībām ir pieļaujamas tikai kā pagaidu izņēmums MI risinājuma izstrādes vai testēšanas posmā regulatīvās vides ietvaros. Šādā gadījumā Centra izdotajā administratīvajā aktā ir skaidri jānosaka nosacījums, ka visas Mākslīgā intelekta aktā paredzētās atbilstības novērtēšanas, tehniskās dokumentācijas un pēctirgus uzraudzības prasības tiks pilnībā izpildītas pirms MI sistēmas laišanas tirgū vai nodošanas ekspluatācijā.
(4) Pirms lēmuma pieņemšanas par jebkuras atkāpes piemērošanu Centrs saņem Centram saistošu Tieslietu ministrijas atzinumu par plānotās atkāpes atbilstību Eiropas Savienības tiesībām un samērīguma principam. Centrs 10 darbdienu laikā pēc lēmuma pieņemšanas savā tīmekļvietnē publicē pieņemto lēmumu, Tieslietu ministrijas atzinumu un lēmuma pamatojumā ietverto analīzi.

Pašreizejā redakcija liedz pārsūdzēt lēmumu par atlases nolikumu, kas ir tehnisks un organizatorisks dokuments, taču tā klusē par pašu svarīgāko – par Centra lēmumiem atļaut atkāpes no spēkā esošiem likumiem vai ļaut mākslīgā intelekta modeļu trenēšanai izmantot sensitīvus personu datus. Atstāt šādus lēmumus, kas var būtiski ietekmēt sabiedrības intereses un indivīdu pamattiesības, bez jebkādas tiesiskās kontroles iespējas būtu pretrunā ar demokrātiskas valsts pamatprincipiem.

8. pants. Lēmumu pieņemšana un pārsūdzība
(1) Projektu iesniegumu atlases nolikumu izstrādā un apstiprina Centrs. Centra lēmums par projektu iesniegumu atlases nolikuma apstiprināšanu nav apstrīdams un pārsūdzams.
(2) Centra izdoto administratīvo aktu vai tā daļu, kas nosaka atkāpes piemērošanu no likuma prasībām, Administratīvā procesa likumā noteiktajā kārtībā 15 dienu laikā no publicēšanas dienas var pārsūdzēt Administratīvajā rajona tiesā. Pārsūdzības tiesības ir arī biedrībām un nodibinājumiem, kuru darbības mērķis ir pamattiesību vai personas datu aizsardzība.

Svarīgi novērst iespēju, kad uz sensitīviem valsts datiem apmācīts MI risinājums pēc izstrādes beigām tiek ļaunprātīgi vai neparedzēti izmantots pilnīgi citiem mērķiem. Ieviešot juridiski saistošu licenci un dzīves cikla uzraudzību, mērķa ierobežojums no formāla solījuma kļūst par reāli izpildāmu un kontrolējamu pienākumu visiem nākamajiem modeļa īpašniekiem. Piemēram, bez šāda regulējuma uzņēmums varētu regulatīvajā vidē uz pacientu datiem izstrādāt vēža diagnostikas modeli, bet pēc tam to pārdot apdrošināšanas kompānijai, kas, modeli pārveidojot, to izmantotu, lai prognozētu klientu nākotnes veselības riskus un paaugstinātu polises cenu vai atteiktu pakalpojumu. Tādējādi šīs normas nodrošina, ka valsts uzticētie dati netiek pārvērsti par diskriminācijas vai komerciāla riska instrumentu ilgi pēc tam, kad sākotnējais projekts ir noslēdzies.

22.7. nodrošināt, ka no regulatīvās vides izgūtu MI risinājumu izplata tikai kopā ar Centra izsniegtu un reģistrētu "MI risinājuma licenci", kurā noteikts, ka:
22.7.1. risinājumu atļauts izmantot tikai projektā pieteiktajam un licencē norādītajam mērķim;
22.7.2. risinājuma atkārtota apmācība (re-training) vai modificēšana citiem mērķiem ir aizliegta bez jaunas saskaņošanas ar Centru;
22.7.3. risinājuma lietotājam ir pienākums uzglabāt tā piekļuves un darbības auditācijas pierakstus vismaz piecus gadus;
22.7.4. šajā apakšpunktā minētie pienākumi ir saistoši visiem turpmākajiem MI risinājuma tiesību pārņēmējiem un lietotājiem.
22.8. piecu gadu laikā pēc MI risinājuma izgūšanas reizi gadā iesniegt Centram ziņojumu par risinājuma lietošanu, nodošanu trešajām personām, veiktajām pārkvalificēšanas darbībām vai būtisku tā mērķa maiņu.

Esošais regulējums apraksta, kādiem drošības elementiem (piemēram, auditācijas pierakstiem) ir jābūt, taču tas NERISINA divas kritiskas operatīvās problēmas: rīcības ātrumu un aktīvās uzraudzības nepieciešamību. Tas rada scenāriju, kurā tiek publiskota kritiska drošības ievainojamība, bet vides nodrošinātājs, aizbildinoties ar plānotiem apkopes darbiem vai resursu trūkumu, atliek drošības atjauninājuma uzstādīšanu uz vairākām nedēļām. Šajā laikā uzbrucēji var izmantot zināmo ievainojamību, lai iekļūtu sistēmā. Tā kā esošais regulējums nepieprasa centralizētu pierakstu uzraudzību reāllaikā, uzbrucēji varētu vairākas dienas netraucēti darboties, zogot datus, un neviens to nepamanītu līdz brīdim, kad būtu jau par vēlu. Lai šo novērstu, ir nepieciešams ieviest konkrētus operatīvās drošības noteikumus. Ierosinātais 27.12. punkts novērš vilcināšanos, nosakot obligātu 24 stundu reakcijas laiku kritiskām ievainojamībām. Savukārt 27.13. punkts pārvērš pasīvu pierakstu uzglabāšanu par aktīvu uzraudzību, nodrošinot, ka specializēta drošības komanda (CERT.LV) pamana aizdomīgas darbības to veikšanas brīdī, nevis nedēļām vēlāk.

Papildināt 27. pantu ar 27.12. un 27.13. apakšpunktu šādā redakcijā:
"27.12. regulatīvās vides nodrošinātājs ievieš kritiskos drošības atjauninājumus 24 stundu laikā no to publiskošanas brīža vai dokumentē līdzvērtīgu risku mazinošu pasākumu piemērošanu;
27.13. regulatīvās vides nodrošinātājs nodrošina nepārtrauktu autentifikācijas un datu piekļuves auditācijas pierakstu straumēšanu uz Informācijas tehnoloģiju drošības incidentu novēršanas institūcijas (CERT.LV) pārvaldītu drošības informācijas un notikumu pārvaldības (SIEM) sistēmu."

Esošais noteikumu projekts naivi pieņem, ka datu drošība ir garantēta, ja vien no regulatīvās vides netiek izgūta pati datu kopa. Tas pilnībā ignorē faktu, ka mākslīgā intelekta modelis apmācības procesā "iegaumē" informāciju un tās kopsakarības, būtībā kļūstot par sensitīvo datu atvasinātu "atmiņas nospiedumu". Regulējums neparedz nekādu tehnisko kontroli, kas pārbaudītu, vai šo modeļa atmiņu nevar "uzlauzt" pēc tā nonākšanas apritē. Tas rada bīstamu drošības robu – piemēram, uzņēmums var uz pacientu slimības vēsturu datiem apmācīt vēža prognozēšanas modeli. Pēc tam cits uzņēmums, iegādājoties šo modeli, var ar īpašām metodēm testēt, vai konkrēta publiski zināma persona (piemēram, politiķis vai uzņēmējs) ir bijusi sākotnējā pacientu datubāzē, tādējādi atklājot sensitīvu informāciju par viņa veselību, pat nekad nepiekļūstot pašai datubāzei. Bez obligātas tehniskās pārbaudes pirms izgūšanas regulējums atstāj vaļā durvis šādai netiešai datu zādzībai un privātuma pārkāpumiem.

Papildināt 27. pantu ar 27.10. apakšpunktu šādā redakcijā  (vai izveidot jaunu pantu, kur būtu atrunāta šī prasība) :
"27.10. modeļa drošības pārbaude pirms izgūšanas. Pirms MI risinājuma izgūšanas no regulatīvās vides tā nodrošinātājam ir pienākums veikt un dokumentēt modeļa drošības pārbaudi, lai pārliecinātos, ka risinājums neatklāj informāciju par apmācībā izmantotajiem datiem. Pārbaude ietver specializētus tehniskos testus, kas novērtē modeļa spēju "iegaumēt" datus, tostarp: a) dalības secināšanas testus (membership-inference), ar kuriem pārbauda, vai ir iespējams noteikt, ka konkrētas personas dati tika izmantoti modeļa apmācībā; b) datu ekstrakcijas testus (data-extraction), ar kuriem pārbauda, vai no modeļa ir iespējams atgūt precīzus fragmentus no sākotnējiem apmācības datiem.
Ja testu rezultātā tiek secināts, ka datu iegaumēšanās risks pārsniedz iepriekš noteikto maksimāli pieļaujamo slieksni, risinājuma izgūšana no regulatīvās vides nav atļauta."

Lai gan anotācija apraksta plānotās regulatīvās vides tehnisko pusi un atsaucas uz ES Mākslīgā intelekta aktu, tā nesniedz skaidrību par trim stratēģiski būtiskiem jautājumiem:
1) Statusa atbilstība: vai Latvijā plānotā “speciālā regulatīvā vide” ir tā pati nacionālā MI regulatīvā smilškaste, kas saskaņā ar MI akta 57. pantu obligāti jāievieš līdz 2026. gada 2. augustam?
2) Dalības ieguvumi: kāds būs konkrēts, praktisks ieguvums uzņēmumam pēc sekmīgas dalības? Vai tas saņems citās ES valstīs atzītu noslēguma ziņojumu (exit report), kas paātrinās piekļuvi tirgum, un vai tam tiks piemērots MI akta 57. panta 12. punktā paredzētais administratīvo sodu moratorijs?
3) Starptautiskā sadarbība un pārskatatbildība (gadījumā, ja šī būs nacionālā MI regulatīvā smilškaste): kā Latvija praktiski nodrošinās savus pienākumus Eiropas MI pārvaldības ietvaros – regulāru ziņošanu MI birojam un MI valdei, publiski pieejama projektu saraksta uzturēšanu un pārrobežu sadarbību?
Bez skaidrām atbildēm uz šiem jautājumiem pastāv risks, ka Latvijas smilškaste tiks izveidota kā juridiski nesaderīga ar ES prasībām un tā būs nepievilcīga inovatīviem uzņēmumiem, kuriem ir svarīga piekļuve vienotajam tirgum. Anotācijā jāiekļauj atbildes uz šiem jautājumiem, kā arī detalizēta analīze par to, kā regulējums pilda ES Mākslīgā intelekta akta prasības.

-