Atzinums

Likumprojekts paredz, ka Centra mērķis neparedz pilsoniskās sabiedrības iesaisti, sabiedrības prasmes pilnveidošanu mākslīgā intelekta jomā, nedz arī valsts pārvaldes institūciju spēju izmantot MI stiprināšana. Nav ņemts vērā ES MI akta 4. pants, ciktāl tas attiecas uz sabiedrības MI pratības stiprināšanu. Tāpat nav ņemta vērā Eiropas Padomes Pamatkonvencijas par mākslīgo intelektu un cilvēktiesībām, demokrātiju un tiesiskumu paredzēto pienākumu veicināt un sekmēt pienācīgu digitālo pratību un digitālās prasmes visās sabiedrības grupās.

Papildināt mērķus un uzdevumus un tos norādīt atsevišķos punktos.
Centra uzdevuma izstrādāt projektus prioritārajās jomās sakarā, nav skaidrs, kāds būs Centra padomes sastāvs un būtu svarīgi iesaistīt attiecīgo Ministru kabineta komiteju prioritāro jomu noteikšanā.

  

3. pants. Centra mērķi un uzdevumi
(1) Centra mērķi ir:
veicināt valsts konkurētspēju, attīstot publiskā un privātā sektora partnerību, kā arī pilsoniskās sabiedrības iesaisti mākslīgā intelekta jomā un sekmēt prasmju paaugstināšanu mākslīgā intelekta risku pārvaldībā.
2) veicināt mākslīgā intelekta attīstību sabiedrības labbūtībai, nodrošinot ētiskus un drošus mākslīgā intelekta risinājumus, kas kalpo sabiedrībai un indivīdiem un veicina vienlīdzību, labklājību un uzticību tehnoloģijām.
3) stiprināt valsts pārvaldes institūciju spēju efektīvi izmantot mākslīgo intelektu, lai uzlabotu publiskos pakalpojumus un nodrošinātu efektīvāku resursu pārvaldību.

(2) Centra uzdevumi ir šādi:
1) izstrādāt vai koordinēt nacionālas nozīmes projektus un starptautiskos projektus prioritārajās jomās, kuras nosaka Centra padome, saskaņojot ar Ministru kabineta Digitālās modernizācijas tematisko komiteju;
2) izstrādāt Centra darbības stratēģiju un mākslīgā intelekta risku vadības sistēmu ;
3) izstrādāt vai koordinēt stratēģiskos projektus, kas uzlabo sabiedrības drošību un noturību, veicinot sabiedrības mākslīgā intelekta lietošanas prasmes;
4) piesaistīt starptautiskos partnerus un finansējumu projektu īstenošanai mākslīgā intelekta jomā;
5) izstrādāt vienotus principus un vadlīnijas mākslīgā intelekta risinājumu izstrādei un ieviešanai valsts pārvaldes iestādēs;
6) koordinēt valsts pārvaldes iestāžu dalību mākslīgā intelekta attīstības procesos;
7) izstrādāt kritērijus un metodiskos ieteikumus publiskā un privātā sektora mākslīgā intelekta projektu izstrādei, iesniegšanai un izvērtēšanai;
8) veicināt prasmju paaugstināšanu saistībā ar mākslīgā intelekta risku pārvaldību, tostarp ar autortiesībām aizsargātu darbu izmantošanu mākslīgā intelekta apmācībai;
9) piesaistīt, uzkrāt, pārvaldīt līdzekļus un sadalīt tos publiskā un privātā sektora projektu īstenošanai mākslīgā intelekta jomā;
10) izsludināt un organizēt publiskā un privātā sektora projektu konkursus finansējuma saņemšanai;
11) mērķtiecīgi un efektīvi apsaimniekot piešķirto finansējumu, nodrošinot kontroli pār līdzekļu izlietošanu; 
12) sniegt konsultācijas publiskajam un privātajam sektoram mākslīgā intelekta jomā;
13) veicināt izpratni par mākslīgā intelekta pamatiem, riskiem un ētiskiem apsvērumiem 3.panta 1.punktā minētajos projektos, lai palielinātu mākslīgā intelekta pratību sistēmu nodrošinātājiem, uzturētājiem un tai sabiedrības daļai, kurus tie skar, un lai attīstītu prasmīgu un atbildīgu attieksmi pret jauniem digitāliem risinājumiem un veicinātu līdzdalību mākslīgā intelekta risinājumu izstrādē, lai tie būtu droši, iekļaujoši un cilvēkcentrēti.

 

Līkumā būtu jānosauc būtiskākos Eiropas Savienības un Eiropas Padomes tiesību aktus, kas attiecas uz MI jomu un kuri ir saistoši visām ES dalībvalstīm.

Centrs ir publisks nodibinājums, kas tiek izveidots ar šo likumu un kas darbojas saskaņā ar šo likumu, Eiropas Parlamenta un Padomes Regulas (ES) 2024/1689 (Mākslīgā intelekta akts) prasībām, Eiropas Padomes Pamatkonvenciju par mākslīgo intelektu un cilvēktiesībām, demokrātiju un tiesiskumu un citiem normatīvajiem aktiem un Centra nolikumu, kuru apstiprina Ministru kabinets.

 

Centram ir vairāki mērķi.

3. Centra mērķi un uzdevumi

Padome pieņems vairākus lēmumus.

1) Centra padomes sastāvu, izveidošanas un lēmumu pieņemšanas kārtību;

Papildināt mērķi ar atsauci uz  pilsoniskās sabiedrības iesaisti, latviešu valodas lietojuma veicināšanu un kultūras vērtību saglabāšanu.

Mērķa apraksts
Likumprojekts izstrādāts, lai ar Centra darbību nodrošinātu valsts konkurētspēju un ekonomikas izaugsmi, attīstot mākslīgā intelekta inovācijas un veidojot sadarbību starp publisko, privāto un pilsoniskās sabiedrības sektoru. Tā mērķis ir veicināt mākslīgā intelekta attīstību sabiedrības labklājībai, nodrošinot ētiskus un drošus risinājumus, kas kalpo iedzīvotājiem un sabiedrībai kopumā, veicina vienlīdzību, labklājību un uzticību tehnoloģijām. Likumprojekts paredz arī latviešu valodas ilgtspējīgu iekļaušanu un pielāgošanu mākslīgā intelekta risinājumos, lai saglabātu valodas un kultūras vērtības, lingvistisko identitāti un nodrošinātu vienlīdzīgu piekļuvi modernām tehnoloģijām. Tāpat tiks stiprināta valsts pārvaldes institūciju spēja efektīvi izmantot mākslīgo intelektu, lai uzlabotu publiskos pakalpojumus un nodrošinātu efektīvāku resursu pārvaldību, sekmējot pārdomātu un atbildīgu mākslīgā intelekta izmantošanu valsts pārvaldē.
 

A) Papildināt problēmas aprakstu, iekļaujot riskus latviešu valodas lietojumam MI jomā un sabiedrības izvairīšanos no MI rīku lietošanas, kam var būt negatīva ietekme uz konkurētspēju. 
B) Risinājuma apraksts
B) 1. Pēc rindkopas, kas beidzas ar "valsts atbalsta un investīciju prioritātēm, iestarpināt jaunu rindkopu, kas atgādina par nepieciešamību aizsargāt cilvēktiesības arī MI jomā, pieminot Eiropas Padomes Pamatkonvencijā par mākslīgo intelektu un cilvēktiesībām, demokrātiju un tiesiskumu.
B) 2.  Papildināt rindkopas, kas sākas ar "Tāpat nepieciešams nodrošināt prasmes pārvaldīt ar mākslīgo intelektu saistītos riskus" otro teikumu ar atsauci uz sensitīviem un ar autortiesībām aizsargātajiem datiem, kas tiek izmantoto apmācību procesā.
B) 3. Pēc rindkopas, kas sākas ar "Nepieciešams piesaistīt ārvalstu tehnoloģiju partnerus...", papildināt tekstu ar nepieciešamību pilnvērtīgi integrēt latviešu valodu MI risinājumos.
B) 4. Papildināt rindkopas, kas sākas ar "Ņemot vērā plānoto Centra kompetenci un finansējuma modeli..." pēdējo teikumu atsauci uz pilsoniskās sabiedrības organizāciju iesaisti.
C) Papildināt Centra uzdevumus, lai tas veicinātu arī sabiedrības izpratni par MI lietojumu un iespējamiem riskiem.
D) 6.lpp. pēdējo rindkopu papildināt ar atsauci uz pilsoniskās sabiedrības iesaisti.
E) 7.lpp. Problēmas aprakstu papildināt ar punktu par nepieciešamību integrēt latviešu valodu MI risinājumos. 

A)
Problēmas apraksts
Pašreiz trūkst pietiekamu prasmju monitorēt un novērtēt riskus, kas saistīti ar mākslīgā intelekta izmantošanu, un tehnoloģijas straujā attīstība rada papildu riskus, ka mazo areālu valodas, tostarp latviešu valoda, var zaudēt savu konkurētspēju un nozīmīgumu digitālajā telpā un modernajās tehnoloģijās. Mākslīgā intelekta rīki, it īpaši lieli valodas modeļi, arvien biežāk tiek izmantoti valodu apstrādē un starpvalodu komunikācijā, tādēļ ir būtiski nodrošināt, ka arī latviešu valoda ir pilnvērtīgi pārstāvēta šajos risinājumos.
Nacionālās elektronisko plašsaziņas līdzekļu padomes 2024. gadā publiskotais Pētījums par Latvijas iedzīvotāju medijpratību rāda, ka tikai 19% interneta lietotāju pēdējā gada laikā ir izmantojuši mākslīgā intelekta rīkus vai tiešsaistes iniciatīvas. Zemā mākslīgā intelekta rīku izmantošana var ne tikai negatīvi ietekmēt valsts konkurētspēju, bet arī paplašināt digitālo plaisu, radot nevienlīdzību sabiedrības spējā izmantot modernās tehnoloģijas ikdienā un profesionālajā dzīvē, kas savukārt veicina nepietiekamu uzticību tehnoloģijām.
Valstī nav pilnībā izveidota sistēma, lai uzraudzītu potenciālos riskus, kas varētu rasties mākslīgā intelekta risinājumu ieviešanā un attīstībā. Šāda situācija var radīt izaicinājumus, jo nav izvērtēta mākslīgā intelekta ietekme, piemēram, uz drošību un iespējamiem tehnoloģiskiem traucējumiem. Lai mazinātu šos riskus, būtu nepieciešama regulāra, vienota un rūpīga mākslīgā intelekta risinājumu izvērtēšana.

B) 1.
Eiropas Padomes Pamatkonvencijā par mākslīgo intelektu un cilvēktiesībām, demokrātiju un tiesiskumu [1] atzīts, ka ir tādas mākslīgā intelekta sistēmu dzīvesciklā īstenotas darbības, kas var apdraudēt cilvēka cieņu un personas autonomiju, cilvēktiesības, demokrātiju un tiesiskumu, un tāpēc ir nepieciešams veicināt sabiedrības digitālo pratību, vairot zināšanas un uzticēšanos saistībā ar mākslīgā intelekta sistēmu projektēšanu, izstrādi, izmantošanu un izņemšanu no lietošanas. Konvencijas 20. pants paredz, ka Puses veicina un sekmē pienācīgu digitālo pratību un digitālās prasmes visās sabiedrības grupās, tostarp īpašas ekspertu prasmes to vidū, kas ir atbildīgi par mākslīgā intelekta sistēmu radīto risku apzināšanu, novērtēšanu, novēršanu un mazināšanu.

[1] Eiropas Padomes Pamatkonvencija par mākslīgo intelektu un cilvēktiesībām, demokrātiju un tiesiskumu tika atvērta parakstīšanai 2024.g. 5. septembrī. Ar ES Padomes 28.08.2024 lēmumu, ES dalībvalstu vārdā Eiropas Komisija Konvenciju parakstīja 5.09.2024. Konvencija pieejama šeit: https://www.coe.int/en/web/conventions/full-list?module=treaty-detail&treatynum=225

B) 2.
Tai skaitā nepieciešams izstrādāt rekomendācijas par mākslīgā intelekta riskiem un aktuālajiem veicamajiem pasākumiem ik pa 2 gadiem, lai sekmētu mākslīgā intelekta risku izpratni un potenciālo risku mazināšanu, tostarp attiecībā uz mākslīgā intelekta rīku apmācībā izmantotajiem sensitīvajiem un ar autortiesībām aizsargātajiem datiem.

B) 3.
Turklāt, lai stiprinātu lingvistisko daudzveidību, aizsargātu kultūras mantojumu un veicinātu piekļuvi modernajām tehnoloģijām latviešu valodā, ir nepieciešams sekmēt latviešu valodas un kultūras datu pilnvērtīgu integrāciju un pielāgošanu mākslīgā intelekta risinājumos.

B) 4.
Papildus tam nodibinājuma darbības virzieni nav tikai pārvaldes uzdevumu veikšana, bet daudz plašāks kompetences loks, piemēram, Centram ir svarīga iespēja veidot, pielāgot partnerības ar vietējiem un ārvalstu partneriem dalībniekiem, citām pētniecības un pilsoniskās sabiedrības organizācijām.

C)
1) izstrādāt vai koordinēt nacionālas nozīmes projektus un starptautiskos projektus prioritārajās jomās, kuras nosaka Centra padome, saskaņojot ar Ministru kabineta Digitālās modernizācijas tematisko komiteju;
2) izstrādāt Centra darbības stratēģiju UN risku vadības sistēmu ;
3) izstrādāt vai koordinēt stratēģiskos projektus, kas uzlabo sabiedrības drošību un noturību, veicinot sabiedrības mākslīgā intelekta lietošanas prasmes;
4) piesaistīt starptautiskos partnerus un finansējumu projektu īstenošanai mākslīgā intelekta jomā;
5) izstrādāt vienotus principus un vadlīnijas mākslīgā intelekta risinājumu izstrādei un ieviešanai valsts pārvaldes iestādēs;
6) koordinēt valsts pārvaldes iestāžu dalību mākslīgā intelekta attīstības procesos;
7) izstrādāt kritērijus un metodiskos ieteikumus publiskā un privātā sektora mākslīgā intelekta projektu izstrādei, iesniegšanai un izvērtēšanai;
8) veicināt prasmju paaugstināšanu saistībā ar mākslīgā intelekta risku pārvaldību, tostarp ar autortiesībām aizsargātu darbu izmantošanu mākslīgā intelekta apmācībai;
9) piesaistīt, uzkrāt, pārvaldīt līdzekļus un sadalīt tos publiskā un privātā sektora projektu īstenošanai mākslīgā intelekta jomā;
10) izsludināt un organizēt publiskā un privātā sektora projektu konkursus finansējuma saņemšanai;
11) mērķtiecīgi un efektīvi apsaimniekot piešķirto finansējumu, nodrošinot kontroli pār līdzekļu izlietošanu; 
12) sniegt konsultācijas publiskajam un privātajam sektoram mākslīgā intelekta jomā;
13) veicināt izpratni par mākslīgā intelekta pamatiem, riskiem un ētiskiem apsvērumiem 3.panta 1.punktā minētajos projektos, lai palielinātu mākslīgā intelekta pratību sistēmu nodrošinātājiem, uzturētājiem un tai sabiedrības daļai, kurus tie skar, un lai attīstītu prasmīgu un atbildīgu attieksmi pret jauniem digitāliem risinājumiem un veicinātu līdzdalību mākslīgā intelekta risinājumu izstrādē, lai tie būtu droši, iekļaujoši un cilvēkcentrēti.

D)
Paskaidrojam, ka ekspertu komisijas plānots izveidot pēc nepieciešamības, iesaistot, piemēram, konkrētus ekspertus un pilsoniskās sabiedrības organizācijas attiecībā uz konkrētu iniciatīvu izvērtēšanu mākslīgā intelekta jomā, līdz ar to elastīgākai pieejai VARAM piedāvā ekspertu komisijas kompetenci noteikt Centra nolikumā.

E)
3) nepietiekama latviešu valodas integrācija mākslīgā intelekta risinājumos var novest pie tās pakāpeniskas izzušanas digitālajā vidē, apdraudot kultūras mantojuma saglabāšanu un ierobežojot valodas attīstību, kā arī vienlīdzīgu pieeju tehnoloģijām, tādējādi kavējot inovāciju un izglītības attīstību, un samazinot iespējas līdzvērtīgi piedalīties digitālajā ekonomijā.


 

Ņemot vērā mākslīgā intelekta risinājumu potenciālu sniegt ieguldījumu kopējā sabiedrības labumā un uzlabot iedzīvotāju dzīves kvalitāti, izmantojot informācijas un komunikācijas tehnoloģijas, lūdzam izskatīt iespēju, aprakstīt tiesību akta projekta ietekmi uz informācijas sabiedrības politikas īstenošanu.

-