Johdanto
Korkean riskin tekoälysovellukset ovat keskeinen osa EU:n tekoälydirektiiviä, ja niiden käsittely on olennaista tekoälykoordinaattorin roolissa. Tässä aiheessa tarkastellaan, mitä korkean riskin tekoälysovellukset tarkoittavat, mitkä ovat niiden arviointikriteerit ja miten ne vaikuttavat yhteiskuntaan.
Korkean riskin tekoälysovellusten määrittely
Korkean riskin tekoälysovellukset on jaettu kahteen pääkategoriaan:
-
Tekoälysovellukset, jotka liittyvät EU:n tuoteturvallisuuslainsäädäntöön: Näihin kuuluvat tuotteet, kuten lelut, ilmailu, autot, lääketieteelliset laitteet ja hissit. Nämä sovellukset ovat erityisen tärkeitä, koska ne voivat vaikuttaa suoraan käyttäjien turvallisuuteen.
-
Tekoälysovellukset erityisalueilla: Tällaiset sovellukset on rekisteröitävä EU:n tietokantaan ja ne liittyvät muun muassa seuraaviin alueisiin:
- Kriittisen infrastruktuurin hallinta ja toiminta
- Koulutus ja ammatillinen koulutus
- Työllisyys, työnhallinta ja pääsy itsenäiseen yrittäjyyteen
- Pääsy ja nauttiminen olennaisista yksityisistä ja julkisista palveluista ja etuuksista
- Lainvalvonta
- Maahanmuutto, turvapaikka ja rajavalvontahallinta
- Oikeudellisen tulkinnan ja lain soveltamisen avustaminen
Arviointikriteerit
Korkean riskin tekoälysovellusten arviointikriteerit ovat tiukat ja ne on suunniteltu suojelemaan kansalaisten oikeuksia ja turvallisuutta. Kaikkien korkean riskin tekoälysovellusten on läpäistävä arviointi ennen markkinoille pääsyä ja niiden elinkaaren aikana. Arviointiin kuuluu:
- Riskien arviointi: Tekoälysovellusten mahdolliset riskit ja haittavaikutukset on arvioitava huolellisesti.
- Sääntöjen noudattaminen: Sovellusten on noudatettava EU:n lainsäädäntöä ja eettisiä periaatteita.
- Valitusoikeus: Kansalaisilla on oikeus tehdä valituksia tekoälysovelluksista nimetyille kansallisille viranomaisille.
Läpinäkyvyysvaatimukset
Korkean riskin tekoälysovelluksille asetetaan myös läpinäkyvyysvaatimuksia. Esimerkiksi generatiivisen tekoälyn, kuten ChatGPT:n, on ilmoitettava, että sisältö on tuotettu tekoälyn avulla. Tämä tarkoittaa:
- Sisällön merkitseminen: Käyttäjille on ilmoitettava, että sisältö on tekoälyn tuottamaa.
- Laittomien sisältöjen estäminen: Mallin on oltava suunniteltu siten, että se ei tuota laitonta sisältöä.
- Koulutuksessa käytettyjen aineistojen julkaiseminen: On julkaistava yhteenvedot käytetyistä tekijänoikeudellisista aineistoista.
Innovaatioiden tukeminen
EU:n lainsäädäntö pyrkii tukemaan innovaatioita tarjoamalla startupeille ja pienille ja keskikokoisille yrityksille mahdollisuuksia kehittää ja testata tekoälymallejaan ennen niiden julkista julkaisua. Tämä tarkoittaa, että kansallisten viranomaisten on tarjottava yrityksille testausympäristö, joka simuloi todellisia olosuhteita.
Seuraavat askeleet
Euroopan parlamentti hyväksyi tekoälyasetuksen maaliskuussa 2024, ja neuvosto seurasi hyväksyntäänsä toukokuussa 2024. Tämä asetus tulee vaikuttamaan merkittävästi korkean riskin tekoälysovellusten kehittämiseen ja käyttöön EU:ssa.
Yhteenveto
Korkean riskin tekoälysovellusten käsittely on keskeinen osa tekoälykoordinaattorin koulutusta EU:n tekoälydirektiivin mukaisesti. Oikein toteutettuna nämä sovellukset voivat parantaa turvallisuutta ja suojella kansalaisten oikeuksia, mutta niiden kehittämiseen liittyy myös merkittäviä haasteita ja vastuuta.
