„Sandkassi“ sem öruggt umhverfi fyrir þróun ábyrgrar gervigreindar
Persónuvernd, í samstarfi við Embætti landlæknis og Stafrænt Ísland, hyggst setja á fót svokallaðan sandkassa (e. regulatory sandbox) fyrir fyrirtæki sem hafa hug á að þróa gervigreind í heilbrigðisþjónustu.
Um er að ræða tilraunaverkefni sem stefnt er að ljúki í lok maí með útgáfu leiðbeininga og niðurstaðna um þær persónuverndaráskoranir sem viðkomandi fyrirtæki stóðu frammi fyrir og hvernig leyst var úr þeim, m.a. með leiðbeiningum frá Persónuvernd.
Verkefnið er sett á fót að norskri og breskri fyrirmynd, en þó smærra í sniðum, þar sem um er að ræða tilraunaverkefni.
Opnað verður fyrir umsóknir þann 28. febrúar næstkomandi en í byrjun febrúar verða allar nánari upplýsingar um fyrirkomulag verkefnisins birtar á vef Persónuverndar.
Markmið sandkassans
Það að tryggja persónuvernd einstaklinga skiptir miklu máli við þróun lausna sem nota gervigreind, sérstaklega þegar lausnin byggir þjálfun gervigreindar á persónuupplýsingum eða persónugreinanlegum upplýsingum. Árangur og innleiðing slíkra lausna byggir á trausti notenda og staðfestingu á að farið sé rétt með persónuupplýsingar.
Persónuvernd, í samstarfi við Embætti landlæknis og Stafrænt Ísland, hefur því ákveðið að setja á fót sandkassa fyrir þróun hugbúnaðarlausna í heilbrigðisþjónustu. Tilgangur sandkassans er að auka þekkingu á og veita innsýn í nýjar og nýstárlegar lausnir á sviði gervigreindar, auk þess að auðvelda greiningu á hugsanlegri áhættu í vinnslu persónuupplýsinga strax á frumstigi.
Með þátttöku í sandkassanum geta fyrirtæki og þeir sem hyggjast hanna lausn byggða á gervigreind öðlast aukinn skilning á þeim persónuverndarkröfum sem gerðar eru. Aukinn skilningur á lögunum veldur því að tíminn frá þróun og prófunum á lausnunum til raunverulegrar útfærslu styttist verulega.
Lausnir sem teknar eru í notkun eftir að hafa verið þróaðar í sandkassanum gætu einnig þjónað sem fordæmi og verið fyrirmynd fyrir aðra sem hyggjast þróa svipaðar lausnir.
Einstaklingar og samfélagið í heild njóta góðs af því að þróun nýrra og nýstárlegra lausna sé gerð með ábyrgum hætti og að hún fari samkvæmt gildandi lögum.
Hvað er sandkassi?
Sandkassi er öruggt umhverfi fyrir þá sem vilja prófa og gera tilraunir með nýjar vörur, tækni og þjónustu undir eftirliti yfirvalda. Með þeim hætti má auka skilning þeirra á þeim kröfum sem settar eru um leið og yfirvöld öðlast frekari skilning á nýjum tæknilausnum. Þannig verður auðveldara að greina áhættur og viðfangsefni og helst sem fyrst í ferlinu.
Hverju viljum við ná fram með sandkassanum?
Aðalmarkmiðið er að örva nýsköpun á gervigreind með siðferðislegum og ábyrgum hætti. Stundum er litið svo á að persónuvernd og nýsköpun eigi ekki samleið og að persónuverndarreglurnar standi í vegi fyrir nýsköpun. Það er misskilningur. Það er hins vegar mjög mikilvægt að hafa persónuvernd að leiðarljósi frá upphafi þróunarinnar til að koma í veg fyrir hindranir síðar í ferlinu. Með því móti er líklegra að almenningur treysti tækninni þegar hún er kynnt til sögunnar sem aftur er nauðsynlegt til að hún njóta velgengni á markaði.
Hvað mun gerast í sandkassanum?
Í sandkassanum gefst þátttakendum tækifæri á að þróa þjónustu sína innan ákveðins ramma og undir handleiðslu Persónuverndar í samstarfi við Embætti landlæknis og Stafrænt Ísland. Sandkassinn veitir ekki undanþágu frá persónuverndarlögum en hann gefur ákveðið rými til að þróa verkefnið í rétta átt.
Verkefnið er tilraunaverkefni – og ef vel gengur, er hugsanlegt að Persónuvernd bjóði aðilum reglulega upp á sandkassa í öllum geirum samfélagsins. Í þetta skipti verður sandkassinn opinn aðilum sem nota persónuupplýsingar til að þróa vörur eða þjónustu á sviði heilbrigðisþjónustu. Ástæða þess er einkum sú að grunnur að slíkri vöru eða þjónustu er vinnsla okkar viðkvæmustu persónuupplýsinga, þ.e. upplýsinga um heilsufar. Þá verður einnig horft til þess að varan eða þjónustan hafi mikið gildi fyrir íslenskt samfélag.
Tilraun
Eins og áður sagði þá er sandkassinn tilraunaverkefni, bæði fyrir Persónuvernd, samstarfsaðila hennar og þá sem taka þátt. Svo að sem best megi takast til, þurfa allir þátttakendur að vera með opinn hug og vera viljug að læra hvert af öðru.
Sandkassaverkefni persónuverndarstofnana á uppruna sinn að rekja til bresku persónuverndarstofnunarinnar (ICO). Þá tók norska persónuverndarstofnunin (Datatilsynet) upp sambærilegt verkefni á síðasta ári og nú bætist Persónuvernd í hóp þeirra stofnana sem hafa sett á fót slíkan sandkassa.