Umgjörð um sandkassa fyrir gervigreind heilbrigðisþjónustu

1. Markmið og skilgreiningar

Sandkassinn mun bjóða upp á leiðbeiningar fyrir valin fyrirtæki og stofnanir, af mismunandi stærðum og gerðum. Um er að ræða tilraunaverkefni þar sem einblínt verður á notkun gervigreindar í heilbrigðisþjónustu. Ef vel gengur er fyrirhugað að bjóða reglulega upp á sandkassann fyrir mismunandi geira samfélagsins.

Umgjörð sandkassans

Persónuvernd, í samstarfi við Embætti landlæknis og Stafrænt Ísland, hefur ákveðið að setja á fót sandkassa fyrir þróun hugbúnaðarlausna í heilbrigðisþjónustu. Til að sandkassinn skili sem mestum árangri fyrir þátttakendur er mikilvægt að markmið verkefnisins og kröfur til þátttakenda séu skýrar. Hér er líka farið yfir aðrar upplýsingar sem geta skipt máli áður en sótt er um.

Tilgangur sandkassans er að auka þekkingu á og veita innsýn í nýjar og nýstárlegar lausnir á sviði gervigreindar, auk þess að auðvelda greiningu á hugsanlegri áhættu af vinnslu persónuupplýsinga strax á frumstigi. Vonast er eftir fjölbreyttum hópi umsækjenda, allt frá litlum sprotafyrirtækjum til stærri opinberra aðila.

Með þátttöku í sandkassanum geta þeir sem hyggjast hanna lausn byggða á gervigreind öðlast aukinn skilning á þeim persónuverndarkröfum sem gerðar eru. Aukinn skilningur á lögunum leiðir til þess að tíminn sem það tekur fyrir hugmynd að verða að raunverulegri lausn getur styst verulega.

Í frumraun okkar í sandkassanum bjóðum við aðilum í heilbrigðisgeiranum að taka þátt en vonir standa til að í framtíðinni geti breiðari hópur fyrirtækja og stofnana átt kost á að sækja um þátttöku.

Markmið

Meðal markmiða sandkassans er að örva þróun og notkun á siðferðislegri og ábyrgri gervigreind frá sjónarhóli persónuverndar. Vonast er til að sandkassinn hafi í för með sér jákvæðan ávinning fyrir fyrirtæki, Persónuvernd, einstaklinga og samfélagið í heild:

· Fyrirtæki/stofnanir/lögaðilar: Sandkassinn ætti að stuðla að því að auka skilning á kröfum persónuverndarlaga og hvernig vörur og þjónusta sem notast við gervigreind geta uppfyllt kröfur persónuverndarlöggjafarinnar. Birting á niðurstöðum þeirra verkefna sem valin eru til þátttöku í sandkassanum er til hagsbóta fyrir fleiri fyrirtæki/stofnanir/lögaðila en þá sem taka þátt, þar sem útkomu úr sandkassanum er ætlað að þjóna sem flestum.

· Persónuvernd: Að mati Persónuverndar mun verkefnið auka skilning og þekkingu á notkun gervigreindar í reynd hjá starfsmönnum stofnunarinnar. Það mun aftur nýtast til að auka og uppfæra leiðbeiningar og fræðslu Persónuverndar, við afgreiðslu mála og sem innlegg í löggjöf og stefnumótun er varðar gervigreind og persónuvernd í samfélaginu.

· Einstaklingar og samfélagið í heild: Einstaklingar og samfélagið allt munu njóta góðs af þróun og notkun lausna sem byggjast á gervigreind þar sem ábyrg vinnsla upplýsinga er tryggð og passað er upp á grundvallarréttindi einstaklingsins. Með því er lagður grunnur að þróun traustrar þjónustu.

Hvað er gervigreind?

Í sandkassanum verður lagður eftirfarandi skilningur í hugtakið gervigreind:

Gervigreind er þegar tölvukerfi eru látin framkvæma aðgerðir, byggðar á túlkun og úrvinnslu skipulagðra eða ómótaðra gagna, með það í huga að ná ákveðnu markmiði. Sum gervigreindarkerfi geta einnig aðlagað sig með því að greina og taka tillit til þess hvernig fyrri aðgerðir hafa haft áhrif á umhverfið.

Ábyrg gervigreind

Sandkassinn byggir á þremur meginreglum um ábyrga gervigreind:

· Lögmæti - farið að öllum gildandi lögum og reglugerðum.

· Siðferði - fylgja siðferðislegum meginreglum og gildum.

· Öryggi - bæði frá tæknilegu og samfélagslegu sjónarhorni.

Meginreglurnar eru teknar úr „Guidelines for Reliable Artificial Intelligence“, þ.e. leiðbeiningum um áreiðanlega gervigreind, sem unnar hafa verið af sérfræðingahópi sem skipaður var af framkvæmdastjórn Evrópusambandsins.

Reglan um lögmæti

Þegar kemur að meginreglunni um að gervigreind eigi að vera lögmæt mun sandkassinn einbeita sér að persónuverndarlöggjöfinni. Nánar má lesa um hana í næsta kafla: „Hvaða reglur gilda?“

Reglan um siðferði

Öllum þeim sem vinna með persónuupplýsingar ber að uppfylla meginreglur persónuverndarlaga, en þar er að finna nokkrar reglur sem segja má að feli í sér siðferðislegar kröfur.. Þetta á til dæmis við um kröfuna um sanngirni við vinnslu persónuupplýsinga, sem er ein af meginreglunum um vinnslu persónuupplýsinga. Krafan um að notkun gervigreindar sé gagnsæ og hafi skýran tilgang er jafnframt siðferðisleg krafa.

Það að ákvarðanir byggðar á gervigreind séu rekjanlegar, skýrar og gagnsæjar þýðir að einstaklingur, hinn skráði, þarf að eiga kost á skýringu á því hvernig og hvers vegna komist var að ákveðinni niðurstöðu varðandi hann. Rekjanleiki gerir það að verkum að hægt er að gefa skýringu á því með auðveldum hætti og endurskoða niðurstöðuna ef þörf krefur. Gagnsæi næst meðal annars með því að veita hinum skráða upplýsingar um vinnsluna. Gagnsæi snýst líka um að viðurkenna að tölvukerfi séu ekki mannleg - fólk ætti að eiga rétt á að vita þegar það er í samskiptum við kerfi sem nýta gervigreind.

Mat á siðferði er oft mikilvægur þáttur í því hvernig beri að túlka lögin og í sumum tilvikum ganga kröfur um siðferði lengra en lögin. Jafnvel þótt eitthvað sé lögmætt getur sú spurning vaknað hvort það sé siðferðislega rétt – og er það mat oft mjög huglægt. Dæmi um slíkt gæti verið notkun upplýsinga um viðskiptavini tryggingafélags. Í dag er hægt að safna miklum upplýsingum um fólk. Þessar upplýsingar geta verið fullnægjandi til að setja verðmiða á einstaklinginn eftir því hvernig hann hagar lífi sínu og þar með hversu mikið sá ætti að borga fyrir tryggingar. Þetta er eins konar verðlagning sem byggir á hegðun. Þau mörk sem lög setja fyrir því hversu langt fyrirtæki getur gengið í að mismuna viðskiptavinum á slíkum grundvelli eru ekki skýr og því kemur að siðferði: Hversu langt á fyrirtæki eða atvinnugrein að ganga við gerð persónusniða um viðskiptavini fyrirtækisins?

Öryggi

Þriðja meginreglan um ábyrga gervigreind er sem fyrr segir að tryggja þarf öryggi upplýsinganna. Þetta þýðir að gervigreind þarf að byggja á kerfum með tæknilega traustum lausnum sem draga úr áhættu og stuðla þarf að því að kerfin virki eins og þeim er ætlað. Lágmarka þarf hættuna á óviljandi og óvæntum bilunum eða skemmdum. Tæknilegur styrkleiki er einnig mikilvægur fyrir nákvæmni, áreiðanleika og sannprófun kerfanna.

Þú getur lesið meira um efnið í yfirlýsingu ICDPPC um siðferði og persónuvernd í gervigreind.

2. Hvaða reglur gilda?

Útgangspunktur vinnunnar í sandkassanum er persónuverndarlöggjöfin. Persónuverndarlögin má lesa hér.

Önnur löggjöf og reglur um vinnslu persónuupplýsinga sem Persónuvernd hefur eftirlit með og getur veitt ráðgjöf um í sandkassanum eru til dæmis í :

· lögum nr. 55/2009 um sjúkraskrá,

· lögum nr. 44/2014 um vísindarannsóknir á heilbrigðissviði,

· lögum nr. 74/1997 um réttindi sjúklinga,

· reglum nr. 837/2006 um rafræna vöktun og meðferð persónuupplýsinga sem verða til við rafræna vöktun

· auglýsingu nr. 828/2019 um skrá yfir vinnsluaðgerðir sem krefjast ávallt mats á áhrifum á persónuvernd.

Ef nauðsyn krefur getur sandkassinn átt í samstarfi við önnur yfirvöld til að veita ráðgjöf um gildandi lög og reglugerðir. Embætti landlæknis og Stafrænt Ísland munu veita þátttakendum ráðgjöf og leiðbeiningar sem tengjast þeirra verksviði, eftir því sem þurfa þykir.

Opinberir aðilar, t.d. þeir sem gætu nýtt sér gervigreind sem þróuð er í sandkassanum, geta líka þurft að uppfylla kröfur í lögum um opinber skjalasöfn, stjórnsýslulögum og upplýsingalögum - svo eitthvað sé nefnt.

Sérstaklega er vakin athygli á því að þátttaka í sandkassanum felur ekki í sér undanþágu frá skyldunni til að fylgja persónuverndarlögum, heldur er markmið verkefnisins að hjálpa þátttakendum að ganga úr skugga um að vinnsla persónuupplýsinga samrýmist persónuverndarlögum og öðrum lögum og reglugerðum eftir því sem við á.

3. Hvað gerist í sandkassanum?

Sandkassinn hefst á því að áhugasamir sækja um þátttöku í sandkassanum. Persónuvernd, í samráði við Embætti landlæknis og Stafrænt Ísland, munu velja þau verkefni sem komast áfram.

Þegar umsækjandi hefur verið samþykktur mun hann, í samvinnu við Persónuvernd, Embætti landlæknis og Stafrænt Ísland, útbúa verkefnaáætlun þar sem þörf fyrir leiðbeiningar er útlistuð.

Lengd þátttöku í sandkassanum getur verið mismunandi eftir verkefnum en gert er ráð fyrir að verkefni sem taka þátt í sandkassanum standi yfir í um þrjá mánuði.

Þátttakendur fá leiðbeiningar við að gera þjónustuna eða vöruna þannig úr garði að hún uppfylli reglur um persónuvernd og við að standa vörð um friðhelgi einkalífsins og að leysa úr þeim álitamálum sem geta komið upp – með þeim fyrirvörum sem þegar komið fram.

Þannig verður aðkoma Persónuverndar sniðin að þörfum einstakra verkefna - bæði hvað varðar umfang og starfsemi.

Þær tegundir ráðgjafar sem hægt verður að bjóða upp í sandkassanum eru:

· Aðstoð við framkvæmd mats á áhrifum á persónuvernd (MÁP)

· Aðstoð við að bera kennsl á áskoranir tengdar persónuvernd

· Álit á tæknilegum og lagalegum lausnum á áskorunum tengdum persónuvernd

· Aðstoð við innleiðingu á innbyggðri og sjálfgefinni persónuvernd (hér má lesa nánar um efnið hjá persónuverndarstofnuninni í Noregi)

· Óformleg skoðun á verkefninu til að varpa ljósi á hvaða kröfur eru gerðar samkvæmt persónuverndarlöggjöfinni.

· Aðstoð við að greina hvað er nauðsynlegt að hafa í huga við þróun verkefnisins og hugsanlega vankanta á persónuvernd notenda

· Vettvangur fyrir uppbyggingu tengslanets þar sem hægt er að deila þekkingu með:

o öðrum þátttakendum í sandkassanum

o utanaðkomandi sérfræðingum

o stjórnvöldum og öðrum stofnunum

· Persónuvernd vinnur allan tímann með þátttakendum og lýkur verkefninu með útgáfu skýrslu sem unnin er í samstarfi við þátttakendur og sem birt verður á vefsíðu Persónuverndar.

Hvað viljum við varpa ljósi á?

Persónuvernd hefur sérstakan áhuga á umsóknum þar sem úrlausn verkefnisins getur nýst mörgum aðilum, þ.e. ekki eingöngu þátttakandanum sjálfum. Sérstaklega er áhugavert að varpa ljósi á verkefni þar sem óvissa ríkir um hvernig skuli túlka ákvæði persónuverndarlaga.

Tegundir verkefna sem sandkassinn getur tekið fyrir eru til dæmis:

· Nýstárleg notkun persónuupplýsinga með tækni sem sameinar gervigreind við t.d. internet hlutanna (e. Internet of Things) eða skýjatengdar vörur

· Flókin gagnamiðlun

· Uppbygging góðrar notendaupplifunar og trausts með því að tryggja gagnsæi og að hægt sé að útskýra þá vinnslu persónuupplýsinga sem á sér stað

· Hvernig á að forðast mismunun eða hlutdrægni

· Ef þátttakendur upplifa takmarkanir eða skort á skilningi á ákvæðum persónuverndarlaga um sjálfvirka ákvarðanatöku

· Hvernig á að nýta fyrirliggjandi gögn (t.d. mælikvarða og hvernig má tengja gögn) í nýjum tilgangi

4. Hvað ef eitthvað ófyrirséð gerist?

Ef þörf er á að breyta verkefninu eða aðlaga það er hægt að breyta verkáætlun eða stöðva verkefnið um tíma. Ef þátttakandi þarf ekki lengur á aðstoð eða skýringum að halda í sandkassanum getur hann hætt við verkefnið hvenær sem er.

Persónuvernd mun birta skýrslu um verkefnin þó þau hætti þátttöku áður en þeim lýkur svo að reynslan sem safnast úr sandkassaverkefninu verði sem víðtækust og til að aðrir geti lært af verkefninu.

Persónuvernd getur ákveðið að hætta vinnu við tiltekin verkefni í sandkassanum þó þeim sé ekki lokið, ef tilefni gefur til og stofnunin sér ekki fram á að verkefnið geti uppfyllt kröfur persónuverndarlaga.

5. Hvað leggur Persónuvernd af mörkum?

Starfsmenn Persónuverndar munu leiðbeina þátttakendum í sandkassanum sem og starfsmenn Embættis landlæknis og Stafræns Íslands, eftir því sem tilefni er til.

Ef þörf er á ráðgjöf um aðra löggjöf, sem skiptir máli varðandi verkefnið, getur Persónuvernd átt í samstarfi við aðrar stofnanir en umsækjendum verður gert viðvart um slíkt samstarf áður en það á sér stað. Þetta er mikilvægt svo að bæði þátttakendur og Persónuvernd taki réttar ákvarðanir í sandkassanum. Persónuvernd metur hvort þörf sé á að afla upplýsinga um aðra löggjöf.

Þátttakendur í sandkassanum bera ábyrgð á því hvaða persónuupplýsingar unnið er með og hvernig unnið er með þær. Þátttakendur ákveða einnig sjálfir hvort þeir fara eftir þeim ráðleggingum sem þeir fá í sandkassanum. Sandkassinn á að veita leiðsögn sem fæst með samskiptum milli Persónuverndar og þátttakenda en er ekki hugsaður til að veita ákveðnum verkefnum samþykki eða staðfesta lögmæti þeirra að öllu leyti.

Hvorki er hægt að bjóða þátttakendum upp á tæknilega innviði né vettvang til að prófa vöruna. Þá getur stofnunin ekki veitt þátttakendum fjárhagslegan stuðning.

6. Hver eru inntökuskilyrðin?

Nokkrar almennar kröfur eru gerðar til þeirra sem vilja taka þátt í sandkassanum. Auk þess mun valið fara fram á grundvelli þess hvort skoðun á viðfangsefninu geti haft þýðingu fyrir breiðari hóp manna og með hliðsjón af því að þátttakendur komi úr sem fjölbreyttustu umhverfi. Þá verður sérstök áhersla lögð á tækninýjungar eða nýsköpun hvers konar þjónustu eða vöru.

Kröfurnar sem þarf að uppfylla til að taka þátt í verkefninu eru þessar:

· Verkefnið þarf að notast við gervigreind eða á einn eða annan hátt. Bæði þróun á gervigreind og notkun á fyrir fram þróuðum lausnum geta átt erindi í sandkassann. Þróun ramma eða leiðbeininga um notkun gervigreindar eru einnig dæmi um viðeigandi sandkassaverkefni.

· Verkefnið þarf að gagnast einstaklingnum eða samfélaginu. Til dæmis gæti verið um að ræða vörur eða þjónustu sem:

o veita heilsufarslegan ávinning

o gera nýtingu opinberra auðlinda skilvirkari

o eru nýstárlegar og með mögulegan samfélagslegan ávinning (nýsköpunarverkefni)

· Umsækjandinn þarf að hafa hag af því að taka þátt í sandkassanum með viðkomandi verkefni. Þetta þýðir meðal annars að verkefnið ætti varða málefni sem snertir persónuvernd og gæti notið góðs af leiðbeiningum Persónuverndar. Þátttakendur þurfa að vera með verkefni sem er tilbúið til þátttöku í sandkassanum og geta fjármagnað verkefnið, en þátttakan í sandkassanum er ókeypis.

· Verkefnið þarf að heyra undir Persónuvernd sem lögbært eftirlitsyfirvald. Þetta þýðir að umsækjandi verður að vera með staðfestu á Íslandi, þar sem ákveðið er hvernig persónuupplýsingarnar eru unnar. Ef umsækjandi er í vafa um þetta, vinsamlega hafið samband með tölvupósti á netfangið postur@personuvernd.is og við munum veita frekari leiðbeiningar.

Við val á verkefnum mun Persónuvernd einnig leggja áherslu á hvort verkefnið varpi ljósi á málefni sem máli skipta eða noti tækni sem gæti nýst öðrum aðilum. Einnig viljum við hafa fjölbreyttan hóp þátttakenda, bæði frá einkageiranum og hinu opinbera og jafnt stórum, meðalstórum og smáum fyrirtækjum en fjöldi þátttakenda mun fara eftir fjölda umsækjenda sem og umfangi verkefna.

Þá hefur stofnunin sérstakan áhuga á að taka á málum þar sem óvissa ríkir um hvernig skuli túlka og útfæra reglurnar í framkvæmd.

7. Samskipti

Persónuvernd mun leggja áherslu á að velja verkefni þar sem sú þekking sem ávinnst með verkefninu skilar sér í almennri upplýsinga- og leiðbeiningavinnu sem kemur fleirum til góða.

Persónuvernd mun reglulega deila með þátttakendum upplýsingum um hvernig verkefnið gengur í heild sinni – í því skyni að upplýsa um ferlið, hvaða álitamál eru að koma upp og hvernig við erum að leysa þau. Í lokin verður reynslan úr hverju verkefni dregin saman í lokaskýrslu.

Við viljum að þátttakendur skýri okkur frá því fyrir fram hvaða markmið þeir settu sér með þátttökunni í sandkassanum og hvað þeir vilja fá út úr verkefninu.

Þegar Persónuvernd deilir upplýsingum um einstök verkefni út á við mun það ávallt vera gert að höfðu samráði við þátttakendur. Við viljum forðast að deila upplýsingum sem ætti ekki að deila einhverra hluta vegna eða geta talist viðskiptaleyndarmál.

8. Þagnarskylda og fleira

Sandkassinn hefur það að markmiði að miðla þekkingu og reynslu úr öllum þeim verkefnum sem taka þátt sem getur nýst öðrum fyrirtækjum og samfélaginu öllu í sem mestum mæli. Jafnframt þarf að standa vörð um þagnarskyldu og vernd viðskiptaleyndarmála/hugverkaréttinda.

Allir starfsmenn Persónuverndar eru bundnir þagnarskyldu samkvæmt stjórnsýslulögum og almennum hegningarlögum. Það á einnig við um upplýsingar um mikilvæga fjárhags- og viðskiptahagsmuni, sem skiptir máli að fari leynt á samkeppnismarkaði.

Upplýsingar sem deilt verður í sandkassanum og krefjast trúnaðar verða því undanþegnar aðgangi almennings eftir því sem kveðið er á um í upplýsingalögum, meti Persónuvernd það svo.

Þátttaka í sandkassanum breytir ekki hugverkaréttindum. Með öðrum orðum, þátttakendur halda þeim réttindum sem þeim þeir eiga vegna vörunnar eða þjónustunnar sem þróuð er.