Juridisk samhandlingsevne

Utgangspunktet for den juridiske drøftingen er at en digital assistent kan være en type tjeneste som favner et bredt spekter av løsninger, og digitale assistenter vil kunne forbedre det offentliges tjenestetilbud i årene som kommer.

Digital assistent er et spennende område med en rekke muligheter til et forbedret tjenestetilbud. Det gir også en mulighet til å stoppe litt opp, se på digitaliseringen i et helhetsperspektiv, og trekke frem de problemstillinger som bruk av datadrevne teknologier og avanserte tjenester fører med seg.

Disse kan vurderes opp mot rettssikkerhetsprinsippene og andre verdier som verdsettes av samfunnet. En enkel digital assistent med bruk og tilgang til data som myndighetene allerede har tilgang til å hente inn og bruke i dag, vil i seg selv ikke reise de store prinsipielle problemstillingene. Når det offentlige bruker denne tilnærmingen i større omfang, kan det bli nødvendig å se på hva det gjør med samfunnet totalt sett.

Men når den digitale assistenten blir avansert, sektorovergripende og personifisert, vil det definitivt reises en rekke problemstillinger som må adresseres. I denne utredningen tas det utgangspunkt i at en digital assistent er noe mer enn chatbots som kan svare på enkle spørsmål.

Det er liten vits å spørre om man er optimist eller pessimist når det gjelder teknologisk utvikling. Historien har vist at det er mye viktigere å være aktivist. Forstå teknologien – være med på å tilpasse den til våre reelle behov.

Vi legger til grunn en intelligent løsning som kan gi persontilpasset veiledning, treffer beslutninger og vedtak som angår enkeltindividet og med mulighet til å være et prediktivt system, dvs. kunne forutse hva som kan komme til å skje i framtiden. Det er vanskelig å se for seg at en slik avansert digital assistent ikke vil bruke noen form for kunstig intelligens som definert i den foreslåtte EU-reguleringen av kunstig intelligens.

Reguleringen inneholder en veldig vid definisjon av kunstig intelligens. I Norge har prioritering og fokus på deling av data de siste årene ført til at lovgivning om datadeling ofte er det viktigste når man vurderer digitaliseringen av levering av offentlige tjenester. Følgelig med liten oppmerksomhet om hvordan data faktisk brukes, utover spørsmål om personopplysninger. Den foreslåtte reguleringen på kunstig intelligens fra EU gjør at vi må vurdere både deling og bruk på en helhetlig måte.

Mange offentlige prosjekter begynner med å finne et brukerbehov og deretter identifisere hvilke data som trengs for å levere tjenesten. Regelverket blir deretter vurdert og hvordan det kan tolkes for å gjøre det lettere å få tilgang til dataene, og hvis ikke, ser man på hvordan regelverket skal endres for å bryte ned datasiloer. Regelverket rundt datadeling blir derfor ofte oppfattet som plagsomt og en hindring for fremgang og datadeling ( Broomfield & Reutter (2021) Towards a Data-Driven Public Administration: An Empirical Analysis of Nascent Phase Implementation, Scandinavian Journal of Public Administration 25(2)).

Denne utredningen setter denne tilnærmingen på hodet og ser på hva som må vurderes fra et juridisk og samfunnsmessig perspektiv når vi bruker data og kunstig intelligens til å levere tjenester som en avansert digital assistent. Vi har tilnærmet oss problemet fra perspektivet av hva som er riktig bruk av data og KI-teknologi, og følger dermed opp Nasjonal strategi for kunstig intelligens sin oppfordring til diskusjon om hva som er ansvarlig og ønsket utvikling, og hva som kan gjøres for å forhindre uønsket utvikling (Nasjonal strategi for kunstig intelligens, s. 8).

Det er mange dokumenterte negative konsekvenser fra datadrevne offentlige tjenester (See Dencik, L., & Kaun, A. (2020). Datafication and the welfare state. Global Perspectives, 1(1). O’neil, C. (2016). Weapons of math destruction: How big data increases inequality and threatens democracy. Crown.). Det som er vanlig med de aller fleste av disse tilfellene, er at disse negative konsekvensene var utilsiktede og uforutsette (Redden, J. (2018). Democratic governance in an age of datafication: Lessons from mapping government discourses and practices. Big Data & Society, 5(2)). Norge må gjøre det vi kan for å unngå slike konsekvenser.

Den digitale assistenten er en perfekt casestudie der man kan kartlegge forskjellige potensielle scenarier, slik at mer informert beslutningstaking kan finne sted og bevisste valg tas.

Vi håper gjennom dette eksemplet at kompleksiteten vi står overfor i å realisere en datadrevet offentlig sektor, som er en forutsetning, kan bli forstått gjennom prioritering og investeringer, utover bare spørsmål rundt datadeling og å få data frigitt fra «gullgruvene». Vi håper også at ved å se på problemet fra dette perspektivet, vil det være større forståelse for at noen av de oppfattede hindringene i rettssystemet faktisk er der for å beskytte innbyggerne og samfunnet, og ofte er kontroller og balanserer ulike hensyn for å unngå mulige negative konsekvenser av databruk. Utfordringer og muligheter strekker seg langt utover bare å få tilgang til dataene for en bedre brukeropplevelse.

Drøfting av tema/ utfordringer/muligheter

Hvor ønsker vi at vi skal være

Et videre arbeid med digital assistent reiser en rekke prinsipielle spørsmål som må avklares. Dette er spørsmål som er av en slik art at de ikke vil bli avklart i denne utredningen, noe de heller ikke bør. Slike spørsmål er av en slik karakter og viktighet for samfunnet at de bør løftes og behandles på riktig nivå.

Dette for å sikre at rammene for forvaltningens samfunnsoppdrag er tilstrekkelig forankret hos lovgiver, og sikrer en demokratisk kontroll med forvaltningens rettsanvendelse og praksis.

Den norske rettstaten bygger blant annet på maktfordelingsprinsippet som deler opp statens samlede makt i tre ulike sfærer: den lovgivende (Storting), den utøvende (Regjering, departement, direktorater og liknende) og den dømmende (domstoler). Dette prinsippet kommer til uttrykk i oppbyggingen av Grunnloven og dens ulike bestemmelser som omhandler de ulike statsmaktene. Denne tredelingen av maktspredningen anses i dag likevel ikke for å være tilstrekkelig for å oppnå en balanse.

Makten må også kontrolleres, for at myndighetsområdene ikke skal overskrides. Her har domstolene en viktig rolle (Bjarne Kvam: «Introduksjon til Rettsstaten» 2009 s. 7).

Illustrasjon. Makten er delt mellom Storting, Domstol og Forvaltning. Dynamikk og påvirkning varierer.
Illustrasjonen viser den tredelte maktspredningen.

Forvaltningens ulike samfunnsoppdrag er gitt i lov eller bevilgning fra Stortinget, og saksbehandlingen er lovregulert. Dette betyr at det ikke bare er statens direkte myndighetsutøvelse overfor innbygger som skal være bygget på rettsregler, men også den myndigheten som staten er bundet av selv. Dette legitimerer tilliten til den offentlige forvaltningen.

Mens Stortinget, som lovgivende myndighet, vedtar rettsregler er det forvaltningen som implementerer og følger dem opp. Domstolene kontrollerer at forvaltningens implementering og rettsanvendelse er i tråd med det regelverket Stortinget har vedtatt. Det finnes en opplevelse av at dagens regelverk ikke i tilstrekkelig grad regulerer kriterier for digitalisering generelt og følgelig heller ikke for en digital assistent spesielt.

Dersom forvaltningen skal utvikle en avansert digital assistent på bakgrunn av dagens regelverk er det derfor en risiko for at det under utviklingen må tas valg vedrørende rammer for assistenten som burde vært vedtatt av Stortinget. På denne måten risikerer vi at forvaltningen gjennom rettsanvendelsen (programmering av eller utvikling av algoritmer av/for en digital assistent) umerkelig gradvis griper inn i det som er lovgivers myndighet uten å ha blitt delegert denne kompetansen. Konsekvensen kan bli at vi får en utilsiktet maktforskyvning mellom forvaltning og lovgiver.

Videre risikerer vi at de ulike forvaltningsorganene har ulik tilnærming til hvordan de ulike juridiske rammebetingelsene skal tolkes og ulike hensyn vektes. Resultatet av dette kan bli at innbyggers og lovgivers tillit til forvaltningen svekkes.

Selv om det er et uttalt prinsipp at man skal starte sikkert, så går utviklingen i dag svært raskt. Dersom lovgiver ikke setter føringer tidsnok vil utviklingen skje på de kriteriene og innenfor de rammene som forvaltningen selv har fastsatt.

Når rammene for utvikling av digital assistent i for stor grad er fastsatt av forvaltningen selv blir domstolskontroll av forvaltningens bruk av assistenten mer utfordrende. Faktumet at anvendelsen av en digital assistent kan bli omfattende både med tanke på antall innbyggere som blir betjent av slike assistenter og antall rettsområder og sektorer som berøres, gjør det særlig viktig med tydelige og riktige føringer fra lovgiver. Det vil ta tid fra en digital assistent blir tatt i bruk til første sak som gjelder forvaltningens anvendelse av denne kommer opp for domstolene.

På denne tiden kan en digital assistent ha foretatt for eksempel veiledning og/eller vedtaksforberedelse overfor et massivt antall enkeltindivider. Konsekvensene av uriktig rettsanvendelse kan således få større omfang enn tilsvarende feil i dagens mer manuelt baserte veiledning. Dette medfører også en risiko for at innbyggers og samfunnets tillit til forvaltningen svekkes. Dette viser at digitaliseringen av forvaltningen er et område med en så stor iboende risiko at rettsreglene ikke i for stor grad bør utformes gjennom hverken forvaltningspraksis eller rettspraksis.

Fart er ikke et substitutt for retning

En digital assistent er et mulighetsrom og en del av en større digitaliseringsstrategi forankret i Regjeringen, som gir uttrykk for: “Digitalisering av offentlig sektor skal gi en enklere hverdag for innbyggere, næringsliv og frivillig sektor gjennom bedre tjenester, mer effektiv ressursbruk i offentlige virksomheter og legge til rette for produktivitetsøkning i samfunnet.”

Fra et juridisk ståsted vil et av de viktige spørsmålene være hvordan man sikrer en bærekraftig digitalisering i stort – og bærekraftig bruk av digitale assistenter mer konkret. Med bærekraftig mener vi at de juridiske rammene og de verdivalgene man tar står seg over tid og modnes i tråd med verdiutviklingen generelt. Disse verdiene vil til dels være sammenfallende med de som uttrykkes i FNs bærekraftsmål nr. 16.

I denne sammenheng er vi imidlertid også opptatt av bærekraft i den forstand at reguleringen av området må skje på en slik måte at den står seg gjennom den stadig akselererende teknologiske utviklingen og skiftende trender i samfunnet. Det er viktig at det juridiske rammeverket for en så dypt- og vidtgående utvikling baseres på verdier som danner en solid ramme hvor teknologien kan utvikles innenfor i årene som kommer. I motsatt tilfelle vil reguleringen baseres på tidens trender innenfor digitaliseringsarbeidet.

Forvaltningen bør være der hvor de grunnleggende verdier og rettsprinsipper som rettsstaten og velferdsstaten bygger på blir ivaretatt. I digitalisering og utvikling av nye tjenester som digitale assistenter er ikke dette bare mulig. Det er også rom for å forsterke de prinsipper som samfunnet bør bæres av og hindre eller luke ut retninger som svekker disse verdiene.

Uansett form på den digitale assistenten trenger vi en juridisk ramme, som ivaretar rettssikkerheten for borgerne, tillit til forvaltningen og demokratisk kontroll. Når man har satt en juridisk ramme og definerer prinsipper en skal styre etter, vil mulighetsrommet være tydeligere.

Hvorfor jussen må sette rammene

Det er et uttalt mål å sette brukerne i sentrum. For mange betyr dette for eksempel at brukeropplevelsen skal være god, at vi må ha en hendelsesbasert arkitektur og data må innrapporteres én gang. Dette er krav som må ivaretas, men for å virkelig sette brukers interesse i sentrum er det andre prinsipper og verdier som også må tas med i vurderingen. Ikke minst å sikre at brukerens rettssikkerhet og samfunnets verdier ivaretas.

Det er flere prinsipper enn de som nevnes her, og flere hensyn som må tas. Hvordan disse prinsippene og hensyn skal veies opp mot strategier og politiske føringer, må diskuteres og utredes.

Lovgivningen henger ikke nødvendigvis med på de strategier og føringer som vedtas, og det er ikke heller sikkert at den bør det uten en større diskusjon på hvilke prinsipper og verdier som er viktig å ivareta. Tilliten til det offentlige er legitim. Det betyr samfunnsoppdraget er gitt i lov eller bevilgning fra Stortinget, og saksbehandlingen er lovregulert. Denne tilliten er viktig å ivareta fremover. Det er derfor viktig å sikre at de oppgavene som det offentlige gjør, og måten det gjøres på, har sin støtte i rettslige reguleringer. Dette innebærer at man i digitaliseringen må balansere rettslige reguleringer opp mot føringer som kommer for eksempel i Digitaliseringsstrategien, og sikre et samsvar. Det er en fare for at forvaltningen legger for mye vekt på overordnende strategier og politiske føringer, og ikke nok vekt på de rettslige prinsipper som er vedtatt i lov. Samtidig som at man i utarbeidelsen av strategier av vane fremmer momenter som «once only» og «hendelsesbasert arkitektur», i stedet for middel for å oppnå de verdier som rettstaten og velferdssamfunnet bygger på.

Som Broomfield og Reutter har identifisert, så faller gjerne deterministiske synspunkter og «hypen» knyttet til data-drevet praksis sammen når den skal brukes på politiske, komplekse og utfordrende områder, som offentlig forvaltning (Broomfield & Reutter (2021) Towards a Data-Driven Public Administration: An Empirical Analysis of Nascent Phase Implementation, Scandinavian Journal of Public Administration 25(2)).

Illustrasjon. To skåler på en vekt som består av lov, forskrift, rundskriv og politiske føringer, balanserer brukerens interesser i den ene skåla og brukervennlighet i den andre. Med tolv elementer i den første og tre elementer veier brukers interesser mer enn brukervennlighet.
Illustrasjon basert på en NAV-skisse: Den er ikke uttømmende, men ment som en illustrasjon over rettsprinsipper som skal ivareta borgers interesser kontra føringer som bør vektlegges.

Teknologien må understøtte våre verdier

Når en digital assistent kan innrettes på svært forskjellige måter og hjelpe eller bidra på veien til en løsning på en rekke områder bør det også være mulig å velge den måten og de områdene som er i tråd med våre verdier. Dette kan sees på som en utfordring, men vil også kunne bety en løsning som forsterker våre verdier. Vi må finne løsninger som forsterker rettsikkerhet samtidig som den ikke utfordrer personvern og demokratiske verdier. En digital assistent vil eksempelvis kunne være et godt hjelpemiddel i brukers kontakt med det offentlige. Dersom den i tillegg ikke lagrer de data som brukeren samler eller viser dataene til andre parter vil også personvern være ivaretatt.

Den lages fullstendig på brukers premisser, slik at det kun er bruker som ser og har tilgang til data og forslag som assistenten kommer frem til. Selv om bruker eier sine egne data, og har rett til å ta med seg data fra ulike private tjenestetilbydere, har det offentlige fortsatt et behov for å bruke og lagre data som ikke harmonerer med dette. En privat digital assistent kan komme i en “skvis” ved at den ikke kan love at data som benyttes kan slettes “overalt” der den er benyttet. Skal assistenten være begrenset til en “god” eller “etisk” hjelper som eksempelvis bare rapporterer korrekte opplysninger, eller skal den også kunne gi tips som kan oppfattes som illojale? Skal den hjelpe deg å maksimere hva du kan få ut av velferdsstaten eller skal den gi deg «et minimum»?

Hvem bestemmer hvilken informasjon som kan brukes? I hvor stor grad skal det offentlige ha tilgang til informasjon som oppstår ved at brukeren har tatt i bruk den digitale assistenten, og hvordan de eventuelt skal kunne bruke denne informasjonen? Dette er eksempler på spørsmål som må tas stilling til.

Hvis digital assistent skal ha gode etiske verdier, må vi definere hva som er etisk, og lovfeste et sett med etiske grunnprinsipper som digitale assistenter må følge. Her kan vi vise til de etiske prinsippene som løftes i Nasjonal strategi for kunstig intelligens2, med henvisning til det arbeidet som har pågått i EU.

Rettslige reguleringer

Dagens juridiske rammer, som for eksempel personopplysningsloven, offentlighetsloven, forvaltningsloven, arkivloven, sikkerhetsloven, etc. vil få anvendelse for utvikling og bruk av en digital assistent. Samlet sett gir imidlertid ikke dagens lovgivning en tilstrekkelig tydelig rettslig regulering av de kriteriene som må ligge til grunn for utvikling og bruk av en digital assistent.

For eksempel kan bruk av algoritmer utfordre forholdet mellom forskrift og enkeltvedtak. Videre vil forvaltningens bruk av algoritmer medføre at det blir fattet flere beslutninger av forvaltningen som kan ha eller har betydning for en innbyggers rettsstilling, uten at denne beslutningen etter forvaltningsloven regnes som et enkeltvedtak som innbygger har klagerett på.

Et eksempel på dette kan være dersom en digital assistent skal gi bruker en konkret og personlig veiledning. Dette vil sannsynligvis bygges slik at bruker blir plassert i en gruppe/segment som påvirker hvilken veiledning bruker får. Det går en grense for når slik veiledning vil ha direkte påvirkning på brukers rettigheter og plikter. I forlengelse av dette vil det oppstå spørsmål om når en slik plassering av innbygger i en gruppe i praksis bør være et enkeltvedtak som følger forvaltningslovens bestemmelser inkludert bestemmelsene om klageadgang. Dagens rettsregler bygger i stor grad på at innbygger tar initiativ til saksbehandling gjennom en typisk søknad. En personlig digital assistent kan raskt komme til å snu på dette dersom den skal opptre proaktivt overfor bruker, uten at det er grunnlag i gjeldende forvaltningslov.

Et annet eksempel er spørsmål om hvilke data som kan legges inn i en avansert algoritme, eller hvordan algoritmene skal vekte ulike hensyn.

Manglende regulering av de ovenfor nevnte eksemplene vil medføre at det i praksis er forvaltningen som tar beslutninger som tradisjonelt sett har blitt, og som kanskje fortsatt bør bli, tatt av lovgiver.

Dette er generelle og prinsipielle spørsmål som vil gjelde for all digitalisering av myndighetsutøvelse, herunder også for digitale assistenter. Disse spørsmålene bør derfor adresseres av lovgiver før hvert forvaltningsorgan starter en regelverksanalyse hvor det identifiseres behov for regelverksendringer innenfor sitt forvaltningsområde.

Med denne bakgrunnen samt tidsrammen av dette prosjektet har vi ikke ansett det som riktig at det i denne utredningen gjøres en analyse med tilhørende konkret anbefaling av rettslig regulering av dette området. I det følgende har vi derfor valgt å fremheve noen prinsipper og kriterier som vi mener det er viktig at lovgiver vurderer i det videre arbeidet. Prinsippene og kriteriene er ikke ment å være uttømmende, men ment som en eksemplifisering og anbefaling for et startpunkt for de diskusjonene som det er viktig å ta.

Et viktig perspektiv man må ta med seg er at teknologi ikke er nasjonal, den er global. Det globale perspektivet og samhandling på tvers av landegrenser er særskilt viktig når vi snakker om digitalisering på områder som er berørt av ulike folkerettslige forpliktelser, herunder særlig EU/EØS-rettslige forpliktelser. Det er følgelig nødvendig at rammer i form av lovregulering speiler dette, og det er naturlig at det er EU som er førende på regulering her.

EU-kommisjonen har nylig fremmet et forslag om regulering av bruk av KI-teknologi. Det er interessant å se dette forslaget opp mot pågående nasjonale norske lovgivningsprosesser. Et eksempel på dette er forvaltningslovutredningen hvor de ikke foreslo konkret regulering av bruk av KI-teknologi fordi det ble antatt at det var for tidlig å regulere denne teknologien. Vi finner det naturlig å ta utgangspunkt i de foreslåtte føringene i den videre juridiske vurderingen.

Risikobasert tilnærming

Når offentlige aktører skal ta i bruk mer personlige digitale assistenter mener vi at det er riktig å ha en risikobasert tilnærming og starte stegvis på de minst risikable områdene. Prinsippet om en risikobasert tilnærming bør vurderes lovfestet. Etter hvert som teknologien muliggjør at en slik assistent kan tas i bruk på en slik måte at verdiene og prinsippene som er beskrevet over blir ivaretatt på en tilfredsstillende måte, kan man så utvide anvendelsesområdet.

Det er to ulike perspektiver som må vurderes når en skal se på om et område egner seg til å bruke en digital assistent. Det første er informasjonen som den digitale assistenten skal bruke. Det andre er kriterier for vurderingen om området man ønsker å benytte en digital assistent på egner seg.

Under hvert av disse perspektivene har vi løftet en rekke kriterier som kan være et mulig utgangspunkt for en slik vurdering. Disse er verken uttømmende eller ment å uttrykke en prioritert rekkefølge.

Kriterier – informasjonsperspektivet

Kriteriene under dette perspektivet er generelle, uavhengig av hvilket område en vurderer å ta i bruk en digital assistent på. Det er nødvendig å vurdere disse for å sikre at datakvaliteten er god nok til at en kan bruke de i vurderinger, sikre dataflyten og at dataene er ferdig tolket av kilden.

Det er ønskelig at lovgiver vurderer om slike vurderingskriterier kan lovfestes slik at de forankres på riktig nivå, og forutberegnelighet for forvaltningen og innbygger sikres.

Mulige kriterier for vurdering av om et område egner seg for digital assistent – informasjonsperspektivet (borger)

Illustrasjon. Mulige kriterier innen informasjonsperspektivet for vurdering av om et område egner seg for digital assistent: datatilgjengelighet, sensitivitet, datakvalitet, entydig, populasjon, ID og fakta.
Illustrasjon basert på en NAV skisse: Den er ikke uttømmende, men ment som en illustrasjon på mulige kriterier og vekting.

Datatilgjengelighet (i liten grad kontra i stor grad) og datakvalitet

Det vil være mindre betenkelig å benytte en digital assistent på områder hvor behovet for data er begrenset i omfang. På disse er tilgangen til nødvendige data til stede i dag eller anses uproblematisk å få tilgang til gjennom for eksempel lovendring, og hvor vi er trygge på at kvaliteten på dataene er god.

Sensitivitet (sensitivt kontra ikke sensitivt)

Hvorvidt den personlige digitale assistenten er avhengig av å behandle sensitive opplysninger er et relevant element når en vurderer hvorvidt et område egner seg for en slik teknologi. Svaret trenger ikke være enten – eller, det vil være tilfeller hvor en personlig digital assistent kan anvende sensitive data for å gi fullstendig personlig tilpasset veiledning, mens den kan gi tilstrekkelig personlig veiledning uten bruk av sensitive data. I livshendelsen “starte bedrift” kan man bruke innbyggers helseopplysninger for å gi råd om valgte næringsområde er anbefalt, men assistenten kan også begrenses til å kun bruke opplysninger om innbyggers økonomiske situasjon for veiledningen.

Avhengig av tredjepart sine personopplysninger

En personlig digital assistent bør antakelig avgrenses mot å bruke en tredjeparts personlige opplysninger. Eksempelvis bør en personlig digital assistent i livshendelsen Starte bedrift kun gi veiledning bygget på brukerens egne data, og ikke på eventuell forretningspartners data. Det er lett å tenke at forretningspartnere kunne samtykket til at den andre partnerens digitale assistent kunne få bruke ens data i veiledningsformål. Bruk av samtykke fra den aktuelle forretningspartneren til et slikt bruk i en assistent tilbudt av offentlig forvaltning vil imidlertid reise en rekke vanskeligheter og uklarheter, som først bør vurderes når en førsteversjon av assistenten kun basert på brukerens egne data er utprøvd.

Kriterier – fagperspektivet

Disse vurderingskriteriene går på bruk av en digital assistent egner seg på et gitt forvaltningsområde. Enkelte områder oppleves som mer «personlige» enn andre, og hvor brukeren vil ha en større forventning og et større behov for å ha dialog med et menneske. På andre områder oppleves det som uproblematisk å møte det offentlige gjennom en digital assistent.

I denne vurderingen må det ikke bare tas hensyn til hvordan brukeren oppfatter møtet med det offentlige, men også hvordan området som sådan er. Er det stort sett rettigheter brukeren har eller er det også en stor mengde plikter på dette området? Er dette et område hvor konsekvensen av å gjøre feil kan være kritisk?

Mulige kriterier for vurdering av om et område egner seg for digital assistent – fargeperspektivet (borger)

Illustrasjon. Mulige kriterier innen informasjonsperspektivet for vurdering av om et område egner seg for digital assistent: risiko for digitalt utenforskap, rettigheter/plikter, inngrep, konsekvens av å gjøre feil, passivisering av bruker, kritikalitet, behovsprøvd, borgereffektivitet og forvaltningseffektivitet.
Illustrasjon basert på en NAV-skisse. Den er ikke uttømmende, men ment som en illustrasjon på mulige kriterier og vekting.

Konsekvens av å gjøre feil (kritisk kontra lite kritisk)

Bruk av en personlig digital assistent vil forutsette at det på forhånd blir gjennomført en konsekvensvurdering. Dersom konsekvensene av feil vurderes til å være store på et område, er dette et argument mot å bruke en personlig digital assistent på området. I det minste bør bruk på risikable områder avvente til teknologien først har vært utprøvd på mindre risikable felt, slik at man med større sikkerhet kan være trygg på at det er mulig å ta forholdsregler som reduserer risikoen til et akseptabelt nivå.

Passivisering av bruker (problematisk kontra uproblematisk)

Det bør vurderes om dette er et område hvor innbyggerne selv ønsker- og bør/ skal ha kontrollen over egen situasjon. Svaret på dette vil sannsynligvis være ulikt alt etter om man for eksempel snakker om sosialstønad, kontra barnetrygd. Det bør altså vurderes om bruk av en personlig digital assistent på et område vil medføre en uheldig passivisering av brukeren. Hva som skal anses som “uheldig passivisering” er noe som bør være gjenstand for en bred offentlig debatt - også på politisk nivå.

Det er en uttrykt politisk målsetning fra dagens regjering gjennom Digital agenda at brukerne skal få rettigheter de har krav på uten å måtte søke om det (Stortingsmelding nr. 27 (2015-2016) pkt. 6.2.). Det er i utgangspunktet et aktverdig mål, og hensikten er å forenkle innbyggernes liv samtidig som deres rettigheter og plikter ivaretas. Det bør likevel drøftes i hvor stor grad offentlig sektor skal tilrettelegge. Går det en grense hvor det blir tilrettelagt i så stor at innbygger mister oversikt over, ansvar for og kontroll over eget liv?

Plikt satt opp mot rettighet

Særlig på områder hvor bruker må utføre plikter er det viktig å sikre at bruker ikke blir passivisert jf. avsnittet over. Dette kan gjelde områder som er mer å anse som “rene” pliktområder – for eksempel når man skal betale restskatt, eller kombinasjoner – for eksempel dersom man har plikt til å gi opplysninger eller utføre handlinger for å få en rettighet.

Det et altså viktig at en personlig digital assistent kan bygges på en slik måte at bruker reelt sett må sette seg inn i sine plikter, før den tas i bruk på slike områder.

Risiko ved digitalt utenforskap

Selv om en personlig digital assistent må oppfylle krav om universell utforming, vil det uansett alltid være noen grupper som av ulike årsaker faller utenfor og ikke klarer å forholde seg til en slik teknologi. Dersom offentlig forvaltning tar i bruk personlig digital assistent på et område, må det sikres at også disse brukerne blir ivaretatt. Paradoksalt nok vil det bli slik at jo bedre, mer personlig og sikrere de digitale assistentene blir, jo større blir gapet mellom de som klarer å nyttiggjøre seg en slik tjeneste og de som ikke klarer det.

Virksomhetens mulighet til å ivareta også denne gruppen bør vurderes, herunder om det blir en uakseptabel ulikhet i tjenesten som blir tilbudt henholdsvis de som kan- og de som ikke kan forholde seg til en digital assistent. Hvor stor grad av ulikhet i tjenesten til de som kan forholde seg til ny teknologi og til de som ikke klarer det, kan vi akseptere som samfunn?

Oppsummering om juridisk samhandlingsevne

Sikker, god og gjennomtenkt bruk av digitale assistenter kan være et viktig bidrag til å opprettholde og bygge videre på den høye tilliten mellom borger og forvaltningen.

Illustrasjon. To store hender legger en sirkel og en firkant inntil hverandre.

For å oppnå dette på en god måte anbefales det at man starter med å ta opp de store tverrgående og prinsipielle spørsmålene som er løftet i dette kapittelet, slik at lovgiver først får anledning til å ta stilling til om dette er forhold som bør lovreguleres i felles regelverk.

Ved å starte med dette kan det unngå at ulike forvaltningsorganer hver for seg må sette egne kriterier for hvordan de skal ta stilling til disse spørsmålene. En slik tilnærming vil kunne bidra til at flest mulig forhold blir sett og vurdert slik at vi kan unngå utilsiktede uønskede konsekvenser, og at eventuelle ulikheter i digitale tilbud er gjennomtenkte og bevisste, framfor at de er mer tilfeldige utslag av ulik vektlegging av ulike hensyn.

Samtidig vil denne tilnærmingen kunne bidra til å hindre at det i mangel av felles regulering, blir fremmet tilsynelatende gode forslag til regelverksendring i særlovgivningen for å muliggjøre ulike utviklingsprosjekter, uten at det blir en naturlig anledning for lovgiver å kunne se og vurdere hvordan de ulike løsningene i sum vil påvirke borgerne og samfunnet.

Videre er det viktig å starte med de områdene som etter en tidlig evaluering framstår som minst risikable. Da er det viktig å ha med at erfaringer fra annet digitaliseringsarbeid har vist at selv antatt enkle tiltak har vært utfordrende å utvikle i tråd med gjeldende regelverk.