Digitaliseringsrådets anbefalingsbrev Likestillings- og diskrimineringsombudet: KI redegjørelser

Pilotarbeidet har gitt LDO verdifulle erfaringer og et godt grunnlag for videre utvikling. Samtidig er antallet tilsynsobjekter så stort at selv effektiviseringsgevinster i dagens løsning bare vil gi en begrenset økning i oppfølgingskapasiteten.

For å realisere det fulle potensialet i KI bør teknologien ses i sammenheng med virksomhetens samlede oppgaver og mål, fremfor å være avgrenset til effektivisering av enkeltprosesser. Det tilsier behov for en mer helhetlig og strategisk tilnærming til bruk av KI i LDO. Kan bruken av KI endre behovet for redegjørelser? Kan bruken av KI binde sammen regelverksrollen, tilsynsrollen, veiledningsrollen og pådriverrollen?

La piloten være utgangspunktet for en bredere satsing på bruk av KI i LDO. Tenk stort, start smått.

Vi anbefaler at LDO prioriterer videre arbeid med følgende temaer:

• Beskriv framtidsbildet ved bruk av KI
  • Utvikle et tydelig framtidsbilde for hvordan KI kan bidra i virksomhetens oppgaver, herunder tilsyn, veiledning, kunnskapsutvikling og påvirkningsarbeid.
  • Tydeliggjør hvilke oppgaver og roller som bør løses internt, og hvilke som kan løses i samarbeid med andre aktører.
  • Bruk metodikk som f.eks tjenestedesign for å utforske mulighetsrommet.
  • Involver tilsynsobjekter, leverandører og eventuelt andre relevante aktører, gjerne gjennom markedsdialog. Det gir verdifull innsikt i behov, utfordringer og muligheter og kan bidra til bedre løsninger og mer målrettet bruk av ressurser.
• Bruk KI som virkemiddel for å utvikle virksomheten og departementet
  • Forankre ønsket framtidsbilde i virksomhetsstyringen og i hele organisasjonen, slik at satsingen blir en del av prioriteringer, ressursbruk og videre utvikling av LDO.
  • Forankre ambisjonene for satsingen med departementet. Det vil skape en felles forståelse av forventet samfunnsnytte og et bedre grunnlag for prioriteringer og videre finansiering.
• KI kan styrke risikobasert tilsyn/kontroll
  • En styrke ved KI er at teknologien kan samle, sammenstille og analysere store mengder informasjon. Vi anbefaler at dere utforsker hvordan KI kan legge grunnlag for en mer målrettet og risikobasert tilnærming, der ressurser prioriteres ut fra hvor sannsynligheten for avvik eller konsekvensene av manglende etterlevelse er størst.
• Legg til rette for ansvarlig bruk av KI
  • Beskriv hvordan dere skal sikre etterprøvbarhet, faglig kontroll og nødvendig fagkompetanse når KI tas i bruk i analyse- og vurderingsarbeid. Bygg videre på LDOs kompetanse på området for å utvikle og fremme ansvarlig bruk av KI.
  • Beskriv hvordan samspillet mellom de ansatte og KI skal fungere i praksis. Løsningen dere nå utvikler, bør utformes slik at analyser og vurderinger enkelt kan forstås, kontrolleres, korrigeres og godkjennes av ansatte.

Gevinster fra digitalisering oppstår ikke av seg selv. Det er derfor avgjørende å arbeide systematisk med å identifisere og realisere nytte. Systematisk nyttestyring er en forutsetning for gevinstrealisering som også mindre virksomheter må ha fokus på. Det forutsetter også en smidig tilnærming, der løsninger utvikles trinnvis, og hvor prioriteringer og tiltak justeres fortløpende basert på erfaringer og oppnådde effekter.

LDO har gjennom pilotarbeidet identifisert mulige gevinster ved bruk av KI. Framover blir det viktig å tydeliggjøre hvilke effekter dere ønsker å oppnå og bruke det som grunnlag for prioriteringer og veivalg.

Digitaliseringsrådet anbefaler dere å:

• beskrive hvilken nytte tiltaket skal gi for både LDO, virksomhetene og samfunnet. Ta utgangspunkt i framtidsbildet som er utviklet og forankret i organisasjonen.
• etablere tydelige beslutningsstrukturer og ansvarslinjer for prioritering, oppfølging og realisering av nytte. Det bidrar til at tiltaket styres etter ønsket nytte og at nødvendige veivalg tas på riktig nivå i virksomheten.
• fortsette å eksperimentere og lære underveis, slik at virksomheten står bedre rustet til å håndtere den raske teknologiutviklingen.
• bruke DFØ sin nye veileder i arbeidet med nyttestyring.

Norge står i en økonomisk situasjon hvor det er begrensede muligheter for å få nye midler til utviklingsinitiativer. Samtidig øker forventningene til digitalisering og bruk av KI i offentlig sektor. Derfor er det viktig at ressursene brukes der de gir størst effekt innenfor eksisterende rammer.

For små virksomheter vil videre utvikling og skalering av KI-løsninger i stor grad handle om omprioritering, samarbeid, gjenbruk og kompetanseutvikling snarere enn tilgang til nye midler. I arbeidet med KI blir det derfor viktig å ivareta virksomhetens handlingsrom gjennom bevisste valg knyttet til eierskap, prismodeller og leverandøruavhengighet.

Utviklingen på KI-området går raskt. Løsninger bør derfor utformes slik at de kan videreutvikles over tid, at teknologi enkelt kan skiftes ut, og at nye modeller kan tas i bruk uten omfattende ombygging eller avhengighet til enkeltleverandører.

Vi anbefaler at dere:

• tar utgangspunkt i framtidsbildet og nytten som skal oppnås. Skisser hvordan ønskede effekter kan realiseres over tid, inkludert KI redegjørelser.
• sikrer at virksomheten beholder eierskap og kontroll over egne data, faglige kriterier og arbeidsflyt-konfigurasjoner, slik at løsningen kan videreutvikles og tilpasses over tid.
• synliggjør overfor departementet kostnader, forventede gevinster, samfunnseffekter og risiko for å skape en felles forståelse av ambisjonsnivå, prioriteringer og behov for videre finansiering.

Utviklingen innen KI skjer raskt og gir nye muligheter for hvordan oppgaver kan løses. Med utgangspunkt i arbeidet med framtidsbildet bør LDO benytte anledningen til å våge å tenke nytt om oppgaver, kompetanse og arbeidsformer.

Vi anbefaler at dere bygger nødvendig kompetanse, søker samarbeid der det er hensiktsmessig, og har en kultur som legger til rette for læring, eksperimentering og kontinuerlig utvikling.

Flere av problemstillingene LDO står overfor, er ikke unike. Andre tilsyns- og kontrollmyndigheter har over tid utviklet metoder for å håndtere store datamengder, prioritere mellom mange tilsynsobjekter og bruke risiko som grunnlag for ressursbruk.

Vi anbefaler dere spesielt å ta kontakt med Finanstilsynet som over flere år har arbeidet systematisk med å utvikle et mer datadrevet og risikobasert tilsyn gjennom bedre rapporteringsløsninger, økt bruk av data og mer avanserte analysemetoder. LDO kan lære av erfaringene de har gjort.

Erfaringene fra Finanstilsynet illustrerer verdien av å lære av en virksomhet som har kommet lenger i bruk av data og KI. Samtidig mener vi at LDOs videre utvikling ikke bør begrenses til læring fra enkeltvirksomheter. Flere av utfordringene LDO står overfor, er felles på tvers av offentlig sektor. Det gir gode muligheter for samarbeid om kompetanse, metoder, data og løsninger.

Samarbeid kan redusere behovet for å utvikle alt selv. Det kan gi tilgang til relevante fagmiljøer og bidra til at løsninger og kunnskap kommer flere virksomheter til gode. Et mer operativt og formalisert samarbeid, for eksempel gjennom et KI-faglig nettverk med andre tilsyns- og forvaltningsvirksomheter, kan øke egen kompetanse, styrke rekruttering og redusere sårbarhet knyttet til turnover.

Vi anbefaler at dere:

• tar initiativ til arenaer, eller benytter eksisterende arenaer, for erfaringsdeling om KI i offentlig sektor. Samarbeid kan også åpne for felles søknader om finansiering og deling av utviklingskostnader.
• benytter eksisterende støtte-, fag- og veiledningsmiljøer i offentlig sektor for å få tilgang til erfaringer, metodikk og kompetanse som kan redusere risiko og styrke arbeidet. Noen tips:
  • DFØs markedsplass for skytjenester
  • Digitaliseringsdirektoratets veiledning for anskaffelse av generativ KI
  • Veilederen «KI-assistenter i arbeidslivet – en praktisk guide»
  • Prosjektveiviseren
  • KI Norge
  • relevante forsknings- og fagmiljøer som SimulaMet

Samarbeid bør være gjensidig. LDO kan hente kompetanse om dataanalyse, KI og teknologiplattformer fra andre virksomheter, samtidig som dere bidrar med fagkompetanse om likestilling, diskriminering og rettssikkerhet. Slik kan samarbeid styrke både LDO og andre aktører.

LDO har tidligere tatt initiativ overfor departementet for å vurdere alternative måter å innhente informasjon på, uten å lykkes. Utviklingen innen datadeling, KI og arbeidet med å redusere rapporteringsbyrden kan imidlertid endre forutsetningene for den diskusjonen.

Arbeidet og erfaringen dere har med piloten, gir et godt grunnlag for å ta et nytt initiativ om hvordan regelverk, rapportering og oppfølging kan utvikles i lys av politikken på området og KI som et verktøy.

Vi anbefaler at dere:

• bruker erfaringene fra piloten til å synliggjøre overfor departementet hvilke regelverksendringer, datadelingsmuligheter og teknologiske grep som kan bidra til enklere rapportering for tilsynsobjektene, mer automatisert oppfølging og en mer treffsikker bruk av ressursene.
• viser dem hvilke muligheter som ligger i KI når rammene endres.