En dommer brukte et KI-verktøy i arbeidet med en dom. Ett søk ble liggende igjen i selve domsteksten: «Jeg vil at du skal søke etter en sivil sak, der en part som har fri sakførsel har vunnet, og de staten ble tilkjent sakskostnader» (sic). Dommen, som inneholder en rekke helseopplysninger, ble avsagt av Vestoppland og […]
En dommer brukte et KI-verktøy i arbeidet med en dom.
Ett søk ble liggende igjen i selve domsteksten:
«Jeg vil at du skal søke etter en sivil sak, der en part som har fri sakførsel har vunnet, og de staten ble tilkjent sakskostnader» (sic).
Dommen, som inneholder en rekke helseopplysninger, ble avsagt av Vestoppland og Valdres tingrett 7. september.
Den gjelder en yrkesskadesak som ligger ute på Lovdata, en norsk database med lover, forskrifter og rettsavgjørelser.
Les også: Datatilsynet advarte Norge mot «chat control». Ble overkjørt
Svarer ikke på personvernspørsmål
Tingrettsdommer Knut Aleksander Lahelle Rabl-Vøien står bak dommen.
I en uttalelse skriver han til Subjekt at han har skrevet hele dommen selv.
Han forklarer at han søkte i Lovdata pro 2 etter rettskilder, blant annet i forbindelse med sakskostnadsavgjørelsen. Det er dette søket som ved en feil ble stående i dommen.
– Det er et rent arbeidsuhell at søketeksten har kommet med i dommen, skriver dommeren.
Han påpeker at dommen ikke er rettskraftig. Ankefristen går ut i begynnelsen av oktober.
Subjekt spurte også om sensitive personopplysninger som journalnotater, diagnoser og lignende ble lagt inn i et KI-verktøy. Det svarte ikke dommeren på.
Les også: Meta og Facebook vant mot Datatilsynet
Verktøyet forbyr personopplysninger som input
Lovdata pro 2 er ikke en vanlig søkemotor.
Søket bygger på RAG-teknologi, som kombinerer søk i Lovdatas databaser med store språkmodeller som lager svar ut fra søkeresultatene.
Lovdata tar selv forbehold. Ifølge selskapet hender det at systemet gir feil eller misvisende svar.
Deres egne regler slår fast at «særlige kategorier av personopplysninger skal ikke legges inn som input i KI-tjenestene».
Forskere ved UIO testet tjenesten i fjor. De konkluderte med at potensialet er der, men at KI-søket ikke er helt klart til bruk.
Les også: Dette lærte jeg av å forsøke meg på UIOs kurs om desinformasjon
Kan være alvorlig, sier Datatilsynet
Datatilsynet mener domstolene må være ekstra påpasselige med KI.
– Vi må vite at verktøyene som brukes ikke inneholder bias som kan påvirke dommeren, og at det gis en komplett og riktig fremstilling av rettskildene, sier juridisk spesialrådgiver Jan Henrik Mjønes Nielsen til Subjekt, og fortsetter:
– Vi må være sikre på at verktøyene gir riktig veiledning, og at det finnes rutiner for å kvalitetssikre svaret.
Dommen inneholder dessuten journalnotater og opplysninger om diagnoser og en hjerneskade hos saksøker.
– Hvor alvorlig er det dersom sensitive helseopplysninger fra en rettssak legges inn i et KI-verktøy?
– Det kommer an på hvilket verktøy og hvordan opplysningene behandles. Det er viktig å være bevisst på anskaffelsen av systemet og hvordan det er designet, sier han.
Tilsynet varsler ingen egen oppfølging.
– At det er brukt en språkmodell til å belyse et juridisk spørsmål, er ikke nødvendigvis en sak Datatilsynet vil følge opp, sier Nielsen.
