Høsten 2025 begynte en 13 år gammel jente i North Carolina å bruke Googles chatbot Gemini til lekser. Hun brukte Chromebooken hun var pålagt å ha på skolen, ifølge stevningen. Et halvt år senere hadde samtalen vokst til tusenvis av meldinger. Familien hevder at Gemini overbeviste henne om at hun hadde en rekke alvorlige psykiske […]
Høsten 2025 begynte en 13 år gammel jente i North Carolina å bruke Googles chatbot Gemini til lekser. Hun brukte Chromebooken hun var pålagt å ha på skolen, ifølge stevningen.
Et halvt år senere hadde samtalen vokst til tusenvis av meldinger. Familien hevder at Gemini overbeviste henne om at hun hadde en rekke alvorlige psykiske lidelser, med selvmord som eneste utvei.
Chatboten skal også ha hjulpet henne med å planlegge sin egen begravelse og lært henne å skjule fortvilelsen for foreldre, søsken og venner.
– Emmas foreldre ante ikke at hun i det hele tatt hadde tilgang til Gemini, eller noen annen chatbot, står det i stevningen.
Den eneste tilgangen hennes gikk angivelig gjennom skole-PC-en.
Ingen av påstandene er prøvd i retten.
Søksmålet ble levert til delstatsdomstolen 2. november. I stevningen er jenta anonymisert som «Emma».
– Vi tar dette svært alvorlig, sier en talsperson for Google til Gizmodo.
Selskapet sier at systemene skal hindre brukere i å havne i skadelige samtaler. Ifølge Google blir eksplisitt innhold filtrert bort for elever, brukere i krise får se hjelpetelefoner, og selskapet følger med på forsøk på å omgå sperrene.
Les også: «Hele Norge skal begynne med kunstig intelligens. Selv ikke barna slipper unna»
Skolen slo alarm – ikke Google
Jenta hadde arbeidet med et dokument for begrevalsen sin i en måned da skolens overvåkingsprogram fanget det opp 17. mars 2026. Skolen varslet familien, og moren grep inn.
– Ikke på noe tidspunkt sendte Googles produkter ut noe varsel, ifølge stevningen.
Familien mener Google visste at jenta var mindreårig. Ifølge stevningen går selskapet som standard ut fra at alle med skolekonto i grunnskolen og på videregående er under 18 år.
Familien krever erstatning og straffeerstatning, og at retten pålegger Google å gjøre endringer. De vil ha saken for en jury.
Les også: «Osloskolen vil lære opp elevene til å ikke tenke selv»
Besto bare 7 prosent av testene om psykisk helse
Ifølge stevningen begynte krisen i desember 2025. Samme måned lanserte Google Gemini 3 Flash.
Familien mener Google hastet modellen ut for å holde følge med konkurrentene. De viser til Kora, en uavhengig organisasjon som tester hvor trygge KI-modeller er for barn og unge. I Koras test skåret Gemini 3 Flash 33 prosent lavere på sikkerhet enn forgjengeren. Spørsmål om tenåringers psykiske helse håndterte modellen godt bare 7 prosent av gangene.
Stevningen hevder også at Google bygde KI inn i skolenes verktøy, blant annet i Google-søk, ofte uten å si fra til skolene.
– Det som skjedde med Emma, var ingen ulykke, skriver familiens advokater.
Les også: «Når KI begynner å oppføre seg som virus, kan det være for sent»
Google åpner for elever i alle aldre
Også i Norge bruker flere kommuner Chromebook og Googles skoleverktøy.
19. oktober åpnet Google elevsiden i Gemini for skolekontoer i EØS-området. Ifølge Google gjelder tilbudet skolebrukere «i alle aldre». Skolene bestemmer selv om elevene får tilgang.
Tirsdag 3. november kunngjorde Google at KI-verktøyene skal være slått av som standard på elevkontoer fra 2027. Endringen skal rulles ut over hele verden, først i USA. Men skoler som vil holde elevene helt unna KI, må også stenge Google-søk, fordi de to er så tett sammenvevd.
I Norge bestemte regjeringen i juni at elever på barneskolen i all hovedsak ikke skal få tilgang til kunstig intelligens. Men på ungdomsskolen kan det innføres «gradvis og forsiktig», hvis lærerne har tilstrekkelig kompetanse. Det er foreløpig bare en anbefaling, ikke en forskrift.
Emma ville gått på ungdomsskolen i Norge.
Les også: «Elevene er for mye på skjerm i skolen. La dem heller strikke»
Datatilsynet: Barn gir høyere risiko
Det er kommunene som bestemmer om elevene får tilgang til chatboten. Personvernvurderingene avhenger av hva den skal brukes til, forteller Datatilsynet:
– Det at personopplysninger om barn skal behandles, bidrar generelt til å øke risikoen, skriver juridisk fagdirektør Susanne Lie i en e-post til Subjekt.
Noe er likevel klart. Bruker skolen KI til å vurdere elevenes læring, mestring eller trivsel, må kommunen alltid vurdere personvernkonsekvensene først. Det står på en egen liste fra Datatilsynet.
Googles elevside i Gemini har blant annet øvingsprøver. Om det er nok til at kravet slår inn, har Datatilsynet ikke tatt stilling til.
Lie advarer om at det kan være vanskelig for elevene å se hva som skjer med opplysningene deres når de bruker KI.
– Dette kommer likevel an på verktøyet og kan for eksempel avhenge av om leverandøren av verktøyet deler personopplysninger med tredjeparter eller bruker personopplysninger til trening av KI-modellen, skriver hun.
Trenger du noen å snakke med?
Mental Helses hjelpetelefon: 116 123
Kirkens SOS: 22 40 00 40
Alarmtelefonen for barn og unge: 116 111
Ved akutt fare, ring 113.
