Influenseren Aitana Lopez har 133.000 følgere på Instagram og tjener mellom 3.000 og 10.000 dollar i måneden. Men Aitana eksisterer kun på skjermen.
Det er det spanske byrået The Clueless Agency som står bak Aitana. Grunnleggeren av firmaet Rubén Cruz, forteller til Euro News at ideen kom i fjor sommer, da det skortet på kunder.
Ofte ble prosjekter satt på vent eller avblåst på grunn av utfordringer med influensere eller modeller. Nå møtes byrået en gang i uken og blir enige om hva Aitana skal gjøre, hvilke konserter hun skal gå på og hva hun skal dele fra sitt liv som kunstig influenser. Suksessen har inspirert byrået til å lage enda en influenser kalt Maia.
Men det ser ikke ut til å ringe i noen etiske bjeller hos The Clueless Agency når de skaper falske personer som utgir seg for å være ekte. Aitana er lettkledd, seksualisert og ofte urealistisk perfeksjonert. Kjøper man tilgang til Aitanas private kanaler, får man dessuten se henne uten en eneste KI-generert tråd.
Slike kunstige modeller kan bidra til urealistiske forventninger om eget og andres utseende blant unge. Særlig når det ikke oppgis at bildene er falske. Aitana har på få måneder vervet over 133.000 følgere, og det er neppe på grunn av interessante bildetekster.
Les også: KI kommer for å ta oss. Det er bare å åpne armene!
Bekymringsløs bruk av KI
På nettet florerer det med KI-generert innhold, og det blir stadig vanskeligere å skille det virkelige fra det genererte.
Falskt innhold brukes i propaganda i krig og i markedsføring for norske bedrifter. Som da Sparebank 1 Østlandet brukte et KI-generert ansikt i en sparekampanje og med overlegg unnlot å oppgi at mannen på bildet ikke eksisterte.
KI-juks er med andre ord ikke bare et spansk problem. Sparebank 1 Østlandet er bare én av flere norske bedrifter som bekymringsløst velger å gi jobber som skulle gått til fotografer og illustratører, til dataprogrammer som er trent opp på arbeidene til nettopp fotografer og illustratører.
Nylig rapporterte TV2 at den ideelle organisasjonen Dråpen i havet har brukt et KI-generert bilde av barn i en flyktningleir som feirer Halloween. For å skåne de virkelige barna. Både digitaliseringsminister Karianne Tung og KI-forsker Inga Strümke applauderer kampanjen, og mener det er god bruk av kunstig intelligens. Her har man både spart de ekte barna for eksponering og merket bildet som KI-generert. Man har ikke prøvd å lure noen. Som Inga Strümke sier: «Velkommen til fremtiden. Dette er bare å venne seg til.»
Men selv om bildet er merket som skapt med kunstig intelligens, fordreier denne typen innhold virkeligheten og gir oss falske inntrykk av hvordan verden ser ut. Teksten i hjørnet er det heller ikke nødvendigvis gitt at man får med seg når man skroller gjennom nyhetsstrømmen. Vi bruker som kjent bare sekunder på hvert innlegg, og er det noe vi husker fra strømmen av innhold, er det kanskje heller bildet og budskapet enn notisen om hvordan bildet ble til.
Les også: Kunstig intelligens kan knuse karakterskalaen
Bilder mister sin verdi
På spørsmål om hvorfor influenseren Aitana er så lettkledd, svarer byrået at de responderer på en estetikk som allerede er etablert av merker og influensere.
De anser seg som et symptom på en allerede eksisterende kultur. Til sammenligning virker det som at enkelte norske bedrifter anser det som deres ansvar å bruke KI på en etisk forsvarlig måte. Men etter en tid med oversvømmelse av falskt innhold kan visuell kommunikasjon miste slagkraft. Vi mister tillit til det vi ser når vi ikke lenger kan skille mellom det falske og det ekte.
Dessuten blir innholdet ofte generisk, stereotypisk og kjedelig siden modellene reproduserer materiale som allerede eksisterer. Det kommer til å bli en kjedelig visuell fremtid om vi velger å ofre de flinke folkene til fordel for kunstig intelligens og prompt-skrivere. De er bekymringsfullt å se at store bedrifter glemmer de etiske aspektene.
Oppsidene er store, skal vi tro KI-optimistene. Men det er ofte én ting som glemmes når man sammenligner kvantespranget vi står oppe i, med den industrielle revolusjon, og hevder at selv om kostnaden er stor, vil gevinsten være større: Tidligere teknologiske nyvinninger ble ikke allemannseie over natta.
Nå kommer enormt kraftige verktøy på løpende bånd og havner rett i lommene våre. Vi bør med andre ord være svært forsiktig med hva vi tillater av bruk av kunstig intelligens redaksjonelt og i markedsføring, uansett hvor god intensjonen er.
Dette er tross alt segmenter vi kan regulere.
