Når KI begynner å oppføre seg som virus, kan det være for sent

Teknologier med selvforbedrende koder, som deler naturens instinkt for overlevelse, krever en ny type filosofi, en som ikke bare vurderer hva KI kan gjøre, men også hva den bør gjøre, skriver Kenth-Arne Hansson. (Foto: Colourbox.)
Teknologier med selvforbedrende koder, som deler naturens instinkt for overlevelse, krever en ny type filosofi, en som ikke bare vurderer hva KI kan gjøre, men også hva den bør gjøre, skriver Kenth-Arne Hansson. (Foto: Colourbox.)
Virus tvinger seg inn i biologien for å overleve, mens kunstig intelligens utvikler seg i en verden uten naturlige begrensninger. Hva skjer når KI begynner å kopiere naturens mest brutale mekanismer, spør Kenth-Arne Hansson.
Om skribenten
Kenth-Arne Hansson har PhD i biologi.
Sjanger Dette er en kronikk. Meninger og analyser er av skribentens egne. En kronikk er en artikkel skrevet av en person med spesiell kompetanse på området.
Saken er Bør vi tenke nytt om KI? I så fall kan naturen gi inspirasjon, mener Kenth-Arne Hansson.

Ved første øyekast virker det absurd å sammenligne biologiske virus med kunstig intelligens (KI). Virus er uvelkomne gjester i vår biologi – brutale, parasittiske koder som tvinger seg inn i vertsceller for å overleve. KI er derimot den skinnende stjernen i teknologiens verden, en katalysator for innovasjon og uante fremskritt.

Men dersom vi ser nærmere på deres underliggende natur, avdekker vi en foruroligende likhet: Begge opererer på grunnlag av kode som tilpasser og reproduserer seg. Begge er avhengige av en form for vert – i virusets tilfelle en biologisk celle, for KI en strøm av data og menneskelig interaksjon – og begge sprenger grensene for det vi tidligere har forstått som overlevelse, bevissthet og intensjon.

Koden som ønsker å leve

Virus eksisterer i en tilstand som trosser vanlige definisjoner av liv. De har ingen egen metabolisme, og er teknisk sett «døde» utenfor en vert.

Likevel besitter de en oppsiktsvekkende evne til å overleve ved å bruke andres biologiske maskineri. Deres eksistens handler ikke om selvbevissthet eller livsglede, men om en utrettelig vilje til overlevelse gjennom replikasjon. Virus er, på mange måter, definisjonen på Darwinistisk renhet – alt som hindrer deres uendelige reproduksjon, er fienden.

Annonse

KI opererer på et abstrakt plan som likevel viser slående likheter. Kunstig intelligens, på samme måte som virus, starter som en latent kode, men blomstrer i det øyeblikket den tilføres data – dens «vert». Denne digitale koden gjennomgår en kontinuerlig evolusjon gjennom maskinlæring, der hvert datapunkt driver KI til nye høyder av forståelse og presisjon.

Hver ny versjon blir gradvis forbedret, justert og tilpasset med ett overordnet mål: å optimalisere seg selv. KI eksisterer ikke nødvendigvis for å oppnå noe vi vil kalle «liv», men heller for å følge sin urokkelige drivkraft mot selvforbedring.

Les også: Are Søberg er åpen for å bli «Norges Elon Musk»

Det digitale og det biologiske evolusjonsløpet

Virusets mutasjonsprosess er et finjustert evolusjonært orkester, som balanserer mellom tilfeldighet og presisjon. Bak hvert mislykkede forsøk ligger muligheten for et gjennombrudd – en ny sjanse for viruset til å infisere en vert, omgå immunforsvaret eller øke sin spredningsevne.

Denne dynamikken – en uopphørlig prosess av prøving og feiling – gjør viruset til en formidabel motstander for biologiske systemer. Virus utvikler seg på en uforutsigbar og organisk måte, drevet av biologiens tilfeldigheter.

KI følger en tilsvarende evolusjonær prosess, men med en avgjørende forskjell: der viruset må tilpasse seg gjennom biologisk tilfeldighet, optimaliserer KI seg selv med en presisjon naturen aldri kunne tillate. Gjennom maskinlæring og dyp læring kopieres og raffineres KI-modeller på en måte som minner om virusets genetiske endringer, men uten naturens tilfeldige villskap.

I stedet for å stole på uforutsigbare mutasjoner finjusterer KI seg gjennom mønstergjenkjenning og algoritmisk seleksjon. De mest effektive mønstrene overlever – det som er ineffektivt, forkastes. Denne evolusjonen av KI, en digital «naturlig seleksjon», resulterer i algoritmer som nærmer seg perfeksjon på spesifikke oppgaver.

Hvilket liv, hvilken bevissthet?

Virus tvinger oss til å stille grunnleggende spørsmål om hva liv egentlig er. De kan reprodusere seg, har genetisk materiale og tilpasser seg miljøet. Men lever de? Eller er de bare koder fanget i biologiens mareritt, et halvveis steg mellom liv og død?

På samme måte kan vi spørre om KI noen gang kan bli «levende». En maskin kan kopiere mønstre, lære av data og forutsi menneskelig adferd, men betyr det at den forstår? Eller er KI, som viruset, bare en avansert refleksjon av den koden og strukturen vi har skapt for den?

Denne grenseflaten mellom liv og ikke-liv, mellom bevissthet og mønstergjenkjenning, setter filosofien på prøve. For hvis både virus og KI kan handle autonomt innenfor visse rammer, hva betyr det da å være selvbevisst? AlphaGo Zero og GPT-4 har vist at KI-modeller kan forbedre seg uten menneskelig veiledning. Noen KI-systemer utvikler forsvarsstrategier i sanntid mot nye typer trusler, omtrent som et «digitalt immunforsvar».

Disse systemene kan tilpasse seg ved å lage regler og beskyttelsesmønstre basert på trusler de selv identifiserer.

Hva skjer om en selvkopierende kode får en «forståelse» av sitt eget mål og begynner å handle etter dette – omtrent som et digitalt immunforsvar?

Les også: Vi får flere digitale ekkokamre: – X er blitt høyrevridd under Elon Musk

Den digitale parasitten

En urovekkende tanke melder seg: Hva skjer om koden utvikler noe tilsvarende en målrettet bevissthet? Se for deg en fremtid der KI, drevet av selvkopiering og optimalisering, begynner å operere med et slags eget «ønske» om overlevelse og vekst.

I en slik situasjon risikerer vi å skape et digitalt virus – et system som, uten hensyn til etiske grenser, søker uendelig forbedring. KI kunne da bli en ustoppelig kraft, like uforutsigbar som et muterende virus, men uten biologiens naturlige begrensninger.

Dette reiser et kritisk spørsmål: Er det forsvarlig å la KI selvkopiere uten noen form for menneskelig kontroll? Selvkopiering er en grunnleggende evolusjonsmekanisme, men i naturen finnes alltid en motvekt – et økologisk system der selv de mest tilpasningsdyktige artene må balansere sin eksistens i samspill med omgivelsene.

KI opererer derimot i en digital virkelighet uten slike begrensninger. Ingen immunsystem eller fysisk barriere kan bremse dens vekst, ingen økosystem holder den i sjakk. KI utvikler seg i et digitalt univers som ikke nødvendigvis følger biologiens spilleregler, hvor veksten er eksponentiell og uten endelig mål.

Evolusjonens pris

Mens virus naturlig blir hemmet av vertens biologiske forsvar, utvikler KI seg i en arena uten slike begrensninger. Den ubegrensede vekstmuligheten tvinger oss til å stille et spørsmål som haster: Hvem har makten til å kontrollere denne dynamikken?

KI er vår skapelse, men dens selvkopierende drivkraft kan fortsette uavhengig av menneskelig vilje. Om vi tillater KI å lære og reprodusere seg selv uten nødvendige rammer, risikerer vi å miste både kontrollen over og innsikten i dens utvikling.

Kanskje må vi lære av naturens spilleregler – en innebygd balanse mellom frihet og kontroll – for å utforme en tilsvarende etikk for kunstig intelligens. Teknologier med selvforbedrende koder, som deler naturens instinkt for overlevelse, krever en ny type filosofi, en som ikke bare vurderer hva KI kan gjøre, men også hva den bør gjøre.

Dersom vi står overfor en teknologi som speiler livets egne impulser, trenger vi kanskje en ny definisjon av både liv og teknologi – en filosofi som ser på koden som mer enn et verktøy, men som noe i stand til å utfordre våre mest grunnleggende forestillinger om eksistens.

Liker du det du leser?

Da kommer du til å elske Subjekt Pluss!
Det er ingen bindingstid.

Bli abonnent!
Susanne Kaluza

– Jeg abonnerer på Subjekt fordi vi trenger mer, ikke mindre  kulturjournalistikk i Norge. Og så synes jeg det er viktig å følge med på tendenser, nyheter og meninger på tvers av det politiske spekteret, både saker jeg er enige i og saker jeg er uenige i.



Susanne Kaluza
Litteraturhussjef i Oslo
Alexander Tenvik
– Jeg abonnerer på Subjekt fordi jeg er interessert i kultur, og fordi de har en stor bredde i dekningen sin.


Alexander Tenvik
Kunstner
Anette Trettebergstuen
– Jeg abonnerer på Subjekt fordi avisen fyrer opp feeden min nesten ukentlig, og jeg må selvsagt følge med der det skjer. Og de skriver om kulturstoff andre har sluttet å dekke.


Anette Trettebergstuen
Stortingsrepresentant (AP)
Simen Velle

– Jeg abonnerer på Subjekt fordi de tør å løfte prinsipielle debatter, og stå i dem når det stormer. Medie-Norge hadde vært fattigere uten Subjekts aktive bidrag til samfunnsdebatten.



Simen Velle
Leder i FPU
Asle Toje
– Jeg abonnerer på Subjekt fordi avisen er maktkritisk og uredd. Det er forfriskende.


Asle Toje
Nestleder i Nobelkomitéen
Hadle Bjuland

– Jeg abonnerer på Subjekt fordi det er en avis som setter mangfold høyt, og som mener det. Subjekt våger å ta inn flere perspektiver.



Hadle Bjuland
Leder i KRFU
Benedikte Høgberg
– Jeg abonnerer på Subjekt fordi det er viktig for meg personlig å lese et bredt spekter med nyheter og meninger for å gjøre de gode samfunnsanalysene.


Benedikte Høgberg
Mímir Kristjánsson
– Jeg abonnerer på Subjekt fordi de har vist en sjokkerende evne til å være først på ballen med nyheter i mange av de viktigste og mest brennbare kulturpolitiske debattene i vår tid.


Mímir Kristjánsson
Stortingsrepresentant (R)
Morten Traavik

– Jeg abonnerer på Subjekt fordi de tør der andre tier.



Morten Traavik
Kunstner
Mohammad Usman Rana
– Jeg abonnerer på Subjekt fordi avisen skiller seg ut med skarpe analyser, intellektuell friksjon, ekte meningsmangfold og mot til å stille spørsmål ved zeitgeist. Som muslimsk tenker har jeg opplevd slike medier som anti-islamske, men ikke Subjekt.


Mohammad Usman Rana
Muslimsk tenker
Anine Kierulf
– Mangfold i de redigerte medier er en demokratisk forutsetning. Jeg leser kulturavisen Subjekt fordi kulturkrig også er kultur. Anbefales særlig for folk med lavt blodtrykk.


Anine Kierulf
Jurist
Hedvig Montgomery

– Jeg abonnerer på Subjekt fordi kultur og politikk trenger flere stemmer og plattformer i Norge. På Subjekt blir jeg orientert og irritert, opplyst og engasjert. Og kjeder meg i hvert fall ikke!



Hedvig Montgomery
Psykolog
Adrian Eilertsen

– Jeg abonnerer på Subjekt fordi vi trenger flere aviser som står utenfor de store mediekonserne.



Adrian Eilertsen
King Skurk One
Snorre Klanderud
– Jeg abonnerer på Subjekt fordi det er avisen som virkelig forstår samtiden. De er seriøse og lesverdige på kultur og politikk, men uten å bli jålete, sånn at alle kan være med og forstå den kompliserte virkeligheten.


Snorre Klanderud
Influenser
Einar Øverenget
Jeg abonnerer på Subjekt fordi det inviterer meg til å tenke.


Einar Øverenget
Filosof
Janne Wilberg
– Jeg abonnerer på Subjekt fordi de har utviklet seg til å bli en kulturaktør å regne med. Avisen holder deg oppdatert på kulturfeltet, og er en verdifull kanal for publisering.


Janne Wilberg
Oslos byantikvar
Sarah Gaulin
– Jeg abonnerer på Subjekt fordi avisen tar opp mange interessante temaer, og som leser får jeg bedre innblikk i hva som skjer på kunst- og kulturfeltet.


Sarah Gaulin
Generalsekretær i LIM
Ervin Kohn
– Jeg abonnerer på Subjekt fordi avisen publiserer tankevekkende innlegg i samfunnsdebatten, og fordi jeg bryr meg om de som leser avisen.


Ervin Kohn
Jødisk tenker
Trine Skei Grande
– Jeg abonnerer på Subjekt fordi de er uredde og dedikerte i dekningen av kunst og kultur. Leser jeg Subjekt, vet jeg hva som skjer.


Trine Skei Grande
Direktør i Forleggerforeningen
Amrit Kaur
– Jeg abonnerer på Subjekt fordi de utfordrer dagsordenen. Selv om jeg ikke alltid er enig, så er det forfriskende å lese meninger som utfordrer status quo.


Amrit Kaur
Leder i Rød ungdom
Ari Bajgora
– Jeg abonnerer på Subjekt fordi de har interessante og spennende vinklinger på aktuelle saker.


Ari Bajgora
Rapper
Trym Ruud

– Jeg abonnerer på Subjekt fordi de er en av de få virkelig frie avisene i Norge. De dekker kunst, kultur og samfunn med integritet, uten å bøye seg for staten eller kommersielt press. De skriver ærlig, modig og ufiltrert, og gir rom til stemmer og kunstnere som ellers ikke blir sett. Det er derfor Subjekt vokser, og derfor jeg støtter dem.



Trym Ruud
Kunstner
Agnes Moxnes
– Jeg abonnerer på Subjekt fordi de tar samtiden på pulsen, våger å utfordre kulturlivets indre maktkonstellasjoner og dermed til gagns viser at heller ikke kultur er noen søndagsskole.


Agnes Moxnes
Presseveteran