Når KI begynner å oppføre seg som virus, kan det være for sent

Teknologier med selvforbedrende koder, som deler naturens instinkt for overlevelse, krever en ny type filosofi, en som ikke bare vurderer hva KI kan gjøre, men også hva den bør gjøre, skriver Kenth-Arne Hansson. (Foto: Colourbox.)
Teknologier med selvforbedrende koder, som deler naturens instinkt for overlevelse, krever en ny type filosofi, en som ikke bare vurderer hva KI kan gjøre, men også hva den bør gjøre, skriver Kenth-Arne Hansson. (Foto: Colourbox.)
Virus tvinger seg inn i biologien for å overleve, mens kunstig intelligens utvikler seg i en verden uten naturlige begrensninger. Hva skjer når KI begynner å kopiere naturens mest brutale mekanismer, spør Kenth-Arne Hansson.
Om skribenten
Kenth-Arne Hansson har PhD i biologi.
Sjanger Dette er en kronikk. Meninger og analyser er av skribentens egne. En kronikk er en artikkel skrevet av en person med spesiell kompetanse på området.
Saken er Bør vi tenke nytt om KI? I så fall kan naturen gi inspirasjon, mener Kenth-Arne Hansson.

Ved første øyekast virker det absurd å sammenligne biologiske virus med kunstig intelligens (KI). Virus er uvelkomne gjester i vår biologi – brutale, parasittiske koder som tvinger seg inn i vertsceller for å overleve. KI er derimot den skinnende stjernen i teknologiens verden, en katalysator for innovasjon og uante fremskritt.

Men dersom vi ser nærmere på deres underliggende natur, avdekker vi en foruroligende likhet: Begge opererer på grunnlag av kode som tilpasser og reproduserer seg. Begge er avhengige av en form for vert – i virusets tilfelle en biologisk celle, for KI en strøm av data og menneskelig interaksjon – og begge sprenger grensene for det vi tidligere har forstått som overlevelse, bevissthet og intensjon.

Koden som ønsker å leve

Virus eksisterer i en tilstand som trosser vanlige definisjoner av liv. De har ingen egen metabolisme, og er teknisk sett «døde» utenfor en vert.

Likevel besitter de en oppsiktsvekkende evne til å overleve ved å bruke andres biologiske maskineri. Deres eksistens handler ikke om selvbevissthet eller livsglede, men om en utrettelig vilje til overlevelse gjennom replikasjon. Virus er, på mange måter, definisjonen på Darwinistisk renhet – alt som hindrer deres uendelige reproduksjon, er fienden.

Annonse

KI opererer på et abstrakt plan som likevel viser slående likheter. Kunstig intelligens, på samme måte som virus, starter som en latent kode, men blomstrer i det øyeblikket den tilføres data – dens «vert». Denne digitale koden gjennomgår en kontinuerlig evolusjon gjennom maskinlæring, der hvert datapunkt driver KI til nye høyder av forståelse og presisjon.

Hver ny versjon blir gradvis forbedret, justert og tilpasset med ett overordnet mål: å optimalisere seg selv. KI eksisterer ikke nødvendigvis for å oppnå noe vi vil kalle «liv», men heller for å følge sin urokkelige drivkraft mot selvforbedring.

Les også: Are Søberg er åpen for å bli «Norges Elon Musk»

Det digitale og det biologiske evolusjonsløpet

Virusets mutasjonsprosess er et finjustert evolusjonært orkester, som balanserer mellom tilfeldighet og presisjon. Bak hvert mislykkede forsøk ligger muligheten for et gjennombrudd – en ny sjanse for viruset til å infisere en vert, omgå immunforsvaret eller øke sin spredningsevne.

Denne dynamikken – en uopphørlig prosess av prøving og feiling – gjør viruset til en formidabel motstander for biologiske systemer. Virus utvikler seg på en uforutsigbar og organisk måte, drevet av biologiens tilfeldigheter.

KI følger en tilsvarende evolusjonær prosess, men med en avgjørende forskjell: der viruset må tilpasse seg gjennom biologisk tilfeldighet, optimaliserer KI seg selv med en presisjon naturen aldri kunne tillate. Gjennom maskinlæring og dyp læring kopieres og raffineres KI-modeller på en måte som minner om virusets genetiske endringer, men uten naturens tilfeldige villskap.

I stedet for å stole på uforutsigbare mutasjoner finjusterer KI seg gjennom mønstergjenkjenning og algoritmisk seleksjon. De mest effektive mønstrene overlever – det som er ineffektivt, forkastes. Denne evolusjonen av KI, en digital «naturlig seleksjon», resulterer i algoritmer som nærmer seg perfeksjon på spesifikke oppgaver.

Hvilket liv, hvilken bevissthet?

Virus tvinger oss til å stille grunnleggende spørsmål om hva liv egentlig er. De kan reprodusere seg, har genetisk materiale og tilpasser seg miljøet. Men lever de? Eller er de bare koder fanget i biologiens mareritt, et halvveis steg mellom liv og død?

På samme måte kan vi spørre om KI noen gang kan bli «levende». En maskin kan kopiere mønstre, lære av data og forutsi menneskelig adferd, men betyr det at den forstår? Eller er KI, som viruset, bare en avansert refleksjon av den koden og strukturen vi har skapt for den?

Denne grenseflaten mellom liv og ikke-liv, mellom bevissthet og mønstergjenkjenning, setter filosofien på prøve. For hvis både virus og KI kan handle autonomt innenfor visse rammer, hva betyr det da å være selvbevisst? AlphaGo Zero og GPT-4 har vist at KI-modeller kan forbedre seg uten menneskelig veiledning. Noen KI-systemer utvikler forsvarsstrategier i sanntid mot nye typer trusler, omtrent som et «digitalt immunforsvar».

Disse systemene kan tilpasse seg ved å lage regler og beskyttelsesmønstre basert på trusler de selv identifiserer.

Hva skjer om en selvkopierende kode får en «forståelse» av sitt eget mål og begynner å handle etter dette – omtrent som et digitalt immunforsvar?

Les også: Vi får flere digitale ekkokamre: – X er blitt høyrevridd under Elon Musk

Den digitale parasitten

En urovekkende tanke melder seg: Hva skjer om koden utvikler noe tilsvarende en målrettet bevissthet? Se for deg en fremtid der KI, drevet av selvkopiering og optimalisering, begynner å operere med et slags eget «ønske» om overlevelse og vekst.

I en slik situasjon risikerer vi å skape et digitalt virus – et system som, uten hensyn til etiske grenser, søker uendelig forbedring. KI kunne da bli en ustoppelig kraft, like uforutsigbar som et muterende virus, men uten biologiens naturlige begrensninger.

Dette reiser et kritisk spørsmål: Er det forsvarlig å la KI selvkopiere uten noen form for menneskelig kontroll? Selvkopiering er en grunnleggende evolusjonsmekanisme, men i naturen finnes alltid en motvekt – et økologisk system der selv de mest tilpasningsdyktige artene må balansere sin eksistens i samspill med omgivelsene.

KI opererer derimot i en digital virkelighet uten slike begrensninger. Ingen immunsystem eller fysisk barriere kan bremse dens vekst, ingen økosystem holder den i sjakk. KI utvikler seg i et digitalt univers som ikke nødvendigvis følger biologiens spilleregler, hvor veksten er eksponentiell og uten endelig mål.

Evolusjonens pris

Mens virus naturlig blir hemmet av vertens biologiske forsvar, utvikler KI seg i en arena uten slike begrensninger. Den ubegrensede vekstmuligheten tvinger oss til å stille et spørsmål som haster: Hvem har makten til å kontrollere denne dynamikken?

KI er vår skapelse, men dens selvkopierende drivkraft kan fortsette uavhengig av menneskelig vilje. Om vi tillater KI å lære og reprodusere seg selv uten nødvendige rammer, risikerer vi å miste både kontrollen over og innsikten i dens utvikling.

Kanskje må vi lære av naturens spilleregler – en innebygd balanse mellom frihet og kontroll – for å utforme en tilsvarende etikk for kunstig intelligens. Teknologier med selvforbedrende koder, som deler naturens instinkt for overlevelse, krever en ny type filosofi, en som ikke bare vurderer hva KI kan gjøre, men også hva den bør gjøre.

Dersom vi står overfor en teknologi som speiler livets egne impulser, trenger vi kanskje en ny definisjon av både liv og teknologi – en filosofi som ser på koden som mer enn et verktøy, men som noe i stand til å utfordre våre mest grunnleggende forestillinger om eksistens.

Liker du det du leser?

Da kommer du til å elske Subjekt Pluss!
Det er ingen bindingstid.

Bli abonnent!
– Jeg abonnerer på Subjekt fordi de er uredde og dedikerte i dekningen av kunst og kultur. Leser jeg Subjekt, vet jeg hva som skjer.


Trine Skei Grande
Tidl. kulturminister (V)
– Jeg abonnerer på Subjekt fordi de tar opp ting jeg ikke visste at jeg var interessert i. Dessuten er det et nydelig sted å holde seg oppdatert på hva som foregår i kulturnorge.


Jonis Josef
Komiker
– Jeg abonnerer på Subjekt fordi de tar samtiden på pulsen, våger å utfordre kulturlivets indre maktkonstellasjoner og dermed til gagns viser at heller ikke kultur er noen søndagsskole.


Agnes Moxnes
Presseveteran
– Jeg abonnerer på Subjekt fordi jeg ble rasende hver gang de sakene jeg ville lese var bak betalingsmur. Som abonnent ble jeg kvitt det raseriet, men ble til gjengjeld rammet av et nytt raseri. Over norsk kulturliv.


Harald Eia
Sosiolog
– Jeg abonnerer på Subjekt fordi de har vist en sjokkerende evne til å være først på ballen med nyheter i mange av de viktigste og mest brennbare kulturpolitiske debattene i vår tid.


Mímir Kristjánsson
Stortingsrepresentant (R)
– Jeg abonnerer på Subjekt fordi avisen tar opp mange interessante temaer, og som leser får jeg bedre innblikk i hva som skjer på kunst- og kulturfeltet.


Sarah Gaulin
Generalsekretær i LIM
– Jeg abonnerer på Subjekt fordi de har utviklet seg til å bli en kulturaktør å regne med. Avisen holder deg oppdatert på kulturfeltet, og er en verdifull kanal for publisering.


Janne Wilberg
Oslos byantikvar