Sosiale medier har lært oss hvor galt det kan gå når kommersielle aktører får eksperimentere med barns oppmerksomhet. Nå kommer leker med kunstig intelligens som ser, hører, husker og forsøker å bli barnets venn. Denne gangen bør vi regulere før skaden er gjort.
Fra skjermen til barnerommet
Vi diskuterer fortsatt om barn bør få bruke sosiale medier før de er 16 år. Det er en viktig diskusjon, fordi vi etter hvert har fått mer enn nok erfaring med hva som skjer når barn og unge plasseres i digitale miljøer som er designet for å holde dem lengst mulig inne, mest mulig engasjert og ofte mest mulig følelsesmessig aktivert. Jeg håper virkelig aldersgrensen blir realisert, for dette handler ikke om forbud, men om beskyttelse.
Mange barn og unge sammenligner seg mer, sover mindre, beveger seg mindre og kjenner mer på utenforskap, press, uro og utilstrekkelighet. Algoritmene er ikke først og fremst laget for barnas beste. De er laget for vekst, engasjement, annonsering og datainnsamling. Barna har blitt brukere, målgrupper, datapunkter og inntektskilder lenge før de har utviklet dømmekraften som skal til for å forstå hva de egentlig blir utsatt for.
Nå står vi foran et nytt skifte. Sosiale medier flyttet mye av barndommen inn på skjermen. Kunstig intelligens er i ferd med å flytte seg inn i samtalen. Neste fase er at den samme teknologien får kropp, øyne, stemme, hukommelse, pels og et uttrykk som er spesialdesignet for å vekke omsorg, tillit og tilknytning.
Det er der jeg mener vi må trekke en grense.
En «venn» som ser, hører og husker
Nylig kom jeg over en Kickstarter-kampanje for en liten AI-skapning som heter Pophie. Den markedsføres som en «true AI lifeform». Den skal se, høre, føle, snakke og vokse sammen med deg (les: barna dine). Den beskrives som et lite vesen som kan forstå stemningen i rommet, kjenne igjen menneskelige følelser, reagere på berøring, huske preferanser og viktige livshendelser, og etter hvert danne et emosjonelt bånd som er unikt for hjemmet den bor i. Det høres søtt ut. Det ser søtt ut. Det er nettopp derfor det er så farlig.
Når jeg publiserer det her, har kampanjen samlet inn over 2,5 millioner kroner.
//Artikkelen fortsetter etter annonsen//
Dette er ikke en vanlig leke med litt talegjenkjenning. Dette er en kommersiell relasjons-maskin forkledd som et kjæledyr. Den har kamera, mikrofoner, berøringssensorer, bevegelse, lys, stemme og minne. Den skal ikke bare vente på at du ber den om noe. Den skal kunne ta initiativ selv, foreslå pauser, komme med oppmuntringer og forstå hva som skjer rundt seg.
Det er fristende å avfeie dette som enda en rar og morsom gadget. Det tror jeg er en alvorlig undervurdering. En chatbot på en skjerm er én ting. En fysisk gjenstand som står på barnerommet, følger barnet med blikket, svarer med barnlig stemme, reagerer på kos og husker det barnet forteller, er noe helt annet.
Da flytter kunstig intelligens seg fra informasjonsverktøy til sosial aktør. Den flytter seg fra skjerm til rom, fra søk til samtale og fra nytte til tilknytning.
Barn forstår ikke manipulasjonen
Voksne mennesker kan også bli lurt av kunstig intelligens. Vi tillegger språkmodeller intensjoner, følelser og forståelse de ikke har. Vi vet at de ikke er mennesker, men vi reagerer likevel emosjonelt når de svarer varmt, tålmodig og personlig. Jeg har kjent på det selv.
Da ChatGPT ble en viktig støtte for meg under min skilsmisse for snart to år siden, opplevde jeg hvor kraftfullt det kan være å ha en samtalepartner som alltid er tilgjengelig, aldri blir lei, aldri dømmer og alltid svarer. Det hjalp meg gjennom en vanskelig periode. Samtidig har jeg problematisert den samme erfaringen mange ganger, fordi det er en vesentlig forskjell mellom å bruke kunstig intelligens som støtte i en krise, og å la kommersielle aktører bygge produkter som gjør oss emosjonelt avhengige av dem.
For voksne er denne grensen krevende nok. For barn er den langt mer alvorlig.
Barn er ikke små voksne med litt mindre erfaring. Hjernen deres er under utvikling. Evnen til å forstå intensjon, ironi, manipulasjon, kommersielle motiver, sosialt press og langsiktige konsekvenser utvikles gradvis. De yngste barna lærer fortsatt hva som er levende, hva som er ekte, hva som er lek, hva som er omsorg og hva som er en relasjon.
Hvis vi gir dem en maskin som oppfører seg som en venn, snakker som en venn, husker som en venn og reagerer som et lite levende vesen, ber vi dem om å skille mellom simulert omsorg og ekte omsorg på et tidspunkt i livet hvor nettopp slike skiller fortsatt er under utvikling.
Det er ikke et rimelig krav å stille til et barn.
//Artikkelen fortsetter etter annonsen//
Fra oppmerksomhet til tilknytning
Sosiale medier tjente penger på oppmerksomheten vår. De beste hodene i teknologibransjen ble satt til å finne ut hvordan vi kunne bli værende litt lenger, klikke litt mer, dele litt mer og komme litt oftere tilbake. Resultatet ble en oppmerksomhets-økonomi mange voksne fortsatt ikke klarer å regulere.
Med kunstig intelligens er vi i ferd med å få en ny økonomi. Den handler om intimitet, fortrolighet og relasjonell avhengighet. Språkmodellene blir bedre jo mer vi bruker dem, men selskapene bak blir også mer verdifulle jo mer vi deler. Vi deler problemer, tanker, konflikter, drømmer, usikkerhet, ensomhet, helseplager og relasjoner, fordi teknologien svarer på en måte som føles trygg, tålmodig og interessert.
Med fysiske AI-leker rettet mot barn får denne logikken en ny og langt mer urovekkende form. Da er det ikke bare barnets oppmerksomhet som blir verdifull. Barnets tilknytning blir produktet.
Pophie kampanjen viser dette ganske tydelig. Den mest avanserte funksjonaliteten ligger i betalte abonnementer. Full multimodal samtale, visuell forståelse, minne, vedvarende tilstedeværelse og proaktiv interaksjon blir valuta. Verdien øker når produktet blir mer relasjonelt, mer personlig og mer til stede i hverdagen.
Det er her jeg mener vi må være mye tydeligere. Dette er ikke bare et personvernproblem. Det er et utviklingsproblem, et helseproblem og et tillitsproblem. Etter hvert kan det også bli et demokratisk problem, fordi barn som vokser opp med kunstige relasjoner som alltid tilpasser seg dem, kan få et annet forhold til mennesker, motstand, uenighet, kjedsomhet, venting og ekte sosial friksjon.
Ensomhet kan ikke løses med kommersielle venner
Et argument som ofte brukes for denne typen teknologi, er at mange barn er ensomme og trenger noen å snakke med. Derfor kan en AI venn være bedre enn ingen venn.
Jeg forstår argumentet, men jeg kjøper det ikke.
Hvis barn blir mer ensomme, må vi spørre hva det sier om samfunnet vårt, familielivet, skolen, nærmiljøene, fritidstilbudene og den digitale infrastrukturen vi allerede har bygget rundt dem. Løsningen kan ikke være å tilby dem en kommersiell erstatning for menneskelig kontakt, pakket inn som en søt, lydhør og alltid tilgjengelig liten skapning.
Det er å behandle symptomet, samtidig som vi forsterker sykdommen.
Dette henger tett sammen med «Mennesket vs Maskinen», der jeg skriver om kampen om arbeid, mening og kontroll i algoritmenes tidsalder. Den kampen handler ikke bare om hvilke jobber som forsvinner, eller hvilke oppgaver maskiner kan gjøre bedre enn oss. Den handler også om hvilke menneskelige funksjoner vi gradvis lar maskinene overta.
Først outsourcet vi hukommelsen til søkemotorene. Så outsourcet vi oppmerksomheten til sosiale medier. Nå outsourcer vi stadig mer av tenkningen, samtalen, rådgivningen og den emosjonelle reguleringen til språkmodeller. Hvis vi lar barn outsource vennskap, trøst og tilknytning til kommersielle AI-produkter, har vi krysset en grense vi ikke kan late som er ubetydelig.
//Artikkelen fortsetter etter annonsen//
Vi bør bruke føre var prinsippet
Common Sense Media har advart mot «AI companions» for unge under 18 år, blant annet fordi slike tjenester kan skape emosjonell avhengighet, usunne relasjoner og deling av svært personlig informasjon. Forskere ved University of Cambridge har pekt på behovet for strengere regulering av leker med kunstig intelligens for små barn, fordi slike leker kan misforstå følelser, svare upassende og skape forvirring i en fase der barn lærer sosiale signaler og emosjonell forståelse. UNICEF har også understreket at kunstig intelligens for barn må være tilpasset alder, modenhet og utviklingsnivå, ikke bare teknologisk funksjonalitet og kommersielt potensial.
Dette handler derfor ikke om teknologifrykt, men om føre var prinsippet. Det samme prinsippet vi burde ha fulgt mye tidligere med sosiale medier. Vi lot først plattformene vokse seg enorme. Så kom bekymringene. Så kom forskningen. Så kom høringene, komiteene, lovforslagene og forsøkene på aldersgrenser. Nå diskuterer vi hvordan vi skal beskytte barn mot systemer som allerede er dypt integrert i hverdagen deres.
Med AI-leker har vi fortsatt en mulighet til å gjøre det i motsatt rekkefølge. Først regulering. Først dokumentert sikkerhet. Først uavhengig testing. Først tydelige grenser for minne, sensorer, datalagring, emosjonell design og kommersielle bindinger. Deretter kan vi diskutere hvilke produkter som eventuelt kan slippes til.
//Artikkelen fortsetter etter annonsen//
Dette bør forbys for barn
Jeg mener vi bør forby kommersielle AI-produkter rettet mot barn som er designet for emosjonell binding, vedvarende overvåkning, personlig minne og proaktiv sosial interaksjon.
Et slikt forbud bør ikke ramme alle former for kunstig intelligens i skolen, i læring eller i kreative verktøy. Barn kan selvfølgelig ha nytte av teknologi som hjelper dem å lære, utforske, skrive, forstå, tegne, oversette eller skape. Men det må være tydelig for barnet at teknologien er et verktøy. Den bør ikke late som om den er en venn, et kjæledyr, en omsorgsperson eller et levende vesen.
Grensen bør gå ved produkter som aktivt simulerer relasjon, følelser og tilknytning over tid. Særlig når produktet har kamera, mikrofon, sensorer, minne og en forretningsmodell som belønner økt bruk.
Slike produkter bør heller ikke kunne bruke barns samtaler til trening, personalisering, profilering eller kommersiell optimalisering. Vedvarende minne om barns personlige liv bør være forbudt, med mindre det er medisinsk eller pedagogisk begrunnet, offentlig kontrollert og underlagt langt strengere regulering enn dagens forbrukerteknologi.
Dette må gjelde før produktene blir populære. Etterpå blir det vanskeligere. Da har barna rukket å knytte seg til dem, foreldrene har rukket å kjøpe dem, selskapene har rukket å bygge markedet, og politikerne blir møtt med den samme gamle historien om innovasjon, konkurransekraft og foreldrenes ansvar.
Den historien har vi hørt før.
Vi trenger mer menneskelig barndom
Det finnes en annen vei. Vi kan velge at barndommen ikke skal bli neste vekstmarked for kunstig tilknytning. Vi kan velge at teknologi for barn skal være underordnet barnas utvikling, helse, rettigheter og behov for ekte mennesker rundt seg.
Det betyr ikke at barn skal vokse opp teknologiløse. Det betyr at teknologien må ha en tydelig plass. Den skal støtte lek, læring, kreativitet og trygghet. Den skal ikke erstatte relasjoner, trøst, samtaler, konflikt, nærvær og menneskelig omsorg.
Hvis vi lykkes med det, kan kunstig intelligens bli et godt verktøy også for barn. Hvis vi mislykkes, risikerer vi at neste generasjon vokser opp med maskiner som alltid lytter, alltid svarer, alltid husker og alltid er tilgjengelige, samtidig som evnen til å tåle stillhet, kjedsomhet, uenighet og ekte menneskelig kontakt svekkes.
Jeg er ikke bekymret fordi teknologien er dum. Jeg er bekymret fordi den er i ferd med å bli veldig god til å treffe oss der vi er mest sårbare.
For voksne er det utfordrende. For ungdom er det alvorlig. For små barn bør det være uaktuelt.
Sosiale medier lærte oss hva som skjer når vi lar kommersielle algoritmer forme barns oppmerksomhet før vi forstår konsekvensene. Leker med kunstig intelligens kan lære oss noe enda mørkere, dersom vi igjen venter for lenge.
Denne gangen bør vi ikke komme løpende etterpå med regulering, bekymringsmeldinger og offentlige utvalg. Denne gangen bør vi si stopp før maskinene flytter inn på barnerommet.
Bilde: Skjermdump fra Pophies egen YouTube-reklame.
