Fra dotcom til datamakt: Apples 4.000-milliardersmilepæl og den nye AI-æraen
1X Technologies sin nye humanoide robot Neo, lover å ta seg av klesvask, oppvask og annet husarbeid, kanskje til og med være selskap i stuen. Men bak futuristiske løfter skjuler det seg et produkt som ikke er så autonomt som det gir seg ut for. En robot som egentlig styres av mennesker i kulissene, en forhåndsbestilling til 20.000 dollar for en uferdig visjon, og potensielle konsekvenser for personvern, arbeidsliv og ansvar. Er Neo et tidlig glimt av fremtiden vi vil ha, eller nok et eksempel på teknologi-hype som løper foran virkeligheten?
Hør hele artikkelen her, med min AI-baserte stemme:
Ser autonom ut, men styres av mennesker
Neo presenteres som en “trygg humanoid robot” for hjemmet, men virkeligheten bak kulissene er mindre science fiction. Demonstrasjonene viste en robot som utfører oppgaver, men alle disse handlingene ble i realiteten fjernstyrt av menneskelige operatører iført VR-briller. Der vi trodde vi så kunstig intelligens i aksjon, var det egentlig et menneske som “spilte” roboten i sanntid. Dette kom tydelig frem da The Wall Street Journal sin teknologijournalist Joanna Stern fikk prøve Neo.
Hver eneste oppgave roboten gjorde for henne, fra å hente en flaske vann til å sette inn noen tallerkener i oppvaskmaskinen, ble kontrollert av et menneske via fjernstyring. Til tross for et elegant ytre og prat om AI, er Neo foreløpig altså ingen selvstendig “tjener” med kunstig intelligens.
Det vi ser, er en slags avansert, fjernkontrollert marionett.
Videoer fra både Marques Brownlee (MKBHD) og WSJ avdekket denne virkeligheten, som fikk entusiasmen til mange å kjølne. Neo klarte knapt å utføre enkle oppgaver uten menneskelig hjelp. I Sterns test tok det over ett minutt å hente en vannflaske fra et kjøleskap få meter unna, og over fem minutter å sette inn noen få skitne tallerkener. Roboten måtte dessuten ta pauser for å kjøle seg ned og lade. Det hele fremsto mer komisk enn revolusjonerende, og langt unna de glossy promovideoene.
Som en kommentator påpekte, ble demoen “en kalddusj etter promoen”, ettersom Neo ikke klarte en eneste oppgave autonomt. Neo er lansert som en AI-drevet hjelper, men er per dags dato fullstendig avhengig av et ekte menneske i andre enden som er utstyrt med VR-produktene til Meta.
Betale nå for et uferdig produkt
Det stopper likevel ikke selskapet fra å selge inn Neo som om fremtiden allerede er her. 1X har åpnet for forhåndsbestillinger av roboten, og prislappen er ikke beskjeden: 20.000 dollar (rundt 200.000 kroner) dersom du vil kjøpe den, eller alternativt 499 dollar i måneden (ca. 5.000 kroner) for en slags leieavtale.
Dette for et produkt som ikke er ferdigutviklet, og som kanskje aldri blir det. Dette fører seg inn i rekken av produktlanseringer og hype-videoer for noe man håper blir realisert. Å ta seg betalt på forskudd for et halvferdig konsept er en risikosport, ikke bare for kundene, men for tilliten til teknologibransjen som helhet. De som faktisk legger penger på bordet nå, ender opp som betalende beta-testere av en robot som fortsatt “oppdras” og trenes – i beste fall.
I verste fall kan produktet forbli i evig beta.
Skjermdump fra 1X sin promo-video av Neo på selskapets YouTube-kanal.
//Artikkelen fortsetter etter annonsen//
AI-produkter lever ofte ikke opp til løftene
Historien har vist at slike forhåndshype-produkter ofte ikke lever opp til løftene. Det er verdt å minne om at selv mektige Apple fikk Vision Pro (AR-brillene) omtalt som en gedigen skuffelse, og startup-selskapet Humane gikk over ende etter at deres AI-gadget møtte virkeligheten.
Selskapet skyldte til og med på Marques Brownlees negative YouTube-anmeldelse for at de aldri ble en suksess. Rabbit R1, en annen “banebrytende” AI-dings lansert med brask og bram, viste seg også å være et gedigent mageplask.
Neo risikerer å gå i samme fellen.
Et fremmed menneske i hjemmet: Personvern på prøve
En av de mest urovekkende sidene ved Neo er personvernaspektet.
For å fungere er Neo avhengig av sine kameraer og mikrofoner, og i dag også av et menneske som tolker disse dataene og fjernstyrer roboten. Ved å slippe Neo inn døren, slipper du i realiteten et fremmed menneske inn i hjemmet.
Det høres dramatisk ut, men tenk over at en anonym operatør kan se og høre alt roboten fanger opp, og til og med bevege seg fritt rundt i huset ditt. Flere har allerede spøkt (og grøsset) på sosiale medier over absurditeten i å betale 20.000 dollar for å la en fremmed med VR-briller tusle rundt i stua di.
Dette reiser åpenbare spørsmål om hvordan selskapet ivaretar informasjonen kameraene samler inn? Hvem har tilgang til videostrømmen fra mitt kjøkken eller soverom?
1X-gründeren Bernt Børnich erkjenner åpent at tidlige kunder må være komfortable med omfattende datainnsamling, ellers vil ikke produktet kunne bli bedre. De lover å sladde personer i bildet og respektere “forbudte soner” man definerer.
Men essensen er tydelig: uten at du gir fra deg enorme mengder data om hjemmet ditt og dine vaner, vil Neo forbli temmelig ubrukelig.
Skjermdump fra WSJ sin YouTube-video av 1X Neo.
Børnich kaller det “Big Sister, Big Brother”-prinsippet, der “storesøster” hjelper deg, mens “storebror” overvåker deg. Man kan nesten høre ekkoet av George Orwells advarsler i det utsagnet, til tross for den vennlige “storesøster”-masken.
AI-eksperter advarer da også om at personvernutfordringene med slike hjemmeroboter kan bli enorme. Gary Marcus, en anerkjent AI-forsker, påpeker at produktivitetsgevinsten Neo lover sannsynligvis er minimal, mens risikoen for overvåkning er maksimal. Han mener roboter som samler data i hjemmet kan bli neste etappe i overvåkningskapitalismen, og enda en måte å høste intime data under dekke av oppblåste løfter om hva teknologien kan levere.
Vi lever allerede i en tid der smarthøyttalere, overvåkningskameraer og andre IoT-dingser samler inn tonnevis av data fra hjemmene våre. En humanoid robot med kameraøyne ruslende rundt kan bli den mest inngripende datainnsamleren hittil.
//Artikkelen fortsetter etter annonsen//
Og hva med sikkerhet?
Selv om Neo per i dag er “styrt av mennesker”, markedsføres den som autonom nok til å håndtere fysiske oppgaver. Da melder også spørsmålet seg om hvem som har ansvaret hvis noe går galt. Hva om roboten (eller den fjernstyrte operatøren) gjør noe uforutsett.
Hvem har ansvaret hvis Neo setter på kokeplata og glemmer den, plukker opp en kjøkkenkniv for å kutte grønnsaker, men skader noen, velter over et barn eller kjæledyr?
Skjermdump fra WSJ sin YouTube-video av 1X Neo
Så lenge et menneske faktisk sitter og styrer, kan man hevde at ansvaret er hos operatøren. Men etter hvert som 1X (og andre) forsøker å gjøre Neo mer autonom, blir ansvarsfordelingen mye mer uklar.
I min nye bok Mennesket vs. Maskinen diskuterer jeg blant annet nettopp disse dilemmaene. Når AI og roboter tar avgjørelser og utfører handlinger autonomt, hvem står til ansvar om noe går galt?
Er det deg, fordi du slapp teknologien løs?
Er det utvikleren av AI-en, som har laget algoritmene?
Produsenten av roboten?
Disse problemstillingene er alt annet enn enkle, og vi kommer til å bruke mye tid fremover på å definere juridiske og etiske rammer for ansvarsfordeling når maskiner blir aktører.
Kanskje må vi en dag ha egne forsikringsordninger for hjemme-roboter, eller sertifiseringer lik dem selvkjørende biler har, før vi i det hele tatt slipper dem løs i privatsfæren.
Hva skjer med menneskene, jobbene, verdigheten og samfunnskonsekvensene?
På mikronivå kan det virke harmløst, tiltalende til og med, å la en maskin overta støvsuging, oppvask og klesbretting. Hvem vil vel ikke slippe unna kjedelige rutineoppgaver? Men vi bør også tenke over de større linjene. Dersom roboter som Neo en dag faktisk blir i stand til å gjøre mye av det huslige arbeidet selvstendig, hva betyr det for arbeidsplasser og menneskelig verdighet?
For det første kan en slik utvikling true jobbene til mange som i dag har sitt levebrød i service- og omsorgsyrker. Rengjøringshjelper, hjemmehjelper, og butikkmedarbeidere. Etter hvert som robotene blir billigere og mer kapable, vil presset øke for å erstatte menneskelig arbeidskraft med maskiner.
Vi har sett automatisering effektivisere vekk industriarbeidsplasser før; denne gangen kan det bli serviceyrkenes tur. Teknologisjåvinister vil si at robotene frigjør oss fra trivielle oppgaver slik at vi kan fokusere på mer meningsfylt arbeid. Resultatet kan bli økt arbeidsledighet eller behov for helt nye samfunnsordninger (hørte jeg noen si borgerlønn?).
For det andre handler det om den menneskelige opplevelsen.
Det ligger faktisk en viss verdi og selvstendighet i å kunne ta vare på seg selv og sitt hjem.
Å lage sin egen middag, rydde, og vaske klær. Alt dette er en del av dagliglivet som skaper mestringsfølelse og rutine. Om vi «outsourcer» for mye av hverdagen til maskiner, risikerer vi å gjøre oss mer passive i eget liv. Noen vil kanskje føle på et tap av mening eller ferdigheter når man ikke lenger trengs til selv de mest grunnleggende gjøremål.
I ytterste fall kan en fullstendig robotisering av hjemmet gjøre menneskene til tilskuere i eget liv, der vi betrakter at maskiner “lever” for oss.
Det er også verdt å reflektere over relasjonene og ansvarsfølelsen vi har til hverandre som mennesker. Hvis en robot tar seg av eldre foreldre eller leker med barna dine, hva gjør det med båndene mellom oss?
Ingen robot, uansett hvor avansert, kan erstatte ekte menneskelig omsorg og kontakt.
Likevel markedsføres ofte slike teknologi-løsninger nettopp inn mot travle familier eller et aldrende samfunn som “trenger” robot-hjelpere. Vi skal selvfølgelig dra nytte av teknologi der det gir forbedringer, men vi må passe oss for en fremtid der maskiner mellom oss mennesker fører til økt avstand og mindre menneskelig kontakt.
//Artikkelen fortsetter etter annonsen//
Teknologihumanisme: Hvem har mest å tjene på robotiseringen?
Den norske teknologiinvestoren Johan Brand (Kahoot-gründer) uttalte til Shifter i euforien etter Neo-lanseringen at
Vi må refokusere oss på hva menneskeheten trenger fra teknologi, ikke hva teknologi trenger fra oss.
Det er et godt prinsipp i teorien.
I en melding til meg, utdypet han dette nærmere:
Jeg er fascinert av 1X på så mange nivåer – visjonen, teknologien og spørsmålene de reiser. Det er så mye å feire, og samtidig så mye å utfordre.
Det er et nyansert og viktig perspektiv, og står i sterk kontrast til det vi ofte ser i teknologibransjen. Det er nettopp slike perspektiver vi trenger for all teknologisk utvikling. Brands uttalelse illustrerer hvordan det går an å være oppriktig nysgjerrig og håpefull, samtidig som man stiller spørsmål og etterlyser kritisk refleksjon. Det er denne typen teknologihumanisme vi trenger mer av, også blant tidlige entusiaster: Evnen til å både anerkjenne potensial og samtidig våge å utfordre realismen bak ambisjonene.
Derfor vil jeg også spørre om hvem som egentlig har behov for en humanoid robot som Neo? Hvilket problem er det denne teknologien primært løser for menneskeheten, her og nå?
Er det virkelig et skrikende behov i samfunnet for en 1,7 meter høy fjernstyrt “tjener” med kameraøyne i stua?
For de aller fleste av oss finnes det allerede enklere, rimeligere og tryggere løsninger på det Neo lover å gjøre. Vi har oppvaskmaskiner, vaskemaskiner, robotstøvsugere, ja til og med menneskelig vaskehjelp og barnevakt, for den som ønsker å betale for å få avlastning.
Forskjellen med Neo er at den skal likne et menneske og gjøre “alt”. Men av og til er det bedre med enkle verktøy enn en humanoid robot. Er Neo egentlig et svar på menneskers faktiske behov, eller om det først og fremst oppfyller en våt teknologi-drøm? Er Neo en visjon om noe fra science fiction som investorer og utviklere har ønsket å realisere?
AI og humanoide roboter får milliarder
Investorer flokker til robot- og AI-selskaper om dagen, og det pumpes enorme summer inn i prosjekter som Neo.
Åpenbart ser finansielle krefter en mulighet her, enten det er fremtidige markeder for robot-“tjenere” eller verdifulle mengder brukerdata som kan samles inn i prosessen. Her mener jeg det er verdt å være litt kynisk.
Skjermdump fra WSJ sin YouTube-video av 1X Neo
Når et produkt loves å “lære av deg” og stadig bli bedre, betyr det i praksis at dine “data er oljen”. Dette handler i bunn om å gjøre privatlivet vårt om til big data for selskapene. Gagner det oss som samfunn?
Kanskje kan roboter som Neo på sikt gi oss noen fordeler, for eksempel innen eldreomsorg, der det virkelig trengs innovasjon for å håndtere en voksende eldre befolkning. Men da må teknologien fungere, være sikker og faktisk løse oppgaver bedre enn alternativene. Per i dag er Neo milevis unna det stadiet.
Teknologioptimisme er sunt i passe doser, fordi det driver frem nye idéer. Men når optimisme glir over i naivitet, til teknologisjåvinisme, får vi situasjoner som minner om keiserens nye klær.
Alle snakker om det revolusjonerende nye, mens få våger å påpeke at produktet slett ikke er kledd for oppgaven. Derfor mener jeg at vi trenger en god dose teknologihumanisme, hvor vi spør oss selv “hvorfor trenger vi dette?” og “hvem tjener på at det tas i bruk?”.
Midt oppi all denne innovasjonen er det avgjørende å huske hvorfor noen lager disse teknologiene.
Svaret bør være at de gjør det for å gjøre menneskers liv bedre, ikke bare for at noen kan tjene penger eller fordi det er teknologisk mulig.
//Artikkelen fortsetter etter annonsen//
Ukritisk begeistring blant teknologene
Er det en ting som virkelig forbauser meg, til tross for de åpenbare utfordringene med Neo, så er det at store deler av tech-miljøet har kastet seg over produktet med nesten barnlig iver. Det norske startupmiljøet bryr seg tydeligvis lite om prislappen, for det kappes angivelig om å skaffe seg en Neo, nærmest som et statussymbol, skal vi tro artikkelen fra shifter.no.
Skjermdump fra 1X sin promo-video av Neo på selskapets YouTube-kanal.
Flere profilerte gründere og investorer har de siste dagene delt stolt på LinkedIn at de bestilte roboten så fort forhåndssalget åpnet. Johan Brand, som tidligere nevnt, meldte sin entusiasme med et (tilsynelatende) visjonært utsagn om menneskehetens behov.
Christina Wiig (fra Startuplab innrømmet at hun hadde falt for robotens “snille øyne” og dens evner til praktisk arbeid. Hun gleder seg til at Neo skulle flytte inn hjemme og kanskje “leke Lego” med barna.
Tenk litt ekstra over det utsagnet; Christina vil kjøpe seg en robot for at barna skal ha noen å leke med. Slik at hun kan jobbe enda litt mer, eller scrolle enda litt mer på mobilen? Og sånn sett bruke mindre tid på barna sine? Neo fremstilles av Christina som et nytt familiemedlem man gleder seg til å introdusere for ungene, basert på et par store “vennlige” kameraøyne og markedsføringsmateriell.
Når selv erfarne teknologigründere lar seg blende av glansbildet Neo tegner, kan man spørre hvor det kritiske filteret ble av.
Brand etterlyser fokus på hva menneskeheten trenger, men i mine øyne er det nettopp et slikt fokus som mangler når man ukritisk omfavner Neo uten å adressere elefanten i rommet. Og det er blant annet at Neo overhodet ikke lever opp til sine påstander, og at det reiser røde flagg for personvern og sikkerhet.
Wiigs kommentar om “snille øyne” og Lego med barna illustrerer hvor lett vi mennesker tillegger maskiner menneskelige egenskaper og intensjoner (søte øyne = snill robot) og glemmer den reelle implikasjonen, som at det faktisk er et fremmed menneske via roboten som i praksis “leker” med barna hennes og observerer hjemmet deres.
Teknopositivismen i startup-miljøet, der alt nytt er spennende per definisjon, trenger mildt sagt balansering.
Det er ingen skam å la seg begeistre for ny teknologi.
Tvert imot, det er mye av drivkraften bak innovasjon. Men vi må samtidig evne å stille de kritiske spørsmålene, særlig når noe høres for godt (eller futuristisk) ut til å være sant.
Det er flott at Norge har et innovativt miljø som vil være tidlig ute, men kanskje kunne man forvente at nettopp disse pionerene også tok på seg rollen som kritiske testere, ikke bare ukritiske hype-mennesker.
//Artikkelen fortsetter etter annonsen//
En sterk oppfordring til kritisk refleksjon
Neo-roboten markerer kanskje et tidlig kapittel i en ny æra, “begynnelsen på fysisk AI i våre liv”, som Joanna Stern i WSJ kalte det.
Å se en robot med menneskelignende form forsøke seg på hverdagslige gjøremål, gir utvilsomt et glimt av sci-fi i praksis. Men nettopp fordi dette kan være starten på noe stort, må vi ta oss tid til kritisk refleksjon nå. Vi kan ikke blindt applaudere hvert skinnende nye teknologiske vidunder som dukker opp. Vi må våge å stille de ubehagelige spørsmålene også.
Er teknologien klar for oss?
Og er vi klare for teknologien?
La oss derfor bruke Neo som en vekker.
En mulighet til å refokusere på hva vi egentlig vil med teknologien.
Vil vi ha humanoide roboter i hver stue for enhver pris, eller vil vi ha teknologi som faktisk fungerer, som respekterer våre verdier og grenser, og som løser reelle problemer? Jeg mener vi må kunne både begeistre og være kritiske på samme tid. Vi kan anerkjenne Neo for det den er, et spennende eksperiment og et glimt inn i hva som kan bli mulig, uten å miste av syne hva den ikke er i dag.
Og inntil den dagen kommer at roboter virkelig kan erstatte husarbeid uten å kompromittere verken sikkerhet, personvern eller menneskelig samhandling, bør vi holde tungen rett i munnen og spørre oss hvem som egentlig drar nytte av «robotiseringen» av samfunnet.
Til syvende og sist handler dette om hvilken fremtid vi ønsker.
Promo-videoen til 1X av Neo kan du også se her:
Jeg har ingen planer om å forhåndsbetale for Neo.
Har du?
