Teknologien Facebook og Google ikke våget å lansere

Det finnes eksempler hvor teknologigigantenes etiske kompass har trumfet den teknologiske innovasjonen.

9. september skriver Kashmir Hill i The New York Times en utrolig fascinerende sak om det kontroversielle landskapet av ansiktsgjenkjenningsteknologi. Artikkelen, med tittelen «Teknologien Facebook og Google ikke våget å lansere», tar for seg de etiske utfordringene som tech-giganter som Apple, Google og Meta står overfor når de utvikler og implementerer avansert teknologi inn i deres tjenester og produkter.

AI-reguleringer basert på vårt etiske kompass

Jeg har i flere omganger ytret at vi må få på plass gode reguleringer basert på vårt etiske kompass, slik at både utvikling og adoptering sikrer en trygg, ansvarlig og bærekraftig fremtid når det kommer til teknologiutviklingens påvirkning på både liv og næringsliv. I den sammenheng er det ekstremt viktig at vi ikke lar teknologigigantene selv bestemme. Ikke minst når historien har vist oss gang på gang at selskapene ikke har vært gode nok til å regulere seg selv. 

Du finner Teknologitrender på din favoritt podkast-spiller, som blant annet Acast, Apple Podcaster, Overcast, TuneIn Radio, Spotify, Google Podcasts, Podimo og PodMe.

//Artikkelen fortsetter etter annonsen//

Etisk, ikke teknologisk gjennombrudd

Dette er historien om unntaket, som mest av alt sier mye om hvor skummel fremtiden kan bli, hvis vi ikke får på plass et regelverk som kan hindre at utviklingen får frie tøyler. Kashmirs artikkel begynner med en fascinerende anekdote om Facebook-ingeniøren Tommer Leyvand, som i 2017 hadde utviklet en «telefon-hatt» som kunne identifisere mennesker ved å fange ansiktene deres gjennom et smarttelefonkamera. Selv om denne teknologien kunne ha vært revolusjonerende for personer med synsproblemer eller blinde, reiste den også betydelige etiske spørsmål. I tillegg hadde Facebook tidligere fått et gruppesøksmål mot seg på grunn av sin bruk av ansiktskjenningsteknologi, som hadde kostet selskapet 650 millioner dollar. 

Flere med et ambivalent forhold

Men det er ikke bare Facebook som har hatt et ambivalent forhold til ansiktsgjenkjenningsteknologi. Allerede i 2011 hadde Google utviklet et verktøy hvor du kunne google et ansikt for å finne andre bilder av dem, men daværende styreleder, og tidligere toppsjef for Google, Eric Schmidt, hadde bestemt at teknologien ikke skulle slippes løs. Ifølge Schmidt selv, er dette den eneste teknologien Google hadde utviklet og deretter bestemt seg for å stoppe. Apple har også spilt en rolle i å begrense tilgjengeligheten av denne teknologien. I 2010 kjøpte de det svenske selskapet Polar Rose, som også utviklet ansiktgjenkjenningsteknologi. Apple kjøpte opp selskapet, for så å stenge ned selskapets tjenester for eksterne brukere. 

Samtidig som Apple, Google og Meta valgte det etiske fremfor det teknologiske, har selskaper som Clearview AI og PimEyes tatt i bruk tilsvarende teknologi i sin søkemotor, slik at hvem som helst kan laste opp ett enkelt bilde for å identifisere vedkommende. Og selv om slike verktøy har potensial til å avsløre kriminelle, kan det samtidig avsløre sensitiv informasjon og kompromitterende bilder fra helt uskyldige mennesker. Dette er noe som reiser (eller bør reise) alvorlige personvernbekymringer. 

Åpen kildekode-utfordringer

The New York Times-artikkelen ser også på utfordringene relatert til spredning av ansiktsgjenkjenningsteknologi basert på åpen kildekode. I tilfellet Clearview AI bruker selskapet for eksempel OpenFace, som er et ansiktsgjenkjenningsbibliotek utviklet av et team ved Carnegie Mellon University. Og selv om utviklerne helt sikkert har hatt edle intensjoner, har prosjektets åpen kildekode-natur gjort det umulig å kontrollere hvordan teknologien blir brukt. Det er et godt eksempel på de etiske kompleksitetene iboende i åpen kildekode-initiativer. 

Fremtidens utvidede virkelighet

Debatten om fremtiden for ansiktsgjenkjenningsteknologi er viktig å ta nå, før markedet for Apple sine VisionPro-briller og metaverset potensielt “tar av”. Både Apple, Clearview AIog Meta jobber med AR-briller som er utstyrt med ansiktsgjenkjenningsegenskaper. Det som ved første øyekast (pun intended) kan oppleves som veldig kult og innovativt, og som åpenbart også kan forbedre menneskelig hukommelse og sosiale interaksjoner, vil i tillegg by på betydelige etiske og juridiske utfordringer som samfunnet vil være best tjent med å håndtere før teknologien blir, bokstavelig talt, tredd over ansiktet vårt. For det er den veien det går. 

Da Apple 12. september lanserte iPhone 15, hintet teknologigiganten ved flere anledninger at Vision Pro skal bli det nye midtpunktet i Apples økosystem. Brillene til Apple er ikke alene om å markere starten på en fremtid hvor teknologien blir stadig mer allestedsnærværende og hvor våre biometriske data blir sentrale. Disse debattene bør tas i sammenheng med den bredere samtalen vi har begynt å ta om de mange etiske implikasjonene av kunstig intelligens-utviklingen. En utvikling vi ikke kan overlate til teknologigigantene, selv om de har bevist ved et par tilfeller at de setter det etiske fremfor det teknologiske. 

Et fragment av det enorme etiske landskapet

De etiske betraktningene rundt ansiktsgjenkjenningsteknologi er bare et fragment av det enorme etiske landskapet som omfatter alt som har å gjøre med kunstig intelligens. Et tema og et teknologi-felt som bare vil vokse i betydning etter hvert som teknologien fortsetter å utvikle seg i et eksponentielt tempo. Fremtiden ligger forhåpentligvis et sted mellom det etiske og det teknologiske. Derfor kan kanskje historien til The New York Times-journalisten være en nyttig påminnelse om at teknologiske fremskritt må forfølges med en skarp bevissthet om de potensielle negative innvirkningene det kan ha på måten vi lever, leker, lærer og jobber.

Vi må aldri slutte å være nysgjerrige på hvilke muligheter teknologien kan gi oss. Samtidig må vi ikke falle for fristelsen for å bli teknologi-sjåvinister.