Pangram har flyttet inn i forfatterens hode

Forfatteren Sylo Tarakus sin nye bok var sendt til trykking da han selv kjørte manuset gjennom AI-detektoren Pangram. Den ga 18 prosent utslag, og utgivelsen ble utsatt. Jeg frykter at vi er i ferd med å skape et klima der forfattere gransker sitt eget arbeid gjennom et algoritmisk perspektiv, i frykt for at noen vil anklage dem for å ha brukt kunstig intelligens. 

Taraku forteller i Morgenbladet at han har brukt AI som støtte til research, strukturering, kvalitetssikring og språkbearbeiding. Han forteller at han har lest primærkildene, vurdert forskere opp mot hverandre og gjort resonnementene selv. Manuset hadde vært gjennom forlag, faglige lesere og språkvask. Ingen hadde reagert på språket. Så var det Pangram sin tur. 

Taraku varslet selv forlaget om resultatet, og de ble enige om å gå gjennom boken på nytt. Det er en ansvarlig reaksjon dersom hensikten er å undersøke hva AI faktisk har bidratt med. Jeg kan kun spekulere i hvorfor han valgte å teste manuset først etter at det var sendt til trykking. Kanskje han ville han forsikre seg om at bruken lå innenfor forlagets forventninger. Kanskje hadde de siste ukenes «AI-avsløringer» gitt ham kalde føtter for hvordan andre (les: Pangram) ville vurdere teksten. 

En gapestokk med en hensikt

En uke før Morgenbladet publiserte nyheten om Taraku, skrev avisens kommentator og reportasjeleder Markus Slettholm at han forbeholder seg «retten til å drite ut skrivende mennesker som blir tatt i AI-generering». Han forsvarer sosial stigmatisering som et middel til å forme normer, og sammenligner situasjonen med doping i idretten.

Markus skriver i samme kommentar at mange journalister, forfattere og forleggere nok frykter en telefon fra Manifest-redaktør Magnus Marsdal denne høsten. Han så for seg hektisk manusarbeid med tekster som allerede var sendt til trykking i en tid før Pangram ble et offentlig kontrollverktøy. Det er en påfallende beskrivelse av situasjonen Taraku senere fortalte om. Jeg vet verken om Taraku hadde lest kommentaren, eller om han lot seg påvirke av den.

Sammenstillingen sier likevel noe om klimaet saken utspiller seg i. Slettholm ønsker at stigmaet skal få konsekvenser. Da er det også rimelig å undersøke hvordan frykten for stigma kan endre folks atferd.

Personlig synes jeg dopinganalogien er misvisende. En positiv dopingprøve kan påvise et forbudt stoff innenfor et definert regelverk. Et Pangram-utslag er en statistisk klassifisering av språk. AI-bruk i skrivearbeid favner alt fra hjelp med en ingress til å overlate hele analysen og teksten til en språkmodell. Forlag og redaksjoner kan sette grenser, men grensene varierer. Pangram kan ikke alene fortelle oss hvilke grenser et bestemt menneske har krysset.

//Artikkelen fortsetter etter annonsen//

18 prosent av hva?

Taraku mener selv at Pangram bommer når verktøyet markerer hans personlige beskrivelse av å se Maverick-filmen og få gåsehud som AI-generert. Jeg kan forstå innvendingen hans, men selv om opplevelsen var hans, kan fortsatt en språkmodell ha hjulpet ham med å formulere den. Og da kan språkmodellen også ha satt språklige spor. Derfor er det viktig at vi skiller mellom hvem som opplevde noe, hvem som tenkte tanken, og hvem som formulerte setningen. Pangram ser sluttproduktet. Den kjenner ikke arbeidsprosessen, og 18 prosent utslag betyr ikke det samme som 18 prosent mindre forfatterskap.

Derfor blir det spesielt at Taraku selv uttaler at 82 prosent av boken er skrevet uten spor av AI. Jeg kan forstå hvorfor han nevner det tallet, fordi det er konkret og ser presist ut. Samtidig sier det veldig lite om eierskapet til ideene, kvaliteten på undersøkelsene eller graden av selvstendig dømmekraft. Enda mer tankevekkende er et spørsmål Morgenbladet stiller forlagssjefen. Hvorfor har ikke redaktøren reagert på tankestreker, de klassiske «Ikke x, men y»og andre tegn på AI-bruk?

I sommer skrev jeg hvordan jeg har brukt disse «Ikke x, men y»-språklige grepene lenge før ChatGPT ble lansert. Likevel har jeg tatt grep for å endre formuleringer som er naturlige for meg, fordi jeg har lyst til å unngå at de kan oppfattes om «AI-språk» og «AI-slopp».

Samme dag som Taraku-saken ble publisert, skrev Morgenbladets Anna Kvam om hvordan mistanke om AI-genererte tekster kan gjøre henne mindre engasjert i det hun leser. Hun beskriver en form for likegyldighet som oppstår allerede før man vet om AI er brukt. Det er det som gjør meg urolig også. At vi har begynt å behandle vanskelige språklige virkemidler som «bevis» for en overtredelse. Da blir mistanken viktigere enn selve innholdet. 

Min egen bok er et bevisst valg

I min kommende roman, Friksjonsindeksen, har jeg viet de siste sidene i boken til å beskrive hvordan jeg har brukt kunstig intelligens aktivt gjennom hele skriveprosessen. Jeg vil ikke bli overrasket om Pangram gir store utslag dersom noen analyserer boken. Det endrer ikke hvem som har utviklet historien, gjort valgene underveis og tatt ansvaret for det ferdige verket. Jeg ser frem til diskusjon om hvordan jeg har fått hjelp av kunstig intelligens, fremfor å forsvare en prosentandel fra et verktøy som aldri har sett skriveprosessen. Boken blir sannsynligvis tilgjengelig i midten av november. 

Taraku og forlaget gjør rett i å undersøke om boken er blitt til slik de mener den skal bli til. Kanskje avdekker gjennomgangen reelle problemer som bør rettes. Da har prosessen vært verdifull. Men dersom målet til slutt blir å få Pangram-scoren ned, uten at innholdet eller det redaksjonelle arbeidet blir bedre, har vi fått et nytt problem. En ting er at en forfatter på tåle spørsmål om hvilke verktøy som er brukt. En annen ting er om forfatteren må omskrive teksten sin, for få den godkjent av en maskin.

Bilde: ChatGPT