För några veckor sedan läste jag om sociologiprofessorn och författaren Emma Engdahl, som hade fått en essä avpublicerad i Svenska Dagbladet efter misstankar om att texten var skriven av artificiell intelligens. Bakgrunden till åtgärden var en granskning i nättidningen Kvartal där analysprogrammet Pangram hade klassificerat hennes essä som hundra procent AI-genererad. Engdahl förnekade att AI hade skrivit texten eftersom hon själv stod bakom den, men berättade att hon hade använt AI som ett bollplank i sitt skrivande. Efter Svenska Dagbladets egna kontroller beslutade man att ta bort essän. Jag reagerade på nyheten eftersom jag själv är nyfiken på hur artificiell intelligens kan påverka texter och var gränsen går mellan att skriva något själv och att bli anklagad för fusk. Frågan har blivit högaktuell under den senaste tiden då flera etablerade författare har fått sitt arbete ifrågasatt.
Jag har skrivit sju böcker, ett antal krönikor och i början av 2000-talet flera tusen sidor instruktionstext. Merparten av böckerna kom till långt innan dagens generativa AI fanns tillgänglig, men nu när jag har börjat skriva krönikor testar jag mina egna AI-plattformar Planum Chat AI och PlanumStylus även där. Jag utvecklar tankarna, skriver mina texter och när behov uppstår låter jag tekniken hjälpa mig med språkgranskning, formuleringar och faktakontroll. Ibland accepterar jag ett förslag, ibland ändrar jag det och ganska ofta förkastar jag det helt. Det är ungefär så jag föreställer mig att samarbetet med en mänsklig redaktör fungerar.
Efter att ha läst om Emma Engdahl bestämde jag mig för att testa några av mina egna texter. Jag valde ut tio lite längre utdrag från mina tidigare böcker, och döm om min förvåning när en av dem klassificerades som hundra procent AI-genererad och en annan som sextiofyra procent maskinskriven. Pangram är ett analysprogram som har tränats på stora mängder texter skrivna av både människor och språkmodeller. Enligt företaget bakom programmet är risken för att en mänskligt skriven text felaktigt pekas ut som datorgenererad extremt liten. Enligt deras egna tester handlar det om ett felaktigt utslag per 24 000 texter skrivna av människor. Men om programmet nu har så hög träffsäkerhet och samtidigt pekar ut två av mina texter som skrevs långt innan generativ AI fanns så börjar man ju fundera på vad systemet egentligen reagerar på. Jag bestämde mig därför för att göra några enkla experiment. Framför allt ville jag se vad som händer när en ursprungligen mänsklig text får språklig hjälp av AI.
Några försök med mina egna texter
Jag började med ett utdrag ur första kapitlet i en av mina äldre böcker, utgiven 2016. Det var en ganska personlig skildring av ett möte mellan huvudpersonen och en psykoterapeut. Pangram klassificerade originalet som hundra procent mänskligt skrivet. Sedan lät jag Planum Chat AI bearbeta samma text med instruktion att förbättra språket, men behålla innehållet, berättelsen och ungefär samma längd. Resultatet blev en text där många meningar hade formulerats om. Händelseförloppet var fortfarande detsamma, men språket hade blivit mer bearbetat och några psykologiska nyanser hade förstärkts. Den här gången ansåg Pangram att 82 procent av texten var AI-genererad.
Jag gjorde då om försöket med samma original, men gav en betydligt försiktigare instruktion. Nu skulle AI bara rätta mindre språkliga brister, förbättra några enstaka formuleringar och i övrigt lämna texten så orörd som möjligt. Resultatet blev hundra procent mänskligt skrivet, vilket var extra intressant. I det här försöket verkade Pangram kunna skilja mellan en försiktig korrekturläsning och en omfattande språklig bearbetning. Det var ett hyfsat resultat, men jag var fortfarande fundersam över mina andra texter som hade klassificerats som AI-genererade, trots att AI inte hade varit inblandad.
Jag fortsatte med ytterligare några försök. Bland annat tog jag en kort journalistisk text om säkerhetsbrister i programmeringsspråket PHP där originalet klassificerades som helt mänskligt. Efter att jag låtit AI förbättra formuleringarna fick den bearbetade versionen 68 procent AI-markering, medan en annan version, där jag hade begärt förbättrat språk men ungefär oförändrad längd, fortfarande klassificerades som hundra procent mänsklig. Dessa experiment kan knappast användas för att dra några vetenskapliga slutsatser om programmets tillförlitlighet, men försöken säger ändå något om hur svårt det är att avgöra en texts ursprung genom att enbart analysera det färdiga resultatet.
Vem har skrivit texten?
Det är knappast någon nyhet att ett manus genomgår omfattande förändringar innan det publiceras som bok. En lektör granskar texten och föreslår förbättringar. En redaktör vill flytta stycken, kanske förändra berättelsens uppbyggnad, korta ner resonemang eller helt skriva om formuleringar som passar bättre. Korrekturläsaren rättar sådant som författaren har missat och ordböcker, synonymordböcker och andra hjälpmedel kan användas för att hitta en bättre balans och ett vassare uttryck.
Jan Guillou har ofta berättat om vilken stor betydelse hans hustru Ann-Marie Skarp har haft för hans författarskap. Hon är både hans förläggare och redaktör, och Guillou brukar ta till sig hennes synpunkter och ändra sina texter efter hennes förslag. Men ingen skulle väl påstå att det är hon som har skrivit Jans böcker. Varför skulle man då göra en annan bedömning när samma hjälp kommer från ett dataprogram?
Om jag använder Words synonymordbok för att hitta ett bättre ord eller om en redaktör föreslår att jag ska ändra meningsbyggnaden, så är det fortfarande jag som har skrivit texten. Skulle en liknande förändring göra mig till en dålig författare bara för att förslaget kommer från AI? Naturligtvis är det stor skillnad mellan att få hjälp med språket och att låta någon annan skriva berättelsen, vem som än gör det. En spökskrivare kan skriva en bok åt någon annan, precis som en språkmodell kan skapa en hel roman. Men mellan dessa ytterligheter är gränserna betydligt svårare att dra.
Hur är det med musiken?
Sedan slutet av 1990-talet har man kunnat använda Auto-Tune och liknande teknik för att rätta falska toner i en sånginspelning. Ibland kan en medioker sånginsats förvandlas till något som närmast låter perfekt. Det går att justera tonhöjd, timing, klang och en hel del annat. Trots att den färdiga inspelningen kan skilja sig från det som ursprungligen spelades in betraktar vi oftast sångaren som den verkliga artisten. Visst kan man ifrågasätta sånginsatsen, men varför skulle vi resonera annorlunda när det gäller en författares text?
Traditionell Auto-Tune är naturligtvis ingen generativ AI. Den korrigerar ett befintligt ljudmaterial, men jämförelsen med författarens värld är intressant. Vi accepterar teknik som förbättrar prestationer inom musiken, men när det gäller författare gäller tydligen andra regler.
Vad händer med upphovsrätten?
Det finns också en juridisk fråga som är värd att fundera över. Vad händer om någon tar ett kapitel ur en av mina äldre böcker och låter AI skriva om språket? Många formuleringar är ändrade, men karaktärerna och händelserna finns kvar i oförändrad form. När texten sedan analyseras klassificeras den som helt AI-genererad. Betyder det att texten inte längre omfattas av min upphovsrätt? Nej, så är inte fallet. Enligt lagen skyddas ett litterärt verk så länge de upphovsrättsligt skyddade delarna finns kvar. Att en text har bearbetats innebär inte att vem som helst får kopiera och publicera den.
En text kan alltså av ett analysprogram beskrivas som helt AI-genererad samtidigt som den är en bearbetning av ett mänskligt skapat och upphovsrättsskyddat verk. Men om en text skrivs helt av AI och Pangram klassificerar den som hundra procent mänsklig, betyder det då att den automatiskt får upphovsrättsligt skydd? Svaret är nej. Ett dataprogram kan inte avgöra vem som har upphovsrätten till en text.
Vem ska vi egentligen tro på?
Jag har också läst Pangrams 38-sidiga rapport. Testresultaten är häpnadsväckande, men utvecklarna medger att programmet kan göra fel utan att de riktigt kan förklara varför. Samma text kan dessutom bedömas olika beroende på hur mycket av den som analyseras.
Det är bra att det finns system som kan bedöma om en text är AI-genererad, men resultatet måste behandlas med en viss försiktighet, särskilt om bedömningen kan få konsekvenser för den som har skrivit texten. Det var därför jag reagerade på Emma Engdahls fall. Svenska Dagbladet har självklart rätt att bestämma vilka krav som ska gälla för texter som publiceras i tidningen, men vi måste vara försiktiga när en författares trovärdighet ställs mot resultatet från ett statistiskt analysverktyg. En dator kan säkert känna igen vissa språkliga mönster, men det betyder inte att den vet vem som har skrivit texten. Mina två texter som Pangram tidigare klassificerade som AI-genererade är ju beviset för det.
Att få hjälp med att kontrollera fakta, upptäcka språkliga misstag och pröva alternativa formuleringar är toppen. Ibland blir resultatet bättre, ibland blir det sämre. Det avgör jag, precis som jag alltid har gjort i mitt författarskap när jag bearbetar mina texter. Men jag tänker inte börja skriva sämre, använda konstigare ord eller avsiktligt göra språkliga misstag bara för att ett datorprogram lättare ska känna igen mig som människa. Om en författare i framtiden måste bevisa att hen har skrivit sin egen text genom att få den godkänd av en AI-detektor har vi fått ett ganska märkligt förhållande till både tekniken och det mänskliga skapandet. För hur ska en människa kunna bevisa att hon är mänsklig för en maskin som redan har bestämt sig för motsatsen?
(Pangrams klassificering av denna krönika: 100 % Human Written.)
Thor-Björn Bergman
Senior Advisor, krönikör och författare
Som en del av forsknings- och utvecklingsarbetet kring AI-teknikens möjligheter och begränsningar har min originaltext språkgranskats, bearbetats och faktakontrollerats med de egenutvecklade AI-plattformarna Planum Chat AI och PlanumStylus, där de två specialiserade AI-komponenterna NEXL och Sema har en central roll i processen.