AI mellem mening og træthed
Har du også oplevet en form for træthed eller fatigue overfor AI? Jeg har en AI-fatigue, som ikke er en træthed, der forsvinder natten over. Fatiguen kan være en tilstand, der kan opstå, når man hører om AI lige fra i nyhederne, på arbejdet, LinkedIn, sociale medier – det er svært at undgå – og man føler sig mættet. Men i tilstanden opdagede jeg, at netop dén fatigue kan være en nøgle for mig til at finde ud af, hvornår AI giver mening.
Min første AI-træthed
Jeg mærkede første gang en form for AI-træthed i september 2022. Jeg deltog i et hackathon (et marathon, men hvor koden løber i stedet for), præcis to måneder inden at ChatGPT blev udgivet. Dengang var vi en flok nysgerrige unge studerende, som sad i et rum og programmerede med GPT-3 modellen, vi byggede chatbots, stress-testede deres sikkerhedsniveau osv. I det rum havde vi ingen ide om, hvad der ventede og hvor relevant det vi lavede og de spørgsmål vi stillede egentlig var.
“Internal Conflict in GPT-3: Agreeableness vs Truth”, var titlen på en artikel jeg skrev sammen med to andre fra Cognitive Science til hackathonet. Det var vildt hvad GPT-3 kunne, teknologien var imponerende – men vi var dog også kritiske. Artiklen vi skrev undersøgte, hvordan personlighedstræk som venlighed og sandfærdighed spiller sammen i GPT-3, særligt i chatbot-interaktioner. I kundeservice forventes det bl.a. at chatbots både kan være venlige og sandfærdige, men vores studie viste, at ønsket om at opnå begge dele skaber en intern konflikt. Når GPT-3 bliver indstillet til både at være sandfærdig og venlig, har den en øget tendens til at bekræfte usande udsagn sammenlignet med, hvis den kun er indstillet til sandfærdighed. Med andre ord: Venligheden reducerer modellens kritiske sans.
Studiet var dengang unikt – ingen andre havde undersøgt det. Søger man i dag på lignende keywords i Google Scholar, får man ca. 1.120 resultater. Feltet eksploderede, men problemet består: modellerne er stadig ikke sandfærdige. Det peger på den ultimative begrænsning ved de her sprogmodeller, nemlig at modeller som GPT og lignende ikke er ‘sandhedsmaskiner’, de er maskiner, der producerer sprog. Alligevel så vi og forudså, at de ville blive brugt i sammenhænge hvor sandfærdighed netop er afgørende. Her opstod trætheden. Risikoen for at teknologien ville blive misforstået, og brugt forkert.
Teknologiens løfte og bagside
I en postmoderne tid, hvor stemningen kræver forandring, og hvor verdensfreden er en mangelvare, giver teknologien, for nogen, et håb. Den teknologiske fremdrift, der siden industrialiseringen er marcheret ind i samfundet, har båret løftet om en bedre verden. Et løfte om at mennesket kunne løsrive sig fra de kropslige lænker, arbejdet krævede. Men i stedet blev mennesket lænket på ny, nemlig af travlheden.
Og her står vi så i 2025, med en lovende teknologi, der ved hjælp af sprog kan accelerere mange processer og frigøre tid. Dog vil mange opdage at travlheden er der endnu. Men hvad med håbet i teknologien, håbet om en bedre verden? Den lever måske stadig.
Fra hype til fatigue
Jeg oplever ofte en tvivl, om hvorvidt AI virkelig er et middel til en bedre verden. Det er også i den tvivl, at min indre træthed opstår. Men i takt med tiden har jeg opdaget at det ikke er en træthed, jeg kan sove mig fra. Den forsvinder ikke efter en pause. Det er en fatigue, nemlig en tilstand som kan følge mig, mens jeg arbejder, læser og holder mig opdateret om AI. Det er som en indre apati, og en udmattelse over at høre om AI overalt. Alle vil implementere AI, og hvis de ikke har gjort det endnu, så er de i gang.
Men i fatiguen opdagede jeg også, at der opstod en rettesnor. Jeg har taget fatiguen til mig som en ressource. Det kan for mig være en følelse, som guider mig i retning af det, som giver mening. Jeg har nemlig opdaget, at fatiguen især opstår i det, som netop ikke er meningsfuldt. Når AI f.eks bliver anvendt uden at gøre verden bedre.
For hver gang vi implementerer AI, bruger det, tester det, er vi med til at bane en retning for fremtiden. Så når en træthed af AI rammer mig, er det fremtiden, der banker på og prøver at fortælle mig at noget bør gøres anderledes.
Invitation: Gejst Sessions
Men hvad er så meningsfuld brug af AI? Jeg er ikke sikker. Men jeg vil enormt meget gerne udforske det. Jeg har en grundlæggende oplevelse af, hvad det i hvert fald ikke er: unødig optimering, profitmaksimering, spam, propaganda, unødig generering, …
Hos Gejst Studio kommer vi til at udforske det emne sammen med jer. I en event-serie over tre kapitler vil vi sammen dykke ned i tre udvalgte dimensioner af arbejdet med AI. Vil du med på rejsen og udforske det? Hvis du gerne vil være håbefuld og tør at udfordre vores egen forståelse af og ønske om hvordan arbejdet med AI og fremtiden skal være, så læs mere og tilmeld dig her.