I Japan har de enormt mange gachapon-maskiner. Det er maskiner, hvor du kan trække en plastikkugle med legetøj i. De koster ofte omkring 300-500 yen, og er absolut ubrugelige.1
Hver maskine har ofte 4-5 forskellige variationer af legetøjet, i en tematisering der spænder meget bredt, over popkultur, tegnefilm, medier eller maskiner. Der er ofte også en enkelt udgave der er særligt sjælden, og derfor mere attraktiv. Det er sjovt at trække en gacha.2 Det kilder den del af hjernen, der kan lide spænding, og spændingen er yderst ufarlig. Det er bare en dims.
Problemet med gacha er afhængighed og FOMO. Du vil have lige præcis den rigtige udgave af legetøjet, og smider derfor tonsvis af penge i maskinen, indtil du får den rigtige. Selvom risikoen er lav, og det bestemt ikke er som at have, fx, ludomani eller anden afhængighed, så er det et element af misbrug. Du vil meget gerne have noget bestemt ud af et system der er bygget til at give dig et vilkårligt output. Til gacha-maskinernes forsvar er det output ret begrænset i scope. 4-5 forskellige udgaver, med forskellig grad af sjældenhed. Så selvom det er vilkårligt hvilken udgave der kommer ud, så ved du med sikkerhed HVAD der kan komme ud. Du har 4-5 muligheder. Så hvis du trækker nok gange, får du den dims, du gerne vil have.
Denne post handler om generative AI chatbots.
Du har, fordi du er på LinkedIn og arbejder på at opnå maksimal depression gennem brugen af LinkedIn, set opslag med folk der viser deres hacks og geniale prompts til hvordan de får Claude til at lave alt deres arbejde for dem. Det virker smart. Ved at skrive et par faste vendinger, gør du din røvslikkende beta-male chatbot til en superperformende hypermacho alpha-male ultrakollega, der bare kan alting. Hvem vil ikke det? Hvem vil ikke maksimere deres performance og turbocharge deres output?
Sæt dig ned, skipper. Nu skal vi snakke om deterministiske systemer, og hvorfor alle på LinkedIn lyver for dig.3
Kan du huske matematik? Det var noget vi alle sammen havde i folkeskolen, og som nogle mennesker fortsatte med bagefter. Matematik er deterministisk. 2+2 er altid 4. Du er sikker på at input giver et determistisk output. Medmindre du laver en fejl.
Når troldmændene på LinkedIn fortæller dig om den magiske prompt der omdanner Claude til en visdomsspyende klon af Jeff Bezos eller Elon Musk4, så glemmer de at det ikke er sådan den virker. Fordi maskinerne på overfladen er ekstremt imponerende, så er der ikke mange der tænker over hvad det er der foregår under hjelmen, og hvordan det output du får, rent faktisk opstår. Den har bare givet dem et output som de selv er tilfredse med. Hypen omkring LLM’er er bygget på et fundament af uvidenhed. Det output er ikke deterministisk, og du er næsten garanteret et andet output. Det er sådan en LLM virker. Den tager tonsvis af træningsdata og omdanner det til output gennem komplekse ikke-deterministiske processer. Hvilket på almindeligt dansk betyder at den kaster havregrød på væggen og håber at noget af det hænger fast. Geniet på LinkedIn med den magiske prompt fik bare en gachakugle med det han gerne ville have.5 Selvom du bruger den samme maskine, så får du ikke det samme.
Lige nu er der en kolossal mængde vidensarbejde, der laves på en gachamaskine. Men ikke bare hvilken som helst gachamaskine. Det er en gachamaskine der er programmeret til at rose dig hver eneste gang du trækker en ny kugle, og har en forretningsmodel, hvor kuglerne nærmest er gratis, fordi driften er subsidieret. På et tidspunkt bliver kuglerne MEGET dyre, og fordi systemet i sin natur ikke garanterer et passende eller nyttigt output, så kommer det til at koste enormt mange penge. Det kommer meget specifikt til at ramme et punkt hvor antallet af penge du putter i, dikterer hvor dårlige outputs du er villige til at acceptere. Lige nu kan du råbe af maskinen indtil den giver dig lige det du vil have, men det kommer du ikke til for evigt.
Forhåbentligt vil den kommende økonomiske friktion i disse services give anledning til en overvejelse omkring værdien af arbejde. For det virker sindssygt at betale en person 70k+ om måneden for at brænde 25k+ på at råbe af en maskine i håbet om at den kan lave det arbejde, man nominelt betaler personen for. Men indtil da kommer meningsdannerne på LinkedIn stadigvæk til at trække deres meninger i gachamaskinen, og formaste sig til at kalde det innovation.
- Jeg har selvfølgelig en del dimser derfra. Selv ikke jeg, den stoiske konge af regressiv tænkning, er immun overfor tingeltangel. ↩︎
- Sjovt er selvfølgelig subjektivt. Det kan være du slet ikke har nogen reaktion på det. ↩︎
- Eller får selvsamme exceptionelt løgnagtige chatbot til at lyve for dem. Vi lever i sandhed i et informationssamfund uden indhold. ↩︎
- Jesus Kristus, hvor er det en frygtelig tanke at have tænkt. At man frivilligt lader en dement robot cosplaye som verdens værste mennesker og kalder det inspiration. ↩︎
- Eller noget der var tæt nok på. Det svære ved at bygge ting ved at råbe af andre, er at man ikke selv laver det, og derfor i en eller anden udstrækning må finde sig tilfreds med resultatet. Det største problem med generativ kunstig intelligens er, at det lige nu er meget billigt at råbe i mange, mange timer. Man bliver ikke klog af at råbe. ↩︎