Alle Chatbots Tapper Fra Elon Musks Grokipedia

ChatGPT er ikke den eneste chatbot, der henter “svar” fra Elon Musks Grokipedia

Kilde: The Verge

Det startede som endnu en “Wikipedia, men med mere Elon”-idé: Grokipedia, en AI-genereret encyklopædi, der ifølge rapporter nu bliver citeret som kilde i ChatGPT-svar. Twist’et er, at det ikke stopper dér. The Verge beskriver, hvordan referencer til Grokipedia også dukker op i Googles AI Overviews, AI Mode og Gemini – altså netop de steder, hvor brugere forventer et hurtigt facit, ikke et eksperiment i alternativ kildehistorik.

Grokipedia er stadig en relativt lille aktør i det samlede kildelandskab, men data peger på, at citationsfrekvensen er stigende. Og det er præcis dér, risikoen bliver praktisk: Når en “minor source” pludselig får motorvej til menneskers beslutninger via generativ søgning, kan fejl og vinklinger få langt større rækkevidde end på en niche-side, der ellers skulle have kæmpet sig gennem Safari-faner og kritiske læsere.

Vi er vant til at diskutere hallucinationer som et modelproblem. Men citationslaget er en anden slags problem: Når en chatbot “viser kilder”, føles svaret automatisk mere robust. Det er næsten som Face ID for sandhed – det går hurtigt, det virker ofte, og man stopper med at tænke over, hvad der egentlig blev verificeret. Hvis kilden i sig selv er AI-genereret og politisk/ideologisk formbar, flytter det fejlkilden fra “modellens gæt” til “modellens afhængigheder”.

Det er også et signal om, at citationsøkosystemet – hvem der bliver betragtet som legitim reference – kan manipuleres eller i hvert fald skubbes i en retning. Lidt SEO, lidt distribution, lidt autoritet via andre systemer, og pludselig kan et stykke genereret tekst få status som “encys-klangbund” i en svarmaskine. Og ja: Man kan næsten høre, hvordan App Store’s review-team ville sukke, hvis nogen forsøgte at sælge den slags som “uddannelsesapp”.

Det mest interessante her er, at det ikke kun handler om én chatbot eller én milliardær. Det handler om en strukturel tendens: Generativ søgning bliver den nye frontdør til viden, og frontdøre er notorisk dårlige steder at køre kildekritik – især når folk spørger fra deres iPhone mellem møder, med AirPods i ørerne, og vil have et svar nu. Hvis du først har outsourcet din research til en AI, er næste skridt typisk at outsource din dømmekraft. Det lyder hårdt, men prøv at tælle, hvor mange der klikker videre, når de får et svar øverst.

For Apple-brugere er det værd at tænke over konsekvensen i hverdagen: Når viden leveres som en “oversigt”, bliver der mindre plads til den langsomme del af internettet. Det er den del, der normalt fanger fejl, skævheder og kontekst – uanset om du læser på macOS, iPadOS eller iOS. Med Apple Intelligence på horisonten og Siri, der i stigende grad forventes at “klare det”, bliver spørgsmålet ikke om AI kan svare, men hvilke kilder der får lov at definere, hvad et svar overhovedet er.

Min vurdering er, at Grokipedia-citater i flere store AI-produkter er et rødt flag, ikke fordi én kilde nødvendigvis er forkert hver gang, men fordi incitamentet bag kilden er uklart, og fordi citationsformatet giver falsk tryghed. Hvis vi ender i en verden, hvor AI primært citerer andre AI-tekster, får vi en pænere søjlegang – men et dårligere fundament. Det er internettets svar på at køre AirDrop rundt i en cirkel og kalde det “distribution”.

Vil du følge flere historier om AI, søgning og hvad det betyder for Apple-økosystemet, kan du holde øje med We❤️Apple og vores dækning af Apple Intelligence.