Basis

Det du skal vide om sprogmodeller inden du starter


  1. Der findes ikke ”kunstig intelligens”

    Der findes på nuværende tidspunkt ikke en almen kunstig intelligens (AGI), men der er aspekter af menneskelig intelligens, der kan efterlignes. Det, sprogmodeller som ChatGPT efterligner, er evnen til at kunne forstå almindeligt sprog og generere menneskelignende tekst.

    . . .
  2. Sprogmodeller anvender statistik for at lave svar

    Sprogmodeller udregner det mest sandsynlige svar på et givent spørgsmål, ved først gennem træning at have udregnet sandsynligheden for, at et givent ord eller endelse optræder i en kontekst sammen med andre ord. På den måde kan sprogmodellen servere et svar på et spørgsmål ved hele tiden at finde den næste sandsynlige sætningsdel i den tekst, den producerer.

    . . .
  3. Sprogmodellen er ”trænet” til at lyde overbevisende

    Under træning modtager sprogmodellen feedback fra brugerne om, hvilke svar der lyder mest overbevisende. Dette kan give problemer, når sprogmodellen genererer svar, der er overbevisende simulereringer af, at den udtaler sig skråsikkert om områder, uden af have reel viden.

    . . .
  4. Sprogmodeller er trænet på store mængder tekst

    Sprogmodellen er trænet på store mængder af tekst. Dette er ofte en blanding af skønlitterære værker, faktuelle tekster, internetfora og websider . Disse tekster er udvalgt af dem, der står bag den enkelte sprogmodel.

    . . .
  5. Sprogmodeller er ikke alvidende

    Sprogmodeller er begrænset af den træning, den har modtaget, og de spørgsmål den bliver stillet. Jo mere specifikke og komplicerede spørgsmål den bliver stillet uden for træningsmaterialet, jo mere usikre bliver de svar, som sprogmodellen kan levere. Derfor er sprogmodeller bedre til at udtale sig om velbeskrevne emner eller til at fremstille frie tekster, hvor der ikke er et facit. I fremtiden vil det dog være muligt at kombinere sprogmodeller med databaser over fakta (se fx Wolfram Alpha), så dens svar kan blive mere sikre inden for specifikke områder.

    . . .
  6. Sprogmodeller er også forretningsmodeller

    Vær opmærksom på, hvordan de forskellige sprogmodeller behandler dine data og om de overholder GDPR. Husk at være opmærksom på at hjælpe eleverne med at beskytte deres personfølsomme oplysninger. Mange sprogmodeller gemmer og anvender dine input som træningsdata.

    . . .
  7. Computeren er ikke din (og elevernes) ven!

    Sprogmodeller kan ikke føle, tænke, huske eller være empatiske. Det er vigtigt at forstå, at de intentioner og holdninger, der afspejles i et svar fra sprogmodellen, udelukkende er skabt på baggrund af den data, som modellen har er trænet på, samt den prompt, som sprogmodellen har fået. Der er ingen intentionalitet eller agency bag den kommunikation, som man har med sprogmodellen, også selv om det nogen gange kan være svært ikke at lade sig imponere af “samtalen”. Dette kan være en af de vigtigste ting at holde sig for øje, især når man arbejder med sprogmodeller sammen med børn og unge.

    . . .