AI – vad är det och hur fungerar det?

Generativ AI är en typ av artificiell intelligens som kan skapa nytt innehåll, till exempel text, bilder, ljud eller video. Tekniken bygger på att modellen tränats på mycket stora mängder data och lärt sig de mönster och strukturer som finns där. Utifrån en instruktion, en så kallad prompt, producerar den sedan ett nytt och unikt svar. 

I filmen nedan tar AI-Sweden upp vad generativ AI är och hur tekniken fungerar. Begrepp som LLM (large language model) och GPT (generative pre-trained transformer), förklaras samt hur dessa modeller kan skapa innehåll som text, bilder, ljud och video. Filmen förklarar också hur promptning fungerar och hur modellerna omvandlar input till output. Här diskuteras även de statistiska grunderna för generativ AI, användningen av säkerhetsmekanismer (guardrails) och förstärkningsinlärning (reinforcement learning), samt de möjligheter och begränsningar som finns med tekniken och hur den kan användas på ett ansvarsfullt sätt.

Large language model (LLM)

För text och språk används en AI-teknik som kallas Large Language Models (LLMs) eller, på svenska, stora språkmodeller. En stor språkmodell är en statistisk modell över hur mänskligt språk är uppbyggt och ger sina svar utifrån sannolikhetsberäkningar. Förenklat uttryckt bygger chattbottar och andra AI-sökverktyg ett svar utifrån din prompt på vad som sannolikt skulle kunna vara ett svar. 

Generativ AI används idag i en rad olika sammanhang: inom kundtjänst för att bemanna chattbotar, i innehållsproduktion för att skapa texter och bilder, i utbildning för att anpassa material, eller i forskning för att simulera scenarier.  Det är dock viktigt att förstå att generativ AI inte "vet" något i egentlig mening. Den skapar innehåll genom att förutsäga vad som är mest sannolikt, vilket gör att den ibland kan ha fel, hitta på fakta eller skapa innehåll som verkar trovärdigt men är missvisande. Därför krävs mänsklig granskning och källkritik när generativ AI används i praktiken.

Generative Pretrained Transformer (GPT)

De modeller vi kallar för språkmodeller bygger oftast på en teknik som heter transformer (därav förkortningen GPT – Generative Pretrained Transformer). En transformer-modell har ett mycket stort “kontextfönster”, vilket innebär att den kan hålla en mycket stor mängd ord i minnet samtidigt, både bakåt och framåt i texten, när den beräknar nästa ord.

Det verkar som att modellerna, när de blir tillräckligt stora, utvecklar funktioner och förmågor som de inte i grunden tränats för. LLM:er visar till exempel förmåga att generalisera, d.v.s att tillämpa lärdomar från ett område till ett helt annat. Framstegen i att utveckla dessa modeller och dess förmågor är ibland oväntade och idag svårförklarliga och det antyder att vår förståelse av komplexitet i neurala nätverk ännu är otillräcklig.

Retrieval-augmented generation (RAG)

Retrieval-augmented generation, förkortat RAG, är en teknik som kombinerar en stor språkmodell med en extern informationskälla, till exempel en databas eller sökmotor. Normalt genererar en språkmodell svar enbart utifrån det den lärt sig under träningen, vilket innebär att kunskapen är låst till en viss tidpunkt och att modellen ibland hittar på information, så kallad hallucination. Med RAG får modellen istället tillgång till aktuell och verifierbar information i realtid: när du ställer en fråga söker systemet först upp relevanta dokument eller texter, och språkmodellen använder sedan detta material som underlag för att formulera sitt svar. På så sätt kan svaret grundas i faktiska källor istället för enbart i modellens inbyggda kunskap.

Tekniken används bland annat i AI-baserade sökverktyg som är kopplade till vetenskapliga databaser, vilket gör det möjligt att hämta verkliga referenser utifrån en prompt. En viktig begränsning är dock att verktygen ofta bara har tillgång till sammanfattningar av artiklar, inte hela texten, och att du därför alltid själv behöver läsa och granska de källor du använder. RAG minskar alltså risken för felaktig information, men eliminerar den inte helt.