Viktiga aspekter av att använda AI

Generativ AI är väl som vilket digitalt verktyg som helst?

Generativ AI kan räknas som ett digitalt verktyg men det finns ett antal viktiga skillnader att vara medveten om. I denna inledning tas ett antal distinktioner upp mellan generativ AI och många av de andra digitala verktyg vi använder. I detta avsnitt finns fördjupningar i sådant du som student behöver känna till för att ansvarsfullt kunna använda AI generellt och generativ AI specifikt.

Skillnaden i hur verktyget fungerar

Traditionella digitala verktyg, som en kalkylator eller en GPS-tjänst, bygger på tydliga, av människor skrivna regler. Samma indata ger alltid samma utdata, och det går oftast att spåra varför systemet svarade som det gjorde. Generativ AI fungerar annorlunda då det är tränat på enorma datamängder, där systemet självt hittat mönster snarare än att följa explicita regler. Det innebär att samma fråga kan ge olika svar vid olika tillfällen, och att det sällan går att i detalj förklara varför modellen genererade ett visst svar. Denna oförutsägbarhet och brist på transparens gör att generativ AI kräver ett mer kritiskt förhållningssätt än de flesta andra digitala verktyg som du som student kanske är van vid.

Verktyget skapar nytt innehåll

Till skillnad från verktyg som bearbetar eller presenterar befintlig information kan generativ AI skapa helt nytt material i form av text, bild eller ljud, vilket ofta är svårt att skilja från mänskligt skapat innehåll. Detta väcker frågor som: Vem är upphovsperson till en AI-genererad text? Bygger innehållet i praktiken på andras upphovsrättsskyddade verk? Inom högre utbildning blir detta särskilt känsligt vad gäller exempelvis forskning eller när du som student lämnar in en text. Om någon använder AI-genererad text som sin egen uppstår genast frågor om plagiat och eget kunskapsbidrag, på ett sätt som inte alls aktualiseras vid till exempel användning av ett rättstavningsprogram.

Risk för fel, fördomar och hallucinationer

Generativa AI-modeller återspeglar de brister, fel och fördomar som finns i den data de tränats på. Resultatet kan bli innehåll som förstärker stereotyper eller innehåller sakfel presenterade med stor självsäkerhet, så kallade hallucinationer. Detta skiljer sig markant från exempelvis en kalkylator, där ett felaktigt resultat oftast beror på ett identifierbart misstag. Med generativ AI kan felaktig information se lika trovärdig ut som korrekt information, vilket ställer höga krav på källkritisk granskning, särskilt viktigt i en akademisk kontext där du som student förväntas belägga påståenden och bedöma källors tillförlitlighet innan innehållet används eller sprids vidare.

Etiska överväganden

Utöver de tekniska och akademiska frågorna aktualiserar generativ AI flera etiska dilemman som sällan uppstår med andra digitala verktyg. Träning och drift av stora AI-modeller kräver mycket beräkningskraft, vilket ger en betydande energi- och vattenförbrukning samt ett klimatavtryck som ofta är osynligt för den enskilda användaren. AI-modellers förmåga att filtrera bort olämpligt innehåll bygger på manuell datagranskning. Arbetet läggs ofta ut på lågbetald personal i länder med svagt arbetsrättsligt skydd, vilket innebär en stor psykisk belastning genom ständig exponering för stötande material. Ytterligare en central fråga rör upphovsrätt då modellerna har tränats på enorma mängder text, bild och kod som samlats in från internet, ofta utan upphovspersonernas samtycke eller ersättning. Detta har väckt rättsliga tvister och debatt om vem som egentligen äger det innehåll som modellerna sedan genererar. För dig som student är det viktigt att förstå att varje AI-genererat svar har en dold kostnad i termer av miljöpåverkan, mänskligt arbete och oklara upphovsrättsfrågor, vilket bör ingå i en medveten och ansvarsfull användning av tekniken.

Bred användbarhet skapar bredare konsekvenser

Till skillnad från verktyg utvecklade för en specifik uppgift är generativ AI generellt användbar inom många tillämpningsområden, från text och kod till bilder och sammanfattningar. Denna bredd påverkar arbetsmarknad, utbildning, upphovsrätt och informationsspridning i samhället på ett sätt som sällan gäller mer avgränsade verktyg. Lagstiftning och etiska riktlinjer har svårt att hänga med. För dig som student innebär detta att generativ AI inte bara handlar om teknisk färdighet, utan också om att förstå ett bredare ansvar, så väl akademiskt som samhälleligt.