Generativ AI är en kategori av AI-system som skapar nytt innehåll utifrån en instruktion, genom mönster som systemet har lärt sig från sitt träningsmaterial. Resultatet kan se övertygande ut utan att systemet har förstått eller kontrollerat att det är sant.
Den här guiden tar dig vidare från en enkel förklaring av vad AI är till hur generativ AI går från instruktion till utkast, vad den kan skapa och hur du använder den på ett sätt som håller när du granskar resultatet.
Vad är generativ AI?
Generativ AI är en typ av AI inom maskininlärning som skapar nytt innehåll utifrån en användarinstruktion och mönster som systemet har lärt sig från träningsdata.
Enligt Uppsala universitet hör generativ AI hemma inom maskininlärning, som i sin tur ingår i det bredare fältet artificiell intelligens. Många andra AI-system analyserar, klassificerar eller förutsäger i stället utifrån data som redan finns.
Vill du gå djupare in i hur fälten hänger ihop finns skillnaden mellan AI, maskininlärning och deep learning som en egen genomgång.
Hur skiljer sig generativ AI från analytisk och prediktiv AI?
Generativ AI skapar nytt innehåll, medan analytisk och prediktiv AI i första hand tolkar eller förutspår utifrån data som redan finns.
| Funktion | Huvuduppgift | Typiskt resultat | Exempel på neutral uppgift |
|---|---|---|---|
| Generativ AI | Skapar nytt innehåll | Text, bild, ljud, videoredigering eller kod | Skriva ett utkast till ett inlägg |
| Analytisk AI | Tolkar och klassificerar data | En kategori, ett mönster eller en sammanställning | Sortera ärenden efter ämne |
| Prediktiv AI | Förutsäger ett framtida utfall | En sannolikhet eller en prognos | Uppskatta efterfrågan nästa månad |
Funktionerna är inte varandras motsatser och indelningen är inte uttömmande. Ett och samma system kan både generera en sammanfattning och klassificera innehållet i en kategori, så gränsen handlar om vad en funktion används till i det enskilda fallet.
Hur fungerar generativ AI?
Generativ AI bearbetar en instruktion, en så kallad prompt, och bygger ett resultat genom att tillämpa mönster och statistisk sannolikhet som systemet har lärt sig under träningen.
Tre begrepp förklarar processen: vad en prompt är, hur tränade mönster blir ett resultat och varför systemet räknar i sannolikheter i stället för att förstå innehållet. I korthet: prompt, bearbetning, utkast, mänsklig granskning.
Vad är en prompt?
En prompt är den instruktion eller information som du som användare ger systemet för att styra vad det ska skapa.
Den kan vara en fråga, en text, en bild eller annan information som beskriver vad du vill ha. I prompten kan du ange längd, stil, undantag, perspektiv och önskat format, men det är fortfarande du som avgör om resultatet håller.
- Uppgift: vad resultatet ska handla om eller lösa.
- Kontext: bakgrundsinformation som gör uppgiften tydligare.
- Format: till exempel längd, stil eller struktur.
- Begränsningar: vad som ska uteslutas eller undvikas.
Hur blir instruktionen ett resultat?
Modellen matchar instruktionen mot mönster den har lärt sig under träningen och väljer därefter troliga ord eller visuella element i följd, steg för steg.
- Träningen bygger upp statistiska mönster för hur ord, meningar eller bildelement brukar höra ihop, utifrån stora mängder tidigare material.
- Den aktuella prompten bearbetas utifrån dessa mönster, inte mot en lagrad lista med färdiga svar.
- Systemet bygger resultatet del för del genom att välja ett sannolikt nästa ord eller element utifrån de inlärda mönstren, tills ett sammanhängande utkast är klart.
Förstår generativ AI det den skapar?
Nej. Generativ AI förstår inte innehållet den skapar, utan bygger sammanhängande resultat genom statistiska mönster och sannolikheter.
Resultatet kan därför låta säkert och korrekt formulerat även när det innehåller fel. Ett system kan till exempel ange fel årtal för en utgivning eller hänvisa till en rapport som inte existerar, utan att själv märka att uppgiften är felaktig.
Vad kan generativ AI skapa och göra?
Generativ AI kan skapa text, bilder, musik och annat ljud, videoredigering, presentationer och programkod, samt sammanfatta och översätta befintligt innehåll.
Enligt Digg bygger många av dessa funktioner på maskininlärning och djupa neurala nätverk. Att skapa, omvandla och sammanfatta är besläktade uppgifter, men hur mycket granskning som krävs beror på vad resultatet ska användas till.
- Text och dokument: utkast till artiklar, sammanfattningar, översättningar och strukturerade dokument.
- Bild: illustrationer, skisser och variationer av ett visuellt motiv utifrån en beskrivning.
- Ljud och video: musik och annat ljud, videoredigering och ljudförbättring.
- Kod: utkast till programkod, kodförslag och kommentarer som stöd i utvecklingsarbete.
Ett exempel på ett sådant verktyg är en språkmodellsbaserad assistent, som förklaras närmare i vad ChatGPT är och hur det fungerar. Oavsett verktyg gäller samma princip: resultatet är ett utkast som du behöver bedöma innan det används.
Hur använder du generativ AI steg för steg?
Praktisk användning börjar med en definierad uppgift och slutar med att du som människa har granskat, redigerat och tagit ansvar för resultatet.
Systemet levererar ett utkast eller ett hjälpmedel, inte ett färdigt och godkänt slutresultat.
- Definiera uppgiften och det önskade resultatet.
- Ge relevant kontext utan att lämna känsliga uppgifter.
- Ange krav på längd, stil, perspektiv, undantag och format där de behövs.
- Granska om utkastet löser uppgiften.
- Kontrollera fakta, citat, referenser och andra verifierbara påståenden mot oberoende tillförlitliga källor.
- Redigera innehåll, språk, ton och utelämnade perspektiv.
- Ta ansvar för det som används eller publiceras.
En tydligare prompt kan göra resultatet mer relevant och lättare att använda i rätt format, men den garanterar inte att innehållet är sant, komplett, rättvist eller säkert att använda.
En enkel promptmall kan användas som startpunkt för steg 1 till 3:
| Fält | Vad du fyller i |
|---|---|
| Uppgift | Vad resultatet ska handla om eller lösa |
| Kontext | Bakgrund som gör uppgiften tydlig |
| Krav | Längd, stil, perspektiv eller undantag |
| Format | Hur resultatet ska presenteras |
| Detta ska inte ingå | Vad som ska uteslutas eller undvikas |
Mallen hjälper dig att strukturera uppgiften. Den är ingen garanti för att resultatet blir korrekt.
Vilka begränsningar och risker har generativ AI?
Centrala risker med generativ AI är fabricerat innehåll, bias, osäker hantering av känsliga uppgifter, manipulerat innehåll, bristande källkritik och oklara upphovsrättsfrågor.
Ett flytande eller verklighetstroget resultat är inget bevis på att innehållet är sant, rättvist, äkta eller fritt att använda. Internetstiftelsen pekar på att välgjorda resultat ändå kan skapa frågor om upphovsrätt, manipulerat innehåll och källkritik.
- Hallucinationer: fabricerat innehåll som låter rimligt men är fel.
- Bias i träningsdata som kan ge snedvridna eller orättvisa resultat.
- Känsliga uppgifter som inte bör delas med ett AI-verktyg.
- Manipulerat innehåll som kan vara svårt att skilja från äkta material.
- Bristande källkritik när påståenden inte går att verifiera.
- Oklara upphovsrättsfrågor kring träningsmaterial och resultat.
Kan generativ AI ge felaktiga svar?
Ja. Generativ AI kan ge en hallucination, ett svar som Digg beskriver som rimligt klingande men felaktigt.
Det kan handla om en hänvisning till en rapport som inte existerar eller ett årtal som är fel, trots att formuleringen låter säker. Kontrollera därför påståenden, citat och referenser mot oberoende källor innan du använder dem.
Hur kan bias påverka resultatet?
Bias i träningsinformationen kan göra att resultatet blir felaktigt, ensidigt eller orättvist.
Granska om utkastet bygger på outtalade antaganden, saknar viktiga perspektiv eller beskriver grupper och ämnen på ett ojämnt sätt. En justering av prompten tar inte bort snedvridningen, utan kräver att du läser resultatet kritiskt varje gång.
Vilka uppgifter ska du inte lämna till ett AI-verktyg?
Lämna inte personliga, konfidentiella eller säkerhetskänsliga uppgifter till ett AI-verktyg om du inte vet hur de hanteras och att det är tillåtet.
Det gäller till exempel personuppgifter, lösenord och inloggningsuppgifter, opublicerad affärsinformation och material som omfattas av regler på din arbetsplats. Kontrollera tjänstens villkor och din organisations policy innan du delar sådant innehåll.
Hur granskar du källor och manipulerat innehåll?
Påståenden, referenser och ursprunget till bilder, ljud eller video måste kontrolleras utanför det genererade resultatet.
Öppna källor som nämns och bekräfta att de finns, jämför sedan påståendet med vad källan säger. För bilder, ljud och video behöver du bedöma om innehållet kan vara manipulerat, eftersom ett realistiskt intryck inte är bevis på att materialet är äkta. Ingen enskild kontroll är ensam avgörande.
Vad gäller för upphovsrätt?
Träningsmaterial och genererat resultat kan skapa upphovsrättsfrågor vars svar beror på de konkreta fakta och regler som gäller i det enskilda fallet.
Innan du publicerar något osäkert bör du avgränsa kontrollen till material du själv har matat in, källor eller spår som går att identifiera, relevanta licensvillkor och den avsedda användningen. Vid tveksamhet är det klokt att rådgöra med den som ansvarar för upphovsrättsfrågor hos dig innan publicering.
Checklista innan du använder AI-genererat innehåll
Använd inte AI-genererat innehåll förrän du har kontrollerat fakta och källor, säkerställt att känsliga uppgifter inte ingår och bedömt att innehållet fyller sitt syfte.
- Uppgiften: löser utkastet det som var tänkt, och passar det för sitt syfte?
- Fakta: är påståenden, citat och referenser kontrollerade mot oberoende källor?
- Perspektiv: saknas viktiga synvinklar, eller är framställningen ojämn eller orättvis?
- Känsliga uppgifter: innehåller innehållet personuppgifter eller annat som inte borde ha delats?
- Källor och rättigheter: är identifierbara källor och rättighetsrisker kontrollerade, och är kvarstående osäkerhet hanterad?
- Granskning och ansvar: har en människa redigerat innehållet och tagit ansvar för resultatet?
