7. Fördjupning 2: Läs mer - Vad är NLP, LLM (Large Language Model)?

LLM - Large Language Model

står för Large Language Model (stor språkmodell) och är en form av generativ AI som är designad för att förstå, generera och interagera med mänskligt språk.

Baserat på källmaterialet kan LLM beskrivas genom att den förutser genom att analysera textinmatning bit för bit och, baserat på enorma mängder träningsdata, gissar vad som sannolikt kommer härnäst.

Teknisk struktur

Det bygger på maskininlärning (ML) och djupinlärning (Deep Learning), där man skapar artificiella neurala nätverk som efterliknar den mänskliga hjärnans sätt att resonera och lära sig.

Tränar på data
Modellerna har tränats på enorma mängder data, såsom böcker, artiklar och webbsidor, för att lära sig mönster i språk och information.

Funktioner och förmågor
LLM:er går bortom enkel regelbaserad automatisering ("om X händer, gör Y") och kan även hantera ostrukturerad data som text och kod. 

Texter De kan sammanfatta långa texter, skriva utkast till e-post, skapa rapporter och översätta språk.
Kodning De kan generera och felsöka programkod
Resonemang Genom tekniker som "Chain-of-Thought" (tankekedjor) kan modellen bryta ner komplexa problem i steg för att resonera sig fram till ett svar, likt hur en människa visar sina uträkningar i matte.

Exempel på modeller: Kända exempel som nämns är ChatGPT (GPT-3.5/4), Google Gemini, Llama 3 och Microsoft Copilot, Interaktion via "Prompt Engineering"
För att få en LLM att leverera värdefulla resultat krävs Prompt Engineering (promptteknik). Eftersom modellen är en "förutsägelsemaskin," måste användaren bearbeta sina instruktioner (prompts) noggrant och ansvarsfullt för att styra modellens "gissningar" åt rätt håll.

Styrning Genom att ge modellen en roll (t.ex. "agera som en reseguide") eller/och kontext, kan man forma svarets stil och innehåll.

Dialog Interaktionen ses bäst som en dialog där man ställer följdfrågor för att förfina resultatet, snarare än en att endast fråga bara en gång.

Begränsningar och Risker
Trots sin kraft har LLM:er tydliga begränsningar och risker som användare måste vara medvetna om.

Hallucinationer Modellen kan generera information som ser statistiskt sannolik ut men som faktiskt är felaktig eller helt påhittad, därför är det viktigt att kontrollera svaren och vara källkritisk.

Avsaknad av förståelse En LLM "tänker" eller "förstår" inte på samma sätt som en människa utan är bra på att matcha ihop mönster. 

Bias och Etik Eftersom modellerna tränas på data från den verkliga världen kan de oavsiktligt förstärka fördomar och stereotyper.

Säkerhet Det finns risker kopplade till dataskydd, där känslig information inte bör matas in i offentliga modeller, samt risker för manipulation genom exempelvis "data poisoning" (där träningsdatan korrumperas), kontrollera alltid med din organisations AI-Policy.

Användning i arbetslivet
I en organisation agerar LLM:er ofta som "intelligenta assistenter" eller "kognitiva partners" som används för att automatisera repetitiva uppgifter, frigöra tid för strategiskt arbete och fungera som bollplank för att komma på idéer. Utvärdering av LLM:ers prestationer är ett växande område, där man mäter faktorer som trovärdighet mot källan och svarets relevans.

NLP (Natural Language Processing)

är tekniken som gör att datorer och människor kan "tala" samma språk.

Här är de tre viktigaste delarna för att förstå vad det handlar om:

1. Tolka (Läsa och lyssna)

Datorn tar rå text eller tal och bryter ner den för att förstå vad vi faktiskt säger. Den tittar inte bara på orden, utan försöker förstå grammatik, sammanhang och avsikt.

2. Bearbeta (Tänka)

När datorn har brutit ner meningen använder den matematiska modeller för att räkna ut sannolikheten för vad orden betyder. Den försöker avgöra om du är arg, glad, ställer en fråga eller ger ett kommando.

3. Generera (Svara)

Datorn skapar ett svar på ett sätt som låter naturligt för oss. Istället för att bara ge ett felmeddelande, kan den formulera en mening som känns mänsklig.

Exempel i din vardag:

• Stavningskontroll: Förstår att du skrev fel och föreslår rätt ord baserat på sammanhanget.

• Översättning: Google Translate som förstår att ett ord kan betyda olika saker beroende på meningen.

• Röststyrning: När du säger "Hej Siri, sätt ett alarm", är det NLP som översätter ditt ljud till en handling.