Llama (en bakronym för Large Language Model Meta AI) är en familj av stora språkmodeller (LLM) utvecklade av Meta AI. Den första versionen lanserades i februari 2023. Modellerna finns i olika storlekar, från en miljard till över två biljoner parametrar.

Till en början släpptes Llama enbart som en ren grundmodell, men från och med version 2 har Meta även släppt versioner som är finjusterade för att följa instruktioner och fungera som chattbotar. Modellen driver bland annat "Meta AI", en inbyggd assistent i Facebook och WhatsApp.

Versioner och utveckling Llama 1 (februari 2023): Släpptes ursprungligen enbart till forskare under en icke-kommersiell licens. Modellens vikter läckte dock kort därefter via BitTorrent och bildforumet 4chan, vilket ledde till stor och okontrollerad spridning av modellen. Llama 2 (juli 2023): Utvecklades i partnerskap med Microsoft. Denna generation gjordes allmänt tillgänglig och tillät viss kommersiell användning. Även en kodspecifik version, Code Llama, släpptes senare under året. Llama 3-serien (april–december 2024): En kraftig uppskalning av modellen, tränad på upp till 15 biljoner tokens. Med version 3.2 introducerades multimodala funktioner, vilket gav modellen förmågan att även bearbeta bilder.

Llama 4 (april 2025): Den senaste generationen bygger på en Mixture of Experts-arkitektur (MoE), där endast en bråkdel av modellens nätverk aktiveras för varje enskild uppgift. De första modellerna i serien, Scout (109 miljarder parametrar) och Maverick (400 miljarder parametrar), lanserades med stöd för tolv språk.

Sammanfattning av modellstorlekar Generation Lanseringsdatum Storlekar (Aktiva parametrar) Storlek på träningsdata Kommersiell användning Llama 1 Februari 2023 6.7B, 13B, 32.5B, 65.2B 1.4 biljoner tokens Nej Llama 2 Juli 2023 6.7B, 13B, 69B 2 biljoner tokens Ja (med restriktioner) Llama 3/3.1 April–Juli 2024 8B, 70.6B, 405B 15 biljoner tokens Ja (med restriktioner) Llama 4 April 2025 17B (109B totalt) – 17B (400B totalt) 22–40 biljoner tokens Ja (med restriktioner)

Arkitektur och träningsdata Precis som GPT-modeller är Llama-serien baserad på Transformer-arkitekturen. Den använder dock vissa modifieringar jämfört med tidiga GPT-modeller, däribland SwiGLU-aktiveringsfunktioner och rotary positional embeddings (RoPE) för att förbättra modellens prestanda.

Grundmodellerna har tränats på gigantiska mängder data från offentliga källor, inklusive webbskrapningar från Common Crawl, Wikipedia, GitHub och vetenskapliga artiklar från ArXiv. Meta har blivit stämda i en pågående grupptalan av flera författare, som hävdar att Meta medvetet använt upphovsrättsskyddat material från piratsidor (som Library Genesis) för att träna AI:n och tvättat bort upphovsrättsmarkörer från datan.

Kontroverser Öppen källkod-debatt Sedan lanseringen av Llama 2 har Meta marknadsfört modellerna som "öppen källkod" (open source), vilket har mött starkt motstånd från organisationer som Open Source Initiative (OSI) och Free Software Foundation. Kritiken bottnar i att Metas licens innehåller villkor som förbjuder vissa användningsområden och begränsar företag med extremt många användare från att använda modellen fritt. Eftersom en äkta öppen källkods-licens inte får diskriminera mot specifika aktörer eller användningsområden, har OSI anklagat Meta för "openwashing" (att felaktigt utge sig för att vara öppna för att vinna goodwill).

Militär användning Enligt Metas användarvillkor är det förbjudet att använda Llama för militära ändamål. Hösten 2024 rapporterades det dock att forskare knutna till den kinesiska Folkets befrielsearmé hade utvecklat militära AI-verktyg baserade på Llama. Som en reaktion på detta meddelade Meta i november 2024 att man framöver skulle ge den amerikanska regeringen och amerikanska försvarsentreprenörer ett officiellt undantag för att få använda Llama i nationella säkerhetssyften, medan förbudet kvarstår för utländska aktörer.

Se även Artificiell intelligens Generativ artificiell intelligens Språkmodell ChatGPT

Referenser

Kategori:Maskininlärning Kategori:Artificiell intelligens Kategori:Språkteknologi Kategori:Meta Platforms