Elke nacht van 22:00 tot 07:00 uur onderhouden we onze servers. Lees wat je merkt Elke nacht onderhoud, 22:00-07:00 uur. Lees meer
Bestellen
Hosting
Domeinnaam
Ondersteuning
Ontdek
Terug naar begrippenlijst

LLM

Een LLM (large language model) is een AI-model dat met enorme hoeveelheden tekst is getraind om taal te begrijpen en te schrijven.

LLM

Een LLM, voluit large language model, is een AI-model dat met enorme hoeveelheden tekst is getraind en daardoor zelf tekst kan begrijpen en schrijven. ChatGPT, Claude, Gemini en Llama zijn bekende voorbeelden. Je stelt een vraag in gewone taal en krijgt een antwoord dat klinkt alsof een mens het schreef.

In de kern voorspelt een LLM steeds het volgende stukje tekst, een token, op basis van alles wat ervoor staat. Een token is een woord of een deel van een woord. Tijdens de training leert het model uit miljarden voorbeelden welke tokens waarschijnlijk volgen, en zo pikt het grammatica, feiten en schrijfstijlen op. De meeste LLM's gebruiken de transformer, een architectuur die Google-onderzoekers in 2017 beschreven.

Een LLM weet alleen wat in zijn trainingsdata stond, en die houden op een bepaalde datum op. Bovendien klinkt een antwoord altijd overtuigend, ook als het niet klopt, wat hallucineren heet. Daarom zoeken AI-diensten steeds vaker eerst op het web en laten ze het model een antwoord schrijven op basis van de gevonden pagina's, een techniek die retrieval-augmented generation (RAG) heet.

Voor wie gevonden wil worden, verandert dat de spelregels. Google gebruikt zulke modellen in AI Overviews en AI Mode en toont daarbij links naar ondersteunende pagina's, die geïndexeerd moeten zijn en met een snippet in Google moeten kunnen verschijnen. Een pagina die een vraag helder en volledig beantwoordt, maakt zo kans om als bron in een AI-antwoord te staan, en dat optimaliseren heet Generative Engine Optimization.

Geschiedenis

Taalmodellen bestaan al decennia, maar de doorbraak kwam in 2017 met het artikel Attention Is All You Need van acht onderzoekers bij Google, dat de transformer introduceerde. OpenAI bouwde daarop de GPT-reeks, en de chatbot ChatGPT bracht LLM's eind 2022 bij het grote publiek (Wikipedia).

Belangrijke mijlpalen:

  • 2017: Google-onderzoekers beschrijven de transformer
  • 2018: OpenAI introduceert GPT-1
  • 2020: GPT-3 laat zien wat een veel groter model kan
  • Eind 2022: ChatGPT maakt LLM's bekend bij een breed publiek

Bronnen

  1. Google for Developers - Introduction to Large Language Models
  2. Google Search Central - AI features and your website
  3. Vaswani e.a. (2017) - Attention Is All You Need
  4. Wikipedia - Large language model
  5. Wikipedia - Hallucination (artificial intelligence)