Je winkelwagen is leeg
Producten die je toevoegt, verschijnen hier.
Een LLM (large language model) is een AI-model dat met enorme hoeveelheden tekst is getraind om taal te begrijpen en te schrijven.
Een LLM, voluit large language model, is een AI-model dat met enorme hoeveelheden tekst is getraind en daardoor zelf tekst kan begrijpen en schrijven. ChatGPT, Claude, Gemini en Llama zijn bekende voorbeelden. Je stelt een vraag in gewone taal en krijgt een antwoord dat klinkt alsof een mens het schreef.
In de kern voorspelt een LLM steeds het volgende stukje tekst, een token, op basis van alles wat ervoor staat. Een token is een woord of een deel van een woord. Tijdens de training leert het model uit miljarden voorbeelden welke tokens waarschijnlijk volgen, en zo pikt het grammatica, feiten en schrijfstijlen op. De meeste LLM's gebruiken de transformer, een architectuur die Google-onderzoekers in 2017 beschreven.
Een LLM weet alleen wat in zijn trainingsdata stond, en die houden op een bepaalde datum op. Bovendien klinkt een antwoord altijd overtuigend, ook als het niet klopt, wat hallucineren heet. Daarom zoeken AI-diensten steeds vaker eerst op het web en laten ze het model een antwoord schrijven op basis van de gevonden pagina's, een techniek die retrieval-augmented generation (RAG) heet.
Voor wie gevonden wil worden, verandert dat de spelregels. Google gebruikt zulke modellen in AI Overviews en AI Mode en toont daarbij links naar ondersteunende pagina's, die geïndexeerd moeten zijn en met een snippet in Google moeten kunnen verschijnen. Een pagina die een vraag helder en volledig beantwoordt, maakt zo kans om als bron in een AI-antwoord te staan, en dat optimaliseren heet Generative Engine Optimization.
Taalmodellen bestaan al decennia, maar de doorbraak kwam in 2017 met het artikel Attention Is All You Need van acht onderzoekers bij Google, dat de transformer introduceerde. OpenAI bouwde daarop de GPT-reeks, en de chatbot ChatGPT bracht LLM's eind 2022 bij het grote publiek (Wikipedia).
Belangrijke mijlpalen: