Mi az az LLM?

Részletes magyarázat

Az LLM nem adatbázis és nem keresőmotor klasszikus értelemben. Nyelvi minták alapján válaszol, ezért tud nagyon hasznos lenni, de ezért tévedhet is. LLM-re épülhetnek chatbotok, szövegíró asszisztensek, belső tudástárak, ügyfélszolgálati rendszerek és tartalom-előkészítő folyamatok. 2025–2026-ban három fő modellcsalád üzleti releváns: OpenAI GPT-5 (és a reasoning modellek: o1, o3), Anthropic Claude Sonnet 4.5 / Opus 4.5, és Google Gemini 2.5 Pro/Flash (akár 1–2 millió tokenes kontextusablakkal). Az open-source oldalon Llama 4 (Meta), Mistral Large és DeepSeek V3/R1 futtatható helyben is. Az LLM-ek transformer architektúrán működnek: a szöveget tokenekre bontják, és statisztikai mintázat alapján valószínűsítik a következő tokent. Ez magyarázza, hogy néha magabiztosan tévednek (hallucináció). A modellek finetune-olhatók saját adatra, vagy RAG-gel (saját adatbázisból kontextust adva) érdemes őket pontosabbá tenni — a fine-tuning drágább és kockázatosabb. API-árazás 1–15 USD/M token nagyságrendben mozog, az output tipikusan 3–5× drágább az inputnál.

Tipikus hibák

• Mindenre ugyanazt a modellt használják, ahelyett hogy egyszerű feladatra olcsóbbat (Flash/Haiku), összetettebbre erősebbet választanának.
• Az LLM-et úgy kezelik, mintha tényadatbázis lenne — pedig nem az, és magabiztosan hallucinál.
• Nem értik a token ↔ ár ↔ kontextusablak összefüggést, ezért meglepetésszerűen drágán kalkulálnak.
• RAG helyett fine-tuninggal próbálják pontosítani a modellt, drágábban és kevésbé rugalmasan.