LLM (model de llenguatge gran)
LLM (model de llenguatge gran): Un LLM (Large Language Model, model de llenguatge gran) és un model d’intel·ligència artificial entrenat amb enormes quantitats de text per predir la paraula següent, cosa que li permet entendre preguntes, redactar, resumir, traduir, classificar i raonar sobre text.
Un LLM, de Large Language Model, és un model de llenguatge gran: el tipus d’intel·ligència artificial que hi ha darrere de ChatGPT, Claude, Gemini o Copilot. S’entrena amb quantitats massives de text per aprendre a predir quina paraula ve després d’una altra. Amb prou escala, aquesta capacitat es converteix en una cosa molt útil: entendre el que li demanes, redactar, resumir, traduir, extreure dades d’un document o seguir instruccions de diversos passos.
Com funciona un model de llenguatge?
Un LLM treballa amb tokens, fragments de paraules. Quan li escrius, converteix el text en tokens, els processa i genera la resposta token a token, triant a cada pas el més probable segons el context.
Tres conceptes ajuden a entendre’n les capacitats i els límits:
- Entrenament: el model aprèn de textos públics fins a una data de tall. No sap res de posterior ni res de privat de la teva empresa, tret que li ho donis.
- Finestra de context: la quantitat de text que pot tenir en compte alhora (la teva pregunta, les instruccions, els documents que li passes). Els models actuals admeten documents llargs, però no una empresa sencera.
- Al·lucinacions: com que genera text probable, pot produir dades que sonen bé i són falses. Es redueix donant-li la informació correcta amb tècniques com RAG i demanant-li que digui quan no sap alguna cosa.
Quins models de llenguatge hi ha?
Els més utilitzats en empreses són de pocs proveïdors:
| Família | Empresa | Tipus |
|---|---|---|
| GPT | OpenAI | Comercial, per API i ChatGPT |
| Claude | Anthropic | Comercial, per API i app Claude |
| Gemini | Comercial, per API i apps de Google | |
| Llama | Meta | Pesos oberts, es pot instal·lar en un servidor propi |
| Mistral | Mistral AI (França) | Models comercials i de pesos oberts |
Els models de pesos oberts interessen quan les dades no poden sortir de la teva infraestructura, a canvi de gestionar tu el servidor.
Per a què l’utilitza una empresa?
Un LLM per si sol és un bon redactor. El seu valor en una empresa apareix quan es connecta a processos i eines:
- Atenció al client: respondre correus, WhatsApp o xat amb la informació de l’empresa.
- Documents: llegir factures, contractes o albarans i extreure’n les dades cap a un sistema.
- Classificació: ordenar correus entrants, etiquetar incidències o detectar la urgència d’un missatge.
- Redacció: pressupostos, fitxes de producte, respostes a ressenyes o resums de reunions.
- Agents: el LLM és el “cervell” d’un agent d’IA, que a més fa servir eines per actuar.
Exemple: un ecommerce amb centenars de correus
Imagina una botiga en línia de productes per a mascotes que rep uns 150 correus al dia: dubtes d’enviament, devolucions, preguntes de producte i alguna queixa. Dues persones els llegeixen tots per decidir qui respon.
La botiga connecta un LLM a la safata d’entrada. Per a cada correu, el model identifica el tipus de consulta, extreu el número de comanda si apareix i detecta si el client està enfadat. Els dubtes d’enviament es responen sols amb l’estat real de la comanda; les devolucions es preparen com a esborrany per a revisió; les queixes van directament a una persona amb un resum. L’equip deixa de classificar i dedica el seu temps als casos que ho necessiten.
Com triar i començar
No cal triar un model per sempre. El recomanable és dissenyar les automatitzacions per poder canviar de proveïdor quan en surti un de millor o més barat, i fer servir models diferents segons la tasca. Si vols saber on aplicar un LLM a la teva empresa i amb quin cost, comença per una consultoria d’IA.