Què és un LLM?

Quan utilitzem ChatGPT, Claude o Gemini tenim la sensació que ens entenen.

Els fem una pregunta, ens contesten, ens expliquen un concepte i fins i tot poden discutir amb nosaltres.

Però… què hi ha realment darrere d’aquesta aparent comprensió?

La resposta és un LLM.

LLM són les inicials de: Large Language Model, que en català equivaldria a Gran Model de Llenguatge.

I és ell tipus de tecnologia que hi ha darrere d’assistents com ChatGPT, Claude, o Gemini.

Què fa, en essència

Un LLM és un sistema que ha après a predir quin és el següent tros de text més probable i, gràcies a això, és capaç de generar respostes sorprenentment coherents.

En principi, pot semblar confús, però si ho fa prou bé, i a una escala prou gran, aquesta capacitat de «predir el següent tros de text» acabarà generant respostes coherents, articles, codi, traduccions, resums… perquè per predir bé necessita haver après implícitament gramàtica, fets del món, raonament lògic bàsic, estils d’escriptura, etc.

Per posar un exemple quotidià, tots hem vist que el mòbil intenta endevinar la següent paraula quan escrivim un missatge. Un LLM fa una cosa semblant, però immensament més sofisticada. No només intenta completar una paraula: intenta predir quin és el següent fragment de text més probable tenint en compte tot el context de la conversa.

Com s’entrena un LLM

• Dades: se li mostren quantitats massives de text —llibres, articles, pàgines web, codi— normalment centenars de milers de milions de paraules.
• Paràmetres: el model té milers de milions de «paràmetres», que podem imaginar-los com milions de petits comandaments interns que es van ajustant mentre el model aprèn.
• Procés: durant l’entrenament, el model va fent prediccions, es compara amb el text real, i s’ajusta lleugerament cada vegada que s’equivoca.

Què NO és o fa un LLM

• No «pensa» ni «entén» en el sentit humà. No té consciència, ni creences, ni intencions pròpies. És un sistema estadístic molt sofisticat que genera text.
• Pot equivocar-se amb total seguretat aparent (el que es coneix com a «al·lucinacions»). Pot generar informació falsa amb el mateix to convincent que la informació certa, perquè el seu objectiu és generar text versemblant, no necessàriament veritable.

Per què genera tanta controvèrsia

• Perquè sembla que entén i raona (per l’ús natural del llenguatge), cosa que porta a atribuir-li capacitats que no té realment.
• Perquè les dades d’entrenament venen d’internet, cosa que planteja debats sobre drets d’autor, biaixos presents al text original, i qüestions de privacitat.
• Perquè el cost computacional i energètic d’entrenar-los és enorme, cosa que concentra aquesta tecnologia en poques empreses amb molts recursos.