Categoria: Articles_interes

  • La IA ens farà més rucs?

    És una de les frases que apareixen sovint quan es parla dels perills de la intel·ligència artificial: «La IA ens farà més rucs».

    No és una preocupació absurda. De fet, crec que té una part de raó. Però només una part.

    Per explicar-ho, podem mirar una tecnologia molt més antiga i que ja tenim completament assumida: la calculadora.

    Abans calculàvem més de cap

    Quan jo era jove, el càlcul mental formava part de la vida quotidiana. No portàvem una calculadora a la butxaca i, evidentment, encara menys un telèfon mòbil capaç de fer qualsevol operació.

    Jo mateix tenia força facilitat per calcular mentalment i, després de dècades utilitzant calculadores, reconec que he perdut agilitat.

    Per tant, alguna cosa hem perdut.

    Ara bé: això m’ha fet més ruc?

    No ho tinc tan clar.

    Continuo sabent què significa multiplicar, dividir o calcular un percentatge. El que he deixat de practicar és una habilitat que una màquina pot fer molt més ràpidament que jo.

    Naturalment, podem trobar situacions que ens semblen ridícules. Tots hem vist alguna vegada un dependent recórrer a la calculadora per saber quin canvi ha de tornar.

    Però potser la pregunta no hauria de ser si sap restar mentalment 50 menys 37,80. Potser hauríem de preguntar-nos quines altres coses sap fer que abans no exigíem a la persona que ocupava aquell lloc de treball.

    El problema no era la calculadora

    Quan van aparèixer les calculadores, l’escola tenia dues possibilitats: prohibir-les o adaptar-s’hi.

    Si una màquina ja podia fer determinats càlculs mecànics, potser no tenia gaire sentit dedicar tantes hores a entrenar-los. Però això no significava deixar d’ensenyar matemàtiques.

    Al contrari.

    Significava que calia continuar entenent què és una multiplicació, què representa un percentatge, saber aproximar un resultat i, sobretot, ser capaç de detectar que la calculadora ens està donant una barbaritat perquè hem introduït malament les dades.

    De fet, tenir una calculadora no implica saber-la utilitzar. Quanta gent aprofita realment les possibilitats d’una calculadora o s’embolica quan ha d’encadenar operacions?

    Amb la IA pot passar exactament el mateix.

    La IA ens permetrà deixar de fer algunes coses

    Segurament deixarem de fer personalment algunes tasques que fins ara consideràvem normals.

    Potser redactarem menys textos des de zero. Potser memoritzarem menys informació. Potser dedicarem menys temps a buscar dades, resumir documents o preparar determinats informes.

    I és possible que, com m’ha passat a mi amb el càlcul mental, perdem pràctica en algunes d’aquestes habilitats.

    Negar-ho em semblaria ingenu.

    Però la qüestió important és una altra: què farem amb les capacitats que ens allibera la IA?

    Si utilitzem la IA perquè pensi per nosaltres, acceptem la primera resposta que ens dona i deixem de qüestionar-nos les coses, probablement sí: ens farà més rucs.

    Però si la fem servir per arribar més lluny, comparar alternatives, explorar idees, entendre millor conceptes difícils o dedicar més temps a les parts realment importants d’un problema, pot passar exactament el contrari.

    La diferència no la marcarà només la tecnologia. La marcarà com aprenguem a utilitzar-la.

    I aquí apareix l’escola

    Aquest és, probablement, el problema més complicat.

    No podem introduir una tecnologia que és capaç de redactar un treball escolar acceptable en segons i continuar avaluant els alumnes exactament igual que fa deu anys.

    Si un alumne pot encarregar un treball a la IA, copiar-lo i lliurar-lo sense haver entès res, potser el problema no és només que l’alumne faci trampes. També hauríem de preguntar-nos si aquell treball continua sent una bona manera d’avaluar què ha après.

    Caldrà buscar altres fórmules: més defensa oral dels treballs, preguntes sobre el procés seguit, exercicis presencials, projectes en què s’hagi d’explicar per què s’han pres determinades decisions… I segurament moltes altres que encara haurem d’inventar.

    El que difícilment funcionarà és intentar que tot continuï igual que abans de la IA.

    Una calculadora que em va ajudar en un examen

    Aquí puc explicar una experiència personal de fa cinquanta anys.

    Quan estudiava Físiques vaig escollir l’especialitat d’Astrofísica i, entre altres assignatures, vaig cursar Astronomia.

    L’assignatura era coneguda per un examen particularment dur que durava pràcticament tot el dia. Cada alumne havia de calcular unes determinades òrbites de satèl·lits i, entre molts altres càlculs, hi havia una rutina complexa que s’havia de repetir diverses vegades.

    En aquella època treballàvem amb taules de logaritmes i calculadores que avui ens semblarien peces de museu.

    Però just aleshores, l’any 1975, va aparèixer la HP-25, una calculadora programable que permetia emmagatzemar programes de fins a 49 passos i que funcionava amb la famosa notació polonesa inversa.

    Vaig aconseguir programar aquella rutina repetitiva, tot i que em va costar encabir-la en els 49 passos.

    Naturalment, vaig tenir un dubte: allò era fer trampes?

    Vaig anar a preguntar-ho al catedràtic. Li vaig explicar les possibilitats de programació de la nova calculadora i si hi veia inconvenient que la portés a examen.

    Em va dir que cap problema.

    Vaig arribar a l’examen, vaig teclejar el programa (no es guardava) que portava amb el material consultable i la vaig utilitzar.

    La calculadora no sabia astronomia. No sabia quina òrbita havia de calcular ni com plantejar el problema. Però executava impecablement una rutina mecànica que jo havia entès prou bé per poder-la programar.

    L’any següent, pel que vaig saber, van canviar el sistema d’examen, perquè amb la meva rutina perdia dificultat.

    I em sembla una magnífica lliçó sobre el que està passant ara.

    No podem aturar el rellotge

    La calculadora no va acabar amb les matemàtiques. Els ordinadors no van acabar amb la necessitat de pensar. Google no va acabar amb el coneixement.

    Però tots ells van modificar què tenia sentit memoritzar, què tenia sentit aprendre i, sobretot, què tenia sentit avaluar.

    Amb la intel·ligència artificial passarà el mateix, probablement a una escala molt més gran.

    Per això crec que la pregunta «La IA ens farà més rucs?» no té una resposta simple.

    Pot fer-ho, si la utilitzem per evitar pensar.

    Però també ens pot permetre dedicar menys temps a tasques mecàniques i més temps a entendre, decidir, crear i qüestionar.

    El repte no és impedir que la gent faci servir la IA.

    El repte és aconseguir que, quan la faci servir, continuï sabent pensar sense delegar-li també el criteri.

    I això obliga, especialment en el món de l’ensenyament, a fer una cosa que no sempre resulta fàcil:

    adaptar-se als temps.

  • Per què hi ha tants models d’IA diferents?

    Si últimament has intentat triar un model d’IA, potser t’has trobat amb una col·lecció de noms, lletres i números que comença a resultar desconcertant.

    I és fàcil preguntar-se: no n’hi podria haver un de sol, el millor de tots?

    La resposta curta és: no.

    No tots els cotxes són el mateix cotxe

    Ningú s’estranya que una marca de cotxes ofereixi un model petit, un de familiar, un esportiu, un de luxe o una furgoneta.

    No existeix «el millor cotxe». Depèn de per a què el necessitem.

    Amb els models d’IA passa una cosa semblant.

    Un model pot estar pensat per respondre molt ràpidament; un altre, per resoldre problemes més complicats; un altre, per ser molt barat d’utilitzar.

    Perquè els models han de buscar un equilibri entre aquests tres factors:

    • capacitat
    • velocitat
    • cost

    Normalment, millorar molt una d’aquestes coses té algun preu en les altres. Un model molt potent pot necessitar més temps i més recursos. Un model més petit pot ser molt ràpid i barat, però tenir més dificultats amb les tasques complexes.

    Per això les empreses no creen necessàriament un únic model, sinó famílies de models pensades per a necessitats diferents.

    Generalistes i especialistes

    A més, no tots els models estan pensats per fer el mateix.

    N’hi ha de generalistes, capaços de conversar, escriure, resumir o ajudar-nos amb tota mena de qüestions. I n’hi ha d’especialitzats en tasques com generar imatges, programar, transcriure àudio o treballar amb determinats tipus d’informació.

    Una mica com en medicina: tenim el metge de capçalera, però també els especialistes.

    I amb quin em quedo?

    Per tant, probablement la pregunta «quin és el millor model d’IA?» no té gaire sentit.

    La pregunta més útil és:

    «Quin és el millor model per la tasca que vull fer ara?»

    I cada vegada és més possible que ni tan sols hàgim de decidir-ho nosaltres. L’aplicació que utilitzem pot escollir automàticament un model ràpid per a una pregunta senzilla i reservar-ne un de més potent per a una feina complicada.

    Potser els primers anys d’eines com ChatGPT, que ens van permetre fer servir models molt potents gratuïtament, ens han fet oblidar una cosa: fer funcionar una IA té un cost.

    Amb els cotxes trobem perfectament normal que hi hagi models diferents, amb prestacions i preus diferents.

    Amb la IA ens hi haurem d’acostumar també.

  • Models oberts /Models tancats

    És important entendre la diferència entre sistemes tancats i sistemes oberts amb les seves variants.

    En els seus inicis, només es coneixien models completament tancats com:

    • Chat GPT
    • Claude
    • Gemini

    I no podies descarregar res, però la cosa va evolucionar

    Model open weight

    Van aparèixer els models open -weight, que es podien descarregar, executar en un ordinador propi, i, en molts casos, fins i tot modificar-lo o ajustar-lo (fine-tuning).

    Però no es pot saber exactament com s’han construït.

    Per posar un exemple fàcil, és com si una empresa automobilística et ven o regala un motor, el pots muntar al teu cotxe, però no tens els plànols per fabricar-ne un altre.

    En aquesta categoria open -weight, podríem parlar de Mistral.

    De fet, la majoria dels models «oberts» actuals són, en realitat, open-weight.

    Model open source


    En aquests models, ho faciliten tot:

    • el codi del model,
    • el procés d’entrenament,
    • els scripts,
    • la documentació,

    És com si l’empresa automobilística anterior et lliurés:

    • els plànols del motor,
    • la llista de totes les peces,
    • les màquines necessàries,
    • i el manual complet de fabricació.

    Aleshores qualsevol pot:

    • estudiar-lo,
    • reproduir-lo,
    • modificar-lo,
    • millorar-lo,
    • crear-ne una versió diferent.

    Aquest és el significat clàssic d’open source.


    La diferència resumida

    Open-weightOpen source
    Es poden descarregar els weights✅✅
    Es pot executar localment✅✅
    Es coneix el codi del modelA vegades✅
    Es coneix el procés d’entrenamentNormalment no✅
    Es pot reproduir completament el modelNoSí

    Consideracions

    • Si descarreguem un model el podrem executar en el nostre ordinador.
    • Ni cal dir que si volem bons resultats, caldrà que l’ordinador sigui molt ben dimensionat.
    • Si funciona en el nostre ordinador, no comporta despesa de tokens.
    • Les instal·lacions locals tenen sentit quant a seguretat de les nostres dades.
    • Si tenim l’ordinador aïllat del món (sense connexió a Internet), podem garantir la màxima seguretat.
    • Però si l’ordinador no està aïllat, que de fer és el més normal, cal confiar que aquests models no continguin cap codi que posi en perill les nostres dades.
    • També caldrà veure de cara al futur, l’evolució d’aquests sistemes oberts, que un com baixats deixen de produir beneficis a l’empresa creadora.
    • I un cop més, cal recordar la vella frase «no hi ha duros a quatre pessetes»
  • Què és un LLM?

    Quan utilitzem ChatGPT, Claude o Gemini tenim la sensació que ens entenen.

    Els fem una pregunta, ens contesten, ens expliquen un concepte i fins i tot poden discutir amb nosaltres.

    Però… què hi ha realment darrere d’aquesta aparent comprensió?

    La resposta és un LLM.

    LLM són les inicials de: Large Language Model, que en català equivaldria a Gran Model de Llenguatge.

    I és ell tipus de tecnologia que hi ha darrere d’assistents com ChatGPT, Claude, o Gemini.

    Què fa, en essència

    Un LLM és un sistema que ha après a predir quin és el següent tros de text més probable i, gràcies a això, és capaç de generar respostes sorprenentment coherents.

    En principi, pot semblar confús, però si ho fa prou bé, i a una escala prou gran, aquesta capacitat de «predir el següent tros de text» acabarà generant respostes coherents, articles, codi, traduccions, resums… perquè per predir bé necessita haver après implícitament gramàtica, fets del món, raonament lògic bàsic, estils d’escriptura, etc.

    Per posar un exemple quotidià, tots hem vist que el mòbil intenta endevinar la següent paraula quan escrivim un missatge. Un LLM fa una cosa semblant, però immensament més sofisticada. No només intenta completar una paraula: intenta predir quin és el següent fragment de text més probable tenint en compte tot el context de la conversa.

    Com s’entrena un LLM

    • Dades: se li mostren quantitats massives de text —llibres, articles, pàgines web, codi— normalment centenars de milers de milions de paraules.
    • Paràmetres: el model té milers de milions de «paràmetres», que podem imaginar-los com milions de petits comandaments interns que es van ajustant mentre el model aprèn.
    • Procés: durant l’entrenament, el model va fent prediccions, es compara amb el text real, i s’ajusta lleugerament cada vegada que s’equivoca.

    Què NO és o fa un LLM

    • No «pensa» ni «entén» en el sentit humà. No té consciència, ni creences, ni intencions pròpies. És un sistema estadístic molt sofisticat que genera text.
    • Pot equivocar-se amb total seguretat aparent (el que es coneix com a «al·lucinacions»). Pot generar informació falsa amb el mateix to convincent que la informació certa, perquè el seu objectiu és generar text versemblant, no necessàriament veritable.

    Per què genera tanta controvèrsia

    • Perquè sembla que entén i raona (per l’ús natural del llenguatge), cosa que porta a atribuir-li capacitats que no té realment.
    • Perquè les dades d’entrenament venen d’internet, cosa que planteja debats sobre drets d’autor, biaixos presents al text original, i qüestions de privacitat.
    • Perquè el cost computacional i energètic d’entrenar-los és enorme, cosa que concentra aquesta tecnologia en poques empreses amb molts recursos.
  • Què són els benchmarks?

    Si seguiu les notícies sobre intel·ligència artificial, segur que heu vist frases com «el model A supera el model B en aquest índex de referència», sovint acompanyat de percentatges, gràfics i algun tecnicisme més.

    Un benchmark és, simplificant molt, una mena d’examen estandarditzat per a models d’IA. És un conjunt de preguntes o tasques —normalment centenars o milers— dissenyades per mesurar una capacitat concreta: raonament matemàtic, comprensió lectora, coneixements generals, programació, etc.

    El model respon a les preguntes, se n’avaluen les respostes i s’obté una puntuació. Això permet comparar diferents models utilitzant, en principi, el mateix criteri de mesura.

    Alguns benchmarks coneguts

    No cal memoritzar-los, però és útil reconèixer-ne alguns quan apareixen a les notícies:

    • MMLU: preguntes tipus test sobre moltes matèries, des de dret fins a biologia.
    • HumanEval: avalua si el model és capaç d’escriure codi que resolgui correctament determinats problemes.
    • GSM8K: problemes matemàtics de nivell escolar pensats per avaluar el raonament.
    • LMArena (abans Chatbot Arena): presenta a persones respostes de dos models sense identificar-los i els demana quina prefereixen.

    Alguns d’aquests benchmarks ja comencen a quedar petits per als models més avançats i han anat apareixent proves noves i més difícils.

    I això ja ens dona una primera pista important: cada benchmark mesura una cosa diferent i cap d’ells mesura la «intel·ligència» d’un model en general, per molt que alguns titulars ho puguin donar a entendre.

    Per què cal agafar-los amb precaució

    Aquí ve la part important. Els benchmarks són útils, però tenen limitacions.

    1. Els models poden crear-se optimitzats per superar aquestes proves

    És com un estudiant que, en lloc d’aprendre bé una matèria, es prepara específicament per superar un determinat examen.

    A més, hi ha el problema de la contaminació: si les preguntes d’un benchmark han circulat per Internet, poden haver acabat entre les dades utilitzades per entrenar el model. Seria una mica com fer un examen després d’haver tingut accés, potser sense saber-ho, a les preguntes.

    2. Mesuren tasques molt concretes, no necessàriament l’ús real

    Respondre correctament mil preguntes de resposta tancada no garanteix que el model sigui millor ajudant-nos a redactar un document, resumint informació complexa o mantenint una conversa útil.

    3. Les xifres es fan servir com a argument comercial

    «Superem el rival en un 4% en aquest benchmark» és un titular fàcil de vendre, encara que aquest 4% no es noti gens a la pràctica o que aquell benchmark tingui poc a veure amb l’ús que en farà la majoria de les persones.

    4. Una puntuació no ho mesura tot

    Un model pot obtenir una puntuació altíssima i, així i tot, inventar-se dades, interpretar malament una instrucció o donar una resposta tècnicament correcta, però poc útil per a la persona que pregunta.

    Llavors, són inútils?

    No, ni de molt. Els benchmarks són útils per:

    • Comparar models de manera relativa i ràpida, sabent que només ens ofereixen una fotografia parcial.
    • Detectar millores o regressions en capacitats concretes. Per exemple, comprovar si una nova versió és clarament millor programant que l’anterior.
    • Fer un primer filtre quan apareixen molts models nous i és impossible provar-los tots a fons.

    El problema no és el benchmark en si, sinó donar-li més importància de la que té. I aquesta importància, va disminuint a mesura que va avançant la IA.

    La pregunta que realment importa

    La pròxima vegada que llegiu «aquest model obté un X% en tal benchmark», val la pena preguntar-se:

    • Aquest benchmark mesura una capacitat que jo utilitzo realment?
    • Aquesta diferència de punts es notaria si jo fes servir els dos models?
    • S’ha provat el model amb tasques reals, més enllà dels exàmens estandarditzats?

    Al final, la millor manera de saber si un model ens serveix no és mirar només una taula de classificació, sinó provar-lo amb les nostres tasques reals.

    Els benchmarks ens poden orientar. Però no haurien de decidir per nosaltres.

  • Què és la finestra de context?

    Si has llegit alguna vegada l’anunci d’un model d’IA nou, segur que t’has trobat amb una xifra destacada en majúscules: «ara amb una finestra de context de tants tokens!» Sona impressionant, però… què vol dir exactament? I per què les empreses el fan servir com a reclam publicitari, gairebé com si fos la potència d’un motor de cotxe?

    La memòria de treball d’una conversa

    Cal pensar la finestra de context com la taula de treball d’algú que t’està ajudant. Quan li dones un document, unes instruccions i li fas preguntes, tot això s’ha d’estendre sobre la taula perquè ho pugui consultar mentre respon. Si la taula és petita, només hi caben uns quants fulls; si és gran, hi pot estendre un dossier sencer.

    La finestra de context és, precisament, la mida d’aquesta taula: quanta informació pot «tenir davant» el model alhora.

    • la teva pregunta
    • l’historial de la conversa
    • els documents que li has passat

    I amb tota aquesta informació, poder generar una resposta coherent.

    Un cop la taula és plena, el que no hi cap ja no es pot consultar directament.

    Es mesura en «tokens», no en paraules

    Aquesta capacitat no es mesura en paraules, sinó en tokens. Ja tenim un article dedicat als tokens, però recordem que a grans trets, un token és tros de paraula.

    Per què és un bon argument de màrqueting

    Una finestra de context gran es pot resumir en una sola frase molt vendible: «pots donar-li més coses alhora». Un llibre sencer, una base de codi completa, hores de transcripcions… i el model encara ho recorda tot mentre respon.

    Però, com passa amb en moltes coses, no és una garantia total. Una finestra de context enorme no garanteix que el model faci servir bé tota aquesta informació. Alguns models tendeixen a «oblidar» o donar menys importància al que hi ha al mig d’un text molt llarg, i recorden millor el principi i el final.

    En resum: una finestra gran és una condició necessària per treballar amb molta informació, però no és per si sola una garantia de qualitat.

    Què passa quan superes el límit?

    Quan la conversa o el document supera la mida de la finestra, alguna cosa ha de «caure de la taula». Depenent de com estigui construïda l’eina que fas servir, això es pot resoldre de maneres diferents:

    • Es talla la informació més antiga
    • Es resumeix automàticament comprimint les parts antigues, però mantenint la idea general.
    • Simplement es rebutja la petició

    Per això, en converses molt llargues, de vegades notaràs que el model «perd el fil» d’alguna cosa que vau parlar al principi: no és que s’hagi despistat, és que aquella part de la taula ja no hi és.

    Entrada i sortida: dues cares de la mateixa moneda

    Val la pena aclarir: la finestra de context normalment inclou tant el que tu li dones (entrada) com el que ell et respon (sortida). És a dir, no són dos calaixos independents, sinó que comparteixen el mateix espai a la taula.

    A més, moltes eines apliquen un límit màxim de sortida: encara que la finestra total sigui molt gran. La resposta que et pot donar d’un sol cop pot estar limitada a una mida més petita, per motius pràctics.

    És a dir: que un model «pugui llegir» molt, no vol dir necessàriament que «pugui escriure» igual de molt en una sola resposta.

    Llavors, quant de context necessito realment?

    La pregunta útil no és «quina és la finestra més gran del mercat?», sinó «és prou gran per la tasca que jo necessito fer?».

  • Què és un token

    Un token és la unitat mínima de text amb què treballa internament un model de llenguatge. No és ni una lletra ni una paraula sencera: sol ser un fragment intermedi.

    I és rellevant per al públic general, perquè els tokens són la unitat que determina el cost econòmic (moltes eines d’IA es cobren per token) i el límit de la finestra de context del qual parlarem en un altre article.

    Un token és la unitat mínima de text amb què treballen els models d’intel·ligència artificial i és la base amb què es calcula el cost de moltes eines d’IA.

    Exemples:

    La paraula gos pot ser 1 token

    La paraula increïblement pot ser 3 tokens (potser «in» + «creïble» + «ment»), i a vegades fins i tot signes de puntuació o espais compten com a token.

    Per fer-ho tangible:

    • En anglès, aproximadament 1 token equival a ¾ de paraula (una regla ràpida molt utilitzada: 100 tokens ≈ 75 paraules).
    • En català i castellà sol necessitar-se més tokens per paraula que en anglès, perquè el “diccionari” de trossos que fan servir aquests models s’ha entrenat majoritàriament amb text en anglès, i les paraules d’altres idiomes sovint es trossegen més fi.

    Per què no es fa servir directament la paraula sencera com a unitat? 

    Perquè trossejar-les, permet al model gestionar paraules que mai ha vist abans (noms propis, neologismes, faltes d’ortografia), combinant trossos coneguts, en lloc de quedar-se «encallat» davant d’una paraula fora del seu vocabulari.


    Un mateix model pot consumir diferents quantitats de tokens

    Aquí és on la cosa es torna interessant, perquè el «cost» d’una mateixa pregunta a un mateix model no és fix. Hi ha diverses variables que hi juguen:

    a) Segons el model que escollim. I entenent com a model, si escollim ChatGPT, Claude, Gemini. En cada un, hi ha opcions de «pensar més» abans de respondre, generant internament una cadena de raonament abans de donar la resposta final.

    b) Llargada i complexitat de la pregunta i el context acumulat Com més llarga sigui la conversa, més tokens s’han de «rellegir» cada vegada per generar la resposta següent, encara que tu escriguis un missatge curt.

    c) Format de sortida demanat Demanar una resposta detallada, amb exemples, en format de taula o amb múltiples seccions, consumeix més tokens que demanar un sí/no o un resum d’una línia.

    d) «Variants» o versions del mateix model Moltes famílies de models ofereixen diferents formes de processar i que podem escollir. La versió més potent sol necessitar més tokens per assolir el mateix nivell de qualitat.

    Per què diferents models poden consumir quantitats diferents de tokens per a la mateixa tasca

    Aquí entren en joc factors estructurals, no només d’ús:

    a) El «tokenitzador» (com trosseja el text) és diferent per a cada família de models Cada model (GPT, Claude, Gemini…) té el seu propi «diccionari» de trossos de text après durant l’entrenament.

    b) Estil «natural» de resposta de cada model Respostes curtes, consumeixen menys tokens.

    c) Arquitectura interna i eficiència de raonament

    d) Ús o no d’eines externes


    Reflexió filosòfica ràpida

    «quant costa» preguntar-li una cosa a la IA no és una propietat fixa de la qüestió, sinó el resultat d’una cadena de decisions d’enginyeria (com trossejar el text, quant «pensar» abans de respondre, quina llargada de resposta és «normal» per a aquell model).

    És a dir, el cost —tant econòmic com energètic— no és inherent a la intel·ligència del sistema, sinó a com s’ha dissenyat i configurat per respondre.

    NOTA ADDICIONAL

    Normalment comparem models dient:

    Model A → 1 € per milió de tokens

    Model B → 5 € per milió de tokens

    I sembla evident que A és cinc vegades més barat.

    Però pot no ser-ho.

    Si A necessita quatre intents, moltes més paraules i quinze crides a eines per resoldre una feina que B resol d’una vegada, el cost real és diferent.

    Amb agents, per tant, començarà a ser molt més útil preguntar:

    «Quant m’ha costat acabar aquesta feina?»

    Que no pas:

    «Quant costa un milió de tokens?»

    Aquesta distinció serà cada vegada més important a mesura que els agents treballin durant minuts o hores.

    Tot seguit us mostro una calculadora aproximada de Tokens

    Està feta amb el model Claude i a l’article corresponent de la secció «Experiments / Provem» podreu veure com s’ha construït. Tal com ja indica, és un càlcul aproximat.

    Calculadora de tokens

    Calculadora de tokens

    Enganxa un text i calcula quants tokens té, aproximadament.

    –
    tokens aproximats
    –
    paraules
    –
    caràcters

    És una estimació: es compta aproximadament 1 token cada 4 caràcters. En català i altres llengües no angleses sol sortir una mica més alt. El recompte exacte depèn del model.

  • Què és un System Prompt?

    Quan parlem amb un assistent d’IA, sembla que hi ha una conversa directa entre tu i el model: tu escrius, ell respon. Però en realitat, entremig hi ha una peça invisible que condiciona bona part del que passa: el system prompt.

    Explicat amb un exemple senzill

    Imagina un cambrer nou en un restaurant. Abans que arribi el primer client, algú li ha explicat les normes de la casa: com ha de saludar, si ha de tutejar o no els clients, quins plats no pot recomanar o com ha de vestir.

    Tu, com a client, mai veus aquestes instruccions. Només veus el resultat: com et tracta el cambrer.

    El system prompt és una cosa semblant, però aplicada a un assistent d’IA: unes instruccions prèvies que li indiquen com s’ha de comportar abans que tu li escriguis res.

    Per què existeix

    Un model d’IA, per si sol, no sap quin paper ha de tenir en una aplicació concreta. Algú ha de definir coses com:

    • Qui se suposa que és en aquella aplicació: un tutor, un assistent legal, un xatbot de suport…
    • Com ha de parlar: formal, informal, breu, en quin idioma…
    • Quins límits ha de respectar en les seves respostes.
    • Quina informació o context de l’aplicació ha de tenir en compte.
    • Quins límits ha de respectar en les seves respostes. Per exemple, pot rebre instruccions per no explicar com fabricar explosius, armes químiques o altres coses potencialment perilloses o il·legals.

    Aquestes instruccions també poden formar part dels mecanismes de seguretat d’un assistent, tot i que la seva seguretat no depèn només del system prompt: també hi influeix com ha estat entrenat el model i altres mesures incorporades a l’aplicació.

    Un exemple molt clar

    Imagina el mateix model d’IA utilitzat en dos llocs diferents:

    • En una app d’ajuda amb deures escolars, li diuen que expliqui les coses de manera molt senzilla, amb exemples i amb paciència.
    • En una app d’assistència legal, li diuen que sigui precís, formal i que citi la llei quan calgui.

    Si preguntes exactament el mateix a les dues apps, pots rebre respostes molt diferents. No perquè el model hagi canviat, sinó perquè les instruccions prèvies que ha rebut són diferents.

    Per què no el veus

    Normalment, com a usuari, no veus aquestes instruccions. Entre altres coses, això permet:

    • Fer la conversa més senzilla i clara.
    • Evitar que l’usuari alteri fàcilment el comportament previst per a l’assistent.
    • Protegir determinades instruccions internes, incloses algunes relacionades amb la seguretat.

    Però no és cap secret fosc: moltes empreses expliquen, de manera general, com funcionen aquestes instruccions en els seus assistents.

    La idea clau que cal retenir

    Un system prompt no és un programa. És text escrit en llenguatge normal que el model interpreta com a instruccions. Podria ser tan senzill com:

    «Ets un assistent amable. Respon sempre en català, de manera breu i clara.»

    Amb unes frases així ja es pot modificar notablement la manera com es comporta un assistent.

    I aquesta és una de les peculiaritats més sorprenents dels models d’IA actuals: en certa manera, podem programar el seu comportament simplement parlant-los.

    Per què val la pena saber-ho

    Entendre que existeix aquesta peça t’ajuda a:

    • No pensar que un assistent té una «personalitat pròpia»: part del seu comportament és determinat per aquestes instruccions.
    • Entendre per què dues apps amb «la mateixa IA a dins» poden comportar-se de manera diferent.
    • Entendre que, abans que facis la primera pregunta, el model ja pot haver rebut instruccions que condicionaran la conversa.

    En poques paraules: el system prompt és com el manual intern que rep un assistent d’IA abans de parlar amb tu. Normalment no el veus, però defineix bona part de com et respondrà.

    el system prompt pot posar normes al model, però no és l’únic lloc on existeixen les normes de seguretat.

  • Què és un agent?

    Fa un parell d’anys la majoria de les persones identificaven la IA amb un xat com ChatGPT: li feies una pregunta i et donava una resposta.

    Però la IA està evolucionant. Els agents no són sistemes que només responen preguntes, sinó que són capaços de dur a terme tasques completes.

    Poden encadenar accions, utilitzar eines i treballar sobre un objectiu durant més temps. Exerceixen funcions concretes de manera autònoma.

    Un agent d’IA no és «un xat més llest». La clau és que pren decisions i actua en diversos passos per aconseguir un objectiu, adaptant-se segons el que va trobant pel camí, en lloc de limitar-se a donar una única resposta a una pregunta.

    Els podríem imaginar com un col·laborador digital. No només respon preguntes: també és capaç de fer feina. És com passar de tenir un assessor a tenir un ajudant.

    Exemples d’agents

    1. Agent de viatges

    Li dius: «Vull anar a París tres dies al setembre amb un pressupost de 800 €.» L’agent no es limita a respondre — busca vols, compara preus, mira la disponibilitat d’hotels, i et proposa un pla complet.

    La diferència amb preguntar-ho a través d’un LLM, és que no només respon, sinó que actua i s’adapta pel camí.

    2. Agent de gestió de correu

    S’encarrega de revisar la teva safata d’entrada, identificar quins correus són urgents, redactar respostes per als més senzills i deixar-te només els que realment requereixen la teva decisió. Pren petites decisions pel camí, sense que li supervisis cada pas.

    3. Agent de programació

    Li demanes «arregla aquest error del meu codi.» L’agent llegeix el codi, identifica la causa, prova una solució, executa els tests per comprovar que funciona. Tot això de manera autònoma, iterant fins a trobar una solució vàlida.

    La tendència en el camp dels agents

    És important entendre que, a més de models generals que han après de tot com ChatGPT, tindrem models especialitzats. Hi haurà infinitat d’agents especialitzats:

    • generar imatges
    • millorar text
    • resums de reunió
    • analitzar riscos d’una instal·lació
    • analitzar exploracions mèdiques
    • fer la previsió de compra dels productes frescos per a una cadena de supermercats

    Els agents d’IA que inicialment eren només experiments, cada cop seran més rellevants i ens poden generar dubtes, que cada un, donaria lloc a un debat:

    • Com canviaran les empreses amb els agents?
    • Els agents substituiran persones?
    • Per què els agents seran importants?

    Per què t’hauria d’importar?

    Perquè els agents poden executar tasques de manera autònoma i, en alguns casos, trobar solucions que els seus creadors no havien previst exactament. Això els fa molt útils, però també obliga a supervisar-los i definir bé els seus límits.

    Recordem el concepte

    Un xat respon.

    Un agent actua.

    I així com inicialment els agents es creaven a partir de programació, actualment tenim la possibilitat de crear-los redactant sense codi, de manera verbal en llenguatge natural.

  • Què són els Skills?

    Si has llegit els articles anteriors del blog, ja saps què és un LLM, què és un token i què és un agent. Toca parlar d’una peça que s’ha popularitzat molt darrerament: els Skills (o Agent Skills, si vols el nom complet).

    És fàcil confondre’ls amb els agents perquè sovint apareixen junts en les mateixes converses. Però són coses diferents, i entendre la diferència ajuda a entendre millor com funcionen molts dels sistemes d’IA actuals.

    La idea de partida: un model generalista no sap com fem nosaltres les coses

    Un LLM pot saber moltes coses, però quan li demanes una tasca molt específica —seguir l’estil de marca d’una empresa concreta, omplir un tipus de formulari intern o construir un document Excel amb un format determinat— no té per què saber com volem que faci aquella feina.

    Podríem explicar-li-ho cada vegada dins del prompt, però seria repetitiu, ocuparia espai i seria fàcil oblidar algun detall.

    Els Skills neixen per resoldre precisament això: empaquetar coneixement especialitzat perquè el model el pugui consultar només quan el necessita.

    Què és, concretament, un Skill?

    Un Skill és, en la seva forma més simple, una carpeta amb instruccions i, opcionalment, scripts, exemples, documentació o plantilles que expliquen com fer bé una tasca concreta.

    El cor d’aquesta carpeta és un fitxer anomenat SKILL.md, que conté:

    • Un nom i una descripció curta, que permeten al model saber que aquell Skill existeix i decidir si pot ser útil.
    • Les instruccions completes, que només es carreguen quan el Skill és necessari.
    • Opcionalment, recursos addicionals —codi, exemples, documentació o plantilles— que només s’utilitzen quan fan falta.

    Aquest disseny «per capes» és important: podem tenir molts Skills disponibles sense haver de carregar totes les seves instruccions a la finestra de context. Només s’hi incorpora el contingut complet dels que realment fan falta.

    Els Skills van néixer dins l’ecosistema de Claude, però a finals de 2025 Anthropic va publicar el format Agent Skills com un estàndard obert. Això permet que el concepte s’estengui més enllà de Claude i pugui ser utilitzat per diferents agents i plataformes compatibles.

    I un agent, què és?

    Un agent, recorda-ho, és un sistema que decideix i actua de manera més o menys autònoma: rep un objectiu, planifica els passos, fa servir eines, observa els resultats i ajusta el que fa fins a completar la tasca.

    L’agent és el que «condueix»: pren decisions i executa les accions necessàries.

    La diferència, en una frase

    Un agent és qui actua. Un Skill és el coneixement especialitzat que l’agent pot consultar per saber com fer bé una tasca concreta.

    Una altra manera de veure-ho, amb un símil planer: si l’agent és un professional que resol una feina, el Skill és el manual de procediments que aquest professional consulta quan la feina ho requereix.

    El professional —l’agent— segueix decidint, planificant i executant. El manual —el Skill— li aporta el saber fer específic en el moment adequat.

    Per això no té gaire sentit preguntar «és millor un Skill o un agent?»: no competeixen entre si, es complementen. Un agent pot fer servir zero, un o diversos Skills al llarg d’una mateixa tasca, segons el que necessiti.

    Una taula per fixar-ho

    AgentSkill
    Què ésUn sistema que planifica i actuaUn paquet d’instruccions i recursos especialitzats
    RolPren decisions i executaAporta saber fer concret quan cal
    Es «carrega»?No: és qui du el controlSí, quan resulta rellevant
    Reutilitzable?Depèn del sistemaSí, un mateix Skill pot ser utilitzat per agents compatibles

    Un exemple senzill

    Imagina que li demanes a un assistent d’IA que et prepari un informe trimestral en un document Word amb el format corporatiu de la teva empresa.

    • L’agent interpreta la teva petició, decideix quins passos calen —buscar les dades, redactar el text, generar el document— i executa aquest pla.
    • El Skill de creació de documents Word aporta les instruccions, recursos i procediments necessaris per generar un .docx ben format, amb capçaleres, taules i estils correctes, sense que l’agent hagi d’improvisar-ho des de zero cada vegada.

    L’agent continua sent qui fa la feina. El Skill li explica com fer bé aquella part concreta de la feina.

    Per què importa, com a usuari?

    No cal saber programar Skills per treure profit del concepte.

    El que és interessant és entendre que, quan una IA resol especialment bé una tasca molt concreta, no sempre és només perquè el model sigui més «intel·ligent». Pot ser també perquè disposa del coneixement especialitzat adequat i sap consultar-lo en el moment que el necessita.

    Això permet separar dues coses que sovint confonem: la capacitat general del model i el coneixement específic necessari per fer bé una determinada feina.

    És, en el fons, la mateixa lògica que fem servir els humans: no cal memoritzar-ho tot, n’hi ha prou de saber on trobar el manual adequat en el moment adequat.