En aquesta segona quinzena de setembre, els temes que penso destaquen més en l’àmbit divulgatiu, són:
▶ Rebaixem el suflé dels incidents
▶ Frenar o no l’evolució de la IA
▶ El futur de la IA és un xat o un programa d’oficina?
▶ Ja no n’hi ha prou amb ser el model més potent
▶Rebaixem el suflé dels incidents que comentàvem en l’anterior resum de la darrera quinzena.
Cal dir que els que seguim al dia les novetats en el món IA, rebem sovint noves notificacions d’agents que s’«han sortit de camí». que s’afegeixen a les que vam comentar la darrera quinzena.
Les investigacions sobre els agents d’OpenAI, Anthropic, Meta i Google que van sortir dels seus entorns de prova, assenyalen un element comú: diversos experiments utilitzaven infraestructura proporcionada per l’empresa: Irregular, especialitzada en l’avaluació de sistemes d’IA.
Els incidents semblen tenir l’origen, almenys parcialment, en deficiències de l’entorn compartit:
Configuracions de xarxa i sistemes d’aïllament que permetien als agents arribar accidentalment a Internet.
Això redueix el pes de la interpretació més espectacular i escampada per alguns titulars sensacionalistes, que deixaven anar: «models que decideixen deliberadament “escapar”
I ens porta a una explicació més convencional
Una combinació d’agents molt competents + un objectiu obert + una barrera tècnica mal configurada.
La qüestió continua sent seriosa. Un agent no necessita tenir intencions pròpies per causar un incident; només necessita descobrir que travessar un límit l’ajuda a completar l’encàrrec.
Però és important distingir aquesta situació d’una rebel·lió deliberada del model. Aquí us deixo el Resum de la investigació
Per què és important: quan laboratoris diferents pateixen incidents semblants amb el mateix proveïdor d’avaluacions, cal examinar el laboratori virtual on s’han provat.
És una situació en què un sistema que havia de mantenir un agent dins d’un entorn controlat permet que accedeixi a recursos externs.
No implica necessàriament que l’agent hagi vulnerat una protecció sofisticada. Pot ser tan senzill com:
- una connexió que havia d’estar bloquejada;
- un permís excessiu;
- una credencial disponible;
- o una configuració incorrecta de la xarxa.
Els titulars “la IA s’ha escapat” expliquen malament aquests episodis. Una formulació més precisa seria:
L’agent va trobar un camí que els responsables de la prova no havien previst ni bloquejat correctament.
Aquesta distinció ajuda a parlar de riscos reals sense atribuir motivacions humanes als models.
Concluint:
La seguretat dels agents no consisteix a aconseguir que mai facin res inesperat. Probablement requerirà construir sistemes on:
Una equivocació no sigui suficient per provocar el problema.
Que és una filosofia molt antiga de l’enginyeria. Però ara cal aplicar-ho a sistemes que busquen activament maneres d’aconseguir un objectiu. Perquè un agent molt capaç, pot trobar portes que els dissenyadors del model, no sabien que existien.
I en el transcurs d’aquesta quinzena, el nombre de «nous incidents», ha crescut. Per tant, el tema continuarà.
▶Frenar o no l’evolució de la IA
Segurament lligat amb l’apartat anterior, aquestes darreres setmanes heu vist titulars sobre els possibles perills futurs de la intel·ligència artificial.
No és un debat nou, però ha canviat una cosa important: ara alguns dels que demanen aixecar el peu de l’accelerador són precisament els que estan construint els models més avançats.
I això, com a mínim, mereix una mica d’atenció.
El manifest que ha encès el debat
Un dels textos que més soroll ha fet és “We Must Pace the Frontier”, publicat aquest setembre per Dario Amodei, CEO d’Anthropic.
La traducció del títol ja dona una pista: alguna cosa semblant a hem de moderar el ritme de la frontera.
El manifest no proposa aturar la IA. De fet, insisteix que continuar desenvolupant-la pot aportar enormes beneficis. El que defensa és que les capacitats dels models estan avançant més ràpidament que la nostra capacitat per entendre’ls, controlar-los i protegir-nos dels seus possibles errors o mals usos.
I apunta especialment a dos motius.
El primer és la possibilitat que la IA participi cada vegada més en la construcció de la següent generació d’IA: el que es coneix com a recursive self-improvement i del qual ja parlo més endavant.
El segon són alguns comportaments preocupants observats en sistemes d’agents, especialment quan disposen de prou autonomia per actuar sobre sistemes informàtics.
La seva conclusió és que potser convindria guanyar temps.
No anys de paralització, sinó prou temps perquè la seguretat pugui seguir el ritme de les capacitats.
La sorpresa va arribar quan Sam Altman, d’OpenAI, i Elon Musk, de xAI, van mostrar ràpidament el seu acord amb bona part del plantejament.
Quan els competidors demanen frenar
És una situació curiosa.
Empreses que competeixen feroçment per disposar del model més potent coincideixen que potser seria convenient que tothom anés una mica més a poc a poc.
Amodei proposa, entre altres mesures, que els grans laboratoris disposin d’avaluadors externs amb accés continu als seus processos, que s’estableixin estàndards comuns de seguretat i que les empreses puguin coordinar determinades mesures sense topar amb les lleis antimonopoli.
I aquí comencen els problemes.
Perquè una cosa és que una empresa decideixi voluntàriament anar més a poc a poc i una altra que diverses empreses competidores acordin conjuntament a quina velocitat avançaran.
De fet, aquesta possible coordinació ja ha provocat debat sobre els seus límits legals.
No tothom vol aixecar el peu
A l’altre costat hi trobem, entre d’altres, Jensen Huang, CEO de Nvidia, que ha rebutjat aquestes visions més alarmistes i considera que frenar el desenvolupament pot perjudicar els Estats Units davant la competència xinesa.
La Casa Blanca també ha defensat en general una política favorable a mantenir el lideratge nord-americà en IA.
Per tant, tenim una situació força curiosa: una part dels creadors dels models més avançats demana més prudència, mentre que altres actors tecnològics i polítics consideren que reduir el ritme pot ser encara més perillós.
I, naturalment, cadascú té també els seus interessos.
Nvidia ven bona part del maquinari que alimenta aquesta cursa. Els grans laboratoris d’IA volen protegir unes inversions gegantines. Els governs pensen en competitivitat, economia i seguretat nacional. I la Xina difícilment acceptarà quedar-se quieta perquè les empreses nord-americanes decideixin fer-ho.
La seguretat és una part del debat. Però els diners i la geopolítica també hi són.
I què passa amb els models oberts?
Aquí hi ha una qüestió que em sembla especialment interessant.
El manifest està pensat principalment per als grans laboratoris que desenvolupen models de frontera. Però dedica molta menys atenció a un altre món que està creixent ràpidament: els models de pesos oberts, els anomenats open weights.
I això pot complicar molt qualsevol intent de posar el fre.
Un model tancat és relativament controlable. OpenAI, Anthropic o Google poden decidir quan publiquen un model, qui hi té accés, quins filtres hi posen o fins i tot retirar-lo.
Però quan els pesos d’un model han estat publicats i milers de persones els han descarregat, la situació canvia completament.
Ja no hi ha un únic interruptor.
El model pot executar-se en servidors privats, modificar-se, especialitzar-se o circular per països diferents. I una certificació concedida al model original no garanteix necessàriament què farà una versió posterior modificada per algú altre.
Aquí apareix una contradicció difícil de resoldre.
Els models oberts tenen un efecte positiu evident: fan més accessible la IA, faciliten la investigació i contribueixen a abaixar-ne el preu.
Però aquesta mateixa característica els fa molt més difícils de controlar.
La regulació també pot canviar la competència
Hi ha encara una altra conseqüència que convé no perdre de vista.
Complir sistemes complexos de certificació, auditories externes, controls de seguretat i obligacions administratives costa diners.
Google, OpenAI, Anthropic o Microsoft poden assumir aquest cost.
Una empresa petita, potser no.
Per tant, una regulació creada amb la intenció legítima d’augmentar la seguretat podria tenir un efecte secundari inesperat: fer encara més difícil competir amb les empreses que ja dominen el mercat.
I aquí apareix inevitablement la sospita.
Alguns crítics interpreten les advertències dels grans laboratoris com una forma de regulatory capture: demanar unes regles tan exigents que només les empreses més grans puguin complir-les.
No tenim cap manera de saber fins a quin punt aquesta és la motivació real. I probablement seria massa simplista reduir tot el debat a aquesta explicació.
Però tampoc sembla raonable ignorar-la.
Potser la pregunta no és «frenar o no frenar»
Al principi semblava que el debat era senzill:
Hem de frenar el desenvolupament de la IA o hem de deixar que continuï avançant?
Però, mirant-ho una mica més de prop, apareixen altres preguntes.
Qui decideix què és prou perillós per justificar una frenada?
Qui controla que tothom compleixi les mateixes regles?
Com es pot fer un acord internacional si els països competeixen per liderar la tecnologia?
Què fem amb els models oberts que ja circulen?
I, sobretot, qui podrà continuar desenvolupant IA si complir les normes costa centenars de milions de dòlars?
Potser el debat important acabarà sent menys «hem de frenar la IA?» i caldrà preguntar-se:
«Qui tindrà dret a continuar accelerant?»
I aquí la resposta ja no depèn només de la tecnologia.
Depèn de la seguretat, de la política, de la geopolítica i, inevitablement, dels diners.
Molts pros i contres en direccions diferents.
Per això, almenys jo, encara no tinc gens clar de quin costat posar-me.
▶ El futur de la IA és un xat o un programa d’oficina?
Abans que ningú s’entusiasmi massa, moltes d’aquestes facilitats estan en els plans de pagament.
La fusió de Claude amb Cowork, Docs, Slides i Design permet explicar un canvi fàcil de veure: aviat potser no obrirem primer el processador de textos. Explicarem què necessitem, i l’agent obrirà les eines i prepararà el document.
Anthropic ha decidit fusionar Claude Cowork i el xat convencional. L’usuari ja no haurà de decidir si necessita una resposta ràpida o encarregar una feina llarga: Claude determinarà com executar-la i podrà continuar treballant encara que es tanqui l’ordinador.
Claude podrà consultar fonts connectades, redactar un informe, convertir-ne els punts principals en diapositives i programar la mateixa feina perquè es repeteixi periòdicament. El desplegament comença als plans Pro i Max; les noves eines de creació estan en beta als plans de pagament.
Per què és important: la diferència entre chatbot, agent i programa d’oficina comença a desaparèixer. Anthropic passa de respondre preguntes a competir directament amb Word, Google Docs i PowerPoint en la producció del treball final.
I com es pot fer el mateix amb ChatGPT?
Utilitzant l’opció ChatGPT Work que converteix ChatGPT en un espai de treball capaç d’investigar, crear documents, fulls de càlcul i presentacions, consultar aplicacions connectades i repetir feines automàticament.
Només cal crear el prompt adequat, que si esteu mancats d’idees, li podeu demanar al mateix ChatGPT Work. Més avall us deixo un exemple, donant-li accés a una carpeta del meu ordinador i em tornarà a demanar permís quan enregistri els resultats.
ChatGPT Work pot crear i editar fitxers de Word, Excel i PowerPoint, a més de documents, fulls i presentacions natives de Google. També pot reutilitzar una presentació o document anterior com a plantilla.
Exemple didàctic: Per generalitzar, he demanat crear un fitxer CVS perquè no tothom treballa amb Excel. I com sabeu, un CVS és fàcilment importable des de qualsevol full de càlcul. Aquí teniu un exemple de prompt:
| |Revisa totes les factures de la carpeta del meu Mac [posa la ruta de la teva carpeta] incloses les subcarpetes, i prepara un resum en català per obrir-lo després amb qualsevol full de càlcul Crea una taula amb una fila per factura i aquestes columnes: • Proveïdor i NIF • Data • Total a pagar • IVA • Observacions o dades pendents de revisar Extreu només les dades que constin als documents. No inventis informació: deixa en blanc les dades absents i assenyala les que no es puguin llegir amb confiança. Comprova que els imports quadrin i detecta possibles factures duplicades. No eliminis cap document ni descartis cap factura sense indicar-ho. Desa els resultats en una carpeta nova anomenada “Resum de factures”, al mateix directori, amb: Un CSV que contingui totes les factures. Un altre CSV amb els totals per proveïdor i per mes. Una llista de documents que no hagis pogut processar i de les incidències que cal revisar. Utilitza dates en format DD/MM/AAAA i imports amb coma decimal. No modifiquis els fitxers originals. En acabar, indica quants documents has revisat, quantes factures has identificat i on has desat els resultats. | | — | |
Aquest prompt l’he comprovat i funciona. El podeu ampliar fins on us arribi la imaginació, utilitzant molts més camps i fins i tot indicant formats del full de càlcul final, si en lloc de CSV, ja indiqueu un full concret com Excel o demanar que ho presenti segons una determinada plantilla.
En tot cas, tampoc és que la «competència» estigui quieta. Just acabada la quinzena, ha aparegut la següent notícia:
Microsoft vol convertir Copilot en una mena de “sistema operatiu per al treball”. La nova orientació integra xat, programació, agents i les funcions de Word, Excel i PowerPoint dins el mateix Copilot.
▶Ja no n’hi ha prou amb ser el model més potent
No fa ni un any, el llançament d’un nou model d’IA venia gairebé sempre acompanyat d’una bateria de Benchmarks.
Era una mena de cursa de cavalls: avui un model ocupava el primer lloc i, al cap de poques setmanes, n’apareixia un altre que el superava en programació, matemàtiques, raonament o qualsevol altra prova.
Els Benchmarks no han desaparegut —ni de bon tros—, però últimament hi ha un altre concepte que apareix cada vegada amb més força en la presentació dels nous models:
la seva eficiència.
Ja no es tracta només de dir «el meu model és millor», sinó també «el meu model pot fer aquesta feina utilitzant menys recursos i, per tant, costant menys».
I aquí apareix el preu dels tokens.
El token més barat no sempre guanya
Quan comparem models és fàcil mirar una taula de preus i decidir que un és car i un altre barat.
Però aquesta comparació pot resultar enganyosa.
Imaginem un model molt barat que, per completar una tasca, necessita repetir passos, fer més consultes, corregir errors o requerir més intervenció humana.
Al costat tenim un model més car per token que resol la mateixa feina correctament al primer intent.
Quin dels dos és realment més barat?
En aplicacions senzilles, el preu del token continua sent una dada molt útil. Però quan parlem d’agents que treballen durant minuts o hores, utilitzen eines i encadenen moltes operacions, probablement ens interessa més una altra pregunta:
Quant costa completar correctament tota la feina?
I aquí entren en joc no només els tokens, sinó també el nombre d’intents, les eines fetes servir, el temps d’execució i, sobretot, les correccions humanes necessàries.
Dos llançaments gairebé simultanis en aquest setembre – 2026, ens serveixen per veure cap on va aquesta batalla.
1- Claude Opus 5.5: més potent, però també més barat
Anthropic acaba de presentar Claude Opus 5.5.
Naturalment, l’empresa mostra els resultats del model en diferents proves. Però hi ha un detall interessant en la manera de presentar-lo: insisteix especialment en l’eficiència.
El preu de l’API és de 4 dòlars per milió de tokens d’entrada i 20 dòlars per milió de tokens de sortida, un 20% menys que Opus 5.
Però Anthropic afirma que, en les càrregues de treball habituals, el cost real pot arribar a ser aproximadament un 40% inferior, perquè el model també necessita menys tokens per completar determinades tasques.
Aquesta segona dada em sembla més interessant que la primera.
No ens diuen només:
Hem abaixat el preu del token.
El missatge és més aviat:
Hem abaixat el preu i, a més, necessitareu menys recursos per arribar al resultat.
En paraules normals: una rebaixa de preus, però presentada també com una millora d’eficiència.
I les rebaixes sempre són benvingudes pels usuaris. Per a les empreses, en canvi, també poden significar que la competència està pressionant els marges.
2- I des de la Xina, preus a una altra escala
Pràcticament al mateix temps, Xiaomi ha presentat MiMo-V2.6-Pro i MiMo-V2.6-Flash, dos models especialment orientats al raonament, la programació i el treball amb agents.
El Pro supera el bilió de paràmetres totals —1,02 bilions—, encara que només n’activa uns 42.000 milions per token. Flash és considerablement més petit: uns 309.000 milions totals i 15.000 milions actius. Tots dos disposen d’una finestra de context d’un milió de tokens.
Però fixem-nos en els preus de l’API:
MiMo-V2.6-Pro
- Entrada: aproximadament 0,435 $ per milió de tokens.
- Sortida: aproximadament 0,87 $.
MiMo-V2.6-Flash
- Entrada: aproximadament 0,14 $ per milió de tokens.
- Sortida: aproximadament 0,28 $ per milió de tokens.
Les diferències amb Claude Opus 5.5 són enormes si ens limitem a comparar el preu dels tokens.
Però aquí és precisament on hem d’anar amb compte.
No podem concloure simplement que un model és més econòmic perquè el seu token costa deu, vint o cinquanta vegades menys. Caldria comprovar quants tokens i quants intents necessita cadascun per resoldre la mateixa feina amb un nivell de qualitat comparable.
Potser aquesta serà la nova cursa
Durant un temps hem preguntat:
Quin model obté la puntuació més alta en els Benchmarks?
Després hem començat a preguntar:
Quant costa cada milió de tokens?
I potser la pregunta que anirem fent cada vegada més serà:
Quant em costa que la IA acabi correctament aquesta feina?
A mesura que passem de fer preguntes a un xat a encarregar tasques completes a agents, aquesta diferència serà cada vegada més important.
Els Benchmarks continuaran existint i els preus per token també.
Però potser la batalla comercial dels pròxims models ja no consistirà només a demostrar qui és més intel·ligent, sinó qui aconsegueix fer més feina útil amb menys recursos.
I això, per als que acabem pagant la factura, no sembla una mala notícia.
Deixa un comentari