Què és un System Prompt?

Quan parlem amb un assistent d’IA, sembla que hi ha una conversa directa entre tu i el model: tu escrius, ell respon. Però en realitat, entremig hi ha una peça invisible que condiciona bona part del que passa: el system prompt.

Explicat amb un exemple senzill

Imagina un cambrer nou en un restaurant. Abans que arribi el primer client, algú li ha explicat les normes de la casa: com ha de saludar, si ha de tutejar o no els clients, quins plats no pot recomanar o com ha de vestir.

Tu, com a client, mai veus aquestes instruccions. Només veus el resultat: com et tracta el cambrer.

El system prompt és una cosa semblant, però aplicada a un assistent d’IA: unes instruccions prèvies que li indiquen com s’ha de comportar abans que tu li escriguis res.

Per què existeix

Un model d’IA, per si sol, no sap quin paper ha de tenir en una aplicació concreta. Algú ha de definir coses com:

• Qui se suposa que és en aquella aplicació: un tutor, un assistent legal, un xatbot de suport…
• Com ha de parlar: formal, informal, breu, en quin idioma…
• Quins límits ha de respectar en les seves respostes.
• Quina informació o context de l’aplicació ha de tenir en compte.
• Quins límits ha de respectar en les seves respostes. Per exemple, pot rebre instruccions per no explicar com fabricar explosius, armes químiques o altres coses potencialment perilloses o il·legals.

Aquestes instruccions també poden formar part dels mecanismes de seguretat d’un assistent, tot i que la seva seguretat no depèn només del system prompt: també hi influeix com ha estat entrenat el model i altres mesures incorporades a l’aplicació.

Un exemple molt clar

Imagina el mateix model d’IA utilitzat en dos llocs diferents:

• En una app d’ajuda amb deures escolars, li diuen que expliqui les coses de manera molt senzilla, amb exemples i amb paciència.
• En una app d’assistència legal, li diuen que sigui precís, formal i que citi la llei quan calgui.

Si preguntes exactament el mateix a les dues apps, pots rebre respostes molt diferents. No perquè el model hagi canviat, sinó perquè les instruccions prèvies que ha rebut són diferents.

Per què no el veus

Normalment, com a usuari, no veus aquestes instruccions. Entre altres coses, això permet:

• Fer la conversa més senzilla i clara.
• Evitar que l’usuari alteri fàcilment el comportament previst per a l’assistent.
• Protegir determinades instruccions internes, incloses algunes relacionades amb la seguretat.

Però no és cap secret fosc: moltes empreses expliquen, de manera general, com funcionen aquestes instruccions en els seus assistents.

La idea clau que cal retenir

Un system prompt no és un programa. És text escrit en llenguatge normal que el model interpreta com a instruccions. Podria ser tan senzill com:

«Ets un assistent amable. Respon sempre en català, de manera breu i clara.»

Amb unes frases així ja es pot modificar notablement la manera com es comporta un assistent.

I aquesta és una de les peculiaritats més sorprenents dels models d’IA actuals: en certa manera, podem programar el seu comportament simplement parlant-los.

Per què val la pena saber-ho

Entendre que existeix aquesta peça t’ajuda a:

• No pensar que un assistent té una «personalitat pròpia»: part del seu comportament és determinat per aquestes instruccions.
• Entendre per què dues apps amb «la mateixa IA a dins» poden comportar-se de manera diferent.
• Entendre que, abans que facis la primera pregunta, el model ja pot haver rebut instruccions que condicionaran la conversa.

En poques paraules: el system prompt és com el manual intern que rep un assistent d’IA abans de parlar amb tu. Normalment no el veus, però defineix bona part de com et respondrà.

el system prompt pot posar normes al model, però no és l’únic lloc on existeixen les normes de seguretat.