Guia: intel·ligència artificial nutricionistes i límits

Guia sobre intel·ligència artificial nutricionistes: comença per la tasca

Abans de preguntar què pot fer una eina, descriu quina tasca vols donar-li suport. No és el mateix resumir una conversa, localitzar un camp buit, ordenar una llista de documents o proposar preguntes per a la revisió següent que interpretar un registre, prioritzar un risc o modificar una recomanació nutricional. El verb de la tasca ajuda a veure quant criteri humà es manté i quines conseqüències tindria un error.

La normativa europea d’intel·ligència artificial utilitza un enfocament basat en el risc i té en compte, entre altres elements, la finalitat prevista, el grau d’autonomia, les dades i l’impacte possible en la salut, la seguretat o els drets fonamentals. Això no permet declarar que una app concreta sigui segura o d’alt risc només perquè s’anomeni assistent. Cal descriure l’ús real, qui la desplega i quina decisió pot quedar influïda.

Comença amb una fitxa senzilla: tasca, entrada, sortida, persona que revisa, decisió posterior i senyal d’aturada. Afegeix si la sortida es desa, es comparteix o s’incorpora a la història de treball. Si no pots explicar una d’aquestes caselles, encara no tens un cas d’ús prou acotat. La fitxa no és una classificació legal ni una avaluació clínica; és una manera de fer visibles les preguntes que després han de resoldre les persones responsables.

En nutrició, una primera prova adequada sol tenir un abast administratiu o de preparació. Per exemple, convertir notes ja revisades en un esquema, suggerir preguntes obertes o assenyalar que falta context en un registre. Fins i tot aquí, l’eina pot ometre matisos, inventar connexions o presentar com a segura una frase que només sembla plausible. L’objectiu de la prova és observar el treball, no demostrar que la IA entén la persona.

• Tasca concreta: què es vol fer i què queda fora.
• Entrada mínima: quina informació necessita i d’on prové.
• Sortida revisable: quin format produeix i com es comprova.
• Decisió humana: qui pot acceptar, corregir o descartar la sortida.

Tria usos assistibles i reserva les decisions

Un ús assistible aporta velocitat o estructura sense substituir el judici de la professional. Pot ajudar a preparar una agenda, transformar una nota en preguntes, comparar versions d’un document o resumir informació que ja ha estat revisada. La sortida ha de quedar clarament marcada com a esborrany o suport, amb una persona identificada que en comprovi el contingut abans d’utilitzar-lo o compartir-lo.

Hi ha més risc quan la sortida orienta una decisió sobre una persona: interpretar símptomes, atribuir causes, recomanar canvis, establir prioritats clíniques o decidir que una situació no necessita atenció. Una eina pot oferir llenguatge o hipòtesis per conversar, però no hauria de tancar aquesta valoració per si sola. La professional necessita context, competència, temps i autoritat per apartar-se de la sortida quan no encaixa.

El Codi deontològic del CoDiNuCat situa la pràctica dins la competència professional, el respecte, l’autonomia, la no-maleficència i l’evidència. També demana proporcionar informació suficient perquè les persones prenguin les seves pròpies decisions. Com a aplicació pràctica, si una funció amb IA altera la manera d’explicar, preguntar o documentar, la responsabilitat professional no es desplaça a la interfície ni al proveïdor de l’eina.

Defineix dues llistes abans del pilot. A la llista verda queden tasques de baix impacte que admeten una revisió ràpida. A la groga queden tasques que poden influir en una conversa i exigeixen una comprovació més profunda. A la vermella queden diagnòstics, prescripcions, decisions urgents, canvis de pla sense conversa i qualsevol acció que no tingui una persona responsable capaç d’aturar-la. La classificació és operativa, no una etiqueta jurídica definitiva.

• Verd: ordenar, resumir o preparar un esborrany amb dades limitades.
• Groc: suggerir preguntes o patrons que requereixen context i revisió.
• Vermell: diagnosticar, prescriure, decidir per la persona o actuar sense revisió.
• Escalat: aturar el flux quan falti context, competència o traçabilitat.

Explica límits, transparència i dades de salut

La transparència útil no consisteix simplement a dir que hi ha intel·ligència artificial. Explica què fa la funció, què no fa, quines dades rep, qui revisa la sortida i què passa si es detecta un error. Si la persona interactua directament amb un sistema d’IA en un supòsit cobert per les obligacions de transparència, la informació li ha de permetre entendre la naturalesa d’aquesta interacció. La manera exacta de complir depèn del sistema i del context.

La Llei d’IA de la Unió exigeix, per als sistemes d’alt risc, instruccions clares sobre capacitats, limitacions, interpretació dels resultats i mesures de supervisió. També preveu que la supervisió humana permeti detectar anomalies, entendre els límits, evitar la dependència automàtica i descartar o revertir la sortida. No totes les funcions d’una app entren en aquesta categoria, però aquests punts ofereixen un bon guió per preguntar a un proveïdor.

Les dades de salut mereixen una decisió separada. No introdueixis informació real en una eina genèrica només perquè prometi estalviar temps. Comprova la finalitat, l’accés, la conservació, els proveïdors, les exportacions i la possibilitat de treballar amb dades fictícies o minimitzades. Si el model aprèn, reutilitza o comparteix informació, pregunta què significa en aquella configuració concreta. La base jurídica i les obligacions aplicables requereixen una valoració específica, no una suposició basada en el nom comercial.

Demana una explicació que la persona pugui repetir amb les seves paraules. Ha de quedar clar si la IA prepara un esborrany, si la professional el revisa, si el registre es conserva i com es pot comunicar una discrepància. Evita prometre precisió, personalització automàtica o absència de biaixos. Una explicació honesta reconeix que els resultats poden ser incomplets, desactualitzats o erronis i diu quin pas humà corregeix aquesta possibilitat.

• Funció i límits: què fa la IA i què no ha de decidir.
• Dades: entrada, finalitat, accés, conservació, proveïdor i sortida.
• Persona: qui revisa, amb quina competència i abans de quina acció.
• Incidència: com s’atura, es corregeix, es registra i es comunica un error.

Prova, supervisa i atura el flux amb NutriCoach

NutriCoach proposa revisar el recorregut en quatre moviments: mapar, explicar, acordar i revisar. Mapar vol dir escriure tasca, entrada, sortida, accés i risc. Explicar vol dir demanar a la persona que expliqui què farà l’eina i què farà la professional. Acordar vol dir fixar format, freqüència, canal i responsable. Revisar vol dir comparar la sortida amb l’ús real i decidir si es manté, se simplifica, s’ajorna o es descarta.

Fes el primer pilot amb un perfil fictici i una tasca petita. Desa exemples d’entrada i sortida, anota el temps de revisió i marca cada correcció. Comprova si l’eina omet context, barreja persones, canvia el sentit d’una nota o proposa una acció que ningú havia autoritzat. Després demana a una altra persona que repeteixi la revisió amb el mateix guió. Dues lectures diferents poden revelar que el control depenia massa de qui va fer la primera prova.

La supervisió necessita un moment i una autoritat clars. No n’hi ha prou que algú pugui mirar la pantalla si no té temps per qüestionar el resultat o si la interfície presenta la suggerència com una resposta final. Defineix quins senyals obliguen a aturar-se: dada inesperada, sortida incoherent, canvi de model, error repetit, absència de context o desacord de la persona. Documenta qui va aturar el flux, què es va comprovar i quina condició permet reprendre’l.

Programa una revisió després de la primera setmana i una altra quan canviïn el proveïdor, la configuració, la finalitat o les dades. Pregunta quina sortida no s’ha utilitzat, quina explicació ha estat insuficient i si la persona ha pogut proposar una altra via. A NutriCoach, el tancament es pot resumir com activar, simplificar, ajornar o descartar. El producte pot ordenar el treball, però la decisió professional i la conversa amb la persona continuen sent humanes.

No avaluïs només si la sortida sembla correcta en un exemple còmode. Compara casos complets i incomplets, formats diferents de registre i situacions en què la persona expressa una preferència diferent. Observa si el sistema tracta de la mateixa manera una nota breu i una explicació extensa, si confon l’absència de dades amb l’absència de problema o si fa més visible una opció que una altra. Aquestes diferències no demostren per si soles un perjudici, però indiquen preguntes que cal respondre abans d’ampliar l’ús.

Quan s’actualitzi el model, canviï una instrucció o es connecti un proveïdor, repeteix la prova amb el mateix conjunt fictici. Desa la data, la configuració i els exemples de sortida per poder comparar versions. Si no pots reconstruir per què ha canviat una recomanació, la supervisió queda debilitada. Una eina responsable necessita un camí per tornar a una configuració anterior, registrar incidències i comunicar a les persones afectades què ha canviat quan el canvi modifica el tractament o el recorregut.

Inclou també una revisió de l’experiència de la persona. Pregunta si entén quan apareix la IA, si sap qui revisa el resultat i si pot demanar una explicació humana. La confiança no ha de dependre que la interfície sembli segura ni que el text soni personalitzat. Si algú prefereix no participar en una funció automàtica, acorda una altra manera de preparar la conversa o de registrar la informació.

Anota quina tasca s’assistirà i qui conserva la decisió final. Explica el límit de l’eina amb un exemple que es pugui repetir. No converteixis una suggerència automàtica en una pauta individual. Comprova què passa si la persona no vol utilitzar una funció amb IA. Utilitza dades fictícies abans de provar el flux amb casos reals. Registra la versió del model o de la configuració que s’ha utilitzat. Demana una revisió especialitzada quan l’abast jurídic no sigui clar. Mantén visible un canal senzill per comunicar errors o dubtes. Revisa els permisos quan canviï una funció, un proveïdor o l’objectiu. Explica que una sortida convincent també pot ser incompleta o errònia. Tanca cada prova amb una decisió, una persona responsable i una data. La supervisió exigeix temps, criteri i autoritat per aturar el flux. Revisa l’explicació abans d’ampliar la tasca o compartir el registre. Comprova tot el recorregut abans d’incloure informació de salut real.

• Mapar: tasca, dades, sortida, risc i persona responsable.
• Explicar: capacitats, límits, revisió i alternativa.
• Acordar: pilot, canal de dubtes, criteri d’aturada i data.
• Revisar: errors, canvis, traçabilitat i decisió de continuïtat.