Guía: inteligencia artificial nutricionistas y límites

Guía sobre inteligencia artificial nutricionistas: empieza por la tarea

Antes de preguntar qué puede hacer una herramienta, describe qué tarea quieres apoyar. No es lo mismo resumir una conversación, localizar un campo vacío, ordenar una lista de documentos o proponer preguntas para la siguiente revisión que interpretar un registro, priorizar un riesgo o modificar una recomendación nutricional. El verbo de la tarea ayuda a ver cuánto criterio humano se mantiene y qué consecuencias tendría un error.

La normativa europea de inteligencia artificial utiliza un enfoque basado en el riesgo y atiende, entre otros elementos, a la finalidad prevista, el grado de autonomía, los datos y el posible impacto en la salud, la seguridad o los derechos fundamentales. Eso no permite declarar que una app concreta sea segura o de alto riesgo solo por llamarse asistente. Hay que describir el uso real, quién lo despliega y qué decisión puede verse influida.

Empieza con una ficha sencilla: tarea, entrada, salida, persona que revisa, decisión posterior y señal de parada. Añade si la salida se guarda, se comparte o se incorpora a la historia de trabajo. Si no puedes explicar una de esas casillas, todavía no tienes un caso de uso suficientemente acotado. La ficha no es una clasificación legal ni una evaluación clínica; es una forma de hacer visibles las preguntas que después deben resolver las personas responsables.

En nutrición, una buena primera prueba suele tener un alcance administrativo o de preparación. Por ejemplo, convertir notas ya revisadas en un esquema, sugerir preguntas abiertas o señalar que falta contexto en un registro. Incluso ahí, la herramienta puede omitir matices, inventar conexiones o presentar como segura una frase que solo parece plausible. El objetivo de la prueba es observar el trabajo, no demostrar que la IA entiende a la persona.

• Tarea concreta: qué se intenta hacer y qué queda fuera.
• Entrada mínima: qué información necesita y de dónde procede.
• Salida revisable: qué formato produce y cómo se comprueba.
• Decisión humana: quién puede aceptar, corregir o descartar la salida.

Elige usos asistibles y reserva las decisiones

Un uso asistible aporta velocidad o estructura sin sustituir el juicio de la profesional. Puede ayudar a preparar una agenda, transformar una nota en preguntas, comparar versiones de un documento o resumir información que ya ha sido revisada. La salida debe quedar claramente marcada como borrador o apoyo, con una persona identificada que compruebe el contenido antes de utilizarlo o compartirlo.

Hay más riesgo cuando la salida orienta una decisión sobre una persona: interpretar síntomas, atribuir causas, recomendar cambios, establecer prioridades clínicas o decidir que una situación no necesita atención. Una herramienta puede ofrecer lenguaje o hipótesis para conversar, pero no debe cerrar por sí sola esa valoración. La profesional necesita contexto, competencia, tiempo y autoridad para apartarse de la salida cuando no encaja.

El Código deontológico del CoDiNuCat sitúa la práctica dentro de la competencia profesional, el respeto, la autonomía, la no-maleficencia y la evidencia. También pide proporcionar información suficiente para que las personas tomen sus propias decisiones. Como aplicación práctica, si una función con IA altera la forma de explicar, preguntar o documentar, la responsabilidad profesional no se desplaza a la interfaz ni al proveedor de la herramienta.

Define dos listas antes del piloto. En la lista verde quedan tareas de bajo impacto que admiten revisión rápida. En la amarilla quedan tareas que pueden influir en una conversación y exigen una comprobación más profunda. En la roja quedan diagnósticos, prescripciones, decisiones urgentes, cambios de plan sin conversación y cualquier acción que no tenga una persona responsable capaz de detenerla. La clasificación es operativa, no una etiqueta jurídica definitiva.

• Verde: ordenar, resumir o preparar un borrador con datos limitados.
• Amarillo: sugerir preguntas o patrones que requieren contexto y revisión.
• Rojo: diagnosticar, prescribir, decidir por la persona o actuar sin revisión.
• Escalado: detener el flujo cuando falte contexto, competencia o trazabilidad.

Explica límites, transparencia y datos de salud

La transparencia útil no consiste en decir simplemente que hay inteligencia artificial. Explica qué hace la función, qué no hace, qué datos recibe, quién revisa la salida y qué ocurre si se detecta un error. Si la persona interactúa directamente con un sistema de IA en un supuesto cubierto por las obligaciones de transparencia, la información debe permitirle entender la naturaleza de esa interacción. La forma exacta de cumplir depende del sistema y del contexto.

La Ley de IA de la Unión exige, para los sistemas de alto riesgo, instrucciones claras sobre capacidades, limitaciones, interpretación de resultados y medidas de supervisión. También contempla que la supervisión humana permita detectar anomalías, entender los límites, evitar la dependencia automática y descartar o revertir la salida. No todas las funciones de una app entran en esa categoría, pero esos puntos ofrecen un buen guion para preguntar a un proveedor.

Los datos de salud merecen una decisión separada. No introduzcas información real en una herramienta genérica solo porque prometa ahorrar tiempo. Comprueba la finalidad, el acceso, la conservación, los proveedores, las exportaciones y la posibilidad de trabajar con datos ficticios o minimizados. Si el modelo aprende, reutiliza o comparte información, pregunta qué significa en esa configuración concreta. La base jurídica y las obligaciones aplicables requieren una valoración específica, no una suposición basada en el nombre comercial.

Pide una explicación que la persona pueda repetir con sus palabras. Debe quedar claro si la IA prepara un borrador, si la profesional lo revisa, si el registro se conserva y cómo se puede comunicar una discrepancia. Evita prometer precisión, personalización automática o ausencia de sesgos. Una explicación honesta reconoce que los resultados pueden ser incompletos, desactualizados o erróneos y dice qué paso humano corrige esa posibilidad.

• Función y límites: qué hace la IA y qué no debe decidir.
• Datos: entrada, finalidad, acceso, conservación, proveedor y salida.
• Persona: quién revisa, con qué competencia y antes de qué acción.
• Incidencia: cómo se detiene, corrige, registra y comunica un error.

Prueba, supervisa y detén el flujo con NutriCoach

NutriCoach propone revisar el recorrido en cuatro movimientos: mapear, explicar, acordar y revisar. Mapear significa escribir tarea, entrada, salida, acceso y riesgo. Explicar significa pedir a la persona que cuente qué hará la herramienta y qué hará la profesional. Acordar significa fijar formato, frecuencia, canal y responsable. Revisar significa comparar la salida con el uso real y decidir si se mantiene, simplifica, aplaza o descarta.

Haz el primer piloto con un perfil ficticio y una tarea pequeña. Guarda ejemplos de entrada y salida, anota el tiempo de revisión y marca cada corrección. Comprueba si la herramienta omite contexto, mezcla personas, cambia el sentido de una nota o propone una acción que nadie había autorizado. Después pide a otra persona que repita la revisión con el mismo guion. Dos lecturas distintas pueden revelar que el control dependía demasiado de quien hizo la primera prueba.

La supervisión necesita un momento y una autoridad claros. No basta con que alguien pueda mirar la pantalla si no tiene tiempo para cuestionar el resultado o si la interfaz presenta la sugerencia como una respuesta final. Define qué señales obligan a detenerse: dato inesperado, salida incoherente, cambio de modelo, error repetido, ausencia de contexto o desacuerdo de la persona. Documenta quién detuvo el flujo, qué se comprobó y qué condición permite reanudarlo.

Programa una revisión después de la primera semana y otra cuando cambien el proveedor, la configuración, la finalidad o los datos. Pregunta qué salida no se utilizó, qué explicación fue insuficiente y si la persona pudo proponer otra vía. En NutriCoach, el cierre puede quedar resumido como activar, simplificar, aplazar o descartar. El producto puede ordenar el trabajo, pero la decisión profesional y la conversación con la persona siguen siendo humanas.

No evalúes solo si la salida parece correcta en un ejemplo cómodo. Compara casos completos e incompletos, distintos formatos de registro y situaciones en las que la persona expresa una preferencia diferente. Observa si el sistema trata de la misma manera una nota breve y una explicación extensa, si confunde ausencia de datos con ausencia de problema o si hace más visible una opción que otra. Estas diferencias no demuestran por sí solas un perjuicio, pero sí indican preguntas que deben responderse antes de ampliar el uso.

Cuando se actualice el modelo, cambia una instrucción o se conecte un proveedor, repite la prueba con el mismo conjunto ficticio. Guarda la fecha, la configuración y los ejemplos de salida para poder comparar versiones. Si no puedes reconstruir por qué una recomendación cambió, la supervisión queda debilitada. Una herramienta responsable necesita un camino para volver a una configuración anterior, registrar incidencias y comunicar a las personas afectadas qué ha cambiado cuando el cambio modifica el tratamiento o el recorrido.

Incluye también una revisión de la experiencia de la persona. Pregunta si entiende cuándo aparece la IA, si sabe quién revisa el resultado y si puede pedir una explicación humana. La confianza no debe depender de que la interfaz parezca segura ni de que el texto suene personalizado. Si alguien prefiere no participar en una función automática, acuerda otra forma de preparar la conversación o de registrar la información. Esa alternativa debe ser practicable, no una opción simbólica que haga más difícil recibir atención.

Anota qué tarea se asistirá y quién conserva la decisión final. Explica el límite de la herramienta con un ejemplo que pueda repetirse. Separa ordenar información de interpretar la situación nutricional. No conviertas una sugerencia automática en una pauta individual. Comprueba qué ocurre si la persona no desea usar una función con IA. Utiliza datos ficticios antes de probar el flujo con casos reales. Registra la versión del modelo o de la configuración que se utilizó. Pide una revisión especializada cuando el alcance jurídico no esté claro. Mantén visible un canal sencillo para comunicar errores o dudas. Revisa permisos cuando cambie una función, un proveedor o el objetivo. Conserva evidencias sin guardar más datos de los necesarios. Explica que una salida convincente también puede ser incompleta o errónea. Cierra cada prueba con una decisión, una persona responsable y una fecha. No presentes esta matriz como una certificación de cumplimiento. La supervisión exige tiempo, criterio y autoridad para detener el flujo. Comprueba el recorrido completo antes de incluir información de salud real. Pide que la persona pueda plantear una alternativa sin quedar penalizada. Mantén un resumen breve y un detalle disponible para consultar después.

• Mapear: tarea, datos, salida, riesgo y persona responsable.
• Explicar: capacidades, límites, revisión y alternativa.
• Acordar: piloto, canal de dudas, criterio de parada y fecha.
• Revisar: errores, cambios, trazabilidad y decisión de continuidad.