TL;DR — Resumen ejecutivo
- Dos categorías distintas: el chatbot administrativo gestiona citas, recordatorios y FAQs (riesgo EU AI Act mínimo o limitado); el asistente clínico transcribe consultas y apoya documentación médica (puede ser alto riesgo).
- El criterio que lo decide todo: si la herramienta participa en una decisión diagnóstica o terapéutica, sube de categoría de riesgo automáticamente.
- El error más caro: usar un chatbot genérico de consumo para resumir notas clínicas, mezclando datos de salud con una herramienta no pensada para ese uso.
- Supervisión humana: obligatoria y reforzada en asistentes clínicos; recomendable pero más ligera en chatbots administrativos.
- Antes de contratar: responde primero a 4 preguntas concretas (ver checklist) en lugar de comparar precios o funcionalidades de catálogo.
En los últimos meses he revisado varios proyectos de clínicas que ya habían comprado una herramienta de inteligencia artificial antes de hablar con nosotros. En todos los casos, la conversación inicial era parecida: "Tenemos un chatbot de IA, pero no sabemos exactamente qué puede y qué no puede hacer". Esa pregunta, en realidad, esconde otra más importante: ¿sabe la clínica en qué categoría regulatoria está su herramienta?
No es un matiz técnico menor. Existen dos categorías de productos de IA para clínicas con propósitos, riesgos y obligaciones legales radicalmente distintos: el chatbot administrativo y el asistente clínico. Confundirlos —comprar uno pensando que sirve para lo del otro, o tratar ambos como si fueran lo mismo a efectos de cumplimiento— genera dos problemas opuestos: sobre-invertir en infraestructura de cumplimiento que no necesitas, o quedarte completamente infra-protegido frente a un riesgo legal real. En este artículo te explico la diferencia, el marco regulatorio aplicable a cada categoría según el EU AI Act, y cómo elegir bien antes de firmar ningún contrato.
Qué es un chatbot administrativo
Un chatbot administrativo es un sistema de inteligencia artificial diseñado para automatizar la relación operativa entre la clínica y el paciente, sin entrar en ningún momento en el terreno clínico. Sus funciones típicas son:
- Gestión de citas. Comprobar disponibilidad real en la agenda, proponer huecos, confirmar la reserva y enviar el recordatorio correspondiente.
- Recordatorios automáticos. Avisos de cita el día anterior, recordatorios de revisión periódica, confirmaciones de asistencia con opción de reprogramar.
- Respuesta a preguntas frecuentes (FAQs). Horarios, ubicación, especialidades disponibles, documentación necesaria para una primera visita, política de cancelación, precios orientativos de servicios no clínicos.
- Derivación a humano. Cuando la consulta del paciente excede lo administrativo —por ejemplo, una duda sobre síntomas o un mensaje urgente— el sistema debe transferir la conversación a una persona del equipo, no intentar responder.
Desde el punto de vista del EU AI Act, este tipo de herramienta se sitúa normalmente en riesgo mínimo (si solo gestiona citas y recordatorios sin interacción conversacional compleja) o en riesgo limitado (si el paciente conversa con un chatbot con lenguaje natural). En el caso de riesgo limitado, la obligación principal es de transparencia: el paciente tiene que saber que está hablando con un sistema de IA, no con una persona. No se exigen evaluaciones de conformidad ni documentación técnica extensa, pero sí ese aviso explícito, que muchas clínicas omiten por desconocimiento.
Es importante distinguir aquí también el concepto de asistente virtual con IA, que en el contexto administrativo de una clínica suele referirse exactamente a este tipo de sistema: un asistente conversacional centrado en tareas operativas, no clínicas.
Qué es un asistente clínico con IA
Un asistente clínico con IA opera en un terreno completamente distinto: dentro o alrededor del acto médico. Sus funciones habituales incluyen:
- Transcripción de consulta. Grabar y convertir en texto la conversación entre profesional sanitario y paciente durante la visita.
- Documentación clínica. Generar automáticamente un resumen estructurado de la consulta, propuesta de historia clínica, codificación diagnóstica preliminar o borrador de informe.
- Posible apoyo diagnóstico. En las versiones más avanzadas, el sistema puede sugerir diagnósticos diferenciales, señalar interacciones entre medicamentos o priorizar síntomas según su urgencia clínica.
Aquí es donde el marco regulatorio cambia radicalmente. El EU AI Act considera que cualquier sistema de IA que participe, de forma directa o indirecta, en una decisión diagnóstica o terapéutica entra en la categoría de alto riesgo. Esto incluye no solo herramientas que "diagnostican" en sentido estricto, sino también sistemas que estructuran o priorizan información clínica de forma que puede influir en la decisión del profesional sin supervisión efectiva.
Que un sistema sea de alto riesgo no significa que esté prohibido. Significa que conlleva obligaciones reforzadas: evaluación de conformidad antes de su puesta en marcha, documentación técnica detallada, registro del sistema, trazabilidad de sus decisiones y, sobre todo, supervisión humana efectiva en cada uso, no solo declarada sobre el papel. Una clínica que adopta un asistente clínico de este tipo sin entender estas obligaciones se expone a sanciones que, según el propio reglamento, pueden alcanzar los 35 millones de euros o el 7% de la facturación global, además del riesgo reputacional y clínico evidente de un fallo no supervisado.
Conviene también situar este tipo de sistemas dentro del concepto más amplio de IA agéntica: cuanta más autonomía tiene el asistente para tomar decisiones encadenadas sin intervención humana en cada paso, mayor es el nivel de supervisión y control que exige el marco regulatorio.
Tabla comparativa
Esta tabla resume las diferencias funcionales y regulatorias entre ambas categorías:
| Función | Chatbot administrativo | Asistente clínico |
|---|---|---|
| Tarea principal | Citas, recordatorios, FAQs, derivación a humano | Transcripción, documentación clínica, posible apoyo diagnóstico |
| Dónde opera | Fuera de la consulta: web, WhatsApp, teléfono | Dentro o alrededor del acto médico |
| Datos que maneja | Datos de contacto y agenda, sin contenido clínico | Datos de salud identificables (categoría especial RGPD) |
| Nivel de riesgo regulatorio | Mínimo / Limitado | Posible alto riesgo si toca decisión diagnóstica |
| Obligación principal EU AI Act | Transparencia: avisar de que es IA | Evaluación de conformidad, documentación técnica, registro |
| Supervisión humana necesaria | Recomendable, ligera (revisión periódica de conversaciones) | Obligatoria y reforzada, en cada uso clínico |
| Consecuencia de un error | Molestia operativa (cita mal gestionada) | Potencial impacto clínico y legal directo |
El error más caro: usar la herramienta equivocada
Para ilustrar el riesgo real, pensemos en un caso hipotético genérico, sin referirnos a ningún cliente real. Imaginemos una clínica de tamaño mediano que contrata un chatbot de IA de propósito general —del tipo que se anuncia como "asistente de productividad para cualquier empresa"— para automatizar la gestión de citas. Hasta aquí, una decisión razonable: es exactamente el caso de uso administrativo que esa herramienta puede cubrir bien.
El problema aparece cuando, unos meses después, alguien del equipo médico empieza a usar esa misma herramienta genérica para "ahorrar tiempo" resumiendo las notas que toma durante la consulta, pegando fragmentos de la conversación con el paciente para obtener un resumen clínico más legible. La intención es buena —liberar tiempo administrativo del profesional sanitario— pero el riesgo que se asume es serio, y se acumula en varias capas:
- Riesgo de protección de datos. Se están introduciendo datos de salud, una categoría especial de datos según el RGPD, en una herramienta contratada para un propósito administrativo, probablemente sin un acuerdo de encargado de tratamiento que cubra ese uso específico ni garantías sobre dónde y cómo se procesan esos datos.
- Riesgo de calidad clínica. Una herramienta genérica no está entrenada ni validada para terminología médica, por lo que puede introducir errores, omisiones o "alucinaciones" en un resumen que terminará formando parte, de facto, de la documentación del paciente.
- Riesgo regulatorio. Si ese resumen influye, aunque sea mínimamente, en cómo se redacta el informe final o en qué se prioriza en la siguiente visita, la clínica está usando de facto un sistema de alto riesgo sin haber cumplido ninguna de las obligaciones que ese nivel exige.
- Riesgo de responsabilidad profesional. Ante una reclamación o una inspección, queda muy difícil de justificar que se usó una herramienta no diseñada ni contratada para tratamiento de datos clínicos en un proceso que terminó afectando a la atención de un paciente real.
El coste de este error no es solo una posible sanción. Es la combinación de exposición legal, riesgo clínico y pérdida de confianza que se podría haber evitado completamente con una decisión de compra distinta desde el principio: dos herramientas separadas, cada una evaluada y contratada para lo que realmente hace. Si te interesa profundizar en cómo proteger los datos de salud en cualquier automatización con IA en tu clínica, te recomiendo revisar también nuestra guía sobre IA aplicada a clínicas y centros de salud y, si tu clínica está en la región, el caso específico de IA para clínicas en Cantabria.
Cómo elegir bien
Antes de contratar cualquier herramienta de IA para tu clínica, responde con honestidad a estas cuatro preguntas:
¿Para qué la voy a usar exactamente, hoy y dentro de seis meses?
Define el caso de uso concreto antes de mirar funcionalidades. Si la respuesta incluye palabras como "diagnóstico", "priorizar síntomas" o "documentación clínica", estás en territorio de asistente clínico, no de chatbot administrativo.
¿Qué tipo de datos va a manejar realmente?
Si la herramienta solo ve nombre, teléfono y disponibilidad de agenda, el riesgo es contenido. Si va a procesar cualquier dato de salud identificable, necesitas garantías RGPD específicas y un proveedor preparado para ello, no una herramienta de consumo genérica.
¿Qué nivel de supervisión humana exige y cómo se va a implementar en la práctica?
No basta con que el contrato diga "supervisión humana incluida". Pregunta cómo funciona en el día a día: ¿quién revisa qué, con qué frecuencia, y qué pasa si el sistema se equivoca?
¿El proveedor puede explicarme en qué categoría de riesgo EU AI Act sitúa su propio producto?
Un proveedor serio de tecnología sanitaria debe poder responder a esta pregunta con claridad y documentación de respaldo. Si no sabe o no quiere responder, es una señal de alarma, no un detalle menor.
Distinguir estas dos categorías no es un ejercicio teórico de cumplimiento normativo. Es la diferencia entre adoptar IA en tu clínica con tranquilidad y control, o exponer a tu equipo y a tus pacientes a un riesgo que nadie había evaluado correctamente. En SANCANTIA formamos a equipos clínicos y administrativos para que sepan distinguir ambas categorías antes de adoptar cualquier herramienta de IA, no después de que algo salga mal. Si tu equipo necesita ese criterio compartido, puedes conocer cómo lo trabajamos en nuestra formación en IA para empresas.
Preguntas frecuentes sobre chatbot administrativo vs. asistente clínico con IA
1. ¿Puedo usar ChatGPT para redactar el informe de un paciente?
No es recomendable usar ChatGPT u otra herramienta genérica de consumo para redactar informes de pacientes, por dos motivos. Primero, el riesgo de protección de datos: introducir datos de salud identificables en una herramienta de IA generativa no diseñada para datos sanitarios puede vulnerar el RGPD si no existe un acuerdo de encargado de tratamiento adecuado. Segundo, el riesgo clínico: estas herramientas no están validadas como dispositivo ni auditadas para uso médico, por lo que cualquier error o alucinación en el resumen recae enteramente en quien firma el informe. Para documentación clínica conviene usar un asistente clínico diseñado específicamente para ese fin, con trazabilidad y supervisión humana incorporada.
2. ¿Es obligatorio avisar al paciente de que está hablando con un chatbot de citas?
Sí. El EU AI Act clasifica los chatbots de atención al usuario como sistemas de riesgo limitado, y la obligación de transparencia es clara: el paciente debe saber que interactúa con un sistema de inteligencia artificial y no con una persona, salvo que sea evidente por el contexto. En la práctica, basta con un mensaje breve al iniciar la conversación o un aviso visible en el widget del chat. Es una obligación sencilla de cumplir, pero se incumple con frecuencia porque se asume que es un chatbot "menor".
3. ¿Cómo sé si la herramienta que estoy mirando es de riesgo limitado o de alto riesgo según el EU AI Act?
La pregunta clave es: ¿el sistema participa, de algún modo, en una decisión diagnóstica o terapéutica sobre un paciente concreto? Si la respuesta es no —solo gestiona citas, responde preguntas frecuentes o deriva a una persona— estás ante riesgo limitado o mínimo. Si la respuesta es sí —sugiere un diagnóstico diferencial, prioriza síntomas con implicación clínica, o influye en una decisión de tratamiento sin supervisión humana efectiva— entras en el terreno de alto riesgo. En caso de duda, lo más seguro es tratar la herramienta como de mayor riesgo hasta confirmar lo contrario con asesoramiento específico.
4. ¿Un asistente que solo transcribe la consulta también es de alto riesgo?
No necesariamente. Un asistente que se limita a transcribir literalmente lo que dicen médico y paciente, sin estructurar ni interpretar el contenido clínico, tiene un perfil de riesgo más bajo que uno que genera automáticamente un resumen clínico, sugiere codificación diagnóstica o propone redacciones de historia clínica. El matiz está en si el sistema añade interpretación clínica al texto. Cuanto más se acerca la herramienta a estructurar, resumir o sugerir contenido médico sin revisión humana sistemática, más se acerca también a la zona de alto riesgo.
5. ¿Una misma clínica puede necesitar las dos herramientas a la vez?
Sí, y de hecho es lo habitual en clínicas de tamaño medio. El chatbot administrativo gestiona la relación con el paciente fuera de la consulta (citas, recordatorios, FAQs, derivación a recepción), mientras que el asistente clínico apoya al profesional sanitario dentro de la consulta (transcripción, documentación). Son sistemas con propósitos, integraciones y niveles de supervisión distintos, y deben evaluarse y contratarse como productos separados, aunque convivan en el mismo flujo de atención al paciente.
Si tu clínica todavía no ha hecho esta distinción de forma explícita, el momento de hacerlo es antes de la próxima renovación de contrato, no después de un incidente. No necesitas convertirte en experto en regulación de IA: necesitas hacer las preguntas correctas a tus proveedores actuales y futuros. En SANCANTIA podemos ayudarte a evaluar qué categoría tiene cada herramienta que ya usas o que estás valorando, y a diseñar un plan de adopción de IA adaptado a tu clínica.
