¿Mi chatbot es de alto riesgo?

Respuesta corta: casi con total seguridad no es de alto riesgo - pero tienes obligaciones exigibles ahora mismo, que no es la respuesta que espera la mayoría de quienes construyen chatbots ni la que les contaron en junio.

La confusión se entiende. "Alto riesgo" suena a descripción de cuánto daño podría hacer algo, así que un chatbot con acceso a datos de clientes parece que debería entrar. No es ese tipo de término. El alto riesgo es una clasificación definida con una lista concreta asociada, y la mayoría de los chatbots queda fuera de ella mientras aterriza de lleno dentro de otro conjunto de deberes del que nadie informó.

Cuándo un chatbot sí es de alto riesgo

Tu chatbot es de alto riesgo solo si entra en el anexo III. Para los sistemas conversacionales, de forma realista eso significa uno de estos casos:

Fíjate en lo que comparten. Cada uno toma o influye materialmente en una decisión sobre una persona concreta que afecta a su acceso al trabajo, al dinero, a la educación, a la libertad o a la residencia. Ese es el criterio real escondido detrás de la lista.

Un chatbot de soporte que responde preguntas sobre tu producto no hace nada de eso. Un chatbot de ventas que cualifica leads tampoco - cualificar una empresa no es decidir sobre una persona. Un chatbot interno que busca en tu documentación tampoco.

E incluso entonces, comprueba el artículo 6(3)

Estar dentro de un ámbito del anexo III no convierte automáticamente un sistema en alto riesgo. El artículo 6(3) prevé una exención cuando el sistema realiza una tarea procedimental estrecha, mejora el resultado de una actividad humana previamente realizada, detecta patrones de decisión sin sustituir la valoración humana o hace trabajo preparatorio - y no elabora perfiles de personas físicas.

En los chatbots, la condición de la elaboración de perfiles suele ser la que lo decide, y es absoluta. Un chatbot que recoge información estructurada de los candidatos y se la pasa sin cambios a un reclutador puede estar haciendo trabajo preparatorio. Uno que infiere algo sobre la persona - idoneidad, sentimiento, rendimiento probable - está elaborando perfiles, y la exención se cierra. La prueba completa del 6(3).

Lo que casi seguro eres: riesgo limitado

La mayoría de los chatbots aterriza en riesgo limitado, donde toda la obligación es la transparencia del artículo 50 - y esta es la parte que importa, porque es exigible desde el 2 de agosto de 2026.

50(1) - di a las personas que están hablando con una IA

Los sistemas destinados a interactuar directamente con personas físicas deben diseñarse de modo que esas personas queden informadas de que están interactuando con un sistema de IA, salvo que resulte evidente para una persona razonablemente informada en esas circunstancias.

Tres cosas que la gente hace mal:

• "Evidente" no es una apuesta segura. Los asistentes modernos son convincentes, reciben nombres humanos y abren con saludos que suenan humanos. Si al tuyo le pusiste un nombre de pila y una foto, has trabajado activamente en contra de esa evidencia.
• La política de privacidad no cuenta. La divulgación tiene que llegar a la persona en la interacción o antes, no quedarse en un documento que nunca va a abrir.
• Tiene que sobrevivir al traspaso. Si tu bot escala a una persona, o una persona toma el relevo en silencio, el usuario debería poder distinguir con cuál está hablando.

50(2) y 50(4) - contenido sintético

Si tu producto genera contenido, se aplican dos disposiciones más, y merece la pena ser preciso sobre quién debe qué:

• 50(2) obliga a los proveedores de sistemas generativos a marcar la salida sintética como generada artificialmente en un formato legible por máquina. Este deber recae en el proveedor del sistema generativo. Si llamas al modelo de otro por API, es suyo, no tuyo.
• 50(4) cubre a los responsables del despliegue. Las ultrafalsificaciones - imagen, audio o vídeo que se asemejan a personas, lugares o hechos reales - deben divulgarse. El texto generado por IA que se publica para informar al público sobre asuntos de interés público también debe divulgarse, salvo que haya sido sometido a revisión humana y una persona física o jurídica asuma la responsabilidad editorial de su publicación.

Esa exención es la práctica para la mayoría de las empresas. Si una persona lee lo que publicas antes de que salga y asume la responsabilidad, el deber de divulgación no se activa. Publica texto generado sin revisar y sí se activa.

Artículo 4 - alfabetización en materia de IA, que aplica a todo el mundo

Los proveedores y los responsables del despliegue deben garantizar un nivel suficiente de alfabetización en materia de IA entre el personal que trata con el sistema, teniendo en cuenta sus conocimientos técnicos y el contexto de uso. Exigible desde el 2 de agosto de 2026.

Para un equipo pequeño esto es de verdad media jornada: qué hace el sistema, dónde falla, cómo reconocer un mal resultado, a quién escalar. Levanta acta y guarda la lista de asistencia. El registro es el cumplimiento - no hay nada que presentar ni nadie a quien notificar, pero si te lo piden, "hicimos esto en esta fecha y estos son los asistentes" es la respuesta entera.

¿Y los datos que ve el chatbot?

Un lío habitual. Si tu chatbot trata datos personales, eso es el RGPD, no el Reglamento de IA. Los dos se solapan, pero hacen preguntas distintas: el RGPD pregunta si puedes tratar esos datos y sobre qué base; el Reglamento de IA pregunta qué tipo de sistema es este y qué deberes lleva asociados.

Responder a una no responde a la otra. "Cumplimos el RGPD, así que estamos bien" es de las ideas equivocadas más frecuentes en este terreno, y falla en las dos direcciones - un análisis de base jurídica no dice nada sobre el artículo 50, y una clasificación conforme al Reglamento de IA no dice nada sobre tu base jurídica.

Cinco minutos y sabrás dónde estás

1. ¿Tu chatbot toma o influye materialmente en una decisión sobre una persona concreta en materia de empleo, educación, crédito, servicios esenciales, aplicación de la ley, migración o justicia? No → no es de alto riesgo.
2. Si sí, ¿elabora perfiles de individuos? No, y su tarea es estrecha o preparatoria → posiblemente exento conforme al 6(3), pero documéntalo.
3. ¿Se le dice al usuario que es una IA, en el primer contacto y de forma visible? No → arréglalo esta semana. Obligación vigente.
4. ¿Genera contenido que publicas sin revisar? Sí → etiquétalo, o introduce revisión y asume la responsabilidad editorial.
5. ¿Has hecho una sesión de alfabetización en materia de IA y la has registrado? No → media jornada, levanta acta.

La mayoría de las empresas que recorre esa lista descubre que es de riesgo limitado con una carencia real: la divulgación. Lleva una tarde, es exigible desde agosto y es lo más común que queda sin hacer.