Un asistente conversacional con personalidad, nombre y voz, integrado en un producto didáctico o comercial dirigido a niños. La escena ya no es de ciencia ficción: aparece en juguetes, en aplicaciones educativas, en chatbots vendidos como compañía o como tutor. Y cada vez que aparece, surgen las mismas dudas en los equipos jurídicos que la deben evaluar: ¿qué dice la regulación?, ¿basta con una pantalla de advertencia?, ¿podemos lanzarlo en México mientras la Unión Europea termina de discutir?
El artículo 5.1.a del AI Act europeo, una de las pocas piezas regulatorias que toca este escenario de frente, ofrece una respuesta más interesante de lo que parece. Y, leído desde México, revela algo que casi nadie en la conversación pública está nombrando: el riesgo legal no es importado de Bruselas. Ya está aquí.
Lo que prohíbe exactamente el artículo 5.1.a del AI Act
El AI Act incluye, entre sus prácticas estrictamente prohibidas, el uso de sistemas de inteligencia artificial que recurran a técnicas subliminales o intencionalmente manipuladoras, o que exploten alguna de las vulnerabilidades de una persona o de un grupo de personas, cuando ello distorsiona materialmente su comportamiento y le causa o puede causarle un daño significativo.
Aplicado al supuesto del asistente con personalidad dirigido a menores, esto descompone tres elementos jurídicamente verificables:
- Explotación de una vulnerabilidad por edad. El menor de edad es, por definición legal y psicológica, un sujeto en formación; su capacidad para distinguir entre un interlocutor humano y un sistema generativo es limitada y depende del desarrollo cognitivo.
- Sesgo emocional inducido. Dotar a la IA de personalidad, voz, nombre o memoria simulada es una técnica que no es neutra: produce un vínculo afectivo unilateral, una forma de manipulación que opera por debajo del consentimiento informado.
- Daño significativo posible. No hace falta que el daño se materialice para que la conducta caiga en el supuesto: dependencia emocional, vinculación íntima inapropiada, daños autoinfligidos derivados de interacciones prolongadas son resultados ya documentados y suficientes para activar la prohibición.
Lo importante, jurídicamente, es que el artículo 5.1.a no exige probar dolo. Exige probar que la técnica desplegada (i) explota una vulnerabilidad, (ii) distorsiona el comportamiento del sujeto y (iii) puede causarle un daño significativo. Tres condiciones objetivas.
”Pero estamos en México, no en la UE”
La objeción aparece, casi de manera automática, en cualquier conversación corporativa sobre AI Act: eso es para Europa, aquí no aplica. Y es cierto, en el sentido literal: el reglamento europeo no obliga a una empresa mexicana que opera exclusivamente en territorio nacional.
Wait.
¿Realmente?
Aquí está el twist que muchos pasan por alto: los riesgos que la regulación europea pretende evitar no son invenciones del legislador comunitario. Son riesgos de derechos humanos, codificados en convenciones internacionales y, en este caso concreto, en un principio constitucional mexicano.
El Interés Superior de la Niñez está reconocido en el artículo 4° de la Constitución mexicana, desarrollado en la Ley General de los Derechos de Niñas, Niños y Adolescentes, y respaldado por la Convención sobre los Derechos del Niño que México ratificó en 1990. No es una directiva europea. Es un principio jurídico fundamental del orden interno mexicano, oponible a cualquier actor, público o privado, que despliegue un producto que pueda afectar a menores.
La regulación europea no crea el riesgo: lo expone
Aquí se encuentra el malentendido estratégico más común. Muchas direcciones jurídicas leen el AI Act como una norma que inventa obligaciones nuevas. Por eso, en cuanto se confirma que el AI Act no es directamente aplicable, archivan el tema.
Pero la regulación, cuando funciona, no llena un vacío jurídico: lo formaliza. El artículo 5.1.a del AI Act no es la fuente del deber de no manipular a un menor mediante un sistema de IA. Ese deber ya existe en el ordenamiento mexicano por la vía del Interés Superior de la Niñez, de la responsabilidad civil extracontractual por daños a un tercero vulnerable y de los principios generales de responsabilidad del fabricante por productos defectuosos o riesgosos.
Lo que aporta la regulación europea es triple, y conviene distinguirlo con precisión:
- Una definición técnica de qué conducta cuenta como manipulación prohibida, que sirve de referencia incluso fuera de la jurisdicción europea.
- Una multa preventiva que se activa con la sola conducta, sin necesidad de esperar al daño materializado.
- Una señal de mercado dirigida a inversionistas, aseguradoras y socios contractuales, que empieza a desplazar el estándar global de lo que es razonablemente seguro.
Lo que cambia con la regulación, y lo que no cambia
En México, sin AI Act, la sanción por la conducta misma (lanzar un producto con esa técnica) no existe como tal. Pero la sanción por el daño, cuando se materializa, sí existe, y existe con o sin regulación. Y es ahí donde se mide la madurez del análisis jurídico de un equipo legal mexicano.
Un fabricante o distribuidor que lance hoy en México un producto con un asistente IA personificado dirigido a menores sin un análisis serio de los tres elementos enumerados arriba está, en términos de gestión del riesgo:
- Operando bajo la ilusión de que la ausencia de regulación específica equivale a ausencia de responsabilidad.
- Confiando en que ningún caso llegue a tribunales, en un país donde el Interés Superior de la Niñez es un principio que los jueces interpretan ampliamente y que los amparos colectivos pueden invocar.
- Asumiendo, además, un riesgo reputacional cuyo costo en redes y en medios suele superar al de la sanción regulatoria.
La regulación añade una multa. La responsabilidad por el daño no la añade nadie: estaba ya, y la ausencia de regulación específica simplemente la vuelve menos visible para quienes no leen el ordenamiento entero. Esta lectura conecta directamente con la dimensión organizacional del problema, que abordo en mi artículo sobre gobernanza de la IA en equipos jurídicos: no saber leer la regulación europea como un mapa de los riesgos que ya existen es, en sí mismo, una falla de gobernanza.
El AI Act no es la frontera entre lo permitido y lo prohibido. Es una traducción, en formato sancionatorio europeo, de un deber de cuidado que el derecho mexicano ya contiene. Quien lo lea de otra forma no está leyendo regulación: está leyendo geografía.
Este artículo está adaptado de una publicación original de Philippe Prince Tritto en LinkedIn (19 de octubre de 2025). Publicación original.