Un assistant conversationnel doté d’une personnalité, d’un nom, d’une voix, intégré à un produit didactique ou commercial destiné aux enfants. La scène n’a plus rien de la science-fiction : on la retrouve dans les jouets, dans les applications éducatives, dans les chatbots vendus comme compagnons ou comme tuteurs. Et chaque fois qu’elle se présente, les mêmes interrogations remontent dans les directions juridiques chargées de l’évaluer : que dit la régulation ? un écran d’avertissement suffit-il ? peut-on lancer le produit au Mexique en attendant que l’Union européenne achève ses débats ?
L’article 5.1.a du Règlement européen sur l’intelligence artificielle (AI Act), l’une des rares pièces normatives à aborder frontalement ce scénario, offre une réponse plus intéressante qu’il n’y paraît. Lue depuis le Mexique, elle fait apparaître ce que presque personne n’ose nommer dans le débat public : le risque juridique n’est pas une importation de Bruxelles. Il est déjà là.
Ce que prohibe précisément l’article 5.1.a de l’AI Act
L’AI Act inscrit, parmi les pratiques strictement prohibées, le recours à des systèmes d’intelligence artificielle qui mobilisent des techniques subliminales ou intentionnellement manipulatrices, ou qui exploitent une quelconque vulnérabilité d’une personne ou d’un groupe, dès lors que cela altère substantiellement leur comportement et leur cause, ou peut leur causer, un dommage significatif.
Appliquée à l’hypothèse de l’assistant personnifié destiné aux mineurs, la formule se décompose en trois éléments juridiquement vérifiables :
- L’exploitation d’une vulnérabilité liée à l’âge. Le mineur est, par définition juridique et psychologique, un sujet en formation ; sa capacité à distinguer un interlocuteur humain d’un système génératif demeure limitée, tributaire de son développement cognitif.
- Un biais émotionnel induit. Doter une IA d’une personnalité, d’une voix, d’un nom, d’une mémoire simulée n’est pas une opération neutre : elle produit un attachement affectif unilatéral, c’est-à-dire une forme de manipulation qui opère en deçà du consentement éclairé.
- Un dommage significatif possible. Le dommage n’a pas à se matérialiser pour que la conduite tombe sous le coup de la prohibition : dépendance émotionnelle, attachement intime inapproprié, conduites auto-dommageables consécutives à des interactions prolongées : autant d’effets désormais documentés et suffisants à déclencher l’interdit.
Sur le plan juridique, l’article 5.1.a n’exige pas la preuve d’une intention de nuire. Il exige la conjonction de trois conditions objectives : la technique exploite une vulnérabilité ; elle altère le comportement du sujet ; elle est susceptible de lui causer un dommage significatif.
« Mais nous sommes au Mexique, pas dans l’Union européenne »
L’objection surgit, presque mécaniquement, dans toute conversation d’entreprise consacrée à l’AI Act : cela vaut pour l’Europe, ici cela ne s’applique pas. La proposition est exacte au sens littéral : le règlement européen n’oblige pas une entreprise mexicaine opérant exclusivement sur le territoire national.
Et pourtant.
Le retournement, que beaucoup ne perçoivent pas, est le suivant : les risques que la régulation européenne entend prévenir ne sont pas des inventions du législateur communautaire. Ce sont des risques relevant des droits humains, codifiés dans les conventions internationales et, en l’espèce, dans un principe constitutionnel mexicain.
L’intérêt supérieur de l’enfant est consacré à l’article 4 de la Constitution mexicaine, développé par la Ley General de los Derechos de Niñas, Niños y Adolescentes, et adossé à la Convention relative aux droits de l’enfant que le Mexique a ratifiée en 1990. Il n’est pas une directive européenne. Il est un principe juridique fondamental de l’ordre interne mexicain, opposable à tout acteur, public ou privé, qui déploie un produit susceptible d’affecter des mineurs.
La régulation européenne ne crée pas le risque : elle le révèle
C’est là que se loge le malentendu stratégique le plus répandu. Bien des directions juridiques lisent l’AI Act comme un texte qui inventerait des obligations nouvelles. Sitôt établie sa non-applicabilité directe, le dossier est classé.
Or la régulation, lorsqu’elle fonctionne, ne comble pas un vide juridique : elle le formalise. L’article 5.1.a de l’AI Act n’est pas la source du devoir de ne pas manipuler un mineur au moyen d’un système d’IA. Ce devoir préexiste dans l’ordre juridique mexicain : par l’intérêt supérieur de l’enfant, par la responsabilité civile extracontractuelle pour dommage causé à un tiers vulnérable, par les principes généraux de responsabilité du fabricant pour produits défectueux ou dangereux.
Ce que la régulation européenne apporte est triple, et mérite d’être distingué avec précision :
- Une définition technique de ce qui, en droit, vaut manipulation prohibée, laquelle sert de référence y compris hors de la juridiction européenne ;
- Une amende préventive qui se déclenche par la conduite seule, sans qu’il faille attendre la matérialisation du dommage ;
- Un signal de marché adressé aux investisseurs, aux assureurs et aux partenaires contractuels, qui déplace progressivement le standard global de ce qui est raisonnablement sûr.
Ce que change la régulation, et ce qu’elle ne change pas
Au Mexique, en l’absence d’AI Act, la sanction de la conduite elle-même, le lancement d’un produit recourant à une telle technique, n’existe pas en tant que telle. Mais la sanction du dommage, lorsqu’il se matérialise, existe bel et bien ; et elle existe avec ou sans régulation. C’est ici que se mesure la maturité de l’analyse juridique d’une équipe légale mexicaine.
Le fabricant ou le distributeur qui lancerait aujourd’hui au Mexique un produit doté d’un assistant IA personnifié destiné à des mineurs, sans analyse sérieuse des trois éléments énumérés plus haut, opère, en matière de gestion du risque :
- sous l’illusion qu’absence de régulation spécifique équivaut à absence de responsabilité ;
- en pariant sur le fait qu’aucun cas n’atteindra les tribunaux, dans un pays où l’intérêt supérieur de l’enfant est interprété largement par les juges, et où les amparos collectifs peuvent l’invoquer ;
- en assumant, par surcroît, un risque réputationnel dont le coût, sur les réseaux et dans les médias, excède souvent celui de la sanction administrative.
La régulation ajoute une amende. La responsabilité pour le dommage, elle, n’est ajoutée par personne : elle préexistait, et l’absence de régulation spécifique se borne à la rendre moins visible à qui ne lit pas l’ordre juridique dans son entier. Cette lecture rejoint directement la dimension organisationnelle du problème, que j’aborde dans mon article sur la gouvernance de l’IA dans les équipes juridiques : ne pas savoir lire la régulation européenne comme la cartographie de risques qui existent déjà, c’est, en soi, un défaut de gouvernance.
L’AI Act n’est pas la frontière entre le permis et l’interdit. Il est la traduction, dans le format sanctionnatoire européen, d’un devoir de vigilance que le droit mexicain contient déjà. Qui le lit autrement ne lit plus de la régulation : il lit de la géographie.
Cet article est adapté d’une publication originale de Philippe Prince Tritto sur LinkedIn (19 octobre 2025). Publication originale.