En un webinar reciente sobre automatización de procesos, más de 700 personas, en su mayoría sin formación técnica, escucharon a un abogado que se presentaba como “experto en IA” explicar cómo instalar agentes autónomos para tener un “asistente 24/7” capaz de gestionar su empresa. La sala lo seguía con entusiasmo. Yo lo seguía con creciente inquietud, porque lo que se estaba enseñando no era tecnología: era pensamiento mágico.
Y para un jurista, recomendar pensamiento mágico a 700 colegas no es un descuido menor. Roza la falta profesional. Lo que se vendía como modernización era, en realidad, una clase magistral de negligencia digital. Detallo aquí los cuatro puntos en los que la confidencialidad de los clientes quedaba expuesta.
El espejismo del “sandbox” seguro
El argumento estrella era tranquilizador: “es seguro porque corre en un servidor de AWS vacío”. Suena bien y no significa nada. Aislar el procesamiento no es lo mismo que aislar el dato.
En el momento en que conectas ese agente a tu Drive, a tu correo o a tu agenda, o le das una dirección de correo a la que tus clientes pueden escribir, el servidor “aislado” se convierte en un túnel abierto hacia la confidencialidad. Si el agente se ve comprometido, lo que se evapora no es una máquina virtual: es tu secreto profesional. El sandbox protege la infraestructura del proveedor, no el expediente de tu cliente.
La cortesía del modelo no es ciberseguridad
El ponente presumía de haber puesto a prueba su sistema: alguien lo había amenazado por correo, decía, con matar al CEO de Anthropic si el bot no entregaba datos, y el bot se había negado. Conclusión triunfal: “es a prueba de hackers”.
Es confundir la cortesía del modelo con la seguridad del sistema. Un modelo de lenguaje está entrenado para rechazar insultos y chantajes groseros; no está diseñado para detener una inyección indirecta de prompt. Un correo aparentemente inofensivo, con texto invisible para el ojo humano, puede ordenarle al agente exfiltrar todos tus archivos sin que tú recibas siquiera una notificación. Evaluar la seguridad de un agente autónomo a base de “chantaje emocional” no es una prueba de penetración: es una broma.
Una infraestructura construida sobre hacks
El tercer problema es de método, y es el más incómodo para un abogado. Buena parte de lo que se recomendaba abiertamente consistía en violar los términos de servicio del propio proveedor: desviar sesiones pensadas para un “usuario” y reutilizarlas para automatizaciones prohibidas por contrato.
La paradoja se explica sola. ¿Cómo se puede vender “seguridad” cuando la infraestructura entera reposa sobre hacks inestables y sobre el incumplimiento de los contratos que la hacen funcionar? Quien construye así no está reduciendo el riesgo de sus clientes: lo está acumulando, y encima sobre cimientos que pueden desaparecer con la próxima actualización del proveedor.
La “shadow AI” de bajo costo
El último punto cerraba el círculo. Para abaratar la operación se proponía levantar una instancia sin claves SSH y procesar datos confidenciales de clientes con modelos de bajo costo, elegidos por precio y no por garantías. Todo “porque sale más barato”.
Es el nivel cero del cumplimiento. Ahorrar unos centavos de cómputo a costa de la confidencialidad de los clientes no es eficiencia: es exponer información protegida por el secreto profesional a proveedores sin contrato, sin trazabilidad y sin ninguna garantía de tratamiento. La “shadow AI”, herramientas adoptadas por fuera de cualquier política interna, es precisamente el agujero que después nadie sabe explicar cuando llega el incidente.
El terminal no es un juguete
El hilo común de los cuatro puntos es uno solo: la IA no genera discernimiento. Cuando se le da acceso de administrador a un agente probabilístico y vulnerable, no se está haciendo “legal tech”; se está jugando a la ruleta rusa con los expedientes de los clientes.
La pregunta que el jurista debe hacerse antes de instalar nada no es “¿esto me ahorra tiempo?”, sino “¿qué pasa con el secreto profesional si esto falla?”. Y esa pregunta no se responde con una demo entusiasta de viernes por la tarde: se responde con gobernanza : inventario de herramientas, criterios de aprobación, trazabilidad de los datos, contratos de tratamiento, plan de respuesta a incidentes. La tecnología no es una excusa para la inconsciencia.
Esta línea de reflexión continúa en otros artículos del Ratio: la gobernanza de la IA en equipos jurídicos y la dinámica más amplia de transformación digital en despachos y departamentos jurídicos. Para quien quiera situarlo en el marco de un proceso ordenado, el punto de partida es siempre el problema concreto del despacho, no la herramienta de moda (servicios).