Anthropic decidió incorporar watermarks en el texto generado por Claude para, dicen ellos, cumplir con los requisitos del EU AI Act aunque lo hagan globalmente; aunque a discusión más visible se concentró en si esto “adultera” la escritura. Creo que, desde el punto de vista enterprise, hay cuatro problemas bastante más importantes.
Primero, para entender que es el watermarkm un dato fundamental: el watermark no es metadata, Anthropic utiliza una variante de SynthID-Text que modifica el proceso de sampling (recuerden que un LLM es un modelo estadistico que predice y usa el token que deberia seguir a otro): cuando existen varios tokens plausibles altera sus probabilidades para introducir una señal estadística detectable, y Anthropic sostiene que sus pruebas no encuentran un impacto significativo sobre la calidad. Pero ese NO es necesariamente el punto.
1. El modelo ahora optimiza para algo que el cliente no pidió
Conceptualmente, el objetivo era: maximize P(output | prompt, context, instructions, constraints)
Ahora aparece una segunda condición: maximize P + satisfy watermark detectability
Aunque las diferencias sean imperceptibles para un usuario promedio, Anthropic está modificando deliberadamente la distribución del output por una razón que no tiene relación con la tarea del cliente.
Para una empresa que invirtió en prompts, evals, A/B testing y calibración de sus sistemas, la pregunta relevante no es “¿un humano nota la diferencia?”, sino: ¿Cambió el comportamiento de mi sistema de producción por una razón ajena a mis objetivos?
Y la respuesta es sí. Aunque una diferencia sea estadísticamente insignificante en satisfacción, puede ser material cuando se generan millones de documentos, respuestas o decisiones.
2. El output deja de pertenecer completamente al cliente
Una empresa que consume un modelo vía API espera que las transformaciones del output respondan a sus instrucciones, sus políticas de seguridad y las características documentadas del modelo.
Con el watermark sumás otra cosa: Anthropic incorpora deliberadamente una señal propia dentro del artefacto generado para el cliente, y entonces el output/resultados pasa a tener dos propósitos:
A. resolver la tarea del cliente.
B. transportar una señal que permita identificar la participación de Claude.
El problema no es que el watermark identifique a la empresa (Anthropic dice que no lo hace) sino el precedente: el proveedor utiliza el output del cliente como vehículo para información secundaria destinada a SUS objetivos y no los tuyos.
Hoy es provenance pero el principio arquitectónico es bastante más amplio.
3. El watermark demuestra intervención, no autoría
Este es el problema más paradójico; Anthropic reconoce que detectar el watermark no significa que Claude haya escrito originalmente el texto; puede haberlo traducido, corregido o simplemente editado.
Imaginemos: Humano escribe → Claude corrige estilo → abogado revisa → humano modifica → documento final
El detector puede reducir toda esa cadena a: Claude detected: YES
La afirmación técnicamente correcta sería “Claude probablemente intervino en algún momento” pero la interpretación social será fácilmente: “esto fue escrito por AI”.
Y eso sólo puede ser suficientemente fuerte para generar una acusación y, al mismo tiempo, insuficientemente preciso para demostrar provenance. Para periodismo, academia, consultoria, legal, government o executive comms, esa ambigüedad tiene consecuencias de governance reales y reputacionales desastrosas.
4. Anthropic globaliza el costo de una regulación regional
Nos dicen que el watermark es para cumplir con el EU AI Act, pero lo aplica globalmente (incluyendo API y cloud providers) porque todavía no dispone de una forma “durable” de limitarlo geográficamente.
Eso significa que una empresa argentina que utiliza Claude para un producto latinoamericano recibe outputs modificados para satisfacer una obligación regulatoria europea.
¿Por qué debería cambiar el comportamiento de mi modelo en Buenos Aires, São Paulo o New York porque mi proveedor tiene una obligación regulatoria en Bruselas?
Especialmente cuando hablamos de un proveedor capaz de ofrecer controles enterprise específicos de región, seguridad, retention y compliance.
Por eso creo que el quedarse pensando si el watermark empeora ligeramente la prosa se queda corto.
El problema no es necesariamente que Anthropic esté eligiendo una palabra peor. Es que está eligiendo una palabra por una razón que no tiene absolutamente nada que ver con lo que el cliente le pidió que hiciera.
Deja un comentario