OpenAI, Anthropic y el uso del miedo para destruir a la competencia

Las noticias sobre Inteligencia Artificial gravitan solo en dos temas; (1) la IA amenaza a la humanidad y (2) China le roba a Occidente; ambos temas son presentados como amenazas existenciales por Anthropic y OpenAI que exigen regulación como única solución ¿la realidad? están usando el miedo como marketing para crear un foso defensivo y ser los dueños del mercado.

“Hay un 10% de chances que la IA aniquile la humanidad”

Si hay algo que es una caracteristica de Dario Amodei, una mezcla de ironía, soberbia y uso del miedo como herramienta de marketing; porque si te imaginas que esto empieza en 2026… lee esta lista que arme con sus declaraciones:

• Junio de 2016: ya en Google Brain, Amodei publica Concrete Problems in AI Safety, donde advirtió sobre riesgos inmediatos y prácticos de accidentes en sistemas de machine learning, como el “reward hacking” (cuando una IA encuentra atajos no previstos para alcanzar un objetivo) y la “bad exploration” (cuando una IA causa daños durante el proceso de aprendizaje), algo que puede relacionarse conceptualmente con el incidente de Hugging Face.
• 2019–2020: en OpenAI, Amodei trabajó en las llamadas “AI scaling laws”, mostrando que aumentar sistemáticamente la cantidad de datos, capacidad de cómputo y escala de los modelos produce mejoras predecibles en sus capacidades. Al mismo tiempo, empezó a preocuparse por que “el giro de OpenAI hacia una comercialización cada vez más agresiva avanzara más rápido que los protocolos de seguridad necesarios”.
• Mayo de 2023: ya en Anthropic, Amodei firmó, junto con los líderes de OpenAI y Google DeepMind, una célebre declaración de una sola frase advirtiendo que “mitigar el riesgo de extinción provocado por la IA debería ser una prioridad global”.
• Julio de 2023: Amodei declaró ante el Subcomité Judicial del Senado de Estados Unidos, donde advirtió que la IA podría ser utilizada en un futuro cercano por actores maliciosos para diseñar armas biológicas. También estimó que existía entre un 10% y un 25% de probabilidad de que la IA provocara un desenlace catastrófico.
• Fines de 2024: Amodei presentó el marco de AI Safety Levels (ASL), inspirado en los niveles de bioseguridad de los laboratorios. Advirtió que el mundo se estaba acercando rápidamente a ASL-3, un nivel en el que los modelos pueden representar riesgos graves y autónomos en materia de ciberseguridad y bioseguridad.
• Mediados de 2025: Amodei comenzó a defender la adopción de estándares obligatorios de transparencia, tanto a nivel estatal como federal, argumentando que los compromisos voluntarios de las empresas tecnológicas ya no eran suficientes para proteger al público.

¿Porque me detengo en hacer una lista de predicciones apocalípticas? porque si sos capaz de decir que el mundo se va a acabar gracias a la tecnología que estás desarrollando, no esperarías a que el gobierno te regule… deberias tomar vos la decisión de frenar hasta que tengas en su lugar los “protocolos de seguridad necesarios”

Repito: podés frenar, sos vos el que decide no hacerlo… ¿porque? porque querés sumar clientes de la forma más rápida posible.

“China destila nuestro conocimiento en escala industrial”

Si Amodei y OpenAI logran que el pánico haga que el concepto de “regular y pausar el desarrollo para que la IA no nos aniquile” se convierta en política, van a frenar la competencia en Occidente… y solo les quedarían solo los modelos Chinos compitiendo y ahi es donde aparece el reclamo de “nos estan robando IP”

Este argumento es menos defendible que el anterior; para ponerlo claro: el entrenamiento de Claude, ChatGPT y todos sus modelos se hicieron scrapeando a nivel industrial todo el conocimiento humano posible. De hecho el caso más polémico es Panamá:

• Proyecto Panamá: Anthropic descubrió que comprar millones de libros usados en formato físico, cortarles el lomo con guillotinas hidráulicas y pasar las hojas sueltas por escáneres industriales de alta velocidad era mucho más eficiente y que le evitaba lidiar con las licencias de libros digitales tradicionales… luego de escanear, se destruía todo.
• ¿Porque los destruían? porque no querían que el público supiera que estaban haciendo esto, previendo la mala recepción de PR que iban a tener… y eso esta en documentos internos de la empresa que se publicaron al momento de perder el juicio por derechos.

Pero no solo eso, sino que al momento de usar IA en entornos corporativos si no cuidas tus datos caes en el famoso costo de pagar dos veces por su uso

Satya (Nadella) bautiza el fenómeno como el “Reverse Information Paradox“: en la era de Arrow (link al PDF) pagabas para no revelar tu secreto antes de venderlo; ahora pagás el modelo dos veces; una en dinero, otra revelando el conocimiento propietario que lo hace útil. Pero cuanto mejor querés que te responda, más de tu know-how tenés que entregarle y ese conocimiento vuelve para vos pero también queda en el modelo de un tercero.

The Reverse Information Paradox

Entonces si sus modelos se construyen sobre el conocimiento de terceros que no reciben compensación a cambio ¿porque debería llamarles la atención que la competencia trate de destilar conocimiento de sus propios modelos?

Destilación: este proceso consiste en transferir conocimiento de un modelo grande y pre-entrenado (LLM) a un modelo más pequeño (SLM). Durante la destilación, el modelo pequeño aprende a imitar las respuestas del modelo grande, capturando sus capacidades principales sin toda la complejidad.

AI: de LLMs y SLMs; eficiencia y ubicuidad

¿Hay un peligro real de extinción?

Honestamente no lo sé, hay otros peligros como los de cyber, pero lo que sí podemos hacer es analizar como arrancan las campaňas de desinformación y miedo; algunas en redes como la nueva de Jacob Coxon, un militante anti-IA que logró fama con… un tweet y el apoyo de The Wall Street Journal, 3 directores de NGOs y diputados demócratas de USA

Les recomiendo leer el analisis forense de como una cuenta con UN solo tweet logró aparecer en cada medio de USA y millones de visualizaciones en este link pero les hago una super condensacion:

• Antes del post: The Wall Street Journal publica una exclusiva sobre la renuncia de Coxon 18 minutos antes de que él publique su mensaje, lo que sugiere coordinación previa.
• Primeros 15 minutos: las primeras tres cuentas que amplifican el post pertenecen a organizaciones de policy sobre riesgos de IA (Encode AI, AI Policy Network y AI Futures Project) vinculadas financieramente al mismo ecosistema filantrópico, incluido Jaan Tallinn, inversor y director de Anthropic.
• En pocas horas: una cuenta con casi ninguna actividad previa supera los 100.000 seguidores y decenas de miles de reposts.
• Otra conexión: Coxon había recibido financiación de Good Ventures, vinculada a Dustin Moskovitz; menos de 30 minutos después también amplifica el post un responsable de AI Safety de Coefficient Giving, otra organización financiada por Moskovitz.
• Salto político: rápidamente el mensaje es recogido por figuras demócratas, justo cuando Bernie Sanders prepara legislación para restringir el desarrollo de “superinteligencia” y crear una nueva agencia federal de IA.

Vuelvo al punto de siempre; el miedo es irracional, si lográs que el miedo sea parte de una narrativa, el publico va a enrtegar su pensamiento crítico pidiendo que alguien lo salve del peligro… si uno mira el historial de Amodei, OpenAI y ahora Coxon va a ver un hilo que parece mas un ataque de desinformacion en pinza que otra cosa.