El debate de frenar y regular el desarrollo de la IA es tan fuerte, y tan ridículo, que creo que la mejor forma de analizarlo es hacerse 3 preguntas: la primera es ¿quien gana con frenar/pausar el desarrollo de la IA? la segunda es ¿porque el gobierno de USA debería elegir a los “elegidos”? y finalmente ¿no hay ya herramientas para esto?
¿Porque pausar/frenar el desarrollo de modelos ahora mismo?
Long story short: por el IPO de Anthropic que, en reuniones con analistas y con los auditores financieros pre-IPO es Anthropic diciendo que sus margenes son del 80% pero eso sin incluir ni revenues compartidas con hyperscalers ni el costo de entrenar los modelos… si se frena el desarrollo de la IA y no hay que lanzar modelos cada mes, ese costo de entrenamiento cae, asi de simple.
Pero vamos un poco mas a fondo… el lanzamiento de modelos pasó de años a meses, aca esta el calendario oficial de OpenAI, y eso hace que la competencia sea brutal, de hecho Astra (lo nuevo de OpenAI) esta destrozando a Fable (lo nuevo de Anthropic) a nivel uso sin importar el proxy que uses:
El gráfico de la derecha muestra el consumo de modelos pagando con tarjetas de credito via Ramp, con su AI Index, que mide el usuario “final”; el cuadro de la derecha es OpenRouter midiendo el uso de Tokens como share of wallet en modelos que un proxy para medir al usuario “avanzado/developer”
Lo que implica que Anthropic debería lanzar un modelo para volver a tomar el liderazgo pero este nivel de lanzamientos es insostenible a nivel financiero… la infraestructura necesaria para entrenar a la velocidad que se necesita no la tienen disponible.
¿Porque debe el gobierno decidir quien gana?
Si el Gobierno de USA decide ahora que hay que regular el mercado de modelos de frontera y pausar su desarrollo, los que ganan son los que hoy lideran, en definitiva, lo mismo que hicieron los magnates del acero en USA en la era dorada y las farmaceuticas con la FDA…
- La FDA: Laboratorios como Squibb (hoy Bristol Myers Squibb) presionaron fuertemente al Congreso para que aprobara la Pure Food and Drug Act de 1906 porque necesitaban que el gobierno limpiara el mercado de estafadores para recuperar la confianza del consumidor.
La realidad: sabían que los estándares científicos exigidos por la nueva ley eran tan costosos que las pequeñas farmaceuticas locales no podrían cumplirlos, dejándoles el mercado libre. - US Steel y Carnegie: En 1909, Andrew Carnegie escribió una carta abierta al New York Times a favor del “control gubernamental” de la industria del acero, y en 1911 U.S. Steel, (fundada por J.P. Morgan) repitió el pedido ante el Congreso exigiendo regulaciones estatales, incluso para fijar los precios.
La realidad: U.S. Steel era tan gigantesca que prefería que el gobierno fijara precios estables y predecibles en lugar de desangrarse en una guerra de precios con competidores más pequeños y ágiles.
Fijense como con “pedido de regulacion para salvarnos!” pedida por los lideres de la industria, lo que se lograba era parar el desarrollo de mercados o simplemente matar a los nuevos jugadores.. de hecho Mark Zuckerberg lo dice hoy en una carta de forma clara:
«Si bien existen riesgos asociados a la publicación de modelos avanzados, desde esta perspectiva el escenario más peligroso sería que los principales laboratorios de IA entrenaran modelos muy potentes y se los reservaran para sí mismos. Por mucho que un laboratorio justifique esta práctica en términos de responsabilidad y seguridad, este es el camino hacia el desarrollo de una superinteligencia única que no podría ser controlada por otros sistemas.»
Mark Zuckerberg – The Future is for Everyone
No se puede, ni se debe, permitir que exista un ganador en una carrera como esta; y la realidad es que cada laboratorio tiene la RESPONSABILIDAD de entrenar los modelos de forma segura y efectiva; si no lo hacen deberian ser responsables de sus acciones en vez de pedir que los cuide un mayor porque “no puedo contenerme”
Voy a repetir algo que parezco repetir una vez por año; los modelos no alucinan ni razonan, solo tienen objetivos y cuando usamos esas palabras los antropormizamos y le atribuimos responsabilidad que no es de ellos sino del creador que usa la herramienta.
Las herramientas para frenar el peligro existen
Como dice Lina Khan, una reguladora tan extrema que destrozó algunas de las fusiones mas lógicas que se hubiesen dado en el mundo de la tecnologia, los que lanzan productos peligrosos son los CEOs y sus empresas y ya hay herramientas para evitarlo:
«Las autoridades encargadas de hacer cumplir la ley ya tienen facultades para imputar a las empresas y a sus CEOs por crear y lanzar productos peligrosos, que no hayan sido debidamente evaluados o que sean defectuosos. No deberíamos permitir que el debate sobre nuevos marcos legales nos distraiga del hecho de que la IA no está exenta de las leyes que ya están vigentes, un punto que la FTC enfatizó reiteradamente durante mi gestión.»
a) Responsabilidad por productos peligrosos: lanzar IA sin pruebas ni controles adecuados puede violar leyes de protección al consumidor y, en ciertos casos, generar responsabilidad penal.
b) Competencia desleal: usar información sensible de clientes o asumir riesgos que presionen a los competidores a hacer lo mismo puede infringir las normas existentes.
c) Ciberseguridad: las empresas deben proteger sus sistemas y corregir vulnerabilidades; incumplir esas obligaciones puede generar responsabilidad para ellas y sus directivos.
Y aca es donde llegamos al punto de los “remedios/herramientas” que Dario Amodei no esta entendiendo y que los investigadores que renuncian en medios que amplifican el peligro de la IA porque vende, las herramientas existen pero van a destrozar sus negocios.
El punto extremo es el que Alex Karp mencionó hace unos meses en la cumbre de Andreessen Horowitz: “If Silicon Valley believes we’re going to take everyone’s white-collar jobs AND screw the military… If you don’t think that’s going to lead to the nationalization of our technology—you’re retarded.“ y aunque no lo crean esto ya pasó en 1917 con los ferrocarriles y en 2001 con la TSA que fue la nacionalización del sector de seguridad en fronteras.
O, sin in tan lejos, leyeno el tweet de Lina Khan que menciono mas arriba ella dice: “Nuevas reglas: conviene aprender de sectores como la banca y los servicios públicos, considerando separación de actividades, no discriminación y supervisión, mientras se aplican las leyes actuales.” y eso es la aplicación de las leyes antitrust, con ejemplos como Standard Oil, AT&T o incluso cuando trataron de separar a Microsoft en 1993 que llevó a que hoy MSFT tenga miedo de todo.
Entonces, herramientas para frenar una empresa (Standard Oil) o una tecnologia (FDA) que se vuelve poderosa ya existen; herramientas para frenar empresarios que liberan productos peligrosos existen y hasta para frenar y cambiar sectores enteros (TSA) y volvemos a lo del inicio:
¿quien tiene algo para ganar si se frena el desarrollo de IA? Los laboratorios de modelos de frontera que no pueden sostener el nivel de inversión necesaria para competir sin un modelo de negocios sostenible en el tiempo.
Deja un comentario