En estas últimas dos semanas una ola de pánico al avance de la IA inundó las redes y los medios. No de los comunes mortales, sino de quienes están trabajando en estos desarrollos. Ese pequeño detalle todo lo cambia.
Luego del ataque de “un enjambre de agentes fanáticos devotos” a Hugging Face por parte de OpenAI (así describió al ataque el CEO de Anthropic), de que se descubriera que esta no era la primera vez que algo así ocurría (ya habían atacado a otra empresa en mayo y no trascendió), de que OpenAI anunciara que un modelo propio pudo resolver uno de los siete problemas matemáticos del milenio, de que renunciara Jacob Coxon, ingeniero de Anthropic, advirtiendo que las empresas de IA están “yendo a toda velocidad hacia una superinteligencia que se mejora a sí misma y jugando con nuestras vidas”, de que también Anthropic publicara un informe en donde afirma que intervino en una investigación llevada a cabo con sus productos, por temor a que los usuarios estuvieran intentando desarrollar armas biológicas, y de que Evan Hubinger, nada menos que el Alignment Science Lead de esa misma empresa twittease, muy suelto de cuerpo: “honestamente creemos que la IA podría matar a todos los humanos!, agregando -como para que no queden dudas- que esa probabilidad es mayor a 10% dentro de la próxima década y que “aún no tenemos un plan para resolver la alineación con la superinteligencia y no estamos claramente en camino de lograrlo”… luego de todo esto, este mismo fin de semana, Darío Amodei publicó un ensayo para pedir “marcar el paso de la IA de frontera”. ¿Qué pasó luego? Sam Altman y Elon Musk le dijeron expeditivos a través de X que están de acuerdo, que es necesario algún tipo de desaceleración de la IA para salvar a la humanidad.
¿Todos felices? No.
“We Must Pace the Frontier”, el escrito publicado por Darío Amodei el sábado 12 en su web personal, afirma que los avances de estos últimos dos meses lo convencieron de que los trabajos relativos a seguridad en inteligencia artificial ya no siguen el ritmo de las capacidades de la IA, porque estas avanzan con mucha mayor rapidez. No pide una suspensión total de los desarrollos, solo disminuir el ritmo de los avances, porque “no desarrollar la tecnología priva a la humanidad de sus beneficios o simplemente pone a la IA en manos de poderes autoritarios, pero a la vez, desarrollarla demasiado rápido es imprudente”, escribió. “Hay demasiado en juego como para que la desaceleración sea un ejercicio en vano; debemos aprovechar el tiempo que nos proporciona de manera inteligente”. Y recomienda tres pasos para para lograr “Pacing the Frontier” (Regular la Velocidad), en síntesis:
Lo particular de este ensayo, sospechado por un coro de críticos de diferente procedencia, es que, aunque propone una arquitectura para controlar la IA, solo la piensa para actores con la enorme escala de las empresas del tamaño de Anthropic, OpenAI, Google DeepMind, etc. y por eso, muchos manifestaron sus dudas también en X.
Jason Calacanis, inversor y conductor de The All In podcast, y de The Week in Startup, como era de esperarse, dijo, que Anthropic y OpenAI -cuyos modelos más avanzados no son de código abierto- buscan socavar a las empresas de IA open source impulsando regulaciones más fáciles de cumplir para firmas ya establecidas.”Si quieres seguridad, necesitas transparencia, y el código abierto es el proceso de transparencia definitivo”, afirmó.
Christian Catalini, fundador del MIT Cryptoeconomics Lab, co-creador de Libra, atacó a los evaluadores: “los evaluadores incorporados son un avance real en medición y verificación, pero si los laboratorios eligen a dedo evaluadores que terminan avalando la agenda regulatoria que ellos mismos prefieren, no hay entonces un escrutinio independiente”, dijo.
François Chollet, cofundador de varias empresas de IA, premios, y autor de “Deep Learning with Python”, dijo que esperaba buena fe de OpenAI y Anthropic, pero señaló indicios de que los llamados a mayor regulación serían en realidad artimañas para sofocar a la competencia, como prohibir la IA de código abierto.
A diferencia de los otros popes tech, Mark Zuckerberg, ya había expresado su visión pro-aceleración hace dos meses, y esta semana agregó que cada compañía debe procurar que su tecnología sea segura, porque de eso se trata la competitividad. Por su parte el presidente norteamericano, Donald Trump, este mismo fin de semana dijo ante periodistas, que no está pensando en detener el avance de la IA porque “quien gana en IA, gana”, en alusión a China.
Por lo pronto, Sam Altman confirmó que OpenAI no saldrá a la bolsa este año, calificando un IPO de “poco aconsejable”, dada la creciente preocupación por la seguridad de la IA y “con las elecciones de medio término de EE.UU. acercándose, la IA se está convirtiendo en un tema clave para ambos partidos”, dijo.
Anthropic, en cambio, va derechito a su IPO.
(No está demás decir que las ventas de Anthropic se incrementaron 143 por ciento en el segundo trimestre de este año comparado con el primero, y las de OpenAI, solo 18 por ciento)
Más:
* El gráfico bastante simpático pertenece al brief de la investigación del ataque de OpenAI contra Hugging Face, de METR
Los mejores modelos de IA hoy están separados por diferencias mínimas de rendimiento cuando se los compara con criterios similares, según el [HAI de Stanford](https://hai.stanford.edu/ai-index/2026-ai
AI: Por 0.25 cabeza Read More
