Helen Toner, exintegrante del directorio de OpenAI, sostiene que las principales empresas de inteligencia artificial ya incorporan sus propios sistemas en buena parte del trabajo de investigación y desarrollo. La consecuencia, según su lectura, es un ritmo de avance más rápido del que tendrían sin esa ayuda. Lo planteó en el podcast Decoder, de The Verge, donde también repasó su salida de la compañía y el estado de la seguridad en el sector.

Toner dirige el Centro de Seguridad y Tecnologías Emergentes (CSET) de la Universidad de Georgetown, un equipo de unas 50 personas que asesora a legisladores y agencias del gobierno estadounidense desde 2019. Desde ese lugar sigue de cerca cómo OpenAI y Anthropic —las dos firmas que mencionó— fueron mutando desde su objetivo original: construir máquinas tan capaces como el humano o más, y no convertirse en empresas de aplicaciones para consumidores.

Automejora: una idea vieja con herramientas nuevas

El fenómeno tiene nombre técnico: automejora recursiva. Se trata de una IA que colabora en la creación de la próxima generación de IA. La noción no es nueva: en los años 60, I. J. Good, colega de Alan Turing, ya imaginaba una máquina ultrainteligente capaz de diseñar otra aún más capaz.

La diferencia con aquel planteo es el alcance real. Toner aclaró que las compañías no le piden a un modelo que se perfeccione a sí mismo, sino que lo integran en más etapas de su proceso de investigación. Que eso acelere el trabajo es lo que las empresas afirman; buena parte de la comunidad externa lo pone en duda, mientras que dentro de las firmas la confianza es mayor.

La investigadora mencionó al ejecutivo Demis Hassabis, de Google DeepMind, que habló de estar "en las estribaciones de la singularidad", el punto hipotético en que la IA superaría a la inteligencia humana. Para Toner, esa meta se naturalizó tanto en el ecosistema tecnológico de California que sus protagonistas ya no perciben lo extraña que resulta para el resto.

La alineación sigue sin resolverse

El entrevistador, Nilay Patel, la consultó sobre la alineación, el intento de que los modelos actúen como sus creadores pretenden. Toner señaló que el término agrupa cosas muy distintas: que funcionen los controles internos de una empresa, que el sistema haga lo que pide el usuario o que sea moralmente bueno.

La definición más razonable, a su juicio, es la última de esas variantes: lograr que la IA haga lo que el usuario quería. Y en ese punto no ve avances concretos.

"No genial, por decirlo suavemente", resumió sobre el estado de ese problema.

También marcó diferencias con parte de la comunidad de seguridad en IA, que considera ciertas capacidades "demasiado peligrosas" y reclama intervenir antes de que se difundan. Para Toner, esa postura subestima la capacidad de adaptación de la sociedad. Como ejemplo, señaló que en Estados Unidos hay cientos de miles de personas con formación para fabricar armas biológicas y, aun así, no se registran ataques en gran número. Lo atribuyó en parte a la escasez de conocimiento y también a las dificultades de acceso a materiales y a la síntesis de ADN por correo.

Sobre la inteligencia artificial general —la que igualaría al humano en casi todas las tareas—, afirmó que el concepto dejó de ser útil. El mundo ya está dentro de esa "nube difusa": algunas definiciones quedaron atrás y otras siguen lejos.

La salida de Altman y el argumento de las estructuras

Toner fue una de las cuatro integrantes del directorio de OpenAI que votaron por remover a Sam Altman en 2023. Altman regresó como director ejecutivo, ella renunció y la compañía se reestructuró. Consultado sobre si volvería a tomar la misma decisión, respondió "por supuesto" y recordó que sabían que el proceso sería doloroso.

Respecto de si Altman es confiable, su posición fue directa.

"Si nuestras esperanzas para el futuro dependen de que una sola persona sea confiable, estamos bastante mal", afirmó.

Por eso defiende diseños institucionales distintos, con más voces y más perspectivas en la toma de decisiones. La conversación ocurrió un día después de las elecciones legislativas estadounidenses. Toner observó que el dinero de la industria para sacar de carrera a candidatos que hablaban de regular la IA "no funcionó muy bien".