Grandes entidades financieras de Estados Unidos ya registran intentos de asistentes de inteligencia artificial que buscan operar sobre cuentas de clientes sin que el banco pueda confirmar quién está detrás ni si el titular autorizó el movimiento. La advertencia la hizo Michael Barr, gobernador de la Reserva Federal, durante un discurso en Milán ante la conferencia anual de la Asociación de Maquinaria de Computación (ACM) sobre IA aplicada a las finanzas.
Barr no identificó a las entidades afectadas ni precisó cuántos casos se detectaron. Según el texto de su exposición difundido por la Reserva Federal, los bancos reportan estas situaciones y los controles se vuelven más apremiantes a medida que crece el comercio con agentes: compras y pagos que los asistentes ejecutan por los usuarios.
Qué son los agentes de IA y por qué preocupan
Se trata de programas capaces de cumplir tareas por cuenta propia, como transferir fondos o adquirir productos en nombre de una persona. Para Barr, ese servicio solo puede sostenerse en el tiempo si viene acompañado de salvaguardas. Reclamó autenticación rigurosa, autorización explícita para cada operación puntual, topes técnicos a lo que puede hacer un agente y normas que lo obliguen a respetar reglas y valores.
El gobernador aclaró que hablaba a título personal y que sus opiniones no comprometen a sus pares de la Junta de la Reserva Federal. Aun así, se declaró optimista sobre el potencial de la IA en el largo plazo, siempre que los riesgos se administren.
El riesgo sistémico: corridas que se resuelven en minutos
El segundo foco de alerta toca la estabilidad del sistema financiero. Hasta hoy, cada transferencia requería una orden del cliente. Un agente autónomo, en cambio, puede comparar rendimientos entre cuentas o captar señales de inestabilidad y mover el dinero al instante.
Si esa lógica se generaliza entre muchos clientes, las salidas de depósitos podrían alimentar corridas bancarias que, según Barr, "se desarrollan en minutos" y desbordan los tiempos con los que los bancos administran su liquidez y los reguladores alcanzan a actuar. Una corrida bancaria es el retiro masivo de fondos por temor a que la entidad no pueda responder.
Deuda récord y financiamiento circular
El discurso se apoyó en el Informe de Estabilidad Financiera que la Reserva Federal publicó el viernes 13 de noviembre, dedicado al auge de la inversión en IA. De acuerdo con Barr, se prevé que la deuda en los balances de las siete mayores compañías del sector supere los USD 800.000 millones antes de que cierre el año.
Las obligaciones fuera de balance —contratos de largo plazo, alquileres de centros de datos y garantías sobre el valor de reventa de equipos— superan los USD 3 billones, según el informe. Barr señaló que esa complejidad resulta difícil de leer para inversores poco experimentados y puede profundizar una caída si el humor del mercado cambia.
También describió un circuito de financiamiento cerrado: los grandes proveedores y fabricantes de chips acumulan más de USD 100.000 millones invertidos en laboratorios de modelos de IA y empresas de computación en la nube, que a su vez usan ese capital para comprarles chips a quienes los financiaron. Para que el negocio cierre, esas firmas deberán reemplazar ese flujo con ingresos genuinos de clientes.
Barr comparó el ritmo de endeudamiento con el ciclo de inversión en telecomunicaciones de fines de los años 90. Las grandes empresas todavía no llegan a esos niveles, dijo, pero la velocidad de su gasto sugiere que podrían superarlos pronto. Se mostró menos inquieto por las pérdidas directas, porque la deuda que sostiene el auge sigue siendo acotada.
Algoritmos que se imitan y chatbots que asesoran
En los mercados, el gobernador marcó el riesgo de que numerosos operadores usen modelos de IA parecidos y reaccionen al mismo tiempo ante una noticia, lo que produciría oscilaciones bruscas. Citó investigaciones según las cuales algunos algoritmos de aprendizaje autónomo pueden llegar a coludirse o manipular precios sin que nadie se lo indique.
En el consumo, mencionó que cada vez más personas consultan chatbots como fuente de asesoramiento financiero, un fenómeno que suma presión sobre la necesidad de reglas claras para estos sistemas.