Anthropic presentó FlashProve, un sistema que permite comprobar mediante una prueba matemática qué modelo de inteligencia artificial produjo una respuesta concreta. La compañía publicó el código, un informe técnico y las pruebas formales del proyecto bajo licencia de código abierto, según la documentación difundida por sus investigadores.

El problema que aborda es concreto: hoy, cuando alguien consulta a una IA, no tiene manera de confirmar si la respuesta provino del modelo que eligió o de otro distinto. Un servicio intermediario podría sustituirlo por una versión más barata para recortar costos, por una más potente para inflar resultados o incluso por contenido manipulado por un atacante.

Cómo funciona la verificación

La base del sistema es un objeto criptográfico llamado zkSNARK (argumento sucinto de conocimiento cero). En términos simples, permite que una parte le demuestre a otra que hizo un cálculo determinado sin revelar los detalles internos de ese cálculo.

El mecanismo opera en dos pasos. Primero, el proveedor del modelo publica una huella digital de sus pesos, los valores internos que definen su comportamiento. Esa huella no expone los pesos reales, que empresas como Anthropic y OpenAI mantienen reservados. Después, cada vez que el modelo responde, el proveedor adjunta una prueba breve que certifica que esa respuesta salió del modelo asociado a la huella publicada. El usuario puede verificarla en segundos desde un dispositivo común.

Según el diseño, la prueba se acepta si es honesta, no puede falsificarse, no revela más información que la que certifica y es liviana de comprobar frente al cálculo original que respalda.

Para qué casos está pensada

Anthropic identifica varios escenarios donde esta verificación resulta necesaria. Los evaluadores independientes que prueban modelos antes y después de su lanzamiento necesitan asegurarse de que analizan el mismo sistema que luego se ofrecerá al público. También los clientes que contratan un modelo a través de un intermediario quieren confirmar que reciben las respuestas del modelo por el que pagaron.

El tercer caso es la detección de manipulaciones externas: si un atacante compromete un servidor y altera las respuestas haciéndose pasar por un modelo legítimo, un usuario no tendría forma de notarlo mirando solo el resultado final.

Un progreso intermedio

Los propios investigadores de la compañía calificaron el proyecto como un "progreso intermedio" y aclararon que no se trata de una herramienta terminada ni lista para usarse en producción.

Más allá de la relación entre una persona y un chatbot, el sistema abre otras aplicaciones. Un desarrollador podría demostrar que su código fue revisado por un modelo avanzado de ciberseguridad, o una empresa podría certificar que su plan de negocios recibió el visto bueno de un sistema de IA determinado. También podría servir como insumo para reguladores y auditores que necesiten confirmar que una empresa de IA cumple compromisos específicos, como destinar cierta capacidad de cómputo a tareas de inferencia.

La liberación del código y la documentación bajo licencia abierta apunta a que otros equipos puedan revisar y replicar el mecanismo, un paso habitual en proyectos de investigación criptográfica que todavía no alcanzaron madurez comercial.