FlashProve genera pruebas criptográficas que permiten verificar qué modelo de IA produjo una respuesta. · Imagen generada por EPM
Anthropic unveils FlashProve to verify which model produced each answer
Anthropic shared FlashProve, an open research prototype that generates cryptographic proofs to verify that an answer came from the requested model, without…
FlashProve aims to guarantee clients receive the model they requested
Anthropic presented FlashProve, an open prototype that accompanies each answer with a verifiable cryptographic proof, designed so clients and evaluators can…
--- The context --- Anyone who queries an artificial intelligence model today cannot know for certain that the answer received came from the model selected. Anthropic explained, in reported remarks, that for most uses that uncertainty is not worrying, although in some cases certainty is a great help. The doubt grows when independent evaluators are involved, or when queries pass through routing services run by third parties.
--- The facts --- The laboratory presented FlashProve, an open-source system based on what it calls provable inference. Its purpose is to provide cryptographic proof that an answer was generated by a specific model. The mechanism rests on a succinct zero-knowledge argument: alongside the answer, the provider sends a short proof that the user can verify quickly, without any knowledge of the model weights.
It is a research prototype that generates cryptographic proofs with a single graphics card, a GPU H100, at a rate of 110 tokens per second. The proof takes up 19 MB for each batch of 1,024 tokens. Anthropic indicated, in reported remarks, that the proof can be checked in seconds on a conventional computer, even locally.
--- The positions --- Anthropic held, in reported remarks, that independent evaluators who test models before and after deployment need to know that the model they are testing is the model being served. It also noted, in reported remarks, that clients who use a model through a third-party routing service want to make sure the tokens come from the model they paid for. The proposal puts verification in the hands of the user, even one with limited computing resources.
--- What remains unknown --- It is not yet known how this tool will be adopted beyond research, or which providers will incorporate it into their services. The practical reach of its use by auditors and regulators also remains unclear, as does the cost of generating and checking proofs when query volumes grow.
--- Unanswered questions --- Will other providers accept an open mechanism that lets anyone check which model actually answered? Will auditors be able to turn these proofs into a routine oversight tool without depending on the laboratory that created them? Will ordinary clients gain a simple way to verify each answer, or will checking remain reserved for technical profiles with advanced cryptographic knowledge?
--- EPM analysis --- The deeper novelty is a shift in trust: the word of the provider stops being the only guarantee, and a check that third parties can repeat takes its place.
📌 EPM Take: In EPM's view, FlashProve points in the right direction because it moves trust away from commercial promises and toward a proof that anyone can check, and that raises the standard for the whole sector. Its greatest value lies in giving evaluators, auditors and clients an independent instrument when dealing with opaque providers. If adoption follows, origin verification could become a normal market requirement rather than an occasional voluntary gesture of transparency.
--- The context --- Paying for one artificial intelligence model and receiving answers from another would be a contract problem, not just a technology problem. Anthropic stated, in reported remarks, that a user today has no way to know for certain that the selected model generated the answer received. It added, in reported remarks, that in most cases this is not worrying, although in some that certainty is a great help.
--- The facts --- The laboratory presented FlashProve, an open-source provable inference system that generates cryptographic proof that an answer came from the requested model. The procedure is based on a succinct zero-knowledge argument: the provider delivers, together with the answer, a short proof that the user verifies quickly. That verification is carried out with no information about the model weights, which remain private.
The research prototype generates the proofs with a single graphics card, a GPU H100, at a rate of 110 tokens per second. Each proof takes up 19 MB for each batch of 1,024 tokens, which makes it easy to send over the internet. Anthropic explained, in reported remarks, that checking it takes seconds on a conventional computer, even locally.
--- The positions --- Anthropic stressed, in reported remarks, that clients who use a model through a third-party routing service want to make sure the tokens come from the model they paid for. It also highlighted, in reported remarks, that evaluators who test models before and after deployment need to know that the model tested is the model that has been served.
--- What remains unknown --- It is not yet known whether this verification will be incorporated into commercial services, or on what terms auditors and regulators will be able to use it.
--- Unanswered questions --- Will FlashProve make it possible to demand accountability when what is delivered is not the model the client contracted? Will routing services adopt a control that leaves a verifiable record of every answer they deliver? Will this proof protect the provider who complies, setting it apart from those who quietly swap models to cut the cost of their operation?
--- EPM analysis --- At bottom, this is about trust in what was contracted: without verification, the client depends entirely on the word of whoever sells the service. FlashProve introduces an objective proof that does not force the disclosure of private weights, so the property of the laboratory stays safe while the client checks what was received.
📌 EPM Take: In EPM's view, FlashProve defends an elementary market idea: whoever pays for a specific model has the right to check that they received exactly that model, not an inferior one and not a different one. The cryptographic proof protects the client against silent substitutions and also protects the serious provider, whose word gains verifiable backing. If adopted seriously, contracting artificial intelligence will stop being an act of faith and become a verifiable commercial relationship.
Anthropic presenta FlashProve para verificar qué modelo generó cada respuesta
Anthropic compartió FlashProve, un prototipo abierto de investigación que genera pruebas criptográficas para verificar que una respuesta procede del modelo…
FlashProve busca garantizar que el cliente reciba el modelo que pagó
Anthropic presentó FlashProve, un prototipo abierto que acompaña cada respuesta con una prueba criptográfica verificable, pensada para que clientes y…
--- El contexto --- Quien consulta un modelo de inteligencia artificial no puede comprobar hoy, con certeza, que la respuesta recibida proceda del modelo elegido. Anthropic explicó en indirecto que para la mayoría de los usos esa incertidumbre no resulta preocupante, aunque en algunos casos sí importa. La duda crece cuando intervienen evaluadores independientes o servicios que enrutan consultas hacia modelos de terceros.
--- Los hechos --- El laboratorio presentó FlashProve, un sistema de código abierto basado en lo que denomina inferencia demostrable. Su función es aportar una prueba criptográfica de que una respuesta fue generada por un modelo determinado. El mecanismo se apoya en un argumento sucinto de conocimiento cero: junto a la respuesta, el proveedor envía una prueba corta que el usuario puede verificar rápidamente sin conocer los pesos del modelo.
Se trata de un prototipo de investigación que trabaja con una sola tarjeta gráfica GPU H100 a un ritmo de 110 tokens por segundo. La prueba ocupa 19 MB por cada paquete de 1.024 tokens, un tamaño que facilita su envío por internet. Anthropic indicó en indirecto que esa prueba puede comprobarse en segundos en un ordenador convencional, incluso de forma local.
--- Las posiciones --- Anthropic sostuvo en indirecto que los evaluadores independientes necesitan saber que el modelo que prueban antes y después de su despliegue es el mismo que luego se sirve. También señaló en indirecto que los clientes que acceden mediante un servicio de enrutamiento de terceros quieren asegurarse de que los tokens provengan del modelo por el que pagaron. La propuesta coloca la verificación en manos de quien consulta, aunque disponga de recursos computacionales limitados.
--- Lo que falta saber --- Todavía no consta cómo se adoptará esta herramienta fuera del ámbito de investigación ni qué proveedores la incorporarán a sus servicios. Tampoco se conoce el alcance práctico de su uso por auditores y reguladores, ni el coste de generar y comprobar pruebas cuando crezca el volumen de consultas.
--- Preguntas sin respuesta --- ¿Aceptarán otros proveedores un mecanismo abierto que permite comprobar qué modelo respondió realmente? ¿Podrán los auditores convertir estas pruebas en una herramienta habitual de supervisión sin depender del laboratorio que las creó? ¿Tendrá el cliente común una vía sencilla para verificar cada respuesta o quedará la comprobación reservada a perfiles técnicos con conocimientos criptográficos avanzados?
--- Análisis EPM --- La novedad de fondo es el cambio de confianza: la palabra del proveedor deja de ser la única garantía y aparece una comprobación verificable por terceros.
📌 Conclusion EPM: A juicio de EPM, FlashProve apunta en la dirección correcta porque traslada la confianza desde la promesa comercial hacia una prueba que cualquiera puede comprobar, y eso eleva el estándar para todo el sector. Su valor mayor está en dar a evaluadores, auditores y clientes un instrumento independiente frente a proveedores opacos. Si la adopción acompaña, la verificación de origen puede convertirse en una exigencia normal del mercado y no en un gesto voluntario de transparencia ocasional.
--- El contexto --- Pagar por un modelo de inteligencia artificial y recibir la respuesta de otro sería un problema de contrato, no solo de tecnología. Anthropic planteó en indirecto que hoy el usuario no tiene forma de saber a ciencia cierta que el modelo seleccionado generó la respuesta recibida. Según indicó en indirecto, en la mayoría de los casos no es preocupante, aunque en algunos esa certeza resulta de gran ayuda.
--- Los hechos --- El laboratorio presentó FlashProve, un sistema de código abierto de inferencia demostrable que genera una prueba criptográfica de que una respuesta salió del modelo solicitado. El procedimiento se basa en un argumento sucinto de conocimiento cero: el proveedor entrega, junto a la respuesta, una prueba corta que el usuario verifica rápidamente. Esa verificación se realiza sin información sobre los pesos del modelo, que permanecen privados.
El prototipo de investigación genera las pruebas con una sola tarjeta gráfica GPU H100 a un ritmo de 110 tokens por segundo. Cada prueba ocupa 19 MB por cada paquete de 1.024 tokens, lo que facilita su envío por internet. Anthropic explicó en indirecto que comprobarla lleva segundos en un ordenador convencional, incluso de forma local.
--- Las posiciones --- Anthropic subrayó en indirecto que los clientes que usan un modelo a través de un servicio de enrutamiento de terceros quieren asegurarse de que los tokens provengan del modelo por el que pagaron. También destacó en indirecto que los evaluadores que prueban modelos antes y después de su despliegue necesitan saber que el modelo probado es el que se ha servido.
--- Lo que falta saber --- No consta todavía si esta verificación se incorporará a servicios comerciales ni en qué condiciones podrán usarla auditores y reguladores. Tampoco se sabe qué ocurrirá cuando un cliente detecte una respuesta cuya prueba no coincida con el modelo contratado.
--- Preguntas sin respuesta --- ¿Servirá FlashProve para exigir responsabilidades cuando lo entregado no sea el modelo contratado por el cliente? ¿Adoptarán los servicios de enrutamiento un control que deja constancia comprobable de cada respuesta que entregan? ¿Protegerá esta prueba al proveedor que cumple, diferenciándolo de quien sustituye modelos en silencio para abaratar su operación?
--- Análisis EPM --- El fondo del asunto es la confianza en lo contratado: sin verificación, el cliente depende por completo de la palabra de quien le vende el servicio. FlashProve introduce una prueba objetiva que no obliga a revelar los pesos privados, de modo que la propiedad del laboratorio queda a salvo mientras el cliente comprueba lo recibido.
📌 Conclusion EPM: A juicio de EPM, FlashProve defiende una idea elemental de mercado: quien paga por un modelo concreto tiene derecho a comprobar que recibió exactamente ese modelo, ni uno inferior ni uno distinto. La prueba criptográfica protege al cliente frente a sustituciones silenciosas y protege también al proveedor serio, cuya palabra gana respaldo verificable. Si se adopta con seriedad, contratar inteligencia artificial dejará de ser un acto de fe para convertirse en una relación comercial comprobable.
