INTELIGENCIA ARTIFICIAL

DeepMind usa IA para verificar la seguridad del núcleo criptográfico de Signal

AlphaProof Code combina revisión humana y pruebas matemáticas. El resultado se limita al código y las propiedades estudiadas.

Lupa con la marca DeepMind grabada examina una cadena de código con el símbolo de Signal integrado en un eslabón.
Una lupa examina piezas separadas de un eslabón, como metáfora de la verificación del código criptográfico.

Para comprobar que su sistema distinguía un programa seguro de uno defectuoso, los investigadores de Google DeepMind hicieron una prueba deliberadamente incómoda: volvieron a introducir dos errores que Signal ya había corregido. Trabajaron con una versión aislada del código. Según la compañía, AlphaProof Code produjo en ambos casos demostraciones verificadas por computadora de que esas versiones eran inseguras.

El experimento forma parte del trabajo presentado el 10 de noviembre sobre el código que implementa el protocolo criptográfico de Signal. La investigación utiliza agentes de inteligencia artificial para demostrar propiedades de seguridad, con especialistas humanos y un verificador matemático en distintas etapas del recorrido.

Primero hay que establecer qué se quiere demostrar. Esa descripción, llamada especificación, fija las condiciones que debe cumplir el programa. Los especialistas revisan ese punto de partida: si la pregunta está mal formulada, una demostración puede ser correcta y aun así dejar fuera el problema que interesaba estudiar.

Después intervienen los agentes basados en Gemini Carbon. Su tarea consiste en construir pruebas en Lean, un lenguaje que permite expresar razonamientos matemáticos y someterlos a una comprobación automática. La respuesta de la IA pasa, por lo tanto, por otro control antes de aceptarse como demostración.

El equipo llevó ese procedimiento al código compilado, más cerca de las instrucciones que ejecutan los dispositivos. Ese paso conecta dos planos que suelen explicarse por separado: las reglas de un protocolo criptográfico y el programa que las lleva a la práctica.

La diferencia con un test convencional está en la pregunta que se responde. Un test observa qué ocurre con determinadas entradas. La verificación formal busca demostrar que una propiedad se cumple bajo condiciones explícitas. Los errores reintroducidos sirvieron para examinar el otro lado del procedimiento: reconocer cuándo esas condiciones dejan de sostenerse.

El resultado alcanza al código y a las propiedades estudiadas. Quedan fuera otras posibles vías de ataque, como un teléfono comprometido o el acceso físico al dispositivo. La investigación suma una forma de revisar el núcleo criptográfico de Signal, sin convertir esa conclusión acotada en una garantía sobre toda la aplicación.

Temas