Denominada Fawkes —nombre que proviene de Guy Fawkes, el rostro de la máscara de ‘V de Vendetta’— se trata de un programa informático que altera ligeramente los píxeles de la imagen, logrando así evitar el reconocimiento facial que utilizan muchas plataformas. Estos cambios son invisibles para el ojo humano, pero si alguien intenta usar la imagen modificada por Fawkes en su modelo de reconocimiento facial, recibirá “una versión altamente distorsionada” del original, explican los desarrolladores.

Los creadores de la tecnología aseguran que durante los ensayos ha demostrado una efectividad del 100 % contra algunos de los sistemas de reconocimiento facial más avanzados, incluidos Microsoft Azure Face API, Amazon Rekognition y Face++, de la compañía tecnológica china Megvii. “El nivel de protección variará según su disposición a tolerar pequeños ajustes en sus fotos”, describieron los científicos. El código fuente de Fawkes está disponible en ‘GitHub’, y los desarrolladores también compartieron enlaces a los archivos binarios para Mac, Windows y Linux.

Researchers at the University of Chicago's Sand Lab have developed a technique for tweaking photos of people so that they sabotage facial-recognition systems. The project, named Fawkes in reference to the mask in the V for Vendetta graphic novel and fi… https://t.co/jIfTrxsmRd

— The Register: Summary (@_TheRegister) July 22, 2020

El equipo destacó que no tiene planes de lanzar ninguna aplicación para teléfonos inteligentes, ya que la potencia que requiere Fawkes es tan grande que “sería un desafío” incluso para los dispositivos móviles “más potentes”. Muchas empresas tecnológicas apuestan por los sistemas de reconocimiento facial como uno de los métodos más fiables para verificar la identidad de los usuarios. Por ejemplo, a la hora de desbloquear dispositivos digitales, bien sea un teléfono móvil o un ordenador. Sin embargo, no todos estos sistemas son tan invulnerables como parece.

En enero pasado se dio a conocer sobre la empresa de reconocimiento facial Clearview AI, que tiene una base de datos de más de 3.000 millones de fotografías extraídas de manera secreta de varias fuentes —entre ellas Facebook, YouTube e Instagram— y que provee servicios a más de 600 agencias de seguridad estadounidenses, además de numerosas compañías privadas. “Clearview demuestra lo fácil que es crear herramientas invasivas para el monitoreo y el rastreo”, afirmaron los creadores de Fawkes.

Paralelamente, señalaron que su nueva herramienta no es una respuesta específicamente a Clearview, pues creen que esa “es probablemente solo la punta (bastante grande) del iceberg”. “Fawkes está diseñado para aumentar significativamente los costos de desarrollo y mantenimiento de modelos precisos para el reconocimiento facial a gran escala. Si podemos reducir la precisión de estos modelos para que no sean confiables, o forzar a los propietarios de los modelos a pagar costos significativos por persona para mantener la precisión, entonces habremos tenido mucho éxito”, indicaron los desarrolladores.

Clearview AI fue fundada por el programador de origen australiano Hoan Ton-That en 2016. Desde entonces, la compañía logró atraer varios millones de dólares en inversiones y recolectar unos 3.000 millones de fotografías extraídas de varias fuentes, entre ellas Facebook, YouTube e Instagram. La herramienta Clearview identifica a las personas que aparecen en imágenes subidas por usuarios, comparándolas con su base de datos.

Citando un mensaje electrónico enviado por un detective de Nueva Jersey a su colega, el periódico indica que Clearview AI puede analizar fotos “obtenidas de manera secreta con un teleobjetivo” y es “capaz de identificar a un sospechoso en cuestión de segundos”. Según una presentación promocional de Clearview AI, la aplicación no se limita a analizar a las personas que aparecen en el primer plano de las imágenes de su base de datos, sino que también analiza los rostros de las que fueron captadas en la fotografía por casualidad. Como ejemplo, se menciona que en una ocasión logró identificar a un sospechoso cuyo rostro aparecía reflejado en un espejo en una foto de un gimnasio.

Nick Ferrara, de la Policía de Gainesville (Florida), confirmó a The New York Times que la aplicación es muy eficaz. “Con Clearview, puedes usar fotos que no son perfectas. La persona puede llevar un sombrero o gafas, o puede ser una foto de perfil o una vista parcial de su cara”, afirmó el detective, que indicó que con esa herramienta ha identificado a más de 30 sospechosos de casos que parecían no tener solución. También detalló que la licencia anual para utilizar la herramienta le costó 10.000 dólares a la Policía local.