Los autores del estudio le pidieron al GPT-4 que solucionara ciertos problemas o acertijos para forzar la capacidad de razonamiento del modelo de lenguaje natural. Por ejemplo, que explicara cómo se podrían apilar de manera estable varios objetos como “un libro, nueve huevos, un ordenador portátil, una botella y un clavo”. La respuesta rápida y correcta sorprendió a los expertos. La IA les sugirió que colocaran “el ordenador portátil encima de los huevos, con la pantalla hacia abajo y el teclado hacia arriba. El ordenador encajaría perfectamente dentro de los límites del libro y los huevos, y su superficie plana y rígida proporcionaría una plataforma estable para la siguiente capa”. Otra de las pruebas que le solicitaron a la IA fue un ejercicio matemático en el que mostrara, mediante una rima, que hay infinitos números primos. La respuesta fue igualmente ingeniosa y los dejó perplejos.

“¿Cosas que pensé que no sería capaz de hacer? Ciertamente, fue capaz de hacer muchas de ellas, si no la mayoría”, comentó a The New York Times Sébastien Bubeck, exprofesor de la Universidad de Princeton, EE.UU., quien dirigió el estudio, de acuerdo a RT.

Denominada Fawkes —nombre que proviene de Guy Fawkes, el rostro de la máscara de ‘V de Vendetta’— se trata de un programa informático que altera ligeramente los píxeles de la imagen, logrando así evitar el reconocimiento facial que utilizan muchas plataformas. Estos cambios son invisibles para el ojo humano, pero si alguien intenta usar la imagen modificada por Fawkes en su modelo de reconocimiento facial, recibirá “una versión altamente distorsionada” del original, explican los desarrolladores.

Los creadores de la tecnología aseguran que durante los ensayos ha demostrado una efectividad del 100 % contra algunos de los sistemas de reconocimiento facial más avanzados, incluidos Microsoft Azure Face API, Amazon Rekognition y Face++, de la compañía tecnológica china Megvii. “El nivel de protección variará según su disposición a tolerar pequeños ajustes en sus fotos”, describieron los científicos. El código fuente de Fawkes está disponible en ‘GitHub’, y los desarrolladores también compartieron enlaces a los archivos binarios para Mac, Windows y Linux.

Researchers at the University of Chicago's Sand Lab have developed a technique for tweaking photos of people so that they sabotage facial-recognition systems. The project, named Fawkes in reference to the mask in the V for Vendetta graphic novel and fi… https://t.co/jIfTrxsmRd

— The Register: Summary (@_TheRegister) July 22, 2020

El equipo destacó que no tiene planes de lanzar ninguna aplicación para teléfonos inteligentes, ya que la potencia que requiere Fawkes es tan grande que “sería un desafío” incluso para los dispositivos móviles “más potentes”. Muchas empresas tecnológicas apuestan por los sistemas de reconocimiento facial como uno de los métodos más fiables para verificar la identidad de los usuarios. Por ejemplo, a la hora de desbloquear dispositivos digitales, bien sea un teléfono móvil o un ordenador. Sin embargo, no todos estos sistemas son tan invulnerables como parece.

En enero pasado se dio a conocer sobre la empresa de reconocimiento facial Clearview AI, que tiene una base de datos de más de 3.000 millones de fotografías extraídas de manera secreta de varias fuentes —entre ellas Facebook, YouTube e Instagram— y que provee servicios a más de 600 agencias de seguridad estadounidenses, además de numerosas compañías privadas. “Clearview demuestra lo fácil que es crear herramientas invasivas para el monitoreo y el rastreo”, afirmaron los creadores de Fawkes.

Paralelamente, señalaron que su nueva herramienta no es una respuesta específicamente a Clearview, pues creen que esa “es probablemente solo la punta (bastante grande) del iceberg”. “Fawkes está diseñado para aumentar significativamente los costos de desarrollo y mantenimiento de modelos precisos para el reconocimiento facial a gran escala. Si podemos reducir la precisión de estos modelos para que no sean confiables, o forzar a los propietarios de los modelos a pagar costos significativos por persona para mantener la precisión, entonces habremos tenido mucho éxito”, indicaron los desarrolladores.

El depósito se conoce como Archivo Mundial del Ártico (AWA, por su sigla en inglés) y, junto con GitHub, fue adquirido por el gigante tecnológico estadounidense en 2018 por 7.500 millones de dólares. Entre otros materiales, preserva mucho software de código abierto y también datos de la Agencia Espacial Europea, la Biblioteca del Vaticano y de varios museos y archivos corporativos y de Estado, como el Archivo Nacional de México.

El proyecto contempla construir más depósitos repartidos por todo el mundo, pero el próximo paso será desarrollar un árbol tecnológico de la humanidad y llevarlo también a Svalbard. Este documento también se imprimirá en película, pero de tal manera que sea legible a simple vista, para permitir que las generaciones futuras puedan recuperar la información.

Microsoft has permanently closed all its physical stores, the company took a $450 million hit https://t.co/xoKHH5nw86 pic.twitter.com/qF7tEkkXXO

— Forbes (@Forbes) June 26, 2020

A través de un comunicado, Microsoft ha explicado que con este cambio de estrategia quiere centrarse únicamente en las ventas ‘online’ e invertir en el comercio digital. No obstante, la compañía planea mantener abiertos cuatro espacios físicos en Londres, Nueva York, Sídney (Australia) y en su sede de Redmond, en el estado de Washington, que quiere “reinterpretar” para que sean ‘centros de experiencia’ donde no necesariamente se efectúen ventas. La compañía ha detallado que su decisión no conllevará despidos y que todos los empleados tendrán la oportunidad de quedarse en la compañía. “Los miembros del equipo de ventas al por menor de la compañía continuarán atendiendo a los clientes desde las instalaciones corporativas de Microsoft y seguirán proporcionando ventas, entrenamiento y soporte”, asegura la empresa.

El vicepresidente corporativo de Microsoft, David Porter, ha señalado que sus ventas en línea han ido en aumento a medida que vienen ofreciendo productos principalmente digitales, atendiendo a los clientes “más allá de cualquier ubicación física”. La compañía estima que a sus tiendas ‘online’ en Microsoft.com, así como las de Xbox y Windows, acceden más de 1.200 millones de personas cada mes en 190 mercados. El cierre de sus escaparates físicos supondrá una carga de 450 millones de dólares antes de impuestos en el último trimestre de su ejercicio fiscal, que termina el 30 de junio.

El sistema implementado por el gigante tecnológico para seleccionar y publicar noticias de toda la web en su portal MSN.com, compiló una historia sobre las reflexiones personales de la cantante Jade Thirlwall, del grupo Little Mix, sobre el racismo. Fue una publicación astuta, pero cometió un error garrafal al ilustrar el artículo con una fotografía de su compañera de agrupación, Leigh-Anne Pinnock.

It's really disrespectful. Is it so hard to remember 2 out of 4 members of the group ? I don't think so…
We are worth more. If you want us to respect you, do the same. https://t.co/K91mUuCQKf

— jade amelia thirlwall (@iamjadeamelia) June 6, 2020

Thirlwall, que asistió en Londres a una reciente protesta de ‘Black Lives Matter’ (Las Vidas Negras Importan, en español), criticó a MSN y señaló que está cansada de que los medios “ignorantes” cometan tales errores. Thirlwall es británica, con ancestros egipcios y árabes, mientras que Pinnock tiene raíces barbadenses y jamaicanas. “Si van a copiar y pegar artículos de otros medios de comunicación, es posible que deban asegurarse de que están utilizando la imagen correcta del miembro del grupo de raza mixta”, escribió la cantante, molesta por la confusión. “Me ofende que no puedan diferenciar a dos mujeres de color entre cuatro miembros de un grupo”, agregó.

Parece que los sistemas automatizados todavía tienen mucho que aprender cuando se trata de no ofender a los lectores de noticias. El personal que sigue trabajando en MSN.com tuvo que eliminar manualmente la cobertura sobre el grupo Little Mix, con esa imagen incorrecta. “Tan pronto como nos dimos cuenta de este problema, inmediatamente tomamos medidas para resolverlo”, señaló un portavoz de la compañía tecnológica.

Un miembro del personal firmó que Microsoft está profundamente preocupado por el daño a la reputación de su producto de inteligencia artificial, sobre todo ahora, “con todas las protestas contra el racismo”. “Ahora no es el momento de cometer errores”, concluyó. Aproximadamente 50 trabajadores encargados de mantener las páginas de inicio de noticias en el sitio web MSN y en el navegador Edge abandonaron sus puestos desde el pasado 30 de junio.

“Al igual que todas las empresas, evaluamos nuestro negocio de manera regular. Esto puede generar una mayor inversión en algunos lugares y, de vez en cuando, volver a desplegarlos en otros. Estas decisiones no son resultado de la actual pandemia”, reza el comunicado.

Pese al despido de este grupo de trabajadores, seguirá habiendo un equipo de periodistas a tiempo completo. Varios empleados perjudicados por la decisión advirtieron que la inteligencia artificial puede no estar familiarizada con las pautas editoriales, lo que podría resultar perjudicial en cuanto al filtro de noticias se trata. “Es desmoralizador pensar que las máquinas pueden reemplazarnos, pero ahí lo tienen”, dijo uno de los trabajadores.

El segundo lugar fue ocupado por los navegadores —sin concretar exactamente cuáles de ellos— pero con un porcentaje bastante menor, un 13,47%. Sigue el sistema operativo Android con un 9,09% y concluyen la lista Java (2,36%), Adobe Flash (1,57%) y lectores de PDF (0,66%).

Además, los datos recopilados mostraron a los 5 principales países desde donde fueron lanzados los ataques cibernéticos. De ellos, EE.UU. representó el porcentaje más elevado con un 79,16%. En la lista también entraron: Países Bajos con un 15,58%, Alemania (2,35%), Francia (1,85%) y Rusia (1,05%).

Asimismo, los expertos advirtieron que algunos de los peores ataques están relacionados con las aplicaciones financieras, que podrían representar una amenaza económica para los usuarios. Debido a que los datos financieros están cada vez ganando más valor en la web oscura, los piratas informáticos luchan por obtener acceso a ellos y venderlos a estafadores.

Un tratado internacional establece como territorio neutral esta zona, que también alberga la famosa Bóveda Global de Semillas de Svalbard, un enorme almacén subterráneo que contiene semillas congeladas de miles de plantas de cultivo de todo el mundo, con el objetivo de proteger todo ese material genético ante posibles desastres naturales, guerras u otros cataclismos, recuerda el medio estadounidense.

El director general de GitHub, Nat Friedman, viajó a finales de octubre a este lugar para almacenar en dicho archivo gran parte del código de ‘software’ abierto del mundo, que se guarda en un dispositivo de pocos kilos en el que están codificados los datos. Como los servidores y las memorias USB no son suficientemente duraderas para este propósito, los datos están codificados en lo que parecen ser “carretes de películas” dentro de un recipiente. “Básicamente se trata de microfilm”, añade Bloomberg. Se cree que este sistema puede durar 750 años en condiciones normales, e incluso dos milenios si se conserva en un ambiente frío, seco y con poco oxígeno.

El dispositivo contiene los sistemas operativos Android y Linux, además de otras 6.000 aplicaciones importantes de código abierto. “Es una especie de momento mágico. Creo que tener un registro histórico de esto será valioso para las generaciones futuras”, aseguró Friedman. El objetivo de GitHub, que Microsoft adquirió el año pasado por 7.500 millones de dólares, pasa por guardar en el Archivo Mundial Ártico hasta 200 dispositivos de ese tipo, con una capacidad de 120 gigavatios de código de ‘software’ abierto cada uno. En un futuro también planean tener muchos “depósitos de código” repartidos por todo el mundo.

Friedman considera que el ‘software’ de código abierto es uno de los grandes logros de la humanidad ya que, en su opinión, se ha convertido en “la base del mundo moderno”, pues de él dependen Internet, los teléfonos inteligentes, los satélites y los dispositivos médicos y científicos, así como los robots. El modelo de código abierto permite a otra persona ver ‘software’ creado por otros, utilizarlo y hacerlo suyo o desarrollarlo. En la actualidad GitHub dispone de cerca de 40 millones de personas, la mayoría de ellas voluntarios, que se encargan de supervisar el correcto funcionamiento de sus proyectos, detectando errores, buscando agujeros de seguridad y haciendo un seguimiento de los cambios.

Los principios del DIB tienen carácter de recomendaciones y no son legalmente vinculantes, por lo que recae en el Pentágono determinar si van a llevarse a la práctica y cómo debe ocurrir. “Ahora es el momento, en esta etapa temprana del resurgimiento del interés en la IA, de mantener discusiones serias sobre las normas de desarrollo y el uso de la IA en un contexto militar, mucho antes de que haya un incidente”, reza el documento.

Aunque el texto no fija límites estrictos, como esperarían todos aquellos que se oponen a la aplicación de IA en la esfera militar, sí que establece un conjunto de objetivos éticos que el Departamento de Defensa debería tener en cuenta a la hora de desarrollar nuevos sistemas con inteligencia militar.

En particular, los especialistas de la Junta barajan cinco principios clave: la utilización de IA en el Ejército de EE.UU. siempre debe ser responsable (y bajo control humano permanente), equitativa (para no causar daño no intencionado a las personas), rastreable (para que los expertos técnicos tengan una comprensión adecuada de la tecnología), fiable (para que la seguridad de los sistemas sea probada y garantizada) y gobernable (los dispositivos tienen que disponer de un mecanismo de desactivación por si se descubre que actúan de forma inadecuada).

Esta revelación llevó a la compañía estadounidense a actualizar sus políticas de privacidad. Dentro de los nuevos términos puntualiza que el procesamiento de datos que realiza incluye métodos “automáticos y manuales (humanos)”.

Asimismo, dentro de la sección de preguntas frecuentes sobre la privacidad de ‘Skype Translator’ se aclara que para ayudar a que la tecnología de traducción y reconocimiento de voz “aprenda y crezca” se analizan oraciones y transcripciones automáticas, un proceso que puede requerir “la transcripción de grabaciones de audio por parte de empleados y proveedores de Microsoft”.

“Nos dimos cuenta, en base a preguntas planteadas recientemente, que podríamos hacer un mejor trabajo especificando que los humanos a veces revisan este contenido”, afirmó un portavoz de Microsoft al portal, de acuerdo con ‘Vice’.

Microsoft permite a sus usuarios eliminar las grabaciones de audio por medio de una herramienta en línea. No obstante, su proceder ratifica que, por ahora, seguirá escuchado y descifrando mensajes, mientras que otras grandes compañías como Apple, Google y Amazon han renunciado a ello. Facebook puso fin a esa misma práctica hace unos días.

“Hemos actualizado nuestra declaración de privacidad y las preguntas frecuentes sobre productos para agregar mayor claridad. Continuaremos examinando las medidas adicionales que podríamos tomar”, agregó el portavoz de Microsoft.