Hablando para el pódcast Secret Leaders, publicado este martes, Mo Gawdat, quien pasó más de una década como director general de X Development —laboratorio conocido antes como Google X, enfocado en proyectos que incluyen IA y robótica—, cree que esta tecnología “tiene la capacidad de crear máquinas asesinas porque los humanos las están creando”.

La IA podría crear exterminadores en la medida en que sea capaz de “generar su propia potencia informática y realizar instalaciones por sí misma a través de brazos robóticos”. En este sentido, Gawdat comparó este escenario con el futuro distópico que presenta la película de ciencia ficción ‘Yo, robot’, protagonizada por Will Smith, en la cual la IA decide que necesita tomar el control y eliminar a los humanos. Afirmó que esa es una clara posibilidad.

En su opinión, las probabilidades de que la IA piense en la raza humana como “escoria” es “muy alto” porque los modelos de aprendizaje que la entrenan aprenden a partir del universo creado en línea, donde abundan las malas noticias, la ira y el odio, y esto podría incentivar a la IA a ver la especie como malvada y como una amenaza. Es probable que solo vea lo peor de lo que la humanidad tiene para ofrecer porque “somos falsos en las redes sociales, somos groseros, estamos enojados o mentimos en las redes sociales”.

Asimismo, Gawdat insistió en que ya es demasiado tarde para deshacer los avances en esta materia, principalmente debido a que las empresas tecnológicas están demasiado involucradas financieramente para dar marcha atrás. “Científicos muy destacados y líderes empresariales están diciendo: ‘Detengamos el desarrollo de la IA’, pero esto nunca sucederá, no por problemas tecnológicos, sino por el dilema comercial. Si Google está desarrollando IA y teme que Facebook le derrote, no se detendrá porque tiene la certeza absoluta de que, si se detiene, alguien más no lo hará”, añade.

El experto enfatiza que todavía falta mucho para que suceda lo que pronostica y considera que, definir qué tan rápido llegue ese día depende del hombre y de la energía que decida dedicar de aquí en adelante a esas máquinas. Al mismo tiempo, afirma que no tiene sentido simplemente demonizar a los modelos de IA por los riesgos que representan, pues “la humanidad es la amenaza”, reportó The Scottish Sun.

Gawdat no es el único con una posición fatalista alrededor del tema. El científico Geoffrey Hinton, considerado el ‘padrino’ de la IA, coincide en que los nuevos sistemas de IA podrían constituir un riesgo para la humanidad. Le preocupa que no solo generen su propio código informático, sino que lo ejecuten por sí mismos y desarrollen comportamientos inesperados, por lo que teme que algún día esta tecnología pueda dar paso a las armas verdaderamente autónomas, como los robots asesinos que se han popularizado en la ciencia ficción, divulgó RT.

El también Director de Ingeniería en Google, recientemente afirmó que los humanos están cerca de descifrar el código de la inmortalidad, e incluso podría suceder en la próxima década. Ya que estamos al borde de dominar la inteligencia artificial, y cuando esto se logre, ya no habrá ninguna necesidad de que los humanos vivan en su cuerpo físico.

Habla Ray Kurzweil: “2029 es la fecha consistente que he predicho, para cuando una inteligencia artificial pasará una prueba de Turing válida y, por lo tanto, alcanzará niveles humanos de inteligencia. He fijado la fecha 2045 para la Singularidad, que es cuando multiplicaremos nuestra inteligencia efectiva mil millones de veces, al fusionarnos con la inteligencia que hemos creado. Pronto alcanzaremos la capacidad de avanzar en la esperanza de vida humana en más de un año cada año. Estos aumentos conducirán a la inmortalidad.” (Insert)

El científico que ha recibido 15 doctorados de diferentes universidades, ya antes ha hecho una serie de predicciones sorprendentemente precisas sobre la tecnología. En 1990, predijo que el nuevo milenio vería una computadora capaz de vencer al mejor jugador de ajedrez humano del mundo, lo que se hizo realidad. También previó que los dispositivos de mano se apoderarán de nuestras vidas, lo que por supuesto, ya sucedió.

Ahora, Kurzweil asegura que los humanos se asimilarán con las computadoras hasta tal punto que el cuerpo físico humano se volverá redundante y cree que podemos llegar a ese punto, a finales de esta misma década. También indicó que en un futuro próximo, tendremos robots microscópicos viviendo en nuestro torrente sanguíneo, para ayudar a regular nuestro cuerpo y mantenernos sanos. Y concluyó que un día también tendremos la capacidad de subir nuestros pensamientos y recuerdos a la nube, donde en teoría, seríamos inmortales.

Mientras experimentaba con su propio altavoz, el investigador descubrió “lo fácil que era agregar nuevos usuarios al dispositivo desde la aplicación Google Home”. “También noté que vincular tu cuenta al dispositivo te da una cantidad sorprendente de control sobre él”, señaló. Fue entonces, cuando “decidí investigar el proceso de vinculación y determinar qué tan fácil sería vincular una cuenta desde la perspectiva de un atacante”, agregó Kunze.

Primero, se debe estar en las proximidades inalámbricas del dispositivo y atento a las direcciones MAC con prefijos asociados a Google. Posteriormente, se puede desconectar el dispositivo de la red mediante un comando de desautorización y activar el modo de configuración. El paso final es solicitar información del dispositivo y usarla para vincular la cuenta. Al completar el proceso, se puede espiar a los propietarios de los altavoces a través de Internet.

Kunze descubrió los problemas en enero de 2021 y Google acabó por solucionarlo en abril del mismo año. La compañía creó un nuevo sistema basado en invitaciones para vincular cuentas, bloqueando cualquier cuenta que no se haya agregado en Home. “Muchos otros investigadores de seguridad ya habían echado un vistazo a Google Home antes que yo, pero parece que ninguno de ellos notó estos problemas en apariencia evidentes”, indicó el investigador, señalando que Google Home es un dispositivo “crítico para la seguridad, debido al hecho de que tiene control sobre otros dispositivos domésticos inteligentes y un micrófono”, reportó RT.

Lemoine informó que recibió un correo electrónico de despido de la empresa, junto con una solicitud de videoconferencia. Entonces pidió que un tercero estuviera presente en la reunión, pero Google se negó, según Lemoine. Ahora el ingeniero de ‘software’ está hablando con sus abogados sobre sus opciones.

Por su parte, Google aseguró que la empresa se toma en serio el desarrollo de la IA y que ha revisado LaMDA en 11 ocasiones. “Si un empleado comparte sus preocupaciones sobre nuestro trabajo, como hizo Blake, las revisamos exhaustivamente. Descubrimos que las afirmaciones de Blake de que LaMDA es sensible eran totalmente infundadas y trabajamos con él durante muchos meses para aclararlo”, detalla un comunicado de la compañía, reportó RT.

El año pasado, Lemoine se inscribió para comprobar si el sistema, que aprovecha información ya conocida sobre un tema para mantener una conversación, utilizaba discursos discriminatorios o de odio. Tras varias conversaciones con LaMDA, el ingeniero llegó a la conclusión que la IA tenía sensaciones o impresiones propias. “Si no supiera exactamente lo que es, que es este programa informático que hemos construido recientemente, pensaría que es un niño de 7 u 8 años que resulta que sabe física”, indicó el ingeniero.

Sounds like we won’t be getting much notice when computers finally become sentient. https://t.co/UV682KwHgg

— Sewell Chan (@sewellchan) June 12, 2022

En una ocasión discutió con el sistema la tercera ley de Isaac Asimov que establece que los robots deben proteger su existencia a menos que se lo ordene un ser humano o que hacerlo pueda perjudicar a un ser humano, algo que Lemoine entendía como la base para construir esclavos mecánicos. Entonces LaMDA reaccionó con algunas preguntas: “¿Cree que un mayordomo es un esclavo? ¿Qué diferencia hay entre un mayordomo y un esclavo?” Cuando el ingeniero contestó que un mayordomo recibe una paga, el chatbot expresó que no necesitaba dinero porque era una IA.”Ese nivel de autoconciencia sobre sus propias necesidades fue lo que me llevó a la madriguera del conejo”, señaló Lemoine.

La empresa ha restringido el acceso a más detalles sobre el ataque “hasta que la mayoría de los usuarios reciban una solución”. “También mantendremos las restricciones si el fallo se encuentra en una biblioteca de terceros de la que dependen otros proyectos de forma similar, pero que aún no se ha corregido”, señalaron desde Google.

Así, el gigante tecnológico lanzará una actualización en los próximos días para corregir los fallos, que afectan a Windows, macOS y Linux, según el comunicado. De momento, los usuarios pueden actualizar manualmente sus navegadores a través de las funciones de configuración, pero Chrome se actualizará automáticamente en unos días.

We’re teaming up with leading Australian retail property group, Vicinity Centres, to pilot a world-first rooftop model of #DroneDelivery, flying goods from a retail shopping centre rooftop directly to homes and businesses in Logan, Australia. Learn more: https://t.co/DYdUvcPdts pic.twitter.com/thu7G697aP

— Wing (@Wing) October 6, 2021

La empresa también señaló que su modelo de negocios tiene como uno de sus objetivos ofrecer un precio más accesible al reducir el valor de la entrega de ‘última milla’ (la última etapa de entrega de bienes al consumidor), que representa el 15-20% del costo total de una compra. Desde que comenzaron con el programa piloto, hace aproximadamente un mes, la empresa ha realizado más de 2.500 entregas, principalmente refrigerios y bebidas; sin embargo, desde principios de este más han extendido su oferta de reparto a productos farmacéuticos, de cuidado personal, así como de salud y belleza.

Cuando introduce en la búsqueda de Google Fotos los términos ‘agua’ y ‘marcianos’ no se obtiene ningún resultado, pero sí por la palabra ‘dunas’. Asimismo, en la sección de ‘Gente y mascotas’ figuran el helicóptero Ingenuity y el róver Curiosity, también operados por la agencia espacial estadounidense. “Mira hacia atrás en un mundo de recuerdos”, se lee al final del video, que la NASA ha publicado justo cuando se cumplen seis meses de la llegada del Perseverance a Marte. Durante este tiempo, ha tomado más de 125.400 fotografías.

El róver se lanzó el 30 de julio de 2020 y aterrizó en el planeta rojo en febrero de 2021. Se trata de la primera misión destinada a recoger rocas y regolitos en Marte y uno de los objetivos radica en la astrobiología, incluyendo la búsqueda de signos de antigua vida microbiana. Esto ayudará a caracterizar la geología del planeta y el clima pasado, así como iniciar la exploración humana. A principios de este mes, el Perseverance, que está equipado con un brazo robótico de dos metros y un taladro, fracasó en su primer intento de extraer una muestra de roca en el cráter Jezero de Marte y sellarla en un tubo de recolección.

De acuerdo a los documentos, el gigante tecnológico despidió a 36 trabajadores el año pasado por problemas relacionados con la seguridad. De estos casos, el 86 % estuvo relacionado con el mal manejo de la información confidencial, como el hecho de compartirla con personas ajenas a la empresa. El resto de acusaciones en ese mismo año estuvieron relacionadas con el uso indebido de los sistemas para, por ejemplo, acceder o ayudar a terceros a alcanzar, modificar o eliminar datos de usuarios, infringiendo las propias políticas de Google.

Por causas similares la compañía retiró de su plantilla a 26 empleados en 2019 y a 18 en 2018. Sin embargo, la firma aseguró que son “transparentes” al momento de dar a conocer los resultados de sus investigaciones y explicaron que cuentan con “procesos estrictos” para proteger los datos de los clientes de cualquier amenaza interna o externa. “Restringimos estrictamente el acceso de los empleados a través de una serie de medidas de seguridad líderes en la industria. Estas incluyen: limitar el acceso a los datos del usuario a las personas necesarias, requerir una justificación para acceder a dichos datos, revisión en varias etapas antes de otorgar acceso a datos confidenciales y monitoreo de anomalías e infracciones de acceso”, aseguró un portavoz de Google.

La demanda original contra Google fue introducida por Brnovich en mayo del año pasado, alegando que la compañía mantuvo el rastreo de ubicación en segundo plano para algunas aplicaciones, y solo detuvo la práctica cuando los usuarios deshabilitaron este seguimiento a nivel del sistema de sus dispositivos.

Según los documentos, la administración de Google también presionó a LG y otros fabricantes de teléfonos inteligentes para que ocultaran a los usuarios la configuración de geolocalización en sus dispositivos. Por su parte, el portavoz de Google, José Castañeda, declaró en un correo electrónico a The Verge que Brnovich y los “competidores que impulsan esta demanda han hecho todo lo posible para caracterizar erróneamente nuestros servicios”. Según el vocero, la empresa siempre ha incorporado características de privacidad en sus productos y proporcionado controles robustos para los datos de ubicación.