Desde 2015 Google, Microsoft y Baidu cuentan con inteligencia artificial (IA) para suplantar a los seres humanos en la identificación de imágenes; dos años más tarde Facebook desarrolló una tecnología de reconocimiento facial. Sin embargo, las máquinas que tienen la capacidad de aprender tienen también una vulnerabilidad: son susceptibles al engaño.
Para demostrarlo, un grupo de investigadores del Laboratorio de Informática e Inteligencia Artificial del Instituto de Tecnología de Massachusetts (MIT) hizo una prueba. Y consiguió que Google confundiera rifles con un helicóptero.
Los ejemplos adversativos, o antagónicos, son un conjunto de datos que se modifican ligeramente para comprobar si la IA los clasifica mal. "Considerémoslos alucinaciones para algoritmos", ilustró Wired su nota sobre el experimento del MIT. Eso tiene importancia, por ejemplo, para evitar que un auto sin conductor confunda un cartel de alto con uno de velocidad máxima, por ejemplo. También se utilizan para fortalecer los filtros anti-spam.
El caso de la máquina que confunde un panda con un mono gibón —y está segura: le da un 99,3% de confianza a su reconocimiento— era el más conocido hasta ahora. La prueba del MIT reveló además que los ejemplos adversativos son más fáciles de crear que antes.
A diferencia de los ensayos de los desarrolladores, el del MIT no partió del conocimiento previo del algoritmo sino que operó a ciegas, como lo haría un hacker en la vida real. Apuntaron a afectar la parte del sistema Vision API, de Google Cloud, que se ocupa de dar nombres a los objetos que se presentan en las imágenes.
Los investigadores hicieron que Vision API confundiera una hilera de rifles con un helicóptero meramente al cambiar algunos pixeles de la foto. "Para el ojo humano las dos imágenes parecen idénticas. La diferencia indiscernible sólo engaña a la máquina", explicó la revista.
Lo comprobaron varias veces y también con otros ejemplos: cada vez que trataban de engañar a la IA, analizaban sus resultados y retocaban muy poco la imagen para que convenciera a la computadora de que una cosa en realidad era otra.
"Este reciente trabajo de MIT demuestra que los atacantes podrían potencialmente crear ejemplos adversativos para confundir a los sistemas comerciales de IA", observó Wired. "En general se considera que Google tiene uno de los mejores equipos de seguridad del mundo, pero uno de sus productos más futuristas puede sufrir alucinaciones".
Las implicancias son serias: estos ataques se podrían usar —se destacó como ejemplos—para que en un aeropuerto el scanner de equipaje deje subir una bomba a un avión al confundirla con un peluche, o para que un sistema de reconocimiento facial identifique a la persona equivocada como autora de un delito.
Todos los desarrolladores de IA investigan este peligro, no sólo por las razones prácticas evidentes sino porque, en realidad, no se comprende qué causa esta vulnerabilidad. Google incluso hizo un concurso de ejemplos adversativos.
"En esencia, los investigadores han creado sistemas de IA que piensan de manera diferente a la de los humanos, y nadie está seguro de cómo funcionan", concluyó Wired.
LEA MÁS:
Últimas Noticias
Conmoción en el mundo del fútbol por el brutal asesinato de la figura de una selección africana a los 27 años
David Owori Kampala, capitán del SC Villa en Uganda, fue atacado por delincuentes fuera de su casa en Makindye, un suburbio de Kampala
Las 6 consultas más peligrosas qué podría hacer tu hijo a ChatGPT a solas en su habitación
Las más delicadas incluyen autolesiones, retos virales, dietas extremas, evasión de controles y drogas, por lo que especialistas recomiendan combinar educación digital con controles parentales
Naldy Saldaña cuenta que exintegrantes de La Bella Luz le escribieron tras su denuncia y pide justicia: “Tú eres nuestra voz”
La cantante reveló en el programa de Magaly Medina que varias antiguas compañeras se comunicaron para respaldarla y relatarle episodios parecidos, luego de que su caso saliera a la luz y avanzara por la vía legal
Naldy Saldaña asegura que compañeros de La Bella Luz veían el comportamiento del director musical: “Sabían lo que pasaba”
En entrevista con Magaly Medina, la cantante relató que varios episodios habrían sucedido de madrugada en el bus de la orquesta, cuando el denunciado cambiaba de actitud si veía acercarse a alguien
Naldy Saldaña rompe en llanto al recordar la reunión con La Bella Luz tras su denuncia: “Váyanse bien de la casa donde comen”
La cantante revivió en Magaly TV La Firme el encuentro que tuvo con la orquesta cuando el caso ya era conocido y contó cómo ese episodio terminó marcando su salida del grupo musical
