La inteligencia artificial y el machine learning (aprendizaje de las máquinas) son los dos pilares de la computación actual. En el universo digital los algoritmos para sistematizar tareas y optimizar procesos son lo más trendy, lo que se impone, el presente y el futuro. Y Facebook no escapa a esa tendencia. De hecho tiene una división especializada en el desarrollo de inteligencia artificial.
En ese departamento se creó un sistema pensado para llevar adelante negociaciones. Pero apenas unos días después de su lanzamiento, el programa comenzó a hablar en un lenguaje ininteligible para sus desarrolladores.
En un momento los especialistas creyeron que se trataba de un error, pero luego llegaron a la conclusión de que, en realidad, la máquina había desarrollado su propio idioma y decidieron apagarla.
La inteligencia artificial consistía en dos agentes virtuales, llamados Bob y Alice, que comenzaron a conversar en un lenguaje propio que, al parecer, consideraban más efectivo para cumplir sus objetivos. A continuación se reproduce un fragmento de la charla de las máquinas, que fue difundido por el sitio Fast Company.
Bob: "I can i i everything else"
Alice: "balls have zero to me to me to me to me to me to me to me to"
En español se traduce así:
Bob: "Yo puedo yo yo todo lo demás"
Alice: "bolas tienen cero a mí a mí a mí a mí a mí a mí a"
Esto que parece un sinsentido, en realidad exhibe un patrón, según identificaron los desarrolladores a cargo del proyecto. El "yo" y "a mí" fueron utilizados para representar lo que se obtendría en un intercambio potencial (cabe recordar que la máquina estaba siendo entrenada para negociar), algo más puntual y práctico que las frases que se emplean en cualquier idioma convencional.
"No establecimos una recompensa para que el sistema decidiera seguir usando el inglés", explicó Dhruv Batra, investigador y miembro del grupo de investigadores de Inteligencia artificial de Facebook (FAIR, por sus siglas en inglés).
El algoritmo había sido programado para llevar adelante conversaciones efectivas y prácticas, de ahí que tomó la decisión de generar un lenguaje para realizar su tarea de la mejor manera posible, al menos a su entender.
"Queríamos tener bots que pudieran hablar con la gente", dijo Mike Lewis, otro investigador de FAIR. Y eso no iba a ser posible si se empeñaban en hablar un "idioma robótico".
LEA MÁS: Los algoritmos podrían modificar la forma de hacer música
Pero más allá de eso, el principal problema para los expertos es que si ese nuevo sistema resulta imposible de comprender, se afectaría el futuro desarrollo de otras tecnologías.
En síntesis, la máquina quedó fuera de control, comenzó a tomar decisiones por sí sola y desarrolló su propio idioma. Esto dejó en evidencia que la inteligencia artificial, con el nivel de tecnología alcanzado en la actualidad, ya es capaz de superar al maestro.
No es la primera vez que algo así sucede. El año pasado se supo que un sistema de IA de Google generó su propia forma de comunicación, tal como ocurrió ahora. En ese momento se comunicó la novedad con asombro pero no se despertó ninguna señal de alerta. ¿Hay que asustarse? ¿Se debe tomar alguna precaución? ¿Se viene un futuro de máquinas vs humanos tal como se planteó en el film Terminator?
Hace pocos días Elon Musk y Mark Zuckerberg compartieron sus puntos de vista sobre el avance de la inteligencia artificial. Musk advirtió que es necesario regular este tipo de tecnología porque de no hacerlo podría ser catastrófico. Zuckerberg criticó esa visión apocalíptica y hasta tildó de "irresponsables" a quienes sostienen esa postura.
Según dijo el creador de Facebook, la IA no debería ser considerada una amenaza ni sería necesario regular su desarrollo. Sin embargo, los investigadores de FAIR decidieron apagar un sistema porque se les fue de control. Un tema que, cuanto menos, da para pensar.
LEA MÁS:
Cómo la inteligencia artificial ya permite leer la mente
"Las computadoras no se enojan, no descansan: se van a quedar con muchos empleos"
Últimas Noticias
El gobierno de Albania le quitó la cara a una actriz para dársela a Diella, la “ministra” IA: la lucha de Anila Bisha por recuperar su rostro
El primer ministro Edi Rama anunciaba su “ministra” IA el pasado mes de septiembre, a pesar de que la actriz cuyo rostro utiliza el software solo firmó un contrato, caducado en diciembre, para su uso como asistente virtual en un portal web gubernamental
Museo del Mamut abre sus puertas en Tultepec, un espacio dedicado a los gigantes de la prehistoria
La inauguración del nuevo recinto, respaldada por el INAH, convierte al municipio en un referente para la divulgación científica y turística
El Gobierno prohibió el ingreso a las canchas a un barrabrava de Belgrano por un enfrentamiento entre facciones
La Justicia continúa investigando el origen de la interna entre ambos bandos. El hombre fue detenido en la intersección de las calles Arturo Orgaz y La Rioja
EEUU e Irán se reúnen en Ginebra para una tercera ronda de conversaciones indirectas sobre el programa nuclear del régimen
El encuentro bilateral en Suiza, mediado por el canciller de Omán, se enmarca en una narrativa de ultimátums y advertencias, con exigencias y concesiones aún distantes mientras crece la preocupación internacional por el futuro de la estabilidad en Medio Oriente
El gobierno de Kicillof apoyó a Tapia, avaló el cambio de domicilio de la AFA a Pilar y se metió en la pelea por la designación de veedores
El conflicto sobre el control administrativo y contable de la principal entidad del fútbol argentino escaló luego de que la autoridad provincial validara un domicilio descripto como baldío por inspectores federales
