La inteligencia artificial y el machine learning (aprendizaje de las máquinas) son los dos pilares de la computación actual. En el universo digital los algoritmos para sistematizar tareas y optimizar procesos son lo más trendy, lo que se impone, el presente y el futuro. Y Facebook no escapa a esa tendencia. De hecho tiene una división especializada en el desarrollo de inteligencia artificial.
En ese departamento se creó un sistema pensado para llevar adelante negociaciones. Pero apenas unos días después de su lanzamiento, el programa comenzó a hablar en un lenguaje ininteligible para sus desarrolladores.
En un momento los especialistas creyeron que se trataba de un error, pero luego llegaron a la conclusión de que, en realidad, la máquina había desarrollado su propio idioma y decidieron apagarla.
La inteligencia artificial consistía en dos agentes virtuales, llamados Bob y Alice, que comenzaron a conversar en un lenguaje propio que, al parecer, consideraban más efectivo para cumplir sus objetivos. A continuación se reproduce un fragmento de la charla de las máquinas, que fue difundido por el sitio Fast Company.
Bob: "I can i i everything else"
Alice: "balls have zero to me to me to me to me to me to me to me to"
En español se traduce así:
Bob: "Yo puedo yo yo todo lo demás"
Alice: "bolas tienen cero a mí a mí a mí a mí a mí a mí a"
Esto que parece un sinsentido, en realidad exhibe un patrón, según identificaron los desarrolladores a cargo del proyecto. El "yo" y "a mí" fueron utilizados para representar lo que se obtendría en un intercambio potencial (cabe recordar que la máquina estaba siendo entrenada para negociar), algo más puntual y práctico que las frases que se emplean en cualquier idioma convencional.
"No establecimos una recompensa para que el sistema decidiera seguir usando el inglés", explicó Dhruv Batra, investigador y miembro del grupo de investigadores de Inteligencia artificial de Facebook (FAIR, por sus siglas en inglés).
El algoritmo había sido programado para llevar adelante conversaciones efectivas y prácticas, de ahí que tomó la decisión de generar un lenguaje para realizar su tarea de la mejor manera posible, al menos a su entender.
"Queríamos tener bots que pudieran hablar con la gente", dijo Mike Lewis, otro investigador de FAIR. Y eso no iba a ser posible si se empeñaban en hablar un "idioma robótico".
LEA MÁS: Los algoritmos podrían modificar la forma de hacer música
Pero más allá de eso, el principal problema para los expertos es que si ese nuevo sistema resulta imposible de comprender, se afectaría el futuro desarrollo de otras tecnologías.
En síntesis, la máquina quedó fuera de control, comenzó a tomar decisiones por sí sola y desarrolló su propio idioma. Esto dejó en evidencia que la inteligencia artificial, con el nivel de tecnología alcanzado en la actualidad, ya es capaz de superar al maestro.
No es la primera vez que algo así sucede. El año pasado se supo que un sistema de IA de Google generó su propia forma de comunicación, tal como ocurrió ahora. En ese momento se comunicó la novedad con asombro pero no se despertó ninguna señal de alerta. ¿Hay que asustarse? ¿Se debe tomar alguna precaución? ¿Se viene un futuro de máquinas vs humanos tal como se planteó en el film Terminator?
Hace pocos días Elon Musk y Mark Zuckerberg compartieron sus puntos de vista sobre el avance de la inteligencia artificial. Musk advirtió que es necesario regular este tipo de tecnología porque de no hacerlo podría ser catastrófico. Zuckerberg criticó esa visión apocalíptica y hasta tildó de "irresponsables" a quienes sostienen esa postura.
Según dijo el creador de Facebook, la IA no debería ser considerada una amenaza ni sería necesario regular su desarrollo. Sin embargo, los investigadores de FAIR decidieron apagar un sistema porque se les fue de control. Un tema que, cuanto menos, da para pensar.
LEA MÁS:
Cómo la inteligencia artificial ya permite leer la mente
"Las computadoras no se enojan, no descansan: se van a quedar con muchos empleos"
Últimas Noticias
El Senado aprueba la nueva Ley General de Aguas y reforma la Ley de Aguas Nacionales
Con 85 votos a favor y 36 en contra se aprobó el decreto para expedir la Ley General de Aguas y modificar la Ley de Aguas Nacionales
El esposo de Nora Dalmasso señaló a Bárzola como el asesino y cuestionó a los fiscales: “Tienen que ir presos”
El esposo de la víctima fue imputado y luego absuelto. Su hijo también estuvo acusado, de quien se dijo que la mató para esconder su orientación sexual e, incluso, que la habría abusado antes del crimen
Nasry Asfura pidió “serenidad” y afirmó que en “cuestión de tiempo” se conocerán los resultados electorales en Honduras
“El pueblo hondureño demostró su civismo, amor por la democracia y compromiso con la libertad. Siempre fui firme y claro en mis posturas y sin ataques. Hoy no será diferente, no saldré a decir incoherencias ni alimentaré la incertidumbre”, afirmó el candidato del Partido Nacional
Murió una niña de 13 años y su hermano lucha por su vida tras ser atropellados cuando cruzaban la calle
El hecho ocurrió el jueves por la tarde en la localidad de Malargüe. El responsable del brutal siniestro tenía 0.14 gramos de alcohol en sangre, cifra que se encuentra por debajo del permitido en la provincia
Dónde y cómo se podrá ver en España el Festival de Eurovisión 2026 tras la retirada de RTVE
La retirada de España del festival de la canción deja en el aire la gran duda de dónde y cómo se podrá seguir el concurso
