Las advertencias de Henry Kissinger sobre el futuro de la inteligencia artificial

Politólogo y diplomático, académico y hombre de Estado, Henry Kissinger —ganador del Premio Nobel de la Paz en 1973 tras poner fin a la Guerra de Vietnam— se ha dedicado en los últimos años a compartir las enseñanzas que le dejó su paso por la administración pública y a reflexionar acerca de los grandes temas de la humanidad.

Recientemente, un tópico singular se convirtió en una obsesión para el ex secretario de Estado de los presidentes Richard Nixon y Gerald Ford (1973-1977): la inteligencia artificial (IA), que de ser un objeto de las elucubraciones de la ciencia ficción, pasó a ser una realidad cada vez más palpable gracias a los inigualables avances tecnológicos de la era digital.

Una conferencia a la que asistió hace tres años fue el disparador del interés de Kissinger en la IA. Allí se enteró de la existencia de un programa de computación capaz de vencer a campeones mundiales de Go, un juego de mesa más complejo que el ajedrez, en el que cada contendiente tiene que desplegar 180 o 181 piezas en un tablero, y su misión es inmovilizar al oponente a través de estrategias para controlar el territorio.

Lo notable de ese software es que tiene algoritmos que le permiten autoprogramarse. Aprende a jugar cada vez mejor entrenándose a sí mismo, a partir de la sucesión de ensayos y errores. Así logró superar ampliamente la capacidad de los jugadores más avezados.

"¿Cuál será el impacto en la historia de estas máquinas que aprenden por sí mismas, que adquieren conocimiento a través de procesos particulares a ellas mismas? (…) ¿Podrán estas máquinas aprender a comunicarse entre ellas?", se pregunta Kissinger en un artículo publicado en el último número de la revista The Atlantic.

El diplomático organizó en los últimos años diversas encuentros con especialistas de distintos ámbitos para discutir los alcances de la IA y sus posibles implicancias. El resultado de esa experiencia fue una creciente preocupación.

"Esto va más allá de la automatización como la hemos conocido —dice Kissinger—. La automatización lidia con medios, alcanza objetivos prescritos racionalizando o mecanizado distintos instrumentos. La IA, en contraste, lidia con fines, establece sus propios objetivos. En la medida en que sus logros están en parte modelados por ella misma, la IA es inherentemente inestable".

Uno de los rubros en los que más viene avanzando esta tecnología son los autos sin conductor. Tesla es una de las firmas pioneras en este campo.

"¿Qué pasaría, para usar un ejemplo hipotético muy conocido, si un auto así fuera forzado por las circunstancias a tener que elegir entre matar a un abuelo o matar a un niño? ¿A quién elegiría? ¿Por qué lo haría?", interroga el ex asesor de Seguridad Nacional.

Sin negar los extraordinarios beneficios que la IA puede proveer a la medicina, a la provisión de energía y al medio ambiente, entre muchas otras áreas, lo que el pensador se pregunta es por sus posibles efectos no buscados. Sobre todo, sobre las características del conocimiento humano.

"Al alcanzar ciertas competencias más rápida y acabadamente que los humanos, la IA podría, con el tiempo, disminuir la competencia humana y la misma condición humana, al convertirla en datos".

Hasta ahora, la IA parece estar bajo el control de sus creadores. Pero el interrogante es qué pasaría si se profundizara de manera dramática su capacidad de autoperfeccionamiento, al punto de establecer sus propias metas.

"¿Podemos, en una etapa temprana, detectar y corregir un programa de IA que esté actuando por fuera de nuestro marco de expectativas? —se pregunta Kissinger— ¿O, abandonada a sus propios recursos, la IA desarrollará inevitablemente desviaciones que podrían, con el tiempo, generar una cascada de desviaciones catastróficas?".

Si al IA aprende a través del ensayo y error, surge la duda sobre los efectos que puede causar esa repetición de errores en el proceso de aprendizaje. En un software para jugar a Go no tendría mayores consecuencias, pero en campos más sensibles podría ser incluso trágico.

Por otro lado, no se puede perder de vista lo que implicaría que los seres humanos dejen de ser capaces de explicar y comprender el mundo en el que viven. Así planteado puede parecer extremo, pero no lo es si se considera que su capacidad de autoaprendizaje le permite a la IA superar el conocimiento de las personas.

Lo que contribuye a exacerbar estos riesgos es que quienes desarrollan estas tecnologías no se detienen a reflexionar sobre estos temas. El mundo técnico científico tiene por su propia naturaleza incentivos para correr siempre los límites del conocimiento más y más. El mundo de los negocios que lo financia sólo piensa en maximizar ganancias.

"Los desarrolladores de IA, que son inexpertos en política y en filosofía como los soy yo en tecnología, deberían hacerse algunas de las preguntas que he planteado aquí, para construir respuestas en sus esfuerzos de ingeniería. El gobierno de los Estados Unidos debiera considerar la creación de una comisión presidencial de pensadores eminentes para contribuir al desarrollo de una visión nacional. Una cosa es segura: si no empezamos pronto con estos esfuerzos, en poco tiempo descubriremos que comenzamos demasiado tarde", concluye Kissinger.

MÁS SOBRE ESTE TEMA: