Por Martin Coulter
LONDRES, 1 abr (Reuters) - Cuatro expertos en inteligencia artificial han expresado su preocupación después de que su trabajo se citara en una carta abierta, -firmada conjuntamente por Elon Musk, en la que se exigía una pausa urgente en la investigación.
La carta, fechada el 22 de marzo y con más de 1.800 firmas hasta el viernes, pedía una pausa de seis meses en el desarrollo de sistemas "más potentes" que el nuevo GPT-4 de OpenAI, respaldado por Microsoft, que puede mantener conversaciones similares a las humanas, componer canciones y resumir documentos extensos.
Desde el lanzamiento el año pasado de ChatGPT, el predecesor de GPT-4, las empresas rivales se han apresurado a lanzar productos similares.
La carta abierta afirma que los sistemas de IA con "inteligencia humana competitiva" plantean profundos riesgos para la humanidad, y cita 12 investigaciones de expertos, entre ellos académicos universitarios y empleados y exempleados de OpenAI, Google y su filial DeepMind.
Grupos de la sociedad civil de Estados Unidos y la UE han presionado desde entonces a los legisladores para que frenen la investigación de OpenAI. OpenAI no respondió inmediatamente a las peticiones de comentarios.
Los críticos han acusado al Future of Life Institute (FLI), la organización que está detrás de la carta y que está financiada principalmente por la Musk Foundation, de dar prioridad a escenarios apocalípticos imaginarios frente a preocupaciones más inmediatas sobre la IA, como los prejuicios racistas o sexistas.
Entre las investigaciones citadas se encuentra "On the Dangers of Stochastic Parrots" (Sobre los peligros de los loros estocásticos), un artículo del que es coautora Margaret Mitchell, que anteriormente supervisó la investigación ética de la IA en Google.
Mitchell, ahora jefa de ética científica en la empresa de IA Hugging Face, criticó la carta y dijo a Reuters que no estaba claro qué se consideraba "más potente que GPT4".
"Al dar por sentadas muchas ideas cuestionables, la carta afirma un conjunto de prioridades y una narrativa sobre la IA que beneficia a los partidarios de FLI", dijo. "Ignorar los daños activos en este momento es un privilegio que algunos de nosotros no tenemos".
Mitchell y sus coautores -Timnit Gebru, Emily M. Bender y Angelina McMillan-Major- publicaron posteriormente una respuesta a la carta, en la que acusaban a sus autores de "alarmismo y exageración de la IA".
"Es peligroso distraernos con una utopía o un apocalipsis de la IA que promete un futuro 'próspero' o 'potencialmente catastrófico'", escribieron. "La responsabilidad no recae propiamente en los artefactos, sino en sus constructores".
El presidente de FLI, Max Tegmark, dijo a Reuters que la campaña no era un intento de obstaculizar la ventaja corporativa de OpenAI.
"Es muy hilarante. He visto a gente decir: 'Elon Musk está tratando de frenar a la competencia'", dijo, añadiendo que Musk no tuvo ningún papel en la redacción de la carta. "No se trata de una empresa".
RIESGOS AHORA
Shiri Dori-Hacohen, profesora adjunta de la Universidad de Connecticut, dijo a Reuters que estaba de acuerdo con algunos puntos de la carta, pero discrepó con la forma en que se citaba su trabajo.
El año pasado, Dori-Hacohen fue coautora de un estudio en el que sostenía que el uso generalizado de la IA ya planteaba graves riesgos. Su investigación sostenía que el uso actual de sistemas de IA podría influir en la toma de decisiones en relación con el cambio climático, la guerra nuclear y otras amenazas existenciales.
Según ella, "no es necesario que la IA alcance el nivel de inteligencia humana para agravar esos riesgos". "Hay riesgos no existenciales que son muy, muy importantes, pero que no reciben el mismo tipo de atención al nivel de Hollywood".
Consultada sobre las críticas, Tegmark, de FLI, dijo que tanto los riesgos a corto como a largo plazo de la IA deberían tomarse en serio. "Si citamos a alguien, sólo significa que afirmamos que respalda esa frase. No significa que estén respaldando la letra, o que respaldemos todo lo que piensan", aseguró a Reuters.
Dan Hendrycks, director del Center for AI Safety, con sede en California, también citado en la carta, defendió su contenido y dijo a Reuters que era sensato tener en cuenta los casos de cisne negro, aquellos que parecen improbables, pero que tendrían consecuencias devastadoras.
La carta abierta también advertía de que las herramientas de IA generativa podrían utilizarse para inundar Internet de "propaganda y falsedades".
Dori-Hacohen dijo que era "bastante enriquecedor" que Musk la hubiera firmado, citando un aumento de la desinformación en Twitter tras su adquisición de la plataforma, documentado por el grupo de la sociedad civil Common Cause y otros.
Musk y Twitter no respondieron inmediatamente a las solicitudes de comentarios.
(Reporte de Martin Coulter; Editado en Español por Manuel Farías)
Últimas Noticias
Andalucía roza las 12.700 incidencias y se mantiene activado el Plan de Emergencias en cuatro ubicaciones
Las fuertes borrascas han provocado casi 13.000 emergencias desde el 27 de enero, con numerosos cortes viales y escenarios activos, según la Agencia de Emergencias de Andalucía, que resalta la incidencia en Cádiz, Jaén, Sevilla y Málaga
Pelicot dijo sentirse "honrada" de recibir una carta de la reina Camila
Seleccionan trabajadores en Paraguay como programa piloto de contratación en origen para los frutos rojos
Cien personas han sido seleccionadas en Sudamérica con el objetivo de integrarse en las tareas agrícolas de Huelva a partir de marzo, en un nuevo esfuerzo por cubrir la demanda laboral mediante acuerdos internacionales regulados por la Orden Gecco
Rusia ataca base de misiles de Ucrania en respuesta a ataque contra instalación militar
Reino Unido anuncia el despliegue en el Ártico de su buque insignia, el portaaviones 'Príncipe de Gales'
Keir Starmer ordena una operación naval en mares septentrionales respaldada por la nave más poderosa de la flota británica, en respuesta a presiones de Washington, comprometiéndose además a fortalecer vínculos de defensa y economía con la Unión Europea
