Google ha lanzado el Instituto DeepMind, una nueva plataforma dedicada a reunir a investigadores y pensadores para debatir sobre el desarrollo, la seguridad y las consecuencias de la Inteligencia Artificial General (AGI).
El proyecto llega en un momento en el que los principales laboratorios tecnológicos buscan avanzar hacia sistemas de IA cada vez más capaces, mientras crece el debate sobre cómo controlar sus posibles riesgos.
PUBLICIDAD
El instituto pretende reunir diferentes perspectivas para analizar cuestiones técnicas y sociales relacionadas con la AGI, desde la seguridad de estos sistemas hasta el impacto que podrían tener en el trabajo, las instituciones y la propia sociedad.
La iniciativa está dirigida por figuras de alto nivel de Google DeepMind y Alphabet: Shane Legg, cofundador y científico jefe de AGI de Google DeepMind; Demis Hassabis, cofundador y presidente del laboratorio y científico jefe de Alphabet; y James Manyika, presidente de investigación, laboratorios, tecnología y sociedad de Google.
Aunque la plataforma está vinculada a Google, sus responsables aclaran que los artículos publicados representan las opiniones de sus autores y no deben interpretarse como posiciones oficiales de la compañía.
PUBLICIDAD
Una plataforma abierta al debate sobre la AGI
El Instituto DeepMind busca publicar ensayos y análisis sobre las preguntas que plantea el desarrollo de una inteligencia artificial general. Además de investigadores de Google y DeepMind, la organización espera contar con aportaciones de la comunidad científica y de especialistas de otras áreas.
Sus responsables reconocen que los autores no necesariamente estarán de acuerdo entre sí. Precisamente, la intención es fomentar un debate que reúna diferentes puntos de vista sobre una tecnología que podría tener consecuencias más amplias que las estrictamente relacionadas con la informática.
La AGI suele utilizarse para describir sistemas de inteligencia artificial capaces de realizar una amplia variedad de tareas cognitivas con un nivel comparable al de los seres humanos. Sin embargo, no existe una definición única aceptada por toda la industria.
PUBLICIDAD
El ensayo de lanzamiento del instituto propone una definición especialmente ambiciosa: un sistema que presente todas las capacidades cognitivas del cerebro humano.
Google DeepMind reconoce riesgos que ya están presentes
Los responsables del instituto consideran que los sistemas actuales todavía presentan deficiencias en determinadas tareas, aunque esperan que algunas de estas limitaciones puedan reducirse próximamente.
Al mismo tiempo, identifican varios riesgos asociados al desarrollo de modelos cada vez más avanzados. Entre ellos mencionan la ciberseguridad, los riesgos biológicos y la posibilidad de que futuros sistemas de autoaprendizaje sean más difíciles de controlar.
Este último punto está relacionado con una de las principales cuestiones que plantea el desarrollo de agentes de IA más autónomos: determinar hasta qué punto los seres humanos podrán supervisar y limitar sistemas capaces de ejecutar tareas durante largos periodos y utilizar herramientas por su cuenta.
PUBLICIDAD
El instituto no plantea estas cuestiones únicamente como problemas tecnológicos. Sus responsables consideran que también requieren respuestas desde ámbitos como las ciencias sociales, las humanidades, las artes y los gobiernos.
Las preguntas que plantea una futura AGI
Entre los temas que el Instituto DeepMind quiere abordar se encuentran los cambios que podría provocar la AGI en la sociedad y en la forma en que las personas entienden conceptos como el trabajo, la creatividad o la propia condición humana.
También pretende estudiar cómo deberían diseñarse y administrarse de forma segura los sistemas de AGI y las comunidades formadas por múltiples agentes de inteligencia artificial.
Otro de los grandes debates estará relacionado con las instituciones. Si estos sistemas alcanzan capacidades mucho mayores que las actuales, podrían ser necesarias nuevas normas, estructuras de supervisión o modificaciones en las existentes.
PUBLICIDAD
Los responsables del instituto sostienen que no existe todavía una respuesta definitiva sobre cómo desarrollar e implementar una AGI de forma responsable. Por ello, consideran que la discusión no debería quedar limitada a los expertos tecnológicos.
El Instituto DeepMind pretende convertirse así en un espacio de debate sobre una tecnología que todavía no existe en su forma más ambiciosa, pero cuyo posible desarrollo ya está generando preguntas sobre seguridad, gobernanza y el impacto que tendría una inteligencia artificial con capacidades cognitivas similares a las humanas.
PUBLICIDAD
PUBLICIDAD
Últimas Noticias
Amazon revive el marco digital de fotos con una versión que elige tus mejores imágenes con IA
Con una pantalla táctil de 10 pulgadas, comandos de voz y conexión con Amazon Photos, el nuevo equipo busca transformar la manera de conservar y compartir recuerdos en casa
Apple prepara un robot de escritorio de 1.000 dólares con un brazo y una pantalla
El lanzamiento del dispositivo se retrasaría hasta 2028 por la empresa no se pone de acuerdo sobre qué funciones incluir
Apple advierte de un aumento “sin precedentes” en los precios de los chips de memoria
John Ternus anticipó que los costos de la memoria seguirán aumentando durante el último trimestre del año, pese a los ajustes de precios que la compañía aplicó a sus principales dispositivos
Actualiza ya mismo tu Android: un mensaje de texto invisible puede bloquear el celular y dejarlo sin señal
Los usuarios no sabían que un SMS manipulado podía activar fallas en el teléfono, cortar llamadas y dejarlo sin cobertura sin necesidad de abrirlo ni recibir una notificación
Guía para crear imágenes de Las Guerreras K-pop como Akatsuki de Naruto
Un prompt detallado permite que Gemini transforme a tres idols en antagonistas del anime de ninjas
