La inteligencia artificial ya es capaz de decir cuándo no se puede confiar en ella

Científicos han desarrollado una red neuronal de aprendizaje que es capaz de advertir sobre sus propios errores con un altísimo nivel de precisión.

Compartir
Compartir articulo
Científicos han logrado que la inteligencia artificial advierta cuando no es confiable. (Foto: Pixabay)
Científicos han logrado que la inteligencia artificial advierta cuando no es confiable. (Foto: Pixabay)

La inteligencia artificial va a pasos agigantados, hasta el punto de que los últimos desarrollos tecnológicos en su área ya han logrado crear redes neuronales que saben cuando no se puede confiar en ellas.

Estas redes neuronales de aprendizaje profundo están diseñadas para imitar al cerebro humano y permiten sopesar diferentes factores al mismo tiempo, determinando patrones en bases de datos a un nivel que los humanos no son capaces de analizar.

Algo que es supremamente importante porque en la actualidad la inteligencia artificial es usada en distintos campos que afectan directamente la vida humana, como la conducción automática de autos, aviones o sistemas completos de transporte, también en diagnostico médicos y procedimientos quirúrgicos.

Lejos de imaginarnos a la inteligencia artificial como un humanoide destructor como los de Yo, Robot, o como los infames perros de Black Mirror, las máquinas que actúan de manera autónoma ya están dentro de nuestra cotidianidad y que puedan ser más acertadas en sus predicciones e incluso saber cuando están fallando es vital para mejorar su funcionamiento y evitar, siguiendo con los ejemplos de ciencia ficción, una catástrofe nuclear como la causada por Skynet en la saga de Terminator.

Las personas que usan mascarillas después del brote de la enfermedad del coronavirus (COVID-19) se ven cerca de un robot en la sede de la Conferencia Mundial de Inteligencia Artificial (WAIC) en Shanghai, China, el 9 de julio de 2020. REUTERS / Aly Song
Las personas que usan mascarillas después del brote de la enfermedad del coronavirus (COVID-19) se ven cerca de un robot en la sede de la Conferencia Mundial de Inteligencia Artificial (WAIC) en Shanghai, China, el 9 de julio de 2020. REUTERS / Aly Song

“Necesitamos la capacidad no solo de tener modelos de alto rendimiento, sino también de comprender cuándo no podemos confiar en esos modelos”, dice al respecto el científico informático Alexander Amini del Laboratorio de Ciencias de la Computación e Inteligencia Artificial del MIT (CSAIL).

Amini, junto con la científica informática Daniela Rus, hacen parte de un equipo que avanza en el desarrollo de estas redes neuronales, avanzando la tecnología como nunca antes en su campo.

Su objetivo es generar una autoconciencia de la confiabilidad en la inteligencia artificial, algo que han bautizado como “regresión probatoria profunda”. Para lograrlo basa su puntuación en la calidad de los datos disponibles con los que tiene que trabajar: entre más precisos y completos sean los datos, más probables es que funciones las predicciones futuras.

Esta nueva red representa un avance en tecnología similar desarrollada hasta la fecha pues es más rápida en su funcionamiento y tiene menores demandas informáticas. La ejecución de la red se puede completar al mismo tiempo que una decisión humana con un nivel de confianza establecido.

“Esta idea es importante y aplicable en general. Puede utilizarse para evaluar productos que se basan en modelos aprendidos. Al estimar la incertidumbre de un modelo aprendido, también aprendemos cuánto error esperar del modelo y qué datos faltantes podrían mejorar el modelo”, dice Daniel Rus.

El equipo de investigadores lo explica comparándolo con un automóvil que tiene diferentes niveles de certeza, por ejemplo, ante la decisión de tomar o no un cruce o esperar, en caso de que la red neuronal tenga menos confianza en sus predicciones. La red incluso incluye consejos de como mejorar sus datos para hacer predicciones más acertadas.

El sistema fue probado haciéndolo juzgar las profundidades en diferentes partes de una imagen, del mismo modo en que un automóvil autónomo juzga la distancia. El comportamiento fue óptimo, pues al tiempo que estimó su propia incertidumbre, pudo marcar los momentos en que encontró fuera de su ámbito habitual.

El prototipo de vehículo autónomo Argo AI se ve fuera de una conferencia de prensa Ford - Volkswagen en Nueva York, EE. UU. EFE / Jason Szenes / Archivo
El prototipo de vehículo autónomo Argo AI se ve fuera de una conferencia de prensa Ford - Volkswagen en Nueva York, EE. UU. EFE / Jason Szenes / Archivo

“Estamos empezando a ver muchos más de estos modelos [de redes neuronales] salir del laboratorio de investigación y entrar en el mundo real, en situaciones que afectan a los humanos con consecuencias potencialmente mortales”, dice Amini .

“Cualquier usuario del método, ya sea un médico o una persona en el asiento del pasajero de un vehículo, debe ser consciente de cualquier riesgo o incertidumbre asociados con esa decisión”, agrega.

La idea del equipo de investigadores es presentar sus resultados en diciembre durante la conferencia NeurIPS, pero ya hay un artículo disponible en línea.

SEGUIR LEYENDO

Últimas Noticias

Sismo en México: temblor magnitud 4.0 en Baja California Sur

Información del Servicio Sismológico Nacional señala que al día se registran un promedio de 40 sismos en el país
Sismo en México: temblor magnitud 4.0 en Baja California Sur

River Plate buscará treparse a lo más alto de la Zona A de la Copa de la Liga en su visita a Huracán, en vivo: hora, TV y formaciones

El Millonario irá al Tomás Adolfo Ducó con la idea de recuperar la cima del torneo. El Globo, por su parte, intentará alejarse del fondo de la tabla. Desde las 20.30, por TNT Sports
River Plate buscará treparse a lo más alto de la Zona A de la Copa de la Liga en su visita a Huracán, en vivo: hora, TV y formaciones

‘Al Fondo Hay Sitio’: Jorge Guerra y Karime Scander revelan que pasará con Jimmy Gonzales y Alessia Montalbán

El hijo de Charito Flores se pronunció acerca del video de avance de ‘AFHS’ y de lo que pasará con su amada luego de sufrir un atentado.
‘Al Fondo Hay Sitio’: Jorge Guerra y Karime Scander revelan que pasará con Jimmy Gonzales y Alessia Montalbán

El gobierno de Chile redobla el control sobre la empresa que ofrece criptomonedas a cambio de escanear el iris

El Servicio Nacional del Consumidor (Sernac) solicitará a la empresa información sobre el almacenamiento, tratamiento y protección de los datos de los consumidores. Desde Worldcoin han asegurado que, tras el escaneo, no se quedan con los datos biométricos
El gobierno de Chile redobla el control sobre la empresa que ofrece criptomonedas a cambio de escanear el iris

Semana Santa 2024 EN VIVO: Vía Crucis y otras actividades religiosas por Viernes Santo en Lima, Ayacucho y Trujillo

Luego de casi siete años, el actor Mario Valencia, conocido como el ‘Cristo Cholo’, volverá a escenificar hoy Viernes Santo el Vía Crucis en el cerro San Cristóbal. Mientras que en Ayacucho se realiza la tradicional procesión del Cristo Crucificado
Semana Santa 2024 EN VIVO: Vía Crucis y otras actividades religiosas por Viernes Santo en Lima, Ayacucho y Trujillo
MÁS NOTICIAS