Cuáles son los retos éticos de la inteligencia artificial según los científicos

El avance de la inteligencia artificial podría superar algunas capacidades humanas, según la Asociación para la Ciencia de la Conciencia Matemática (AMCS, en sus siglas en inglés), quienes publicaron una carta hablando de los retos éticos que representa esta tecnología.

La organización pone un interrogante sobre si la humanidad será capaz de “controlar, alinear y usar” estos sistemas cuando alcancen su “despertar”, teniendo en cuenta que hay sistemas que ya están demostrando tener conciencia y rasgos humanos.

La IA está tomando conciencia

En el documento los científicos aseguran que “la conciencia le daría a la IA un lugar en nuestro panorama moral, lo que plantea más preocupaciones éticas, legales y políticas”, ya que tendría capacidades como la libertad y la autonomía de un ser humano.

Algo que no ven lejos, porque según sus investigaciones, los sistemas de IA contemporáneos ya muestran rasgos humanos reconocidos en la psicología.

Un ejemplo para entender los retos éticos es lo que logró Bard, la inteligencia artificial de Google, que aprendió un nuevo idioma por su propia cuenta y ha sido capaz de reflexionar sobre el dolor que sienten los humanos y temas de redención.

Un progreso que, según los investigadores, se da debido a que estos sistemas usan redes neuronales artificiales inspiradas en la arquitectura neuronal en la corteza cerebral de los animales. Por lo que consideran que es “inevitable” que estas tecnologías se usen para representar un nivel superior y que “tengan sentimientos e incluso una conciencia”.

Este avance abre las puertas a que la construcción de esa conciencia “probablemente revelará una nueva gama de capacidades que van mucho más allá de lo que esperan, incluso, aquellos que encabezan su desarrollo”.

Por lo que hicieron un llamado de atención al sector tecnológico para que invierta en el estudio de estas posibilidades y les permita estar preparados para tomar decisiones sobre su impacto.

También, consideran que es importante que el público en general, las instituciones sociales y los órganos de gobierno tengan el conocimiento oportuno para saber cuando la IA tiene la capacidad de volverse consciente, lo que ayudará a abordar los nuevos retos éticos, de seguridad y sociales que impliquen el progreso de esta tecnología.

“La investigación en la conciencia es un componente clave para ayudar a la humanidad a comprender la IA y sus ramificaciones. Es esencial para gestionar las implicaciones éticas y sociales de la IA y para garantizar la seguridad de la IA. No se debe dejar que la investigación de la IA deambule sola”, aseguró la organización en la carta abierta.

Musk dice que la IA puede destruir a la civilización

Elon Musk advirtió sobre las capacidades destructivas que tiene la inteligencia artificial si no se controla adecuadamente.

“La Inteligencia Artificial es más peligrosa que un mal diseño de la producción de aeronaves o una mala producción de automóviles. En el sentido de que tiene el potencial, por pequeña que sea la probabilidad, pero no es trivial, tiene el potencial de destrucción de la civilización. Cualquiera que piense que tiene riesgo es 0% es un idiota”, aseguró el dueño de Twitter en una entrevista con Fox News.

Para solucionarlo considera que debería existir algún tipo de autoridad reguladora que supervise el desarrollo de esta tecnología y que asegure que todas las empresas operen bajo el interés público.

Declaraciones que se dieron al mismo tiempo que se conoció que el multimillonario creó una empresa llamada X.AI y empezará su camino para competir con las grandes compañías que se imponen en el sector, como OpenAI.

Además de esto, se inició la venta de 100 millones de acciones, con el objetivo de recibir inversión privada para comenzar con el desarrollo tecnológico.