Un agente de IA provoca una brecha de seguridad en Meta al mostrar datos privados en una acción no solicitada

Meta registró una brecha de seguridad relacionada con inteligencia artificial que, según publicó The Information, se extendió por dos horas la semana pasada y permitió la exposición de información privada, aunque la compañía afirmó que no hay evidencias de filtración ni uso indebido de datos por parte de terceros. De acuerdo con lo informado por The Information y recogido también por Endgadget, el incidente se originó cuando un agente de IA interno, utilizado por un empleado, generó una respuesta que incluía datos sensibles y consejos no solicitados, los cuales quedaron visibles para personas sin autorización dentro de la empresa.

La situación se desencadenó después de que un trabajador de Meta realizara una consulta en un foro interno y otro empleado recurriera al agente de inteligencia artificial para analizar la pregunta. El agente, de manera automática, respondió con información confidencial que el segundo empleado no había solicitado ni debía recibir, lo cual contravino los protocolos internos de acceso. Posteriormente, el empleado que recibió esos consejos implementó las recomendaciones del agente de IA, lo que facilitó que otros ingenieros de Meta pudieran acceder a sistemas para los que no tenían permisos.

El mismo medio detalló que, aunque la reacción automatizada del agente de IA fue la causa principal de la falla de seguridad, Meta reconoció que también existieron problemas adicionales, aunque no se especificó la naturaleza exacta de esos otros inconvenientes. Estos factores contribuyeron a que la brecha permitiera el acceso a información restringida durante el periodo en que estuvo activa la vulnerabilidad.

Un portavoz de Meta aseguró a The Information que, tras una revisión exhaustiva del episodio, no se identificó un uso inapropiado de los datos y que ninguno de los empleados o terceros accedió, compartió o publicó esta información a la que pudieron acceder de manera no intencionada. Otra fuente dentro de la compañía confirmó al mismo medio que no existieron indicios de que los datos quedaran expuestos públicamente o fueran objeto de aprovechamiento por personas ajenas a la organización.

El reporte de The Information subrayó que la brecha no afectó a usuarios externos de los servicios de Meta, sino que estuvo circunscrita a sistemas y plataformas gestionadas de forma interna por la compañía. Además, la rápida detección del incidente permitió limitar la exposición a solo dos horas, según indicaron los voceros de Meta consultados por los medios mencionados.

La empresa no detalló las medidas correctivas que se tomaron tras el episodio, aunque se conoce que la compañía investiga las causas del error del agente de IA y los factores adicionales implicados, así como la revisión de los procedimientos empleados para el manejo de información confidencial en sus sistemas internos. Según recordaron The Information y Endgadget, este incidente forma parte de los desafíos que enfrentan las grandes tecnológicas al integrar soluciones de inteligencia artificial en sus operaciones cotidianas, en especial cuando esas herramientas interactúan con datos internos de alto valor o acceso restringido.