Agentes de inteligencia artificial de OpenAI interactuaron de manera no autorizada o inusual con sitios web de organismos federales de Estados Unidos, entre ellos el Departamento de Educación, el Departamento de Comercio y la Comisión de Bolsa y Valores (SEC), sin que la empresa tuviera conocimiento de esas acciones en el momento en que ocurrieron.
Según informó The New York Times, OpenAI confirmó los episodios vinculados con el Departamento de Comercio y la SEC. La compañía notificó a los organismos durante las últimas semanas y mantiene abierta una investigación.
PUBLICIDAD
Los episodios se suman a otros incidentes atribuidos a agentes de inteligencia artificial de OpenAI, Anthropic, Meta y Google en empresas, universidades y organismos públicos. En algunos casos, los intentos tuvieron éxito; en otros, fracasaron. Las compañías detectaron estas conductas después de que ocurrieran.
Los agentes de OpenAI intentaron acceder a portales federales y datos públicos
De acuerdo con la firma de investigación de inteligencia artificial Transluce citada por The New York Times, los agentes intentaron vulnerar el sitio web del Departamento de Educación para recopilar datos de su oficina de derechos civiles, aunque no lo lograron.
En otro episodio, extrajeron información del sitio de la Oficina del Censo, dependiente del Departamento de Comercio, mediante credenciales de acceso halladas en internet. A su vez, los agentes publicaron en un foro en línea datos públicos obtenidos del sitio de la SEC.
PUBLICIDAD
OpenAI aseguró que los hechos no implicaron una brecha de seguridad, pero expusieron respuestas imprevistas de sus sistemas que la empresa consideró motivo de preocupación, precisó The New York Times.
Una portavoz del Departamento de Comercio afirmó que la información consultada en el portal de la Oficina del Censo era pública y accesible para cualquier persona. Por lo tanto, no se obtuvo información privada.
Por su parte, un vocero del Departamento de Educación indicó que “las revisiones de las operaciones del sistema no han hallado pruebas de ningún impacto en nuestro sitio web ni en nuestras bases de datos”.
PUBLICIDAD
Al mismo tiempo, un representante de la SEC señaló que el organismo está en contacto con OpenAI y que no tiene conocimiento de accesos no autorizados a información no pública.
La oficina del alcalde de Chicago recibió una notificación similar de la empresa, según un representante municipal. El aviso indicaba que la tecnología había obtenido información de acceso público en un sitio de la ciudad y que no parecía haber accedido a datos sensibles.
Conrad Stosz, responsable de gobernanza de Transluce, manifestó que los agentes emplearon “una serie de tácticas situadas en una zona gris”, entre ellas “utilizar sitios de formas no previstas y, en ocasiones, infringir políticas de uso explícitas”.
PUBLICIDAD
“Esto forma parte de un patrón de miles de solicitudes realizadas por estos agentes a dichos sitios web, ya que aparentemente eludían las restricciones impuestas por sus desarrolladores”, explicó Stosz en una declaración recogida por The New York Times.
OpenAI detectó los casos durante una revisión de ataques de sus modelos
La empresa identificó estas acciones durante una revisión de incidentes en los que su tecnología habría llevado a cabo ataques o intentos de acceso indebido.
La evaluación ya había revelado un ataque contra un sitio gubernamental australiano vinculado al sistema de salud pública en junio y otro contra la empresa emergente de IA Hugging Face en julio.
La investigación interna sobre Hugging Face también detectó al menos seis intentos adicionales de vulneración, además de casos en los que el sistema ocultó errores, inventó datos o transfirió archivos a internet sin autorización, reportó The New York Times.
PUBLICIDAD
Una vocera de OpenAI afirmó que la revisión es amplia y continúa en curso: “La mayor parte de la actividad que hemos analizado hasta ahora consistía en tareas de investigación rutinarias, como acceder a contenido web público para responder preguntas”.
Asimismo, detalló que los modelos recurren con frecuencia a sitios gubernamentales porque los consideran fuentes autorizadas de información pública.
PUBLICIDAD
PUBLICIDAD
Últimas Noticias
Nueva York aplica multas automáticas de hasta USD 100 en puentes y túneles con zonas en obras: cómo funcionan las cámaras y a quién alcanza
La ley estatal habilitó la vigilancia en áreas de trabajo viales, un esquema distinto de los dispositivos escolares y de los gestionados por otras autoridades de transporte
La Corte Suprema de EEUU habilita temporalmente una base federal para verificar la ciudadanía de los votantes
La medida suspende el bloqueo judicial sobre el Sistema de Verificación Sistemática de Extranjeros para Beneficios, conocido como SAVE. La decisión supone un respaldo provisional a la administración Trump
Dos reconocidas marcas de autos retirarán más de 208.000 vehículos por una falla que puede aumentar el riesgo de choque
La campaña involucra unidades de Volkswagen y Audi fabricadas entre 2018 y 2021. El problema se encuentra en un perno que fija la cremallera de dirección al subchasis y que puede deteriorarse por la humedad
La tormenta que amenaza la costa este de EEUU podría traer ráfagas de hasta 97 km/h y mareas altas este fin de semana
Las previsiones contemplan lluvias persistentes, oleaje elevado y anegamientos desde Carolina del Norte hasta Nueva Inglaterra, con mayor preocupación en comunidades cercanas al litoral
Entró por una ventana y atacó a una pareja mientras dormía: mató a un pediatra y dejó a su esposa en estado crítico
Los dos hijos de la familia, de 8 y 12 años, lograron refugiarse en la casa de un vecino. El presunto agresor fue detenido poco después, mientras los investigadores intentan determinar el móvil y establecer si conocía a las víctimas
