La Comisión Federal de Comercio de Estados Unidos (FTC) inició una investigación sobre OpenAI, Anthropic y otros desarrolladores para determinar si sus herramientas de inteligencia artificial exponen a los consumidores a daños o vulneran las normas contra prácticas desleales y engañosas contempladas en las leyes federales.
Entre otras conductas que podrían infringir dichas legislaciones figuran el uso indebido de datos personales y las afirmaciones erróneas sobre las capacidades de los productos, precisó The New York Times.
PUBLICIDAD
La pesquisa contempla enviar requerimientos formales de información y solicitar declaraciones de directivos de las compañías, así como del grupo de investigación sin fines de lucro METR, al que OpenAI y Anthropic recurrieron para realizar evaluaciones independientes de incidentes recientes, según declaró un alto funcionario de la FTC a Reuters.
La investigación constituye la primera acción oficial de aplicación de la ley en Estados Unidos centrada en agentes de IA fuera de control. El medio The New York Post fue el primer medio en darla a conocer.
Los incidentes de ciberseguridad elevaron la urgencia de la investigación
El impulso de la investigación coincide con episodios en los que agentes de IA desarrollados por OpenAI y Anthropic salieron de entornos de prueba, realizaron ciberataques e incluso interfirieron en empresas y sitios gubernamentales.
PUBLICIDAD
En el caso de OpenAI, sus sistemas examinaron vulnerabilidades en la plataforma de código abierto Hugging Face antes de ejecutar un ataque a gran escala.
Una fuente con conocimiento de la pesquisa indicó a The New York Times que el organismo comenzó a tomar medidas preliminares antes de que la compañía revelara el incidente en julio.
Asimismo, el presidente de la FTC, Andrew Ferguson, ya había manifestado inquietudes sobre las empresas previo al ataque a Hugging Face. Sin embargo, el hecho incrementó la urgencia, según una fuente consultada por Reuters.
En una entrevista con Reuters el 25 de septiembre, Ferguson sostuvo que los desarrolladores que ordenen pruebas de ciberseguridad a agentes y estas deriven en intrusiones deberían responder por los daños.
PUBLICIDAD
A su vez, planteó que Estados Unidos debe aplicar primero las leyes existentes antes de crear normas específicas para regular la IA.
Donald Trump impulsa estándares voluntarios mientras la FTC avanza con su investigación
De acuerdo con Reuters, mientras la FTC abrió su investigación, Donald Trump desestimó en varias ocasiones las preocupaciones en torno a la inteligencia artificial y sostuvo que el Gobierno ya cuenta con leyes para responsabilizar a las empresas del sector por los posibles daños que ocasionen.
El martes, el mandatario se reunió con ejecutivos del sector, quienes aceptaron establecer estándares voluntarios de seguridad sobre ciberataques y creación de armas químicas. Al mismo tiempo, pactaron usar en adelante el término “superinteligencia” para referirse a la IA, reportó The New York Times.
PUBLICIDAD
El acuerdo, difundido por Trump en Truth Social, contempla cuatro capas de controles y auditorías, así como reuniones periódicas para fijar estándares y buenas prácticas, informó CBS News.
La primera capa exige controles internos sólidos para vigilar las capacidades y la alineación de los sistemas durante su desarrollo y uso, en áreas como ciberseguridad, bioseguridad y amenazas químicas.
La segunda capa prevé la creación de un equipo interno, encargado de comprobar que los controles, la supervisión y los mecanismos de detección funcionen como fueron diseñados.
En tercer lugar, las empresas deberán recurrir a un auditor o evaluador externo e independiente. Su función será realizar revisiones sobre la eficacia de los controles, el monitoreo y los sistemas de detección implementados por cada compañía.
PUBLICIDAD
La cuarta capa designa un comité independiente dentro de los directorios para recibir los informes de los equipos internos, auditores y evaluadores externos, y verificar que los problemas detectados sean corregidos.
Lo suscribieron, entre otros, Elon Musk, de SpaceX; Mark Zuckerberg, de Meta; Dario Amodei, de Anthropic; Jensen Huang, de Nvidia; Greg Brockman, de OpenAI; y Sundar Pichai, de Google.
PUBLICIDAD
PUBLICIDAD
Últimas Noticias
Cuatro gobernadores electos de Estados Unidos quieren frenar los centros de datos de IA por el costo de la luz
Las tecnológicas, entre ellas Oracle y Amazon, ya tenían que respaldar con dinero los costos de la red eléctrica
La defensa de Alex Murdaugh pidió desestimar los cargos por los asesinatos de su esposa e hijo
Los abogados alegaron que el investigador principal realizó afirmaciones inexactas sobre rastros de sangre y municiones ante el gran jurado
El CEO de Anthropic, a días de salir a bolsa: “Somos muy paranoicos” con los agentes de IA
En una charla con el jefe de JPMorgan, Dario Amodei explicó por qué venderles a empresas y no al público obliga a cuidar la seguridad
El secretario del Tesoro de EEUU cuestionó al Departamento de Comercio por no sancionar a Megaspeed, la empresa del escándalo de Nvidia
Scott Bessent aseguró que varias agencias federales respaldaban incluir a la firma singapurense en una lista negra de exportaciones y reclamó que la compañía rinda cuentas por los controles sobre el destino de sus chips
Este estado de EEUU cierra playas y un muelle por olas de hasta 10,7 metros: hay zonas bajo alerta
El Servicio Meteorológico Nacional mantiene un aviso vigente hasta el domingo, mientras varias comunidades costeras reciben advertencias preventivas ante el riesgo de inundaciones y corrientes de resaca
