El Procurador General aprobó un reglamento obligatorio para el uso de la inteligencia artificial en el Ministerio Público Fiscal

El Procurador General de la Nación, Eduardo Casal, aprobó un nuevo reglamento que establece cómo se podrá usar la inteligencia artificial dentro del Ministerio Público Fiscal de la Nación. La medida dispone su aplicación y seguimiento obligatorio y alcanza a cada persona que trabaje en el organismo. Su objetivo es regular el uso de estas nuevas tecnologías, dejar en claro las prohibiciones y plantear exigencias inéditas de capacitación, seguridad y supervisión humana.

El reglamento y sus restricciones principales

El protocolo obliga a que todo el personal del Ministerio cumpla lineamientos unificados sobre inteligencia artificial. Por primera vez, queda prohibido incluir información reservada, datos de causas en trámite o datos personales y sensibles en aplicaciones de IA abiertas al público, como ChatGPT, Gemini o Copilot, hasta que se determinen reglas individuales para cada caso.

La resolución también prohíbe que las decisiones judiciales o administrativas se basen únicamente en respuestas de sistemas automáticos. Según el documento, “los sistemas de inteligencia artificial pueden asistir el análisis y la clasificación de datos, pero no reemplazan el juicio jurídico ni la toma de decisiones sobre conflictos humanos”.

En otro punto de control, la resolución dispone que cada uso de IA debe contar siempre con supervisión y verificación humana. Solo operadores entrenados pueden validar resultados, y queda expresamente vedado el uso autónomo sin revisión posterior.

Amplio apoyo y alerta sobre riesgos

La resolución toma como base una encuesta interna al 40% del personal del Ministerio Público Fiscal. Allí se detectó que el 93,3% apoya la adopción regulada de inteligencia artificial, aunque solo si existe un plan de vigilancia humana constante, resguardo estricto de privacidad y reglas claras para usos permitidos y prohibidos.

Según los resultados, el 90,2% de las personas que usan IA en el organismo elige ChatGPT, un 40,6% utiliza Gemini y 16,7% Copilot. De ese universo, el 23% accede mediante abonos pagos afrontados de su bolsillo, y el 73% usa versiones gratuitas.

La mayoría emplea estas herramientas para búsqueda doctrinaria, correcciones de textos, traducciones y generación de imágenes. Pero la conducción advierte que estos sistemas no son equivalentes a bases jurídicas profesionales ni garantizan precisión. “No recolectan necesariamente información desde fuentes verificadas ni funcionan como buscadores oficiales; se entrenan con material publicado en internet y priorizan la probabilidad lingüística sobre la precisión jurídica”, alerta el documento.

Por ese motivo, el nuevo reglamento exige que nunca se usen estos modelos para fundamentar, de forma exclusiva, ninguna intervención judicial ni administrativa, y exige la validación contra fuentes oficiales y documentos del organismo.

Capacitación obligatoria y herramientas propias

La resolución encarga a la Dirección General de Capacitación y Escuela del Ministerio Público Fiscal —junto con la Secretaría de Coordinación Institucional— el armado de un programa permanente de entrenamiento práctico en inteligencia artificial. Este plan cubrirá la correcta formulación de instrucciones para los sistemas, la validación de resultados y la identificación y mitigación de sesgos.

Al mismo tiempo, la Dirección General de Desarrollo Organizacional y Nuevas Tecnologías será responsable de crear herramientas y entornos digitales propios, siguiendo estándares de seguridad y protección de datos. El objetivo, según el texto, es reducir la dependencia de plataformas abiertas y garantizar el control directo de la información institucional.

Los principios éticos y técnicos que rigen la norma

El reglamento detalla diez principios clave que orientarán cada uso de IA en el organismo. Entre ellos se destacan:

• Legalidad y respeto a los derechos humanos: Toda aplicación debe encuadrarse en leyes argentinas y tratados internacionales.
• Justicia y equidad: Los sistemas deben promover la igualdad y prevenir sesgos o trato injusto.
• Finalidad pública: La incorporación de tecnología solo puede hacerse si mejora el servicio de justicia.
• Supervisión humana: Cada resultado de IA debe ser evaluado y, si corresponde, rechazado o corregido por personal calificado.
• Protección de datos personales y privacidad: Se exige confidencialidad absoluta sobre información de causas, víctimas y testigos. “La seguridad y confidencialidad de los datos sensibles es condición indispensable”, expresa la norma.
• Transparencia y explicabilidad: Los sistemas tienen que poder ser auditados para que sus procesos sean entendibles y rastreables.
• Responsabilidad institucional: El uso de IA es atribuido a quien lo utiliza, aunque la herramienta haya sido provista por un tercero.

Evaluación rigurosa antes de implementar cualquier sistema

Toda propuesta de uso de IA debe comenzar con una identificación precisa del problema a resolver y una evaluación de si realmente la IA es la mejor alternativa, o si existen soluciones más sencillas y menos riesgosas. El protocolo exige detallar fuentes de datos, asegurar su calidad y excluir cualquier información personal o confidencial que no pueda ser debidamente anonimizada.

Previo a aprobar un sistema, hay que realizar un análisis de impacto y riesgos. Si la herramienta es evaluada como de “riesgo inaceptable” —como podría ocurrir con tecnologías de vigilancia masiva— directamente quedará prohibida. Las categorías de riesgo definen los controles y auditorías que se aplicarán.

Además, si el Ministerio opta por desarrollar una herramienta propia, debe garantizar su auditabilidad interna; si contrata un sistema externo, deberá exigir garantías de confidencialidad y condiciones para auditar y controlar los datos incluso tras la implementación.

Los lineamientos adoptan referentes internacionales, como las guías de la Organización de los Estados Americanos, la UNESCO y la OCDE, y los adaptan a la realidad argentina.

Control constante y auditoría obligatoria

Una vez implementada una herramienta, la resolución dispone protocolos de mantenimiento y supervisión periódica. Esto implica el reporte inmediato de incidentes, actualizaciones regulares y una obligación institucional de auditar los resultados y acciones vinculadas a la inteligencia artificial.

El contralor posterior estará a cargo de la Unidad de Auditoría Interna, que deberá evaluar la eficacia, los controles y aceptar sugerencias de mejora.

El documento advierte sobre la importancia de la responsabilidad individual: “El manejo responsable de la información sensible en causas judiciales es una obligación indelegable de cada operador y operadora”.

Según detalla la resolución, el propósito último es asegurar “que la tecnología esté al servicio de la justicia y no viceversa”.