Cada vez más gobiernos incorporan inteligencia artificial (IA) para automatizar procesos, analizar datos y optimizar servicios públicos. Sin embargo, el avance de estas tecnologías también plantea un desafío: garantizar que los sistemas sean seguros, transparentes y puedan ser auditados.
Según una investigación de Gartner, el 74% de las entidades estatales ya implementó o planea introducir soluciones de IA en los próximos 12 meses, con especial interés en la inteligencia artificial generativa (78 %) y los agentes de IA (49 %). Ante este crecimiento, el código abierto (open source) gana protagonismo como una alternativa para fortalecer el control sobre las plataformas y reducir riesgos asociados a la dependencia tecnológica.
A diferencia de los modelos cerrados, las tecnologías open source permiten revisar, auditar y adaptar el funcionamiento de los sistemas, una característica que resulta estratégica para gobiernos que buscan mayor transparencia sobre cómo se procesan los datos y cómo operan los algoritmos.
La confianza se convierte en el gran desafío
El crecimiento de la inteligencia artificial en la administración estatal también aumenta las preocupaciones relacionadas con la seguridad, la protección de datos y la confianza ciudadana. Riesgos como los deepfakes, la suplantación de identidad digital y las campañas de desinformación obligan a los gobiernos a reforzar los controles sobre la información que utilizan estos sistemas.
El siguiente paso para las entidades públicas ya no será únicamente incorporar IA, sino demostrar que las decisiones tomadas por estas herramientas son confiables, transparentes y pueden ser verificadas.
De hecho, Gartner proyecta que para 2028 el 40% de las organizaciones gubernamentales contará con equipos especializados de TrustOps (Operaciones de Confianza), una disciplina orientada a proteger la integridad de los datos, verificar la autenticidad de la información y detectar amenazas en tiempo real.
Según especialistas, este enfoque combina seguridad, gobernanza y monitoreo continuo para reducir riesgos asociados con fraudes digitales, manipulación de información y vulnerabilidades en sistemas críticos.
“No basta con tener acceso a los datos o a los modelos; es necesario garantizar la procedencia de la información, la integridad de los procesos y la trazabilidad de las decisiones", afirmó Gilson Magalhães, vicepresidente y general manager para América Latina en Red Hat.
América Latina también enfrenta el reto
El debate no es exclusivo de los países más desarrollados. Especialmente en América Latina, el uso de tecnologías open source para construir un modelo operativo abierto, seguro y escalable en la era de la IA será esencial.
De acuerdo con la Organización para la Cooperación y el Desarrollo Económicos (OCDE), aunque la inteligencia artificial ya hace parte de la agenda de la mayoría de los gobiernos de América Latina, su implementación continúa siendo desigual y enfrenta retos relacionados con la transparencia, la ética y la confianza pública.
Tras analizar cerca de 200 casos de uso de IA en 11 funciones gubernamentales, la OCDE identificó riesgos asociados con la protección de datos, la gobernanza y la seguridad en todas las iniciativas evaluadas.
“La discusión sobre la IA en el sector público está directamente vinculada con la soberanía digital. Los gobiernos necesitan libertad para elegir tecnologías, preservar el control sobre sus datos y evitar dependencias excesivas de plataformas propietarias”, señaló Martha Ardila, Country Manager en Red Hat Centroamérica, Caribe, Perú y Bolivia.
De acuerdo con los expertos, gracias al uso de tecnologías open source, estas organizaciones pueden mejorar la eficiencia operativa mediante la estandarización de la infraestructura, la expansión de la automatización, la gestión eficiente de entornos híbridos y la optimización continua de las operaciones basadas en datos.
“Las plataformas abiertas ofrecen una base consistente para el desarrollo y la implementación de iniciativas de IA, garantizando interoperabilidad, gobernanza y un mayor control sobre los datos estratégicos”, explica Thiago Araki, director sénior de tecnología para América Latina en Red Hat.
Brasil y México ya avanzan en proyectos de IA
Diversas instituciones de la región ya trabajan en proyectos para modernizar su infraestructura tecnológica y facilitar la incorporación de inteligencia artificial.
Entre ellas se encuentran el Ministerio Público del Estado de Rondônia (MPRO), en Brasil, la institución encontró en Red Hat OpenShift el camino para modernizar la gestión de su infraestructura sin necesidad de reescribir el código de sistemas heredados.
Actualmente trabaja en la consolidación de su estrategia de IA mediante la adopción de Red Hat OpenShift AI, lo que le permitirá gestionar el ciclo de vida completo de proyectos de machine learning y fortalecer sus capacidades de IA con mayor escalabilidad y gobernanza.
Por otro lado, el Instituto Mexicano del Seguro Social (IMSS), transformó una infraestructura obsoleta en un modelo eficiente basado en microservicios con Red Hat OpenShift. De acuerdo con la organización, la modernización no solo redujo los tiempos de implementación de semanas a días, sino que también ayudó a garantizar la estabilidad de servicios críticos y a preparar a la institución para la adopción de IA.
El desafío ya no es adoptar IA, sino confiar en ella
La confianza en la IA estatal no depende únicamente del software final, sino también del modo en que las aplicaciones se desarrollan, distribuyen y mantienen. En un contexto de ataques crecientes a la cadena de suministro de software, los expertos consideran que la seguridad debe estar presente desde las primeras etapas del ciclo de desarrollo.
El enfoque actual contempla prácticas de automatización, validación continua, firma criptográfica de artefactos, monitoreo constante de vulnerabilidades e integración de capacidades de seguridad en los flujos de trabajo de IA.
Daniel Romero, gerente sénior de automatización para América Latina en Red Hat, indicó que la automatización reduce la exposición a errores humanos, acelera la aplicación de políticas de seguridad y garantiza la consistencia operativa a gran escala. En el ámbito gubernamental, estas capacidades adquieren carácter estratégico.
Garantizar que los datos sean auténticos, que las decisiones puedan auditarse y que los sistemas operen bajo criterios de seguridad será determinante para que ciudadanos y gobiernos puedan aprovechar el potencial de la IA sin comprometer la integridad de los servicios.
Más Noticias
Emprender lejos de casa: así es la vida de una familia colombo-española en Bogotá
Sara y Jorge han construido su vida familiar en torno a la organización del tiempo y el trabajo compartido; los acompañamos en un día de su rutina junto a Volkswagen
El presupuesto de la salud en Colombia creció 60% en cuatro años y alcanzará una cifra récord en 2026
Los recursos administrados por la ADRES pasarán de $71,6 billones en 2022 a más de $115 billones en 2026
La Fórmula 1 mueve casi USD 4.000 millones y se convierte en un imán para nuevas marcas
La categoría se convirtió en una plataforma global de negocios que atrae inversiones de sectores como tecnología, entretenimiento y apuestas digitales
Ambientes laborales que marcan el futuro: así se construyen Los Mejores Lugares para Trabajar(™) en México
El análisis de Great Place to Work® México permite identificar tendencias, sectores dinámicos y las claves del crecimiento empresarial a través de la gestión del talento.
El secreto detrás de las licitaciones: cómo se definen las ofertas en grandes contratos de arrendamiento vehicular
Las diferencias mínimas entre algunas ofertas y la distancia respecto a la propuesta más baja han encendido alertas entre especialistas
