El jueves 23 de abril, Sam Altman firmó una carta de disculpa a la comunidad de Tumbler Ridge, un pueblo de 2.300 habitantes al pie de las Montañas Rocosas canadienses. La carta se publicó al día siguiente. En ella, el director ejecutivo de OpenAI reconoció que la empresa no avisó a las autoridades cuando sus propios sistemas detectaron actividad alarmante en una cuenta de ChatGPT.
Esa cuenta era la de Jesse Van Rootselaar, la joven de 18 años que el 10 de febrero entró a la escuela secundaria de Tumbler Ridge y mató a cinco niños y una profesora, después de haber asesinado en una vivienda cercana a su madre y a su hermano de once años.
PUBLICIDAD
Hubo 27 heridos, dos de gravedad. Es el peor tiroteo escolar de Canadá en casi cuatro décadas.
La discusión pública sobre esta tragedia se viene contando como una historia sobre los riesgos de la inteligencia artificial. Esa lectura es cómoda y es falsa.
PUBLICIDAD
La detección funcionó: la cadena de mando falló
Los sistemas automatizados de OpenAI detectaron la cuenta de Van Rootselaar en junio de 2025, ocho meses antes del ataque. La marcaron por uso del modelo “para fomentar actividades violentas”. La cuenta fue suspendida. Hasta ahí, el procedimiento estándar.
Lo que reveló The Wall Street Journal y amplió The Next Web esta semana es lo que pasó después de la suspensión. Aproximadamente una docena de empleados de OpenAI revisó el caso. Algunos recomendaron alertar a las fuerzas del orden. La conducción de la empresa los sobrepasó: aplicó un “umbral más alto” y concluyó que las conversaciones no llegaban a “riesgo inminente y creíble de daño físico grave a otros”.
PUBLICIDAD
No hubo aviso a la policía. No hubo aviso a la familia. La cuenta quedó suspendida y el archivo cerrado.
El argumento técnico que la industria viene usando hace tres años para evitar la regulación dice que los modelos son demasiado complejos para confiar en su criterio, y por eso hay que dejar la responsabilidad en manos humanas.
PUBLICIDAD
En Tumbler Ridge ocurrió exactamente eso. La parte automatizada hizo lo que tenía que hacer. La decisión humana, que es la que la propia industria reclama como salvaguarda, falló.
El segundo caso ya está abierto
Esta semana, mientras Altman firmaba la carta a Tumbler Ridge, el fiscal general de Florida, James Uthmeier, abrió una investigación penal contra OpenAI por un caso paralelo. En abril de 2025, un estudiante de la Florida State University mató a dos personas en el campus e hirió a varias más. Los fiscales revisaron sus conversaciones con ChatGPT. Uthmeier dijo que el modelo le dio al atacante “asesoramiento significativo”. Libró citaciones para obtener los protocolos internos de OpenAI sobre denuncia de delitos a las autoridades.
PUBLICIDAD
Dos casos en doce meses, en dos países, con el mismo patrón: detección interna que funciona, decisión humana que no escala. Ya no es un episodio.
La coartada legal se cae
Canadá no tiene ninguna ley que obligue a las empresas de IA a reportar amenazas que detectan. Estados Unidos tampoco. Por eso David Eby, primer ministro de Columbia Británica, dijo que la disculpa de Altman es necesaria pero “manifiestamente insuficiente”. OpenAI bajó voluntariamente el umbral de reporte después del ataque y abrió un canal con la Real Policía Montada de Canadá. Voluntariamente. La próxima decisión la va a tomar la misma empresa, bajo el mismo marco discrecional, sin consecuencias legales por equivocarse.
PUBLICIDAD
La compañía está valuada en USD 852.000 millones, sirve a cientos de millones de usuarios y ya tiene los sistemas que necesita para identificar riesgo en tiempo real. Lo que no tiene es obligación de hacer nada con lo que detecta.
La autorregulación voluntaria fracasó en su prueba más fácil: la de actuar cuando el sistema de la propia empresa pide actuar. Cualquier ley de IA que se discuta de acá a un año tiene que partir de eso.
PUBLICIDAD
PUBLICIDAD
PUBLICIDAD
Últimas Noticias
Trump advirtió que volverá a “lanzar bombas” sobre Irán si no le gusta el acuerdo o si “no se comportan”
El presidente estadounidense también aseguró que el estrecho de Ormuz se reabrirá por completo “en un día o dos” y rechazó que su país vaya a comprometerse a invertir en Irán
Desfile de los Knicks en Nueva York: guía completa, horarios, accesos y calles cortadas
El plantel recorrerá el Bajo Manhattan en una fiesta multitudinaria tras romper una sequía de más de medio siglo. Conoce los puntos de ingreso, restricciones de transporte y las medidas de seguridad
Esta aerolínea estadounidense eliminará las comidas gratuitas en clase económica en casi todos sus vuelos
A partir del 1 de julio, esta medida afectará a casi todas las rutas entre Hawái y el territorio continental, con una única excepción en el enlace directo entre Honolulu y el aeropuerto JFK de Nueva York
Florida ocupa el tercer lugar entre los estados con mayor estrés financiero de Estados Unidos
Los ingresos de los hogares floridanos no alcanzan para cubrir el costo de vida en la península. Las búsquedas de subsidios y alivio de deudas revelan la presión que enfrenta una clase media cada vez más ajustada
El gusano barrenador reaparece en Texas y empuja al límite a la ganadería, agravando la crisis de la carne vacuna en Estados Unidos
La irrupción del parásito en territorio texano intensifica las dificultades de un sector ya afectado por sequía, incendios y altos costos, con efectos que se extienden desde los productores hasta los consumidores en todo el país
