En la era de la Inteligencia Artificial (IA) las decisiones automatizadas afectan cada vez más aspectos sensibles de la vida humana: diagnósticos médicos, recomendaciones judiciales, selección de personal, vigilancia, financiamiento y hasta el uso de fuerza militar. Estas decisiones suelen ser tomadas por algoritmos que no son personas. Muchas veces, sus lógicas y procedimientos son opacos (incluso para quienes los programaron).
Esto plantea una pregunta urgente: ¿quién es responsable por las decisiones que toma una máquina?
El Talmud (¡escrito hace casi dos mil años!) ofrece herramientas éticas y lógicas sorprendentemente actuales para abordar este desafío moral.
La responsabilidad indirecta
Uno de los conceptos más potentes del Talmud en este contexto es el de grama be-nizakin (“daño indirecto”). En uno de sus tratados, llamado Bava Kama, los sabios discuten casos en los que una persona causa un daño sin contacto directo, o sea, a través de una acción intermedia que genera ese daño.
Por ejemplo, si alguien deja una vela encendida cerca de un objeto inflamable, y luego el viento la empuja y provoca un incendio: ¿es responsable? Podemos ver otro ejemplo muy intuitivo en Bava Kama. Si una persona prende fuego en su propiedad y el viento lo lleva hasta la del vecino, causándole un daño. ¿Es el primero responsable por el daño sufrido por este último?”
El Talmud analiza estos casos con minuciosidad para determinar si hay responsabilidad moral o legal, aunque no haya acción directa.
Esto es análogo a la programación de un algoritmo: el programador no toma cada decisión, pero crea un sistema que sí es capaz de dañar. El concepto de grama permite pensar en responsabilidades compartidas o indirectas, incluso cuando el agente directo (más inmediato) que causa el daño no es humano.
Intención y conocimiento
El Talmud también distingue entre actos realizados con intención (kavana), actos ejecutados sin intención, y actos bajo coacción (ones). Esta distinción puede aplicarse a sistemas de IA que actúan sin conciencia, pero que fueron diseñados para lograr un objetivo específico.
Aunque una máquina no tiene kavana (intención), los diseñadores y operadores sí la tienen. Por lo tanto, la mirada talmúdica invita a analizar el grado de previsión y control que tenía el humano que la creó sobre el resultado, como criterio para establecer responsabilidad moral o legal.
La cadena de causalidad
En muchas discusiones talmúdicas se analiza la cadena de causalidad entre acción y consecuencia. Si una acción genera una reacción en cadena: ¿hasta dónde llega la responsabilidad del primero en actuar? Es interesante que el Talmud establece que si una persona rompe la represa de un río y eso hace que el agua inunde el campo de su vecino, ella es considerada responsable aunque no haya tocado el campo directamente. En otras palabras, el acto de abrir la represa es un acto de “gorem” (no es una acción directa) pero causa un daño inevitable de forma activa.
Este enfoque es fundamental para entender la responsabilidad en sistemas algorítmicos donde hay programadores, entrenadores de datos, usuarios finales y supervisores. El Talmud nos invita a analizar cada eslabón y no perder de vista la relación entre decisiones humanas y resultados automáticos. Aunque exista mucha “distancia” entre ambos.
La necesidad de cercos legales
El Talmud a menudo recomienda establecer gezerot (cercos legales) para prevenir que se llegue a un daño. Por ejemplo, en Shabat está prohibido trabajar y, por ende, están prohibidas ciertas actividades. Sin embargo, también prohíbe algunas acciones que no son trabajo en sí, pero podrían llevar a trabajar. Aquí va un ejemplo: en Shabat está prohibido subir a un árbol a pesar de que no es, en sí mismo, uno de los 39 trabajos prohibidos por la Torá. ¿Por qué? Porque al trepar podrías romper una rama: eso sí es un trabajo prohibido (cosechar, cortar algo vivo).
Entonces, la prohibición de subir al árbol es una gezerá (ley vallado). No se basa en que la acción sea dañina en sí, sino en que podría derivar razonablemente en una violación más grave. Es un acto preventivo para proteger el marco legal y el bienestar general.
Esta lógica preventiva puede aplicarse a la IA: es importante diseñar reglas, auditorías y “cercos” que prevengan consecuencias no deseadas antes de que ocurran.
Conclusión
Aunque el Talmud no habla de algoritmos ni de tecnología, su estructura de pensamiento ofrece una guía poderosa para pensar la ética de la IA. Nos enseña que incluso cuando una acción no es directa, la responsabilidad puede existir. Nos llama a mirar el contexto, la intención, la cadena de causalidad, la necesidad de prevención y el bienestar general.
Como siempre vemos: la sabiduría talmúdica no nos da respuestas “llave en mano”, pero nos ofrece algo aún más valioso: un método para hacer las preguntas correctas.
Qué maravilla.
Últimas Noticias
Nuevo récord para la Feria de Editores, que busca mantener el espíritu independiente en la masividad
Unas 40 mil personas visitaron la FED este fin de semana, lo que representa un crecimiento del 30% respecto del año pasado. Balance, sensaciones y desafíos
San Martín y Sarmiento vuelven a encontrarse: mirá el tráiler de “El Libertador”, el corto de Infobae que cuenta un hecho poco conocido
La pieza presenta la charla de 1846, con base en fuentes históricas. Ponen sus voces Arturo Puig y Juan Leyrado. La puesta visual va de los Andes al retiro del prócer en Francia
El tiempo como material: la obra de Isidoro Valcárcel Medina ya se puede ver en el Centro Cultural Recoleta
La exposición “El transcurrir” fue pensada especialmente para Buenos Aires y condensa medio siglo en un dispositivo preciso. Con obras de 1973 a 2001 y una mirada sobre pasado y presente
El ciclo Gente x Gente suma una edición para las infancias con textos de Sara Gallardo
La propuesta se realizará el lunes 17 de agosto a las 16 en ArtHaus, con interpretaciones en vivo, acompañamiento musical y un taller de dibujo
Estas serán las 12 películas latinoamericanas que competirán en el Festival de San Sebastián
La selección de la sección Horizontes Latinos tendrá producciones de seis países, con propuestas de Diego Luna, Dominga Sotomayor y Fernando Eimbcke
