En la era de la Inteligencia Artificial (IA) las decisiones automatizadas afectan cada vez más aspectos sensibles de la vida humana: diagnósticos médicos, recomendaciones judiciales, selección de personal, vigilancia, financiamiento y hasta el uso de fuerza militar. Estas decisiones suelen ser tomadas por algoritmos que no son personas. Muchas veces, sus lógicas y procedimientos son opacos (incluso para quienes los programaron).
Esto plantea una pregunta urgente: ¿quién es responsable por las decisiones que toma una máquina?
El Talmud (¡escrito hace casi dos mil años!) ofrece herramientas éticas y lógicas sorprendentemente actuales para abordar este desafío moral.
La responsabilidad indirecta
Uno de los conceptos más potentes del Talmud en este contexto es el de grama be-nizakin (“daño indirecto”). En uno de sus tratados, llamado Bava Kama, los sabios discuten casos en los que una persona causa un daño sin contacto directo, o sea, a través de una acción intermedia que genera ese daño.
PUBLICIDAD
Por ejemplo, si alguien deja una vela encendida cerca de un objeto inflamable, y luego el viento la empuja y provoca un incendio: ¿es responsable? Podemos ver otro ejemplo muy intuitivo en Bava Kama. Si una persona prende fuego en su propiedad y el viento lo lleva hasta la del vecino, causándole un daño. ¿Es el primero responsable por el daño sufrido por este último?”
El Talmud analiza estos casos con minuciosidad para determinar si hay responsabilidad moral o legal, aunque no haya acción directa.
Esto es análogo a la programación de un algoritmo: el programador no toma cada decisión, pero crea un sistema que sí es capaz de dañar. El concepto de grama permite pensar en responsabilidades compartidas o indirectas, incluso cuando el agente directo (más inmediato) que causa el daño no es humano.
PUBLICIDAD
Intención y conocimiento
El Talmud también distingue entre actos realizados con intención (kavana), actos ejecutados sin intención, y actos bajo coacción (ones). Esta distinción puede aplicarse a sistemas de IA que actúan sin conciencia, pero que fueron diseñados para lograr un objetivo específico.
Aunque una máquina no tiene kavana (intención), los diseñadores y operadores sí la tienen. Por lo tanto, la mirada talmúdica invita a analizar el grado de previsión y control que tenía el humano que la creó sobre el resultado, como criterio para establecer responsabilidad moral o legal.
PUBLICIDAD
La cadena de causalidad
En muchas discusiones talmúdicas se analiza la cadena de causalidad entre acción y consecuencia. Si una acción genera una reacción en cadena: ¿hasta dónde llega la responsabilidad del primero en actuar? Es interesante que el Talmud establece que si una persona rompe la represa de un río y eso hace que el agua inunde el campo de su vecino, ella es considerada responsable aunque no haya tocado el campo directamente. En otras palabras, el acto de abrir la represa es un acto de “gorem” (no es una acción directa) pero causa un daño inevitable de forma activa.
Este enfoque es fundamental para entender la responsabilidad en sistemas algorítmicos donde hay programadores, entrenadores de datos, usuarios finales y supervisores. El Talmud nos invita a analizar cada eslabón y no perder de vista la relación entre decisiones humanas y resultados automáticos. Aunque exista mucha “distancia” entre ambos.
PUBLICIDAD
La necesidad de cercos legales
El Talmud a menudo recomienda establecer gezerot (cercos legales) para prevenir que se llegue a un daño. Por ejemplo, en Shabat está prohibido trabajar y, por ende, están prohibidas ciertas actividades. Sin embargo, también prohíbe algunas acciones que no son trabajo en sí, pero podrían llevar a trabajar. Aquí va un ejemplo: en Shabat está prohibido subir a un árbol a pesar de que no es, en sí mismo, uno de los 39 trabajos prohibidos por la Torá. ¿Por qué? Porque al trepar podrías romper una rama: eso sí es un trabajo prohibido (cosechar, cortar algo vivo).
Entonces, la prohibición de subir al árbol es una gezerá (ley vallado). No se basa en que la acción sea dañina en sí, sino en que podría derivar razonablemente en una violación más grave. Es un acto preventivo para proteger el marco legal y el bienestar general.
PUBLICIDAD
Esta lógica preventiva puede aplicarse a la IA: es importante diseñar reglas, auditorías y “cercos” que prevengan consecuencias no deseadas antes de que ocurran.
Conclusión
Aunque el Talmud no habla de algoritmos ni de tecnología, su estructura de pensamiento ofrece una guía poderosa para pensar la ética de la IA. Nos enseña que incluso cuando una acción no es directa, la responsabilidad puede existir. Nos llama a mirar el contexto, la intención, la cadena de causalidad, la necesidad de prevención y el bienestar general.
PUBLICIDAD
Como siempre vemos: la sabiduría talmúdica no nos da respuestas “llave en mano”, pero nos ofrece algo aún más valioso: un método para hacer las preguntas correctas.
Qué maravilla.
PUBLICIDAD
PUBLICIDAD
Últimas Noticias
Daniel Mordzinski lleva a Oporto sus vívidos retratos de Borges, Saramago, Vargas Llosa y Margaret Atwood
En el marco del Festival Babell, el notable fotógrafo argentino inauguró ‘Imágenes cautivas’, una exposición que cruza memoria, resistencia cultural y libertad de expresión
Melanie Klein, psicoanalista suiza: “Si somos capaces de reducir los agravios que guardamos contra nuestros padres, podremos ser capaces de amar a los demás”
Una de las figuras del psicoanálisis del siglo XX dejó una clave para la adultez: perdonar los errores ajenos es el único camino para liberar la propia capacidad de afecto
Cómo se escribe según la RAE: fuera de juego u órsay, mejor que offside
La Real Academia Española promulga normas para fomentar la unidad idiomática del mundo hispanohablante
“Para mí normal es lo que estoy haciendo”: Sandra Miró, la apuesta por el consentimiento, el feminismo y la representación LGBTQ+
La escritora española, tras su visita por Buenos Aires, explicó a Infobae por qué busca romper con estereotipos y cómo decide el destino emocional de sus protagonistas
Qué leer esta semana: romance de una profesora y un alumno, una bruja inesperada y Messi, el inmigrante
¿Ella tiene que ceder ante la seducción del joven? ¿Una nena puede deshacer un maleficio? ¿Cómo se sintió el chico futbolista? Tres preguntas, tres libros, muchas emociones
