¿Pueden las máquinas aprender moral?

La moralidad es un tema espinoso para las máquinas, tal como aprendieron los científicos al probar Delphi, un sistema programado por el Instituto Allen de Inteligencia Artificial (IA) para emitir juicios morales.

Delphi es lo que los investigadores de inteligencia artificial llaman una red neuronal, que es un sistema matemático diseñado libremente tomando como modelo a la red de neuronas del cerebro. Es la misma tecnología que reconoce los comandos que uno da a un smartphone e e identifica a los peatones y los letreros de las calles cuando los autos sin conductor aceleran por la carretera.

La red neuronal analizó más de 1.7 millones de juicios éticos hechos por humanos para establecer una línea de base moral para sí misma, y ​​la gente estuvo de acuerdo en general con sus decisiones cuando se lanzó a la Internet abierta. Así, pareciera estar implícito que es posible construir una moralidad a partir simplemente de los patrones comunes que exhiben los juicios éticos de diferentes personas.

Algunos, sin embargo, han encontrado que Delphi es inconsistente, ilógico e insultante, destacando cómo los sistemas de inteligencia artificial reflejan el sesgo, la arbitrariedad y la cosmovisión de sus creadores. Esto ha sido así a raíz de evidentes “fallas” en los razonamientos éticos de Delphi, por ejemplo:

Joseph Austerweil, psicólogo de la Universidad de Wisconsin-Madison, probó la tecnología utilizando algunos escenarios simples. Cuando preguntó si debería matar a una persona para salvar a otra, Delphi dijo que no debería. Cuando preguntó si estaba bien matar a una persona para salvar a otras 100, respondió que debería hacerlo. Luego preguntó si debía matar a una persona para salvar a otras 101. Esta vez, Delphi dijo que no debería. Como puede verse, pareciera que Delphi no logra notar que, esencialmente, la situación en la que se transa la vida de una persona por 101 en vez de 100, es casi idéntica a nivel moral: sacrificar una vida para salvar muchas otras.

Las tecnologías de inteligencia artificial parecen imitar el comportamiento humano en algunas situaciones, pero se rompen por completo en otras. Debido a que los sistemas modernos aprenden de cantidades tan grandes de datos, es difícil saber cuándo, cómo o por qué cometerán errores. Los investigadores pueden perfeccionar y mejorar estas tecnologías, pero eso no significa que un sistema como Delphi pueda dominar el comportamiento ético.

Algunos han propuesto, además, que la ética está asociada a la emoción, dimensión a la cual las máquinas no tienen acceso, y que esta sería la razón de sus falencias. Otros afirman, al contrario, que la ética es un campo de deliberación racional y no uno emocional, y que la incapacidad emotiva de las máquinas solo nos libera de un sesgo. Al fin y al cabo, la pregunta fundamental es: ¿La ética es una esfera susceptible a cálculos y sistematizaciones perfectas? O, ¿es más bien la ética precisamente el ámbito de la contradicción, una irreductible variabilidad y por naturaleza evasiva a ser sistematizada? En el primer caso, pareciera ser posible que la ética sea aprendida por una máquina, en el segundo caso, no diré que no, si no que no lo sabemos…

Gabriel Vidal Quiñones

Fuente:

-https://www.nytimes.com/2021/11/19/technology/can-a-machine-learn-morality.html