Dilemas éticos asociados a generadores de lenguaje basados en Inteligencia Artificial

La aparición de sistemas de inteligencia artificial conversacional o “generativos”, como ChatGPT, Bing y otros plantea diversos dilemas éticos. GPT (Generative Pre-trained Transformer), de la empresa OpenAI, es una red neuronal de aprendizaje profundo, que puede generar contenido como si se tratase de un humano mediante la generación de lenguaje natural. Esta es sólo uno de varios softwares existentes, los cuales sólo seguirán creciendo y mejorando en los próximos años, por lo que llegaron para quedarse.

Uno de los principales desafíos éticos es la responsabilidad de sus desarrolladores y propietarios en caso de que se produzcan resultados perjudiciales al utilizarlo. A medida que los sistemas de inteligencia artificial se vuelven más avanzados, se hace más difícil controlar completamente su comportamiento y predecir sus resultados.

Otro dilema es la privacidad y el uso de datos personales: estos sistemas recopilan gran cantidad de datos personales para mejorar su capacidad de respuesta, lo que plantea riesgos sobre el mal uso de estos datos, la poca claridad de si los usuarios han dado su consentimiento para su uso cada vez que lo utilizan, o el riesgo de que sean hackeados o utilizados para recopilar información de manera ilegal. 

La discriminación también es un riesgo, ya que si bien podrían ayudar a reducirla, también podrían perpetuarla, ya que se basan en datos históricos y patrones existentes, lo que puede llevar a la perpetuación de estereotipos y prejuicios. Junto con esto existe el desafío de la inclusión y accesibilidad, ya que muchos de estos sistemas tienen un costo, lo que podría generar una mayor exclusión de aquellos grupos más vulnerables. Algunos proponen que los gobiernos u otros organismos subsidien estas tecnologías, de manera que sean realmente abiertas.

La transparencia y la responsabilidad también son preocupaciones éticas importantes: se requiere que estos softwares sean transparentes en cuanto a cómo funcionan y en qué se basan sus decisiones. 

También preocupa su impacto a nivel educativo: surgen interrogantes como: ¿Nos ayudará realmente a lograr un mayor desarrollo humano, o nos haremos cada vez menos inteligentes y más dependientes? ¿Cómo prevenir el plagio y las faltas a la integridad académica? Entre otras interrogantes. En algunos lugares del mundo se ha prohibido que los escolares lo utilicen, pero eso es prácticamente imposible. Tendremos que aprender a enseñar apoyándonos en ellas, tal como lo hicimos antes con el ábaco, la calculadora, internet, etc.

Tampoco está poco claro el impacto que tendrá en temas de propiedad intelectual y derechos de autor. Si escribo un libro o programo un código utilizando Chat GPT: ¿A quien le pertenece?

Por último, la sustitución de trabajos humanos es otro dilema ético: estos sistemas sustituirán  trabajos humanos en múltiples industrias. Esto plantea preocupaciones sobre cómo afectará esto a la economía y a la sociedad en general, así como a los derechos y la dignidad de los trabajadores que pierden sus trabajos, lo que hace muy relevante la formación permanente de los trabajadores, en lo que se le llama “reskilling y upskilling”.

En resumen esto recién comienza…

Nota: este artículo fue realizado con el apoyo de ChatGPT