Expertos reflexionaron sobre los desafíos éticos del diseño de la inteligencia artificial

¿Es posible “moralizar” un algoritmo? Esta pregunta dio origen al encuentro “¿Moralizar el algoritmo? Debates y perspectivas sobre diseño moral e IA”. La actividad reunió a la filósofa Gabriela Arriagada y al académico Uandes Matías Quer, en una conversación moderada por Jorge Blake, director del Laboratorio de Ciencias Sociales Aplicadas de la Facultad de Ciencias Sociales.

La instancia, organizada por el Centro Signos en conjunto con el Laboratorio de Ciencias Sociales Aplicadas, permitió analizar desde distintas disciplinas los desafíos éticos que plantea el desarrollo de la inteligencia artificial y, especialmente, la responsabilidad de quienes diseñan, entrenan y utilizan estos sistemas.

Gabriela Arriagada, doctora en Filosofía por la Universidad de Leeds y profesora de Ética de la Inteligencia Artificial y Datos del Instituto de Éticas Aplicadas de la Pontificia Universidad Católica de Chile, propuso comprender la inteligencia artificial como parte de un sistema sociotécnico. Desde esta perspectiva, explicó que no se trata de una herramienta neutral o aislada, ya que se construye a partir de datos, valores y decisiones humanas y, al mismo tiempo, influye en la manera en que las personas interpretan la realidad.

La expositora también abordó la presencia de sesgos en estos sistemas y cuestionó la idea de que puedan suprimirse completamente. “Los sesgos no los podemos eliminar. Lo que tenemos que hacer es saber gobernarlos”, sostuvo. En este sentido, destacó la necesidad de reconocer cómo las distintas dimensiones sociales se entrecruzan en los datos y pueden afectar los resultados producidos por los algoritmos.

Arriagada advirtió, además, sobre los efectos menos visibles de la inteligencia artificial: aquellos que no se limitan a medir su nivel de adopción o acceso, sino que alcanzan la identidad, la producción de conocimiento y la forma de comprender los problemas. También planteó el riesgo de una excesiva descarga cognitiva, mediante la cual las personas podrían delegar procesos necesarios para ejercitar la memoria, el pensamiento crítico y el juicio propio.

Matías Quer, doctor en Filosofía, investigador del Centro Signos y director del Magíster en Estudios Políticos de la Universidad de los Andes, centró su exposición en la diferencia entre moralizar la inteligencia artificial y orientar moralmente su diseño. “La inteligencia artificial no es una persona y no es un agente moral”, afirmó. Al carecer de intención, biografía, vínculos y conciencia, explicó, estos sistemas no pueden desarrollar una vida moral propiamente tal.

El académico señaló que incorporar filtros, restricciones o determinados criterios a un sistema puede formar parte de su diseño moral, pero no convierte a la inteligencia artificial en un sujeto capaz de actuar moralmente. Esta distinción, sostuvo, es necesaria para evitar su antropomorfización y la tendencia a atribuirle capacidades humanas que no posee.

Quer también llamó la atención sobre la supuesta objetividad de estas tecnologías. Sus respuestas, afirmó, pueden reflejar los valores, intereses y sesgos presentes tanto en los datos utilizados para entrenarlas como en las decisiones de quienes participan en su desarrollo. Por ello, planteó que el debate debe considerar qué tradiciones éticas orientan su diseño, cómo se resuelven los conflictos entre distintos principios y quiénes intervienen en esas definiciones.

Durante la conversación, ambos especialistas coincidieron en que la responsabilidad continúa siendo humana. El desafío no consiste únicamente en determinar cómo incorporar criterios éticos a los algoritmos, sino también en examinar cómo su uso está modificando la manera de conocer, decidir y relacionarse con los demás. La actividad concluyó con un diálogo con los asistentes sobre los límites de la inteligencia artificial, la necesidad de preservar la autonomía humana y el papel de las comunidades académicas frente a estas transformaciones.