Moralidad tecnológica y responsabilidad ética virtual

Son términos que empiezan a escucharse y que parecen no casar bien, pero ya son realidad. La tecnología avanza a un ritmo tan rápido que a veces se olvidan conceptos importantes como ética y moralidad, que nos afectan directa e indirectamente. El otro día veía una charla en TED sobre una airada mujer que ha trabajado muchos años en el campo de la inteligencia artificial y que se enfadaba al ver cómo mucha gente delegaba cada vez más la responsabilidad moral a las máquinas y los algoritmos de decisión. Estos algoritmos pueden estar diseñados para tener en cuenta determinados factores, números, hechos... y devolver la mejor respuesta de acuerdo a unos parámetros predefinidos. Estos parámetros pueden estar mal configurados y producir resultados injustos o que jamás devolvería una persona humana. Y lo peor es que pueden lanzar predicciones sobre individuos que jamás lleguen a realizarse y que las compañias interpreten como posible riesgo (en el caso de predicciones negativas) penalizando al individuo en cuestión. Por ejemplo si un algoritmo que ha monitorizado patrones de comportamiento de una persona durante años, predice que existe un 60% de probabilidad de que esa persona desarrolle depresión en los próximos 6 meses. Esta información podría tener un efecto devastador en la vida de esa persona a la hora de buscar trabajo o un seguro médico por ejemplo. ¿Es entonces correcto publicar esa información sólo porque un algoritmo lo ha determinado como probable y anular nuestra responsabilidad moral para evitar una injusticia? A veces me asusta un poco esa visión de una tecnología nacida supuestamente para hacernos la vida más fácil y que acabe convirtiéndose en nuestro peor enemigo en manos de gente despiadada...
Aquí os dejo la charla de la mujer indignada... y con razón.