¡No se trata solo de privacidad! Cuestionamientos éticos y legales a la Inteligencia Artificial – Parte I

*Originalmente publicado en: The Crypto Legal

La inteligencia artificial (IA) puede definirse como “una variedad de técnicas de procesamiento y tecnologías usadas para realizar trabajos orientados a resultados y los medios para razonar en la persecución de esa tarea” (Defense Innovation Advisory Board, 2019, p.5)¹² y en la actualidad es una de las tecnologías cuyo desarrollo es considerado estratégico por países como China o Estados Unidos. Siendo una tecnología multifacética, puede aplicarse para estimar riesgos, identificar patrones, como tus gustos de series en Netflix, hasta la predicción de conductas criminales y como instrumento de vigilancia masiva mediante el reconocimiento de rostros, voces o rastros digitales.

En este contexto, el principal cuestionamiento que ha centralizado la discusión sobre las ramificaciones éticas y legales de la IA ha sido la afectación a la privacidad de las personas³. Sin embargo, existe un amplio espectro de afectaciones al bienestar de las personas que no se reduce a la privacidad, sino que puede vulnerar otros derechos humanos (DDHH). Por ejemplo, ante los actos de violencia policial y buscando evitar el perfilado racial en las protestas realizadas en Estados Unidos, empresas como IBM, Amazon o Microsoft suspendieron la oferta de sus servicios de reconocimiento facial a la policía de este país ⁴.

Para resaltar este punto, a continuación se presentan casos donde se podrían estar vulnerando los DDHH:

1. Discriminación y sesgos contra las minorías

De acuerdo con (Buolamwini y Gebru, 2018) ⁵ la mayoría de softwares comerciales de reconocimiento facial tienen una tasa de error más elevada al detectar rostros femeninos y de piel oscura (tasa de error fluctuante entre 20.8 a 34.7%) en comparación a rostros masculinos y de piel clara (tasa de error fluctuante entre 0.0 y 0.3%), lo que podría deberse a que estos algoritmos se entrenan con base de datos de rostros predominantemente caucásicos. Estos datos por sí solos ya representan un legítimo cuestionamiento a si estos servicios basados en IA cumplen o no con un trato justo y no discriminatorio.

Ante esta situación, el Perú debería dar un primer paso, bajo la rectoría de la Secretaría de Gobierno Digital de la PCM con el apoyo de la Ciudadanía, ONGs y la Academia, al elaborar un marco de trabajo acorde a los desafíos de la IA. Con tal fin, se proponen las siguientes acciones:

1. Determinar cuáles serán los principios éticos que nos servirán de guía para el desarrollo y aplicación de iniciativas IA que respeten los DDHH y sean afines a nuestros valores como sociedad.
2. Diseñar, escoger e implementar las herramientas regulatorias, los estándares técnicos o los sistemas de incentivos que aseguren una efectiva aplicación de dichos principios.

Estas acciones nos servirán para ponernos al día en el desarrollo de un marco de gobernanza de la IA y en la segunda parte de este artículo profundizaremos en estos puntos.

La situación se agrava cuando la policía utiliza este tipo de algoritmos para realizar detenciones. Así, la Unión Estadounidense por las Libertades Civiles (2018)⁶ en un testeo de los softwares de reconocimiento encontró que éstos identificaban incorrectamente a 28 miembros del congreso de Estados Unidos con personas que fueron arrestadas por crímenes, de los cuales el 40% correspondía a personas de color, aunque solo representan el 20% de los miembros del congreso.

Este tipo de errores también estaría afectando el debido proceso al bordear con las detenciones arbitrarias, como sucedió hace algunos días cuando se detuvo a Robert Julian Borchak Williams, afroamericano de 42 años, atribuyéndole delitos que no cometió por un error en el algoritmo de reconocimiento facial.⁷.

2. IA y crímenes

Puntualmente, la IA es una tecnología que, de ser usada por sujetos malintencionados, potenciaría una amplia variedad de actividades criminales, encontrándose entre ellos el robo de información personal a través de phishing, que puede mejorar su efectividad con mejoras en la falsificación de la voz y el monitoreo de llamadas.

3. Algoritmos secretos

¿Qué pasaría si los cuestionamientos a los algoritmos de reconocimiento facial también fueran aplicables a los algoritmos que buscan predecir el comportamiento futuro de los encarcelados? Esa problemática existe en el caso del algoritmo COMPAS, que debe de llevar una advertencia previa a su uso sobre sus potenciales sesgos por orden de la Corte Suprema de Wisconsin⁸

A pesar de lo anterior, dicho algoritmo es usado para estimar el riesgo de reincidencia y está en controversia si sus resultados son discriminatorios al predecir un riesgo más alto para los acusados afroamericanos en comparación a los acusados blancos⁹ , aunque, también existen refutaciones de lo señalado¹⁰.

No obstante, en este caso existe otro problema relevante que radica en la falta de transparencia sobre el funcionamiento del algoritmo, el cual se comporta como una caja negra (black box) para los terceros interesados, ya que la compañía desarrolladora rechaza detallar el funcionamiento del algoritmo amparándose en que es su propiedad intelectual. Esto nos lleva a  pensar que se puede estar vulnerando el derecho a la tutela jurisdiccional efectiva ante un sistema de justicia opaco, que usa algoritmos de forma poco transparente¹¹.

Los casos presentados han servido para ilustrar que la IA tiene múltiples cuestionamientos éticos y legales y, como ya se señaló, éstos no son solo sobre privacidad. Si esto es así, para el desarrollo e implementación de la IA en el Perú no es suficiente con tener una ley de protección de datos personales como marco normativo.

Sobre este punto, se podría argumentar que es natural un vacío normativo sobre la IA al ser una tecnología nueva; sin embargo, ese razonamiento es bastante débil al existir varios países en la región que se encuentran en proceso de elaboración de planes, políticas o estrategias nacionales que tienen como objeto expreso a la IA (Argentina¹², Brasil¹³  y Chile¹⁴) o ya los tienen aprobados (Colombia¹⁵  y Uruguay¹⁶).

Ante esta situación, el Perú debería dar un primer paso, bajo la rectoría de la Secretaría de Gobierno Digital de la PCM con el apoyo de la Ciudadanía, ONGs y la Academia, al elaborar un marco de trabajo acorde a los desafíos de la IA. Con tal fin, se proponen las siguientes acciones:

1. Determinar cuáles serán los principios éticos que nos servirán de guía para el desarrollo y aplicación de iniciativas IA que respeten los DDHH y sean afines a nuestros valores como sociedad.
2. Diseñar, escoger e implementar las herramientas regulatorias, los estándares técnicos o los sistemas de incentivos que aseguren una efectiva aplicación de dichos principios.

Estas acciones nos servirán para ponernos al día en el desarrollo de un marco de gobernanza de la IA y en la segunda parte de este artículo profundizaremos en estos puntos.

REFERENCIAS