Catherine Muñoz: «Se necesita un marco jurídico de IA basado en la protección de los DDHH»

En marco del XII Encuentro Sociedad y Tecnologías de la Información, la abogada especialista en propiedad intelectual, Catherine Muñoz, expuso sobre la importancia de contar con un marco jurídico que permita la consolidación de una Inteligencia Artificial confiable y responsable.

Para la experta, la Inteligencia Artificial son sistemas que utilizan mecanismos automatizados para ayudar o reemplazar un proceso generalmente efectuado por humanos que consiste en la toma de decisiones. Es por ello que resulta imperante realizar una clasificación de sistemas de alto y bajo riesgo y «la atención no debe centrarse únicamente en el aspecto técnico, si no que en la estructura sociales que la rodean», asegura Muñoz.

La abogada comenta que una Inteligencia Artificial responsable es aquella que trabaja sobre el equilibrio entre la promoción de la innovación y el uso responsable de las tecnologías emergentes, destacando la transparencia, las políticas de riesgo y la rendición de cuentas.

Actualmente, los sistemas de inteligencia artificial funcionan perfectamente cuando hacen tareas concretas para las cuales fueron programadas. Sin embargo, cuando se pretenden resolver problemas sociales complejos, «aparecen inevitablemente las dinámicas de poder que existen en la sociedad, reproduciendo y perpetuando la vulneración y la discriminación de grupos históricamente oprimidos», sostiene la abogada.

«El sistema al trabajar con modelos matemáticos cuantitativos realiza una reducción de datos, sin tomar en cuenta el contexto y la historia que hay detrás de ellos. Por ende afecta los derechos humanos y perpetúa y consagra prejuicios discriminatorios», critica Muñoz en su presentación.

«Es por ello que resulta imperante que un marco jurídico de la IA se base en normas vinculantes internacionales sobre los derechos humanos», argumenta la abogada. Donde los principios fundamentales deben ser: la no discriminación; la diversidad, inclusión y pluralismo; la privacidad y protección de datos; la transparencia y la rendición de cuentas; la igualdad; el acceso a la justicia y a un debido proceso; el control humano y la responsabilidad; la imparcialidad; el acceso a la información y la seguridad.

Desafíos internacionales

Hoy en día las normas existentes en esta materia dependen de la legislatura de cada país y no existe un acuerdo internacional para tratarlos.

En ese sentido, la abogada sostiene que hay una serie de urgencias legislativas que deben ser abordadas cuanto antes. En primer lugar, se deben tener las reglas claras en cuanto a la utilización del sistema biométrico y de vigilancia, pues la experta sostiene que se deben prohibir el uso de tecnologías que afecten los derechos fundamentales de las personas.

Asimismo, debe «existir una regulación de sistemas de toma de decisiones automatizadas ya que son muy utilizados a la hora de hacer políticas públicas, pero a su vez son muy controvertidos por los sesgos y limitaciones que presenta», afirma Muñoz.

Otro punto que es sumamente importante prestar atención es en la prohibición del uso de armas automatizadas en virtud del derecho internacional, y si llegasen a ser utilizadas, debe existir una regulación y deberá estar sujeta al control humano.

«La evaluación de impactos algorítmicos deberán sr aplicados más allá de la regulación de datos personales y deberán ser efectuados por personas independientes. Así como también se deberá determinar las categorías de riesgo de sistemas de Inteligencia Artificial», expone la abogada.

Y por último, habrá que regular los sistemas de Inteligencia Artificial utilizados por el Estado, donde la transparencia sea algo primordial, concluye la experta.

[Mowplayer-Video ID=zff0sfQ7suM]