Carlos Araya: «Tenemos que legislar de forma inteligente para potenciar la IA en Chile»

El abogado Carlos Araya realizó una exposición en el XII Encuentro Sociedad y Tecnologías de la Información en la que, al referirse a la legislación chilena, señaló que «la Inteligencia Artificial se estructura sobre la base de datos de información, de ahí la importancia de ellos».

El problema está en que «de todos los datos que tenemos a nuestra disposición, solo un 20% corresponden a datos estructurados, mientras que un 80% son datos no estructurados que no podemos utilizar porque los sistemas actuales no tienen la capacidad de llegar a ellos o analizarlos», comenta el abogado, pero que la forma de refinar esos datos es a partir del uso de la Inteligencia Artificial.

Tratamiento de datos personales

Los datos personales son aquellos que conciernen a personas naturales, identificadas o identificables, como el nombre, apellido, rut, correo electrónico, etc. «La gracia de estos datos personales es que pueden ser tratados», asegura Araya.

«El tratamiento se refiere a cualquier operación que permita recolectar, almacenar, grabar, organizar, elaborar, seleccionar, extraer, confrontar, interconectar, disociar, comunicar, ceder, transferir o cancelar datos personales. En el fondo, cualquier operación que se realice en Internet, ya sea desde comprar un libro hasta comprarse un pasaje en una aerolínea. Todas esas operaciones abordan o implican un tratamiento de datos personales», hace énfasis el representante de Magliona.

Este tratamiento debe responder a diversos principios. El primero de ellos es que existe un derecho para tratar datos personales siempre que se haga en el marco de nuestra legislación y para las finalidades permitidas por la ley. El segundo es de finalidad, es decir que los datos personales solo deben utilizarse para aquellos fines con que hayan sido recolectados. En tercer lugar, existe el principio de calidad, el cual quiere decir que la información recolectada debe ser exacta, veraz, actualizada y debe responder a la situación real del titular de los datos. Y por último, el principio de responsabilidad en el tratamiento, o sea que la confidencialidad de las personas que trabajen en el tratamiento de los datos es un aspecto clave.

«Tomando en consideración estos principios, ¿Qué problemas pueden surgir en el tratamiento de los datos personales en el contexto de la Inteligencia Artificial?», se pregunta el experto. En ese sentido, «¿qué va a suceder cuando en el tratamiento de los datos personales el algoritmo identifique que se puede lograr el resultado buscado inicialmente de una forma distinta a la del comienzo pero mucho más eficiente?»

Para el abogado este es un problema que puede llegar a surgir. «Recordemos que un rasgo característico de la IA es la autonomía y la impredecibilidad. Esto quiere decir que es muy probable que un sistema de Inteligencia Artificial llegue a una solución que el humano no pueda prever inicialmente y que resulte más eficiente», asegura Araya. Entonces, evidentemente habrá un problema con la finalidad del tratamiento porque puede que al comienzo sea una pero que el sistema logre una solución mucho más eficaz a la anteriormente esperada.

Asimismo, el abogado comenta que un aspecto clave en materia del tratamiento de datos personales es contar con la autorización del titular. «Entonces las preguntas son ¿cuáles son los efectos si el titular de los datos decide retirar su autorización al tratamiento de datos personales en el contexto de la Inteligencia Artificial? ¿Qué efectos puede tener en la precisión del modelo? ¿cómo puede retirar una autorización que ya está dada?», se pregunta el experto.

Por otra parte, Araya cuestiona la calidad de los datos y se hace otra pregunta hipotética en el ámbito de la salud: «¿Qué sucederá cuando un paciente omita por ignorancia información clave para un diagnóstico correcto realizado por un sistema de IA en el ámbito de la salud?».

Para el abogado Carlos Araya el Proyecto de Ley de Datos Personales vienen a sumar otros principios y desafíos a superar.

En primer lugar está la transparencia. Ella supone que las políticas y las prácticas sobre el tratamiento de los datos personales debe estar permanentemente accesible al interesado de manera clara, precisa, gratuita e inequívoca. «En el fondo es saber cómo son tratados los datos personales», puntualiza el abogado de Magliona.

En segundo lugar está el derecho de oposición. El cual trata de no ser objeto de una decisión automatizada basada únicamente en el tratamiento automatizado de datos protegidos. «Es el derecho a solicitar la revisión de la decisión tomada automatizada», comenta Araya.

Frente a lo anterior, ¿Cómo es posible solucionar los distintos desafíos que presenta el tratamiento de datos personales en el contexto de la IA?

Para el abogado existen soluciones de carácter normativo. Pero para esto «hay que tener presente que lo importante es la disponibilidad de datos y de calidad. La ley no puede ser un obstáculo a tecnología que aún no se ha desarrollado y masificado en Chile. Para mejorar los modelos de IA, necesitamos una mayor disponibilidad de datos pero con respecto a los derechos de titulares de esos datos», comenta el experto.

No es la idea entrar a regular de forma detallista y generar barreras de entrada al desarrollo de Inteligencia Artificial en Chile. «Hay que tener en cuenta que según un estudio de la Universidad del Desarrollo, 8 de cada 10 empresas chilenas no han adoptado tecnologías de Inteligencia Artificial», precisa el abogado.

«Esto es clave porque si bien necesitamos más datos, también tiene que haber un derecho y respetar los derechos de los titulares». Para esto, según Araya «debemos regular y legislar de manera inteligente y para ello debemos entender en primer lugar a la tecnología», finaliza el experto.

[Mowplayer-Video ID=DKPgEuISVxg]