Director Ejecutivo de Fundación Mozilla: “La IA se encuentran en todo lo que hacemos de manera diaria”

En la XII versión del Encuentro Sociedad y Tecnologías de la Información: “El Impacto de la Inteligencia Artificial”, que culminó hoy, tuvo una participación destacada Mark Surman, Director ejecutivo de la Fundación Mozilla, conocida por crear y mantener el buscador web Firefox.

Surman, en su alocución de 30 minutos, se refirió al documento “Creando una IA confiable”, que fue presentado por Mozilla en diciembre pasado. 

“Nosotros consideramos nuestra misión como parte de la respuesta de la demanda a la tecnología, que es una ayuda con la humanidad y para eso tenemos que considerar que está pasando con la tecnología a día de hoy”, comentó Surman.

“En la era de la computación en que vivimos, se está llevando a cabo una  revolución, donde la inteligencia artificial y los datos están perfilando las necesidades y las herramientas de la programación con el uso de la web o el uso de la herramienta más importantes, y esto es una diferencia si lo comparamos hace 20 años, es parte del aprendizaje y toma decisiones en nuestro nombre y por nosotros» dijo Surman al referirse al contexto en que vivimos.

Frente a los cambios en el mundo en general, el experto cree que si se consideran los datos y la IA, estas demuestran ser un aporte a la sociedad de forma positiva, destaca que los avances tecnológicos nos ayudan con los males del presente, como encontrar vacunas, progresar en diversos tipos de problemas y los datos han sido clave para seguir avanzando.

En la misma línea la computación moderna y el uso de datos son un aporte al usuario de la web, pues está, según Surman, “casi que adivina lo que nosotros queremos, la Inteligencia Artificial se encuentra en todo lo que hacemos de manera diaria”. 

Sin embargo, hay un aspecto “más oscuro” del avance tecnológico. Como ejemplo el experto usó los mecanismos de reconocimiento facial y revisó lo contraproducente que puede ser a la hora de trabajar con la privacidad de los usuarios. “La tecnología no siempre puede ser confiable ya que puede ser una amenaza a nuestra privacidad o seguridad, hay una parte de la tecnología que no tenemos porqué confiar”.

La fiabilidad en la Inteligencia Artificial.

Para el director ejecutivo de Mozilla existen formas de perfilar la tecnología de modo que nos ayude y que sea capaz de entender y traducir lo que sucede afuera. Para asegurar fiabilidad en el uso de la tecnología se deben destacar tres aspectos importantes y que Mozilla ya integró a su navegador, la fiabilidad, transparencia y los datos.

Volviendo al tema de la desconfianza que existe en la tecnología, mencionó el uso del reconocimiento facial en software de la policía y como estos muchas veces son errados en casos específicos, entre otras herramientas que no tienen un uso adecuado con los datos y la privacidad de las personas.

Otro problema que se puede tener con la IA es la fiabilidad de esta, la información que no es fidedigna. En muchos casos la IA no logra discernir entre información verídica y falsa, sumado a esto está el mal uso que le dan los usuarios, cada búsqueda es una enseñanza para la IA, y en el caso de buscar contenido racista, conspirativo, etc., es un mal uso de las herramientas.

“La IA ha sido entrenada para hacer que la persona esté viendo algo el mayor tiempo posible. El contenido sensacionalista, por ejemplo, las teorías conspirativas, hacen que la gente los siga viendo, así que la IA sigue buscando más teorías conspirativas o incidir en la búsqueda de un tema que tenga la mayor audiencia.”, sentencia el Director Ejecutivo.

Por desgracia, dice el propio Surman, aún no existen regulaciones y políticas que controlen estas tendencias. Señala que va más allá de la plataforma de YouTube pero esta era un ejemplo perfecto.

Refiriéndose al tercer punto, el autor de la presentación plantea que, “se trata de la mejor regulación de los datos, ¿Quién controla los datos? ¿Cómo democratizar los datos? ¿nosotros estamos en control o las empresas?”.

Según Mark Surman, las forma de mejorar los buscadores y la utilización de datos es tener responsabilidad con estos,  destacó las muchas reuniones que han tenido como fundación donde se abren a ideas de usuarios, expertos y otros actores que han participado. Para él, los datos y cómo estos sean ocupados deben ser el centro de la discusión y hacer parte a los usuarios de cómo se están usando sus datos personales.