El camino de Mozilla hacia una Inteligencia Artificial confiable

Hace poco más de dos años, la fundación encargada del funcionamiento del popular navegador Firefox decidió enfocarse en la construcción de un mundo digital más saludable, aterrizando en la idea de una Inteligencia Artificial confiable.

Cuando Mozilla comenzó en 1998, se centró en los estándares web y en la construcción de un navegador. Hoy en día, la informática, y la sociedad digital se define por grandes cantidades de datos, algoritmos sofisticados, sensores y dispositivos omnipresentes. Esta es la llamada «era de la Inteligencia Artificial».

La sociedad digital tiene mucho en juego por estos días, principalmente por la cantidad de usuarios que administran a diario las grandes tecnológicas (4 mil millones) y el poder descontrolado que han asumido como derecho propio.

La inteligencia artificial convierte a los teléfonos inteligentes, redes sociales, tiendas en línea, automóviles, asistentes domésticos y casi cualquier tipo de dispositivo electrónico en una herramienta de vigilancia.

Dado el poder y la omnipresencia de estas tecnologías, existe el dilema de si la IA ayuda y empoderar, o explota y excluye.

«Hay poca transparencia o responsabilidad cuando un sistema de Inteligencia Artificial difunde información errónea o identifica erróneamente un rostro. Además, como personas, rara vez tenemos autoridad sobre lo que sucede con nuestros datos o las decisiones automatizadas que impulsan. Si estas tendencias continúan, es probable que terminemos en un mundo distópico impulsado por la IA que profundiza la brecha entre quienes tienen un gran poder y quienes no lo tienen», menciona director ejecutivo de la Fundación Mozilla, Mark Surman, en el post «Mozilla’s Vision for Trustworthy AI».

Al igual que en los primeros días del Open Source (código abierto), un creciente número de tecnólogos, investigadores, legisladores, abogados y activistas, están trabajando en formas de inclinar el futuro de la informática hacia el uso ético y el empoderamiento de sus usuarios. Están inventando herramientas legales para que las personas tengan el control de sus propios datos y formando organizaciones que abogan por una IA ética y justa.

Surman asegura que «si estas personas, Mozilla entre ellas, tienen éxito, tenemos el potencial de crear un mundo en el que la IA ayude en lugar de dañar a la humanidad».

En el transcurso del 2020, la fundación ha escrito un documento titulado «Creación de IA confiable» para documentar los desafíos y las ideas para la acción que han surgido. Hoy, ya está disponible la versión final de este documento.

Surman asegura que el documento es más bien un plan de acción, que establece los pasos que Mozilla y otras compañías de ideas afines podrían tomar para hacer realidad una IA confiable.

«El artículo sugiere el código que necesitamos escribir, los proyectos que necesitamos financiar, los problemas que debemos defender y las leyes que debemos aprobar. Es un conjunto de herramientas para tecnólogos, filántropos, activistas y legisladores».

Los principales puntos que toca el documento en relación a los desafíos y respectivas soluciones que tiene la IA son:

• Sesgo
• Intimidad
• Transparencia
• Seguridad
• Centralización del poder de la IA en manos de unas pocas grandes empresas tecnológicas

El director ejecutivo espera que este plan de acción sirva en los meses y años venideros como una guía de trabajo para los movimientos de la Fundación Mozilla, entregando un enfoque en la investigación y promoción de la IA.

Y son precisamente estos temas los que Mark Surman explicará a fondo en su presentación del 26 de enero en el XII Encuentro Sociedad y Tecnologías de la Información. “El Impacto de la Inteligencia Artificial».

Puedes inscribirte aquí para recibir tu información.
https://www.elperiodista.cl/encuentroIA/