El investigador de IDIA desmitifica la Inteligencia Artificial y sus implicancias, reconociendo su gran potencial para permitir que la sociedad pueda optar a un vivir mucho mejor.

El Dr. Felipe Tobar es profesor asociado de la Facultad de Ciencias Físicas y Matemáticas, donde es director de la Iniciativa de Datos e Inteligencia Artificial (IDIA), instancia responsable de articular y potenciar, de forma multidisciplinaria, las capacidades de desarrollo de distintas unidades en torno a estas temáticas.

El investigador conversó con OpenBeauchef sobre IA, su relevancia y desafíos, y también sobre los mitos creados por la sociedad en estas materias. Además, reveló que co-lidera una investigación sobre brechas de género en la FCFM y el mundo STEM, para lo cual cuenta con el apoyo de la Dra. Darinka Radovic, Subdirectora de la Dirección de Género y Diversidad de la FCFM; y el financiamiento de Google.

1. ¿Cuál es la relevancia de la Inteligencia Artificial en el mundo?

Creo que su relevancia viene de su potencial, de su potencial de resolver tareas, de su flexibilidad para ser aplicada en distintas áreas y problemas. Pero ese potencial para resolver tareas también puede ser mal utilizado. Como cualquier herramienta, sobre todo una herramienta potente, puede utilizada con fines cuestionables. Es relevante porque ofrece una oportunidad donde como sociedad podemos optar a un vivir que es muy superior, pero debemos tener cuidado con los riesgos en su uso.

2. Usted como académico y especialista en el área, ¿cuál cree que son los principales desafíos que se presentan en torno a esta temática?

Antes de pasar a la pregunta, quiero aclarar qué es IA y qué no. La inteligencia artificial es una propiedad que exhibe el software, las máquinas, como quieras llamarle, de realizar tareas que parece que son “intelectuales”. A eso nos referimos cuando decimos que una herramienta tiene inteligencia artificial, a que realiza acciones inteligentes. Sin embargo, muchos de los riesgos y ventajas que uno discute actualmente no son necesariamente producto de inteligencias artificiales.

A veces, los riesgos son de tecnologías mucho más simples. Un dueño de una compañía podría precarizar el trabajo de sus empleados monitoreando continuamente qué hacen en cada momento. Y ahí no hay nada de inteligencia artificial. Hay una cámara, hay un cable que transmite y hay una persona que está mirando. Uno podría implementar un sistema automático que cada vez que un trabajador se sienta más de 30 segundos y le mando una alarma. ¿Eso con inteligencia artificial? Sí. ¿Pero es problema de la inteligencia artificial que se está precarizando el trabajo de una persona? No.

Entonces, desde mi punto de vista, un primer desafío es desmitificar que la IA, como herramienta, revista algún peligro, pues el peligro emana del uso tanto malicioso como mal informado. Ese es un desafío social, que -para mí- debe ser abordado mediante la educación de la sociedad.

3. ¿Y hay desafíos de carácter técnico?

Hay herramientas de inteligencia artificial que han sido desarrolladas y desplegadas, las cuales están en operación y no sabemos cómo funcionan. Entender efectivamente cómo operan “internamente” estas herramientas es fundamental. Uno, muchas veces, entrena un mecanismo de inteligencia artificial y parece funcionar bien en el laboratorio, con lo que posteriormente se despliega sin saber si efectivamente va a funcionar de acuerdo a criterios humanos o no en casos reales. Y eso es porque no entendemos realmente qué está haciendo.

4. ¿Hay algunos casos de conocimiento público?

Un caso un poco alejado de nuestra realidad, son las pruebas que se hicieron con vehículos autónomos. Las pruebas con vehículos autónomos probablemente tenían un circuito cerrado donde lo probaban, funcionaba bien, pero después lo soltaron en la calle y resulta que empezaron a atropellar gente.

5. Actualmente ¿en qué se encuentra investigando en esta área?

Estamos en un proyecto que se llama Data Science at the service of gender equality in STEM education: A case study at Universidad de Chile’s School of Engineering.. Y ahí tenemos varias líneas de trabajo. Una es sobre implementación y corrección de algoritmos para no discriminar por género. La segunda línea trata de identificar la trayectoria de los estudiantes en las carreras de la FCFM para entender por qué las mujeres terminan concentradas en algunas carreras y evitan otras como matemática, física o computación.

El tercer punto es un detector automático de lenguaje inclusivo. Así como un corrector ortográfico pero que sugiere el uso de lenguaje inclusivo donde corresponda. Otra de las líneas de trabajo del proyecto trata de medir y explicar las brechas salariales que puede haber en esta facultad entre académicas y académicos, es decir.

Por qué las mujeres ganan más o menos que los hombres, y cómo eso es consecuencia de labores de cuidado que ellos o ellas puedan tener. Estas son cuatro líneas de investigación de un proyecto en el cual el objetivo global es ocupar herramientas de inteligencia artificial para disminuir la brecha de género en STEM con estudios de caso en esta escuela.

6. ¿Qué sucede con la IA y el género? ¿Se puede promover y desarrollar esta inteligencia con perspectiva de género?

Los desafíos de construir sistemas de inteligencia artificial desde la perspectiva de la igualdad de género vienen, principalmente, del uso de los datos que uno utiliza para construirla. Esto es porque la construcción de estos sistemas se hace aprendiendo de bases de datos históricas, con lo que si estos datos tienen sesgos de género, dichos sesgos serán perpetuados (si no amplificados) por los sistemas de IA.
Uno puede implementar indicadores de cuán “justo” es un sistema de IA en aplicaciones particulares, y luego incorporar este indicador precisamente en la construcción de dicho sistema, en vez de tratar de únicamente replicar los datos históricos.

7. En plena huelga de guionistas y actores de Hollywood, la primera en 43 años, se plantea que la Inteligencia Artificial es un potencial enemigo para los profesionales ¿Qué opinión tiene al respecto?

En primer lugar, la obsolescencia del trabajo es una cuestión que no se puede ignorar. Yo creo que la posición no es hacer una huelga para que no me reemplacen, porque seguramente voy a convencer a mi empleador, pero al empleador del lado no lo voy a poder convencer. Y resulta que si efectivamente reemplazar a todos los humanos que hacen una actividad por una alternativa que es mejor y más barata, eso es inevitable.
La obsolescencia del trabajo no es una cosa de la IA y no es una cosa de ahora sino que viene –al menos—desde la Revolución Industrial con la producción en serie, la máquina a vapor, etc. Entonces que no avancemos tecnológicamente como sociedad porque podemos perder el trabajo yo creo que es una cuestión que nadie podría argumentar. Todos tenemos que estar conscientes de eso y todos prepararnos para la nueva forma de trabajo en 10, en 20 o en 50 años más.

En particular, creo que hoy hay una dinámica del trabajo como no habíamos visto antes, o sea hace 50 años probablemente alguien decía salí de la universidad, trabajo en esto y aquí me jubilo. Ahora no es así, la gente cambia de trabajo mucho más rápido, cambia de país, trabaja como empleado y luego como independiente, es muy dinámico. Y la tecnología hoy, a diferencia de lo que pasó en la revolución industrial, que llegó una para quedarse muchos años, cambia constantemente. Entonces es súper necesario el perfeccionamiento continuo de los trabajadores, que nos exige estar todo el tiempo aprendiendo cómo convivir con esta tecnología.