La Facultad de Ciencias Físicas y Matemáticas (FCFM) de la Universidad de Chile continúa expandiendo su investigación en inteligencia artificial responsable con la incorporación de la académica Claudia López Moncada como profesora del Departamento de Ciencias de la Computación (DCC) y de la Iniciativa de Datos e Inteligencia Artificial (IDIA).
Ingeniera Civil Informática y Doctora en Ciencias de la Información y Tecnología por la University of Pittsburgh, Claudia López, arriba a la facultad con una sólida trayectoria que incluye su rol como investigadora principal en el Centro Nacional de Inteligencia Artificial (CENIA) y en el Núcleo Milenio Futures of Artificial Intelligence Research (FAIR).
Su llegada robustece una línea de investigación crítica para el desarrollo tecnológico actual: la computación centrada en las personas (Human-Centered Computing). En un entorno de excelencia como el DCC, López aporta una especialización que combina la interacción persona-computador, inteligencia artificial y computación social, enfocándose en cómo los sistemas inteligentes deben diseñarse no solo desde la factibilidad y eficiencia algorítmica, sino también desde la comprensión profunda de los comportamientos y necesidades de las personas que usan o serán afectadas por tales sistemas.
De la Ingeniería de Software a la Interacción Persona-Computador
La trayectoria de Claudia López evidencia una evolución desde las bases de la ingeniería de software tradicional hacia los sistemas sociotécnicos. Formada en la Universidad Técnica Federico Santa María, su interés académico migró tempranamente hacia la intersección entre personas y tecnología. Durante el auge de las tecnologías participativas, como las que habilitan la colaboración en línea, López identificó que el éxito del software no dependía exclusivamente de la robustez del código, sino también de los incentivos y motivaciones de las personas para interactuar con él. «Me interesan mucho más las personas en su relación con la tecnología que la tecnología misma», afirma la académica sobre su carrera.
Esta visión la llevó a especializarse en Interacción Persona-Computador (HCI por sus siglas en inglés), un campo que ha perfeccionado a través de su producción académica, sentando las bases para su posterior inmersión en los desafíos de la interacción con la inteligencia artificial (IA).
El salto de López hacia la IA no fue un mero movimiento de tendencias, sino una respuesta a una necesidad metodológica y ética. Hacia el año 2020, la influencia de obras fundamentales como Data Feminism (D’Ignazio & Klein) y Design Justice (Costanza-Chock) marcó un punto de inflexión en su carrera. Estas investigaciones, entre otras, documentan sesgos en los sistemas algorítmicos que causan daños concretos y hacen un llamado urgente a repensar para qué y cómo hacemos ciencia de datos e inteligencia artificial.
La académica identificó que el desarrollo vertiginoso de la IA carecía de los métodos de investigación centrados en las personas que la disciplina de HCI había perfeccionado durante décadas. «Me parecía que era un calce muy natural», comenta, añadiendo que la IA presenta algunos desafíos únicos que la diferencian de otras tecnologías. La mayoría de las otras tecnologías fueron diseñadas para fines específicos o medianamente acotados, y los usos no esperados se iban dando más gradualmente. Con la irrupción de la IA que estamos viviendo- especialmente la generativa- la académica advierte que la dinámica de la interacción persona-tecnología ha ido cambiando: ya no se trata simplemente de una persona impartiendo instrucciones claras a una máquina, sino que —en palabras de la académica— ‘estamos delegando más’ en sistemas con fines mucho menos acotados, a veces muy diferentes a los fines para los que fueron diseñados; en sistemas a los que les permitimos mayor autonomía y que nos dan resultados no necesariamente deterministas a través de modelos que muchas veces no entendemos bien. ”Estos cambios exigen una investigación que trascienda la mera eficiencia algorítmica para abordar los riesgos, la interpretación humana y el diseño responsable de estas nuevas interacciones”, explica.
Más allá de un usuario universal estándar: IA ética y colaborativa
La contribución de Claudia López al ecosistema de investigación de la UCHILE busca potenciar la investigación interdisciplinar e incidir en la discusión pública con base en evidencia científica sobre los usos de la IA. En términos metodológicos, su trabajo utiliza métodos mixtos, con diseños secuenciales que comienzan con estudios cualitativos para comprender en profundidad fenómenos de interacción, y culminan en validaciones cuantitativas de hipótesis mediante métodos experimentales a gran escala. El objetivo es triangular datos para obtener evidencia robusta que responda a preguntas de investigación que, muchas veces, tienen aristas éticas.
En esta intersección entre metodología y ética, la académica integra las perspectivas del feminismo de datos y la IA feminista. En esta línea, el enfoque de la académica aborda cómo las desigualdades de género se infiltran en los sistemas automatizados. La académica explica que las razones por las que ciertas tecnologías no sirven de manera adecuada para ciertos grupos —o por qué presentan sesgos de género u otros— se conectan con diversas desigualdades estructurales. Entre ellas, por ejemplo, con que «no hay suficiente diversidad en los grupos que hacen tecnología». Al no existir una masa crítica de mujeres y diversidades en los equipos de desarrollo, los sesgos y los daños que conllevan para estos grupos no se detectan a tiempo, entre otras razones, por falta de perspectivas y saberes que podrían preverlos y mitigarlos, perpetuando así la exclusión bajo una falsa apariencia de objetividad técnica neutra. Con la esperanza de aportar a una mayor diversidad en ciencia y tecnología, Claudia participa activamente en múltiples iniciativas en la intersección entre el feminismo y la tecnología, como la organización de ChileWiC, el Encuentro Chileno de Mujeres en Computación.
Para López, la diversidad en los equipos de ingeniería no es una cuota a cumplir, sino un imperativo de justicia y una condición indispensable para mejorar la calidad de lo que construimos como soluciones. «La diversidad nos trae mejores herramientas para construir mejores tecnologías», asegura, enfatizando que cuando se diversifica la fuerza de trabajo que construye la IA, también se expande el abanico de quienes resultan beneficiados por ella. Es en este contexto donde la académica también sostiene que hoy la discusión en torno a la ética ha evolucionado desde la ética corporativa hacia la responsabilidad de múltiples actores. «La pregunta ya no es si la ética es necesaria, sino qué hacen los Estados, la ciudadanía, y las diversas organizaciones, incluídas las universidades, para que el desarrollo y la utilización de la IA sean éticos», precisa.
Proyectando el futuro desde la FCFM
La incorporación de Claudia López al cuerpo académico del DCC e IDIA representa una oportunidad estratégica para potenciar la formación de los futuros ingenieros e ingenieras. En un contexto donde la IA generativa desafía los paradigmas educativos tradicionales, López concibe la universidad como un espacio de co-construcción del conocimiento. Su experiencia docente busca preparar a estudiantes que no solo dominen la técnica, sino que sean capaces de cuestionar la fiabilidad de los sistemas inteligentes y repensarlos para avanzar hacia el beneficio de nuestra sociedad en su totalidad.
Con su llegada, la FCFM reafirma su compromiso con una ingeniería ética, colaborativa y abierta a la interdisciplina, capaz de liderar el desarrollo tecnológico con una mirada que integra la excelencia científica, la responsabilidad pública y la inclusión social.