Los sistemas de IA se basan en vastos conjuntos de datos, a menudo obtenidos de Internet, que pueden perpetuar, sin darse cuenta, los sesgos presentes en esos datos. Esto puede dar lugar a que los sistemas de IA tomen decisiones sesgadas, especialmente cuando se trata de cuestiones delicadas como el origen étnico, el género o el estatus socioeconómico.

Un estudio de la Universidad de Cornell encontró que un robot entrenado por IA tenía más probabilidades de asociar a los hombres afroamericanos con delincuentes o a las mujeres con amas de casa. El equipo de investigadores concluyó que el uso continuo de dicha tecnología corría el riesgo de “amplificar los estereotipos malignos” que alimentan el racismo y la misoginia.

El AI diversity bias es uno de los temas principales en la agenda de los pioneros en la tecnología de Inteligencia Artificial, tal como remarca en una reciente declaración compartida con CNN, un portavoz de OpenAI, la compañía detrás de ChatGPT y otros modelos de inteligencia artificial general (AGI). «Estamos iterando continuamente nuestros modelos para reducir el sesgo y mitigar los resultados dañinos», dijo la compañía en un comunicado, y agregó que por cada nuevo modelo lanzado, OpenAI publica investigaciones sobre cómo están trabajando para lograr esos objetivos.

¿Qué podemos hacer para lograr una mayor diversidad con el uso de la IA en las traducciones?

– Mitigar el sesgo en los datos que se usan para entrenar y testear. Se pueden utilizar técnicas como el aumento de datos, el equilibrio de datos, la anonimización de datos o la transformación de datos para mejorar la calidad y la diversidad de los datos y reducir el impacto del sesgo. Por ejemplo, se pueden agregar más datos de grupos infrarrepresentados, equilibrar la distribución de etiquetas o entidades, eliminar información confidencial o irrelevante o transformar los datos a un formato más neutro.

-Formar equipos de trabajo diversos, tanto desde el punto de vista del desarrollo tecnológico como de quienes manejan las herramientas. Esto es fundamental para poder aportar distintos puntos de vista, experiencias y backgrounds culturales.