Los sesgos en la Inteligencia Artificial

Con el auge de plataformas como ChatGPT, Gemini o Claude, conviene hablar sobre los sesgos en la Inteligencia Artificial. Como dan resultados tan cercanos a cómo a uno le gusta recibir información, se nos puede olvidar que al final es una herramienta tecnológica no una bola mágica de cristal. En IA los sesgos existen porque los modelos aprenden de datos creados por humanos. Uno puede pensar “¿cuáles datos hago yo si solo uso lo básico?”. Bueno, lo interesante es que detrás de nuestra búsquedas, imágenes, redes sociales (entre muchas otras, incluyendo historiales y ubicaciones) hay un registro de esa información que queda guardado en un servidor. De estos servidores se nutren las herramientas de IA y por tanto, replican y amplifican patrones sociales existentes. (IBM).

Eso quiere decir que la IA aprende de bases de datos que reflejan el comportamiento humano. Por lo que los sesgos en la IA puede producir resultados injustos o desbalanceados para ciertas personas o grupos.

Le comparto 3 ejemplos donde se vuelve claro el impacto que pueden tener las bases de datos:

Reclutamiento automatizado: un experimento de Amazon fue descartado cuando detectaron que el algoritmo penalizaba candidatas mujeres al entrenarse con CV históricos de un sector dominado por hombres. (Reuters, American Civil Liberties Union)

Reconocimiento facial: estudios académicos y del NIST evidenciaron diferencias de desempeño por género y tono de piel en sistemas comerciales de análisis/identificación facial. (MIT News, MIT Media Lab, NIST)

Asistentes de voz: UNESCO documentó cómo los asistentes con voces femeninas por defecto refuerzan estereotipos y toleran abusos verbales, recomendando cambios de diseño. (UNESCO, UNESCO)

Como lo mencioné al inicio, un algoritmo sesgado puede perpetuar injusticias sin ser evidente a simple vista. Si un sistema sesgado filtra talento por razones irrelevantes, pierde competitividad porque su competencia probablemente sí esté contratando atraer y retener al mejor talento posible. Además se expone a riesgos legales y reputacionales. Qué retroceso sería reparar un daño reputacional por obviar un sesgo, ¿no? Lo mismo ocurre con modelos que toman decisiones en marketing, riesgo, atención al cliente o seguridad. Por eso, conozcan sus sistemas.

Las herramientas de inteligencia artificial requieren siempre una supervisión humana crítica y marcos de transparencia y ética. Es importante entender los sistemas y establecer una guía práctica y accionable para contrarrestar los efectos de contar con data sesgada.

Algunos consejos:

Valide críticamente la información, contraste fuentes y documente decisiones.

Audite datos y modelos: revise los sets de datos, cómo están representados, la calidad de los datos, las métricas por segmento y haga pruebas de equidad antes de desplegar.

Gobernanza y trazabilidad: defina políticas de uso responsable, umbrales aceptables de desempeño, logs y responsables claros para correcciones.

Equipo diverso y capacitación: la diversidad en quienes diseñan y evalúan reduce puntos ciegos; forme a su equipo en sesgos y evaluación de impacto.

Ciclo de mejora continua: monitorice en producción, recoja retroalimentación y reentrene con datos mejor curados cuando detecte sesgos.

Los sesgos en IA no son solo fallas técnicas: reflejan la sociedad que alimenta a los modelos. La diferencia está en cómo los gestionamos. Use estas herramientas de forma activa, con pensamiento crítico y procesos de control. Así, la IA se convierte en un acelerador de valor, no en un amplificador de las desigualdades de sistemas que ya son obsoletos.