La IA aprèn de les dades amb què ha estat entrenada. Si aquestes dades són incompletes o esbiaixades —per exemple, provinents d’un sol país o cultura—, la IA reproduirà i amplificarà aquests biaixos en els seus resultats, que poden ser injustos, discriminatoris o perjudicials per a determinats grups socials.

El risc dels prejudicis

• Biaix de gènere: la IA pot reforçar estereotips, com ara associar càrrecs directius només amb homes.
• Biaix cultural: si la IA només coneix una realitat, ignora la diversitat i tendeix a representar, per exemple, costums occidentals com a universals.
• Biaix socioeconòmic: la IA pot associar trets físics o estètics a rols socials o estatus econòmics.

Què pots fer?

1. Pregunta't: “Per què m'està mostrant això l'algoritme?”
2. Corregeix: incorpora criteris d’igualtat, diversitat i inclusió als resultats generats per IA
3. Reporta: si veus un resultat esbiaixat.
   En algunes versions de les eines d’IA apareix el botó “Reportar” o “Seguretat”. 
4. Comparteix: parla’n amb companys i professors per generar consciència i fomentar un ús crític de la IA.

Guia d'Intel·ligència artificial generativa: Què has de saber de la IA

Més Bones pràctiques amb la IA