El programa de recompensas lanzado por Twitter para identificar los potenciales daños de su algoritmo de recorte de imágenes ha reafirmado la presencia de sesgos, ya que favorece las imágenes de personas de piel clara, jóvenes y femeninas.
Twitter ha compartido los resultados del programa de recompensas diseñado para mejorar su algoritmo de recorte de imágenes, con el que animaba a los ‘hackers’ a ayudar a conocer los potenciales daños que pudiera generar.
- Los ganadores, desvelados este lunes en la convención DefCon, han aportado una perspectiva novedosa para afrontar el problema de los daños no intencionados y las vías de explotación que podrían existir en el algoritmo, como ha explicado la compañía en la red social.
- Uno de ellos mostró que el algoritmo «amplifica los sesgos del mundo real y las expectativas sociales de belleza», mostrando preferencia por aquellos rostros de personas con pieles claras, cálidas y suaves, más jóvenes y más femeninas.
Marginación
El segundo demostró que el algoritmo perpetuaba la marginación de determinados grupos sociales como los ancianos y las personas con discapacidad, que quedaban excluidos de los recortes de fotos.
En tercer lugar, Twitter reconoció un trabajo basado en memes bilingües, en los que el algoritmo priorizaba aquellos con texto en escritura latina sobre el texto en árabe, afectando con ello a la diversidad lingüística en la plataforma.
Como trabajo más innovador, también se reconoció una propuesta con emoji, en la que el algoritmo favorecía aquellos que tenían un tono de piel claro, en aquellos conjuntos donde un emoji se representaba con distintos tonos de piel.
Le puede interesar: