La Opinión
Suscríbete
Elecciones 2023 Elecciones 2023 mobile
Aplicaciones
Twitter ofrece recompensa por detectar sesgos en sus algoritmos
La decisión fue tomada en medio de la preocupación generada por sistemas de algoritmos que pueden incorporar sesgos raciales o de otro tipo.
Authored by
Image
AFP
AFP
Lunes, 2 de Agosto de 2021

Twitter dijo que ofrecería una "recompensa" en efectivo a usuarios e investigadores que ayuden a erradicar sesgos algorítmicos en esa red social.

Twitter dijo que esta sería "la primera competencia de recompensas por sesgo algorítmico de la industria", con premios de hasta 3.500 dólares.

La competencia se basa en programas de "recompensa por errores" que ofrecen algunos sitios web y plataformas para encontrar brechas de seguridad y vulnerabilidades, según los ejecutivos de Twitter Rumman Chowdhury y Jutta Williams.

"Encontrar sesgos en modelos de aprendizaje automático es difícil y, a veces, las empresas se enteran de daños éticos no deseados una vez que ya han llegado al público", escribieron Chowdhury y Williams en un blog. "Queremos cambiar eso", añadieron.

Consideraron como algo prometedor el modelo de ofrecer recompensas a hackers para encontrar sesgos algorítmicos. "Nos inspira cómo la investigación y las comunidades de piratas informáticos ayudaron al campo de la seguridad a establecer las mejores prácticas para identificar y mitigar vulnerabilidades para proteger al público", dijeron. 

"Queremos cultivar una comunidad similar...para una identificación proactiva y colectiva de daños algorítmicos".

La decisión fue tomada en medio de la creciente preocupación generada por sistemas de algoritmos que, pese a los esfuerzos por ser neutrales, pueden incorporar sesgos raciales o de otro tipo.

Twitter, que hace un tiempo propuso una iniciativa en favor de algoritmos limpios, dijo en mayo que estaba revisando un sistema después de descubrir un sesgo en una de sus funciones.

La red social dijo haber detectado que el algoritmo daba "un tratamiento desigual basado en diferencias demográficas" que favorecían a blancos y hombres en detrimento de negros y mujeres. También dijo haber  advertido una "cosificación" de los pechos o piernas femeninas. 

Temas del Día