Twitter ofrece hasta 3.500 dólares por identificar sesgos en su algoritmo de recorte de imágenes acusado de "racista"

Twitter anunció que está ofreciendo un premio de hasta 3.500 dólares para aquellos usuarios que puedan ayudar a eliminar el sesgo en su herramienta de inteligencia artificial de recorte de fotografías, que anteriormente fue acusado de "racista" por colocar las imágenes de las personas o personajes blancos antes que las negras.  

La compañía tecnológica dio a conocer su iniciativa como parte de la convención de piratería informática que tendrá lugar esta semana en Las Vegas (EE.UU.).

"Encontrar sesgos en los modelos de aprendizaje automático es difícil y, a veces, las empresas descubren daños éticos no intencionales una vez que ya han llegado al público", señalaron Rumman Chowdhury y Jutta Williams del proyecto de aprendizaje automático, ética, transparencia y responsabilidad (META) de la plataforma, expresando su deseo de corregir las fallas.

Google busca otra forma de medir los tonos de piel para reducir el sesgo en los productos

La red social ha enfrentado una lluvia de críticas después de que los usuarios notaran a mediados de 2020 que su algoritmo, que utiliza inteligencia artificial para escoger la parte más relevante o importante de una imagen grande a fin de mostrar una vista previa, tiene sesgos basados en género y raza.

Uno de los ejemplos más claros mostró que tras recortar una fotografía del senador estadounidense Mitch McConnell y del expresidente Barack Obama, el algoritmo ocultaba sistemáticamente al exmandatario. Algunos internautas identificaron también que había cierta preferencia por los pechos o piernas de las mujeres como característica destacada.

A raíz de las acusaciones, Twitter modificó su algoritmo para que las vistas previas muestren siempre que sea posible la imagen completa.

Las personas que deseen participar podrán enviar su solicitud hasta el 6 de agosto en el portal HackerOne y los ganadores serán anunciados el 8 de agosto, con premios que van desde los 500 dólares hasta los 3.500 para el primer lugar. Los organizadores sostienen que así buscan sentar un precedente en Twitter, y en la industria, para la identificación proactiva y colectiva de daños algorítmicos.