Los algoritmos no son tan neutrales como parece

Publicado por & archivado en Programación.

Hoy hemos amanecido con este artículo realmente sorprendente y que, una vez empiezas a leerlo, te quedas más y más sorprendido. Nos explica el caso de una reputada profesora universitaria que ejerce en Harvard, uno de los mejores centros de todo el mundo, que un buen día decidió buscar en Google un artículo que había escrito hacía algunos años. Cuál fue su tremenda sorpresa cuando comprobó que los resultados que ofrecía la búsqueda al introducir su nombre estaban relacionados con varios arrestos. Latanya Sweeney, ese es su nombre, jamás había sido arrestada y los resultados obtenidos nada tenían que ver con su vida.

 

A partir de ese preciso momento se abrió una investigación porque se empezó a generar un “run-run” un tanto extraño: ¿son los resultados de Google racistas? ¿Los algoritmos de búsqueda son también racistas? Pues increíble pero cierto: es así. Tras realizar dicha investigación, se pudo comprobar como los resultados de nombres de personas que pertenecen a gente de color están ligados a resultados de detenciones y actos delictivos varios. Increíble pero cierto.

Pero tranquilos. Eso no significa que Google sea una especie de agencia xenófoba en la sombra ni mucho menos. En el siguiente enlace conoceréis más en profundidad todo este curioso problema, un tanto truculento eso sí, y veréis un video en el que se explica el comportamiento de dichos algoritmos. Su funcionamiento va muy acorde con la vida real, por decirlo de algún modo, los resultados de búsqueda pueden venir dados por las desigualdades sociales existentes en la vida real.

Se están buscando soluciones para intentar erradicar estos problemas que pueden resultar chocantes basados en la transparencia, la formación y la protección de datos y que pueden llegar a perjudicar mucho la reputación de las personas. Será una ardua tarea sin duda.

Ver artículo original

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Utilizamos cookies de terceros para recoger información sobre sus visitas y su uso de nuestra web. En caso de continuar navegando por esta web entenderemos que acepta el uso de estos dispositivos. Más información: Política de Cookies .

ACEPTAR
Aviso de cookies
Artimedia