Tecnología

El algoritmo de Facebook califica de contenido sexual inapropiado… unas cebollas

El algoritmos de Facebook califica de contenido sexual inapropiado... una cesta de cebollas

El algoritmo de Facebook responsable de detectar lo que ellos llaman “contenido sexual inapropiado” no solamente es criticado por sus sesgos, sino que a veces se equivoca estrepitosamente. En esta ocasión un montón de cebollas fueron marcadas como inapropiadas.

El algoritmo de Facebook lo ha vuelto a hacer: si en otras ocasiones se consideró el envío de emojis de berenjena como solicitud sexual, censuró fotos de madres amamantando a sus hijos o incluso borró la publicación del famoso cuadro de Coubert El origen del mundo -aunque se saldó con final feliz para el usuario-, esta vez ha filtrado como contenido inapropiado una inocente cesta de cebollas. 

Facebook bloquea a un activista por la eutanasia que quería transmitir su muerte en directo

Gaze Seed Company intentó anunciarse en Facebook usando una imagen de una pila de cebollas en una canasta para comercializar sus semillas, según informó la CBC, pero fue bloqueado por el algoritmo de Facebook. ¿La razón oficial? Los algoritmos de Facebook decidieron que la imagen estaba “abiertamente sexualizada”. Además de las bromas que originó este error, se trata de una muestra más de lo poco preparada que está la Inteligencia Artificial para asumir la moderación de contenido, al menos sin revisión humana.

cebolla

Publicación categorizada como inapropiada por el algoritmo de Facebook

Desafortunadamente, la publicación de Gaze Seed Company no aclaró qué pasa exactamente con las cebollas, que el anuncio describe como “extremadamente dulces, suaves y grandes”, o su posición fue “abiertamente sexualizada” como afirma Facebook.

Nos notificaron el otro día que era una ‘imagen abiertamente sexual’ que tenían que prohibir en el sitio“, dijo el gerente de Gaze, Jackson McLean, a CBC. “Supongo que algo acerca de las dos formas redondas podría malinterpretarse como pechos p desnudos de alguna manera”, explica. “Con suerte, un ser humano real puede mirar la foto para decidir que en realidad no es sexual. Son solo cebollas”, apunta el directivo.

Fuente | Futurism

Te recomendamos

Sobre el autor

Andrea Núñez-Torrón Stock

Licenciada en Periodismo y creadora de la revista Literaturbia. Entusiasta del cine, la tecnología, el arte y la literatura.