​Facebook lanza una herramienta de inteligencia artificial para eliminar el porno por venganza

- Facebook empezará a usar inteligencia artificial para encontrar y eliminar imágenes íntimas maliciosamente publicadas, también conocidas como 'porno por venganza'.

- Actualmente, los usuarios deben reportar imágenes inapropiadas para que los moderadores de contenido puedan revisarlas, ralentizando el proceso.

- Facebook seguirá confiando en que los usuarios informen sobre este tipo de contenido.

Facebook está desplegando tecnología para facilitar la búsqueda y eliminación de imágenes y vídeos íntimos publicados sin el consentimiento del sujeto, a menudo llamado "porno de venganza".

Actualmente, los usuarios de Facebook o las víctimas de la venganza pornográfica tienen que denunciar las imágenes inapropiadas antes de que los moderadores de contenido las revisen.

La compañía también ha sugerido que los usuarios envíen sus propias imágenes íntimas a Facebook para que el servicio pueda identificar cualquier carga no autorizada. 

Muchos usuarios, sin embargo, se opusieron a la idea de compartir fotos o vídeos reveladores con el gigante de los medios sociales, especialmente debido a su historial de fallos de privacidad.

La nueva herramienta de aprendizaje de la compañía está diseñada para encontrar y marcar las imágenes automáticamente, y luego enviarlas a los humanos para que las revisen. Facebook y otros sitios de medios sociales han luchado por monitorear y contener las publicaciones inapropiadas que los usuarios cargan, desde amenazas violentas hasta teorías de conspiración y fotos inapropiadas.

Facebook se ha enfrentado a duras críticas por permitir que los mensajes ofensivos se mantengan en pie durante demasiado tiempo, por no eliminar los mensajes que no cumplen sus estándares y, a veces, por eliminar imágenes con valor artístico o histórico.

Facebook ha dicho que ha estado trabajando en la expansión de sus esfuerzos de moderación, y la compañía espera que su nueva tecnología ayude a atrapar algunos mensajes inapropiados.

EN FACEBOOK E INSTAGRAM

La tecnología, que se utilizará en Facebook e Instagram, fue entrenada utilizando imágenes que Facebook ha confirmado anteriormente que eran porno de venganza. Está entrenado para reconocer una foto "casi desnuda" - tal vez una foto de lencería - junto con un texto despectivo o vergonzoso que sugiera que alguien subió la foto para avergonzar o buscar venganza de alguien más.

Al menos 42 estados han aprobado leyes contra el porno por venganza. Muchas de estas leyes han surgido en los últimos años a raíz de la proliferación de imágenes y vídeos no consensuados. La ley de Nueva York, que fue aprobada en febrero, permite a las víctimas presentar demandas contra los perpetradores y convierte el delito en un delito menor.

Facebook ha estado trabajando para combatir la propagación de la pornografía de venganza en su sitio durante años, pero hasta ahora ha dependido en gran medida de la información proactiva de la gente. Pero eso significa que para el momento en que se informa, alguien más ya lo ha visto, dijo la directora de operaciones Sheryl Sandberg en una entrevista con 'Associated Press'. Y a menudo es difícil y vergonzoso para una víctima reportar una foto de sí misma.

"Se trata de usar la tecnología para adelantarse al problema", dijo Sandberg.

Facebook sigue considerando las fotos aportadas por los usuarios como una forma de abordar el problema, y dice que tiene previsto ampliar ese programa a más países. Permite a la gente enviar fotos que temen que circulen a través de enlaces encriptados. Facebook crea entonces un código digital de la imagen para que pueda saber si se ha subido alguna vez una copia y borra la foto original de sus servidores.

La compañía no espera que la nueva tecnología atrape cada instancia de venganza pornográfica, y dijo que seguirá dependiendo de que los usuarios reporten fotos y videos.