Una pareja rompe y queda en malos términos. Uno de los dos comienza a sacar todo el enojo acumulado en las redes sociales. Comparte publicaciones con detalles de la vida personal de los ambos; aspectos personales e íntimos. Después da un paso más allá de la línea de lo sano: publica contenido sexual de su expareja en una de estas plataformas. Este fenómeno, conocido como “revenge porn” o “pornografía vengativa”, cada vez es más común. Por lo mismo, Facebook ha implementado una nueva estrategia para evitar que estos comportamientos proliferen en su espacio. Para combatir esta práctica, la empresa ha solicitado a los usuarios subir fotos o videos al desnudo a Messenger para que proteger un mal uso del contenido.
El programa piloto comenzó en Australia, Canadá, Reino Unido y Estados Unidos. Este utiliza inteligencia artificial para reconocer y bloquear imágenes específicas. La estrategia es la siguiente: Facebook crea una huella dactilar digital de una imagen de desnudo que marques a través de Messenger y bloqueará automáticamente a cualquiera que suba la misma imagen en el sitio en una fecha posterior. De acuerdo con la compañía, esta no almacenará las fotografías, se supone que la inteligencia artificial de FB es la única entidad que podría tener acceso a estas. Si una persona sospecha que su expareja, o cualquier otra persona, podría subir sus nudes a la red social, es necesario que las cargue todas en la plataforma. Este sistema, como seguramente se lo imaginan, requiere una gran cantidad de confianza de los usuarios.
Ahora, esta estrategia solamente evitaría que tu ex publique estas fotografías en Facebook. Las personas aún podrían publicar las imágenes en otros sitios. Un reporte de la Data & Society Research Institute señaló que durante 2016, cerca de 4% de los usuarios de internet fueron víctimas de “revenge porn”. El porcentaje se eleva a 10% cuando se limita el universo a mujeres menores de 30 años.
En el piloto australiano, informó el periódico The Guardian, los usuarios primero deben completar un formulario en línea en el sitio web del comisionado de seguridad electrónica en el cual debe describir sus preocupaciones. Después se les solicitará enviar a Messenger las imágenes que podrían ser filtradas, mientras que la oficina del comisionado de seguridad electrónica notifica a Facebook de la situación. Una vez que los trabajadores de FB reciban esa notificación, un analista accederá a la imagen y la encriptará para evitar que esta se suba a la red social o se comparta en futuras ocasiones.