El diario The New York Times reportó, un mes atrás, tres casos de presuntas violaciones de menores que se originaron a través de Skout, una aplicación para iPhone que se presenta como un lugar de “coqueteo". Frente a esta situación, la compañía decidió cerrar el servicio a menores de 18 años. 

También en junio, la comunidad virtual para adolescentes llamada Habbo Hotel bloqueó los chats después de que la televisión británica informara que dos delincuentes sexuales encontraron víctimas en el sitio y de que una periodista que se hizo pasar por una niña de 11 años fuera bombardeada con comentarios explícitos y pedidos de que se desvistiera ante la webcam. La revelación provocó que algunos de sus inversores, como la empresa Balderton Capital, retiraran su capital del proyecto.

El principal motivo de las fallas de Skout y Habbo derivó de la mala moderación y seguridad dentro de las plataformas. "Muchas de esas páginas, de empresas o comunidades online, cuentan con mucho tráfico, lo que hace imposible moderarlas manualmente. Ese fue el error de ambos sitios, que fueron desbordados por la cantidad de mensajes de los usuarios", puntualizó Matías Rozenfarb, CEO de Keepon, empresa que ofrece un servicio para moderar contenidos. 

Facebook está entre las muchas compañías que están adoptando una combinación de nuevas tecnologías y vigilantes humanos para combatir a los delincuentes sexuales. Estos esfuerzos empiezan normalmente con la detección automática de lenguaje inapropiado e intercambio de información personal y se amplía con los registros de chats en línea de pedófilos convictos para enseñar al software lo que se busca.

Rozenfarb explicó que desde Keepon el 80% del servicio que ofrecen es el de lamoderación automática. El software cuenta con una tecnología semántica que genera un patrón de texto con palabras o frases que depende de la “naturaleza” de cada sitio. Entiende el sentido del mensaje y puede detectar comentarios fuera de los permitidos. Por ejemplo, en una comunidad de juegos online, intentará escanear lenguaje sexual o contenido adulto, señala Rozenfarb. 

Los delicuentes se mueven a otras redes sociales si se ven en peligro. En 2009, después de que MySpace anunciara que había eliminado con éxito 90.000 pedófilos de su sitio,más de 8.000 de ellos de inmediato aparecieron en Facebook.

La web 2.0 plantea la interacción entre una firma y sus usuarios. Para Rozenfarb, es uncanal fundamental de comunicación entre la empresa y el cliente, pero señaló que es importante que cada compañía tenga una “política de moderación” .

Cómo funciona la moderación. Muchas compañías tienen diferentes de penalidades frente a mensajes inapropiados. Desde eliminar el contenido hasta advetir al usuario de que está haciendo un mal uso de la herramienta. En el caso de que haya una infracción continua, se lo puede expulsar de la comunidad. En casos graves, como la presencia de pedófilos, se informa a la Justicia.