Durante los últimos dos años, millones de personas que buscaban vídeos de abuso infantil en el sitio web de Pornhub en el Reino Unido se han visto interrumpidas: las 4,4 millones de veces que alguien escribió palabras o frases relacionadas con el abuso infantil, un mensaje de advertencia bloqueó la página, diciendo que ese tipo de contenido es ilegal, y en la mitad de los casos un chatbot le dijo a las personas en dónde pueden buscar ayuda profesional. La iniciativa nació como parte de un programa de prueba, realizado con dos organizaciones de protección infantil con sede en el Reino Unido, para descubrir si se podía disuadir a las personas de buscar material ilegal con pequeñas intervenciones.

Ahora, un nuevo informe que analiza el experimento, publicado por Wired esta semana, dice que las advertencias llevaron a una disminución en la cantidad de búsquedas de material de abuso sexual infantil (CSAM) y vieron a 158 personas buscar apoyo para su comportamiento. Al parecer, la IA llegó a detectar a más de 173.000 usuarios realizando estas búsquedas durante los primeros 30 días de testeo, como explican la Internet Watch Foundation (IWF), una organización sin ánimo de lucro de Reino Unido y la Fundación Lucy Faithfull, también dedicada a luchar contra este problema. La misión de estos grupos es eliminar por completo el abuso sexual infantil de Internet, y de hecho, antes de que se implementara este chatbot, PornHub redirigía a los usuarios que buscaban este tipo de contenido a la página de la Fundación Lucy Faithfull.

La IA tiene una capacidad de detección de hasta 34.000 términos relacionados con el material de abuso sexual infantil, y las combinaciones posibles que el sistema puede detectar se cuentan por millones, para evitar que existan formas de evitar al chatbot. Lo que sucede cuando alguien busca algún término ilegal, es que le aparece una ventana emergente directamente en pantalla, y el chatbot interroga al usuario, explicándole que lo que está buscando es ilegal. Una vez informado el usuario, la Fundación Lucy Faithfull asegura ofrecer apoyo “confidencial y sin prejuicios”, enlazando una web de recursos de la propia organización. Si el usuario hace clic, se le proporcionan detalles como el servicio de e-mail o la línea telefónica de ayuda.

Donald Findlater, director de la línea de ayuda Stop It Now, dice que si bien las cifras son “relativamente modestas” en comparación con el número total de advertencias mostradas, todavía se consideran un “gran éxito”, ya que es una señal de que la gente puede querer consigue ayuda. “Si la gente ha estado haciendo algo dudoso en un sitio, hacer clic en él es un paso bastante audaz”, dice Findlater. La gran mayoría de las personas que recibieron el mensaje de advertencia y el chatbot lo hicieron solo una vez, y alrededor de 1,7 millones de personas vieron una advertencia antes de abandonar Pornhub o realizar otras búsquedas relacionadas con material legal. “Por lo general, permanecían en el sitio y buscaban otras cosas”, dice Findlater. “La influencia para los millones de personas que realmente hicieron una búsqueda dudosa y luego dejaron de hacerla es una gran victoria”. Sin embargo, no todos se sintieron disuadidos. En los casos más persistentes, alrededor de 400 personas realizaron 10 búsquedas que activaron el mensaje.

Si bien el período de prueba ya finalizó, el chatbot y las advertencias todavía están vigentes en el sitio web de Pornhub en el Reino Unido. “Ciertamente no hay planes para apagarlo. Fue un proyecto piloto, pero ya está surtiendo efecto”, afirma Dan Sexton, director de tecnología de la IWF. Los involucrados en el estudio dicen que otras compañías de pornografía podrían intentar introducir patrones similares en sus servicios y disuadir a las personas de buscar contenido de abuso infantil. “Todos deberían estar haciendo esto; debería convertirse en la norma. Este informe y la tecnología son pasos importantes hacia la identificación, eliminación y denuncia de contenido dañino e ilegal”, dice un portavoz de Pornhub. “Creemos que todas las demás plataformas tecnológicas y de redes sociales importantes deberían explorar la implementación de tecnología de disuasión similar para crear una Internet más segura para todos”.

Share Twitter Facebook Whatsapp Copy link

Despues de leer, ¿qué te pareció?