NegoBot: Una bot para detectar pedófilos en chats

Figura 1: Conversación real en un chat simulando ser una joven de 15 años

Este martes en la radio volvimos a tocar el tema de los depredadores en la red. Tiempo ha, en directo, yo les mostré a Javi y María cómo bastaba con conectarse a un chat con el nombre de una niña pre-adolescente para que aparecieran los depredadores sexuales en busca de nuevas presas.

A colación de este tema decidimos llamar a los creadores de NegoBot, un programa de inteligencia artificial que han hecho en la Universidad de Deusto con un poco de procesado de lenguaje natural al que se la ha aplicado teoría de juegos en chats, y que intenta descubrir quién es un pedófilo o no lo es.

Figura 2: Tecnologías en las que se basa Negobot

La idea se basa en algo similar al Test de Turing, por el que se intenta engañar a un humano para que no se de cuenta de que está hablando con una máquina, con el objetivo de detectar comportamientos pedófios. Nos pareció un trabajo más que interesante lo que habían realizado, así que les llamamos para que nos contaran más sobre él.

Figura 3: Sistema de puntuaciones usado por Negobot

El trabajo completo está disponible en el artículo: "Negobot: Agente conversacional basado en teoría de juegos para la detección de conductas pedófilas" y en él se puede ver cómo funciona el sistema de puntuaciones con algunos ejemplos como el siguiente:

Figura 4: Ejemplo de una conversación agresiva

Hay que tener en cuenta que utilizar esto de forma policial para detectar a los depredadores en la red aún está un poco lejos, porque tal y como está la ley en este país no es fácil usar un software como éste. En primer lugar porque no hay delito - se está hablando con un bot - y en segundo lugar porque alguien podría interpretar que se estaría incitando al delito. No obstante, el trabajo me parece digno de elogio, y por tanto os recomiendo que le deis un vistazo en serio.

Fuente: Elladodelmal