No es un chat-bot en sí mismo , pero podría tener varios enfoques diferentes basados en datos que probablemente funcionen para detectar un “comportamiento inapropiado”.
Enfoque 1: uso de redes neuronales convolucionales para detectar cuándo se está viendo un determinado tipo de contenido.
Sé que a muchos padres no les gusta que sus hijos vean porno o si no. Una buena noticia para ellos es que no debería ser muy difícil entrenar a un modelo para detectar tales cosas.
Enfoque 2: análisis de keylogs utilizando cadenas de Markov u otros métodos estadísticos.
- ¿Qué hago si mi padre me insultó y me echó de la habitación?
- Mis padres son muy conservadores. Ellos no entienden mi lado de las cosas. ¿Que puedo hacer?
- Mi novio rompió conmigo debido al frío hombro de mis padres y él no quiere arruinar mi relación con mi familia. ¿Cómo reacciono?
- ¿Por qué hay tantos niños fuera de la escuela en Pakistán? ¿Por qué los padres no envían a los niños a la escuela?
- Para los padres de niños con necesidades especiales, ¿cuál es el mayor desafío que enfrenta?
Con un conjunto de datos lo suficientemente grande, supongo que usted podría rastrear o al menos tener un alto grado de certeza del peligro proveniente de algunas de las interacciones de sus hijos en línea, ya sea que estén involucrados en actividades ilícitas o simplemente dando información personal en Internet.
Recuerde que hay una diferencia entre: “Oye, ¿cuánto cuesta X onzas de hierba?” A “Mi marca de amigo es fumar marihuana”. Tomar el contexto en cuenta es clave, aún es difícil para las máquinas hacer eso; pero con la ingeniería cuidadosa de características se podrían manejar muchos casos particulares.
Enfoque 3: lista negra de nombres de dominio y otros lugares inseguros para estar cerca.
Creo que ya debería haber empresas que ofrezcan productos similares a este. Es, con mucho, lo más fácil, aunque laborioso, hacer. ¿Está escribiendo su hijo: “rotten dot com” en su navegador? Bueno, denegar el acceso o redirigir.
Hay muchas otras formas en que se pueden lograr cosas como estas. Es una cuestión de qué datos tiene y qué puede hacer con ellos.