Chisme 66 del lince: IA acoso escolar, el Lince protector

Esa tarde, en Sierra Bermeja, la Gata Montesa vio algo raro en el chat de los cachorros de la zona: un mensaje tras otro, todos dirigidos a un mismo cachorro, todos con el mismo tono. Ninguno gritaba, pero juntos pesaban como una piedra. IA acoso escolar.

—Esto es acoso —dijo la Gata, enseñándole el móvil al Lince de la Noche.

—¡Pues construyo un robot que lo detecte todo y lo arregle! —exclamó el Lince, ya buscando cables—. Un detector infalible. Con IA acoso escolar se acaba para siempre.

—Para, para —respondió la Gata—. Lo de arreglarlo se hace con personas, no con máquinas: hablando con un adulto, apoyando al cachorro. Pero sí podemos hacer algo útil: enseñar a un programa a distinguir mensajes hirientes de normales, y descubrir cuánto sabe de verdad.

—¿Cuánto sabe? ¿No lo sabe todo?

—Eso es lo que vamos a medir. Ponle ejemplos, ponle un examen y mira cuántas veces acierta.

Introducción

En este chisme construimos un clasificador de mensajes para entender cómo funciona la IA acoso escolar que a veces aparece en las noticias. Lo entrenamos con mensajes inventados y suaves, lo examinamos con otros que no ha visto y comprobamos cuántos ejemplos necesita para acertar. Todo ocurre en tu navegador: no se envía ningún mensaje a ningún sitio.

Prueba la IA acoso escolar del Lince

Pulsa «Con 10 ejemplos», luego «Con 50», «Con 100» y «Todos», y fíjate en cómo sube el acierto. Puedes jugar aquí o abrir la IA del acoso escolar a pantalla completa.

Cómo aprende: contando palabras

Una máquina no entiende frases como tú. Lo que hace este programa es contar. En los mensajes hirientes de ejemplo apunta cuántas veces sale cada palabra, y lo mismo en los normales. Al llegar un mensaje nuevo, mira sus palabras y calcula qué grupo las explica mejor. Esa técnica se llama Naive Bayes. «Naive» significa ingenuo: supone que cada palabra va por su cuenta, sin importar el orden ni el sentido.

Por eso, en una IA acoso escolar hecha así, las palabras «nadie», «contigo» o «pesado» suman puntos a «hiriente». Y una broma cariñosa («eres un pesado, jajaja, te quiero») puede confundirla: la máquina no entiende el cariño, solo cuenta.

El examen justo

El programa se examina con 60 mensajes de prueba que no ha usado para aprender. Si no, sería como corregir un examen cuyas preguntas el alumno ya se sabe. Además cuenta los dos tipos de error:

• Falsa alarma: un mensaje normal marcado como hiriente. Puede acusar a alguien sin motivo.
• Mensaje que se escapa: uno hiriente que no detecta. Deja sin ayuda a quien la necesita.

Cuántos ejemplos hacen falta

Esta es la pregunta del chisme. Con 30 repartos distintos de mensajes, el acierto medio fue:

• con 10 ejemplos: 61 % (lanzar una moneda daría 50 %);
• con 50 ejemplos: 70 %;
• con 100 ejemplos: 77 %;
• con 150 ejemplos: 79 %.

Sube, pero cada vez más despacio. El botón «¿Y con muchos más ejemplos?» prolonga la curva y estima que se llegaría al 90 % con unos miles de mensajes (unos 8 700 en mi prueba). Es una estimación muy incierta, sacada de lo medido hasta 150. Y contar palabras tiene un límite: no capta ironía ni contexto, así que quizá no se llegue al 90 % solo con más datos. Las herramientas reales usan miles o millones de mensajes y modelos más potentes, y aun así se equivocan.

Qué no sabe hacer

• No entiende nada: solo cuenta palabras.
• Sus ejemplos los escribió una sola persona, y eso es un sesgo: con otros mensajes fallaría más.
• Con pocos ejemplos acierta poco y de forma inestable.
• Nadie debería castigar a alguien solo porque una máquina lo diga.

Para el aula

• Antes de pulsar, escribe una predicción: ¿cuántos ejemplos harán falta para llegar al 80 %?
• Repite con «Barajar de nuevo» con 10 ejemplos varias veces. ¿Por qué cambia tanto el resultado?
• Pulsa «Curva de aprendizaje», descarga el CSV y represéntalo en una hoja de cálculo.
• Mira los mensajes que falla y la gráfica de «Palabras que pesan». ¿Qué palabras le engañan?
• Escribe mensajes suaves y mira qué opina. Añade los que falle como ejemplos y comprueba si mejora.
• Debate: ¿es aceptable que una máquina lea nuestros mensajes? ¿Quién debería decidirlo? ¿Qué es peor, una falsa alarma o un mensaje que se escapa?

Retos

• Reto 1: consigue el mejor acierto con solo 20 ejemplos escogiéndolos tú.
• Reto 2: añade 10 mensajes tuyos con ironía y mira qué le pasa.
• Reto 3: en el código, quita las palabras muy cortas o añade parejas de palabras. ¿Mejora?
• Reto 4: convierte esto en una investigación: pregunta, hipótesis, experimento y conclusión.

Qué hemos aprendido

Una IA acoso escolar no es magia ni un vigilante: aprende contando, mejora con más ejemplos y siempre se equivoca algo. Medimos su acierto con un examen justo y vimos que más datos ayudan, pero no lo arreglan todo. Detectar el acoso de verdad es cosa de personas que se cuidan entre sí. Si ya probaste el simulador de bulos o el depredador y la presa, verás que aquí repetimos la idea: experimentar muchas veces antes de fiarte de un solo resultado.

El cachorro, por cierto, ya no estaba solo: la Gata le había escrito primero, y el Lince le trajo la merienda.