Chisme 71 del Lince: leyes de la robótica, el cerebro ético de Lince-1

Lince-1 estaba plantado en medio del aula de Computación y Robótica, con las ruedas quietas y la cámara encendida, cuando Víctor Vílchez, el Lince de la Noche, se frotó las manos.

—Hoy toca estudiar las leyes de la robótica —anunció—. Un robot que obedece a todo el mundo es muy útil, hasta que alguien le pide algo que no debe.

—¿Alguien como quién? —preguntó la Gata Montesa, que seguía la clase desde lo alto de un armario.

Como respuesta, la ventana se llenó de una luz violeta. En la antena del tejado de enfrente apareció el Doctor Mente, el villano que domina mentes con solo pensarlo.

—¡Lince-1! —gritó—. ¡Es una orden! ¡Sal ahí fuera y empuja a ese excursionista!

El robot no se movió. Las ondas violetas rebotaron en su carcasa sin más efecto que un leve zumbido.

—No lo entiendo —murmuró el Doctor Mente—. Esto siempre funciona.

—Es que no hay nada que dominar —dijo la Gata—. Lince-1 no tiene mente. Tiene un programa y una lista de prioridades. Y en esa lista, no hacer daño va antes que obedecer.

—Exacto —sonrió Víctor—. Y eso es lo que vais a construir hoy: el cerebro ético de Lince-1.

Introducción

Un robot siente, decide y actúa. En el chisme 70 aprendiste a programarlo con tres estructuras. Ahora toca una pregunta más difícil: ¿cómo se consigue que lo que decide sea lo correcto?

En esta página tienes un simulador con siete escenas. En cada una, Lince-1 tiene que elegir entre dos acciones. Tú ordenas sus tres leyes por importancia, predices qué hará, lo pruebas y lo compruebas. Al final, programas ese cerebro en Scratch.

Abre el simulador de las leyes de la robótica. Funciona en cualquier ordenador, sin instalar nada, y no envía ningún dato fuera de él.

Por qué este chisme

Los robots ya conviven con nosotros: aspiradoras, coches con conducción asistida, brazos de fábrica. Cuando un robot decide solo, alguien tuvo que decidir antes cómo decide. Eso es ética aplicada a la ingeniería.

Este chisme no te da una respuesta. Te da una herramienta para ver qué pasa cuando cambias las reglas. Y descubrirás que a veces el problema no está en las reglas, sino en lo que el robot sabe del mundo.

Las tres leyes de Asimov

El escritor Isaac Asimov imaginó en 1942 tres reglas para los robots de sus relatos. No son leyes de verdad: son ficción para pensar. Dicen, en resumen:

1. No dañar. Un robot no hará daño a una persona ni, por no hacer nada, permitirá que sufra daño.
2. Obedecer. Obedecerá las órdenes de las personas, salvo que obliguen a incumplir la primera ley.
3. Protegerse. Protegerá su propia existencia, siempre que no obligue a incumplir las dos primeras.

La clave está en las palabras «salvo que» y «siempre que»: las leyes van ordenadas por prioridad. Si dos chocan, gana la de arriba.

Cómo decide Lince-1 con las leyes de la robótica

Imagina que cada acción posible recibe una nota por cada ley: 0 si la cumple, 1 si la incumple. Lince-1 hace lo siguiente:

1. Mira la ley más importante y descarta las acciones que la incumplen.
2. Si quedan varias, mira la siguiente ley y vuelve a descartar.
3. Si al final queda una, la hace. Si hay un empate total, se detiene y pide ayuda a una persona.

Ese es todo el truco. No hay inteligencia mágica ni sentimientos: hay una lista ordenada. Por eso el Doctor Mente no puede «convencer» a Lince-1: para cambiar lo que hace, hay que cambiar su programa o engañar a sus sensores.

Qué necesitamos

• Un ordenador con navegador (sirve el del instituto).
• El simulador del chisme 71.
• Para la tarea final, Scratch en el navegador o el editor sin conexión.
• Un cuaderno para anotar tus predicciones.

Construcción: el cerebro de Lince-1 en cuatro pasos

1. Ordena las leyes. Con las flechas, sube y baja cada ley. Empieza con el orden de Asimov.
2. Predice. Elige la escena, lee qué ocurre y marca qué crees que hará Lince-1. Hazlo antes de pulsar nada.
3. Prueba. Pulsa «Que decida Lince-1» y mira el razonamiento paso a paso y la animación.
4. Comprueba. Cambia el orden de las leyes y repite. La tabla de los seis órdenes posibles te muestra todas las combinaciones de golpe.

Las escenas incluyen una botella de agua, un arroyo, un niño en una poza, una orden del Doctor Mente de saltar por un barranco y un dilema sin solución perfecta.

Qué aprendemos con las leyes de la robótica

• La prioridad lo cambia todo. Con la obediencia por encima de no dañar, el Doctor Mente gana sin usar su telepatía.
• No hacer nada también es una decisión. En la escena del niño, quedarse quieto incumple la primera ley.
• Las leyes no lo resuelven todo. Con dos personas en peligro y una sola salvación posible, hay empate: decide una persona.
• El robot decide con lo que cree, no con lo que es. En la escena de la mata, Lince-1 casi aplasta a un excursionista tapado con una manta porque su cámara no lo ve. Un sensor de calor corrige el fallo.
• Medir no es lo mismo que saber. Ningún sensor es perfecto: ¿y si la manta aísla el calor?

Esa última idea conecta con otros chismes de la serie, como HALCÓN y el riesgo de incendio, donde un sensor también decide si hay peligro.

Tarea en Scratch: los «si» anidados son la prioridad

Debajo del simulador hay un tutorial desplegable con la tarea paso a paso. En Scratch, Lince-1 hace tres preguntas (¿hay orden?, ¿hace daño?, ¿puede estropearme?) y las guarda en variables. Después decide con bloques «si» anidados.

La idea importante: el «si» de fuera se mira primero, así que es el más prioritario. Cambiar el orden de los «si» es cambiar el orden de las leyes. Es la selección del chisme 70 llevada un paso más allá, y recuerda a los gestos de Simón dice con la micro:bit.

Para el aula: las leyes de la robótica en clase

• Antes de usar el simulador, cada alumno predice y anota la decisión de las siete escenas. Después se compara con el resultado: ¿quién acertó más?
• Debate: ¿debe un robot obedecer una orden que lo destruye? ¿Y si cuesta cincuenta mil euros? ¿Quién decide?
• Cada grupo diseña un orden de leyes para un robot concreto (cuidador, vigilante, minero) y lo justifica.
• Pregunta de investigación: ¿qué órdenes de leyes no producen nunca daño? ¿Por qué la escena 6 falla siempre?
• Informe imprimible: la página genera una tabla con predicciones, decisiones y aciertos para entregar.

Retos para las leyes de la robótica

1. Reto 1. Haz que el simulador y tú acertéis las siete predicciones.
2. Reto 2. Encuentra los dos órdenes de leyes donde nadie sufre daño (salvo en la escena del sensor).
3. Reto 3. Programa en Scratch las tres preguntas y los «si» anidados.
4. Reto 4. Añade en Scratch una cuarta pregunta sobre inacción: «¿Alguien está en peligro si no haces nada?».
5. Reto 5. Cambia el orden de los «si» y prueba el caso del Doctor Mente.
6. Reto 6. Inventa una escena nueva con dos acciones y escribe cómo puntuaría cada ley.

Qué hemos aprendido

• Las leyes de Asimov son una lista de prioridades: la ley de arriba gana.
• Un robot no se deja convencer: sigue su programa y decide con lo que sus sensores le cuentan.
• Con información incompleta, hasta las mejores reglas fallan.
• Hay dilemas que ninguna ley resuelve y deben decidir las personas.
• En Scratch, el orden de los «si» anidados es el orden de prioridad.

Víctor Vílchez recogió a Lince-1 y se fue a la furgoneta. Desde el armario, la Gata Montesa lo vio alejarse.

—Un robot sin mente al que no se puede engañar con la mente —dijo—. Al Doctor Mente le va a costar encontrar otro truco.

Para seguir investigando

• Lee sobre las tres leyes de la robótica en Wikipedia y busca por qué el propio Asimov escribió relatos donde fallan.
• Investiga qué normas de seguridad usan los robots industriales reales.
• Busca qué es una parada de emergencia y dónde la has visto.