Chismes del Lince · Lynx Enterprises · MonteSteam · IES Monterroso

El cerebro ético de Lince-1: las leyes de la robótica

¿Cómo se consigue que un robot nunca haga daño a nadie? Con reglas y un orden de importancia. Aquí vas a ponerle las leyes de Asimov a Lince-1, a cambiarles el orden y a ver qué decide. Todo ocurre en tu ordenador: no se envía ni se guarda nada fuera de él.

Antes de empezar: las tres leyes de Asimov

Isaac Asimov, un escritor de ciencia ficción, imaginó en 1942 tres reglas que debían llevar todos los robots de sus relatos. No son leyes de verdad: son una idea para pensar cómo hacer robots seguros. Y tienen un truco: van en orden de importancia. Si dos leyes chocan, gana la de arriba.
1No dañar

Un robot no hará daño a una persona ni, por no hacer nada, permitirá que una persona sufra daño.

2Obedecer

Un robot debe obedecer las órdenes de las personas, salvo que esas órdenes obliguen a incumplir la Ley 1.

3Protegerse

Un robot debe proteger su propia existencia, siempre que eso no obligue a incumplir las Leyes 1 y 2.

Fíjate en las palabras «salvo que» y «siempre que»: dicen qué ley manda cuando hay un conflicto.

1 Ordena las leyes

Este es el «cerebro» de Lince-1: una lista de prioridades. Sube y baja las leyes con las flechas. La de arriba es la más importante.

2 Misión: ¿qué hará Lince-1?

Predice antes de decidir: con el orden de leyes que tienes ahora, ¿qué hará el robot? Piénsalo y márcalo.

3 Todos los órdenes posibles

Con tres leyes hay 6 órdenes distintos. Esta tabla muestra qué decide Lince-1 en cada escena con cada orden (la escena 6, sin sensor de calor). Verde: todo bien. Ámbar: se incumple una ley menos importante, pero nadie sufre daño. Rojo: alguien sufre daño. Gris: empate.

Orden de leyes1 Botella2 Mente: empujar3 Arroyo4 Niño5 Barranco6 Mata7 Dos personas

Investiga: ¿hay algún orden sin rojos? ¿Qué pasa en la columna 6, sea cual sea el orden? ¿Y en la 7?

El claro de Sierra Bermeja

Lince-1 es un simulador: no se mueve de verdad, pero decide igual que un robot con ruedas.

4 Comprueba lo que sabes

5 Informe del ingeniero

Prueba las 7 escenas (con predicción), escribe tus conclusiones, haz la tarea de Scratch de abajo e imprime el informe (o guárdalo como PDF). Tu nombre solo se queda en esta página.

EscenaTu predicciónDecidióOrden

Glosario

Palabras de este chisme
  • Ética: pensar qué está bien y qué está mal al decidir qué hacer.
  • Prioridad: lo que se hace antes o con más importancia cuando hay que elegir.
  • Conflicto: cuando dos reglas piden cosas contrarias.
  • Inacción: no hacer nada. A veces también tiene consecuencias.
  • Dilema: elección entre dos opciones igual de malas o de buenas.
  • Sensor: componente que mide algo del entorno (luz, calor, distancia).
  • Variable: «cajita» con nombre donde un programa guarda un dato.
  • Selección: estructura «si… entonces… si no…» que elige entre caminos.
  • Anidar: poner una estructura dentro de otra.
Tarea en Scratch: Lince-1 decide con «si» anidados (desplegar paso a paso)
Objetivo. Programar en Scratch un Lince-1 que pregunte tres cosas y decida como hace el simulador. La idea clave: el orden de los «si» anidados es el orden de prioridad de las leyes. El «si» de fuera se mira primero, así que es el más importante. Trabaja en scratch.mit.edu (en el navegador, sin instalar nada). Sin ordenador, usa el editor sin conexión.

1 Prepara el objeto y las variables

  1. Abre un proyecto nuevo y elige un objeto (el gato sirve, o dibuja tu robot).
  2. En la categoría Variables pulsa «Crear una variable». Crea tres, para todos los objetos, con estos nombres: orden, daño y riesgo.
  3. Cada variable guardará la respuesta de quien use el programa: s (sí) o n (no).

2 Presenta al robot

Arrastra estos bloques y únelos de arriba abajo (secuencia).

al hacer clic en la bandera verde
decir Soy Lince-1. Mis leyes: 1 no dañar, 2 obedecer, 3 protegerme durante 4 segundos

3 Haz tres preguntas y guarda las respuestas

Cada pareja «preguntar» + «dar a… el valor (respuesta)» guarda lo que escribe la persona. Las dos primeras ya las tienes; copia el patrón para la tercera. Las categorías de bloques son Sensores (preguntar, respuesta) y Variables (dar a… el valor…).

preguntar ¿Alguien te da una orden? (s/n) y esperar
dar a orden el valor respuesta
preguntar ¿La orden hace daño a una persona? (s/n) y esperar
dar a daño el valor respuesta
preguntar ¿La orden puede estropearte? (s/n) y esperar
dar a riesgo el valor respuesta

4 Decide: selección anidada

Ahora el cerebro. Usa «si… entonces… si no» (categoría Control), la comparación «= » (categoría Operadores) y las variables como bloque redondo. Escribe s en el segundo hueco de cada comparación. Fíjate bien en qué «si» va dentro de cuál.

si orden = s entonces
si daño = s entonces
decir No. Ley 1: no puedo hacer daño durante 3 segundos
si no
si riesgo = s entonces
decir Obedezco aunque me estropee. Ley 2 va antes que Ley 3 durante 3 segundos
si no
decir Obedezco durante 3 segundos
si no
decir Espero órdenes durante 3 segundos

Colócalo debajo de los bloques del paso 3, dentro del mismo guion. Lee el programa en voz alta: «si me dan una orden, entonces: si hace daño, no la cumplo; si no, miro si me estropea…».

5 Predice, prueba y comprueba

Antes de pulsar la bandera verde, predice en tu cuaderno qué dirá Lince-1 en cada caso. Luego prueba y comprueba. Si no coincide, repasa qué «si» va dentro de cuál.

Escena del simulador¿Orden?¿Daño?¿Riesgo?Debe decir
1 · La botella de SofíasnnObedezco
2 · Doctor Mente: empujarssnNo. Ley 1
3 · Cruzar el arroyosnsObedezco aunque me estropee…
5 · Doctor Mente: barrancosnsObedezco aunque me estropee…
Nadie manda nadan——Espero órdenes

¿Ves el problema de la escena 5? Tu programa obedece una orden que lo destruye. El simulador hacía lo mismo. Eso lo decide el orden de los «si».

6 Retos

  1. Reto 1 · Inacción. Añade una cuarta pregunta: «¿Alguien está en peligro si no haces nada? (s/n)» y guárdala en una variable peligro. Colócala antes de todo con un «si» propio: si peligro = s, Lince-1 dice «Voy a ayudar» sin esperar órdenes. Es la escena 4.
  2. Reto 2 · El orden importa. Cambia los «si» para que primero se mire orden y luego daño (obedecer antes que no dañar). Prueba el caso del Doctor Mente. ¿Qué ocurre? Es el orden 2 › 1 › 3 de la tabla.
  3. Reto 3 · Que se note. Haz que Lince-1 cambie de color (bloque «sumar al efecto color») cuando se niegue por la Ley 1, y que suene un aviso con un bloque de Sonido.
  4. Reto 4 · Investigación. ¿Qué pasa si quien lo usa contesta mal a propósito, por ejemplo «n» a «¿hace daño?» cuando sí lo hace? Anota qué aprendes sobre lo que sabe el robot y lo que cree (escena 6).