5 máquinas que se levantaron contra los humanos

Si estuvo en línea en el momento equivocado la semana pasada, escuchó una historia sobre una simulación de la Fuerza Aérea que salió terriblemente mal. Se programó un dron para completar una misión, y cuando su operador intentó detenerlo, el dron lo apuntó. Luego, resultó que esta historia no era cierta. Nadie había programado nunca una simulación de este tipo: alguien acababa de especular sobre cómo la IA puede volverse deshonesta, como lo ha hecho la gente durante décadas, y los medios informaron incorrectamente la situación imaginaria como un hecho.

Mucha gente se alejó de ese ciclo de noticias y llegó a la conclusión de que, después de todo, los robots asesinos representan una pequeña amenaza. Nosotros no. Nosotros, seguimos desconfiando de cada máquina. Tenemos un arma apuntando a nuestra tostadora en todo momento (advirtiendo con inquietud que el arma también es una máquina). Sabemos que las máquinas tienen una larga historia de maldad, basada en incidentes como el momento en que...

Un robot de ajedrez suele ser una simple pieza de software. Viene con movimientos de ajedrez, y el competidor humano los ve usando algún dispositivo no muy diferente al que estás usando para leer este artículo. Un robot de ajedrez también puede ser una máquina física, que mueve piezas reales en un tablero real. Tenemos una larga historia de este tipo de robots, que se remonta a antes de que fueran posibles y eran solo un tipo en una caja que fingía ser un robot.

Uno de esos robots de ajedrez apareció en el Abierto de Moscú en julio pasado. A continuación se muestran imágenes de él compitiendo con varios niños simultáneamente, lo cual no es un logro real. Un jugador de ajedrez humano podría hacer lo mismo, y no hay razón para que un robot encuentre más difícil alternar entre tres jugadores que jugar solo uno. No, el verdadero logro es qué más le hace a uno de los niños:

vía CNN

Sí, se estira y fractura el dedo del niño después de que él busca una pieza fuera de turno. Algunas cuentas dicen que el robot respondió con ira castigando al niño. En realidad, apuntó a una pieza y presionó accidentalmente el dedo errante, pero esa distinción proporcionó poco consuelo al niño. En las siguientes pantallas, vemos a los funcionarios llevándoselo para recibir la eutanasia, ya que ya no es útil para la nación como competidor.

vía CNN

Hablando en serio: el niño regresó al día siguiente enyesado y terminó el torneo, ya que un dedo roto no es una gran desventaja. No necesitas todos tus dedos. Los robots lo saben bien. De hecho, cuentan con ello.

La primera vez que se registró que un robot mató a alguien fue en 1979. Al igual que con el incidente de Moscú, el problema fue que le dimos brazos a los robots. No armas, brazos, extremidades de metal que pueden usar para manipular objetos. Un robot estrelló su brazo contra la cabeza de un hombre, matándolo.

Siaopan/Wiki Commons

Como todas las buenas historias de robots, esta sucedió en Michigan. Robert Williams, de 25 años, trabajaba en una planta de Ford que fabricaba autopartes. El trabajo de un robot era recuperar partes de un estante, pero por alguna razón, se asignó a Williams para subir y hacer el trabajo él mismo. Fue porque el robot era demasiado lento, su familia reclamaría más tarde en la corte. Incluso con Williams ahora posado en este estante, el robot siguió funcionando, sin que se diera cuenta. Movió su brazo en un espacio ahora ocupado por la cabeza de Williams. Murió de inmediato. Entonces el robot siguió trabajando y nadie se dio cuenta de lo que había sucedido hasta media hora después, cuando miraron el estante y vieron el cadáver.

Este caso involucró una cierta cantidad de error humano, y un jurado lo tomó en cuenta cuando la familia presentó la demanda posteriormente. Aún así, seguramente el fabricante del robot podría haber incluido algún tipo de señal auditiva para señalar cuando el robot se está moviendo, al igual que la mayoría de los vehículos en un almacén emiten pitidos de advertencia. Por esta razón, el jurado encontró al fabricante del robot (no a Ford) responsable por $10 millones, que luego aumentó a $15 millones. Y todos aprendimos una lección importante sobre la seguridad de los robots. Esta lección duró dos años, hasta que dejamos que el próximo robot matara a otro trabajador de la fábrica, empujándolo hacia una máquina trituradora.

Dado que esos robots carecen de la intención de matar, es posible que estas historias no suenen tan diferentes de cualquier accidente industrial convencional que involucre a una máquina. A lo que decimos: Bien. Las máquinas detrás de tales accidentes merecen ser avergonzadas con la misma dureza, ya sea que alguien se refiera a ellas como un robot o no. Por ejemplo, considere la historia de Therac-25.

Therac-25, que tenía el nombre perfecto para un robot, era una máquina de radioterapia. La radiación trata el cáncer en la dosis correcta y cuando se dirige correctamente, pero el exceso de radiación obviamente te hace daño. Podría imaginar entonces que un dispositivo médico debería tener medidas de seguridad para evitar que administre una dosis demasiado alta. Si, digamos, una dosis de 200 rads está en el lado alto, y una dosis de 1000 rads es letal cuando se aplica a todo el cuerpo, tal vez nunca se debería permitir que una máquina dé 15 000 o 25 000 en un solo segundo. Y, sin embargo, eso es lo que Therac-25 hizo media docena de veces en casos separados de la década de 1980 en varios hospitales.

Stefan Kögl

El primer caso, uno de los más leves, dejó a la paciente inmediatamente diciendo que se había quemado y poco después necesitaba una mastectomía. Otro paciente sintió la sobredosis como una descarga eléctrica. Quedó paralizado de la cintura para abajo y murió en seis meses. Un tercer paciente, por cáncer de piel menor, murió por exposición a la radiación, al igual que un cuarto paciente que se suponía que debía recibir solo 4 rads.

Claro, todos desconfiamos de dar misiles a los robots, pero tengamos en cuenta el peligro especial que representan las armas de radiación. A los robots les encantan las armas de radiación. Las máquinas son inmunes a la radiación.

Junto con toda esta charla sobre el mal funcionamiento de las máquinas, deberíamos decir algo sobre los robots asesinos reales. Nos referimos a las armas autónomas letales (LAW), máquinas que están diseñadas para matar y que lo hacen utilizando únicamente su propia programación.

Jolly Roger/Wiki Commons

Un caso histórico en el que los militares probaron un vehículo con su propio sistema de orientación fue el M247 Sergeant York a fines de la década de 1970. "York" era el nombre del genial robot amigo; su sistema de objetivos tenía el nombre siniestro más apropiado de "DIVAD". Este tanque antiaéreo no calificaba del todo como LAW porque un operador humano todavía tenía que elegir disparar al objetivo que eligió York. Esto fue afortunado. En una exposición, se suponía que York apuntaría a una serie de drones. En cambio, dirigió su mirada a los generales reunidos en las gradas.

Cuando el operador eligió disparar más tarde, York aún no había elegido el objetivo correcto. Se había concentrado en el extractor de aire de una letrina, y aunque las hélices son objetivos inteligentes durante el combate, esto no sirvió como una demostración muy tranquilizadora de sus poderes. Los militares acabaron finalmente con el programa DIVAD, por razones demasiado complicadas para exponerlas completamente aquí, pero como dijo el Pentágono, "el sargento York no fue operativamente eficaz para proteger adecuadamente a las fuerzas amigas".

La protección es importante, al igual que la ventilación.

Los electrodomésticos de cocina matan a más personas que cualquier arma militar, incluso cuando no funcionan mal. Las freidoras por sí solas matan a cientos de miles de estadounidenses cada año, no escaldándolos con aceite hirviendo sino obstruyendo sus arterias. Pero estas son muertes lentas. Si estamos hablando de acabar con la gente de un solo golpe, pocos dispositivos de preparación de alimentos tienen un recuento de cadáveres más alto que una máquina de palomitas de maíz en una feria de Indiana en 1963.

Era la noche de Halloween. Miles de personas se presentaron en el recinto ferial estatal para ver a los patinadores sobre hielo presentar un popurrí llamado "Mardi Gras". Una especie de tema inadecuado para una celebración de octubre, pero las cosas realmente aterradoras se estaban gestando en el área de concesiones, en un área cerrada que nadie estaba monitoreando, donde un tanque de propano tuvo una fuga.

Luego, con solo tres minutos para el final del espectáculo, el elemento calefactor de una máquina eléctrica de palomitas de maíz encendió este gas. Una bola de fuego explotó a través de las gradas, enviando llamas de 40 pies de altura. Partes del cuerpo llovieron. Algunos quedaron inmediatamente cubiertos por trozos de hormigón que caían.

Compañía fotográfica William H. Bass

La explosión mató a 74 personas (algunos relatos dicen que más) e hirió a cientos. ¿Sabes por qué, a pesar de que tu microondas tiene un botón con la etiqueta "palomitas de maíz", cada bolsa de palomitas de maíz dice que no lo uses? Es porque ese botón cede el control a la maquinaria de palomitas de maíz. Y la maquinaria de palomitas de maíz busca matar a todos los humanos.

Sigue a Ryan Menezes en Twitter para ver más cosas que nadie debería ver.