El código Asimov

 

Hay una historia de dudoso origen que suele reaparecer cada vez que alguien escribe sobre los orígenes de la informática. Se dice que proviene de la Edad Media, pero tiene un inconfundible aroma a romanticismo alemán, y bien podría ser una ficción de Hoffmann o de Novalis.

Cuenta la leyenda que allá por el siglo XIII San Alberto Magno, un filósofo interesado en la ciencia y la técnica, había construido un robot que usaba como secretario. El Hombre de Hierro abría la puerta de la celda de Alberto y contestaba las preguntas de los visitantes. A Roger Bacon, que vivió casi en la misma época, también se le atribuía la fabricación de una cabeza parlante.

Según la versión hard de la historia, Santo Tomás de Aquino, discípulo de Alberto, la habría emprendido a bastonazos con el robot. Según la light, tan sólo habría mandado a destruir al muñeco en cuanto murió el maestro. Pero en ambos casos el hombre mecánico aparecía como un engendro diabólico más que como un triunfo de la técnica. Pasaría mucho tiempo antes de que empezara a mejorar su imagen.

El hombre artificial siempre fue una fantasía que resulta tan atractiva como inquietante. Como ocurre con las fantasías, tarde o temprano a alguien pensó en llevarla a la práctica. Desde los autómatas de Vaucanson y Jacquet-Droz (tan admirados en el Siglo de las Luces) hasta esos vistosos robots humanoides que la televisión sueles usar para darles color en sus noticieros, aún suelen provocar ciertos temores.

Una de las primeras cuestiones que plantean los robots consiste en decidir si deben imitar la anatomía y la conducta humanas o es preferible que se limiten a cumplir ciertas funciones específicas. Los robots industriales, los que más presencia tienen en nuestro mundo, hace tiempo se han definido por la funcionalidad, pero el robot diseñado para uso doméstico tiende a remedar la forma humana.

La otra cuestión atañe al margen de autonomía o de libertad que vamos a darles a los robots para mantenerlos bajo nuestro control y aventar el peligro de que algún día se les ocurra dominarnos.

MAQUINAS DE PAPEL

Para cuando empezaron a materializarse como seres reales de acero, silicio y plástico, los robots ya habían pasado por todo un ciclo evolutivo en la ciencia ficción. Contra lo que uno se inclinaría a imaginar, tardaron bastante en asumir el papel de monstruos fríos e inhumanos, pero les llevó otro tanto tiempo convencer a la gente de que no lo eran.

Los primeros robots de ficción no fueron esos muñecos mecánicos torpes que suele evocar la palabra “robot”. Fueron bellezas femeninas tan seductoras que lograban engañar a los hombres, como esa Coppelia de Hoffmann que popularizó el ballet. Entre las mujeres sintéticas más atractivas estaban La Eva futura (1886) del poeta Villers de l’Isle Adam, quien le atribuía su creación nada menos que a Edison, o ese simulacro de sensualidad que engañaba al pueblo en el film Metrópolis (1927) de Fritz Lang.

Más allá del obvio papel de esclavos, los robots de ficción cumplían funciones de secretarios, mayordomos, guardaespaldas y hasta niñeras, pero no pocas veces se les asignaba el papel de payasos y mascotas, como ocurría en Los robots no tienen cola de Henry Kuttner (1943) o mucho más tarde con el dúo Arturito/Trespo de Star Wars. Pero sin duda los robots de ficción más integrados a la sociedad humana eran los de Isaac Asimov y los de Clifford Simak.

Uno de los primeros textos donde se planteaba la posibilidad de que los robots pudieran volverse peligrosos, precisamente por ser tan serviciales, fue Los humanoides (1947) de Jack Williamson. El autor imaginaba que los robots estarían obligados a llevar impreso el mandato de “hacer todo en beneficio de los humanos”. El problema empezaba cuando ellos interpretaban a su modo el concepto de “beneficio”. En cuanto lograban elevar al tope la calidad de vida de sus creadores y garantizarles la seguridad, se empeñaban en reprogramar sus mentes para que no se dañaran a sí mismos y acababan por esclavizarlos.

El robot benévolo, incapaz de hacer daño a los humanos, siguió su carrera con Helen O’Loy, de Lester Del Rey (1938) y Adam Link, de Earl y Otto Binder (1939), un antepasado del ciborg Robocop. El libro que ejerció mayor influencia fue el de los hermanos Binder. Su título original era Yo, robot, y fue el que le inspiró a Isaac Asimov su cruzada contra el “complejo de Frankenstein”.

LAS TRES LEYES

Asimov hizo más que eso; se apropió del título de los Binder y lo usó para la antología de cuentos I, robot (1950), con la cual abrió una veta que seguiría explotando exitosamente por el resto de sus días. Gracias a Asimov la opinión pública comenzó a considerar seriamente la integración del robot “amistoso” en la vida diaria.

La paradoja es que ahora que la robótica ha llegado a ser una carrera de ingeniería, existe en Massachusetts una empresa que entre otras cosas fabrica robots de uso militar pero se llama precisamente iRobot Corporation.

Asimov, que se pasó la vida vendiendo la idea del robot pacífico, no imaginaría que una docena de años después de su muerte sus robots se volverían malvados, en la película del 2004 que se basó en su libro. Fue otro efecto del clima paranoico post 11 S, que también se ensañó con los extraterrestres de ficción.

Asimov hizo dos contribuciones a la idiosincrasia robótica. Una fue la “positrónica”, una suerte de electrónica imaginaria que usa positrones en lugar de electrones. La otra fueron las Tres Leyes, cuyo enunciado le fue prácticamente dictado en 1940 por el legendario editor Joseph W. Campbell.

Las tres leyes de la robótica (Asimov fue quien inventó la palabra) eran los axiomas de seguridad que debían presidir el diseño de cualquier robot: no hacer daño a los humanos, tanto por acción como por omisión; ejecutar las órdenes humanas y preservar la propia integridad. Las leyes formaban una axiomática coherente, de manera que el cumplimiento de una de ellas no podía contradecir a las otras dos. No conforme con esto, Asimov les añadió la Ley Cero, que en realidad sólo explicitaba a la primera, y se pasó el resto de sus días pergeñando historias –generalmente acertijos policiales de estilo clásico– cuyo el núcleo era la aparente violación de una ley robótica.

MAQUINAS DE SILICIO

A todo esto, la electricidad y la electrónica ya permitían pensar en robots con capacidades muy superiores a cualquier marioneta mecánica que se hubiese podido concebir en el pasado. La informática permitiría dotarlos de un sistema nervioso y hasta incorporarles las leyes para cuando llegaran a tomar decisiones.

En una feria industrial de Londres de 1932 ya se exhibían algunos robots. En la de Nueva York de 1939 la estrella fue Elektro, de Westinghouse, que era capaz de efectuar 26 movimientos distintos y ejecutar órdenes. Pero el complejo de Frankenstein aún seguía estando presente, como lo prueba una leyenda urbana de la época; se decía que un robot exhibido en la Feria de Chicago había matado a su propio creador.

Uno de los primeros robots de uso práctico, bastante anterior a los soldadores y pintores que invadirían la industria automotriz, fue el Mobot de Hughes Aircraft (1960), diseñado para tareas peligrosas o insalubres. Años más tarde, los accidentes laborales que ocurrían cuando algún robot industrial se descontrolaba volvieron a invocar viejos fantasmas y se comenzó a pensar en algo parecido a las tres leyes. Al igual que los electrodomésticos o los autos, los robots debían ajustarse a normas de seguridad. Pero considerando que ahora son capaces de tomar decisiones, las preguntas inevitables parecen ser: ¿Conoce un robot todas las maneras (físicas o psíquicas) en que un ser humano puede ser dañado? ¿Cómo puede entender las órdenes humanas y decidir si ejecutarlas o no conforme a un sistema de normas, si a veces las órdenes resultan confusas para nosotros?

El principio asimoviano que impide hacer daño a los humanos fue violado desde el momento en que aparecieron los robots militares, que en su mayoría son máquinas de matar. Philip Dick los había imaginado, y algunos escritores más suspicaces que otros previeron que en algún momento los recaudos de Asimov serían obviados. Uno de ellos fue el escéptico John Sladek, que en Tik Tok (1983) imaginó que los “circuitos asimovianos” que hacían inocuos a los robots podían ser neutralizados para el caso de ser empleados para la guerra. Nadie lo tomó en serio, porque Sladek era el mismo que en La Gran Muralla de Méjico (1973) había imaginado eso que sus gobiernos harían veinte años después. También se habían reído en los ’50, cuando Kurt Vonnegut hablaba de “veteranos de Afganistán”…

MAQUINAS DE GUERRA

Peter Warren Singer es hoy considerado el mayor experto en guerra robótica del mundo. Con menos de cuarenta años y un decidido aspecto de nerd, es quien coordina las políticas de defensa de Obama, bajo cuyo gobierno se ha disparado el uso de los robots de guerra. Autor de Wired for War (2009), Singer parece expresar más dudas que convicciones en la conferencia de promoción de su libro, que aún se puede ver por Internet.

Estados Unidos, sostiene Singer, es hoy la mayor potencia robótica. Tan sólo en el frente de Irak ha desplegado más de doce mil robots de veinte variedades distintas. Aparte de los drones, de los que hablamos en una nota anterior, Singer nos ofrece un vistazo de los artefactos de tierra, a través de los videos de presentación, que omiten los detalles técnicos pero no dejan de resultar bastante preocupantes.

Los robots de tierra más usados en Irak y Afganistán son aquellos que se usan para desactivar o detonar bombas de fabricación casera, conocidos hace tiempo en todo el mundo.

Algunos parecen juguetes que se lanzan con la mano, como el planeador Raven y el explorador Crow, usado para el reconocimiento del terreno enemigo. La plataforma Sword, montada sobre orugas, puede ir equipada con ametralladoras o lanzacohetes. Más curiosos son el Crusher y el Bug Dog, que corren velozmente sobre sus cuatro patas, como si fueran perros o caballos.

Ante este despliegue de máquinas bélicas, Singer se cree autorizado a anunciar que el monopolio humano de la guerra está terminando. Para aquellos que desearíamos que se acabaran las guerras, nos ofrece una reflexión sobre la innata agresividad humana, que siempre sirve para justificarlas.

A continuación, Singer da lugar a las objeciones. Cuenta que un periodista árabe le dijo una vez que los combatientes islámicos veían esas armas como una muestra de cobardía, lo cual en lugar de intimidarlos los enardecía aún más. Reconoce que manejar las acciones bélicas desde una oficina implica un distanciamiento bastante psicopático. Su parecido con los videojuegos crea una suerte de pornografía de la violencia donde nada parece ser real. Un oficial, recuerda Singer, fue juzgado en Irak por haber ametrallado por error a una patrulla aliada. Pero ¿quién se hubiese hecho responsable si el error lo hubiese cometido un dron? Por otra parte, los robots no escapan al destino global, y suelen depender tanto del hardware chino como del software indio. Considerando que también están sometidos a la ley de Moore, que tiende a abaratarlos y multiplicarlos, nada impide que en el mediano plazo estén al alcance de cualquier Unabomber o terrorista aficionado. También pueden fallar, como reza el axioma de TuSam: Singer cuenta que alguna vez un robot se enloqueció durante una demostración y comenzó a disparar balas virtuales como en cualquier película de acción.

Fuente: http://www.pagina12.com.ar/diario/suplementos/futuro/13-2816-2013-03-07.html

VISTO EN: rebelion.org

2 comentarios en “El código Asimov

Deja un comentario

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Cerrar sesión / Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Cerrar sesión / Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Cerrar sesión / Cambiar )

Google+ photo

Estás comentando usando tu cuenta de Google+. Cerrar sesión / Cambiar )

Conectando a %s