Asimov y sus leyes de la robótica

 

Asimov y sus leyes de la robótica

por Eduardo Rodas

 

Haga CLIC en la foto para verla en su totalidad

Isaac Asimov (1920-1992) fue un escritor estadounidense de origen ruso, conocido por ser un prolífico autor de obras de ciencia ficción y divulgación científica.​ Fue profesor de Bioquímica en la Escuela de Medicina de la Universidad de Boston.​​​

Escribió las Tres Leyes de la Robótica en su cuento de ciencia ficción titulado Círculo vicioso, redactado en octubre de 1941 y publicado en marzo de 1942 en la página 100 de la revista Astounding Science Fiction. Lo escribió en Nueva York mientras vivía y desarrollaba allí su carrera literaria y científica.

Las leyes no nacieron en un ensayo científico, sino como un recurso narrativo en una charla con el editor John W. Campbell que luego se plasmó en el famoso relato de 1942.

 

Tapa de la revista Astounding Sicience Fiction
Marzo de 1942

 

Así fue que aparecieron de manera formal dentro de dicha revista de historias de ciencia ficción y recién en 1950 se recopilaron en la célebre antología Yo, robot (I, Robot).

Son reglas ficticias destinadas a regular el comportamiento de los robots frente a los seres humanos, que hoy en día tienen una gran actualidad.

Las Tres Leyes de Asimov

1. Primera Ley

Un robot no debe dañar a un ser humano ni, por inacción, permitir que un ser humano sufra daño.

2. Segunda Ley

Un robot debe obedecer las órdenes dadas por los seres humanos, excepto cuando esas órdenes entren en conflicto con la Primera Ley.

3. Tercera Ley

Un robot debe proteger su propia existencia, siempre que esa protección no entre en conflicto con la Primera o la Segunda Ley.

Y después apareció una cuarta...

En novelas posteriores, Asimov incorporó la llamada Ley Cero, que tiene prioridad sobre las otras tres:

La Ley Cero dice que un robot no puede dañar a la Humanidad ni, por inacción, permitir que la humanidad sufra daño.

En esta ley la Humanidad pasa a estar por encima del individuo y así aparece el dilema entre el bienestar individual y el colectivo.

Humanidad vs. personas

Esto introduce un problema fascinante: ¿qué ocurre cuando proteger a la humanidad en su conjunto implica perjudicar a una persona?

Y justamente ahí está una de las grandes anticipaciones de Asimov: sus historias no trataban solamente de robots, sino de los conflictos éticos que aparecen cuando una tecnología debe tomar decisiones que afectan a los seres humanos.

Algunas preguntas que Asimov planteó en la ficción siguen presentes, aunque la IA actual funcione de una manera muy diferente a los robots de sus relatos.

Asimov y la IA actual: de la ficción a la realidad

Asimov: ficción	IA actual
El robot debe evitar dañar al ser humano.	Los sistemas de IA deben incorporar principios de seguridad y prevención de daños.
El robot debe obedecer órdenes humanas.	La IA sigue instrucciones, pero existen límites: seguridad, privacidad, legislación y restricciones del sistema.
El robot debe proteger su propia existencia.	Una IA actual no tiene, en sentido estricto, una necesidad propia de supervivencia.
La Ley Cero prioriza a la humanidad.	La IA moderna plantea cuestiones sobre beneficio social, derechos humanos y bienestar colectivo.
Las leyes están incorporadas al comportamiento del robot.	La IA utiliza una combinación de datos, modelos, reglas, supervisión humana y políticas de seguridad.
El conflicto surge de las propias leyes.	El conflicto actual puede surgir de sesgos, errores, datos deficientes, usos indebidos o decisiones automatizadas.

 

La gran diferencia

Hay una diferencia fundamental: los robots de Asimov eran personajes ficticios con capacidad de actuar y razonar dentro de las historias, mientras que las IA actuales son sistemas informáticos que generan respuestas o ejecutan determinadas tareas según su diseño, entrenamiento, datos, herramientas y restricciones.

Asimov imaginó reglas para los robots. La realidad actual nos obliga a construir reglas para la Inteligencia Artificial.

Pero la pregunta de fondo es muy parecida:

¿Cómo hacemos para que una tecnología cada vez más poderosa actúe de manera compatible con los intereses humanos?

Son las mismas preguntas, en nuevos escenarios y con el mismo objetivo: la tecnología debe estar al servicio de las personas.

Estando al servicio de las personas estará al servicio de la Humanidad.