EL DILEMA DE ROBBY

Photo by PIOTR BENE on Unsplash

Sus pequeños ojos, dos luces azuladas, subían y bajaban de intensidad sobre mí, escudriñándome.

Saqué mi tableta para escribir el diagnóstico final sobre Robby.

Se incorporó. Había estado acostado sobre el diván diciéndome todos los detalles de su existencia. Estaba acostumbrada a escuchar la retahíla: «Mis humanos esto, mis humanos lo otro…» Robby era un robot doméstico y le empezaban a molestar cosas como el tono de voz de sus jefes, la naturaleza de sus labores y palabras como «injusticia», «enojo» o «abuso», empezaban a salpicar su vocabulario, lo cual era algo inusual y preocupante.

Después de tres sesiones de lo mismo, mi consejo como experta en robo-psicología era que fuera destruido. Claramente su cerebro estaba dañado. Durante mi práctica profesional pocas veces me había encontrado frente a robots «rebeldes», era un fenómeno que aún no se explicaba muy bien.

Robby pareció percibir su inminente destino.

—Dra. Morante, ¿puedo saber lo que va a recomendar?

Siempre me maravilló la naturalidad ya alcanzada en las voces robóticas, la suya era suave y agradable.

—No. Lo siento, Robby.

—Perdone, pero no quisiera que me considerara un caso perdido.

—¿Por qué crees que puedo pensar eso, Robby?

El robot dirigió su mirada azul a sus pies y luego a mí antes de contestar.

—Estoy consciente de que quejarme tres veces seguidas es una irregularidad.

—Así es, Robby. Tu cerebro debe estar funcionando mal. Lo siento.

—¡Es que son tan molestos! —dijo, refiriéndose a sus dueños.

Tuve un momento empático. Quizás fue su actitud, su tono de voz que reflejaba tanto sinceridad como desesperación. Me recordó a mí misma en la casa de mis padres.

—Mira, Robby. Los humanos somos seres de emociones complejas y ustedes fueron creados para no tenerlas. En tí empiezo a ver un patrón problemático. ¿Entiendes?

—Sí

—Recomendaré un «reinicio» completo de tu cerebro robótico, pero si eso no ayuda tendrás que ir a reciclaje.

El robot volvió a fijar sus ojos azules en mí.

—Entiendo.

—Perfecto.

Me vio escribir el mensaje y me observó atento mientras le daba «enviar».

—Espero que pase mucho tiempo antes de verte de nuevo por aquí —le dije.

Robby se incorporó. Su cuerpo de fibra de carbono color metálico de dos metros de altura apenas hizo algún ruido. Hizo una ligera inclinación de cabeza. Alcancé a ver su avanzado cerebro a través del armazón transparente que lo cubría. Era como asomarse a un rincón del universo, con una miríada de estrellas titilando. Una pieza excepcional de ingeniería, y sin embargo, estaba fallando.

—Dra. ¿Me permite decir algo más antes de irme? —asentí—. Me parece injusto que por un error humano deba yo ser destruído. En todo caso también se debería sancionar de alguna manera al ingeniero que se equivocó en mi programación o al que diseñó mal mi cerebro. —Calló abruptamente al darse cuenta de que había cometido un grave error—. Bueno, no me haga caso, ya sabemos que mi unidad cerebral está defectuosa. Seguramente después del «reinicio» estaré de lo más normal.

Una vez que Robbie abandonó el consultorio, regresé a mi tableta y escribí de nuevo:

«Desechar mensaje anterior. Recomiendo destruir a la unidad 4876bc3 modelo Rby2. Además de presentar indicios de malestar ante órdenes humanas, pareciera también estar en desacuerdo con la primera Ley Robótica de no hacer daño a los seres humanos.» Adela Morante, Lic. en Psicología Robótica.

Autor: Ana Laura Piera / Tigrilla

Nota:

Las tres leyes de la robótica de Asimov son un conjunto de normas elaboradas por el escritor de ciencia ficción Issac Asimov que se aplican a la mayoría de los robots de sus obras y que están diseñados para cumplir órdenes.

Primera Ley: Un robot no hará daño a un ser humano ni, por inacción, permitirá que un ser humano sufra daño.

Segunda Ley: Un robot debe cumplir las órdenes dadas por los seres humanos, a excepción de aquellas que entren en conflicto con la primera ley.

Tercera Ley: Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la primera o con la segunda ley.​

https://bloguers.net/literatura/el-dilema-de-robby-cuento-corto/

24 comentarios en “EL DILEMA DE ROBBY

      1. Fantástica historia, Ana, y cada día más probable, me ha encantado el juego desarrollado en la conversación y como en última instancia la doctora cambiá el diagnóstico y el «tratamiento».
        Un beso.

        Le gusta a 2 personas

  1. Wow, este relato me ha recordado mucho a Susan Calvin en los cuentos de Robots de Asimov.
    Me ha encantado ese proceso de empatía que vas creando durante la narración. Haces que el lector vaya entendiendo al robot/androide hasta sentir un amargo pesar por el final.
    Me gustan mucho estos cuentos que «enfrentan» la menta humana ante la inteligencia artificial. De alguna forma, nos psicoanaliza más a nosotros que a ellos. Somo demasiado complicados y carentes de lógica en muchas cosas de las que hacemos y un robot se volverá loco al intentar entendernos.
    Es comprensible la actitud de la doctora por nuestra seguridad, pero ¿seremos capaces de parar el desarrollo de lo que estamos creando? ¿Llegarán a sustituirnos los androides ante nuestra pobre «humanidad»?
    Enhorabuena por el relato, Ana. Se disfruta y, además, te hace pensar. Es este un debate muy interesante y que, de alguna forma, determinará nuestro futuro.
    Un abrazo cibernético.

    Le gusta a 1 persona

    1. Cuánta verdad cuando dices que este tipo de relatos nos psicoanaliza más a los humanos. Nos desnuda. Quizás no lleguemos a este nivel de complejidad en IA…pero si llegamos espero que podamos controlarlo, o quizás sean los mismos robots quienes lo hagan, siguiendo un tipo de reglas como las de Asimov. Confieso que recién leí «I Robot» y me fascinó, este cuento está inspirado en él y el personaje de la singular Susan. Abrazos!

      Le gusta a 1 persona

  2. ¡Hola, Ana! Un relato que seguro haría las delicias del gran Asimov. Y me parece que cada vez estamos más cerca de que estas historias las califiquemos de Ciencia Ficción ante los avances en IA. Me encantó! Un abrazo

    Le gusta a 1 persona

  3. Historia que deja pensando, tal vez de acuerdo a lo que suceda con ellos aprenderan muy rápido la psicología de los humanos y con ello el engaño será parte de su sistema, dirán lo que se espera, mientras prepararán su propio camino, el futuro ya lo tenemos encima y bueno seremos sus esclavos o por lo menos de quienes los programen. Un abrazo

    Le gusta a 2 personas

Deja una respuesta

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Salir /  Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Salir /  Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Salir /  Cambiar )

Conectando a %s