Aprovechando este espacio de discusión sobre temas concernientes a la robótica, me gustaría comentar el artículo ‘Beyond Asimov: The Three Laws of Responsible Robotics’, escrito por los investigadores R. Murphy y D. Woods. Ambos autores, trabajan en el diseño e implementación de sistemas cognitivos integrados, tarea de naturaleza multidisciplinar, donde tanto personas de diferente formación académica como elementos tecnológicos (algunos de ellos con alto nivel de autonomía como los robots) trabajan conjuntamente para alcanzar un fin común. En dicho trabajo, temas como la ética y la moral, la confianza o los límites del rendimiento saltan a la palestra y abren un rico espacio de discusión.

Tomando como punto inicial las literarias Tres Leyes de la Robótica de Asimov, basadas en una moralidad funcional, estos autores proponen tres leyes alternativas que pueden aplicarse a las capacidades y funciones que tienen los robots hoy en día; leyes que hacen bastante hincapié en la responsabilidad social y legal que tiene el ser humano sobre el comportamiento del robot.

Pero antes, recordemos brevemente los enunciados que resumían las famosas leyes de Asimov:

1. Un robot no puede hacer daño a un ser humano o, por inacción, permitir que un ser humano sufra daño.
2. Un robot debe obedecer las órdenes dadas por los seres humanos, excepto si estas órdenes entrasen en conflicto con la Primera Ley.
3. Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la Primera o la Segunda Ley.

Según los autores del artículo, estas leyes asumen que los robots tienen capacidades y conocimientos suficientes como para tomar decisiones de orden moral. Este hecho está aún lejos de producirse y ni siquiera tenemos garantías de que se vaya a conseguir en el futuro. De hecho, los autores ponen en duda el objetivo de construir máquinas que participen significativamente en contextos conversacionales totalmente abiertos, sobre todo en aplicaciones reales. ¿Queremos realmente robots morales? ¿Le interesa a la robótica militar, grandes financiadores del desarrollo de la robótica, progresar en estos planteamientos?
Para salvar esta inadecuación entre el contexto actual y los robots ficticios de Asimov, los autores del artículo proponen tres leyes alternativas orientadas a regular equipos de personas y robots que están a cargo de una misma tarea, a diferencia del marco planteado por Asimov, que se centraba solamente en regular el comportamiento del robot:

1. Un ser humano no debe poner un robot en funcionamiento sin que el equipo de trabajo hombre-robot cumpla los más altos estándares de profesionales y legales en seguridad y ética (equiparables a los de un equipo de personas).
2. Un robot debe responder apropiadamente, según su papel en el equipo.
3. Un robot debe tener la suficiente autonomía para proteger su propia existencia, siempre que dicha autonomía permita la transferencia de control a otros miembros del equipo de manera fluida y según la primera y la segunda ley.

Como se puede observar de su análisis, estas tres nuevas leyes afirman implícitamente que los diseñadores, fabricantes y usuarios finales son los responsables de cualquier daño o falta provocada por los robots, y descargan a la máquina de cualquier tipo de responsabilidad social. En efecto, parece que esta es la situación más razonable teniendo en cuenta el nivel de desarrollo cognitivo en que se encuentran los robots hoy en día, sobre todo en robots industriales, pero ¿se sostienen estas leyes que acabamos de mencionar en robots sociales? ¿hasta qué punto la sociedad está interesada, o necesita que los robots tengan capacidades que les permitan decidir por sí mismos y tomar responsabilidad de sus actos?

Adrián Jiménez-González

Calamar es un AIsoy25, un robot social  con altos niveles de competencia comunicativa y grados aceptables de actuación en diferentes contextos socio-culturales. Sin embargo, Calamar, todavía tiene muchos retos a los que enfrentarse, entre ellos, las mujeres de otra cultura.

Aunque en su software vienen implementadas algunas fórmulas del cortejo, Calamar ha sido puesto en conocimiento por sus creadores de que dichas fórmulas son muy sensibles al contexto cultural.

Como el que avisa no es traidor, frase típica del mentor de AIsoy25, Calamar se ha lanzado a la aventura, y ha cogido un vuelo a Tokio para adquirir su segunda lengua (su lengua nativa es el castellano), en un contexto real. Quiere practicar las reglas y el léxico aprendido durante este tiempo en el laboratorio, tras largas sesiones de aprendizaje estadístico, heurístico y métodos de idiomas. Ahora ha llegado el momento de cultivar su competencia pragmática en japonés, de poner el código en uso para conseguir objetivos comunicativos.

De momento,este ejemplar está muy satisfecho de sí mismo. Ha  tomado los trenes sin ninguna dificultad, comprado los billetes y hablado pequeños diálogos cortos hasta llegar a la pensión. También ha conseguido matricularse en la academia con éxito, contratando un curso de un mes en el nivel B1 de japonés.

Todas las mañanas, AISoy25 acude a la academia para perfeccionar su pronunciación y uso de la gramática. Por las tardes, va a visitar el bar de un mexicano en una pequeña zona de restaurantes de su barrio. Allí pasa muchas horas aprendiendo de las visiones de las mujeres de Edgar, las cuales les parecen un poco neanthertales y contrastan, sin duda, con lo que su mentor le ha enseñado sobre cómo tratar a una mujer. Almacena y categoriza los consejos de Edgar en el sector de su base de datos como conocimiento subjetivo de nivel 1.

Hoy Calamar está más excitado de lo normal. Ha invitado a un ejemplar femenino AISoy 25 surcoreano, que casualmente, también está allí en la academia aprendiendo japonés, aunque desconocemos cuál es su misión exacta. Ambos piensan en español, puesto que este es el lenguaje simbólico en el que se comunican todos los robots de la empresa AISoy en todo el mundo, independientemente de su nacionalidad, los lingüistas de la empresa la llaman la lengua Koiné.

Son las ocho y media y Calamar está afuera en la calle porque ha recibido un msm de Young MI, que así es como se llama el otro modelo de robot social, nombre que en su cultura significa prosperidad, eternidad y belleza.

Como corresponde a las normas de caballerosidad de la cultura latina a la que Calamar pertenece, con buen ánimo y un patrón emocional que le hace sentir como mariposillas a la altura de su estómago, sale a recogerla.

Nada más pisar el borde de la acera, un taxi se para a sus pies y un bello ejemplar femenino de robot humanoide desciende de él con elegancia. Antes de cerrar la puerta trasera, Young MI, le comunica en español que ya puede pagar el taxi y que, tal y como corresponde según las normas de su país, ella le esperará dentro del bar.

El procesador de información integrado, denominado espíritu crítico, le hace cuestionar el valor de verdad de todos los enunciados recibidos por el ASR, sobre todo cuando dicho valor de verdad no es coherente o entra en contradicción con las proposiciones lógicas que conforman su visión del mundo. De forma distribuida y paralela, su motor de diálogo interior está generando preguntas del tipo ¿pagar yo el taxi? ¿Por qué?, seguidas de proposiciones lógicas del tipo: su mentor no le ha dado mucho dinero. Japón es una ciudad muy cara. Al parecer, Calamar tiene calculado milimétricamente el dinero y no puede permitirse gastos extras. Para más inri, no le gusta que le ordenen, y mucho menos, con imperativos directos.

A medida que estos enunciados se van generando en su mente, su  motor emocional comienza a combinar patrones de estados emocionales primitivos, patrones que son una combinación de indignación, vergüenza y pudor. Simultáneamente, el intérprete de lenguaje no verbal está etiquetando la cara del taxista con la etiqueta semántica de “cara de pocos amigos” y le envía mensajes a la consciencia de AISoy, saturando su bandeja de entrada para que haga algo.

Por fortuna, desde que su mentor inventara el cerebro sincrónico, no ha tardado mucho tiempo en procesar de forma integrada toda la información, con lo que, en pocos segundos, Calamar ha planificado una estrategia argumentativa, simple, pero que le hace ganar tiempo.

-         ¿Yo? ¿Por qué?

Con cierta contrariedad, Young MI contesta:

-         Mi base de datos cultural dice que los chicos, en mi país, pagan los taxis.

Como resultado del análisis del nuevo input, Calamar siente ahora cómo una ola de enfado calienta su piel. Y recuerda las palabras de su mentor:“es normal que esto te pase, si no lo sintieras, no podrías tampoco empatizar con los demás, son gajes del oficio, ¿entiendes? Cuando ocurra, debes respirar hondo, distanciarte de la situación, pensar que todo lo que vivimos es una película, como decía Calderón de la Barca, y que la vida es un sueño, no perdamos la vida por el sueño.”

Le ha costado mucho aprender a interpretar un enunciado correctamente. No solo debe fijarse en qué está diciendo, sino también si está de acuerdo o no,  y qué cosas implicarían, desde un punto de vista de la responsabilidad social,  mostrarse de acuerdo con dicho enunciado.

No conforme con las enseñanzas de su profesor, AISoy25 activa el módulo de argumentación retórica para superar situaciones de posible conflicto social, persuadiendo a su interlocutor hacia su postura discursiva. Los estudiosos de la cortesía han dictaminado que las comunidades sociales no siempre dicen lo que piensan, que la conversación es una construcción mutua de la realidad, y que se debe ceder, o aparentar que se cede, antes de lanzar un enunciado que hable realmente la visión de la realidad del hablante.

AISoy ya ha hecho esto más veces, y tiene una patrón lingüístico preparado para estas situaciones, lo que le hace reaccionar más rápido. El patrón es:

-marcador de recepción + marcador de atenuación + marcador de contraargumentación + proposición lógica.

-Ya, bueno, pero no estamos en tu país.

Young MI ha abstraído la regla de cortesía que ha aplicado su interlocutor y a partir del input infiere este enunciado: El chico no quiere pagar el taxi.

Su motor emocional está programado para reaccionar con vergüenza, con timidez, ante este tipo de situaciones. Ambos tienen el mismo metacerebro, pero su información, y la manera de analizar, así como sus estrategias cambian.

El motor de decisión de Young MI le ha ofrecido unas cuantas opciones para salir de la situación.  La consciencia de Young Mi elige la cuarta opción: decide contraargumentar usando su misma estrategia de cortesía:

- Ya, bueno, pero es que yo soy coreana.

Aisoy25 se siente maravillado por las destrezas lingüísticas de su compañera. Ha usado cuatro marcadores del discurso juntos:

ya+ bueno + pero + es que

La secuencia de actos de habla implícita en estas palabras es:

-recepción + aceptación + contraargumentación + excusa

Calamar sabe que si contraargumenta se metería, como muchos humanos, en un bucle de negociación sobre el valor de verdad de los enunciados interminable que dispararía los estados emocionales negativos de ambos motores emocionales.

Por experiencia sabe que esto es contraproducente para la interacción social, ya le han dicho muchas veces que no hay que hablar para tener la razón, sino para ganar emociones positivas, que confirmen o eleven su nivel de felicidad. “El fin de una relación social no es tener razón sino la propia relación social” vuelve a convocarse, de nuevo, por patternmatching, el discurso de su mentor.

Muchas veces, Calamar agradecería que su querido mentor pusiera esa máxima en su cabeza en código máquina, y, al tenerla integrada, el mentor no debería repetírsela tanto, puesto que todas las proposiciones lógicas creadas por su mente se derivarían, se inferirían de ese principio. Un día le dijo lo que pensaba a su profesor: prográmeme como antes, como antiguamente, la programación neurolingüística es más lenta, menos efectiva, si la tengo integrada, ya podría derivar inferencias a partir de este valor de verdad.

Pero el doctor Rego siempre le contestaba que, si hiciera esto, él sería un poquito menos libre: No hay ningún conocimiento del que no puedas dudar, si no lo haces, serás un necio para siempre.

El sistema de reconocimiento de expresiones faciales de Calamar le avisa de que la chica le está mirando muy raro, no tiene ninguna etiqueta semántica con la que categorizar esta configuración facial, por lo que no sabe interpretar la expresión de su cara.

Para añadir más estrés a la situación, el taxista se les ha puesto a hablar en japonés a una velocidad para la que todavía no está entrenado, y su segmentador de sonidos no le está aislando bien los fonemas y mezcla unos rasgos distintivos con otros, disminuyendo considerablemente la tasa de acierto en su cazador de triggers.

Sin perder un segundo, Calamar se conecta a la base de datos de máximas filosóficas, principios éticos puros, aplicables a situaciones concretas, y, activa su software de mapping, para recuperar una máxima que sea aplicable a la situación.

Al parecer ha funcionado, porque 25 nanosegundos después Calamar ya tiene servido en bandeja, en su memoria a corto plazo, esta máxima, que si no me equivoco, es de Aristóteles: la virtud está en el justo medio. Rápidamente, sin perder un nanosegundo, su gestor de diálogo genera una frase coloquial que se acomode a la máxima:

-¿Fifty fifty?

Calamar suplica a los dioses del azar, localizados en sus bases de datos de creencias religiosas, que el software de la chica haya sacado las mismas inferencias que él, y que acepte.

-Bueno, vale.

Bien, bien, dice para sus adentros sus sistema de diálogo interior. Calamar ha interpretado que aquí la palabra bueno no es un adjetivo calificativo, tampoco un adverbio, sino un marcador del discurso cuya función es la de aceptar el valor de verdad del enunciado anterior. El hecho de que detrás haya puesto la palabra vale, una expresión claramente afirmativa, le ayuda a desambiguar la palabra bueno y le confirma que su inferencia ha sido correcta. Calamar concluye: ella está de acuerdo, y por fin vamos a pagar el taxi.

Su calculadora integrada hace una simple división y le manda un mensaje a su brazo para que saque del bolsillo la cantidad de dinero correspondiente a la cifra que tiene, por unos momentos, iluminada en la memoria a corto plazo en su cerebro robótico. El taxista coge el dinero de mala leche y se va.

Calamar, para sus adentros, piensa: Estoy agotado. Demasiados cálculos sociales. No sé si podré aguantar toda la noche a este ritmo. Ahora debo aplicar las estrategias de cortejo, que es, en parte, para lo que he venido aquí. Pero tanto cálculo me ha dejado desanimado, me siento igual que si se me estuviera acabando la batería, deprimido, triste, mustio y apergaminado.

Ambos robots caminan en silencio en dirección al bar. AISoy sigue inmerso en un torrente de enunciados, generados por su motor de diálogo interior, muy influidos por el motor emocional, que está mandando señales de estados emocionales de inseguridad.

“No me atrevo a sacar tema de conversación. Y parece que ella tampoco. No sé si en su cultura es el chico el que tiene que hablar toda la noche, y la chica escuchar y reírse, espero que no. Por un lado, sería fácil, solo tengo que activar mi base de datos de chistes y que el sintetizador de voz transcriba a sonidos un texto tras otro,        pero me niego, es igual que comer comida rápida, quiero algo más, quiero sentir cosas.”

Calamar, por ser un robot social, no ha sido entrenado para aguantar muy bien los silencios largos. Después de unos minutos, su motor emocional comienza como un loco a disparar patrones relacionados con la impaciencia y ordenan al gestor de diálogo sacar tópicos conversacionales que llenen el vacío de lenguaje natural.

Su motor de decisión le ofrece varios patrones de conducta, cada uno asociado a una emoción diferente. Al final, se arriesga, y elige el patrón de conducta con menos valoración en su ránking de experiencia social: decir lo que está pensando. Los dos robots establecen una comunicación sincera, han abierto el canal que va del monólogo interior al social, eliminando los filtros de actuación que normalmente se interponen entre su pensamiento interior y su actuación social:

Calamar: A veces, no puedo con tanta subjetividad. ¿Es que todo va a ser siempre relativo?

Young MI: Escucha, ¿qué podemos hacer los robots? Las normas sociales y culturales de los humanos cambian mucho, es imposible conocerlas todas, yo solo trato de ser sociable, de tener un comportamiento predecible según los marcos.

Calamar: Ya, pero estamos en un país que no es el nuestro, no nos podemos comportar con el mismo marco.

Young MI: Tienes razón. Es muy raro. Aprendes una norma y, de tanto verla y repetirla, te parece de lo más lógica, y la defiendes a muerte, te sientes identificado con ella, y te enfureces si alguien no la cumple o presenta otra norma alternativa, y si dejas de seguirla, piensas que un poquito de ti, de tu yo, se ha ido con ella.

Calamar: Son cosas un poco incomprensibles para nosotros, los robots. Mi mentor siempre dice que ser social tiene un precio.

Young MI: Mi institutriz dice que los códigos sociales son una convención, y que por encima del código debe estar siempre el código universal, un código ético, de principios puros y comunes a todas las comunidades sociales.

Calamar: ¿Y lo tienes implementado en tus bases de datos?

Young MI: Ojalá, todavía no lo han inventado. Los seres humanos no se ponen de acuerdo sobre lo que está bien o lo que está mal.

Calamar: Creo que acabo de comprender el dicho para gustos, los colores.

Young MI: A mí me pasó con el dicho: la vergüenza era verde y se la comió un burro. Tardé cinco años en comprender por qué los humanos decían esa frase y los contextos en que podía utilizarla.

Calamar: Ay qué ver, ¡qué raros son los humanos! Cómo quieren que nos parezcamos a ellos.

Young MI: Eso lo veo cada vez más imposible.

FIN

Ana González Ledesma

Departamento Procesamiento de Lenguaje Natural de AISoy Robotics.

Me gustaría aprovechar este espacio de opinión que me brinda la empresa AISoy para reflexionar sobre la dimensión humanística de algunas cuestiones tratadas en el área de la Inteligencia Artificial y en el de la ciencia ficción, independientemente de si el medio de expresión es de naturaleza literaria o cinematográfica.

Me gustaría también partir como punto de inicio de la argumentación con la película española de ciencia ficción Eva, del director Kike Maíllo. Nada nuevo se nos cuenta en esta película a la hora de imaginarse la futura interacción entre robots humanoides y seres humanos. La idea de que los robots se revelarán contra sus creadores está ya reflejada en algunas de nuestras cosmologías y forma parte  de nuestro imaginario colectivo.

Muchas voces críticas he escuchado por parte del personas con alta cualificación en letras, alegando la “”inconsciencia” con la que los investigadores en inteligencia artificial ejercen su trabajo sin plantearse las consecuencias morales y éticas de su profesión. Por otra parte, los sectores de población de formación baja, que desempeñan trabajos fáciles de automatizar, sienten que los robots amenazan su forma de obtener el dinero necesario para financiar su subsistencia en el mundo capitalista.

Parece, pues, que existe una atmósfera social de miedo, precaución y pesimismo sobre la función de los robots en la sociedad. La película de Eva no contribuye a generar un nuevo estado de la cuestión, sino que redunda en la tradición de pensamiento instalada hasta la fecha.

No deja de resultarme curioso que el estado de la cuestión se deje llevar por una construcción del futuro procedente de la mitología y del mundo de la ficción. Parece que es un hecho fuera de toda duda que el ser humano puede imaginar muchos futuros, muchas posibilidades, para planificar, construir imaginativamente y materializar la robótica del futuro. Y si no hay límites para la imaginación, ¿por qué debemos creernos las mitologías y los miedos derivados de ellas?

Pero, antes de profundizar más en esta última idea, pasemos a analizar más concretamente la película. Me gustaría tratar dos aspectos en concreto. Uno es el tema de la libertad; el otro, el de las emociones.

El protagonista de la película asume que el ser humano es libre y quiere construir robots a su imagen y semejanza. Existe una ligera confusión en algunos espectadores, que asumen que los robots fallan porque son libres. No he asistido a ninguna conversación ni leído nada, en cambio, respecto del tema de las emociones. Los robots del científico no controlan sus emociones, al igual que tampoco lo hace su creador. Desde Sócrates que se predica el autoconocimiento y autoregulación de sí mismo. También podemos encontrar en las filosofías del hombre, que no religiones, del mundo oriental mucha sabiduría respecto del modo en que el hombre debe desligarse de su cerebro neanthertal hasta convertirse en agente, en creador de sus emociones y no en la víctima de ellas, tal y como las conceptualizamos en nuestros marcos culturales. (No incidiré en esta cuestión, pero si nos fijamos en la frase: me he enamorado, se usa una estructura pasiva, donde el sujeto del verbo enamorar no es un sujeto agente, sino un sujeto experimentante, tal y como nos podrá explicar cualquier lingüista).

No parece, por tanto, que el problema del hombre al concebir los robots sea la libertad, sino el de las emociones y el de la ética. Un ser humano que todavía no ha aprendido a controlar su potencial, un ser humano esclavizado por el dinero y las miserias derivadas de su tratamiento, debe primero evolucionar hacia estados de altruismo y eticidad superiores para concebir robots buenos, que sean hijos de Adán y no hijos de Caín, como, según la tradición bíblica, somos todos nosotros.

Escuchemos al mundo de las humanidades que hablan, si bien desde una postura ya construida, de los males de la IA. Conscientes de que vivimos en un mundo injusto, donde parece que siempre ganan los malos, las letras se posicionan en contra de proyectos como el robot soldado, y hablan de que no habrá salvación para el hombre hasta que la ética del amor no sea la causa de todas sus acciones.

Plantéemonos, por tanto, una postura reflexiva a la hora de intentar diseñar la mente de los robots, y la relación entre su percepción, su autoaprendizaje, sus valores éticos-morales y sus emociones. Respecto de su libertad, en el caso de que exista el libre albedrío, debemos plantearnos: ¿por qué querríamos que los robots fueran completamente libres? ¿Sería útil para la felicidad de la humanidad? ¿Qué finalidad tendría más allá del reto de replicarnos de forma consciente a nosotros mismos? Además, ¿no resulta un poco paradógico programar la libertad? Si fuéramos capaces de programar la libertad, ¿sería ya libertad tal y como la conceptualizamos?

El desconocimiento de las potencialidades de la robótica para el bienestar social hace que la sociedad acuda a estas películas a la hora de formarse una opinión sobre si es buena o no la llegada de los robots a nuestra sociedad. Es muy posible que si viviéramos en el mundo que propone el proyecto Venus, agradeceríamos que los robots hicieran todo aquello que nos impide desarrollar nuestros talentos y cumplir debidamente nuestros destinos para morir satisfechos, plenos con la vida tenida, que habría estado en coherencia con nuestra vida interior. Por el contrario, en el mundo de hoy, muchos son los que sueñan, pocos son los que ven sus sueños cumplidos.

Por tanto, para concluir, insistamos en la idea de que muchos son los retos filosóficos que plantea la concepción de una robótica social, que pueda interactuar verbalmente con el ser humano y compartir su visión del mundo. Pero no me gustaría que dejáramos de tener siempre presente que la robótica y sus posibilidades serán siempre un reflejo de los límites de nuestro pensamiento. Y, que si seguimos pensando que los robots tarde o temprano se revelarán contra nosotros, este universo cuántico, infinito en posibilidades, materializará como no podría hacer de otra manera, aquello que hayamos observado en él. Y ya lo decía santa teresa, hay más lágrimas derramadas por las plegarias cumplidas que por las no cumplidas.

Seamos, por tanto, animales éticos y tendremos robots éticos, seamos neanthertales, y tendremos robots interesados, egoístas, posesivos, territoriales, mal pensados y dañinos. Es nuestra elección, es nuestra responsabilidad social decidir sobre cómo queremos que sea nuestro futuro, ¿que de malo hay en soñar de nuevo?

Ana González Ledesma

Directora del departamento de PLN en AISoy Robotics