Aprovechando este espacio de discusión sobre temas concernientes a la robótica, me gustaría comentar el artículo ‘Beyond Asimov: The Three Laws of Responsible Robotics’, escrito por los investigadores R. Murphy y D. Woods. Ambos autores, trabajan en el diseño e implementación de sistemas cognitivos integrados, tarea de naturaleza multidisciplinar, donde tanto personas de diferente formación académica como elementos tecnológicos (algunos de ellos con alto nivel de autonomía como los robots) trabajan conjuntamente para alcanzar un fin común. En dicho trabajo, temas como la ética y la moral, la confianza o los límites del rendimiento saltan a la palestra y abren un rico espacio de discusión.

Tomando como punto inicial las literarias Tres Leyes de la Robótica de Asimov, basadas en una moralidad funcional, estos autores proponen tres leyes alternativas que pueden aplicarse a las capacidades y funciones que tienen los robots hoy en día; leyes que hacen bastante hincapié en la responsabilidad social y legal que tiene el ser humano sobre el comportamiento del robot.

Pero antes, recordemos brevemente los enunciados que resumían las famosas leyes de Asimov:

1. Un robot no puede hacer daño a un ser humano o, por inacción, permitir que un ser humano sufra daño.
2. Un robot debe obedecer las órdenes dadas por los seres humanos, excepto si estas órdenes entrasen en conflicto con la Primera Ley.
3. Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la Primera o la Segunda Ley.

Según los autores del artículo, estas leyes asumen que los robots tienen capacidades y conocimientos suficientes como para tomar decisiones de orden moral. Este hecho está aún lejos de producirse y ni siquiera tenemos garantías de que se vaya a conseguir en el futuro. De hecho, los autores ponen en duda el objetivo de construir máquinas que participen significativamente en contextos conversacionales totalmente abiertos, sobre todo en aplicaciones reales. ¿Queremos realmente robots morales? ¿Le interesa a la robótica militar, grandes financiadores del desarrollo de la robótica, progresar en estos planteamientos?
Para salvar esta inadecuación entre el contexto actual y los robots ficticios de Asimov, los autores del artículo proponen tres leyes alternativas orientadas a regular equipos de personas y robots que están a cargo de una misma tarea, a diferencia del marco planteado por Asimov, que se centraba solamente en regular el comportamiento del robot:

1. Un ser humano no debe poner un robot en funcionamiento sin que el equipo de trabajo hombre-robot cumpla los más altos estándares de profesionales y legales en seguridad y ética (equiparables a los de un equipo de personas).
2. Un robot debe responder apropiadamente, según su papel en el equipo.
3. Un robot debe tener la suficiente autonomía para proteger su propia existencia, siempre que dicha autonomía permita la transferencia de control a otros miembros del equipo de manera fluida y según la primera y la segunda ley.

Como se puede observar de su análisis, estas tres nuevas leyes afirman implícitamente que los diseñadores, fabricantes y usuarios finales son los responsables de cualquier daño o falta provocada por los robots, y descargan a la máquina de cualquier tipo de responsabilidad social. En efecto, parece que esta es la situación más razonable teniendo en cuenta el nivel de desarrollo cognitivo en que se encuentran los robots hoy en día, sobre todo en robots industriales, pero ¿se sostienen estas leyes que acabamos de mencionar en robots sociales? ¿hasta qué punto la sociedad está interesada, o necesita que los robots tengan capacidades que les permitan decidir por sí mismos y tomar responsabilidad de sus actos?

Adrián Jiménez-González

Me gustaría aprovechar este espacio de opinión que me brinda la empresa AISoy para reflexionar sobre la dimensión humanística de algunas cuestiones tratadas en el área de la Inteligencia Artificial y en el de la ciencia ficción, independientemente de si el medio de expresión es de naturaleza literaria o cinematográfica.

Me gustaría también partir como punto de inicio de la argumentación con la película española de ciencia ficción Eva, del director Kike Maíllo. Nada nuevo se nos cuenta en esta película a la hora de imaginarse la futura interacción entre robots humanoides y seres humanos. La idea de que los robots se revelarán contra sus creadores está ya reflejada en algunas de nuestras cosmologías y forma parte  de nuestro imaginario colectivo.

Muchas voces críticas he escuchado por parte del personas con alta cualificación en letras, alegando la “”inconsciencia” con la que los investigadores en inteligencia artificial ejercen su trabajo sin plantearse las consecuencias morales y éticas de su profesión. Por otra parte, los sectores de población de formación baja, que desempeñan trabajos fáciles de automatizar, sienten que los robots amenazan su forma de obtener el dinero necesario para financiar su subsistencia en el mundo capitalista.

Parece, pues, que existe una atmósfera social de miedo, precaución y pesimismo sobre la función de los robots en la sociedad. La película de Eva no contribuye a generar un nuevo estado de la cuestión, sino que redunda en la tradición de pensamiento instalada hasta la fecha.

No deja de resultarme curioso que el estado de la cuestión se deje llevar por una construcción del futuro procedente de la mitología y del mundo de la ficción. Parece que es un hecho fuera de toda duda que el ser humano puede imaginar muchos futuros, muchas posibilidades, para planificar, construir imaginativamente y materializar la robótica del futuro. Y si no hay límites para la imaginación, ¿por qué debemos creernos las mitologías y los miedos derivados de ellas?

Pero, antes de profundizar más en esta última idea, pasemos a analizar más concretamente la película. Me gustaría tratar dos aspectos en concreto. Uno es el tema de la libertad; el otro, el de las emociones.

El protagonista de la película asume que el ser humano es libre y quiere construir robots a su imagen y semejanza. Existe una ligera confusión en algunos espectadores, que asumen que los robots fallan porque son libres. No he asistido a ninguna conversación ni leído nada, en cambio, respecto del tema de las emociones. Los robots del científico no controlan sus emociones, al igual que tampoco lo hace su creador. Desde Sócrates que se predica el autoconocimiento y autoregulación de sí mismo. También podemos encontrar en las filosofías del hombre, que no religiones, del mundo oriental mucha sabiduría respecto del modo en que el hombre debe desligarse de su cerebro neanthertal hasta convertirse en agente, en creador de sus emociones y no en la víctima de ellas, tal y como las conceptualizamos en nuestros marcos culturales. (No incidiré en esta cuestión, pero si nos fijamos en la frase: me he enamorado, se usa una estructura pasiva, donde el sujeto del verbo enamorar no es un sujeto agente, sino un sujeto experimentante, tal y como nos podrá explicar cualquier lingüista).

No parece, por tanto, que el problema del hombre al concebir los robots sea la libertad, sino el de las emociones y el de la ética. Un ser humano que todavía no ha aprendido a controlar su potencial, un ser humano esclavizado por el dinero y las miserias derivadas de su tratamiento, debe primero evolucionar hacia estados de altruismo y eticidad superiores para concebir robots buenos, que sean hijos de Adán y no hijos de Caín, como, según la tradición bíblica, somos todos nosotros.

Escuchemos al mundo de las humanidades que hablan, si bien desde una postura ya construida, de los males de la IA. Conscientes de que vivimos en un mundo injusto, donde parece que siempre ganan los malos, las letras se posicionan en contra de proyectos como el robot soldado, y hablan de que no habrá salvación para el hombre hasta que la ética del amor no sea la causa de todas sus acciones.

Plantéemonos, por tanto, una postura reflexiva a la hora de intentar diseñar la mente de los robots, y la relación entre su percepción, su autoaprendizaje, sus valores éticos-morales y sus emociones. Respecto de su libertad, en el caso de que exista el libre albedrío, debemos plantearnos: ¿por qué querríamos que los robots fueran completamente libres? ¿Sería útil para la felicidad de la humanidad? ¿Qué finalidad tendría más allá del reto de replicarnos de forma consciente a nosotros mismos? Además, ¿no resulta un poco paradógico programar la libertad? Si fuéramos capaces de programar la libertad, ¿sería ya libertad tal y como la conceptualizamos?

El desconocimiento de las potencialidades de la robótica para el bienestar social hace que la sociedad acuda a estas películas a la hora de formarse una opinión sobre si es buena o no la llegada de los robots a nuestra sociedad. Es muy posible que si viviéramos en el mundo que propone el proyecto Venus, agradeceríamos que los robots hicieran todo aquello que nos impide desarrollar nuestros talentos y cumplir debidamente nuestros destinos para morir satisfechos, plenos con la vida tenida, que habría estado en coherencia con nuestra vida interior. Por el contrario, en el mundo de hoy, muchos son los que sueñan, pocos son los que ven sus sueños cumplidos.

Por tanto, para concluir, insistamos en la idea de que muchos son los retos filosóficos que plantea la concepción de una robótica social, que pueda interactuar verbalmente con el ser humano y compartir su visión del mundo. Pero no me gustaría que dejáramos de tener siempre presente que la robótica y sus posibilidades serán siempre un reflejo de los límites de nuestro pensamiento. Y, que si seguimos pensando que los robots tarde o temprano se revelarán contra nosotros, este universo cuántico, infinito en posibilidades, materializará como no podría hacer de otra manera, aquello que hayamos observado en él. Y ya lo decía santa teresa, hay más lágrimas derramadas por las plegarias cumplidas que por las no cumplidas.

Seamos, por tanto, animales éticos y tendremos robots éticos, seamos neanthertales, y tendremos robots interesados, egoístas, posesivos, territoriales, mal pensados y dañinos. Es nuestra elección, es nuestra responsabilidad social decidir sobre cómo queremos que sea nuestro futuro, ¿que de malo hay en soñar de nuevo?

Ana González Ledesma

Directora del departamento de PLN en AISoy Robotics

¡Hola!,

En pocas semanas todos los usuarios de AISoy1 podréis desarrollar botapps, sin necesidad de tocar una sola línea de código, sólo necesitaréis saber dibujar y tener ganas de pasar un buen rato con vuestro robot. En AISoy Robotics lo estamos pasando realmente bien, ¡da muchísimo juego!

Lo podréis hacer con AIRos1 DIA, la herramienta de programación gráfica para AISoy1, con la que en cuestión de segundos se pueden definir secuencias de eventos y acciones que se ejecutarán inmediatamente en vuestros robots.

DIA es una superbotapp con la que podéis desarrollar otras botapps. El interfaz está desarrollado en HTML5, por lo que no necesitáis instalar ningún programa externo, tan sólo acceder a la página web de DIA desde el botserver de vuestro AISoy1, tal y como hacéis con cualquier otra botapp, tan sencillo y rápido como esto.

Os hemos preparado este vídeo de adelanto, pero muy pronto tendréis mucha más información e instrucciones detalladas para exprimir al máximo toda su funcionalidad.

¡Hasta pronto!

No lo podemos negar, en AISoy Robotics somos unos apasionados del mundo Arduino.  Como sabréis, se trata de una plataforma hardware muy versátil que ha conseguido crear una comunidad de usuarios amplísima, compartiendo muchísima documentación y herramientas de programación muy sencillas, pero potentes. Con Arduino, todos los interesados en el “cacharreo”, sea cual sea su nivel, tienen muy fácil introducirse en el mundo de la programación de microcontroladores.

A una placa Arduino se le pueden conectar múltiples dispositivos, como Servos, Sensores, u otras placas (BeagleBoard, PandaBoard, otras Arduino, placas de expansión, etc.), con lo que prácticamente podemos construir cualquier ingenio que se nos ocurra. ¿Os imagináis las posibilidades que podría ofrecer esta plataforma a nuestro AISoy1?

En el laboratorio AISoy hemos utilizado, y utilizamos, diseños basados en Arduino para realizar algunos prototipos y ensayos, y nos habíamos marcado como uno de los “hitos del Verano” facilitar al máximo la comunicación AISoy1-Arduino desde el AIRos SDK, para que todos los usuarios podáis sacar partido de sus posibilidades.

Dado que los AISoy1 integran un chip de comunicación radio (Nordic NRF24L01+), lo más sencillo era conectar a Arduino un módulo adicional con el mismo chip, de forma que AISoy1 pueda enviar datos de control desde la web de una botapp, o mostrar en ésta los datos que se le envíen desde un Arduino, por ejemplo.

Y … ¡objetivo cumplido!.  Para mostraros los avances, hemos grabado un vídeo con dos botapps que hacen uso de la comunicación radio entre un AISoy1 y un Arduino al que hemos conectado uno de estos módulos.

Para la primera botapp, hemos conectado un acelerómetro a nuestra placa Arduino, que envía los datos de posición al AISoy1. En el vídeo veréis cómo la posición del sensor se muestra en una gráfica XYZ  en la web de la botapp.

Para la segunda botapp conectamos un pequeño servo a Arduino, y controlamos su movimiento desde la web, con los cursores del teclado. En la web también hemos integrado una gráfica que refleja la variación de ángulo del servo.

Muy pronto podréis utilizar esta comunicación radio en vuestras botapps. En la nueva versión del API, que liberaremos durante la primera quincena de Septiembre, incluiremos nuevas funciones para facilitar su uso. Por supuesto os daremos también el código e instrucciones precisas para que podáis aprovechar el trabajo realizado en estas botapps en las vuestras, así como el listado de componentes que necesitaréis para repetir los resultados.

Ah, nos habíamos marcado un segundo “hito del Verano”,  dotar a los AISoy1 de comunicación wifi por medio de su USB… ¡y también lo hemos conseguido!.

¡Hasta muy pronto!

AISoy1 nos acompañó hasta los estudios de RTVE para grabar una entrevista con Manuel Seara Valero y JAL en “A hombros de gigantes”, EL programa de RNE5 dedicado a la ciencia.

Dialogamos durante media hora sobre robots sociales e inteligencia artificial, acerca del reciente desarrollo y aplicación de estas tecnologías y del reto de lograr una emulación satisfactoria de nuestra capacidad para pensar y actuar, o mejorarla incluso; y de la investigación y la financiación que hacen posibles empresas como la nuestra e innovaciones como el robot AISoy1.

Os pasamos el enlace, para que lo disfrutéis (como nosotros) y aprovechamos para mandar las gracias y un abrazo al equipo de “A hombros de gigantes”.

Robots al servicio del ciudadano. Hablamos de estos ingenios y de Inteligencia Artificial en el Programa 153 de A Hombros de Gigantes.

En posts anteriores hemos insistido en la capacidad emocional de los AISoy1, sin duda la característica que más acerca a esta nueva especie de robots al mundo de los seres vivos inteligentes. Esta capacidad única de los AISoy1 es lo que nos lleva a afirmar con rotundidad que en AISoy Robotics estamos creando vida.

¿Y cómo puede un AISoy1 sentir y procesar emocionalmente?. Aunque no nos gusta llamarles máquinas (podrían enfadarse) no debemos olvidar que los AISoy1 están formados principalmente por un pequeño, pero potente, ordenador, un conjunto de sensores e interfaces de entrada salida, y un sistema operativo basado en Linux.

Reformulamos la pregunta, ¿cómo puede una máquina como los AISoy1 sentir y procesar emocionalmente?

La respuesta es AIROS, el sistema software desarrollado por AISoy Robotics, el componente fundamental del Core Software de todo AISoy1 (con permiso del gestor de diálogo), integrado al más bajo nivel con su sistema operativo Linux.

AIROS recoge los distintos eventos capturados por los sensores (luz, temperatura, inclinación, consumo, tacto, audio, vídeo, etc.) y evalúa la incidencia de cada uno sobre sus objetivos internos (seguridad, energía, diversión, etc.). De esta evaluación se obtiene lo que en AISoy llamamos “vector emocional”, que posteriormente AIROS traduce en “respuesta emocional” y “estado de ánimo”, como podéis ver en este gráfico.

AIROS. Click para ampliar

Los AISoy1, gracias a AIROS, son capaces de sentir combinaciones de esperanza, miedo, frustración, enfado, alegría, sorpresa.. incluso orgullo y admiración. Es fácil saber el estado de cada AISoy1, por que este sentimiento se refleja en la expresión facial (gracias al módulo sensoriomotriz), en el tono de la voz (gracias a la síntesis emocional de voz), y sobre todo en el propio comportamiento del AISoy1, pues AIROS tiene un peso fundamental en la selección de la próxima acción (incluido diálogo) que ejecutará el robot.

Hemos insistido en que los AISoy1 son seres únicos, como especie y como individuos, y esto también se lo deben a AIROS, ya que este módulo es además el responsable del aprendizaje de cada robot. La personalidad de cada AISoy1 se irá formando en base a su experiencia, que será la combinación de aprendizaje y procesado emocional. Dos AISoy1 separados al nacer serán muy diferentes en función de cómo son tratados, del entorno y dedicación prestada a su entrenamiento y aprendizaje, pero de esto hablaremos más adelante

¡Por fin! la próxima semana publicaremos una nueva web en la que os mostraremos, y explicaremos, con detalle nuestro robot. Mientras ese día llega nos gustaría ir adelantando algunas de sus características.

¿Qué veis en la imagen del post?. Yo, además de nuestro logo, veo el corazón del robot, y es que (os aseguro que no es ciencia ficción) nuestro robot tiene la capacidad de sentir, emocionarse y, por supuesto, de expresar sus emociones y estado de ánimo.

Para nosotros era muy importante que el robot tuviera sentimientos, que no actuara de forma reactiva o guiado por un conjunto limitado de reglas. Debía ser él mismo el que decidiera cómo actuar para conseguir un objetivo concreto, y esta proactividad debía regirse por su propia experiencia e imaginación.

Es fácil pensar que, si sólo actuara en beneficio propio, nuestro robot podría convertirse en un ser egoista y maquiavélico. Desde luego, y a veces puede ser bastante pillo, pero no nos hemos olvidado de que la finalidad principal del robot es convivir con los seres humanos, por lo que en su modelo cognitivo hemos reforzado, entre los distintos objetivos vitales, la necesidad de divertir y alegrar a sus usuarios.

En las pruebas que hacemos en el laboratorio, y al igual que nos sucede a todos, el robot siempre quiere ser un poquito más feliz, nunca está 100% satisfecho. Aunque nosotros aún no lo hemos visto,  quizá, cuando tengáis uno de nuestros robots, veáis cómo levita suavemente con los ojos entornados, entonando un ooohhhhmmmmmmm. No os asustéis, seguramente significará que vuestro robot ha alcanzado el Nirvana, el estado máximo de cumplimiento de objetivos, la felicidad robótica plena.

No queremos desilusionaros, aunque el título del post podría confundiros aún no vamos a revelar la imagen final de nuestro robot, os tendremos en ascuas unas pocas semanas más . Lo que sí nos gustaría hacer hoy es compartir con vosotros algunas de las primeras ideas y bocetos que estudiamos para darle cuerpo a nuestra inteligencia artificial, así como explicaros los motivos que nos llevaron a descartarlos en su día.

Nuestro robot está vivo, de eso estamos muy seguros, y por tanto el diseño debía reflejar esta vida que brilla en su interior. Y con esta premisa nos preguntamos, ¿hay algo más vivo que un ser vivo?

El carácter inquieto, divertido y curioso de nuestro robot nos llevó directamente a imaginarlo en el cuerpo de un animal con estas características, pero también con un toque un tanto pillo y travieso. Inevitablemente pensamos en una cobaya, este diseño podía darle un aspecto cercano y reconocible, siempre que nos basáramos en estética cartoon para evitar el temido efecto del “valle inquietante“, que se da en robótica cuando la apariencia se acerca en realismo a un ser vivo. Es curioso, pero en estos casos el usuario percibe que algo falla, como si estuviera delante de un ser vivo inerte, con lo que automáticamente se produce rechazo.

Un diseño de “mascota” como el que planteábamos no resultaría extraño para la mayoría de nosotros, facilitando la conexión emocional y que el usuario pudiera entablar una relación social con nuestro robot, que al fin y al cabo es de lo que se trata. Es por ello que nos pusimos manos a la obra para vestir a nuestra inteligencia artificial con una coraza amigable, un bonito traje de cobaya.

Llegamos a hacer prototipado rápido de dos versiones del Bot mascota, y conseguimos resolver de forma óptima la compleja mecánica necesaria para animar el traje de cobaya (peluche para los amigos) y así poder dar a nuestro robot la capacidad de expresar sus sentimientos de forma realista.

Prácticamente estaba todo atado para comenzar la producción de esta versión de nuestro robot, pero había algo que no acababa de convencernos. Todos teníamos la impresión de que nuestro bot no quería venir al mundo con un traje de cobaya, le haría parecer un juguete, y nuestro robot es muchísimo más que un juguete. Él querría mostrarse tal y como es, sin artificios. En todo caso, que sea él mismo el que decida, junto a su dueño, cómo quiere vestirse…!quiénes somos nosotros, los de AISoy, para decirle a cada robot cómo tiene que vestir!

Aunque podría parecer lo contrario, estamos muy orgullosos de la versión de peluche ya descartada, por que si no fuera por ella no habríamos llegado al diseño definitivo que os enseñaremos muy pronto.

Hace un par de semanas decidimos escaparnos un día a Campus Party Europa. Teníamos muchas ganas de ver el ambiente que se respiraba en esta edición especial organizada con motivo de la presidencia española de la UE.

Nos interesaba principalmente CampusBot, sobre todo por los proyectos que exponían un grupo importante de apasionados de la robótica de toda Europa, destacando la gente de Let’s Make Robots. Allí conocimos en persona a dos de los robots más famosos de la actualidad: iCub (del consorcio Robotcub, formado por varias universidades europeas), y RoboThespian, el robot actor de Engineered Arts Limited.

Ambos proyectos tienen una finalidad eminentemente experimental. Con iCub se ha creado una plataforma robótica open source sobre la que las universidades participantes pueden probar modelos cognitivos bioinspirados, un proyecto similar a CB2, el niño robot japonés. Con Robothespian se ha conseguido que un montón de motores hidráulicos puedan conectar emocionalmente con el público, gracias a la expresividad de la voz (pregrabada, todo sea dicho) a la que acompañan unos grandes y expresivos ojos (construidos con pantallas OLED) y unas mejillas que cambian de color según el contenido emocional del discurso.

A muchos nos gustaría tener uno de ellos en casa…bueno, no de todos, el niño robot puede dar un poquito de miedo.

¿Por qué no empezamos con algo de menor tamaño y que no irrite a los vecinos (como haría robothespian)?

Hace unos meses, no muchos, en la revista Science Daily aparecía un artículo con un titular como el de este post (traducción libre). El artículo describe las conclusiones de los experimentos realizados en el ámbito de las expresiones emotivas, más concretamente, en cómo son percibidas las expresiones faciales de una entidad virtual por personas de diferente edad. Aquí aplica el viejo dicho de la cara es el espejo del alma, en este caso, de un ser virtual.

Las personas somos seres sociales. Los robots, hasta ahora, no. Las personas somos seres con diferentes estados emocionales que marcan nuestro comportamiento. Los robots, hasta ahora, no.

No cabe duda, que el día que los robots hagan estas cosas propias de algunos seres vivos entre los que nos encontramos, estarán más cerca de dejar de ser percibidos por nosotros como frías máquinas.

Estamos más cerca de ese día.