-->

Cuando la inteligencia artificial hace cosas inesperadas

Quizás los lectores más fieles me hayan oído decir que la inteligencia artificial puede ser peligrosa y tener consecuencias inesperadas. Desde luego, en mi opinión estamos a años luz de escenarios como el de Yo, Robot, o películas de Hollywood similares. 

Actualmente, en gran medida, los algoritmos de inteligencia artificial son como "cajas negras". No sabemos cómo funcionan exactamente, y hoy traigo un ejemplo un tanto simplón que plasma esto bastante bien.

Lo recogió por primera vez este artículo científico de 1992, aunque no fue hasta 2008 cuando Elezier Yudkowsky lo puso de moda en su artículo sobre los riesgos globales de la IA. La historia es la siguiente:

En los 80, los militares estadounidenses intentaban proteger a sus tanques de la tecnología informática de la época, de manera que no los detectasen tan fácilmente y fueran más difíciles de atacar. Para ello, tomaron 100 fotos de tanques escondidos tras los árboles y otras 100 de árboles sin tanques.

Posteriormente, diseñaron una red neuronal en la que entrenaron la detección de tanques con 50 fotos de cada caso. Es decir, usaron 50 fotos con tanques para que "el sistema" aprendiera cuándo los había, y otras 50 fotos sin tanques para que el resultado fuera que no se detectan tanques.

Este entrenamiento sirve para afinar la red neuronal. Una vez afinada (según ellos), comprobaron que con las 100 fotos que faltaban, el sistema funcionaba perfectamente en el 100% de los casos. Es decir, parecía que los militares habían apredido a discernir cuándo sí y cuándo no había tanques entre los árboles. ¡Vaya adelanto!

Sin embargo, otro día probaron de nuevo este detector, se llevaron una gran desilusión cuando vieron que fallaba más que una escopeta de feria en la nueva detección. Nadie entendía nada. 

Tuvieron que pasar muchas horas para que alguien se diera cuenta que el entrenamiento (cómo habían enseñado al detector), lo habían hecho con 200 fotos con el cielo completamente nuboso. Y en el día de las nuevas pruebas, como estaba despejado, no reconocía a los tanques.

Gracioso, ¿verdad? Ahora, cualquier investigador sabe que 100 fotos para entrenar una red neuronal son muy pocas, pero había que saberlo también en los 80. A pesar de que la potencia de computación haya aumentado, todavía nadie nos libra de que un sistema inteligente arroje resultados inesperados para el diseñador, como éste. Y ese es uno de los peligros de la IA de los que habitualmente me quejamos yo y @HelenaMatute.

De hecho, una demostración de resultado inesperado muy sonado ocurrió en 2012, cuando HP lanzó un sistema de reconocimiento facial un tanto especial. Aquí está el vídeo.




Actualización (19 de julio 2017)
A través de Twitter, @hhmmss me ha chivado que Volvo tenía cierto problema con sus coches y los canguros. Y este fallo es de 2017. Como veis, siguen sucediendo problemas de ajuste de sistemas inteligentes.

Un año después de acabar la tesis, ¿qué?

No acostumbro a hablar mucho en el blog de mis temas profesionales. La gente que me sigue de cerca conoce que en junio 2016 obtuve mi título de doctorado en Ciencias de la Computación e Inteligencia Artificial gracias a una investigación con el título Quadrotor team modeling and control for DLO transportation. Y sigo en el mismo puesto de trabajo, como docente e investigador universitario. Pero tras este año y un poquito más me ha parecido importante ver qué he hecho tras la tesis, o intentar responderme a "¿para qué ha servido?".

La tesis es un proceso imprescindible en la carrera investigadora, ya que te formas en una manera de investigar, en extrer resultados a partir de muchas pruebas, a pensar, a plantear hipótesis, a diseñar experimentos, etc. No soy partidario de que este período se haga muy largo, ya que tras haber pasado unos años en estas prácticas, obtener la tesis se puede convertir en un trámite a superar para continuar investigando tras ella. 

En este año, me he dedicado a seguir publicando resultados de investigación que durante mi período de doctorado no me dio tiempo a publicar, pero también soy de los que piensan que no puedes hacer lo mismo durante tu período de formación que tras él. ¿Para qué te has formado 4 o más años entonces? ¿Para seguir haciendo lo mismo? No me quiero resignar a publicar artículos solamente.

Y por esa razón, mi sensación este año es que gracias a mi grupo de investigación, me he tenido que volver un poco más gestor de la investigación, y además de plantear experimentos e intentar probar hipótesis, tienes que pensar en la mejor forma de dar a conocer resultados, estar al loro de las convocatorias de proyectos públicos para ver por dónde van los tiros, leer mucho sobre los trabajos de otros grupos de investigación para ver qué hacen en los temas que tocas tú...aunque parezca mentira, toca salir mucho más del despacho para plantear reuniones, conocer la opinión de gente que trabaja en los mismos temas que tú, dar a conocer tu trabajo para ver si puede servir de utilidad a una empresa, etc.

En cierta manera, es como dirigir una pequeña empresa, en la que el producto eres tú mismo. El nuevo doctor normalmente tiene que ver cuáles son las líneas de investigación más atractivas e interesantes que pueden hacerle establecer mejores contactos, obtener mejores resultados y ser capaz de ayudar a que otros investigadores obtengan su propia tesis.

No es un camino más fácil que otras alternativas profesionales y no son pocas las veces que pienso sobre mi futuro y si estoy haciendo lo correcto en el lugar correcto, pero de entrada al final de este curso 2016-17 puedo ver que mi actividad ha cambiado respecto a otros años anteriores. Agradezco a las distintas personas que lean estas líneas y me hayan ayudado por el camino.

El mundo de la robótica y de la inteligencia artificial no solo se puede abrazar desde el mundo académico y universitario, y para mí es un tema apasionante. Si hay alguien interesado o con alguna consulta, puede planteármela a mi dirección del blog, ideasecundaria@yahoo.es.

Nos vemos en el camino.


¿Cómo sabéis de qué producto de Amazon fiaros?

En muchas ocasiones, las estrellas que tienen los productos de Amazon es uno de nuestros criterios para elegir entre uno u otro, sobre todo sin son muy parecidos en sus prestaciones o características. Además, este gigante de Internet permite la siguiente situación que se ve en la foto:



La foto, extraída de este blog, tiene los productos ordenados por valoración de clientes. Probablemente en ese caso la mayoría de vosotros optaría por el artículo de la derecha, ya que parece que el consenso es mayor. En el caso de la tostadora, puede que esa información sea aislada y de alguien poco parecido a nosotros. Quizás sea alguien tan parcial como el vendedor, que intenta colarnos las bondades del aparato.

Pero pongamos un caso un poco más difícil: si pensamos en situaciones binarias con solo dos opciones para asignar (me gusta / no me gusta), ¿qué producto escogemos entre las siguientes alternativas?
A) 400 opiniones positivas y 100 negativas
B) 9 opiniones positivas y 1 negativa

En estas ocasiones, es de gran ayuda la distribución beta de las matemáticas. Esta función tiene dos parámetros, α y β, y se emplea para modelar eventos que se definen por valores mínimos y máximos.

 El lenguaje de programación R es muy apropiado para jugar con funciones estadísticas, y si intentamos hallar el intervalo de confianza del 95% para ambos productos, tendremos:

Es decir, la verdadera calidad del producto A oscila entre un 76% y 83%, mientras que la del B lo hace entre un 58% y 97%, con una probabilidad del 95% de ocasiones. De hecho, si dibujamos las funciones, veríamos que las funciones beta del producto A es muy estrecha y alta, mientras que la del B es todo lo contrario, tal y como se ve en la última imagen.




Fuente: Joy of data (con códigos)

Sobre el negocio de reparto con robots

La semana pasada tuve la ocasión de publicar un artículo en el blog Robohub, sitio web especialista en robotica para investigadores, aficionados y emprendedores. Mi aportación consistió en recalcar el prometedor negocio del reparto de paquetería que los robots aspiran a captar, sobre todo los aparatos no voladores. 

Pero también quise hablar de las posibilidades que abre el transporte colaborativo de paquetes entre robots voladores. ¿Qué ocurre si la caja a transportar es demasiado grande como para ser transportada por un único drone? ¿O podrían desplegar una línea de alta tensión entre un equipo de ellos?

Podéis encontrar el artículo aquí, en la lengua de Shakespeare. ¡Buen domingo!


El valle inquietante de la robótica

Cada vez que visito algún centro comercial, veo más expositores de pequeños robots. Son pequeños drones, o robots sociales que imitan a alguna mascota, o algún pequeño dispositivo para aprender a programar. No tengo claro si estarán teniendo mucho éxito o no. La mayoría de estos productos están dirigidos al público infantil, y son un sector particularmente exigente.

Veamos un ejemplo que está teniendo mucho éxito. Se trata de Cozmo:



Este robot en funcionamiento se puede ver en este vídeo. A mí me parece algo alucinante por el tipo de tecnología que tiene, lo bien logrado que está y el precio asequible al que se puede conseguir.  Aquí tenéis más juguetes tecnológicos "con carita graciosa".

De cara a la futura e inevitable masificación de robots en nuestras vidas hay que tener muy en cuenta estos aspectos. Los robots tienen que parecer que son amables con nostros. Por ejemplo, es muy importante para un robot de asistencia geriátrico que muestre empatía. De lo contrario, el paciente muy probablemente lo rechazará. En palabras de la psicóloga cognitiva Helena Matute, las máquinas están domesticando a los humanos.

Aunque no seamos muy conscientes, la caracterización de la vida artificial se ha empleado desde hace mucho tiempo buscando distintos efectos. Es decir, a ninguno de nosotros nos daban miedo los célebres guiñoles de Canal+, pero sí que nos daba miedo los muñecos diabólicos de las películas. A la delgada línea que divide la buena y confiada relación entre máquinas y humanos, y la repulsa por miedo se le denomina uncanny valley, o valle inquietante. La idea fue por primera vez impulsada por el investigador japonés Masahiro Mori en 1970, y su tesis se basa en la anti-intuitiva relación de qué consideran los humanos más semejante a ellos. Se puede resumir en el siguiente gráfico:



En mi opinión, una de las características más importantes para la interacción humano-máquina no sea la estética, sino la velocidad de movimientos, la cual será distinta según el contexto. No sería lo mismo el efecto de un robot infantil, como Wall-E, o en un robot geriátrico o industrial. Y será imprescindible tener en cuenta estos factores para que las distintas soluciones tecnológicas entre nosotros se integren correctamente en distintos ámbitos: juguetes, educación, geriatría, sanidad, servicios, etc.

Otro de los robots sociales más exitosos desde hace un tiempo es NAO.



Todavía se está estudiando el por qué del valle inquietante, y los últimos estudios apuntan a la descoordinación entre el comportamiento del robot y su apariencia.




Mas información en los siguientes enlaces: 1, 2, 3 y 4

Controlador PID: tecnología de hace décadas para máquinas de última generación

No es poca la admiración que profeso hacia el protagonista de hoy, el controlador PID, que tanto he llegado a manejar a lo largo de mi formación reciente. Este tipo de controlador es uno de los más abundantes en la industria actual, pero tiene su origen hace más de 100 años. Comenzó a usarse en máquinas bélicas con el ánimo de tener un control automático sobre la estabilidad y maniobravilidad de las naves marítimas y aéreas. 

Para entender de manera simplificada cómo actúa un controlador PID, pensemos en un ascensor: si decidimos subir desde el primer piso hasta el cuarto, normalmente es este tipo de control el que hace que el ascensor se pare en el cuarto, y que no suba hasta el 5º, luego rebote hasta el 3º, y finalmente se detenga en el 4º. Es decir, controla el motor del ascensor en función de la distancia que queda hasta llegar al destino. Esto se consigue mediante una correcta selección de los valores numéricos del controlador PID. Normalmente el ascensor va midiendo en todo momento la diferencia entre la altura actual y la altura destino; lo que se conoce como sistema de realimentación.

La siguiente imagen extraída de la Wiki muestra el comportamiento del PID con distintos valores.



Uno de los problemas más difíciles que ponen a los estudiantes de ingeniería en ingeniería de control es el del péndulo invertido, que consiste en conseguir que un péndulo rígido con la bolita en su parte superior, permanezca vertical, pero solo actuando horizontalmente sobre un carrito. La siguiente imagen muestra este mecanismo:



Los científicos se enfrentaron a este problema en los 60 y 70, y probablemente a mí también me pareció un problema del ámbito puramente académico en su momento, hasta que se empieza a ver por la calle cosas como estas:



Una prueba del gran avance de la tecnología es que hoy en día cualquiera puede construir un sistema de péndulo invertido o doble péndulo invertido con Arduino o Raspberry por 100€. ¿Sirve de algo? Si lo conseguís, ya lo estaréis haciendo mejor que algunos cohetes espaciales:


En los cohetes, la fase inicial consiste en mantener en una dirección predeterminada un cuerpo esbelto a partir de un empuje en su extremo inferior; algo así como el problema del péndulo.

No sólo eso: también última tecnología como los coches autónomos u otros robots emplean muchos controladores PID que continuamente miden su posición respecto a la posición final a la que quieren llegar. Al contrario de lo que muchas personas puedan pensar, esta técnica de navegación normalmente no emplea inteligencia artificial, no se aprende. El PID es un control determinista: ante "x" situación, haz "y". Lo más difícil en la navegación robótica es obtener la trayectoria a seguir por la máquina, pero una vez logrado, el movimiento con PIDs es una de las técnicas más sencillas, robustas y simples con las que los ingenieros contamos.

Tecnología clásica, pero usado en la vanguardia.



Corrección: El Segway no sigue exactamente el mecanismo de péndulo invertido

 
Design by Free WordPress Themes | Bloggerized by Lasantha - Premium Blogger Themes | Best Web Hosting