Leído así, sin más, lo cierto es que el titular suena apocalíptico, como si estuviesemos al borde de que Skynet cobrase consciencia de sí misma y los terminators fuesen a golpear —bueno, más bien derribar— nuestra puerta de un momento a otro. Pero no, no es para tanto.
La cosa es así: en la división de inteligencia artificial de Facebook estaban trabajando en la creación de unos bots para chat cuyo objetivo era aprender a negociar imitando la manera en la que lo hacen los humanos. Para eso, desarrollaron dos «agentes», dos bots: Alice y Bob.
Al ponerlos juntos, ambos empezaron a interactuar con lo que al principio sí, era inglés. O al menos, lo era tomando cada palabra por separado. Pero juntas, no tenían sentido. A primera vista, parecía una colección de errores, pero luego los investigadores se dieron cuenta de que existía un patrón.
Al final, llegaron a la conclusión de que los dos bots estaban negociando entre ellos empleando su propia forma de comunicación particular que, aunque basada en el inglés, tenía sus propios códigos, por así decirlo.
Los bots estaban aprendiendo a intercambiar bolas, sombreros y libros, asignando valor a cada uno de los objetos para luego intercambiarlos en función de ello. Pero al parecer, la gente de Facebook cometió un error y no asignó ninguna recompensa por realizar la negociación en inglés correcto. Entonces, como les resultaba más práctico, los bots desarrollaron sus propios términos.
Por ejemplo, lo que hacían era que, en lugar de pedir digamos que 5 bolas por un sombrero, usaban la palabra «bola» cinco veces. Para la máquina sería más práctico, pero no para un ser humano que aprecia conceptos como lo que se conoce como «economía de lenguaje». Aunque, en su descargo, como explicó el miembro del equipo de Facebook Dhruv Batra «Esto no es tan diferente de la manera en que las comunidades de seres humanos crean taquigrafías». Veamos un ejemplo de la conversación:
Bob: i can i i everything else . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to me
Bob: you i everything else . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i i can i i i everything else . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to
Bob: i . . . . . . . . . . . . . . . . . . .
Este comportamiento llevó a que Facebook «apagase» los bots porque este logro no reviste utilidad para sus propósitos si no pueden emplear términos humanos adecuados para comunicarse. Sin embargo, aún así sigue calificando como logro ya que representa un paso importante hacia «la creación de chatbots que puedan razonar, conversar y negociar», como dijeron desde la compañía. Es decir, seguir «todos los pasos clave en la construcción de un asistente digital personalizado» que es a lo que están dirigidos sus esfuerzos.
En conclusión: que nada de Skynets y nada de Terminators. Al menos, no por ahora.
Una pequeña nota literaria (que puedes obviar)
En el Mundodisco, el universo de ficción creado por el escritor Terry Pratchett y que toma como base una aproximación paródica a los elementos habituales de la fantasía, los trolls son «rocas vivas» o, como lo describe más de una vez el autor, una forma de vida basada en el silicio.
Los trolls son tontos cuando hace calor y no muy listos cuando hace una temperatura media, pero inteligentes cuando las temperaturas son bajas, lo cual ya establece un paralelismo con los procesadores de las computadoras. Pero si estamos contando esto aquí, no es por eso, sino por otro paralelismo.
Como se explica en una de las novelas, los trolls no saben contar. No dicen «tres» para referirse a que hay tres objetos, sino que dicen «uno, uno, uno».
Sí, exactamente: igual a como empezaron a hacer los bots de Facebook. «Bola, bola, bola» en lugar de decir «tres bolas». ¿Se adelantó Pratchett a su tiempo, comprendiendo a cabalidad el funcionamiento de la informática, o simple casualidad? A saber. Por desgracia, ya no está para preguntárselo, pero hubiese sido divertido (e interesante) escuchar su opinión.
