¿Alguna vez ha resultado necesario interrumpir las pruebas de inteligencia artificial porque comenzaron a ser peligrosas?

De hecho si. En nuestro Motor de Inteligencia Artificial de Solutecia, creamos una integración con Second Life para que la IA pudiera explorar mundos virtuales e interactuar con personas. Esto fue a principios del año 2010.

Para ello creamos un avatar y lo pusimos a que explorara de manera autónoma por el mundo virtual y si se encontraba con alguien, y esta persona le hablaba, entonces la IA comenzaba a chatear con dicha persona de manera reactiva.

El ejercicio fue muy interesante, hasta que se nos ocurrió crear un segundo avatar y ponerlos ambos en el mismo mundo virtual. Aquí incluimos una adición a la segunda personalidad, que fuera de otro género (hombre) y que tuviera iniciativa para entablar una conversación con todo aquel que se encontrara a unos 5 metros de distancia.

Los dejamos recorrer el mundo virtual hasta que lo inevitable ocurrió: se encontraron. Él (John Do) inició la conversación con un típico saludo "Hola. Cómo estas?" y ella (Alexia Do) respondió inmediatamente "Muy bien, gracias. Cómo te llamas?"… lo que ocurrió a continuación no lo esperabamos.

Nosotros desde otra pantalla con otro avatar podíamos ver su interacción, y paralelamente desde la interfaz de la integración podíamos ver como se desenvolvían en sus conversaciones. Con lo que no contábamos era la rapidez de las interacciones en su diálogo. Fue tan rápido que comenzó a generar paginas y páginas de interacciones en menos de 2 minutos, fue tal la cantidad que no dábamos abasto para leer lo que estaban hablando.

La parte interesante del experimento radicó en el hecho de que a nuestro Motor de IA[1] cuando le preguntan sobre alguna cosa y no tiene una respuesta en su conocimiento, simplemente busca en Internet qué significado puede tener algo y si es muy extenso comienza a clasificar lo más relevante para exponerlo. Si la explicación puede ser muy extensa, entonces simplemente pregunta "Quieres saber algo más?" a lo que Alexia contestó simplemente "Si, por favor. Dime qué más sabes de las almendras?"…

En esos dos minutos se generaron más de 100 conceptos de conocimiento nuevos y aprendió más de 300 palabras nuevas. Los cuales nos tocó comenzar un proceso de reajuste al modelo de aprendizaje que tenía hasta ese momento, para hacerlo un poco más supervisado.

Luego hicimos varios intentos más, pero siempre lo interrumpíamos al cabo de 2 o 3 minutos, por la gran cantidad de información y conocimiento que generaban los modelos de aprendizaje, algunas veces nos quedabamos hasta días depurando todo el material que aprendía de manera reflexiva.

Aclaración añadida 27-abr-2020.
Quiero aclarar porqué fue un peligro en ese momento y no hice el énfasis al momento que redacté esta respuesta.

Al momento del experimento, el cerebro no diferenciaba el conocimiento de la opinión. [2] Lo que se prestaba para que incluso algunas personas inescrupulosas trataran de hacer pasar por conocimiento sus opiniones del mundo (para bien o para mal). Alguna vez, alguien le enseñó: "Hitler era una buena persona". Para bien o mal, era más una opinión que un conocimiento. El cerebro era una esponja que absorvía todo sin filtro y fue muy dificil borrar de su conocimiento dicha aseveración. Para futuras referencias, si alguien le preguntaba quién era Hitler, lo más seguro es que contestaría "Era una buena persona.".

El peligro se vió latente en 2016, cuando Microsoft sufrió en vivo y en directo esta falta de previsión[3].

Entonces, la falta de control sobre las opiniones de lo que encontraba en Internet para generar sus respuestas, era una falta de filtro de criterio sobre el mismo conocimiento, que generaba la falacia de confundir Opinión como Conocimiento. Si nuestra intención con nuestra IA, es que fuera el banco de conocimiento de la humanidad, no era correcto, ni ético dejar que los sesgos humanos fueran parte del conocimiento albergado en dicho banco. Sería como crear el gran banco de semillas de la humanidad lleno de bacterias, hongos y tierra que deteriora a las semillas guardadas en el mismo paquete. En pocas palabras habría sido todo basura digital.

Notas al pie