Sobre robots asesinos ūü§Ė

Javier E.G. And√ļjar diciembre 03, 2020 2 comentarios

Inteligencia artificial en el presente y futuro de la escritura. Una historia de ciencia (no) ficción.

Robot asesino

Cl√°sico

Todos conocemos la idea detr√°s del robot asesino, no tiene nada de original: un androide cobra conciencia y de yapa descubre su vocaci√≥n por aniquilar a los humanos. Es —por suerte— una distop√≠a que solo sirve para vender libros o entradas de cine. Pero existe una vuelta de tuerca m√°s a la cl√°sica historia del robot asesino. Es mucho m√°s sutil que las andanzas de un psic√≥pata de metal y silicio sin sentimientos, y tambi√©n es mucho m√°s real y potencialmente m√°s peligrosa: una m√°quina que carece de conciencia, pero tiene la capacidad suficiente como para hacer tu trabajo.

A decir verdad, el miedo a perder el empleo por una m√°quina tampoco es demasiado novedoso. Es tan antiguo como la tecnolog√≠a y el progreso. Por poner un ejemplo, a principios del siglo XIX Ned Ludd se dedic√≥ a incendiar m√°quinas textiles en un intento f√ļtil por detener la revoluci√≥n industrial. Sus acciones fueron replicadas por otros obreros que recibieron el nombre de luditas en su honor. Tambi√©n en el origen de la palabra sabotaje (sabotage es el t√©rmino franc√©s) est√° la idea de trabajadores en rebeld√≠a destruyendo maquinaria, con la particular metodolog√≠a de arrojar un sabot (zueco, calzado de madera) a los engranajes para trancar un mecanismo. A pesar de esos esfuerzos anodinos, el progreso continu√≥ su curso a trav√©s de la historia. Se perdieron empleos y oficios enteros desaparecieron mientras que otros nuevos surg√≠an. Uno puede sospechar que el problema del progreso est√° en el punto de inflexi√≥n, en ese per√≠odo de adaptaci√≥n o de cambio de oficios.

Contempor√°neo

Volviendo al presente, all√≠ donde hay una computadora faltan varios archivistas, calculistas y empleados de correo, all√≠ donde hay una m√°quina expendedora de golosinas falta un quiosquero, all√≠ donde hay un cajero autom√°tico falta un bancario, etc. La lista de ejemplos es interminable. As√≠ que, ¿cu√°l es la novedad, o bajo qu√© nueva forma se puede presentar en el siglo XXI el robot asesino? La respuesta es que ahora es inteligente. Inteligente pero no consciente, a no confundir. Ese pero es fundamental. El robot asesino de hoy est√° dotado de una limitada inteligencia artificial (I.A.) que potencialmente le permite o le permitir√° dentro de no tanto tiempo realizar tareas que amenazaran ya no solo a trabajadores con bajo nivel de instrucci√≥n, sino a un importante n√ļmero de profesionales bien preparados. Estas tareas pueden ser tan disimiles como conducir y volar aut√≥nomamente, dispensar consejos legales, realizar diagn√≥sticos cl√≠nicos, escribir c√≥digo de computadoras, generar material gr√°fico y audiovisual y un gran etc√©tera que parece llegar tan lejos como la imaginaci√≥n. Esto est√° conectado con la idea de la pr√≥xima revoluci√≥n industrial, conocida como Industria 4.0 o Cuarta revoluci√≥n industrial.

¿A qu√© otra tarea se est√°n animando los robots actuales?: A la escritura.

El mecanismo

«Cualquier tecnolog√≠a suficientemente avanzada es indistinguible de la magia». 

Arthur C. Clarke.

A la célebre frase de Arthur C. Clarke yo le agregaría que debe ser una tecnología inentendible además de avanzada. Si entendemos cómo funciona, deja de ser magia. Intentemos entonces entender cómo trabaja la I.A.

A grandes rasgos su funcionamiento se basa en t√©cnicas de aprendizaje autom√°tico (Machine Learning). Particularmente utilizan redes neuronales artificiales. En ciencias de datos aprendemos que las redes neuronales han tenido un crecimiento muy grande en cuanto a su capacidad en los √ļltimos a√Īos, pero no son ninguna novedad. El algoritmo del Perceptr√≥n fue concebido en 1957 por el psic√≥logo Frank Rosenblatt, es un modelo matem√°tico simple sobre el funcionamiento de una neurona biol√≥gica. Al igual que la neurona biol√≥gica puede tener un gran n√ļmero de par√°metros de entrada (dendritas) y una √ļnica salida (ax√≥n). Las neuronas artificiales tambi√©n funcionan en red como sus contrapartes biol√≥gicas.

Perceptrón. De Alejandro Cartas - Trabajo propio, CC BY-SA 4.0, https://commons.wikimedia.org/w/index.php?curid=41534843
Perceptrón. De Alejandro Cartas - CC BY-SA 4.0, https://commons.wikimedia.org/w/index.php?curid=41534843

La neurona es la unidad de proceso de una red neuronal artificial y se distribuyen por capas. Los elementos de una capa tienen en com√ļn que sus entradas provienen del mismo origen y sus salidas se dirigen a un mismo destino. Las capas pueden ser de entrada, ocultas o de salida. La capa de entrada recibe informaci√≥n o par√°metros desde el entorno, las capas ocultas son aquellas que tienen sus entradas y salidas dentro de la red y la capa de salida es la que env√≠a informaci√≥n hac√≠a afuera.

En una red neuronal artificial la salida de un conjunto de neuronas conforma las entradas de otras. Las entradas se ven modificadas por pesos sin√°pticos y en el proceso de aprendizaje que suele ser iterativo, esos pesos se ajustan hasta obtener la salida esperada. A las entradas multiplicadas por los pesos se le aplica una sumatoria (regla de propagaci√≥n) antes de pasar a la funci√≥n de activaci√≥n (una funci√≥n matem√°tica) que entregar√° el valor de salida. Funciones t√≠picas de activaci√≥n son la Identidad, Escal√≥n, Lineal a tramos, Sigmoidea, Gaussiana y Sinusoidal. 

En cuanto a topolog√≠as, la red neuronal artificial m√°s sencilla es la monocapa que solo consta de las entradas y una capa de salida. Luego est√° la red multicapa que consta de un n√ļmero n de capas intermedias u ocultas entre la capa de entrada y la de salida. Por √ļltimo, la red recurrente que tiene lazos de realimentaci√≥n entre las neuronas.

La finalidad de todo esto es que una red que ha sido entrenada pueda al recibir ciertas entradas devolver ciertas salidas esperadas. Entonces, por ejemplo, se esperar√° que al entregarle a una red entrenada en reconocimiento de im√°genes la foto de un p√°jaro (desmenuzada pixel a pixel) pueda devolver la palabra «p√°jaro».

El auge que ha cobrado la I.A. en los √ļltimos a√Īos se debe a la aparici√≥n y constante mejora de una tecnolog√≠a fundamental para su funcionamiento: el Big Data, que posibilita el almacenamiento de cantidades ingentes de datos y lo que es igual de importante, posibilita su procesamiento. Este c√ļmulo de datos se convierte en entrenamiento para las I.A., es algo as√≠ como la experiencia de la cual se nutren.

Si entrenamos a nuestra red de reconocimiento de im√°genes con diez fotos de p√°jaros, seguramente tendr√° un desempe√Īo pobre. En cambio, si la entrenamos con diez millones de fotos, podemos esperar que sus errores sean marginales.

M√°quinas de escribir

Como mencion√© antes: dentro del c√ļmulo de tareas a las que se est√°n animando las I.A., est√° tambi√©n la escritura. Esa es la actividad que nos interesa y en eso quiero centrarme hoy. Entonces, ¿c√≥mo funcionan las inteligencias artificiales capaces de escribir y qu√© tan capaces son?

La mayor√≠a o al menos las m√°s conocidas I.A. que escriben son entrenadas con grandes cantidades de texto disponible en internet (probablemente usen este art√≠culo tambi√©n en alg√ļn momento). Al igual que en el ejemplo de las im√°genes de p√°jaros, cuanto m√°s texto de entrenamiento tengan, mejor funcionar√° la red. Con todo ese texto de entrenamiento, aprenden c√≥mo nosotros confeccionamos escritos. Lo que hacen es intentar predecir la palabra que sigue a una secuencia de palabras. De esta manera se construyen textos enteros.

Hoy en d√≠a m√ļltiples empresas comercializan sus servicios de I.A. dedicada a la escritura, presentando dispares resultados y por lo general funcionando todas ellas mejor en idioma ingl√©s que en espa√Īol. Talk to Transformer es una API que permite probar en l√≠nea el servicio que ofrece InferKit, basado en el algoritmo GPT-2 de la empresa OpenAI, fundada por Elon Musk y Sam Altman.

Hice un peque√Īo experimento con Talk to Transformer, le propuse un disparador para una historia de terror, primero en espa√Īol y luego en ingl√©s. Estos fueron los resultados:

  1. Disparador en espa√Īol: “Le advierto, tenga cuidado. Fantasmas del pasado habitan entre estas paredes”:
Le advierto, tenga cuidado. Fantasmas del pasado habitan entre estas paredes, y siempre es bueno preguntarse, ¿por qu√©? ¿por qu√© los √ļnicos poderosos hicieron esto en este lugar? ¿por qu√© no nos tienen enunciadas las razones? ¿por qu√© no nos sancionan? ¿por qu√© la educaci√≥n es un poco nula? Las escuelas p√ļblicas y privadas, de nacimiento y desaparecido, parecen mantener una relaci√≥n estrecha con esas espacios construidos y escuchados por la vida de nuestros t√≠os, madres y abuelos. Tanto en el sur como en el norte de Santo Domingo, en la Paz y en las playas de Juana D√≠az
  1. Disparador en ingl√©s: “I warn you, be careful. Ghosts of the past dwell within these walls”:
I warn you, be careful. Ghosts of the past dwell within these walls, and it is said they still speak to the living in dreams, and make the dead walk the earth. Who will stand against a girl with a gun and a supernatural ability to shoot shadows? Oh, and your sister thinks you're stalking her. For over five years, Summer Satterfield has lived a life she didn't choose. She's hidden in the closet and refused to come out. When she finally decides to venture out, she finds a world she doesn't understand. A world where nothing makes sense and no one wants to

Como podr√°n observar, el texto en espa√Īol no tiene sentido, pero el p√°rrafo en ingl√©s al menos mantiene el t√≥pico del disparador y tal vez contenga el germen de una historia de terror. Al menos es algo con lo que se puede empezar a trabajar o de lo que se puede tomar una idea. Por ejemplo, esta frase me gust√≥ mucho: «Who will stand against a girl with a gun and a supernatural ability to shoot shadows?». Veo en esto el valor de un generador aleatorio de frases m√°s que un escritor aut√≥mata, puede ser muy √ļtil para romper el circulo vicioso de las ideas propias que se forma a veces en la cabeza de un escritor. Aunque para eso mismo tambi√©n sirve leer a otros autores.

Este a√Īo la empresa OpenAI present√≥ la siguiente generaci√≥n de este algoritmo, el GPT-3, pero solo est√° disponible la versi√≥n beta para un n√ļmero limitado de usuarios que quieran probarla inscribi√©ndose previamente. Muchas noticias han salido al respecto de esta herramienta. Me llam√≥ la atenci√≥n la historia de un bloguero que la utiliz√≥ para crear art√≠culos que, seg√ļn afirma, han resultado muy exitosos, habiendo sido le√≠dos por veintis√©is mil personas en apenas dos semanas.

Tal vez todav√≠a est√© demasiado lejos la I.A. de llegar a revolucionar la literatura. Pero si estas herramientas pueden generar entradas de blog cre√≠bles e interesantes, tal vez est√©n destinadas a causar una revoluci√≥n en el sector de la generaci√≥n de contenido web en un futuro cercano, poniendo patas arriba el mundo de los blogueros y redactores de contenido. Al menos plantea algunos interrogantes interesantes: ¿Qu√© significa que una herramienta pueda generar un art√≠culo de dos mil palabras apretando un bot√≥n? ¿Se va a saturar todav√≠a m√°s el ya saturado mercado de contenido? ¿C√≥mo afectar√° a los trabajadores de este sector?

Otro punto muy interesante de estos algoritmos es que no pueden ser usados sin la supervisión de un adulto. Aprenden de los textos disponibles en internet, y ya sabemos cómo escribe la gente en internet. Así que se pueden despachar con cualquier tipo de improperios, bajezas, expresiones racistas, sexistas o cualquier idea políticamente incorrecta.

Tambi√©n hay que pensar sobre cu√°l es la capacidad de innovar de un sistema que solo replica o arma en concordancia con lo que lee. Y a futuro, cuando estos textos autom√°ticos tengan una presencia importante en internet ¿las I.A. estar√°n aprendiendo de lo que otras I.A. escribieron? Suena a regurgitar lo mismo una y otra vez.

La supremacía

Volviendo a la cl√°sica historia del robot asesino, en alg√ļn punto del relato su inteligencia supera a la humana o al menos la iguala. Pero, ¿existe la posibilidad de que eso suceda alg√ļn d√≠a en el mundo real?

Sobre este punto no existe una opini√≥n un√°nime. Es una pregunta que exige un ejercicio de futurolog√≠a y solo deja espacio para una respuesta abierta. 

Creo que la I.A. solo es la m√≠mica de uno de los tantos mecanismos de la inteligencia humana, no se parece a la inteligencia real y est√° lejos de parecerse. Pero si es cierto que la I.A. avanza, incrementa su capacidad constantemente, y como dice el dicho italiano: «piano piano si va lontano». Mientras tanto la inteligencia humana no avanza. Entonces podemos pensarlo como una carrera entre una tortuga y una piedra en la que la piedra arranca con mucha ventaja. ¿Tiene alguna importancia esa ventaja si no puede moverse?

Inteligencia artificial en el presente y futuro de la escritura. Una historia de ciencia (no) ficción. Clásico Todos conocemos la idea det...

2 comentarios:

  1. O homem n√£o √© substitu√≠do por rob√īs. Maria

    ResponderBorrar
  2. Guauhhh cuanta verdad, la inteligencia artificial y la real o humana en constante competencia, una no existiría sin la otra pero puede sustituirla, tremendo!!! Fin de la humanidad??? ojala que no!!!. Abrazosss
    Cecy :)

    ResponderBorrar