Sobre robots asesinos 馃
Inteligencia artificial en el presente y futuro de la escritura. Una historia de ciencia (no) ficci贸n.

Cl谩sico
Todos conocemos la idea detr谩s del robot asesino, no tiene nada de original: un androide cobra conciencia y de yapa descubre su vocaci贸n por aniquilar a los humanos. Es —por suerte— una distop铆a que solo sirve para vender libros o entradas de cine. Pero existe una vuelta de tuerca m谩s a la cl谩sica historia del robot asesino. Es mucho m谩s sutil que las andanzas de un psic贸pata de metal y silicio sin sentimientos, y tambi茅n es mucho m谩s real y potencialmente m谩s peligrosa: una m谩quina que carece de conciencia, pero tiene la capacidad suficiente como para hacer tu trabajo.
A decir verdad, el miedo a perder el empleo por una m谩quina tampoco es demasiado novedoso. Es tan antiguo como la tecnolog铆a y el progreso. Por poner un ejemplo, a principios del siglo XIX Ned Ludd se dedic贸 a incendiar m谩quinas textiles en un intento f煤til por detener la revoluci贸n industrial. Sus acciones fueron replicadas por otros obreros que recibieron el nombre de luditas en su honor. Tambi茅n en el origen de la palabra sabotaje (sabotage es el t茅rmino franc茅s) est谩 la idea de trabajadores en rebeld铆a destruyendo maquinaria, con la particular metodolog铆a de arrojar un sabot (zueco, calzado de madera) a los engranajes para trancar un mecanismo. A pesar de esos esfuerzos anodinos, el progreso continu贸 su curso a trav茅s de la historia. Se perdieron empleos y oficios enteros desaparecieron mientras que otros nuevos surg铆an. Uno puede sospechar que el problema del progreso est谩 en el punto de inflexi贸n, en ese per铆odo de adaptaci贸n o de cambio de oficios.
Contempor谩neo
Volviendo al presente, all铆 donde hay una computadora faltan varios archivistas, calculistas y empleados de correo, all铆 donde hay una m谩quina expendedora de golosinas falta un quiosquero, all铆 donde hay un cajero autom谩tico falta un bancario, etc. La lista de ejemplos es interminable. As铆 que, ¿cu谩l es la novedad, o bajo qu茅 nueva forma se puede presentar en el siglo XXI el robot asesino? La respuesta es que ahora es inteligente. Inteligente pero no consciente, a no confundir. Ese pero es fundamental. El robot asesino de hoy est谩 dotado de una limitada inteligencia artificial (I.A.) que potencialmente le permite o le permitir谩 dentro de no tanto tiempo realizar tareas que amenazaran ya no solo a trabajadores con bajo nivel de instrucci贸n, sino a un importante n煤mero de profesionales bien preparados. Estas tareas pueden ser tan disimiles como conducir y volar aut贸nomamente, dispensar consejos legales, realizar diagn贸sticos cl铆nicos, escribir c贸digo de computadoras, generar material gr谩fico y audiovisual y un gran etc茅tera que parece llegar tan lejos como la imaginaci贸n. Esto est谩 conectado con la idea de la pr贸xima revoluci贸n industrial, conocida como Industria 4.0 o Cuarta revoluci贸n industrial.
¿A qu茅 otra tarea se est谩n animando los robots actuales?: A la escritura.
El mecanismo
«Cualquier tecnolog铆a suficientemente avanzada es indistinguible de la magia».
Arthur C. Clarke.
A la c茅lebre frase de Arthur C. Clarke yo le agregar铆a que debe ser una tecnolog铆a inentendible adem谩s de avanzada. Si entendemos c贸mo funciona, deja de ser magia. Intentemos entonces entender c贸mo trabaja la I.A.
A grandes rasgos su funcionamiento se basa en t茅cnicas de aprendizaje autom谩tico (Machine Learning). Particularmente utilizan redes neuronales artificiales. En ciencias de datos aprendemos que las redes neuronales han tenido un crecimiento muy grande en cuanto a su capacidad en los 煤ltimos a帽os, pero no son ninguna novedad. El algoritmo del Perceptr贸n fue concebido en 1957 por el psic贸logo Frank Rosenblatt, es un modelo matem谩tico simple sobre el funcionamiento de una neurona biol贸gica. Al igual que la neurona biol贸gica puede tener un gran n煤mero de par谩metros de entrada (dendritas) y una 煤nica salida (ax贸n). Las neuronas artificiales tambi茅n funcionan en red como sus contrapartes biol贸gicas.
![]() |
Perceptr贸n. De Alejandro Cartas - CC BY-SA 4.0, https://commons.wikimedia.org/w/index.php?curid=41534843 |
La neurona es la unidad de proceso de una red neuronal artificial y se distribuyen por capas. Los elementos de una capa tienen en com煤n que sus entradas provienen del mismo origen y sus salidas se dirigen a un mismo destino. Las capas pueden ser de entrada, ocultas o de salida. La capa de entrada recibe informaci贸n o par谩metros desde el entorno, las capas ocultas son aquellas que tienen sus entradas y salidas dentro de la red y la capa de salida es la que env铆a informaci贸n hac铆a afuera.
En una red neuronal artificial la salida de un conjunto de neuronas conforma las entradas de otras. Las entradas se ven modificadas por pesos sin谩pticos y en el proceso de aprendizaje que suele ser iterativo, esos pesos se ajustan hasta obtener la salida esperada. A las entradas multiplicadas por los pesos se le aplica una sumatoria (regla de propagaci贸n) antes de pasar a la funci贸n de activaci贸n (una funci贸n matem谩tica) que entregar谩 el valor de salida. Funciones t铆picas de activaci贸n son la Identidad, Escal贸n, Lineal a tramos, Sigmoidea, Gaussiana y Sinusoidal.
En cuanto a topolog铆as, la red neuronal artificial m谩s sencilla es la monocapa que solo consta de las entradas y una capa de salida. Luego est谩 la red multicapa que consta de un n煤mero n de capas intermedias u ocultas entre la capa de entrada y la de salida. Por 煤ltimo, la red recurrente que tiene lazos de realimentaci贸n entre las neuronas.
La finalidad de todo esto es que una red que ha sido entrenada pueda al recibir ciertas entradas devolver ciertas salidas esperadas. Entonces, por ejemplo, se esperar谩 que al entregarle a una red entrenada en reconocimiento de im谩genes la foto de un p谩jaro (desmenuzada pixel a pixel) pueda devolver la palabra «p谩jaro».
El auge que ha cobrado la I.A. en los 煤ltimos a帽os se debe a la aparici贸n y constante mejora de una tecnolog铆a fundamental para su funcionamiento: el Big Data, que posibilita el almacenamiento de cantidades ingentes de datos y lo que es igual de importante, posibilita su procesamiento. Este c煤mulo de datos se convierte en entrenamiento para las I.A., es algo as铆 como la experiencia de la cual se nutren.
Si entrenamos a nuestra red de reconocimiento de im谩genes con diez fotos de p谩jaros, seguramente tendr谩 un desempe帽o pobre. En cambio, si la entrenamos con diez millones de fotos, podemos esperar que sus errores sean marginales.
M谩quinas de escribir
Como mencion茅 antes: dentro del c煤mulo de tareas a las que se est谩n animando las I.A., est谩 tambi茅n la escritura. Esa es la actividad que nos interesa y en eso quiero centrarme hoy. Entonces, ¿c贸mo funcionan las inteligencias artificiales capaces de escribir y qu茅 tan capaces son?
La mayor铆a o al menos las m谩s conocidas I.A. que escriben son entrenadas con grandes cantidades de texto disponible en internet (probablemente usen este art铆culo tambi茅n en alg煤n momento). Al igual que en el ejemplo de las im谩genes de p谩jaros, cuanto m谩s texto de entrenamiento tengan, mejor funcionar谩 la red. Con todo ese texto de entrenamiento, aprenden c贸mo nosotros confeccionamos escritos. Lo que hacen es intentar predecir la palabra que sigue a una secuencia de palabras. De esta manera se construyen textos enteros.
Hoy en d铆a m煤ltiples empresas comercializan sus servicios de I.A. dedicada a la escritura, presentando dispares resultados y por lo general funcionando todas ellas mejor en idioma ingl茅s que en espa帽ol. Talk to Transformer es una API que permite probar en l铆nea el servicio que ofrece InferKit, basado en el algoritmo GPT-2 de la empresa OpenAI, fundada por Elon Musk y Sam Altman.
Hice un peque帽o experimento con Talk to Transformer, le propuse un disparador para una historia de terror, primero en espa帽ol y luego en ingl茅s. Estos fueron los resultados:
- Disparador en espa帽ol: “Le advierto, tenga cuidado. Fantasmas del pasado habitan entre estas paredes”:
Le advierto, tenga cuidado. Fantasmas del pasado habitan entre estas paredes, y siempre es bueno preguntarse, ¿por qu茅? ¿por qu茅 los 煤nicos poderosos hicieron esto en este lugar? ¿por qu茅 no nos tienen enunciadas las razones? ¿por qu茅 no nos sancionan? ¿por qu茅 la educaci贸n es un poco nula? Las escuelas p煤blicas y privadas, de nacimiento y desaparecido, parecen mantener una relaci贸n estrecha con esas espacios construidos y escuchados por la vida de nuestros t铆os, madres y abuelos. Tanto en el sur como en el norte de Santo Domingo, en la Paz y en las playas de Juana D铆az
- Disparador en ingl茅s: “I warn you, be careful. Ghosts of the past dwell within these walls”:
I warn you, be careful. Ghosts of the past dwell within these walls, and it is said they still speak to the living in dreams, and make the dead walk the earth. Who will stand against a girl with a gun and a supernatural ability to shoot shadows? Oh, and your sister thinks you're stalking her. For over five years, Summer Satterfield has lived a life she didn't choose. She's hidden in the closet and refused to come out. When she finally decides to venture out, she finds a world she doesn't understand. A world where nothing makes sense and no one wants to
Como podr谩n observar, el texto en espa帽ol no tiene sentido, pero el p谩rrafo en ingl茅s al menos mantiene el t贸pico del disparador y tal vez contenga el germen de una historia de terror. Al menos es algo con lo que se puede empezar a trabajar o de lo que se puede tomar una idea. Por ejemplo, esta frase me gust贸 mucho: «Who will stand against a girl with a gun and a supernatural ability to shoot shadows?». Veo en esto el valor de un generador aleatorio de frases m谩s que un escritor aut贸mata, puede ser muy 煤til para romper el circulo vicioso de las ideas propias que se forma a veces en la cabeza de un escritor. Aunque para eso mismo tambi茅n sirve leer a otros autores.
Este a帽o la empresa OpenAI present贸 la siguiente generaci贸n de este algoritmo, el GPT-3, pero solo est谩 disponible la versi贸n beta para un n煤mero limitado de usuarios que quieran probarla inscribi茅ndose previamente. Muchas noticias han salido al respecto de esta herramienta. Me llam贸 la atenci贸n la historia de un bloguero que la utiliz贸 para crear art铆culos que, seg煤n afirma, han resultado muy exitosos, habiendo sido le铆dos por veintis茅is mil personas en apenas dos semanas.
Tal vez todav铆a est茅 demasiado lejos la I.A. de llegar a revolucionar la literatura. Pero si estas herramientas pueden generar entradas de blog cre铆bles e interesantes, tal vez est茅n destinadas a causar una revoluci贸n en el sector de la generaci贸n de contenido web en un futuro cercano, poniendo patas arriba el mundo de los blogueros y redactores de contenido. Al menos plantea algunos interrogantes interesantes: ¿Qu茅 significa que una herramienta pueda generar un art铆culo de dos mil palabras apretando un bot贸n? ¿Se va a saturar todav铆a m谩s el ya saturado mercado de contenido? ¿C贸mo afectar谩 a los trabajadores de este sector?
Otro punto muy interesante de estos algoritmos es que no pueden ser usados sin la supervisi贸n de un adulto. Aprenden de los textos disponibles en internet, y ya sabemos c贸mo escribe la gente en internet. As铆 que se pueden despachar con cualquier tipo de improperios, bajezas, expresiones racistas, sexistas o cualquier idea pol铆ticamente incorrecta.
Tambi茅n hay que pensar sobre cu谩l es la capacidad de innovar de un sistema que solo replica o arma en concordancia con lo que lee. Y a futuro, cuando estos textos autom谩ticos tengan una presencia importante en internet ¿las I.A. estar谩n aprendiendo de lo que otras I.A. escribieron? Suena a regurgitar lo mismo una y otra vez.
La supremac铆a
Volviendo a la cl谩sica historia del robot asesino, en alg煤n punto del relato su inteligencia supera a la humana o al menos la iguala. Pero, ¿existe la posibilidad de que eso suceda alg煤n d铆a en el mundo real?
Sobre este punto no existe una opini贸n un谩nime. Es una pregunta que exige un ejercicio de futurolog铆a y solo deja espacio para una respuesta abierta.
Creo que la I.A. solo es la m铆mica de uno de los tantos mecanismos de la inteligencia humana, no se parece a la inteligencia real y est谩 lejos de parecerse. Pero si es cierto que la I.A. avanza, incrementa su capacidad constantemente, y como dice el dicho italiano: «piano piano si va lontano». Mientras tanto la inteligencia humana no avanza. Entonces podemos pensarlo como una carrera entre una tortuga y una piedra en la que la piedra arranca con mucha ventaja. ¿Tiene alguna importancia esa ventaja si no puede moverse?
O homem n茫o 茅 substitu铆do por rob么s. Maria
ResponderBorrarGuauhhh cuanta verdad, la inteligencia artificial y la real o humana en constante competencia, una no existir铆a sin la otra pero puede sustituirla, tremendo!!! Fin de la humanidad??? ojala que no!!!. Abrazosss
ResponderBorrarCecy :)
Fin de la humanidad no, pero probablemente fin de una 茅poca. ¡Otro abrazo!
Borrar