Sobre robots asesinos 🤖

Javier E.G. Andújar diciembre 03, 2020 3 comentarios

Copiar referencia

Inteligencia artificial en el presente y futuro de la escritura. Una historia de ciencia (no) ficción.

Robot asesino

Clásico

Todos conocemos la idea detrás del robot asesino, no tiene nada de original: un androide cobra conciencia y de yapa descubre su vocación por aniquilar a los humanos. Es —por suerte— una distopía que solo sirve para vender libros o entradas de cine. Pero existe una vuelta de tuerca más a la clásica historia del robot asesino. Es mucho más sutil que las andanzas de un psicópata de metal y silicio sin sentimientos, y también es mucho más real y potencialmente más peligrosa: una máquina que carece de conciencia, pero tiene la capacidad suficiente como para hacer tu trabajo.

A decir verdad, el miedo a perder el empleo por una máquina tampoco es demasiado novedoso. Es tan antiguo como la tecnología y el progreso. Por poner un ejemplo, a principios del siglo XIX Ned Ludd se dedicó a incendiar máquinas textiles en un intento fútil por detener la revolución industrial. Sus acciones fueron replicadas por otros obreros que recibieron el nombre de luditas en su honor. También en el origen de la palabra sabotaje (sabotage es el término francés) está la idea de trabajadores en rebeldía destruyendo maquinaria, con la particular metodología de arrojar un sabot (zueco, calzado de madera) a los engranajes para trancar un mecanismo. A pesar de esos esfuerzos anodinos, el progreso continuó su curso a través de la historia. Se perdieron empleos y oficios enteros desaparecieron mientras que otros nuevos surgían. Uno puede sospechar que el problema del progreso está en el punto de inflexión, en ese período de adaptación o de cambio de oficios.

Contemporáneo

Volviendo al presente, allí donde hay una computadora faltan varios archivistas, calculistas y empleados de correo, allí donde hay una máquina expendedora de golosinas falta un quiosquero, allí donde hay un cajero automático falta un bancario, etc. La lista de ejemplos es interminable. Así que, ¿cuál es la novedad, o bajo qué nueva forma se puede presentar en el siglo XXI el robot asesino? La respuesta es que ahora es inteligente. Inteligente pero no consciente, a no confundir. Ese pero es fundamental. El robot asesino de hoy está dotado de una limitada inteligencia artificial (I.A.) que potencialmente le permite o le permitirá dentro de no tanto tiempo realizar tareas que amenazaran ya no solo a trabajadores con bajo nivel de instrucción, sino a un importante número de profesionales bien preparados. Estas tareas pueden ser tan disimiles como conducir y volar autónomamente, dispensar consejos legales, realizar diagnósticos clínicos, escribir código de computadoras, generar material gráfico y audiovisual y un gran etcétera que parece llegar tan lejos como la imaginación. Esto está conectado con la idea de la próxima revolución industrial, conocida como Industria 4.0 o Cuarta revolución industrial.

¿A qué otra tarea se están animando los robots actuales?: A la escritura.

El mecanismo

«Cualquier tecnología suficientemente avanzada es indistinguible de la magia». 

Arthur C. Clarke.

A la célebre frase de Arthur C. Clarke yo le agregaría que debe ser una tecnología inentendible además de avanzada. Si entendemos cómo funciona, deja de ser magia. Intentemos entonces entender cómo trabaja la I.A.

A grandes rasgos su funcionamiento se basa en técnicas de aprendizaje automático (Machine Learning). Particularmente utilizan redes neuronales artificiales. En ciencias de datos aprendemos que las redes neuronales han tenido un crecimiento muy grande en cuanto a su capacidad en los últimos años, pero no son ninguna novedad. El algoritmo del Perceptrón fue concebido en 1957 por el psicólogo Frank Rosenblatt, es un modelo matemático simple sobre el funcionamiento de una neurona biológica. Al igual que la neurona biológica puede tener un gran número de parámetros de entrada (dendritas) y una única salida (axón). Las neuronas artificiales también funcionan en red como sus contrapartes biológicas.

Perceptrón. De Alejandro Cartas - Trabajo propio, CC BY-SA 4.0, https://commons.wikimedia.org/w/index.php?curid=41534843
Perceptrón. De Alejandro Cartas - CC BY-SA 4.0, https://commons.wikimedia.org/w/index.php?curid=41534843

La neurona es la unidad de proceso de una red neuronal artificial y se distribuyen por capas. Los elementos de una capa tienen en común que sus entradas provienen del mismo origen y sus salidas se dirigen a un mismo destino. Las capas pueden ser de entrada, ocultas o de salida. La capa de entrada recibe información o parámetros desde el entorno, las capas ocultas son aquellas que tienen sus entradas y salidas dentro de la red y la capa de salida es la que envía información hacía afuera.

En una red neuronal artificial la salida de un conjunto de neuronas conforma las entradas de otras. Las entradas se ven modificadas por pesos sinápticos y en el proceso de aprendizaje que suele ser iterativo, esos pesos se ajustan hasta obtener la salida esperada. A las entradas multiplicadas por los pesos se le aplica una sumatoria (regla de propagación) antes de pasar a la función de activación (una función matemática) que entregará el valor de salida. Funciones típicas de activación son la Identidad, Escalón, Lineal a tramos, Sigmoidea, Gaussiana y Sinusoidal. 

En cuanto a topologías, la red neuronal artificial más sencilla es la monocapa que solo consta de las entradas y una capa de salida. Luego está la red multicapa que consta de un número n de capas intermedias u ocultas entre la capa de entrada y la de salida. Por último, la red recurrente que tiene lazos de realimentación entre las neuronas.

La finalidad de todo esto es que una red que ha sido entrenada pueda al recibir ciertas entradas devolver ciertas salidas esperadas. Entonces, por ejemplo, se esperará que al entregarle a una red entrenada en reconocimiento de imágenes la foto de un pájaro (desmenuzada pixel a pixel) pueda devolver la palabra «pájaro».

El auge que ha cobrado la I.A. en los últimos años se debe a la aparición y constante mejora de una tecnología fundamental para su funcionamiento: el Big Data, que posibilita el almacenamiento de cantidades ingentes de datos y lo que es igual de importante, posibilita su procesamiento. Este cúmulo de datos se convierte en entrenamiento para las I.A., es algo así como la experiencia de la cual se nutren.

Si entrenamos a nuestra red de reconocimiento de imágenes con diez fotos de pájaros, seguramente tendrá un desempeño pobre. En cambio, si la entrenamos con diez millones de fotos, podemos esperar que sus errores sean marginales.

Máquinas de escribir

Como mencioné antes: dentro del cúmulo de tareas a las que se están animando las I.A., está también la escritura. Esa es la actividad que nos interesa y en eso quiero centrarme hoy. Entonces, ¿cómo funcionan las inteligencias artificiales capaces de escribir y qué tan capaces son?

La mayoría o al menos las más conocidas I.A. que escriben son entrenadas con grandes cantidades de texto disponible en internet (probablemente usen este artículo también en algún momento). Al igual que en el ejemplo de las imágenes de pájaros, cuanto más texto de entrenamiento tengan, mejor funcionará la red. Con todo ese texto de entrenamiento, aprenden cómo nosotros confeccionamos escritos. Lo que hacen es intentar predecir la palabra que sigue a una secuencia de palabras. De esta manera se construyen textos enteros.

Hoy en día múltiples empresas comercializan sus servicios de I.A. dedicada a la escritura, presentando dispares resultados y por lo general funcionando todas ellas mejor en idioma inglés que en español. Talk to Transformer es una API que permite probar en línea el servicio que ofrece InferKit, basado en el algoritmo GPT-2 de la empresa OpenAI, fundada por Elon Musk y Sam Altman.

Hice un pequeño experimento con Talk to Transformer, le propuse un disparador para una historia de terror, primero en español y luego en inglés. Estos fueron los resultados:

  1. Disparador en español: “Le advierto, tenga cuidado. Fantasmas del pasado habitan entre estas paredes”:
Le advierto, tenga cuidado. Fantasmas del pasado habitan entre estas paredes, y siempre es bueno preguntarse, ¿por qué? ¿por qué los únicos poderosos hicieron esto en este lugar? ¿por qué no nos tienen enunciadas las razones? ¿por qué no nos sancionan? ¿por qué la educación es un poco nula? Las escuelas públicas y privadas, de nacimiento y desaparecido, parecen mantener una relación estrecha con esas espacios construidos y escuchados por la vida de nuestros tíos, madres y abuelos. Tanto en el sur como en el norte de Santo Domingo, en la Paz y en las playas de Juana Díaz
  1. Disparador en inglés: “I warn you, be careful. Ghosts of the past dwell within these walls”:
I warn you, be careful. Ghosts of the past dwell within these walls, and it is said they still speak to the living in dreams, and make the dead walk the earth. Who will stand against a girl with a gun and a supernatural ability to shoot shadows? Oh, and your sister thinks you're stalking her. For over five years, Summer Satterfield has lived a life she didn't choose. She's hidden in the closet and refused to come out. When she finally decides to venture out, she finds a world she doesn't understand. A world where nothing makes sense and no one wants to

Como podrán observar, el texto en español no tiene sentido, pero el párrafo en inglés al menos mantiene el tópico del disparador y tal vez contenga el germen de una historia de terror. Al menos es algo con lo que se puede empezar a trabajar o de lo que se puede tomar una idea. Por ejemplo, esta frase me gustó mucho: «Who will stand against a girl with a gun and a supernatural ability to shoot shadows?». Veo en esto el valor de un generador aleatorio de frases más que un escritor autómata, puede ser muy útil para romper el circulo vicioso de las ideas propias que se forma a veces en la cabeza de un escritor. Aunque para eso mismo también sirve leer a otros autores.

Este año la empresa OpenAI presentó la siguiente generación de este algoritmo, el GPT-3, pero solo está disponible la versión beta para un número limitado de usuarios que quieran probarla inscribiéndose previamente. Muchas noticias han salido al respecto de esta herramienta. Me llamó la atención la historia de un bloguero que la utilizó para crear artículos que, según afirma, han resultado muy exitosos, habiendo sido leídos por veintiséis mil personas en apenas dos semanas.

Tal vez todavía esté demasiado lejos la I.A. de llegar a revolucionar la literatura. Pero si estas herramientas pueden generar entradas de blog creíbles e interesantes, tal vez estén destinadas a causar una revolución en el sector de la generación de contenido web en un futuro cercano, poniendo patas arriba el mundo de los blogueros y redactores de contenido. Al menos plantea algunos interrogantes interesantes: ¿Qué significa que una herramienta pueda generar un artículo de dos mil palabras apretando un botón? ¿Se va a saturar todavía más el ya saturado mercado de contenido? ¿Cómo afectará a los trabajadores de este sector?

Otro punto muy interesante de estos algoritmos es que no pueden ser usados sin la supervisión de un adulto. Aprenden de los textos disponibles en internet, y ya sabemos cómo escribe la gente en internet. Así que se pueden despachar con cualquier tipo de improperios, bajezas, expresiones racistas, sexistas o cualquier idea políticamente incorrecta.

También hay que pensar sobre cuál es la capacidad de innovar de un sistema que solo replica o arma en concordancia con lo que lee. Y a futuro, cuando estos textos automáticos tengan una presencia importante en internet ¿las I.A. estarán aprendiendo de lo que otras I.A. escribieron? Suena a regurgitar lo mismo una y otra vez.

La supremacía

Volviendo a la clásica historia del robot asesino, en algún punto del relato su inteligencia supera a la humana o al menos la iguala. Pero, ¿existe la posibilidad de que eso suceda algún día en el mundo real?

Sobre este punto no existe una opinión unánime. Es una pregunta que exige un ejercicio de futurología y solo deja espacio para una respuesta abierta. 

Creo que la I.A. solo es la mímica de uno de los tantos mecanismos de la inteligencia humana, no se parece a la inteligencia real y está lejos de parecerse. Pero si es cierto que la I.A. avanza, incrementa su capacidad constantemente, y como dice el dicho italiano: «piano piano si va lontano». Mientras tanto la inteligencia humana no avanza. Entonces podemos pensarlo como una carrera entre una tortuga y una piedra en la que la piedra arranca con mucha ventaja. ¿Tiene alguna importancia esa ventaja si no puede moverse?

Inteligencia artificial en el presente y futuro de la escritura. Una historia de ciencia (no) ficción. Clásico Todos conocemos la idea det...

Las letras y el café combinan bien


Si disfrutaste la lectura, te propongo que apoyes a este espacio con una tasa virtual.

3 comentarios:

  1. O homem não é substituído por robôs. Maria

    ResponderBorrar
  2. Guauhhh cuanta verdad, la inteligencia artificial y la real o humana en constante competencia, una no existiría sin la otra pero puede sustituirla, tremendo!!! Fin de la humanidad??? ojala que no!!!. Abrazosss
    Cecy :)

    ResponderBorrar
    Respuestas
    1. Fin de la humanidad no, pero probablemente fin de una época. ¡Otro abrazo!

      Borrar