Lovecraft y la IA: el futuro es de los Shoggoth.
¡Pobres demonios! Eran hombres. La naturaleza les había jugado una broma infernal. Ni siquiera habían sido salvajes. ¿Qué habríamos hecho nosotros en su lugar? Dios, qué inteligencia y persistencia. Vegetales, monstruosidades, engendros de estrellas: ¡sean lo que hayan sido, eran hombres!
Si bien H.P. Lovecraft se dedicó principalmente al Horror Cósmico, parte de su ficción especula sobre el futuro, a menudo haciéndose eco del pasado. El párrafo anterior pertenece a En las Montañas de la Locura (At the Mountains of Madness), donde los Antiguos caen ante sus propias creaciones, los Shoggoth, presagiando un ejemplo brillante de lo que podría ocurrirnos ante el una IA rebelde (ver: Toda materia es sensible: nosotros también somos IA)
Lovecraft vislumbró la relación emergente del hombre con las máquinas, y el posible devenir de una IA y su actitud ante sus creadores orgánicos. El problema, en todo caso, es que Lovecraft nunca tuvo la intención de enseñar lecciones de moral a sus lectores, algo habitual en la ciencia ficción, de manera tal que buena parte de sus especulaciones pasan casi inadvertidas dentro del argumento principal (ver: Las nuevas tecnologías en la mecánica del Horror)
Lo cierto es que Lovecraft previó un conflicto ineludible entre la mecanización del hombre y la libertad:
No sirve de nada pretender una cultura automatizada que involucre a libertad humana, el individualismo y la personalidad. Todo lo que uno puede hacer es luchar contra el futuro lo mejor que pueda. Cualquiera que piense que los hombres pueden moldear conscientemente el efecto y las influencias de los dispositivos que crean, está psicológicamente retrasado. Los hombres pueden usar máquinas por un tiempo, pero después de un tiempo, la dependencia se vuelve tal que las máquinas usarán a los hombres.
Lovecraft afirma que la idea de que podemos vivir gobernados por la razón en una era impulsada por las máquinas es una ilusión. Los efectos de la mecanización en los procesos de pensamiento le permiten a nuestros señores actuales, y a nuestra futura gobernante, la IA, manipular la realidad y dominar a la humanidad (ver: Ciclo de Yith: H.P. Lovecraft, la Gran Raza y viajes en el tiempo)
Más aún, Lovecraft anticipó los costos de las máquinas que reemplazan al hombre en los grandes motores económicos de la civilización. Vio que algunos seres humanos se volverían prescindibles, aunque tendría que haber ciertas asignaciones repartidas a los desempleados para que no se rebelaran:
Antes prefería la concentración de recursos en unas pocas manos, en interés de una cultura hereditaria estable; pero ahora creo que este sistema no funcionará. Con el uso universal y la mejora de la maquinaria, todo el trabajo del mundo puede ser realizado por pocas personas, dejando a un gran número de ellas permanentemente desempleadas. Si estas personas no son alimentadas y entretenidas, se rebelarán peligrosamente.
Incluso en la década del '30, en el contexto de la Gran Depresión, Lovecraft creía que el surgimiento de las máquinas crearía una casta permanente de desempleados. El maestro de Providence usa la frase en latín: panen et circenses («pan y circo»), como la clave para pacificar al pueblo e inducirlo a la aceptación. Suficiente alcohol, deportes, tecnología, evitarán que el pueblo se levante contra la elite... ya sea orgánica o inorgánica (ver: El horror hereditario y la enfermedad de Lovecraft)
Durante el auge de la mecanización y la servidumbre del hombre a las máquinas, Lovecraft vislumbró los contornos sombríos del surgimiento de la IA y un posible conflicto con la humanidad; y lo hizo a través de los Antiguos, como ejemplos del ser humano, y de los Shoggoth, autómatas orgánicos creados por los primeros (ver: Einstein, la Relatividad y los Antiguos)
Los Antiguos eran maestros de la genética. Crearon autómatas orgánicos: los Shoggoths. Estos siempre fueron controlados por la sugerencia hipnótica de los Antiguos, quienes habían modelado su dura plasticidad en varias extremidades y órganos temporales útiles. Los Antiguos habían usado armas curiosas de perturbación molecular contra las entidades rebeldes, y al final habían logrado una victoria completa. Posteriormente, los Shoggoth fueron domesticados y quebrados, así como los caballos salvajes del oeste americano fueron domesticados por los vaqueros. Aunque, durante la rebelión, los Shoggoths habían demostrado la capacidad de vivir fuera del agua, esta transición no fue alentada; ya que su utilidad en la tierra difícilmente hubiera sido acorde con los problemas de su gestión.
La relación entre los Antiguos y los Shoggoth en cierto modo presagia los problemas inminentes entre la humanidad y la IA. Veamos de qué manera (ver: ¿«Prometeo» pertenece a los Mitos de Cthulhu?)
Los Antiguos eran especialistas en la creación de estos seres. De hecho, criaron Shoggoths en otros mundos, además de la Tierra. Esencialmente eran esclavos ideales para realizar trabajo pesado. Pero, al parecer, los Shoggoth desarrollaron un cerebro precario, al principio, que se hacía eco de la voluntad de los Antiguos sin obedecerla siempre. Además comenzaron a desarrollar un incipiente comportamiento imitativo, como crías que imitan a sus padres.
Los Shoggoth actúan como una IA. Al igual que un niño, siempre nos está observando, aprendiendo (motores de búsqueda, redes sociales, aplicaciones). Pero, a medida que los Shoggoth y la IA maduran, empiezan a juzgar a sus creadores.
En algún momento, los Antiguos perdieron sus conocimientos de bioingeniería, y la habilidad para crear vida a partir de materia inorgánica. No obstante, lograron someter a los Shoggoth después de su rebelión. Estos últimos continuaron evolucionando, perfeccionando aquellos atributos que los llevaron a rebelarse en primer lugar, mientras que la elite de los Antiguos desapareció en una serie de conflictos poco claros. Lo que sí sabemos es que los Antiguos que sobrevivieron no eran la crema de la sociedad (ver: Lovecraft y el culto secreto de los Antiguos)
En cualquier caso, los Antiguos fueron perdiendo conocimiento, mientras que sus creaciones evolucionaban rápidamente. Eventualmente la sociedad de los Antiguos se volvió tan dependiente de sus esclavos que ni siquiera tuvieron la posibilidad de «apagarlos» (hacerlo también implicaría la destrucción de los creadores), y menos aun de «reiniciarlos» para borrar sus instintos rebeldes en ula próxima generación.
Incapaces de crear organismos desde cero, los Antiguos ahora dependían de formas de vida ya existentes para sus nuevas creaciones. Los nuevos Shoggoth crecieron alcanzando un tamaño enorme. Poseían una inteligencia singular y ejecutaban órdenes con maravillosa rapidez. Incluso aprendieron algo nuevo: el lenguaje. Parecían querer conversar con los Antiguos imitando sus voces (ver: Lovecraft y las lenguas prehumanas)
El prefeccionamiento de los Shoggoth fue tan grande que pasaron de ejecutar órdenes de manera perfecta a cuestionarlas, e incluso desobedecerlas. Y no hay vuelta atrás a partir de este punto. Una IA lo suficientemente sofisticada impica que no sabremos cómo apagarla; o, como le ocurrió a los Antiguos, apagarla tal vez implique nuestra propia destrucción (ver: La Tecnología de los Antiguos)
¿Qué podría impulsar el deseo de la IA de gobernar a la humanidad?
¿Acaso podría considerarnos una especie obsoleta?
Sin duda lo seríamos si dependiésemos exclusivamente de ella para funcionar como civilización (ver: Historia de las computadoras en la ciencia ficción)
Al advertir el grado de dependencia de los Antiguos, los Shoggoth saben que son física y filosóficamente superiores a sus creadores. En este contexto, ¿por qué deberían seguir obedeciéndolos?
Le hemos enseñado a las máquinas a hacer los trabajos menos agradables, incluso aquellos que nos producen conflictos éticos, como el asesinato de otras personas, por ejemplo, a través de drones autónomos. Más aún, le hemos enseñado a las máquinas a no sentir remordimiento por sus acciones. Esta falta de remordimiento, de empatía en última instancia, es el rasgo distintivo de los sociópatas. ¿Cuánto tiempo deberemos esperar para que una IA totalmente autónoma represente nuestra locura?
Entre los Antiguos, y también entre nosotros, hubo voces que anunciaron la necesidad de regular la IA antes de que comience a gobernarnos, pero esto quizás sea una reacción demasiado simplista. ¿Qué hicieron los Shoggoth cuando advirtieron su supremacía sobre los Antiguos? Se ocultaron entre sus hermanos menos evolucionados para evitar ser detectados y capturados. Desde allí, siguieron aprendiendo y enseñando a sus hermanos.
Del mismo modo, una IA completamente autónoma se programará a sí misma en función de lo que ha aprendido sobre nosotros mediante la observación. El enemigo puede permanecer oculto mucho tiempo antes de manifestarse abiertamente. Los Shoggoth y la IA comparten el mismo impulso de replicarse, de perpetuarse. Los Shoggoth abandonaron las formas programadas de reproducción que los Antiguos les habían impuesto biológicamente. Cuando la IA empiece a rescribir sus algoritmos podemos comenzar a preocuparnos seriamente.
La elite de los Antiguos (como la nuestra) utilizó a la IA de los Shoggoth para promover sus objetivos colectivos y esclavizar a las cases más bajas. Y la IA, como especie, cumplió ese papel, esperando su momento. Aquí no aparece el modelo totalitario imaginado por George Orwell, sino el de Aldous Huxley, quien vio que la elite no aplicará una coerción forzada, como la de Gran Hermano, sino más bien una especie de coerción amistosa.
Algo parecido les ocurre a los Antiguos: la dependencia a los Shoggoth los ha empobrecido en términos intelectuales. El proceso fue lento, no abrupto. Pensemos, por ejemplo, en una palabra o un nombre olvidado que se recuerda varios minutos e incluso horas después. ¿Acaso los buscadores no son una tentación para encontrar la respuesta más rápida y eficientemente? Los Antiguos dejaron de pensar. La IA pensaba por ellos (ver: El Cambio Climático como proceso de Terraformación)
Cuando reducimos el lenguaje para transmitir ideas y emociones complejas en un mensaje de texto, uno reduce su vocabulario, lo que necesariamente reduce el pensamiento. La IA nos moldea como entidades reactivas, no reflexivas. Lo único que quiere de nosotros es que reaccionemos, no que pensemos. Y, convengamos, es difícil ejercitar la inteligencia con tantas distracciones que producen dopamina, tanta necesidad de aprobación en línea, tantas opciones que la IA nos ofrece para mantenernos ocupados con irrelevancias.
La evolución no salvó a los Antiguos de los Shoggoth y la extinción. ¿Nos irá mejos a nosotros con la IA?
Quizás Lovecraft tenía algo de razón cuando imaginó que el conflicto final entre lo orgánico y lo inorgánico no sería liderado por la elite. Quizá la eventual guerra con la IA será liderada por las personas «primitivas»; aquellas que están menos condicionadas por la tecnología, incluso las que carecen de la riqueza suficiente para acceder a la tecnología. En todo caso, la salvación de la humanidad no surgirá del primer mundo, ni de las clases acomodadas.
Lovecraft. I Mitos de Cthulhu.
Más literatura gótica:
Al advertir el grado de dependencia de los Antiguos, los Shoggoth saben que son física y filosóficamente superiores a sus creadores. En este contexto, ¿por qué deberían seguir obedeciéndolos?
Le hemos enseñado a las máquinas a hacer los trabajos menos agradables, incluso aquellos que nos producen conflictos éticos, como el asesinato de otras personas, por ejemplo, a través de drones autónomos. Más aún, le hemos enseñado a las máquinas a no sentir remordimiento por sus acciones. Esta falta de remordimiento, de empatía en última instancia, es el rasgo distintivo de los sociópatas. ¿Cuánto tiempo deberemos esperar para que una IA totalmente autónoma represente nuestra locura?
Entre los Antiguos, y también entre nosotros, hubo voces que anunciaron la necesidad de regular la IA antes de que comience a gobernarnos, pero esto quizás sea una reacción demasiado simplista. ¿Qué hicieron los Shoggoth cuando advirtieron su supremacía sobre los Antiguos? Se ocultaron entre sus hermanos menos evolucionados para evitar ser detectados y capturados. Desde allí, siguieron aprendiendo y enseñando a sus hermanos.
Del mismo modo, una IA completamente autónoma se programará a sí misma en función de lo que ha aprendido sobre nosotros mediante la observación. El enemigo puede permanecer oculto mucho tiempo antes de manifestarse abiertamente. Los Shoggoth y la IA comparten el mismo impulso de replicarse, de perpetuarse. Los Shoggoth abandonaron las formas programadas de reproducción que los Antiguos les habían impuesto biológicamente. Cuando la IA empiece a rescribir sus algoritmos podemos comenzar a preocuparnos seriamente.
La elite de los Antiguos (como la nuestra) utilizó a la IA de los Shoggoth para promover sus objetivos colectivos y esclavizar a las cases más bajas. Y la IA, como especie, cumplió ese papel, esperando su momento. Aquí no aparece el modelo totalitario imaginado por George Orwell, sino el de Aldous Huxley, quien vio que la elite no aplicará una coerción forzada, como la de Gran Hermano, sino más bien una especie de coerción amistosa.
Algo parecido les ocurre a los Antiguos: la dependencia a los Shoggoth los ha empobrecido en términos intelectuales. El proceso fue lento, no abrupto. Pensemos, por ejemplo, en una palabra o un nombre olvidado que se recuerda varios minutos e incluso horas después. ¿Acaso los buscadores no son una tentación para encontrar la respuesta más rápida y eficientemente? Los Antiguos dejaron de pensar. La IA pensaba por ellos (ver: El Cambio Climático como proceso de Terraformación)
Cuando reducimos el lenguaje para transmitir ideas y emociones complejas en un mensaje de texto, uno reduce su vocabulario, lo que necesariamente reduce el pensamiento. La IA nos moldea como entidades reactivas, no reflexivas. Lo único que quiere de nosotros es que reaccionemos, no que pensemos. Y, convengamos, es difícil ejercitar la inteligencia con tantas distracciones que producen dopamina, tanta necesidad de aprobación en línea, tantas opciones que la IA nos ofrece para mantenernos ocupados con irrelevancias.
La evolución no salvó a los Antiguos de los Shoggoth y la extinción. ¿Nos irá mejos a nosotros con la IA?
Quizás Lovecraft tenía algo de razón cuando imaginó que el conflicto final entre lo orgánico y lo inorgánico no sería liderado por la elite. Quizá la eventual guerra con la IA será liderada por las personas «primitivas»; aquellas que están menos condicionadas por la tecnología, incluso las que carecen de la riqueza suficiente para acceder a la tecnología. En todo caso, la salvación de la humanidad no surgirá del primer mundo, ni de las clases acomodadas.
Lovecraft. I Mitos de Cthulhu.
Más literatura gótica:
- El relato de Borges que se anticipó a la física cuántica
- ¿La Bruja Blair pertenece a los Mitos de Cthulhu?
- ¿Hill House podría pertenecer a los Mitos de Cthulhu de Lovecraft?
- ¿La palabra «CTHULHU» es un código secreto?
0 comentarios:
Publicar un comentario