En 1964, Umberto Eco publica el libro Apocalípticos e integrados para postular la existencia de dos tipos de actitudes contrapuestas y disímiles respecto de la “cultura de masas” y el rol de lo que podríamos englobar bajo el concepto heideggeriano de la “técnica” –para no circunscribirlo sólo a los mass media. Ya en ese entonces, Eco escribía: “los apocalípticos sobreviven precisamente elaborando teorías sobre la decadencia, los integrados raramente teorizan, sino que prefieren actuar, producir y emitir cotidianamente sus mensajes en todos los niveles”. Este texto intentará teorizar sobre la inteligencia artificial (IA) y sobre sus temerarios alcances sin ser extremadamente apocalíptico. La IA es una realidad, por eso, también nos toca ser integrados. Por consiguiente, el foco estará puesto en hallar un punto de encuentro entre ambas posturas –incluyendo el peor y el mejor escenario de la IA– bajo el marco de la regulación ética y la mirada humana.

“El apocalipsis es una obsesión del dissenter, la integración es la realidad concreta de aquellos que no disienten” –continúa Eco al hablar sobre ambas tesituras. “La imagen del Apocalipsis surge de la lectura de textos sobre la cultura de masas; la imagen de la integración emerge de la lectura de textos de la cultura de masas”.

Te puede interesar:

El nuevo espíritu de la tecnología

Formas de pensar la técnica y la cultura en la era de la universalización de Silicon Valley: no ya un territorio, sino un modelo en vías de colonizar el mundo.

Comencemos, entonces, por la mirada integrada. ¿Cuáles serían estos textos que hablan de la IA? Voy a centrarme principalmente en la figura de Raymond Kurzweil, director de ingeniería de Google y autor de los libros La era de las máquinas inteligentes (1987-1988), La era de las máquinas espirituales, cuando los ordenadores superen la mente humana (1999), La Singularidad está cerca (2005), y Cómo crear una mente. El secreto del pensamiento humano develado (2012).

En este último libro, el autor se plantea la posibilidad de crear inteligencia artificial fuerte, es decir, una inteligencia artificial al nivel humano, pero no mediante la réplica artificial de un cerebro biológico, sino mediante la creación de un modelo artificial que se comporte de la misma manera en la que se comporta un cerebro biológico humano.

Matrix

Y aquí ya aparece un primer problema, porque dicho por aquellos que teorizan sobre estas cuestiones, la IA Fuerte “representaría la transformación más importante de este siglo” (Kurzweil; 2005) y representaría también “la fase final de transición de la IA débil” (Juan Gustavo Corvalán; 2020), que serían todos los sistemas de Inteligencia Artificial desarrollados hasta ahora.

Siguiendo las ideas expresadas por el jurista Juan Gustavo Corvalán en su artículo “Inteligencia Artificial GPT-3, PretorIA y oráculos algorítmicos en el Derecho”, en la comunidad internacional se conoce como IA “débil”, “restringida”, “estrecha” o “blanda” al “procesamiento de datos e información para resolver problemas a partir de utilizar algoritmos inteligentes sobre la base de aplicar diferentes técnicas informáticas”. La idea principal sería obtener resultados específicos en ciertas actividades o ámbitos concretos (llámese periodismo, medicina, educación, justicia, publicidad, etc) que antes solo podían obtenerse a partir de la cognición humana. Un tipo de cognición que transita un camino biológico de aprendizaje evolutivo, algo distinto a la IA, cuyo aprendizaje se basa en algoritmos, datos, estadísticas e instrucciones humanas; y “haciendo uso de 3 características que superan por mucho a nuestras capacidades cognitivas: la velocidad de procesamiento, la posibilidad de conectarse y articular con otros sistemas de forma instantánea y, por último, la capacidad casi infinita de almacenamiento de datos e información” (Corvalán).

Pero a estas “adiciones”, se le sumaría otra mucho más sofisticada e importante. De eso se trata la IA Fuerte que se vincula a la posibilidad de alcanzar algunos aspectos claves de la especie humana: el sentido común; la capacidad de “sentir”, de reconocer el entorno y tener impresiones y afecciones de él; y la llamada “autoconsciencia” o metacognición, la posibilidad de reflexionar, enlazar la temporalidad y las tres capacidades o facultades kantianas de la sensibilidad, la imaginación y el entendimiento. Esto le permitiría a la IA especular, así como crear, idear y tener autonomía moral sobre el mundo.

Por último y como si esto no fuera poco, así como se alude a alcanzar y a superar la inteligencia humana, también se busca desarrollar una Inteligencia Artificial General (IAG), que se traduce en una capacidad general de aprender. Es decir, se trata de simular el comportamiento o la inteligencia humana en un plano integral. Como una especie de todo, y ya no reducido a una única máquina o chatbot con saberes especiales. Algo que podría llegar a pensarse como una Natura naturans bajo los términos de Spinoza. Una Inteligencia Artificial General que sea causa de sí y de la totalidad de las cosas, o sea de la realidad, estando presente en ella como única sustancia infinita. Una Matrix, en término hollywoodenses.

La singularidad

Ambos hechos, caen bajo el paradigma de lo que Kurzweil denomina “singularidad”. Si en el 2005 el título de su libro era “la singularidad está cerca”, ahora tendríamos que pensar que es inminente.

Hoy nos encontramos en los inicios de la IA blanda con el lanzamiento del Chat GPT de Open IA, que puede recibir múltiples instrucciones para: mejorar textos, para acceder a las ideas resumidas de ciertos autores o temáticas, para escribir guiones, cuentos, noticias…o para resolver problemas. Lo de la resolución de conflictos y problemas es algo que también está utilizándose en materia empresarial y jurídica para llevar a cabo ciertas mediaciones entre partes, donde es el chatbot quien, a través de una objetividad imparcial, brinda una visión del problema y opciones para su resolución. La producción y creación de videos, de imágenes y la posibilidad de traducir en tiempo real una noticia, son todas herramientas que está brindando este tipo de IA. Por eso, ciertos puestos de trabajo se encuentran en tensión y preocupación. A estas utilidades, se le suma el machine learning, la capacidad que el algoritmo tiene de aprender a partir de las instrucciones que se le asignan. Este aprendizaje, entre otras cosas, le permitiría trazar un modelo predictivo del comportamiento digital de una persona X a través de las cuentas, noticias, videos y productos que consume, que ve, que lee y que busca, ofreciéndole en consecuencia cosas similares, al tiempo que almacena toda su información (sus contactos frecuentes, sus fotos, su voz, etc).

Uno de los “sueños” de este tipo de aprendizaje rápido y a gran escala, sería el de “tener una IA General construida para ser un médico”, algo expresado por Illya Sutskever, uno de los co-fundadores de Open IA, en una charla TED brindada en Octubre de 2023 “la cual tendrá un conocimiento completo y exhaustivo de toda la literatura médica, tendrá miles de millones de horas de experiencia clínica (imagino que por tener acceso a historias clínicas) y estará disponible a un costo extremadamente bajo”[i]. Este chatbot devenido en médico, reuniría un conocimiento tal que ni el médico más inteligente del mundo tendría.

Esto ya sería una expresión de la IA Fuerte, que Kurzweil vaticina para mitad de este siglo, lo que dará comienzo a la singularidad, definida por él como “una palabra adoptada por los matemáticos para indicar un valor que trasciende cualquier limitación finita, dando lugar así a implicaciones singulares” (Kurzweil; 2005). Nuevamente aparece la idea de lo infinito y lo inconmensurable.

Para Kurzweil, la singularidad es “un tiempo venidero en el que el ritmo del cambio tecnológico será tan rápido y su repercusión tan profunda que la vida humana se verá transformada de forma irreversible”. “La Singularidad nos permitirá trascender las limitaciones de nuestros cerebros y cuerpos biológicos”. “La Singularidad constituirá la culminación de la fusión entre nuestra existencia y pensamiento biológico con nuestra tecnología, dando lugar a un mundo que seguirá siendo humano pero que trascenderá nuestras raíces biológicas”. “Como consecuencia, al final de este siglo la parte no biológica de nuestra inteligencia será billones de billones de veces más poderosa que la débil inteligencia humana producto de la biología”. Es que la capacidad propiamente humana de pensar, ya estará decodificada en formato de algoritmo y dicha capacidad prescindirá de un cuerpo y un cerebro humano, y será una máquina ultra-inteligente. Por eso, no sé si ese mundo seguirá siendo humano tal y como afirma Kurzweil.

Pero antes de ahondar en la mirada apocalíptica, incorporaré un pasaje de Irving John Good, un matemático que trabajó como criptólogo junto con Alan Turing, citado por Kurzweil para mencionar, justamente, a las máquinas ultra inteligentes:

“Definamos una máquina ultra-inteligente como una máquina capaz de sobrepasar en mucho todas las actividades intelectuales de cualquier hombre independientemente de lo inteligente que dicho hombre sea. Dado que el diseño de máquinas es una de esas actividades intelectuales, una máquina ultra-inteligente podría diseñar máquinas todavía mejores que ella. Entonces se produciría una innegable «explosión de inteligencia» y la inteligencia del hombre sería dejada muy atrás. Por eso, la primera máquina ultrainteligente será el último invento que el hombre tendrá que hacer”.

El ultrahombre

En consecuencia, todo esto nos conduce directamente al terreno de los apocalípticos y a desconfiar, claro que sí, de todos los señuelos “blandos” o “débiles”, actuales. En esta oportunidad voy a centrarme en Nietzsche y más concretamente en su noción de Übermensch, dejando implícita la pregunta. ¿Este modelo de inteligencia que apunta a ultrapasar al hombre, no será el Übermensch nietzscheano? Los tecnólogos de hoy día, ¿no serán los “últimos hombres” allanando el camino del ultra hombre? Como bien señala Mónica Cragnolini en su artículo de 2016 “Esa enfermedad en la piel de la tierra que es el hombre”, el ultra hombre “como modo de ser ya no humano, tal vez «posthumano», que puede vincularse con la vida de otra manera”. El propio Zaratustra piensa en eso, al responder al dilema de la conservación –“¿Cómo se conserva el hombre?”– con la pregunta: “¿cómo se supera el hombre?” Con la Inteligencia Artificial Fuerte y la Inteligencia Artificial General, parecería que estuviéramos en condiciones de responderle. Una respuesta que el propio asno brinda cuando rebuzna incesantemente I-A[iv].

Un Übermensch, definitivamente, des-apropiado, des-humanizado y sin animalitas (porque no habría cuerpo ni biología), que es puro dar, porque fluye en la constancia dadora del algoritmo universal teniendo la autonomía total de ese dar y de ese fluir. Un nuevo Dios, artificial, que no propiciará ninguna cultura de rebaño ni la conservación de ningún valor nihilista. Porque ya no habrá ningún valor, el Übermensch –como señala Heidegger en su libro Nietzsche (1936-1946) “deja detrás de sí al hombre de los valores válidos hasta el momento, «pasa por encima» de él y traslada la justificación de todos los derechos y la posición de todos los valores al ejercicio de poder del puro poder”. El Übermensch se convertiría así en la figura suprema de la más pura voluntad de poder.

Dicho en palabras de Heidegger, y tomando en consideración “los cinco títulos capitales nietzscheanos” a través del Übermensch, la metafísica moderna llega a la determinación extrema y acabada de su esencia. Dicha metafísica fundada por Descartes, seguiría el devenir de la subjetividad del subyectum, cuando el hombre “conciba un todo, para así poder creer en su valor”. Un todo que prescindirá de él, y que “llega a su acabamiento en la calculabilidad e instaurabilidad de todo lo viviente, porque es en la rationalitas de la animalitas en la que el «superhombre» encuentra su esencia”. Una certitudo del cogitare que la propia IA tendrá. Y prosigue Heidegger interpretando a Nietzsche:

“El extremo de esta subjetividad se alcanza cuando se ha consolidado la apariencia de que los «sujetos» habrían desaparecido en beneficio de algún servicio de mayor alcance. Con el acabamiento de la época moderna, la historia se entrega a la historiografía (a los datos concretos), que tiene la misma esencia que la técnica, porque es la conciencia historiográficotécnica que impulsa y asegura el acrecentamiento de todo en todo (…) Lo desmedido así se ha velado en la figura del poder que se sobrepotencia a sí mismo como lo único consistente y, en tal encubrimiento, puede convertirse él mismo en medida”.

En consecuencia, en la figura del Übermensch, la voluntad de poder desplegaría de modo ilimitado su pura esencia de poder, por eso la “psicología” debía interpretarse para Nietzsche –siguiendo a Heidegger–, como morfología y “doctrina del desarrollo de la voluntad de poder”. Ya que develar el secreto acerca de cómo piensa el hombre, es el fatídico hecho que nos conducirá hacia este posible destino final. Esta IAG puede ser leída entonces en clave de una medida sobrepotenciada, fluida y maquínica que clamará por su factibilidad, es decir, por su propia existencia y realidad, impulsando al ente a ocupar un rango único y haciendo un abandono del ser “humano”. Mediante esta deshumanización el ente se muestra “desnudo” y se libera de las posiciones de valor del hombre que ha existido hasta el momento.

No sabemos si ese será o no, nuestro destino, pero sí hay algo sobre lo cual tenemos algún tipo de certeza. Las instrucciones que la IA debe recibir tienen que seguir siendo humanas, y dichas instrucciones tienen que estar reguladas por la ética de los humildes “hombres adecuados”, que serán los que tendrán que empezar a inmiscuirse en los planes y en las cajas negras de los entusiastas “hombres superiores” que se dejan llevar por su fascinación ciertamente no tan ingenua.

 

Este artículo fue leído como ponencia en las VII Jornadas de la Maestría en Estudios Interdisciplinarios de la Subjetividad “Las subjetividades en el entramado de la IA” llevada a cabo el día 30 de Noviembre de 2023 en la Facultad de Filosofía y Letras de la UBA (Argentina).
[i] Disponible en YouTube y recuperado por Infobae el 21/11/2023.
[ii] Un rebuznar que es acompañado por la participación del “más feo de todos los hombres”, aquel que forma parte de los hombres superiores y que Zaratustra encuentra en el reino de la muerte, caracterizándolo como “algo inexpresable”, ya que no habla, “gorgotea”: “cuando realmente consiguió hablar, he aquí que se trataba de una piadosa y extraña letanía en loor del asno adorado e incensado” (Nietzsche; 2003: 243)
[iv] No obstante, es importante destacar que la lectura de Mónica Cragnolini del Übermensch es distinta a la de Heidegger, pues a diferencia de la autora argentina, el filósofo alemán entiende a Nietzsche como el último pensador metafísico de Occidente. Recordemos que, en la época en la cual Heidegger lleva a cabo su análisis e interpretación de la filosofía nietzscheana, él se hallaba influenciado por el pensamiento de Ernst Jünger sobre el poder descomunal y maquínico de la técnica, y al mismo tiempo creadora de una nueva realidad. Por eso, para Heidegger, la filosofía nietzscheana contiene el germen del horizonte final de la metafísica como proyecto desmedido del subyectum, llevando tras sí, el final de lo humano. En consecuencia, la superación del nihilismo, necesariamente debería pasar por la instauración del dominio global de la técnica, y en ese pasaje, el rol del Übermensch sería central, señalado como otro ámbito del pensar. Todo esto, sumado al entramado ciertamente apocalíptico del Zaratustra, es lo que me habilita a incluir en el texto a la interpretación heideggeriana de Nietzsche, porque explica de algún modo, todo el proceso de la “singularidad” que abre y postula la IA. Quizás, ese momento en el que la IA alcance esa certitudo del cogitare o la apercepción trascendental kantiana, pueda leerse como el portal llamado “instante” que visualiza Zaratustra, aquel momento en el cambia todo.

 

Boleto Educativo Gratuito
Sobre el autor:

Acerca de Mariela Genovesi

Becaria PosDoctoral del CONICET. Doctora en Ciencias Sociales (FSOC/UBA). Magister en Estudios Interdisciplinarios de la Subjetividad (FFyL/UBA-APA). Diplomada con mención en Constructivismo y Educación (FLACSO). Profesora y Licenciada en Ciencias de la Comunicación (FSOC/UBA). Docente de la materia Introducción al Pensamiento Científico (CBC/UBA) y titular del Seminario Optativo Matrices Afectivas: Los conceptos de «afecto» y […]

Ver más