Fuente: El Viejo Topo
Link de Origen:
https://www.elviejotopo.com/topoexpress/pensar-lo-impensable/
LA NECESIDAD DE PENSAR LO IMPENSABLE
Este título no es una propuesta
contradictoria. Es un llamamiento a que dejemos de pensar mucho de lo que
estamos acostumbrados a pensar para poder afrontar el mayor reto de todos los
tiempos: el peligro de dejar de pensar. Novalis tenía razón cuando escribió Die
Philosophie ist eigentlich Heimweh, ein Trieb überall zu Hause zu sein (En
realidad, la filosofía es nostalgia, un impulso de estar en casa en cualquier
parte).
Por filosofía entiendo todo
pensamiento estructurado por la búsqueda de la verdad sin recurrir a
tecnologías que, en lugar de mantenerse dentro de los límites de los
instrumentos para ayudar al pensamiento a pensar, buscan sustituirlo. Si
dejamos de pensar, es como si fuéramos expulsados de casa y vagáramos sin
refugio ni sentido en un mundo caótico y distópico de monstruos con corbata que
nos gobernarán en palacios de lujo y convertirán en basura todo lo que se
interponga en el tráfico de sus vehículos hiperblindados contra la búsqueda de
la verdad.
El peligro inminente es que dejemos
de ser seres pensantes (res cogitans de Descartes) para convertirnos en seres
pensados (res cogitata). Ser pensado es haber dejado de pensar, ya sea porque
no es necesario pensar para vivir tranquilamente en esta sociedad, ya sea
porque pensar es tan peligroso que equivale al riesgo inminente de ser
asesinado o de suicidarse. Estos son los peligros más inmediatos.
El peligro de pensar que los
certificados de mediocridad no son válidos
Si los sistemas educativos y las
universidades siguen por el camino de la ignorancia programada para que los
estudiantes olviden todo lo que no interesa a los dueños de los algoritmos y
del poder mundial, pronto serán residencias para ancianos de corta edad donde
aprenderán lo que ya saben desde hace tiempo gracias a la magnanimidad de las
redes sociales, y donde la comodidad y el aislamiento del mundo real son
fundamentales para prepararlos para una muerte serena, es decir, para vivir en
las burbujas donde todo el mundo vive muerto sin saberlo.
Y vivirán sin duda con el mismo
confort que han aprendido y, por lo tanto, todo lo que hagan o ordenen tendrá
el sello de la objetividad. Estoy seguro de que, cuando esto ocurra, los dioses
y las diosas se llevarán las manos a la cabeza, se taparán los ojos para no ver
y los oídos para no oír. Pero como tal desastre no les afecta, seguirán
imperturbables en sus quehaceres divinos. El problema para la humanidad y para
la naturaleza es que, cuando los mediocres logran demostrar lo que son, su
objetividad es, en definitiva, abyectividad. Es propio de la mediocridad no
poder enfrentarse a sí misma, precisamente por ser mediocre.
El peligro de pensar que las
libertades autorizadas son una fracción de las libertades posibles
Esta sociedad nos permite ser
intransigentes con la mediocridad siempre que sigamos el camino trazado por los
mediocres; ser intransigentes contra la corrupción, siempre que aceptemos ser
gobernados por corruptos; ser radicales, siempre que seamos ciegos para que nos
atropellen fácilmente los tanques civiles y militares; ser atrevidos, siempre
que seamos inexactos o descuidados en un detalle para ser duramente criticados
y encarcelados por los guardianes de la normalidad; ser lúcidos en la denuncia
de la hipocresía, siempre que convivamos amigablemente con los hipócritas; ser
jóvenes, siempre que estemos drogados para agotarnos en creatividades y
rebeldías inocuas y autodestructivas; ser viejos, siempre y cuando murmuremos
una sabiduría que nadie tiene paciencia para escuchar o comprender.
Esta sociedad es un monstruo de Goya
porque la razón duerme un sueño profundo.
El peligro de pensar que lo que se ve
es, de hecho, horrible
El horror que vive la mayor parte de
la humanidad, a diario, siempre diferente y siempre igual, desmiente todo lo
que pensábamos sobre el progreso de la humanidad. El horror pensado, cuando se
piensa en profundidad, corre el riesgo de convertirse en horror vivido por
solidaridad con quienes lo sufren. Eso obligaría a luchar concretamente por el
socorro, por el fin de la muerte inocente, por la destitución de los gobernantes
cómplices de la muerte inocente. Pero como eso da trabajo y obliga a correr
riesgos tan graves como innecesarios, lo mejor es no pensar, no saber, fingir
que no se sabe, admitir que tal vez sea un malentendido.
El genocidio del pueblo palestino,
retransmitido en directo todos los días, es la primera guerra librada
conscientemente contra mujeres y niños, los dos principales enemigos de una
limpieza étnica perfecta. Tiene toda la lógica. Lógica y el apoyo activo de
nuestros gobernantes demócratas. Al igual que Himmler, arquitecto del
holocausto, entraba en su casa por la puerta trasera para no despertar a su
canario mascota, los arquitectos del genocidio actual hacen una pausa en la
matanza para rezar y ayudar a sus hijos con los deberes escolares.
Esto degrada hasta tal punto lo que
queda de humanidad en nuestra ira impotente que el horror de pensar se reduce a
pensar el horror sin correr el riesgo de vivirlo por solidaridad.
Se vuelve impensable pensar que,
mientras el nazismo fue la gran encarnación del mal en el siglo XX, el sionismo
es la gran encarnación del mal en el siglo XXI. Se vuelve impensable que las
grandes víctimas se hayan convertido, en el lapso exacto de un siglo, en los
grandes agresores. Se vuelve impensable pensar que, al igual que no tuvo éxito
la solución final contra ellos por parte de los nazis, tampoco tendrán éxito en
la solución final que pretenden infligir al pueblo palestino. Y como todo esto
es impensable, mejor cambiar de canal y volver a las redes sociales o comentar el
entretenimiento tragicómico de las peleas entre dos gorilas, Donald Trump y
Elon Musk (sin ofender a los gorilas).
El peligro de pensar que la comida
mental está en la mesa y que quien no come se muere de hambre
La inteligencia artificial (IA) no
crea ni transforma nada. Solo acumula y sintetiza según criterios opacos solo
accesibles a los propietarios de los programas de los algoritmos, es decir, a
los dueños del mundo. La inteligencia artificial se refiere a máquinas que
realizan tareas cognitivas como pensar, percibir, aprender, resolver problemas
y tomar decisiones. No es la primera vez que se atribuye inteligencia a las
máquinas. En la década de 1950 era habitual designar a los ordenadores
emergentes como cerebros electrónicos.
En la actualidad, la mayoría de las
aplicaciones populares de IA —el reconocimiento de voz e imágenes, el
procesamiento del lenguaje natural, la publicidad dirigida, el mantenimiento
predictivo de máquinas, los coches sin conductor y los drones— implican la
capacidad de las máquinas para aprender de los datos sin estar programadas
explícitamente.
Se trata de un cambio de paradigma en
la tecnología informática. Lo que realmente marcará la diferencia en la carrera
por las aplicaciones de IA es la disponibilidad de datos; el elemento crítico
es la abundancia de datos. Más datos conducen a mejores productos, lo que a su
vez atrae a más usuarios, que generan más datos para mejorar aún más el
producto. La escala de datos necesaria para desarrollar aplicaciones avanzadas
de IA es la base del impacto de la centralización y la monopolización de la IA.
Las grandes empresas tecnológicas estadounidenses lideran el mundo en
aplicaciones de IA, pero China es un gigante en ascenso. Esto conduce a un
duopolio de la innovación en IA: EE. UU. y China.
La IA es el caso paradigmático de una
tecnología que pretende superar los límites del instrumento que ayuda a pensar
para convertirse en el pensador que prescinde y sustituye al pensador humano.
El vértigo de su expansión ilimitada está entrando en todos los ámbitos de la
actividad humana, desde la medicina hasta el derecho, desde la comunicación
hasta la guerra, desde la educación hasta los mercados financieros. ¿Qué
significa ser humano en la era de la IA?
En el fondo, la IA funciona como un
dispositivo estadístico, pero, debido al número infinito de datos que gestiona
y a los algoritmos que rigen su funcionamiento, la IA proyecta la idea de crear
conocimiento a partir de la nada, de inventar. Es decir, la IA da la impresión
de funcionar como un ser humano, aunque de forma infinitamente más eficiente.
De ahí las denominaciones utilizadas para caracterizarla —inteligencia
artificial, aprendizaje profundo—, características hasta ahora reservadas a los
seres humanos o, como mucho, a los seres vivos. Estas denominaciones se
utilizan de forma metafórica, pero muestran hasta qué punto la IA parece estar
alcanzando niveles de comprensión y transformación aún reservados a los seres
humanos.
El efecto de realidad es
impresionante, porque mientras que como copia parece creativa, como extractiva
parece inventiva, como reproductiva parece productiva, como basada en
correlaciones parece ofrecer nuevas relaciones. A la luz de la credibilidad de
esta apariencia, personas de ambos extremos del espectro político e
ideológico se han planteado preguntas sobre qué es lo que cuenta como humano o
si la IA supone un cambio civilizatorio.
No me gusta citar a criminales de
guerra, pero en este caso hago una excepción para citar a Henry Kissinger. En
2018 escribió:
La Ilustración buscaba someter las
verdades tradicionales a una razón humana liberada y analítica. El objetivo de
Internet es ratificar el conocimiento mediante la acumulación y la manipulación
de datos en constante expansión. La cognición humana pierde su carácter personal.
Los individuos se convierten en datos, y los datos se vuelven reinantes.
En el inicio del texto, Kissinger se
preguntaba:
¿Cuál sería el impacto en la historia
de las máquinas de autoaprendizaje, máquinas que han adquirido conocimientos a
través de procesos propios y que aplicarían esos conocimientos a fines para los
que puede no existir ninguna categoría de comprensión humana? ¿Aprenderían
estas máquinas a comunicarse entre sí? ¿Cómo se tomarían las decisiones entre
las opciones emergentes? ¿Sería posible que la historia de la humanidad
siguiera el camino de los incas, enfrentados a una cultura española
incomprensible e incluso inspiradora para ellos? ¿Estaríamos en el umbral de
una nueva fase de la historia humana?
Con Chomsky a mi lado, considero que:
la mente humana es un sistema
sorprendentemente eficiente e incluso elegante que funciona con pequeñas
cantidades de información; no busca inferir correlaciones brutas entre puntos
de datos, sino crear explicaciones… Por muy útiles que puedan ser los programas
de IA en algunos ámbitos restringidos (pueden ser útiles en la programación de
ordenadores, por ejemplo, o en la sugerencia de rimas para versos ligeros),
sabemos por la ciencia de la lingüística y la filosofía del conocimiento que
difieren profundamente de la forma en que los humanos razonan y utilizan el
lenguaje. Estas diferencias imponen limitaciones significativas a lo que estos
programas pueden hacer, codificándolos con defectos inerradicables…
De hecho, estos programas están
atrapados en una fase prehumana o no humana de la evolución cognitiva. Su fallo
más profundo es la ausencia de la capacidad más crítica de cualquier
inteligencia: decir no solo lo que es, lo que fue y lo que será —es decir, la
descripción y la predicción—, sino también lo que no es y lo que podría y no
podría ser. Estos son los ingredientes de la explicación, la marca de la
verdadera inteligencia… El pensamiento humano se basa en explicaciones posibles
y en la corrección de errores, un proceso que limita gradualmente las posibilidades
que pueden considerarse racionalmente.
En su obra maestra, El mundo
como voluntad y representación, Schopenhauer ([1819] 2020) establece una
distinción entre talento y genio. Mientras que la persona con talento alcanza
lo que otros no pueden alcanzar, el genio alcanza lo que otros no pueden
imaginar. El genio tiene una capacidad superior de contemplación que le lleva a
trascender la pequeñez del ego y a entrar en el mundo infinito de las ideas. El
genio es la facultad de permanecer en un estado de percepción pura, de perderse
en la percepción, el poder de dejar de lado por completo los propios intereses,
deseos y objetivos, renunciando así por completo a la propia personalidad
durante un tiempo, para permanecer como un puro sujeto conocedor, con una
visión clara del mundo.
A la luz de esto, podemos especular
con seguridad que, si Schopenhauer viviera hoy, defendería que la IA, por muy
estimulantes que sean sus logros, nunca podrá alcanzar los niveles de la
posibilidad humana. Como mucho, podrá alcanzar el nivel del talento. La
genialidad es inaccesible para la IA. El genio es el límite superior de la IA. El
límite inferior es la actividad humana no registrada o, mejor aún, la actividad
humana que se registra y almacena de formas que desafían el extractivismo de
datos.
Este juego entre el hombre y la
máquina pasa por alto un punto crucial: el hecho de que los seres humanos no
existen en abstracto, sino en contextos históricos, sociales y culturales
específicos. Los ejercicios sobre características universales construidas de
forma abstracta convierten las características locales centradas en Occidente,
capitalistas, colonialistas y patriarcales en características universales
derivadas del conocimiento visto desde cero. Los prejuicios ontológicos y
políticos se transforman así en artefactos neutros en términos de IA.
El peligro de pensar que lo que queda
fuera del algoritmo no existe es la nueva forma de lo que he denominado
sociología de las ausencias. El peligro de pensar que el algoritmo es el único
alimento mental a nuestro alcance es el mismo que pensar que la hamburguesa de
McDonald’s es el único alimento a nuestro alcance.
El peligro de pensar que lo poshumano
presupone que ya hemos sido plenamente humanos
Desde principios de milenio se ha
debatido sobre lo poshumano. La muerte del ser humano venía de lejos: de
Nietzsche, de Heidegger, de Foucault, de Barthes, de Deleuze. Más
recientemente, la idea de lo poshumano se ha centrado en los seres humanos
sometidos a xenotransplantes (trasplantes de células, tejidos u órganos de
otras especies animales) o que viven con objetos tecnológicos insertados en su
cuerpo.
La idea del poshumanismo implica la
crítica del antropocentrismo, la negación de cualquier privilegio al ser humano
dentro del conjunto de los seres vivos del planeta. No voy a discutir en este
texto los méritos de esta concepción. Lo que me interesa cuestionar es la idea
de humano que subyace a la de poshumano. Se trata de una idea sustantivista y
abstracta que presupone la existencia previa de una naturaleza humana más o
menos fija. Por lo demás, la cuestión de si existe o no una naturaleza humana
no es lo que me preocupa. Es más bien la idea de que los seres humanos siempre
han sido tratados como seres privilegiados y abstractamente iguales.
El peligro de pensar que, en
realidad, esto nunca ha sucedido en la era moderna es uno de los más
aterradores para la buena conciencia liberal que ha formado nuestra conciencia
desde el siglo XVII. A lo largo de los años, he demostrado que, con el
colonialismo histórico, se trazó una línea abismal, tan radical como
radicalmente invisible, entre los seres tratados como seres plenamente humanos
(la zona metropolitana) y los seres tratados como seres subhumanos (la zona
colonial).
Esa línea abismal perdura hasta hoy y
la subhumanidad que dibuja abarca más poblaciones en el mundo que durante el
período del colonialismo histórico. Que lo digan los inmigrantes deportados con
grilletes y enviados a campos de concentración en El Salvador y en otros
lugares de los que algún día tendremos noticias. O los campesinos de la
República Democrática del Congo martirizados por la maldición del litio y los
minerales raros. El espectro de la subhumanidad se cierne sobre cada uno de
nosotros. De un momento a otro, como preveía Brecht, cualquiera de nosotros
puede ser arrojado a la zona colonial, donde las declaraciones universales de
derechos humanos y las garantías constitucionales no son más que piadosas
mentiras. Pensar que esto es un retroceso es pensar que ha habido progreso. Por
supuesto que ha habido progresos, pero no ha habido Progreso con mayúscula.
Todos estos peligros obligan a una
tarea de des-pensar y desaprender antes de que sea posible dar sentido a lo que
no lo tiene.
copiado y guardado. impresionante texto.
ResponderEliminar