Nos Disparan desde el Campanario... Las máquinas asesinas ya están aquí ... UNA ENTREVISTA CON Robert Sparrow

Por: Nick French

Fuente: Jacobin

Link de Origen: 

https://jacobinlat.com/2026/10/las-maquinas-asesinas-ya-estan-aqui/

 

Traducción: Pedro Perucca

En las últimas semanas hubo una avalancha de discusiones sobre posibles escenarios apocalípticos de la inteligencia artificial. No deberíamos olvidar que la IA ya está matando personas, ya que se la utiliza cada vez más para dirigir sistemas de armas con una supervisión humana mínima.

El artículo que sigue forma parte de la serie «Economía política de la inteligencia artificial», una colaboración entre Revista Jacobin y la Fundación Rosa Luxemburgo.

 

Entrevista de Nick French.

Durante las últimas semanas, el pánico por la inteligencia artificial alcanzó su punto máximo. Denunciantes de la industria de la IA, así como políticos como Bernie Sanders, están haciendo sonar la alarma sobre la posibilidad de un apocalipsis impulsado por la IA y sobre la necesidad de desacelerar o pausar el desarrollo de esta tecnología.

Pero, para que no lo olvidemos, la IA ya está matando seres humanos, gracias al creciente despliegue de sistemas de armas autónomos en la guerra. Un incidente reciente de gran repercusión, cubierto por el New York Times el mes pasado, dejó tres civiles ucranianos muertos por un dron guiado por IA. Un sistema de IA también fue utilizado, de manera infame, para seleccionar objetivos en los ataques genocidas de Israel contra Gaza.

Robert Sparrow es profesor de filosofía en la Universidad Monash, ha escrito extensamente sobre la ética de la guerra y ha pedido la prohibición del uso de sistemas de armas autónomos. Jacobin lo entrevistó recientemente para analizar cómo se están utilizando ahora los sistemas de armas de IA, por qué considera que su despliegue es especialmente inquietante desde el punto de vista moral y qué opina de los recientes anuncios sobre una catástrofe inminente provocada por la inteligencia artificial.

NF

El New York Times informó el mes pasado que un dron completamente autónomo mató a tres personas en Ucrania este verano. Empecemos con una definición de qué hace que un dron o un sistema de armas sea completamente autónomo. ¿En qué se diferencian las muertes en Ucrania de usos anteriores documentados de sistemas de armas semiautónomos o no tripulados?

RS

La definición estándar de autonomía hoy es la de un sistema de armas que elige sus propios objetivos o lleva a cabo alguna función significativa sin supervisión humana. Algunas personas clasificarán como autónomas a las municiones «dispara y olvida»; otras exigirán algo más parecido al tipo de agencia que estamos viendo en la IA generativa y en esos agentes de IA de los que la gente está hablando.

En cuanto a esa noticia, lo que parecía genuinamente novedoso no era tanto la capacidad del arma. El dron había sido diseñado, en esencia, para dirigirse hacia el gas. Fue disparado en la dirección general de una estación de servicio, y reconoce los tanques de propano e intenta estrellarse contra ellos. No hay una enorme cantidad de elección en juego ahí. Lo que parecía nuevo era que se informó de víctimas civiles.

Pero esa capacidad es una que los sistemas tienen desde hace mucho tiempo. Había una munición merodeadora israelí llamada Harpy, que se dispara hacia un lugar donde se teme que se enciendan radares de defensa aérea. Vuela por sí sola, y entonces alguien enciende un radar de defensa aérea, y esta cosa se dirige hacia él y se estrella contra él. Los estadounidenses tienen un misil de crucero llamado Antibuque de Largo Alcance. Nuevamente, se lo dispara en la dirección general de un grupo enemigo de barcos. Luego elige de manera autónoma el objetivo de mayor valor. Tiene radar o perfiles de los barcos, y está diseñado para volar en oleadas. Una vez que un misil ha destruido el objetivo previsto, reconoce el siguiente objetivo de mayor valor.

Me alegra que la gente esté llamando la atención sobre estos sistemas, pero en ese caso particular, lo que parecía nuevo era que se trataba de un uso ruso, y no ucraniano, de un dron de este tipo; que los rusos utilizaron un chip de Nvidia que está bastante ampliamente disponible —lo que muestra que es una capacidad que otros podrían desarrollar— y que mató a civiles.

El artículo del Times establece una distinción entre la orientación en la última milla y las armas completamente autónomas. Simplemente no me quedó claro en ese caso particular [que el dron fuera completamente autónomo], porque un ser humano había elegido que iba a atacar cilindros de gas. Había elegido dispararlo y había elegido hacia qué estación de servicio apuntarlo en dirección general. Parecía que lo que hacía era lo que hacen algunas de las armas con drones de los ucranianos, que es que se puede designar un objetivo y entonces el dron persigue a esa persona o a ese tanque en situaciones en las que no se puede mantener a un humano en el circuito porque hay demasiada interferencia.

Pero claramente, a menos que la gente se una para detenerlo, este es el futuro de la guerra: cada vez más decisiones sobre objetivos se entregan a las máquinas.

NF

¿Cuáles son las principales cuestiones que plantean los sistemas de armas autónomos, ya sea algo como lo que se usó en Ucrania o algo más completamente autónomo? Con todo tipo de armas hay consecuencias no deseadas. Se puede lanzar una bomba o disparar una bala y alcanzar objetivos no previstos, por ejemplo. ¿Qué tienen las armas autónomas o autoguiadas que plantea problemas morales especiales?

RS

Mucho depende aquí de si uno está pensando en algo como una mina antitanque. Una mina antitanque moderna, en cierto sentido, elige su objetivo. Está diseñada para distinguir si lo que pasó por encima de ella es un tractor o un vehículo blindado enemigo. Algunas están diseñadas para contar objetivos, de modo que la columna de tanques enemiga esté dentro del campo minado cuando explota la primera mina. Es difícil preocuparse demasiado por eso. En el otro extremo, la gente imagina a Terminator o a algo como Claude, de Anthropic, eligiendo objetivos. Ahí es más fácil ver que algo no está bien.

Para mí, hay dos conjuntos de problemas. Uno es que estas cosas aumentan de maneras predecibles el riesgo de una guerra accidental. Imaginemos un futuro donde hay submarinos autónomos (y la guerra submarina es un lugar donde estas cosas van a ser muy influyentes, porque es difícil comunicarse con los submarinos, y a la gente no le gusta estar en los submarinos) y encuentros al estilo de La caza del Octubre Rojo entre sumergibles autónomos frente a la costa de China o frente a la costa del Pacífico de Estados Unidos: eso no es algo que quisiéramos entregarle a sistemas cuyo comportamiento en la práctica es bastante difícil de predecir.

Luego hay una pregunta sobre lo que nos debemos unos a otros, incluso en la guerra, y sobre si podría existir algo como un derecho a no ser muerto por un robot. La gente tiene una intuición razonable de que, incluso en la guerra, hay límites impuestos por el respeto a la vida humana. No apuntamos directamente contra civiles. No usamos armas que tengan sobre la persona otros efectos más allá de los requeridos por la necesidad militar. Hay prohibiciones, por ejemplo, para el uso de balas envenenadas. Hay algunas maneras de matar a personas respecto de las cuales la comunidad internacional simplemente ha dicho: «No, no vamos a hacer eso».

Entonces la pregunta es: si uno va a librar una guerra, ¿qué le debe al enemigo? Una cosa que se le debe es que un ser humano decida si vive o muere. Que haya algún ser humano que tenga que aceptar la responsabilidad y tomar esa determinación: eso es algo que nos debemos unos a otros.

Esto se complica. Si uno piensa en un futuro en el que yo digo: «Maté a alguien con un robot», entonces soy yo quien lo mata. Y yo he tomado una decisión. Pero si uno piensa en esto como un futuro en el que el robot decidió a quién matar, podría decirse: «No, eso es una falta de respeto a la humanidad de nuestro enemigo».

La gente piensa erróneamente que la ética de la guerra tiene que en su totalidad con ganar y con las consecuencias de ello, pero simplemente no es así. Porque de lo contrario uno apuntaría al jardín de infantes del enemigo y podría plantearse una política de defensa que se base en que si me atacas, frío a tus hijos. Eso ganaría rápidamente una guerra y traería la paz. Pero esa es la lógica del terrorismo.

Existe algo llamado «teoría de la guerra justa», o el derecho internacional de la guerra, o la ética militar. En ese contexto, ponemos restricciones a los tipos de armas que estamos dispuestos a ver utilizados. Espero que añadamos los sistemas de armas autónomos a la lista de cosas que están absolutamente prohibidas.

NF

¿Cómo trazás exactamente esa distinción entre una persona que usa un robot para matar a alguien y un robot que mata a alguien por sí mismo?

RS

Esa pregunta tiene dos partes. Una es un componente práctico: ¿cuánto control tengo sobre el objetivo del robot, sobre lo que mata? Por ejemplo, con ese sistema ruso, se podrían haber disparado muchos drones y esperar que algunos cayeran sobre los cilindros de gas. O se podría construir un sistema capaz de reconocer cilindros de gas, y entonces uno tiene más confianza sobre qué se está atacando.

Hay situaciones en las que hoy las máquinas claramente superan a los seres humanos. Los sistemas de defensa aérea, por ejemplo: derribar misiles de crucero que se aproximan es algo que los seres humanos simplemente no pueden hacer. Si lo intentaran, derribarían aviones amigos. Derribarían aviones de pasajeros civiles. Pero es posible tener un cañón controlado por computadora que sea bastante confiable.

Hay una cuestión práctica sobre cuánta confianza se puede tener en que un sistema de armas atacará un objetivo designado y solo ese objetivo designado. Hay algunos casos de uso en los que se puede tener mucho control, como es el caso de la guerra antisubmarina, por ejemplo. Simplemente no hay muchos submarinos civiles. Son muy bajas las posibilidades de matar civiles si utilizo munición merodeadora submarina. Puedo aceptar la responsabilidad; sé que yo autoricé esto que va a salir ahí afuera y va a matar a un submarino.

El reconocimiento de una rendición resulta ser un problema difícil para estos sistemas. Es difícil diseñarlos de modo que reconozcan que alguien se está rindiendo. Pero hay tipos de conflicto en los que el reconocimiento de la rendición ya no es algo que la gente haga. Con la excepción del reconocimiento de la rendición, algunos de estos sistemas pueden obedecer lo que se llama «el principio de distinción», que es aquel según el cual solo van a atacar objetivos militares legítimos.

Luego está el caso en que se dice: «Volá alrededor de esta ciudad y matá a cualquiera que sea mi enemigo», o: «Volá alrededor de la ciudad y matá a cualquiera que tenga un rifle». En algunos contextos, la gente lleva rifles porque eso es lo que hace esta gente. En un contexto así, no se va a tener demasiado control sobre lo que se ataca.

Ese es el componente práctico. ¿Puede un ser humano saber de manera confiable qué va a atacar? Si es así, entonces se podría decir: «De acuerdo, este es un ejemplo de un ser humano que mata a otro ser humano con un robot».

También está la cuestión filosófica sobre la naturaleza de la autonomía del sistema. Si uno piensa en la experiencia que tiene hoy cuando habla con ChatGPT, es fácil caer en un lenguaje de agencia: «Decidió responder de esta manera», o «Me reservó el viaje». Cuanto más se usa ese lenguaje sobre un sistema, menos parece que se trata de un ser humano que mata a otro ser humano con un robot, y más parece que estoy enviando un robot ahí afuera para matar gente, pero que es él quien hace la matanza.

Así que parte de lo necesario aquí pasa por prestarle atención al lenguaje que la gente usa sobre estos sistemas y a la forma en que los describe. Si los describen de una manera que sugiere que un ser humano no tiene el control y no es responsable de lo que ocurre, entonces eso es una falta de respeto a la humanidad del enemigo.

Es probable que las funciones de mando se entreguen a sistemas de IA. Una de las cosas que me interesan en este momento es si los militares estarán dispuestos a permitir que se le entreguen a estos sistemas decisiones que podrían implicar matar a sus propias tropas.

Los militares, en su mayor parte, están de acuerdo con la idea de que la máquina decida quién entre los enemigos vive o muere. Pero si se les pregunta: «¿Están dispuestos a aceptar órdenes de un sistema de mando de IA, en el que ese sistema puede decidir que un grupo de soldados debe pararse en esa colina y convertirse en un blanco para que otros puedan deslizarse por el flanco izquierdo y ganar? ¿Están de acuerdo con eso?». Mi sospecha es que los militares realmente van a dudar cuando sus vidas estén en juego. Eso dice algo.

NF

Hablemos de este tema de tener sistemas de IA al mando. En 2023 escribiste un artículo con Adam Henschke sobre la idea de la «guerra minotauro», que es una imagen muy llamativa. ¿Podrías desarrollar esa metáfora y explicar por qué predijeron que veríamos más casos de IA comandando tropas humanas?

RS

Ya lo estamos viendo. La película NAZA, que acaba de estrenarse, habla de sistemas israelíes que proponían objetivos en Gaza. Y eso es precisamente lo que Adam y yo estábamos prediciendo. Hay seres humanos que lanzan armas contra objetivos que fueron seleccionados por máquinas.

Nadie le vende jamás un sistema de IA a profesionales calificados diciéndoles que los va a dejar sin trabajo. Lo que se les dice es que va a hacer el trabajo pesado; que va a hacer las cosas que uno no considera de gran valor agregado y que los va a liberar para las tareas importantes.

Aquí también hay una fuerte influencia de Hollywood. Cuando los militares empezaron a planificar un futuro en el que los robots desempeñaran un papel en la guerra, optaron por una especie de modelo Iron Man, esta idea de que uno va a tener a un ser humano rodeado por una nube de robots, de máquinas. El ser humano va a estar al mando, y los robots van a concretar la voluntad del humano.

El modelo que se desarrolló fue la idea de la «guerra centauro». Este es un concepto influyente. La idea es que se tiene una cabeza humana sobre el cuerpo de un animal. Eso es el centauro. Se tiene un equipo de seres humanos y máquinas en el que las máquinas siguen las órdenes de los seres humanos. La afirmación era que esto en realidad vencería a los sistemas completamente autónomos, porque los seres humanos siguen siendo capaces, en algunos contextos específicos, de una toma de decisiones superior.

La idea era que los equipos de seres humanos y robots superarían en rendimiento tanto a los seres humanos como a los robots. Esto fue cierto en la historia del ajedrez en un momento. La gente se entusiasmó mucho cuando las computadoras de ajedrez pudieron vencer a los seres humanos. Pero luego resultó que los seres humanos que trabajaban con computadoras de ajedrez podían vencer a las computadoras solas. Durante un breve período, esos equipos de humano y máquina vencían tanto a los seres humanos como a las máquinas. Eso ya no es cierto en el ajedrez; ahora las máquinas simplemente ganan.

En cualquier caso, ese ha sido el modelo. Le permite a los militares tranquilizar a los oficiales diciéndoles que seguirán teniendo un trabajo. Esto es parte de una especie de tradición ilustrada, según la cual la mente es superior al cuerpo; según la cual, a la hora de definir quién construye el rascacielos, este resulta ser el arquitecto y no los hombres que están en el andamio.

Adam y yo señalamos que esto es bastante improbable. La gente siempre pensó que las cuestiones mentales, cognitivas, iban a ser realmente difíciles para la IA. Planificar, matemáticas, ajedrez: esas eran todas las pruebas. En realidad, las máquinas se volvieron muy buenas en eso muy rápidamente. Pero, en cambio, no podín caminar. Todavía no se puede construir un robot que entre caminando a tu oficina y vacíe el cesto de basura. Las cosas que pueden hacer los niños pequeños —correr, reconocer objetos y recogerlos— resultaron ser realmente difíciles. Y todo lo cognitivo resultó ser factible. Pero no pueden hacer lo físico.

Pensemos en lugares donde sí tenemos equipos de humanos y máquinas. Pensemos en Uber. Durante mucho tiempo tuvimos esta idea de que iba a poder dejar un pin en el mapa y que un taxi robot me pasaría a buscar. Pero, en su mayor parte, lo que tenemos es mano de obra inmigrante, seres humanos que manejan taxis y a quienes un algoritmo les dice adónde ir. O lo que pasa en los grandes almacenes de distribución de Walmart o Amazon, donde hay personas que son esencialmente las manos de las computadoras. El trabajo humano consiste en pararse, recoger cosas y meterlas en una bolsa de papel. Mientras que la IA decide adónde se envía, imprime la etiqueta y pide los productos, es decir, todo lo cognitivo.

Cuando se observa el trabajo conjunto real entre humanos y máquinas, resulta que lo que puede hacer la infantería es mucho más difícil. Pero dar órdenes ya es factible. Entonces pensamos que, en esencia, los oficiales e incluso los generales serán reemplazados por computadoras. Pero la infantería —las personas que tienen que arrastrarse por el barro y sobre el alambre de púas— serán seres humanos. El modelo ahí es una cabeza monstruosa sobre un cuerpo humano, que es el Minotauro. La IA comanda a los humanos, y los humanos siguen sus órdenes.

Pensamos que estas cosas podrían realmente ganar, y que la gente podría preferir ser comandada por una máquina. Yo llegué a esto examinando un proyecto en el que el Ejército de Estados Unidos quería darles a todos una especie de Microsoft HoloLens. Hoy todos tienen cámaras montadas en la cabeza; todos van a tener anteojos de Google. Se veía lo que la gente imaginaba que harían esos sistemas: evaluación de amenazas. Los anteojos les dirían: «Tenés treinta segundos para llegar hasta allá y dispararle a esa persona». Estaba muy claro que las personas se convertirían en marionetas de estos algoritmos de evaluación de amenazas.

La gente parte de la idea de que las máquinas van a dar consejos. Pero también piensa que son capaces de un rendimiento sobrehumano. Pero si mi asesor es mejor que yo, solo tengo que hacer lo que dice. En cuanto al modelo de cuestionar lo que dicen las máquinas, sólo es verdadero durante un período muy limitado. Si son genuinamente capaces de un rendimiento sobrehumano, que es lo que todos dicen, entonces los seres humanos simplemente no deberían tomar más estas decisiones. Si la máquina me dice que me agache, me agacho. Si no lo hago, muero. Prefiero que me lo diga la máquina antes que un ser humano, que es más lento y menos confiable.

Nuevamente, es lo que estamos viendo ahora, es el papel que la IA está desempeñando en Ucrania o en Gaza, donde estos algoritmos esencialmente les asignan objetivos a sistemas de artillería humanos. Hay una integración de datos de cada dron, de cada satélite, en base a los que el algoritmo esencialmente les pasa objetivos a las personas. Ese es un ejemplo temprano de la guerra minotauro.

NF

Si son los robots quienes toman las decisiones, ¿eso plantea preocupaciones morales distintas? A veces se plantea, respecto de este tipo de sistemas, la preocupación de que no hay nadie a quien responsabilizar por lo que hacen.

RS

La cuestión de la responsabilidad es la misma para los sistemas de armas autónomos y para las funciones de mando de la IA. Lo interesante es que la gente responde de manera diferente.

Si envío un enjambre de drones allí afuera para matar tanques enemigos y me preguntan: «¿Quién es responsable?», digo que soy yo, porque diseñé el sistema, le encomendé la tarea de destruir tanques y verifiqué que funcionara. Entonces eso también debería ser cierto para las personas que diseñan el sistema de mando de IA. Pero sospecho que la gente va a estar mucho menos tranquila ante la posibilidad de ser, en esencia, enviada a la muerte por una máquina, y que vamos a esperar que algún ser humano esté involucrado.

Aquí también hay una amenaza de deriva de la misión. En algo como la logística, las máquinas son realmente buenas para la gestión de grandes operaciones, con muchos camiones y contenedores de carga. Si las máquinas deciden qué tropas reciben armas, entonces ya están determinando quién vive y quién muere. Si la máquina dice: «Usted es el tercero en nuestra lista de prioridades y hoy no va a recibir munición. Pero alguien tiene que mantener esta posición mientras el resto se retira, y esa persona va a morir»; la máquina dice que quien va a morir es usted. Creo que la gente va a sentirse profundamente incómoda con eso, aun cuando se sienta bastante cómoda con enviar estos helicópteros de ataque autónomos a destruir tanques o a detectar movimientos de tropas enemigas.

En cuanto a este sistema israelí, Lavender, que elegía objetivos en Gaza: alguien lo construyó y, según tengo entendido, se podía subir o bajar el control deslizante de las víctimas civiles, ajustando el número aceptable de víctimas civiles. Había personas que verificaban los objetivos, pero dedicaban veinte segundos a esa verificación. Y alguien decidió el nivel de evidencia que se requería para establecer que alguien era un operativo de Hamás. Es decir, había seres humanos involucrados, pero en cierto nivel está bastante claro que este algoritmo elegía los objetivos y que los seres humanos simplemente hacían lo que decía el sistema.

NF

En este sentido, defiendes una prohibición de los sistemas de armas autónomos y planteas que prohibirlos de manera categórica sería más realista que intentar imponer restricciones morales y legales adecuadas. ¿Puedes explicar este razonamiento?

RS

Casi nadie piensa que estas cosas sean completamente inofensivas. Los propios militares están muy preocupados: ¿cuál es el impacto sobre la cohesión de las unidades? ¿Cómo sé que esta cosa no va a matar accidentalmente a mis tropas?

Todos piensan en ponerlas a cargo, por ejemplo, de un segundo ataque nuclear; solo los verdaderos Dr. Strangelove están dispuestos a ir por ahí. Hay un precedente histórico de lo que se llama «lanzamiento ante alerta». Hubo un período en el que parece que el arsenal nuclear ruso fue diseñado de esta manera. Se conectan los radares de alerta temprana a la computadora, al control de fuego, porque se teme que alguien lleve a cabo un ataque de decapitación, y esto da una capacidad confiable para un segundo ataque. Esto es increíblemente peligroso, dado lo que sabemos sobre los límites de nuestro sistema.

La mayoría de la gente, cuando piensa en estas cosas, dice que hace falta regulación. Pero todos reconocen también que esta es una tecnología muy difícil de regular. Se puede tener un sistema que funcione con control remoto, con un ser humano en el circuito, pero entonces alguien le conecta una unidad USB y, de pronto, se conduce solo.

Me parece que, si se quiere tener un impacto en el futuro de la guerra, trazar algunas líneas rojas que hagan políticamente difícil que la gente movilice esta tecnología tiene más probabilidades de ser eficaz que algo que, sobre el papel, podría estar más justificado. Hay una especie de debate, cuando se prohíben las minas terrestres: ¿se le dice simplemente que no a las minas antipersonales, o se le dice que no a las minas que no se desactivan por sí solas? Hay diferentes soluciones tecnológicas para las víctimas civiles de las minas terrestres. Pero si simplemente se plantea que ninguna está permitida, eso establece una expectativa moral clara y hace más fácil, por ejemplo, que la gente se niegue a trabajar con ellas.

Realmente va a ser necesario que la profesión de la ingeniería diga: «No vamos a construir máquinas que elijan sus propios objetivos». Los intentos más sofisticados de regular estos sistemas son más difíciles de verificar y le dan margen de maniobra a la gente. Es algo como: «De acuerdo, mi sistema no es completamente autónomo…». Tenemos que prestar atención a lo que se llama la función expresiva de la regulación, que consiste en dejar claro que todos estamos de acuerdo en una prohibición.

Si se mira la historia de, por ejemplo, la prohibición de los gases asfixiantes, vamos a encontrar a muchas personas diciendo: «Este es un método de guerra mucho más humano»; «Vamos a ganar las guerras más rápidamente»; «¿Cuál es la diferencia entre morir por un gas o por armas pequeñas? La muerte por armas pequeñas es horrible». Pero la prohibición categórica corta de raíz todo eso.

Este es un argumento sobre cómo se produce el cambio social y político en este ámbito. Los grandes gestos audaces tienen muchas más probabilidades de ser eficaces que un intento burocrático y paulatino de ajustar los detalles. Eso solo extiende indefinidamente el debate y le da margen de maniobra a la gente, de modo que no se enfrenta al verdadero horror de lo que está haciendo.

NF

Me gustaría conocer tu opinión sobre el reciente ciclo de noticias de pánico en torno a las IA, a la idea de que plantean una amenaza existencial para la humanidad y de que necesitamos algún tipo de pausa o desaceleración del desarrollo.

RS

Lo primero que hay que decir es que es increíblemente difícil para cualquiera que esté fuera del círculo íntimo de estas empresas comprender realmente de qué son capaces los modelos. Todavía hay muchas cosas sobre el incidente de Hugging Face que no se han revelado, porque hay bastante censura interna por parte de las organizaciones.

Gran parte de cómo pensamos el futuro ha sido determinada por la ciencia ficción. Los ingenieros se proponen construir cosas futuristas. ¿Cómo se ve el futuro? Es como Star Trek de los años setenta. Hay una clara influencia de la ciencia ficción aquí, que incluye la idea del apocalipsis robótico. También hay una política de raza y de clase muy interesante en torno a los robots, porque la idea misma de un robot era originalmente, en esencia, la de una especie de trabajador. Los temores a las rebeliones de los robots eran temores al socialismo.

Todo eso hace difícil saber cuán fundadas están estas oleadas de pánico. Dicho esto, si yo dijera que hay un 10 por ciento de probabilidades de que Al Qaeda mate a todos en el mundo —si uno imaginara el caso de una amenaza terrorista ante la que la gente de la industria de defensa dijera: «Creemos que hay un 10 por ciento de probabilidades de que esta organización terrorista mate a todos»—, nadie diría: «La la la, veamos qué pasa».

Entonces, me inclino a tomarles la palabra. Figuras importantes de la historia de la IA han salido a decir que constituyen una amenaza existencial. Por un lado, no hay nada tan estúpido que no se pueda encontrar a un profesor que lo crea. El hecho de ser un físico o un informático brillante no significa que uno esté bien calificado para hablar del futuro, porque el futuro no es solo una cuestión técnica. Es político: es algo que podemos cambiar.

Pero dada la cantidad de estas personas que dicen que esto es un peligro y que nos va a matar a todos, creo que deberíamos cerrar todos los laboratorios. Simplemente cerrarlos a todos. Creo que la idea de proceder con cautela o de hacer una pausa es realmente extraña, dado lo que han dicho sobre la naturaleza de la amenaza.

Robert Sparrow es profesor de filosofía en la Universidad Monash. Sus intereses de investigación son la bioética, la filosofía política y la ética aplicada.