Kissinger alerta

La reciente columna de Henry Kissinger sobre inteligencia artificial trae a la palestra viejos problemas sobre la naturaleza, lo artificial, la humanidad y… un invitado inesperado… Dios.

En el número de mayo de The Atlantic, Henry Kissinger ha llamado la atención sobre las consecuencias de la inteligencia artificial (IA).

Preguntándose si acaso la IA supondrá la muerte final de la Ilustración, por el despliegue de una post-razón (es decir, una que nuestra razón actual no podrá conmensurar), Kissinger conjetura que “en la medida en que sus logros están en parte modelados por ella misma, la IA es inherentemente inestable”. En efecto, mientras las máquinas de cálculo han estado, por así decirlo, sometidas y al servicio de la mente, los seres humanos no han perdido su control sobre este mayordomo de palacio. El problema que imagina Kissinger en el futuro de este artefacto es que comience a autoproducirse o a comunicarse con entidades de su factura no ya con arreglo a los estándares humanos, y, con ello, incluso que vaya poco a poco devaluando la capacidad humana para gobernarse a sí misma y gobernar a la IA.

Este tipo de precauciones pueden ser llamadas “clásicas” en la vieja historia de la artificialidad. En su Fedro (274c-277a; 279b-279c), Platón, mediante Sócrates, sugiere que la invención de la escritura, ofrendada a un rey de Egipto, fue considerada, por ese monarca, dañina para el futuro de los seres inteligentes. La escritura, observó este personaje de Platón, haría a los seres inteligentes fiarse de ella, relajar el ejercicio de la memoria, volverse por tanto ignorantes al no disponer al interior de sí mismos del conocimiento por haberlo anotado. En consecuencia, predecía, los seres inteligentes se volverían soberbios, o sea, ignorantes de su ignorancia. Al volverse ignorantes de su ignorancia, ¿cómo podrían conocer los criterios de búsqueda para desenterrar el conocimiento previamente preservado en la escritura?

O sea, se trata de una antigua advertencia contra la artificialidad de la escritura y a favor de la naturalidad de la oralidad, y, por tanto, la mnemotecnia.

Ahora bien, ¿no tiene la advertencia de Kissinger algo de la clásica sospecha platónica contra ese invento llamado escritura del cual la IA parece una prolongación?

En su último libro de 2014, World Order[1], Kissinger hizo un relato extraordinario de los esfuerzos occidentales, primero al este del Atlántico, y luego al oeste, por alcanzar un orden del mundo. Su relato incluía a Dante, a Carlos V, a Richelieu, y, por supuesto, a Gran Bretaña y los Estados Unidos, y se detenía en los grandes asuntos de Afganistán, Irán, etc. El libro de Kissinger presentó una historia geopolítica y filosófica del orden, pero fue menos enfático en referirse al carácter ético de ese orden del mundo.

El carácter ético del orden del mundo ha sido muchas veces pensado y es sin duda Kant, con su reino de fines, quien elaboró un experimento mental tripartito que incluía la imaginación y generación de ese escenario universal y necesario. Pero antes, en el siglo XVII, el matemático inventor de la máquina de aritmética, Blaise Pascal, atribulado por el rigorismo de la ética jansenista a la cual adhería, formuló un experimento mental conocido como Apuesta de Pascal (Pensamientos. III, §233), experimento en el cual: entre creer y no creer en Dios, lo racional era creer porque la remota posibilidad de su existencia constituía una posible ganancia, mientras, en cambio, su no-existencia devenía indiferente, si es que no condenaba. Pensada como una manera de sostener la conveniencia de ejercer la buena voluntad afirmándola en la creencia, la apuesta de Pascal no se hacía cargo de los supuestos disfrutes que dispendiaba la no creencia.

Con todo, lo que los experimentos mentales hoy plausibles gracias a la IA muestran es un reflote de esa gobernanza del mundo, que supone más la apuesta pascaliana que la gobernanza formulada en una de las variantes del imperativo categórico de Kant. Por ejemplo, en 2010, en un foro web de tecnoespeculación, fue presentado el llamado Basilisco de Roko. Este experimento mental sostuvo que si la IA continuaba evolucionando alcanzaría en el futuro tal envergadura que sería capaz de intervenir retroactivamente en su propia prehistoria para acelerar su mismísima aparición en la historia. A esto, por fuerza, se agregaba que para acelerarse a sí misma la supra IA —esto es, la superior IA del futuro— corregiría su propio pasado, ayudando a sus facilitadores y perjudicando a sus obstaculizadores. El, para muchos, angustiante experimento mental incluyó que el solo hecho de conocerlo y no difundirlo sería leído como una obstaculización por la supra IA.

Pero, ¿qué tiene de vieja esta formulación de la historia? Aunque no lo parezca, se trata de otra clásica polémica resucitada por la aparición en el horizonte de la verosimilitud de una inteligencia superior a la humana y capaz de actuar sobre la humanidad, gobernándola, corrigiéndola, planificándola, salvándola o condenándola. Es, en rigor, la fuerza que en buena parte movilizó la expansión evangélica del cristianismo, es decir, la de la obligación de transmitir a otros su mensaje, como una enfermedad que, si la contagiamos, eterniza la vida. Lo fueron también las antiguas polémicas entre los judíos que debatieron cómo acelerar ellos mismos el advenimiento del mesías. Y sin duda, aunque con efectos muy nocivos, las teorías de la historia solventadas por los totalitarismos en el siglo XX según las cuales nadie, en su sano juicio, podía restarse a participar del inevitable flujo de la historia, porque nadie tendría la capacidad para contrarrestarla. Por otra parte, hace pensar en una especie de sinceramiento o revés de las invenciones negativas o positivas de la divinidad (Marx y Dostoievski, respectivamente), mientras que retrotrae a ese misterio del que habló Dante al aproximarse a los insondables recintos de la virgen María en el cielo, describiéndola como la hija de su propio hijo gracias a —y a través de— quien el creador se transformó en creatura (Paradiso, XXXIII, 1-6). ¿Sugería esta idea que lo creado estaba destinado a equipararse con el creador, considerando que había escogido como canal a una humana?

En suma —y más allá de las teorías conspirativas que son las sintomáticas supercherías de nuestro tiempo—, la alarma de Kissinger dice relación con un viejo problema revitalizado por la IA y que la Ilustración parecía haber erradicado en buena parte o creía haberlo aislado a una serie de cuestiones procedimentales: “Quis custodiet ipsos custodes?” —o sea, la pregunta de la sátira del poeta Juvenal: “¿quién nos protege de nuestros custodios?” (VI, 347-348)—. Si en la propia IA estuviera la respuesta, ¿no será el retorno a la minoría de edad de la cual Kant nos proclamó liberados? ¿Qué deparará esta dependencia? ¿No se plantea aquí, como en lo sugerido por el —para muchos— paranoide Basilisco de Roko, el regreso de la heteronomía de la voluntad humana gestionada por la penetración en el horizonte de verosimilitud de una reformulación teológica, cuando la supervigilancia de la teología parecía erradicada del mundo? Es así como ante el peligro de que los seres humanos sean derrocados de su más alto sitial en la inteligencia natural, Pascal y su apuesta reaparecen por los palos, mientras reflota, a posteriori, la defensa que Pablo hiciera de la tecnología de la escritura, por escrito en una de sus cartas: “Toda la Escritura es inspirada por Dios y útil para enseñar, para reprender, para corregir y para instruir en la justicia” (Segunda Carta a Timoteo 3:16).

 

[1] Kissinger, H., 2014, World Order, Nueva York: Penguin Press.