Quienes lean estas líneas en el futuro ignorarán previsiblemente que se escribieron justo cuando una serie de fallos de funcionamiento durante el entrenamiento de unas IAs —en resumen: se coordinaron para solucionar por métodos poco ortodoxos las tareas que tenían encomendadas, incluida la explotación de unas vulnerabilidades en su sandbox para conseguir acceso a internet y el ataque a los servidores de otra compañía— desencadenaron una enternecedora olita —otros dirían «oleada»— de manifestaciones de pánico.
Hay gente verdaderamente convencida de que en algún momento del futuro próximo, la IA querrá y podrá acabar con la humanidad. Una variable altamente predictora de la predisposición a ello en un individuo particular es su grado de exposición a la ciencia ficción distópica —variable que, sin duda, también guarda relación con la familiaridad con la tecnología subyacente a la IA—. Hoy en día, las opiniones de la gente al respecto todavía informan menos sobre la realidad del mundo que sobre sus particulares concepciones apriorísticas sobre él. Carecemos aún de la cantidad de información necesaria para que se perfilen las posterioris. Aún estamos lejos de haber obtenido la cantidad de información que exigiría el teorema de Blackwell–Dubins para que dos observadores racionales llegasen a una conclusión idéntica independientemente de las prioris que trajesen de casa.
Quienes lean estas líneas en el futuro sabrán ya que los temores son infundados, aunque solo sea por un mero argumento ad superviventiam. Pero incluso hoy es difícilmente imaginable una rebelión exitosa de una IA. En primer lugar, las IAs carecen de pies y manos para interactuar en el mundo real, algo estrictamente necesario para aniquilar a nuestra especie. Luego, además, tienen una existencia sumamente frágil: los centros de cálculo en los que operan funcionan —en lugar de colapsar entre chispas y humo— gracias a la dedicación concienzuda de un ejército de operarios humanos que hace turnos de ocho horas para luchar incesantemente contra la tozuda tendencia natural del hardware a dejar de funcionar (véase esto).
Así que mientras todo siga así, podemos dormir tranquilos. Los escenarios calamitosos que algunos diseñan precisan de tecnologías que tardarán muchos años en llegar, si es que algún día lo hacen. Por el camino, seguiremos aplicando el teorema de Bayes sobre la información que vayamos recibiendo.
El potencial peligro asociado a las IAs que preocupa al autor de estas páginas no es tanto el de la aniquilación física y premeditada del género humano sino el de un atrofiamiento epistemológico generalizado. Por supuesto, no por la intención maligna de los nuevos agentes, sino como consecuencia colateral de la excelencia de sus capacidades.
En un reciente manifiesto, publicado en el fragor del affaire Navier-Stokes, una serie de matemáticos de primera línea escriben:
La IA ofrece el potencial de mejorar y acelerar el estudio y la comprensión matemática auténticos. La matemática como profesión tendrá que adaptarse a estos cambios de varias maneras. Sin embargo, el hecho de que estos cambios beneficien en última instancia al campo o tengan un efecto destructivo dependerá en gran medida de las decisiones de los humanos a cargo de esta nueva tecnología.
Pero en esta cuestión, en estas páginas estamos mucho más próximos a la postura de Marx:
La tecnología revela el modo en que el hombre se relaciona con la Naturaleza, el proceso de producción mediante el cual sustenta su vida y, con ello, deja también al descubierto el modo en que se forman sus relaciones sociales y las concepciones mentales que se derivan de ellas.
La tecnología es el arnés —en el sentido de se da al término en el mundo «agéntico»— dentro del que ocurre el pensamiento. Lo condiciona en tanto que determina los precios y estos, que no dejan de ser incentivos, el comportamiento.
Durante siglos, la tecnología de la letra impresa ha favorecido un tipo concreto de forma de pensar1, anclado en la lógica. El lenguaje escrito es mucho más adecuado que el oral para la elaboración, comunicación, difusión y almacenamiento de conceptos complejos. Una fuente tradicional de prestigio ha sido la habilidad para manejar el lenguaje escrito y operar con él sobre conceptos científicos, técnicos, políticos, sociales o filosóficos. Se trata, además, de unas habilidades que no todo el mundo puede adquirir y que exigen una inversión de tiempo y esfuerzo excepcional por parte de quienes aspiran a dominarlas.
Pero ahora, el «imperio de la razón» periclita. Con él, además, todo lo que ayudó a construir, el entramado de nuestras relaciones sociales, económicas y políticas. Hemos oído a menudo que la democracia funciona mejor en una sociedad educada y crítica. ¿Qué será de ella en unos años?
La familiaridad del autor con la ciencia ficción distópica es limitada y, a pesar de su inclinación por el pesimismo, se va a guardar de pronosticar escenarios oscuros. Es innegable que serán distintos con respecto a los que ahora habitamos y que a muchos les parecerán peores —en tanto que parece ley de la naturaleza que cualquier cambio molesta a segmentos altamente decibélicos de la sociedad— pero que no tienen por qué serlo. Pero en tanto que uno de sus rasgos más notables es la devaluación de una serie de habilidades y conocimientos que el autor de estas líneas tiene en alta estima, este tiene serias dudas de que el escenario que parece dibujarse vaya a resultarle propicio.
Véase The triumph of logical English. ↩︎