Una rueda sin contención por una pendiente negativa puede conducir al siniestro. Para evitarlo, la necesidad debió imponer la invención de mecanismos de frenado a la par del desarrollo de vehículos capaces de trasladarse sobre ruedas. Cuando han fallado esos mecanismos, ha sido altísima la probabilidad del desastre.
El uso pacífico de la energía nuclear, sin práxis ni ingenierías seguras, es altamente peligroso. Se demostró en Chernobyl. Y si se dan condiciones extremas, singularidades, con las cuales, ni siquiera con el funcionamiento óptimo de los sistemas de seguridad, se puede evitar el daño entonces tenemos a Fukushima. La Naturaleza, eventualmente, transgrede cualquier precaución y previsión. No acabamos de aprender la lección.
Son los riesgos civilizatorios, dirían los defensores a ultranza de la tecnología: "nadie deja de beber agua de un vaso por la posibilidad entre millones de atragantarse". Y es verdad: el principio de que el desarrollo tecnológico no es ni bueno ni malo en sí mismo sino por el uso que se haga de los artificios, y la relación costo-benedicio, es también ciencia establecida. No es lo mismo la dinamita para derrumbar muros y crear vías de comunicación que para masacrar humanos.
Sólo que en el caso de la llamada Inteligencia Artificial, el debate debería -me parece- centrarse en si estamos lo suficientemente informados los comunes de esta Tierra para evaluar la magnitud del salto tecnológico, sus implicaciones y, en consecuencia, la magnitud del riesgo en las condiciones histórico concretas de este siglo XXI. Intentémoslo.
Como bien se dice, el control sobre las tecnologías de punta lo tienen "un puñado" de empresas. Los que manejan los hilos de esas empresas conforman una oligarquía que, cada vez más, concentran en sí mismos mayor poder económico y discrecionalidad que los recursos y posibilidades de decenas de países juntos. Un poder económico y una discrecionalidad que han adquirido, en grado determinante, porque sus invenciones, artificios, son usados primeramente por los militares y son ensayados en guerras devastadoras para las personas comunes que, bajo el sesgo de la democracia, creemos que decidimos alguna cosa cuando el representante de alguno de nuestros Estados vota a favor o en contra en la ONU cuando, en realidad, sólo conformamos los comunes el coro binario. Esa condición no parece que vaya a cambiar en los próximos veinte años por muy optimistas que seamos.
¿Cuántos de los que, con la exposición de nobles propósitos, ponderan el uso de la IA en sentido progre, o en el sentido de la libertad y la soberanía de los pueblos, conocen en profundidad, tanto como sus propios desarrolladores, la IA? ¿Cuánto de los que en los fórun de las izquierdas plantean que el problema no es la IA en si misma -como, efectivamente, no lo es sino su uso- tienen el más mínimo control o capacidad de decidir sobre el uso proactivo y favorable a la igualdad de oportunidades de la herramienta, más allá de lo que cualquiera con acceso a Internet y un dispositivo pudiera aprovecharla como usuario final? Entonces esas son las condiciones histórico-concretas que vivimos en el siglo XXI: un mundo donde unos pocos tienen la capacidad real de decidir el destino de la masa de comunes en desventaja por mucho coro que hagamos.
Y bajo esas condiciones, activistas tratan de conceptualizar y evaluar, desde el sentido común, algo sobre lo cual no conocen lo suficiente y no tienen el más mínimo control ni determinación. Lo mismo sucedió cuando hace veinte años comenzaron las redes sociales. La presión del activismo de izquierda era porque se abrieran los códigos y se "democratizaran" las plataformas. Otros defendían la multilateralidad digital y que los polos de poder -Rusia, China... en oposición a Estados Unidos y Europa, por ejemplos- pudieran desarrollar redes de modo equilibrado. Veinte años después descubrimos que los algoritmos y sus impactos -vengan del lateral que sea- van en función del consumo, el poder hiperconcentrado, la hegemonía cultural de los poderes y la competencia económica. Entonces ahora nos pasamos alegremente de ponderar las redes a tratar de estigmatizarlas mientras vemos una esperanza en la llamada IA.
Pero una buena parte de la comunidad científica e ingeniera, una buena parte de los desarrolladores reales de esa tecnología, de los que de verdad la conocen y manipulan -entre los que se encuentran, no sé si para orgullo de la ingeniería cubana, mis amigos Pável y Carlos, graduados en universidades cubanas-, están alertando sobre los peligros de que se nos vaya de las manos y se convierta en un desmadre. Eso, creo firmemente, deberíamos atenderlo a tiempo como mismo debimos atender a tiempo los riesgo de alterar el equilibrio ecológico y de atentar contra la diversidad biosistémica.
Cualquier programador senior en el mundo sabe que es real la posibilidad de autoreprogramarse de esos artilugios, más allá de la voluntad humana, y que la probabilidad de que un sistema de máquinas tome el control de procesos críticos y vitales para un conglomerado humano, o La Humanidad toda, no es ciencia ficción en marzo del 2024. Que los ingenieros senior y de diseño lo reconozcan públicamente o no, por falta de compromiso social o porque respondan a políticas corporativas, es harina de otro costal. De hecho, lo único que evita actualmente que una máquina se autorreprograme a partir de su interacción con el medio externo -el medio externo, advierto el detallito, somos nosotros- no es que no exista el software que le permita hacerlo sino que aun no se ha desarrollado lo suficiente el hardware que lo soporte dado el grado de procesamiento que se necesita. A algunos ingenieros en el mundo, parece constarle, que esos hardwares ya se desarrollan aceleradamente no porque lo lean en un sitio de Internet sino porque es la labor que realizan para vivir, pagar sus billes, financiar las carreras de sus hijos y viajar a sus países subdesarrollados de origen, muchos de ellos.
La ingeniería de hardwares capaces de soportar la autorreprogramación y la autorreconfiguración sistémica de las máquinas es la prioridad de las empresas más poderosas y exitosas de la rama en el mundo: chinas, gringas, rusas, europeas... Tales artilugios permitirían realizar a velocidades inauditas, inimaginables, tareas supercomplejas como la validación de un medicamento mediante la simulación virtual de ensayos clínicos, por ejemplo, que optimizaría decisivamente el desarrollo de medicamentos, o la secuenciación de códigos genéticos en la búsqueda de determinados efectos, que podrían conducir a la curación de enfermedades ahora degenerativas. ¡Y eso sería magnífico para La Humanidad toda si no viviéramos en un mundo profundamente injusto y desequilibrado, en el cual todavía persisten, en algunas de sus regiones más pobladas, enfermedades transmisibles curables desde hace más de un siglo!
No digo que la intención de los poderosos sea que las máquinas tomen el control -serían suicididas-, su intención es la misma desde que existimos como linaje: la seguridad de su grupo de pertenencia sobre la base del control sobre el otro -no del entendimiento mutuo- y la supremacía. La misma búsqueda de la seguridad y supremacía que provoca las guerras como la ruso-ucraniana, las masacres como las de Gaza, las invasiones... Con el uso destructivo de la tecnología que alguna vez estuvo en el estadío que ahora está la llamada I.A.
Como quiera que la I.A. es un hecho -un hecho que trasciende por mucho Chatpt y sus afines que son sólo la puntita del iceberg- habrá que convivir con esta, su uso final por los comunes, como mismo hemos convivido con las redes sociales... ¿Qué hacer entonces ante los peligros de que, quienes la controlan, la usen irresponsablemente y ellos mismos pierdan el control y nos lleven al desmadre?
¿Qué hubiera sido del mundo si aquella noche del 26 de septiembre de 1983, durante el equinoccio de otoño, una máquina programada según la lógica y los algoritmos de la I.A. hubiera interpretado las señales equívocas de los sensores y hubiera tomado la decisión en vez de Stanilavs Petrov?
El problema de las máquinas, para los humanos, precisamente es, creo yo, que ni sienten, ni perciben, ni sus decisiones están contaminadas por las motivaciones...
(Continuará...)