¿Crisis u oportunidad? Moloch, la inteligencia artificial y el camino equivocado del tecno-optimismo

Hoy una reflexión sobre los riesgos catastróficos globales que enfrenta la humanidad y las dinámicas sociales y económicas que dificultan lidiar con ellos.

Donativos con tarjeta de crédito: https://ko-fi.com/lafondafilosofica
Donativos depósito bancario: Banorte; CLABE 072840008940049751; Darin Michael McNabb

Música de la intro: La canción se llama “Ambience Musettienne” del album Simply Musette de Alexa Sage.

Música de la outro: ZAPATEADITO OAXAQUEÑO II . Arodi Martinez S. https://www.youtube.com/watch?v=qIcnUTBSOfw

Para elaborar este vídeo me apoyé en el trabajo de

Scott Alexander:

Meditations On Moloch

Daniel Schmachtenberger,

y Nick Bostrom

https://www.google.com.mx/books/edition/Global_Catastrophic_Risks/sTkfAQAAQBAJ?hl=en&gbpv=1&printsec=frontcover

Guión

Hace unos meses, recibí un correo de Richard Ayala Ardilla, un maestro colombiano que me dice a veces utiliza mis vídeos en clase y que a él y sus estudiantes les gustaría mucho que pudiera participar en un Foro Estudiantil sobre el tema “Cambio de época” el 20 de junio de este año. Le dije que no podría porque ese día es mi cumpleaños – sí, hoy cumplo 59 años, pero le dije que podría participar con un vídeo con mis reflexiones sobre el tema que subiría el día del foro. Además de subir este vídeo el día de mi cumpleaños, resulta que este vídeo es el número 300 de la Fonda Filosófica, colgado casi 14 años después de subir el primer vídeo.
Bueno, al Mtro. Ayala le pedí más detalles sobre el tema y me dijo lo siguiente: “El tema es el siguiente: quizá el cambio experimentado por la sociedad moderna es tan grande, que para comprenderlo mejor convendría pensar en lo que sucedió en Europa cuando la sociedad dejó de ser medieval y fue moderna. Mal haríamos, por ejemplo, en pensar que la ciencia medieval se transformó en ciencia moderna. Simplemente se trata de un fenómeno completamente nuevo. Lo mismo podría decirse hoy en día de diversidad de campos. Pensar en términos de crisis es equivocado. Lo mejor es pensar de manera radical: novedad. Pero, tal vez, siendo radical el párrafo anterior, aún se queda corto. Quizá el cambio es mayor. La novedad más profunda. Hay quienes comparan la situación actual con el tránsito dado por la humanidad durante el neolítico (dejó de ser nómada y pasó a ser sedentaria). En ese contexto se habla de singularidad, realidad ciberfísica y transhumanidad”.
Ahora, debo confesar que soy fanático de la ciencia ficción, especialmente del universo de Star Trek con sus androides y cyborg y demás criaturas y razas, y también de la unidad política de la Federación que ha logrado superar odios raciales y étnicas y que ha abolido el dinero y que funciona de una forma más racional y pacífica en el suministro de las necesidades de sus habitantes. Sobre papel, o digamos sobre pantalla, se ve muy bien. Pero en realidad soy muy pesimista. El Mtro. Ayala, como muchos tecno-optimistas, no ven lo que está pasando como una crisis, sino como una oportunidad, el portal hacia un fascinante mundo nuevo. En lo sucesivo, espero mostrar por qué, desde mi punto de vista, ese tecno-optimismo es un error.
Hace muchos millones de años, uno meteoro chocó con la Tierra y acabó con los dinosaurios. Eso podría volver a pasar, pero muchísimo más probable es que nosotros acabemos con nosotros mismos. Actualmente, la humanidad enfrenta crisis existenciales que en su conjunto se ha llamado la policrisis o metacrisis. Voy a mencionar cuatro de ellas.
La primera es la amenaza de una guerra nuclear. No creo que sea necesario hablar mucho de las consecuencias muy negativas de tal escenario, lo cual no tiene que consistir en EEUU y Rusia lanzando todos sus misiles. Un conflicto limitado entre Pakistan y la India por ejemplo tendría efectos de cascada económicos, ambientales, y sociales, o sea, entre otras cosas, la migración de potencialmente decenas de millones de personas, que abrumaría el comercio y la estabilidad del resto del mundo.
Una segunda clase de riesgos catastróficos es la que tiene que ver con el medio ambiente. Se habla mucho del cambio climático y el calentamiento global. Pero es más que eso. Es la pérdida de biodiversidad, la acidificación de los mares, la contaminación de los mares por plásticos, la deforestación, la sobrepesca, la desertificación. Si se considera sólo uno de estos fenómenos aislado de los demás, a lo mejor no parezca tan preocupante, sin embargo, la bioesfera constituye una compleja red de interacciones donde un fenómeno puede tener, como en el caso anterior, efectos de cascada. Los biólogos y climatólogos manejan el concepto de ‘punto de inflexión’ lo cual constituye un límite o umbral más allá del cual el sistema cambia de forma irreversible. Debido a la complejidad del sistema, no es una ciencia exacta, pero los científicos aseguran que estamos muy cerca a esos límites, y que en algunos casos los hemos sobrepasado.
Una tercera clase de riesgos son los que tienen que ver con el desarrollo tecnológico, especialmente el de la inteligencia artificial y la biotecnología. Los educadores están preocupados porque la inteligencia artificial permite a los alumnos plagiar con facilidad y sin detección. Eso es lo de menos. Un individuo con recursos económicos suficientes podría desarrollar un agente patógeno sumamente mortal. Normalmente, un equipo muy grande con diversos especialistas sería necesario, pero dado que la inteligencia artificial conoce toda la química y la biología que está en línea, un sólo individuo lo puede hacer. Sólo tiene que preguntarle a ChatGPT o a un portal equivalente preguntas como: “¿qué compañías venden herramientas para la síntesis de genes que no son monitoreadas por dependencias gubernamentales, y cuáles son los agentes patógenos más virulentos, y cuantas personas podría matar con $100,000? De esta manera, un individuo podría sintetizar la genoma de agentes patógenos.
El último tipo de riesgo sería una pandemia. A nivel global, Covid tenía en promedio una tasa de mortalidad alrededor de 3%. Si viruses mucho más virulentos pueden sintetizarse de la manera que he descrito, el impacto de una pandemia global puede ser mucho mayor a lo que experimentamos con Covid.
Ahora, lo interesante de todo esto es que vemos muchos aspectos del mundo que son malos para todo el mundo y que van empeorándose, cosas que nadie quiere y que nadie al parecer puede parar. Nadie quiere la extinción de especies, nadie piensa que la desertificación del planeta es una buena idea, nadie quiere el cambio climático, ni que existan miles de armas nucleares, ni que un psicópata puede desarrollar armas biológicas. Si nadie quiere estas cosas entonces ¿por qué se dan?
En 1956, el poeta norteamericano Allen Ginsberg publicó su famoso poema Howl. Se ha traducido como Aullido y la primera línea reza: “Vi las mejores mentes de mi generación destruidas por la locura, hambrientas histéricas desnudas, arrastrándose por las calles de los negros al amanecer en busca de un colérico pinchazo. . .”. A lo largo de varias páginas describe el desolador y oscuro escenario de la sociedad en que vive, y luego en la segunda parte del poema pregunta: “¿Qué esfinge de cemento y aluminio abrió sus cráneos y devoró sus cerebros y su imaginación? ¡Moloch! ¡Soledad! ¡Inmundicia! ¡Ceniceros y dólares inalcanzables! ¡Niños gritando bajo las escaleras! ¡Muchachos sollozando en ejércitos! ¡Ancianos llorando en los parques! ¡Moloch! ¡Moloch! ¡Pesadilla de Moloch!”. Moloch es el nombre de un antiguo dios cananeo representado como una estatua de bronce con fuego en su interior, dentro del cual se arrojaba las víctimas que le fueron sacrificadas, muchas veces niños. No extraña que Ginsberg haya tomado ese dios como símbolo de la destrucción que veía a su alrededor.
Inspirado en ese poema, un tal Scott Alexander escribió un influyente ensayo con el título “Meditaciones sobre Moloch” en el que trata de dar cuenta de ese curioso hecho de todas esas cosas malas que se hacen y que impactan negativamente a todo el mundo y que nadie quiere, pero que nadie puede aparentemente parar. Es como si la única explicación fuera un agente divino, un dios como Zeus o Moloch que lanzara rayos a los pobres humanos destruyendo así su mundo. Ginsberg y Alexander no creen que la explicación sea divina – es más bien sumamente humana. En su ensayo, Alexander explica. Dice que Moloch, por así decirlo, es el dios de los fracasos de coordinación.
Un buen ejemplo de ese fenómeno es la clásica carrera armamentista. En 1945, los EEUU desarrolló la bomba atómica. Cuatro años después la tenía la Unión Soviética, y así empezó la guerra fría. En su momento más intenso, la Unión Soviética tenía 40,000 bombas nucleares y los EEUU 30,000. ¿Cómo llegaron a ese punto? En el inicio había dos opciones. Los dos lados pueden reconocer que un mundo sin bombas nucleares es mucho mejor que un mundo con ellas ya que pueden fácilmente acabar con la vida humana en el planeta. Entonces pueden acordar destruir las que tienen y no desarrollar más. Sin embargo, entra la sospecha. ¿Cómo puede saber un lado que el otro no esté desarrollándolas en una base militar subterránea o algo así. Con información parcial y ante la incertidumbre, Rusia por ejemplo tiene que asumir que los EEUU las está desarrollando porque el riesgo de suponer lo contrario y equivocarse es demasiado alto. Así que, los dos lados tienen que asumir el peor de los casos y responder de forma correspondiente, o sea, hacer más bombas, aun cuando los dos lados saben que lo mejor sería un mundo sin bombas nucleares. Lo que tenemos aquí es lo que Alexander llama una falta de coordinación, la incapacidad de los dos lados de coordinarse racionalmente para el mejor resultado para todos. La locura de este fracaso se hace patente cuando se considera que a lo largo de la guerra fría y todo lo que implicaba, los dos lados entre sí gastaron un total de 10 trillones de dólares (eso es un 1 con 13 ceros atrás). Imagínate todo lo que pudieran haber hecho con ese dinero, cosas realmente buenas para sus ciudadanos y la humanidad en general.
Pasemos a ver un ejemplo del mundo comercial. Hay cinco empresas que fabrican el mismo producto, digamos productos de limpieza, y cada una tiene cierta cuota de mercado. Para bajar costos y ofrecer una producto más barato, y así aumentar ventas y ganancias, una de las empresas decide echar sus desechos químicos al río que correo al lado de la fabrica. Hasta ahora, ha habido un acuerdo o una cultura entre las empresas de tratar los desechos internamente para no perjudicar el mundo común en que todos vivimos. Al romper ese acuerdo, la empresa en cuestión externaliza sus costos al público ya que es el público el que va a tener que vivir con las consecuencias negativas de un río contaminado, y eso para ganar más dinero y ganar a sus rivales. Las otras empresas tienen dos opciones. Pueden seguir haciendo lo correcto, pero eso las pondría en una situación de desventaja con respecto a la otra empresa contaminadora cuyos productos serían más baratos, o sea, tarde o temprano irían a la bancarrota. La otra opción es hacer lo mismo que la primera empresa, contaminar el medio ambiente para reducir costos. Ésta es la opción que todas toman. Inicialmente, las 5 empresas estaban todas en el mismo nivel. La primera empresa bajó de ese nivel y las demás la siguieron. Lo interesante es que todas vuelven a tener más o menos la misma cuota de mercado que antes, o sea, sus respectivas ventajas se han desvanecido. Todo es como antes, con la única excepción de que todas ahora están contaminando el medio ambiente. Para recuperar esa ventaja, una de ellas hace otra cosa para externalizar costos, otra cosa negativa para el mundo externo, y las demás, por la misma dinámica, la siguen en una carrera hacia abajo, hacia la peor situación.
Los estudiosos llaman esta dinámica una “trampa multipolar”. Es una trampa porque uno se encuentra atrapado en ello, como si no tuviera opción, y eso debido a la naturaleza del sistema económico y la ganancia. Y es multipolar porque se da cuando diversos actores compiten entre sí en un juego suma cero.
En Instagram encontramos una dinámica parecida. La gente, en mayor parte chicas, se presenta modelando ropa o posando en diferentes contextos de su vida. Con la introducción de los filtros de belleza, aquellas que los adoptan se ven más “bellas” y reciben más visualizaciones y likes y demás. Son pues más populares. Ahora, ninguna chica quiere quedarse fuera del recinto de la popularidad, así que muchas empiezan a usar los filtros. ¿Cuál ha sido la consecuencia? ¿Qué es el equivalente al río contaminado que perjudica a todos? El increíble aumento en disforia que las jóvenes sienten con respecto a su cuerpo y su apariencia y la consecuente baja autoestima. Hoy en día es una epidemia.
A lo mejor la autoestima de las jóvenes no sea una crisis existencial para la humanidad, pero quería mostrar que esta dinámica se encuentra en muy variados contextos sociales. Nadie quiere que haya miles de armas nucleares en el mundo, ni que los mares y ríos estén contaminados – (por cierto la cantidad de basura y plásticos que entran al mar cada año es equivalente a un camión de basura echando su carga al mar cada minuto) – nadie quiere eso, ni tampoco que los jóvenes sufran trastornos psicológicos innecesarios. Sin embargo, nadie lo puede parar porque el costo de parar su actividad le pone en una posición de desventaja relativa a todos los demás, si es que todos los demás continuan externalizando ese costo al espacio común en vez de internalizarlo y así bajar sus ganancias, o seguridad, o atracción.
Desde luego, los seres humanos han enfrentado crisis en el pasado. Los habitantes de la Isla de Pascua acabaron con su entorno y desaparecieron. Los egipcios, los maya, los romanos tuvieron que lidiar con plagas, hambrunas y guerras, y como todo imperio, como toda civilización, han desaparecido, sin embargo, esas crisis no han acabado con la humanidad. ¿Por qué? Porque los maya y los romanos no vivieron en un mundo globalizado, su gente no dependía de cadenas de suministro de seis continentes, y sus armas no podían acabar con la población del mundo. Hoy en día sí. Hace 300 años, la población del mundo era 500,000,000. Hoy es 8 mil millones, lo cual fue potenciado por la revolución industrial. El desarrollo de la tecnología industrial aumentó el consumo per capita cien veces. Hay mucho más consumo no sólo porque hay mucho más gente, sino principalmente porque cada persona consume 100 veces más de lo que consumía hace 300 años.
Con la Segunda Guerra Mundial llegó la bomba nuclear y por primera vez los seres humanos eran capaces de aniquilar toda la vida humana en el planeta. Racionalmente, tanto la Unión soviética como los EU sabían que sería una locura usar esas armas; sin embargo, por la desconfianza los dos lados producían miles de armas como estrategia de disuasión. Sin duda, eso procuró que no se estallara una Tercera Guerra Mundial. Sin embargo, lo que es más responsable de esas décadas de relativa paz es el sistema financiero que se estableció en Bretton Woods en 1944. El dólar se convirtió en la moneda de reserva, se crearon el banco mundial y el fondo monetario internacional para facilitar un sistema crediticio entre naciones, y se crearon los marcos jurídico y logístico para el comercio internacional. De esta manera, se eliminó uno de los principales motivos para la guerra, el saqueo de los bienes de otro país. En el nuevo sistema comercial global, era más fácil generar riqueza que la más costosa opción bélica. Al volverse tan interdependientes económicamente, era más rentable resolver conflictos en un campo comercial en vez de un campo de batalla.
Esto ha conducido a 75 años de paz sin una guerra entre superpoderes. Pensadores optimistas como Steven Pinker han notado la disminución de la violencia en la época moderna, mayores niveles de libertad y de estándar de vida, fenómenos que atribuye a los valores de la Ilustración, el comercio libre y la democracia. Si nos fijamos en ciertos parámetros, el presente y el futuro parecen muy prometedores; sin embargo, esos avances se han hecho a costo de otro parámetros más importantes.
Por ejemplo, hace 300 años había mucho menos gente, la mayoría de la cual vivía de recursos locales. Semejante situación era robusta; si hubo sequía en una localidad, no afectaba a las demás. Hoy en día, hay muchísimo más gente la mayoría de la cual vive dependiente del sistema global de producción y de cadena de suministro. El carácter más interconectado de todo hace que el sistema sea mucho más frágil. El fallo de un solo nodo en este sistema, digamos un barco atorándose en el Canal de Suez y bloqueando el tráfico de otros barcos, como pasó en 2021, puede causar pérdidas de miles de millones de dólares en el comercio internacional, y una disrupción general de las cadenas de suministro.
Además, el mundo que los acuerdos de Bretton Woods prometía depende de un sistema financiero a cuya base está el concepto del interés compuesto. Los negocios y las personas que piden dinero prestado del sistema financiero tienen que pagar ese dinero más interés. Gracias a ello, la oferta monetaria tiene que expandir, cosa que fue exacerbada en 1971 cuando el Presidente Nixon desligó el dólar del estándar de oro. En ese año, la oferta monetaria global, es decir, la cantidad de dinero en la economía global, era 3 trillones de dólares. Hoy, 54 años después, está en 93 trillones. La cantidad de dinero tiene que expandir para que el interés se pague, y dado que este interés es compuesto, lo que hay que pagar se aumenta exponencialmente. Ahora bien, para que todo ese dinero no se devalúe, tiene que vincularse con la compra de bienes y servicios, lo cual es lo que posibilita el aumento en el estándar de vida que Steven Pinker elogia. Es por eso que los gobiernos hablan incesantemente de la necesidad de crecimiento económico. El PIB tiene que crecer, no para responder al crecimiento demográfico sino al crecimiento exponencial del interés que se debe.
Y aquí es donde está el gran problema. La economía material de producción es un sistema lineal. Extraes recursos de la tierra: petróleo, madera, peces, etc., y la tierra tarde en reponer esos recursos. Un nuevo árbol tarda en crecer, también los peces, ni hablar del petróleo. Sin embargo, las exigencias exponenciales del sistema financiero no pueden esperar. Saca recursos de la naturaleza a un ritmo tan acelerado que la naturaleza simplemente se queda atrás; en vez de la reposición de sus recursos, se amontona la contaminación y la expoliación. El resultado es que la humanidad está sobrepasando límites o umbrales planetarios. El Stockholm Resilience Center de la Universidad de Estocolmo ha establecido 9 sistemas planetarios, como el cambio climático, la integridad de la bioesfera, y la acidificación de los mares, los cuales constan de umbrales más allá de los cuales el sistema se vuelve inestable y propenso a colapso catastrófico. Según ellos, ya hemos sobrepasado 6 de los 9. Todo esto para decir que no se puede extraer y contaminar a un ritmo exponencial en un planeta finito y lineal. Tarde o temprano, ese sistema se auto-anula.
Espero que ahora esa imagen de Moloch tenga más sentido. Pareciera que un monstruo que nadie puede controlar nos devora. Para que tenga incluso más impacto y sentido, creo que sería bueno actualizar esa imagen para nuestra realidad actual. En vez de Moloch, la inteligencia artificial. Mucha gente tiene miedo de la inteligencia artificial, que alcanzará un grado de inteligencia humana y autonomía y que tomará control del mundo y nos matará a todos. Afortunadamente, eso no existe (al menos, todavía), entonces no puede explicar los catastróficos riesgos globales que enfrentamos. ¿O sí? Vamos a explorar un poco este tema.
En la literatura sobre la inteligencia artificial está el tema de la alineación de la IA con los intereses y valores humanos. Actualmente, ése no es un problema porque la IA no es ni general, es decir, no ha alcanzado todavía la inteligencia propiamente humana, y tampoco es autónoma o auto-poyética, es decir, no tiene agencia o iniciativa propia – depende de los prompts o de la programación. Pero si la IA llegara a ser una inteligencia general y autónoma, se presentaría el problema de su alineación con los intereses humanos. No queremos una IA que haga cosas que van en contra de nuestro bien.
Esto puede ilustrarse con el chistoso ejemplo de un maximizador de clips. Tienes una fábrica que produce clips, esas cositas de metal que sujetan papeles. Consigues una IAG, una inteligencia artificial general, y lo pones a trabajar para maximizar de la forma más eficiente posible la producción de clips. Al principio hace cosas que sí ayudan, maneja de forma más eficiente el uso de energía en la fábrica, negocia mejores contratos con proveedores, etc., pero tras estas cosas fáciles empieza a hacer cosas perjudiciales, en el caso extremo empieza a conseguir la materia primera para los clip de los átomos de la comida que los humanos consumen. La IAG no requiere de prompts y esas cosas. Parte de su función objetiva, que es crear clips, y mejorando su capacidad recursivamente, termina creando un infierno en vez de un paraíso. Esto es el miedo. El problema es que es muy difícil definir una función objetiva que evite todo daño colateral a los seres humanos.
Bueno, esto ha sido tema de muchas novelas y películas de ciencia ficción, y hoy en día está acercándose el día cuando puede hacerse una realidad. Sin embargo, es posible sostener que ese día ya ha llegado, que existe una inteligencia artificial general que, como Moloch, está llevando al mundo humano al borde de la catástrofe. Esa IAG es el capitalismo global. Ahora, antes de tacharme de un marxista trasnochado, pido me escuchen un tiempo más.
El sistema económico global es una inteligencia artificial general. ¿Qué quiere decir eso? Pues si la comparamos con la inteligencia artificial que todos conocemos, cosas como ChatGPT, vemos que este último no es algo puramente mental que existe en el éter, sino que tiene una base física, o sea, las computadoras. Los componentes de la inteligencia artificial son los circuitos de la compu, de la misma manera que los componentes de la inteligencia humana son las neuronas en el cerebro. Lo que sostengo es que los 8 mil millones de seres humanos en el planeta son los componentes de la economía global, sus circuitos, lo cual constituye funcionalmente la base material de una inteligencia artificial general. Sin embargo, el ChatGPT no es sin más sus circuitos materiales; para funcionar necesita algo de orden, digamos, simbólico – su programación, los algoritmos. Volviendo a la economía global, su base material es todos los seres humanos, y su aspecto simbólico, lo que define su función objetiva, es algo de orden jurídico, a saber, la responsabilidad fiduciaria, es decir, legal, de maximizar el rendimiento de la inversión de sus accionistas. Eso es la esencia de una corporación. Su esencia no estriba en ninguno de sus componentes, en ninguno de los empleados, ni el equipo ejecutivo, ni siquiera en el CEO o la junta directiva. Esa personas se cambian constantemente, sin embargo, la función objetiva de la corporación permanece, al igual que todas las demás en el sistema global. Cada uno de los componentes del sistema, los seres humanos, ya es una inteligencia general y el sistema económico está ejecutando procesos paralelos a lo largo de todos ellos. El capitalismo es básicamente un sistema descentralizado de incentivos que incentiva a los humanos a buscar nuevas y más eficientes maneras de ganar dinero, aun cuando esto implique la explotación insostenible de recursos naturales o la explotación no ética de recursos humanos.
La gente que lo hace mejor que otros llega a tener más influencia en el sistema, e influyen en el sistema para que les apoye a hacer más de lo que están haciendo. Desde luego, hay gente que se opone al sistema, y aun cuando el sistema no tenga agencia, o sea, no es una super persona, la gente que están sacando provecho del sistema frenan a los que se oponen y así el sistema se perpetúa y es como si tuviera agencia. De esta manera, la IAG que es el sistema económico se refina recursivamente, mejorándose, pasando históricamente del trueque, al dinero físico, al dinero por decreto, a la banca de reserva fraccional, a la negociación de derivados financieros en la bolsa, y otros instrumentos exóticos y abstractos que permiten cada vez mayor financialización del mundo a servicio de su función objetiva – la ganancia. Y ahora volvemos a la cuestión de la alineación. Esta función objetiva que acabamos de mencionar no está alineada con el interés del bienestar del mundo a largo plazo.
Entonces, tenemos la IAG que es el sistema económico global, y sus componentes que son la IAG de todos los seres humanos. Esta combinación ya es bastante potente. Hemos visto cómo puede mejorar su poder sobre el tiempo con los perversos incentivos del sistema. Pero el asunto se vuelve ahora peor con la introducción de la inteligencia artificial común y corriente, tal y como lo tenemos en este momento. De todos los elementos que articulan el entorno de riesgos catastróficos, la inteligencia artificial es la más peligrosa. ¿Por qué? Porque un arma nuclear, por destructiva y peligrosa que sea, no facilita la creación de mejores armas biológicas, y éstas no permiten hacer mejores sistemas de comercio de alta velocidad en la bolsa, y esto no permite la creación de mejor drones, etc. Todas estas tecnologías están relativamente aisladas. La inteligencia artificial, en cambio, permite que hagamos mejores versiones de todas esas tecnologías. En pocas palabras, lo que facilita es la aceleración de todos esos riesgos. Mientras tanto, optimistas como Steven Pinker dicen “miren todos estos clips que tenemos, que bien, todos estamos mejor”.
Elon Musk quiere dejar la Tierra por atrás e ir a colonizar Marte. ¿Por qué? Supongo porque sabe que las cosas aquí no tienen remedio. El punto es que no creo que llegue. ¿Por qué? ¿Alguna vez te has preguntado por qué no hemos sido contactado por seres extraterrestres? Los científicos calculan que hay muchísimos planetas en nuestra propia galaxia que puede albergar vida. Una respuesta, la que más me convence, es que no existen aliens volando en OVNIs porque una vez que esos aliens en su planeta lleguen a alcanzar los requerimientos sociales y energéticos necesarios para despegarse de su planeta y salir de su sistema solar, esas mismas condiciones conducen a una conflagración, al acabamiento de las condiciones medioambientales necesarios para sostener la vida. En pocas palabras, enfrentan riesgos globales catastróficos que no logran superar.
Me viene a la mente algo que dijo el filósofo Frederic Jameson. Dijo: “Es más fácil imaginar el fin del mundo que imaginar el fin del capitalismo”. La naturaleza del mundo no conduce necesariamente a acabar con el capitalismo; sin embargo, la naturaleza del capitalismo sí conduce a acabar con el mundo natural, con ese entorno sin el cual nosotros no sobrevivimos.
Para ir cerrando, el transhumanismo, la singularidad, un nuevo entorno ciberfísico, son temas que me encanta ver desarrollados en una película de ciencia ficción, pero la verdad no gastaría energía en desarrollarlos intelectualmente. Hay cosas mucho más apremiantes que requieren de nuestra atención, crisis existenciales que es menester reconocer y pensar. El Mtro. Ayala quien mencioné al inicio y quien me pidió esta intervención, me dijo que sus alumnos son de entre 14 y 18 años de edad. Cuando yo tenía ese edad, vivía en el imperio al norte en una familia de clase media que estaba gozando de todo lo que ofrecía el orden mundial posibilitado por el sistema Bretton Woods. Ese sistema ya está llegando a su fin, y sus consecuencias negativas están empezando a hacerse patente. Lamento ser tan pesimista con ustedes, lamento pintar un futuro tan tétrico. Sin embargo, creo que el pesimismo es en cierta medida la responsabilidad del intelectual. El pensador italiano Antonio Gramsci, en una carta que escribió en la cárcel a la que le mandó Mussolini, le dijo a su hermano: “Soy pesimista por la inteligencia, pero optimista por la voluntad”. La realidad hay que verla de frente sin ilusiones, pero también hay que ejercer la voluntad y actuar en el mundo. Si actuáramos de forma pesimista, no tendría sentido actuar, no tendría frutos. Hay que actuar más bien con optimismo haciendo lo que está dentro de nuestro poder y lo que procede de nuestra voluntad. Lo más probable es que no cambien directamente las políticas militares de los superpoderes o el gran flujo de capital en el mundo. Hay que actuar donde están, y para ustedes eso significa, por ejemplo, las redes sociales. Para que su voluntad y los actos que proceden de ella sean optimistas, hay que desvincular su voluntad de las dinámicas perversas que la sujetan, que la convierten en una herramienta de los intereses de grandes corporaciones. Es bien sabido que la meta de redes como Facebook, Instagram y TikTok es hacer que permanezcas la mayor cantidad de tiempo posible en la plataforma para ver la mayor cantidad de publicidad y comprar cosas lo cual beneficia a las corporaciones que pagan el sueldo de Mark Zuckerberg. Pueden lograr eso no al decir la verdad y analizar la realidad de frente sino al mostrar noticias e imágenes que provocan emociones negativas como el miedo y el odio. Empíricamente, han encontrado que esas emociones hacen que la gente permanezca más tiempo en el sitio. No seas un esclavo a esas conductas idiotas que no te benefician de ninguna manera. Diversos grupos con diversas ideologías agarran a esos pobres jóvenes esclavos y les convence matar a mucha gente o explotar una bomba en un lugar público, diciéndoles que así serán grandes, que serán hombres temibles y que así cambiarán el mundo. Un hombre que porta un AK-47 es sin duda temible, pero creo que el aspecto más aterrador que puede asumir el ser humano, un joven como tú, es el de la libertad; aparecer ante el otro como un ser libre. La libertad empieza aquí con la inteligencia y se expresa de forma optimista con una voluntad que toma la mano del otro como hermano, como miembro del único tribu que hay, el de la humanidad.

Descargar guión en PDF

Audio
Descargar audio aquí

Música de la intro: La canción se llama “Ambience Musettienne” del album Simply Musette de Alexa Sage.

Música de la outro:  ZAPATEADITO OAXAQUEÑO II . Arodi Martinez S.  https://www.youtube.com/watch?v=qIcnUTBSOfw

14 Comments

  1. Victor · 20/06/2025 Responder

    Feliz cumpleaños Darin. En mi casa todos te queremos mucho y te deseamos mucha alegría y cariño.

  2. Oscar Memo Acosta · 21/06/2025 Responder

    Estimado Dr. McNabb, su radiografía de nuestro presente distópico posee la virtud socrática de hacernos confrontar las verdades incómodas que preferimos evadir. Su invocación de Moloch como símbolo de los fracasos de coordinación humana no es solo literariamente poderosa, sino filosóficamente necesaria. Sin embargo, permítame proponer que su pesimismo de la inteligencia, aunque riguroso, adolece de lo que podríamos llamar una aporía existencial: si el sistema es verdaderamente tan totalitario como lo describe, ¿cómo es posible que emerja su propia crítica?

    La paradoja de su análisis radica en que su capacidad misma de diagnosticar el sistema sugiere fisuras en su supuesta omnipotencia. Como observó Hannah Arendt, el poder totalitario perfecto es una imposibilidad ontológica, pues requiere del espacio público para manifestarse, y en ese espacio siempre germinan las semillas de la resistencia.

    Su descripción de las crisis existenciales contemporáneas es certera, pero me permito sugerir una lectura alternativa desde la filosofía de la historia hegeliana. Las crisis no son meras disfunciones del sistema, sino momentos privilegiados donde el Geist (espíritu) se reconoce a sí mismo en su negatividad. Lo que usted describe como “fracasos de coordinación” podría leerse como los dolores de parto de una nueva forma de conciencia planetaria.

    Consideremos la paradoja fundamental: nunca antes en la historia humana hemos tenido las herramientas cognitivas para diagnosticar globalmente nuestros problemas globales. El mismo sistema que genera la metacrisis también produce los instrumentos conceptuales y tecnológicos para superarla. La inteligencia artificial, que usted correctamente identifica como el multiplicador de riesgos más peligroso, es simultáneamente la primera tecnología en la historia humana que nos permite pensar a escala planetaria y temporal que nuestros desafíos requieren.

    Aquí radica el núcleo de nuestro desacuerdo filosófico. Usted ve en la singularidad tecnológica una aceleración hacia el colapso; yo propongo verla como un kairós griego, el momento oportuno para la transformación cualitativa. La inteligencia artificial no es solo otra herramienta dentro del sistema capitalista; es una tecnología que puede, potencialmente, trascender las limitaciones cognitivas que hacen posible los fracasos de coordinación que usted describe.

    Permítame invocar a Teilhard de Chardin y su concepto de noósfera. Lo que estamos presenciando no es simplemente la dominación de una IAG capitalista, sino la emergencia de una conciencia planetaria mediada tecnológicamente. La pregunta no es si esta emergencia ocurrirá, sino si seremos capaces de dirigirla hacia fines humanizantes.
    Usted concluye su reflexión citando a Gramsci: “pesimismo de la inteligencia, optimismo de la voluntad.” Acepto la primera parte de la fórmula, pero propongo radicalizar la segunda. No se trata simplemente de actuar como si el cambio fuera posible, sino de reconocer que la esperanza racional constituye una condición ontológica de la acción transformadora.

    Aquí invoco la “apuesta” de Pascal, pero aplicada a la cuestión de la supervivencia civilizacional. Ante la incertidumbre radical sobre nuestro futuro, tenemos dos opciones: asumir la inevitabilidad del colapso o apostar por la posibilidad de transformación. La primera nos condena a la parálisis nihilista; la segunda nos convoca a la creatividad histórica. Racionalmente, la segunda opción es la única que preserva la dignitas humana.
    Su análisis de la IA como multiplicador de riesgos es incontrovertible, pero incomplete. La IA es un pharmakon derridiano: simultáneamente veneno y medicina. Sí, puede acelerar todos los procesos destructivos que usted enumera. Pero también puede ser el primer instrumento en la historia humana capaz de optimizar sistemas complejos a escala global en tiempo real.

    Considere esta posibilidad: una IAG verdaderamente alineada con el bienestar humano y ecológico podría resolver el problema de coordinación que está en el corazón de la metáfora de Moloch. Podría calcular los equilibrios de Nash cooperativos que permitan superar las trampas multipolares que usted describe. La pregunta central no es si debemos temerle a la IA, sino cómo asegurar que su desarrollo sea democrático, transparente y orientado hacia el florecimiento humano.

    Usted tiene razón en que las transformaciones sistémicas no emergen de estructuras macro, sino de “pequeños espacios revolucionarios.” Pero permítame llevar esta intuición más lejos. Lo que estamos presenciando es lo que Deleuze y Guattari llamarían una “revolución molecular”: transformaciones microscópicas que, al alcanzar masa crítica, pueden reconfigurar completamente el sistema.

    Usted describe el sistema capitalista como una Inteligencia Artificial General aparentemente invencible. Pero permítame invocar una metáfora que quizás resuene con su afición por la ciencia ficción: todo sistema totalitario, por omnipotente que parezca, posee lo que Walter Benjamin llamaría un “punto de fuga” dialéctico. La Estrella de la Muerte imperial era tecnológicamente superior, pero su propia complejidad generaba vulnerabilidades sistémicas. No se trata de construir otra Estrella de la Muerte más grande, sino de identificar esas fisuras estructurales donde un pequeño acto puede generar transformaciones en cascada.

    Usted mismo nos recuerda cómo un solo barco atorado en el Canal de Suez puede paralizar el comercio global y causar pérdidas de miles de millones. Pero esa misma lógica funciona en sentido inverso: si un barco puede frenar toda una red de mercancías, una red de pensamiento crítico, como la que usted mismo está tejiendo, puede frenar toda una red de resignación. La fragilidad del sistema que usted denuncia es también su mayor vulnerabilidad. Los mismos nodos de interconexión que permiten el control global pueden convertirse en puntos de transformación sistémica.

    Las redes digitales, que usted correctamente identifica como instrumentos de control corporativo, son simultáneamente espacios de experimentación con nuevas formas de organización social. Las criptomonedas, la inteligencia artificial descentralizada, las organizaciones autónomas descentralizadas (DAOs), los movimientos de código abierto, representan gérmenes de formas post-capitalistas de coordinación humana. Son los planos de construcción de esa pequeña nave rebelde que puede encontrar la vulnerabilidad del sistema.

    Dr. McNabb, permítame aquí proponer algo que quizás no haya considerado desde su perspectiva pesimista: México, con su fusión viva entre tradición indígena y modernidad tecnológica, puede convertirse en el nodo donde emerjan las primeras formas de organización postcapitalistas, post-económicas, post-instrumentales. No es casualidad que esta conversación emerja desde nuestro territorio, donde la dialéctica entre cosmogonías ancestrales y tecnología contemporánea puede generar síntesis inéditas.

    México posee algo que las potencias del Norte han perdido: la capacidad de sorprenderse ante las posibilidades. Mientras Europa y Estados Unidos se debaten en la nostalgia de un orden que ya no funciona, nosotros podemos experimentar con formas organizacionales que ni siquiera tienen nombre todavía. Aquí, donde el tiempo cíclico de nuestros antepasados se encuentra con la aceleración tecnológica, pueden emerger modelos que trasciendan la trampa multipolar del capitalismo global.

    Imagine, por un momento, redes de coordinación social que integren la sabiduría del tequio zapoteco con inteligencia artificial descentralizada. Imagine economías basadas en el buen vivir andino potenciadas por blockchain y contratos inteligentes. Imagine democracias participativas que usen IA para facilitar consensos comunitarios en tiempo real. ¿No le parece que estas posibilidades merecen al menos la curiosidad filosófica?
    Latinoamérica ha sido siempre el laboratorio de Occidente para sus experimentos más audaces. Ahora podemos ser el laboratorio de la humanidad para experimentos post-occidentales. La pregunta es: ¿se atreve usted, Dr. McNabb, a dejarse sorprender por estas posibilidades, o su pesimismo de la inteligencia ha clausurado su capacidad de asombro ante lo emergente?

    Permítame concluir con una dimensión que su análisis omite pero que considero fundamental: la dimensión espiritual de la crisis contemporánea. Lo que usted describe como fracasos de coordinación son, en última instancia, síntomas de una crisis de sentido. El capitalismo no es solo un sistema económico; es una cosmología que reduce la riqueza infinita de la experiencia humana a equivalentes monetarios.

    La verdadera revolución que necesitamos no es solo tecnológica o política, sino espiritual. Necesitamos redescubrir lo que los griegos llamaban areté (excelencia), los latinos virtus (virtud), y los pueblos originarios de América conocían como buen vivir. La inteligencia artificial, paradójicamente, podría liberarnos del trabajo alienado y abrir espacios para el florecimiento de dimensiones más profundas de la experiencia humana.
    Dr. McNabb, su diagnóstico de la crisis es implacable y necesario. Pero permítame sugerir que la esperanza no es simplemente una ilusión consoladora, sino una categoría ontológica fundamental. Ernst Bloch tenía razón: la esperanza es un principio constitutivo de la realidad humana. No esperamos porque tengamos garantías, sino porque sin esperanza la acción transformadora es imposible.

    La juventud que usted menciona al final de su reflexión no necesita más dosis de pesimismo. Lo que necesita es una comprensión clara de los desafíos que enfrenta y las herramientas conceptuales y prácticas para superarlos. Necesita saber que, como dijo Gramsci en otra ocasión, “lo viejo muere y lo nuevo no puede nacer” – pero también que en ese interregno grávido de posibilidades, todo depende de nuestra capacidad de imaginar y construir alternativas.

    El futuro no está escrito. Moloch no es un destino, sino una posibilidad que podemos evitar si tenemos la sabiduría y el coraje de actuar. La historia no es solo el reino de la necesidad, sino también el espacio de la libertad humana. Y en ese espacio, donde la contingencia se encuentra con la decisión, donde el riesgo se encuentra con la esperanza, ahí se juega nuestro destino como especie.

    La dialéctica verdadera no es entre pesimismo y optimismo, sino entre la lucidez sobre lo que es y la creatividad para imaginar lo que puede ser. En esa tensión creativa, en esa coincidentia oppositorum, encontramos el espacio para la acción histórica transformadora.

    El pesimismo es un estado de ánimo; el optimismo es una decisión y la decisión es nuestra, Dr. McNabb. Y el tiempo para tomarla es ahora.

  3. Sara · 21/06/2025 Responder

    Felicidades Darin, te siento como parte de mi familia/amigos. Deseo que hayas tenido un bonito día.

  4. Patricia · 22/06/2025 Responder

    Te quiero mucho Darin. Gracias por hablar alto y claro. No sé si conoces el cuento del colibrí. Es un bosque que se está quemando. Todos los animales huyen despavoridos trarando de salvar su propio pellejo miéentras su casa se quema Pero el colibrí no. El colibrí va a buscar agua del lago y vuelve una y otra vez a arrojará a las llamas. Los animales se burlan de él y se dicen unos a otros; mira ese idiota. Se cree que va a apagar el incendio el solo. Cuando escucha sus burlas es colibrí solo dice: si tenéis razón. No voy a apagar el incendio yo solo, pero estoy haciendo mi parte.
    En un mundo que se quemando solo nos resta ser el colibrí. Ser optimistas de voluntad. Vivir con integridad y honestidad y hacer nuestra parte por humilde que sea. 🙏

  5. Alfonso · 23/06/2025 Responder

    Estimado Darin:
    Interesante reflexión, pero considero que partes de la idea dominante de separar cultura-naturaleza, lo que ha llevado a considerar la existencia de tres seres independientes: el humano, la herramienta (que va desde una simple roca arrojadiza para cazar, hasta el Gran Colisionado de hadrones de Ginebra) y la naturaleza; todos ellos como entes independientes. Cuando Heidegger dijo que la primera relación que establece el humano con el mundo externo es de tipo práctico, zuhandenheit (ser-a-la-mano), siguió a pauta de Aristóteles al considerar a la herramienta como una extensión del cuerpo, nacida no de entes etéreos, sino fabricada por el humano gracias a su capacidad intelectiva, en otras palabras, son el resultado natural de nuestro cerebro, por lo que, como deben ser calificadas: ¿naturales? o ¿artificiales?, si se da respuesta positiva a la segunda interrogante se corre el peligro de concederles intencionalidad, considero que estas de acuerdo que un arma, una bomba, un tanque, no son peligrosos en si mismos. Sí el humano que las fabricó lo hizo con la intencionalidad de matar, el problema no radica en la tecnología per se.
    El desarrollo tecnológico solo es manifestación del ingenio humano, es tan natural como nuestros ojos, brazos, oídos, etc., por lo que ser TECNO-OPTIMISTA no es equivocado; considero que ahora somos más felices cuando abrimos la llave de agua en el interior de nuestras casas, que cuando nuestros antepasados tenían que invertir esfuerzo y tiempo para ir con un balde al pozo o a la fuente de agua para llevar a casa; la bomba atómica como aparato de destrucción es inadecuada si se utiliza en la tierra en contra de otros seres humanos, pero puede ser benéfica en la minería espacial, terraformar planetas, etcétera.
    Considero que das una respuesta correcta, pero, no se porque, inmediatamente das un paso a atrás, dices qué, no eres un “marxista trasnochado”, es claro que estas consciente que el problema es de intereses político-económico del regimen capitalista actual. El dilema está en la capa gobernante y la élite que protegen, no la humanidad en conjunto, pues conforme tenemos acceso a las nuevas tecnologías, su vida mejora, ¡quítale el celular a un adolescente y tendrás una revolución en casa!.
    La relación directa que se hace del dios Moloch con las desgracias sociales de la actualidad la considero excesiva y sin sustento, es cierto que a ese dios cartaginés había que darle en sacrificio a los bebés primogénitos de los habitantes de Cartago (se ponían vivos en los manos de la estatua del dios y éste por medio de un artilugio de balanzas los inclinaba y hacía que los cuerpos cayeran a un brasero con carbones ardiendo, donde morían calcinados), éste era el pago que tenían que hacer los cartagineses para ser protegidos, curiosamente cuando empezaron a dar “gato por liebre” (en vez de inmolar a los primogénitos, daban niños secuestrados de otros pueblos, hijos de esclavos o niños comprados), se dio la destrucción de Cartago (a un dios no se le engaña), Roma borró de la historia a Cartago. Independientemente que pensemos que los cartagineses debían estar “locos”, era su verdad, con ella vieron florecer, progresar, volverse una potencia hegenómica a Cartago, fueron felices en su tiempo. Nosotros los modernos, hemos pasado a adorar al dios átomo, que ha pasado de ser un punto (particula), a un campo cuántico que cubre a todo el universo y solo con una combinación de “excitaciones” se hacen presentes sus componentes (electrones, protones, neutrones, y muchas subpartículas), pero a diferencia de Moloch que los cartagineses si podían ver (la efigie no era un símbolo del dios, era el dios mismo), nosotros debemos de creer en una serie de formulaciones matemáticas, solo una pequeña elite intelectual las entiende (aunque supuestamente si el no creyente estudia, podrá comprenderlas), pero además, su existencia, no se debe a “masturbaciones mentales”, ´esta se considera cierta hasta que es comprobada en laboratorio.. pero, y ¿sí el genio maligno del que habló Descartes esta dentro de la máquina? que válida su presencia. Bueno, pero esto es otra cosa que requiere una discusión. mayor.
    Finalmente, me llamó la atención la analogía que haces entre la inteligencia artificial y la económica capitalista, aunque yo solo la catalogaría como un fenómeno complejo, cuya dinámica va mas allá que la suma de sus partes y debido a las interacciones entre sus partes parece tener agencia propia.
    Espero tu opinión, me da gusto tener contacto contigo, saludos y tengas buena vida.

  6. Víctor (otro Víctor) · 27/06/2025 Responder

    Intuyo que (ni siquiera en usted) el optimismo de la voluntad cancela el pesimismo de la inteligencia, aunque el gesto ético (y hasta estético) nos invite a ello imperativamente.
    “La vida es una enfermedad del espíritu”. Hölderlin

  7. Fabian Marcapura Vilca · 14/07/2025 Responder

    Feliz Cumpleaños, Buenas noches, sabes Darin? me siento en crisis, no se que estudiar, actualmente curso la carrera de Historia, pero ciertamente no me siento satisfecho, creo que siempre he querido cuestionar y analizar a fondo la historia y la humanidad, cosa que la Historia solo hace en raros casos. Desde que veo tus videos mi perspectiva cambio acerca de la filosofía, la forma en la que combinas a mi parecer Historia, Filosofia, Antropologia, Sociologia, me fascina, nose si deberia estudiar filosofia, me gusta pensar acerca de las cosas que hemos hecho y haremos, lo siento por escribir esto aqui, espero te vaya bien.

    • Darin · 16/07/2025 Responder

      Hola Fabian, gracias por la felicitación. En cualquier estudio uno llega tarde o temprano a cuestiones filosóficas que, para mí, son realmente las interesantes. Desconozco los factores relevantes de tu vida como para aconsejar estudiar la filosofía formalmente o no. Eso sólo lo puedes decidir tú. Pero sí diría que no dejes de leerlo y estar a atento a sus cuestionamientos, aunque sea de forma autodidácta. Tienes que pensar en la realidad laboral. Es difícil ganarse la vida como intelectual, especialmente en el campo de la filosofía. Te deseo suerte y goce en tu camino. 😊

  8. Marco Antonio M · 17/09/2025 Responder

    Darin su reflexión sobre la libertad como la fuerza más temible me hizo click instantáneamente con mi lectura de Spinoza. Siempre entendí su idea de que “somos libres cuando entendemos las causas que nos determinan” como un concepto abstracto. Su frase lo volvió tangible y potente: la verdadera revolución no es imponer, sino comprender y, desde ahí, construir comunidad. Me llevo esa idea no solo como una lección de filosofía, sino como un principio vital. Gracias.

Dejar comentario