23031 temas (22839 sin leer) en 44 canales
Sobre el libro Becoming Evil de James Waller, subtítulo “Cómo la gente normal comete genocidios y asesinatos de masas”. … en este libro encontré por primera vez la tendencia humana a dividir el mundo en Ellos/Nosotros, que es considerada un universal antropológico, y ahí comenzó mi interés por estudiar la teoría de la evolución para comprender la mente humana … descubrí ahí que nuestra moralidad no es universal, no se aplica a todos los seres humanos, sino que su ámbito de aplicación viene marcado por los límites de lo que considero mi grupo. Nuestra moralidad llega hasta los límites de nuestro grupo, se aplica a nuestra comunidad moral, es decir, no empleamos las mismas normas con los individuos que pertenecen a nuestro grupo (Nosotros) que con los individuos que no pertenecen a nuestro grupo (Ellos).
Quienes saludan con entusiasmo esta posibilidad suelen argumentar que nadie es capaz de distinguir una obra de arte generada por una máquina de la que tiene por autor a un ser humano. Se dice que hay que tener unos grandes conocimientos musicales para distinguir el producto de una máquina del que procede del ingenio humano. También es verdad que buena parte de la música actualmente se hace así, lo que no revela tanto una especial habilidad de los programas como la simpleza de nuestro gusto musical.
En muchos proyectos arquitectónicos, diseños, guiones y series televisivas lo que hay es coloraciones típicas, fraseologías particulares o figuras compositivas propias de autores del pasado. Buena parte del agotamiento de Netflix se explica porque hace tiempo que sus algoritmos no producen más que historias previsibles. Una cosa es producir algo que resulta de la digestión de miles de obras de arte similares, que recambian los clichés que han sido exitosos hasta ahora, y otra dar lugar a algo que merezca ser considerado como original. En sentido estricto, la creatividad humana no puede ni imitarse ni repetirse; implica siempre, aunque sea mínimamente, una cierta transgresión que no es reducible a reglas o agregaciones estadísticas. En cambio, lo que en la computación tiene la apariencias de libres asociaciones sigue estando algorítmicamente determinado, no ha roto con nada, ni aporta ninguna novedad radical; es decir, solo en sentido genérico e impropio se trata de creatividad. La creatividad no puede más que ser imitada algorítmicamente mediante la probabilística y el análisis de datos. Los mismos llevan a cabo un tipo de originalidad limitada. Se mueven en un ámbito en el que las normas están prefiguradas y son capaces de aprender a jugar en el seno de esas limitaciones. En esto no son completamente distintas de nosotros, pues buena parte de lo que los humanos hacemos -también cuando creamos obras artísticas- se mueve dentro de reglas que no cuestionan ni modifican, pero en general la cultura y la existencia humanas son tan interesantes porque tenemos una capacidad de cambiar ocasionalmente esas reglas y es eso precisamente a lo que en sentido estricto llamamos creatividad.
¿En qué puede consistir entonces l aportación de la inteligencia artificial al arte? A mi juicio, las máquinas creativas realizan dos grandes aportaciones: una que tiene que ver con su función auxiliar y otra con revelar el núcleo creativo del arte.
Al hablar de su auxiliaridad, me refiero, pro ejemplo, llevar a cabo las tediosas transposiciones de notas, instrumentan y orquestan de manera que pueda uno elegir entre distintas posibilidades.
Si en lugar de entender que los humanos y las máquinas hacemos lo mismo pensáramos en lo que cada uno hace mejor entonces podríamos reajustar nuestra idea de creatividad tal como lo hicimos con nuestra concepción de los problemas difíciles cuando 'Deep Blue' ganó al campeón de ajedrez Garry Kasparov en 1997. La cuestión no es si el arte de los ordenadores lo hará mejor que nosotros, sino pensar qué podemos hacer únicamente nosotros cuando los ordenadores han alcanzado tal nivel de sofisticación. Frente al pesimismo que diagnostica la marginación del ser humano como el final de la creatividad, tal vez pueda sostenerse exactamente lo contrario. Mientras las máquinas imitan a los creadores, estos pueden desafiar las fronteras de lo inimitable.
La inteligencia artificial no parece saber lo que es el arte, aunque en esto tampoco se diferencia mucho de nosotros, que discutimos este concepto como si no hubiéramos encontrado una definición satisfactoria e incontrovertible. Lo que nos diferencia de las máquinas no es tanto el desconocimiento que compartimos con ellas acerca de la naturaleza del arte sino el hecho de que nos planteamos una y otra vez esa pregunta que a ellas no parece inquietarles demasiado.
Daniel Innerarity, El sueño de la máquina creativa, El Correo 05/02/2023
Si OpenAI reconoce que es un ser entrenado para ordenar información y transmitir lo que de ella se deriva, si admite que no está en condiciones de plantear problemas tan acuciantes como el discernimiento del bien y el mal, si sus criterios “morales” se reducen a mera instrucción, ¿por qué nos lo presentan pues como un ser inteligente? ¿Por qué el inevitable Musk llegó a afirmar que estábamos ya más allá del test de Turing?
El problema no es OpenAI, sino la concepción imperante de lo que es la inteligencia. Se habla de este artefacto como un ser inteligente, simplemente en razón de que sus respuestas son aquellas que daría hoy un ciudadano a la vez instruido y sumiso ante las normas imperantes, o las que da el político estándar ante las preguntas de un tertuliano. Estas normas pueden variar, pero siempre el buen ciudadano es aquel que se pliega a las mismas. No cabe duda de que si OpenAI hubiera sido generado por los servicios de inteligencia afganos, sus respuestas serían perfectamente acordes con los principios que rigen aquella sociedad, aunque se las arreglara para presentar una dialéctica formal entre polos contradictorios.
No estoy en absoluto sosteniendo el relativismo moral. Soy de los convencidos de que en materia de moralidad hay principios absolutos, hay modalidades de expresión del kantiano imperativo categórico, adaptado si se quiere a una u otra cultura. Hay, por ejemplo, exigencia universal de no fallar al ser al que has considerado como inter-par en el hecho de haber dado tu palabra y aceptado la suya. Pero hay asimismo posible dialéctica en esta convicción, en razón de la inclinación, el propio interés e incluso por obediencia a otra palabra. Por eso precisamente la conformidad al imperativo tiene ese mérito que se concede al que se arriesga, que de ninguna manera concederíamos ni a OpenAI, ni a la persona que pareciera tan asténicamente equilibrada como este artefacto. Y digo que pareciera porque no hay persona alguna que sea como OpenAI, precisamente porque toda persona es, por definición, inteligente, eventualmente estúpida, malvada e insoportable en sus gustos… precisamente por inteligente, es decir:
Fiel a su palabra, precisamente porque podría no serlo, en razón de que la conveniencia, el deseo o hasta la búsqueda del bien común, le incitan a lo contrario; respetuoso de las hipótesis científicas precisamente porque tentado por confrontarse a aquellas que ofrecen algún flanco a la duda, y sintiendo que quizás no tiene fuerzas para enfrentarse a la dureza del pensar; compartiendo un juicio emocionado sobre un evento bello, sin tener posibilidad alguna de asentar tal emoción en un hecho objetivo. En definitiva: todo aquello de lo que OpenAI no da muestra alguna.
Podría objetarse que muchas personas ni siquiera muestran capacidad para registrar, sopesar, seleccionar y dar salida eficaz a la información que reciben. Cabe incluso decir que a estas personas les es difícil instruirse y en consecuencia hacer propios los valores que la sociedad promueve. En esta medida, ¿cómo negar que OpenAi se muestra superior a estas personas. La respuesta es otra pregunta: cuando decimos que tal o cual persona nos impactó por su inteligencia, ¿estamos simplemente pensando en su capacidad de recepción de información y utilización de la misma para mejor adaptarse? Esto puede realmente constituir un factor, pero más bien nos llama la atención el hecho de que esa persona dice cosas a la vez bien trabadas e inesperadas, por ejemplo, se pregunta: ¿cómo es posible que haya una actitud contraria a la violencia, cuando los entornos natural y social dan muestras tanto del “combate por la subsistencia”, como de lo que se dio en llamar darvinismo social?
El asunto no es la conversión de la máquina en el equivalente a un ciudadano, sino la conversión de un ciudadano en un ser meramente instruido y obediente. El problema no reside en si OpenAI se homologa a nosotros en inteligencia, sino en la reducción del concepto de inteligencia que posibilita el hacerse tal pregunta.
Victor Gómez Pin, El problema está en la reducción del concepto mismo de inteligencia, El Boomeran(g) 20/01/2023
La magia de ChatGPT consiste en predecir con aplomo la manera más persuasiva de colocar una palabra delante de otra. Es el descendiente evolutivo y glorificado del autocomplete del buscador. E incluso para eso necesitan nuestra ayuda. Como dice la académica australiana Kate Crawford en su Atlas de una inteligencia artificial, “no son autónomos, racionales ni capaces de discernir algo sin un entrenamiento extenso e intensivo”. ChatGPT depende del trabajo de cientos de trabajadores no cualificados que cobran menos de dos dólares la hora por exponerse a los contenidos más perturbadores de la Red.
GPT-3 aprendió a dominar el lenguaje coloquial asimilando cientos de miles de millones de contenidos de internet, incluyendo la clase de foros que no siempre representan lo mejor de la raza humana. Evitar que diga barbaridades o que repita la propaganda de supremacistas, antivacunas, fanáticos de QAnon y otros colectivos tóxicos que inundan la Red con campañas de desinformación requiere una buena purga. Un proceso que consiste en buscar y etiquetar a mano aquellos contenidos que no quieres que repita, incluyendo abuso sexual de menores, bestialismo, asesinatos, suicidio, tortura, automutilaciones o incesto. Para hacerlo, OpenAI subcontrata empresas en Kenia, Uganda o India que también trabajan para Google, Meta y Microsoft.
Por un sueldo que oscila entre los 1,22 y los 1,85 euros la hora, miles de trabajadores no cualificados examinan los rincones más oscuros de la naturaleza humana. Se exponen durante más de ocho horas diarias, en países sin derechos laborales que garanticen un mínimo de entrenamiento o asistencia psicológica. Es la paradoja de la inteligencia artificial: cada vez consume más humanos. El modelo se llama IA Potemkin o fauxtomática, un término que acuñó la ensayista Astra Taylor para describir la ilusión de automatismo que producen miles de personas ocultas, los duendes secretos del taller de la IA. Ellos son los esclavos del siglo XXI, condenados a remar en la oscuridad de las galeras para que el barco se mueva como por arte de magia, prometiéndonos la libertad.
Marta Peirano, Las abejas obreras de ChatGPT, El País 21/01/2023
Miguel de Lucas, Lo que Sócrates diría a la inteligencia artificial, El País 17/01/2023
Nuestra atención está en venta. La concentración se ha convertido en un objeto de consumo con el que empresas y gobiernos mercadean con el fin de acaparar nuestro interés y de mercantilizar nuestra actividad. Como consecuencia, el estrés se ha establecido como elemento “natural” de la vida contemporánea. Quien no acepta la naturalización del estrés es tachado de marginado, rebelde o inútil.
Cuando la libertad es subsumida bajo los estándares que nos propone el artilugio emocional del estrés, el individuo es arrojado a un persistente estado de agotamiento que, en ocasiones, desemboca en trastornos emocionales y de la conducta. Ansiedad y depresión son los más usuales, pero también la desesperanza, la debilidad, un sentimiento subjetivo de soledad, la incapacidad o desgana para desarrollar vínculos afectivos significativos, el cansancio físico o la imposibilidad para trenzar alianzas comunitarias que puedan oponerse a este bucle invisible.
Si la libertad se disfraza de parachoques psicológico, se reducirá a una mera capacidad pasiva para saber recibir bien los golpes que propina la sociedad del estrés, la rapidez y la inmediatez. De este modo, la servidumbre emocional quedará más que garantizada. Eso sí, silente y melosamente, bajo capa de resiliencia o talento para adecuarse a las —onerosas— circunstancias.
Con no poca habilidad mercadotécnica, la autoayuda y el coaching emocional nos alientan a desarrollar una alta autoestima, a trabajar en el desarrollo positivo de nuestro autoconcepto. Esto quiere decir que la responsabilidad de que las cosas vayan bien o mal se descarga únicamente en el individuo, de manera que este queda culpado como un inadaptado que no ha sabido “ser libre” o “estar a la altura de nuestros tiempos”. Imperativos como “gestiona el estrés” o “rentabiliza las crisis” se enarbolan por doquier como los valores contemporáneos por excelencia: una tiranía productiva que elude pensar en las causas sistémicas de la ansiedad y señala al individuo como único culpable de sus males.
Carlos Javier González Serrano, Cuando el estrés se viste de libertad, El País 15/01/2023
Todo nuestro ordenamiento social, jurídico y económico se basa en el axioma del libre albedrío, la idea de que las personas somos agentes autónomos y racionales que hacemos lo que decidimos en cada momento. Lo último que se le ocurriría a la abogada de un ladrón de bancos sería aducir que su cliente lo hizo involuntariamente, movido por las fuerzas deterministas del cosmos y la anatomía cerebral. El juez no le haría caso, y metería al tipo en la cárcel dando por hecho que había robado el banco porque le daba la gana. Si la causa fuera el determinismo del cosmos, no habría forma de hacer a la gente responsable de sus actos. Tú mismo estás leyendo este artículo porque quieres hacerlo, ¿no? ¿O no?
Un experimento de Benjamin Libet en los años ochenta, ya un clásico, vino a enredar nuestro conocimiento recibido sobre esta cuestión. Libet, un neurólogo de la Universidad de California en San Francisco, pidió a un grupo de voluntarios que movieran las muñecas cuando les diera la gana. También tenían que decir en qué momento exacto habían tomado la decisión de moverla. El enjambre de electrodos que Libet les había puesto en la cabeza mostró que las neuronas cerebrales responsables de mover la muñeca se activaban medio segundo antes de que la muñeca se moviera y —aquí viene el bombazo— un cuarto de segundo antes de que los sujetos hubieran tomado esa decisión.
El experimento estaba bien hecho, y ha sido confirmado y perfeccionado por las investigaciones posteriores, pero su interpretación lleva 40 años en el vórtice de un debate científico y filosófico de profundidad abisal. Porque la lectura más natural de esos datos implica que nuestras decisiones son producto de procesos neuronales de los que somos inconscientes. Nuestra vida mental, eso que llamamos yo, sería una especie de narración literaria, o de justificación moral, de lo que ya estaba haciendo el cerebro por su cuenta, ajeno a nuestro control voluntario.
Suena extraño, ¿no es cierto?, pero hay muchas otras pruebas de que la inmensa mayoría de la actividad mental es inconsciente. Alguien cuyo nombre no recuerdo dio con la metáfora inspiradora de que somos un pasajero asomado a la proa de un trasatlántico sobre cuyo funcionamiento lo ignoramos todo. Es una idea aterradora, pero bella y exacta como un verso de Jorge Luis Borges.
Javier Sampedro, La crisis del libre albedrío, El País 19/01/2023
Muchos creen que la filosofía consiste en tener opiniones, en sostener una visión del mundo. Pero hay una filosofía que permite distanciarse de las opiniones, tanto de las propias como de las ajenas. Contemplarlas desde fuera, con sana indiferencia, incluso con cierta jocosidad. Esa es la postura, sospecho, de Valéry. Una perspectiva que rehúsa “sostener” y prefiere contemplar.
La realidad radical es la vida. De pronto, nos encontramos en ella y no lo hacemos desnudos. Llegamos con todo un ropaje de inclinaciones, instintos y creencias que, a lo largo de la existencia irán tomando ese curso singular que llamamos biografía. El curso de nuestra vida depende directamente de estas creencias y opiniones sobre el mundo, sean fundadas o infundadas. El descreimiento también es una forma de creencia. La ciencia, lo mismo. Todos cargamos con un repertorio de convicciones, como individuos, como pueblo y como contemporáneos. Esas creencias son el suelo de la vida del pensamiento, ya sean los axiomas de la lógica o la fe del creyente. La fe no es propia del entendimiento, sino de la voluntad. Cree el que quiere creer. Las creencias, además, no forman un sistema o un todo coherente. En ocasiones son contradictorias o simplemente inconexas.
La idea es aquello que se piensa. La creencia se puede pensar, pero no necesariamente. Generalmente se tiene, prefiere el perfil bajo. Con ella se analiza todo lo demás y uno orienta su vida. Nāgārjuna, filósofo budista del siglo segundo, propuso algo imposible: el abandono de todas las creencias y opiniones. Lo que propone, claro está, es un ideal. El ideal del sabio, que es aquel que no se deja enredar por creencias y opiniones, y abandona los debates estériles sobre si el mundo es esto o lo otro. Y lo hace siguiendo una tradición escéptica (y saludable) del mahāyāna que se remonta a un episodio de la vida de Buda. En cierta ocasión le preguntaron al maestro por cuatro cuestiones decisivas que han ocupado a los filósofos durante siglos. Estas cuestiones se referían a la infinitud o finitud del espacio y el tiempo, a la identidad o diferencia entre el cuerpo y el alma, y al destino del liberado después de la muerte. Todos los presentes aguardaban expectantes la respuesta. Y el maestro de nuevo los sorprendió a todos, guardando un prolongado silencio. La vida de cada cual no mejora o empeora por saber si el tiempo o el espacio acaban. Tampoco se aprovecha mejor por saber si el cuerpo o el alma son la misma cosa o diferentes. El caso es que estas opiniones resultan ociosas, una distracción para la mente diáfana y atenta a la que apunta la enseñanza.
Juan Arnau, Paul Valéry, la vanidad del significado, El País 18/01/2023
Las ventajas de usar una IA para la acción de gobierno serían varias. Por una parte, su capacidad de procesar datos y conocimiento para la toma de decisiones es muy superior a la de cualquier humano. También estaría libre (en principio) del fenómeno de la corrupción y no le influirían los intereses personales.
Pero, a día de hoy, los chatbots solo reaccionan, se alimentan de la información que alguien le proporciona y dan respuestas. No son realmente libres de pensar “espontáneamente”, de tomar la iniciativa. Es más adecuado ver estos sistemas como oráculos, capaces de responder a preguntas del tipo “qué crees que pasaría si…”, “que propondrías en caso de…”, más que como agentes activos o controladores.
Los posibles problemas y peligros de este tipo de inteligencias, basadas en grandes redes neuronales, han sido analizados en la literatura científica. Un problema fundamental es el de la falta de transparencia (“explicabilidad”) de las decisiones que toman. En general actúan como “cajas negras” sin que podamos saber qué razonamiento han llevado a cabo para llegar a una conclusión.
Y no olvidemos que detrás de la máquina están los humanos, que han podido introducir ciertos sesgos (consciente o inconscientemente) en la IA a través de los textos que han usado para entrenarla. Por otro lado, la IA no está libre de dar datos o consejos erróneos, como muchos usuarios de ChatGPT han podido experimentar.
Los avances tecnológicos permiten vislumbrar una futura IA capaz de “gobernarnos”, por el momento no sin el imprescindible control humano. El debate debería moverse pronto del plano técnico al plano ético y social.
Jorge Gracia del Río, Los algoritmos elegirán al próximo presidente del gobierno, El País 19/01/2023
Los grandes poetas suelen ser buenos filósofos. No necesitan hacer explícita su filosofía, saben dejarla entre líneas, en el blanco entre los versos o a vuelta de página. Heidegger decía, en una de esas frases suyas tan resonantes, que el poeta y el filósofo viven en una misma cueva. Una verdad a medias, aunque haya poetas que se han deslizado felizmente en el ensayo: Octavio Paz,Samuel T. Coleridge, T. S. Eliot, Antonio Machado o Charles Baudelaire, por citar unos cuantos. Pero el caso de Paul Valéry resulta excepcional. Pues el francés, representante de la poesía pura, se consideraba a sí mismo un antifilósofo: “En la metafísica, nos dice de joven, sólo hay necedad”. Pero la filosofía, como la respiración, es inevitable. No es algo de lo que se pueda prescindir. Cada cual, lo quiera o no, tiene la suya. Incluso para quienes la niegan, la filosofía les reserva una escuela, de la que Diógenes o Nāgārjuna serían dignos representantes.
Juan Arnau, Paul Valéry, la vanidad del significado, El País 18/01/2023
La vida no es tanto adaptación al entorno como la creación de entornos. El bosque amazónico tiene cierta autonomía y produce la lluvia que necesita. Los árboles, cuando necesitan agua, generan más vapor, que se convierte en nubes y lluvia. Bombean agua del suelo a la atmósfera (la suben y transpiran a través de sus copas). El principio antrópico rige aquí. Vemos el universo en la forma en que lo vemos porque existimos. No es posible dejar al espectador fuera de la ecuación. Cualquier teoría válida sobre el universo tiene que ser consistente con la existencia del ser humano. Una verdad de Perogrullo que ignoran muchos modelos de universo. Lo que es evidente es que, como civilización, hemos perdido la conexión con la naturaleza. Los indígenas nos lo recuerdan. Ellos son sus custodios. El error moderno ha sido suponer que no somos naturaleza o que la naturaleza estaba a nuestro servicio. No hay aquí buenismo ni ingenuidad alguna. Cuidar la naturaleza es cuidarnos a nosotros mismos. Ahora somos el lado oscuro de la naturaleza, la pregunta es si queremos seguir siéndolo.
Juan Arnau, Los rostros del agua, El País 13/01/2023
En los manuales proliferan las pequeñas historias que empiezan y terminan, a veces son cuentos y otras, anécdotas y resúmenes de lo que les sucedió a personas que tuvieron un problema, lo afrontaron siguiendo alguna de sus pautas y vencieron. Como saben, una función de las historias es ayudar a vérselas con lo inesperado. La vida está llena de esta clase de acontecimientos. Tener un bagaje de historias oídas, leídas, debería ayudar a enmarcar lo inesperado cuando suceda y saber un poco más a qué atenerse.
En la región gris abunda lo esperado, está fundamentalmente hecha de lo esperado. Las historias, se dice, son útiles para acompañarnos en esos momentos en que el piloto automático no sirve, pues no se puede seguir con él cuando sucede lo excepcional. La región gris se caracteriza, en cambio, por la ausencia de lo excepcional. El mismo trabajo, las mismas expectativas de un trabajo igual de malo que el anterior o de una larga temporada sin trabajo. La misma casa que se va deshaciendo, o una con la misma falta de luz y un previsible precio aún más alto. Los mismos temores, los mismos deseos. Podríamos pensar que las novelas de aventuras, policíacas, románticas, están hechas para entrenar, siquiera de un modo imaginario, la capacidad de vivir sin piloto automático una vida inesperada, y que, en cambio, se acude a los manuales para entrenar, precisamente, la capacidad de vérselas con lo esperado. Pero el hecho es que, como decíamos, la mayoría de ellos guarda dentro montones de pequeñas novelas condensadas.
A menudo hay que vivir en la región gris porque se echa encima, porque salir de ella no consiste en proponérselo. Algunas personas se lo proponen y parece que encuentran una salida individual. Pueden ser llamadas trepas, oportunistas y, en otros casos, cuando su salida no utilizó a ninguna otra persona como escalón, afortunadas. Ya avisamos desde el principio que nos resulta complicado separar lo individual de lo colectivo. A nuestro modo de ver, la mejor manera de abandonar la región gris es transformarla. Y suele ser un proceso jodidamente lento. Su gran ventaja, sin embargo, es que permite no cargar con la región gris, no ser su soporte. Estamos en ella, de acuerdo, pero eso es diferente de sostenerla. Porque no hemos creado la región gris y no tenemos ninguna obligación de hacer que se sostenga. Aguantaremos nuestro propio peso, nuestras dificultades, pero no nos quedaremos con las que nos echaron encima.
Belén Gopegui, Qué buscamos y qué encontramos en los libros de autoayuda, El País 13/01/2023
Puede haber victorias ilegítimas debidas a fraudes electorales y también puede darse el caso de gobiernos que hagan cosas ilegítimas e incluso que se deslegitimen completamente, aunque para juzgarlo están los organismos competentes, no la oposición, a la que únicamente correspondería en ese supuesto presentar la denuncia correspondiente. En Estados Unidos y Brasil, las autoridades encargadas de supervisar los resultados de las elecciones han acreditado las victorias de Biden y Lula. Las revueltas subsiguientes no son justificables por una trampa que pudieran objetivar en una acusación, sino a la mera insatisfacción con el resultado. Se da la paradoja de que hay en amplios sectores sociales una creciente incredulidad en el funcionamiento ordinario de las instituciones y una desmesurada credulidad ante cualquier explicación conspiratoria. Esta situación pone de manifiesto la naturaleza paranoide de nuestras sociedades, escépticas frente a la normalidad institucional y dispuestas a creerse cosas más increíbles que el hecho de que las cosas funcionen correctamente.
En primer lugar, todo esto no sería posible si no se hubiera producido una perversión de los conceptos y del discurso político. La pretensión de los populistas de hablar en nombre del pueblo les incapacita para aceptar los procedimientos democráticos, establecidos precisamente para impedir que nadie —ni la mayoría triunfante ni la minoría derrotada— lo represente en su totalidad y para siempre. En una democracia, el pueblo es el soberano sí, pero plural, representado parcialmente por los agentes políticos, activo tanto en las mayorías que gobiernan como en las minorías que construyen las alternativas al Gobierno vigente.
En segundo lugar, habría que referirse a una impaciencia que obedece a la aceleración estructural de nuestras sociedades. Antes, con ritmos políticos más lentos, quien perdía unas elecciones sabía que gozaría de nuevas oportunidades en el futuro. Hoy, hemos tensado tanto nuestras demandas de éxito que partidos y electores apenas conceden nuevas oportunidades; al primer fracaso se declara agotado el liderazgo y se lo remplaza. Vivimos en una cultura de la urgencia, de la satisfacción inmediata y las recompensas en el corto plazo que está abreviando despiadadamente la vida política de los candidatos.
Una derivada de esta aceleración es considerar el mandato político como una especie de “última oportunidad” que ha de aprovechar quien gobierna y que debe impugnar quien está en la oposición. Esta prisa explicaría algunos errores de los que han ganado, que gobiernan como si no hubiera un mañana, y de una oposición que actúa confundiendo la construcción de una alternativa con la destrucción de la mayoría gobernante. Se instala así la sensación de que en un mandato electoral se puede hacer cualquier cosa, generando unas expectativas en quien gobierna tan exageradas como los temores de la oposición. Unos y otros parecen desconocer las limitaciones de la acción de gobernar en una sociedad compleja y con constricciones de diverso tipo.
El encarnizado combate político se desliza así con facilidad hacia la descalificación del otro como inelegible, no simplemente como una opción legítima pero peor. El peso de la prueba de la ilegitimidad debería estar en quienes acusan y no en quienes cumplen con la legalidad vigente y han configurado una mayoría suficiente. Por supuesto que puede haber decisiones del Gobierno que se sitúen fuera de la legitimidad constitucional, aunque para declararlo hay órganos competentes, no precisamente la oposición, a la que solo correspondería presentar la correspondiente denuncia. En nuestro caso concreto, creo que la cultura política comenzó a estropearse cuando, sin ningún reproche de los organismos encargados de la vigilancia constitucional, ciertos partidos o gobiernos fueron acusados de actuar al margen de la Constitución (a pesar de que la jurisprudencia del Tribunal Constitucional acogía en el marco del juego constitucional a partidos que se proponían objetivos políticos contrarios a la vigente Constitución, como la república o la independencia de alguno de sus territorios). El creciente uso del calificativo “constitucionalista” para restringir el radio de los actores legítimos y excluir a otros revela un uso grotesco de las categorías políticas. ¿Qué Constitución es esta que permitiría gobernar contra ella misma? O las críticas de la oposición son exageradas o la Constitución es muy mala y no merece ser defendida...
El primer deber de la oposición es conseguir que la opinión pública perciba como insólito al Gobierno y no le parezca insólito que la oposición pueda arreglar el supuesto desastre. La oposición forma parte del sistema y se neutralizaría a sí misma si pensara o actuara con una lógica similar a quienes actúan fuera de él. Esto tiene un efecto disciplinante para el modo de plantear la confrontación democrática. Una oposición que deslegitima al Gobierno sin ninguna moderación puede terminar careciendo de argumentos creíbles para rechazar las formas injustificables de hacerle frente (como la violencia) y, de paso, situarse fuera de la credibilidad política que necesita para volver a gobernar.
Daniel Innerarity, La oposición al asalto, El País 12/01/2023
Porque no queremos llegar a conclusiones falsas o engañosas.
No queremos engañarnos ni ser engañados.
No queremos ser víctimas de superengaños, es decir, de una metafísica y una Moralidad que nos lleven a dañarnos o a autodestruirmos, a bloquear la "energía de la vida.
El "nombre" en sí mismo, aletheia, implica sólo dos tesis:
La tesis de la independencia: la verdad (el discurso verdadero) dice "las cosas como son" (Crátilo, 385c)
La tesis de la exclusión: la verdad excluye lo falso: si una proposición es verdadera, su negación debe ser falsa e inaceptable (a-letheia, negación de lo oculto).
La noción de a-letheia como no ocultación nos revela las dos tesis. Ellas nos dicen: hay algo oculto que debe ser revelado.
Como tal, a-letheia es un principio escéptico capital. El concepto nace (en nuestra mente como en la historia) justo cuando nos damos cuenta de que lo que creemos muchas veces es falso, o a lo sumo una verdad a medias: surge cuando nos damos cuenta de que tenemos opiniones, y no la verdad.
... necesitamos la verdad porque no queremos que ls mentiras del poder (...) se hagan pasar por verdades Morales y Metafísicas.
Franca d'Agostini, El nihilismo y el juego de la verdad, La maleta de Portbou, nº 56, enero-febrero 2023
Ese narrador del universo que es el hombre presenta la evolución de la energía, de la vida y de las especies, y en nuestros días avanza lo que puede advenir respecto a entidades inteligentes que son fruto de la técnica. (...) El hecho mismo de haber alcanzado este saber del entorno, debería fortalecer la idea de su singularidad. Y sin embargo la implacable lógica de la teoría le conduce a una contradicción: verse a sí mismo como un elemento más de lo que él mismo cuenta: un animal más que ni siquiera tendría en exclusiva la condición racional.
El concepto mismo de evolución, que el hombre ha desplegado con tanto ingenio, supone inestabilidad, oposición y, tratándose de seres vivos, conflicto y lucha. (...) La elevación por las sociedades actuales del sentimiento de universal compasión con las especies vivas a principio de moralidad genera un ethos, un comportamiento verdaderamente extraño: el ser que indiscutiblemente piensa el universo y los entes que lo forman, niega tener alguna diferencia esencial, ontológicamente jerárquica, respecto a seres animados que no hacen tal cosa; el narrador del universo se afana en buscar argumentos para sostener que la mera condición de ser vivo es equiparable en peso a la doble condición de ser vivo y a la vez testigo de la vida.
El hombre cuenta. Desde luego en todo momento el hombre importa, importa el ser que da cuenta o razón de las cosas, e importa el ser que fuimos cada uno de nosotros, cuando, en el momento esencial en que nuestra animalidad se empapó de palabras, quisimos que todas las cosas que configuran el mundo fueran contadas. Ismael, el único superviviente en la hecatombe del ballenero Pequod, no se equivoca sobre cómo interpretar esta excepción, y recoge unas palabras del libro de Job: "Sólo yo sobreviví para contarlo".
Víctor Gómez Pin, En la catástrofe ... el hombre cuenta, La Maleta de Portbou, nº 56, enero-febrero 2023
Una de las características que se suele atribuir al capitalismo es su capacidad fagocitadora. Como si se tratara de un agujero negro, todo lo que se aproxima a sus dominios es engullido, pero también descompuesto, por la fuerza incontrolable de su gravedad. Incluso la luz acaba formando parte de su oscuridad. Los ejemplos son infinitos y de los más diversos ámbitos. Y especialmente significativos cuando nos referimos a aquellas llamaradas que surgieron como posibles alternativas al propio capitalismo.
La escala social, por tanto, ya no se muestra como radicada en nuestro origen social y en la naturaleza -la sustancialidad- de nuestro linaje, fundamento del orden social del Antiguo Régimen. En la sociedad burguesa nuestro ser social se identifica con la capacidad de acumular objetos que son entendidos como constituyentes de nuestro ser individual, el cual deberemos construir a partir de nuestro nivel adquisitivo. Un estatus que –consecuentemente con la mentalidad meritocrática del capitalismo– dependerá de nuestro trabajo y esfuerzo.
Tal concepción la encontramos, por ejemplo, en la última campaña de una famosa marca de ropa cuyo eslogan –“que nada ni nadie te defina”– invita a la autodefinición –la definición es en la metafísica clásica donde se manifiesta el ser de lo real– a través del consumo de sus productos. Un eslogan que, además, nos remite a otra de las ideas recurrentes en la publicidad: la del acto de consumir como supuesta forma de rebeldía frente a la autoridad y el orden establecido.
Una vez –al menos desde el punto de vista de la descripción de la lógica del consumo– se ha identificado el ser con el tener, el individualismo propio del capitalismo busca ocultar su propia naturaleza aborregante invitando a la construcción de nuestra identidad a través de un tener que nos hace, supuestamente, diferentes y ajenos a la normatividad establecida.
Por un lado, el objeto de consumo se convierte no solo en el símbolo de nuestra identidad, sino de aquello que nos diferencia y nos hace superiores a los demás: aquellos y aquellas que, en su mediocridad, cumplen con las normas establecidas. Un punto de vista en realidad tan paradójico como sorprendente: la identidad específica de cada uno y cada una se alcanza no solo a través del consumo, sino del consumo de aquello que la marca del producto en cuestión pretende vender al mayor número posible de consumidores y consumidoras.
Por otro, esa supuesta diferencia la construye el individuo –como en el caso del superhombre– al margen de la sociedad y sus normas. El acto supremo del consumo se muestra así como acto de libertad y rebeldía contra lo establecido, a pesar de que –segunda paradoja– el consumo sea precisamente pilar fundamental de lo establecido. El producto –como ocurre de manera recurrente en los anuncios de coches– se convierte en fundamento de una vida en auténtica libertad. Una libertad que se ejerce en la propia decisión de comprar como acto propio de aquel “que no acepta las normas establecidas” (todo un leitmotiv en los anuncios publicitarios).
Sergio de Castro Sánchez, El Superhombre se va de compras: Nietzsche y la construcción del sujeto consumista, El Salto diario 19/06/2018 [https:]]«Si alguien pregunta por qué hemos muerto
diles que fue porque nuestros padres mintieron».
La muerte es lo más precioso que le ha sido dado al hombre. Por esa razón hacer un mal uso de la misma constituye una impiedad suprema. Morir mal.SIMONE WEILL
Yuval Noah Harari: Crec que la nostra responsabilitat arriba tan lluny com el nostre poder, i un dels problemes a què ens enfrontem és el desequilibri entre el nostre poder i el nostre coneixement. Durant milers d’anys, el poder de l’ésser humà ha augmentat de manera considerable, però el nostre coneixement no hi està a l’altura. Per exemple, és molt més fàcil construir una presa sobre un riu que entendre totes les conseqüències que tindrà per als peixos, els ocells, els arbres, el clima i, en definitiva, per a nosaltres. Això és doblement cert en el terreny individual. Ara estic connectat per mitjà de cadenes causals a tot allò que passa al món. Però si volem investigar fins i tot una cosa ben simple, com ara d’on prové aquesta camisa i quins humans o animals poden haver patit en el seu procés de producció, literalment tardaria anys a conèixer realment les conseqüències d’haver-la comprada.
Singer: També hi ha límits clars en el grau de preocupació que hi podem destinar. Tots tenim les nostres prioritats. Quan he adquirit experiència, he mirat de fer certes coses relacionades amb el tracte als animals i les conseqüències de menjar-ne, i també amb què podem fer per ajudar qui viu en situació de pobresa extrema per mitjà de donacions a organitzacions benèfiques eficaces, però simplement no tinc temps per informar-me degudament de cada producte que vesteixo, compro o utilitzo.
Harari: Aquest és un problema bastant recent de la història. El tipus de vida que duien els humans no implicava aquestes qüestions ètiques. Un caçador-recol·lector coneixia la majoria de les conseqüències del que feia, perquè eren molt locals. Era molt estrany que pogués fer alguna cosa que tingués un impacte significatiu en un lloc distant o en persones i animals desconeguts. Per tant, des d’una perspectiva evolutiva, el nostre sentit ètic o els nostres instints ètics no han evolucionat per abordar el tipus de qüestions ètiques que ens plantegem al segle xxi.
Singer: Això no obstant, heu assenyalat que els nostres avantpassats o els pobles indígenes no sempre coneixien les conseqüències del que feien. Us parlo des d’Austràlia, i, quan els humans van arribar-hi, van acabar amb prop del 90% dels grans mamífers del país. Estic segur que no sabien que, amb el nombre d’animals que mataven, els seus descendents tindrien menys animals per caçar. Però, així i tot, ho van fer.
Harari: És absolutament cert. Evidentment, això va tenir lloc durant milers de generacions. Crec que la principal diferència amb l’actualitat és que no estaven en condicions d’entendre les conseqüències del que feien a llarg termini. Almenys col·lectivament, nosaltres estem en condicions de fer-ho. Tenim capacitat per entendre el que estem fent al planeta, al clima i a d’altres animals. Només que, per entendre-ho, depenem d’institucions col·lectives que compilen i analitzen el coneixement. Èticament tendim a confiar en nosaltres mateixos, però per gestionar problemes d’aquesta magnitud depenem d’aquestes grans institucions, cosa que provoca un sentiment d’alienació. Això és part del motiu de la profunda crisi ètica a la qual ens enfrontem.
Peter Singer i Yuval Noah Harari, A qui li importa aquest món? Sobre el poder de la responsabilitat, Metropolis. Barcelona octubre 2022, nº 124
Este es el verdadero significado político que tuvo este término en la Atenas clásica, una expresión que cuando empezó a circular estaba muy lejos del glamour académico que terminaría adquiriendo en las famosas lecciones de Foucault del Collège de France. No hay más que leer las comedias de Aristófanes para comprobarlo. La parresía, para no andarnos por las ramas, era en primera instancia la garrulería que se le atribuía a la forma de hablar de los pobres, las mujeres y los esclavos (Ar. Th. 540-543). Lo que sucedió es que después de la batalla de Salamina los pobres tomaron conciencia de que gracias a su papel como remeros de la flota se habían convertido en el principal baluarte de la ciudad, y a partir de entonces empezaron a caminar con la cabeza más alta y a exigir que en las asambleas se escucharan sus intervenciones con el mismo respeto y dignidad con el que se atendía a los oradores de rancio abolengo. En este sentido, es muy sugestivo que Judith Butler haya dedicado una de sus últimas intervenciones públicas a la parresía (conferencia impartida en el Hebbel am Ufer de Berlín, y publicada en Sin miedo. Formas de resistencia a la violencia de hoy, 2020), porque lo que hicieron los pobres con esta palabra fue un ejercicio de resignificación similar al que hicieron los activistas del movimiento queer con la palabra que adoptaron de nombre (en español, «rarito»). Butler, sin embargo, no se adentra por este camino, porque su punto de arranque son las lecciones que Foucault impartió en la Universidad de California en Berkeley (cf. Discurso y verdad en la Antigua Grecia, 2004; y también sus lecciones en el Collège de France: La hermenéutica del sujeto, 2002; El gobierno de sí y de los otros, 2009; y El coraje de la verdad, 2010), y aunque estas lecciones son tan jugosas que siguen dando que hablar (y lo seguirán haciendo en el futuro, como demuestra la propia contribución de Butler), el punto de vista de Foucault no refleja el sentido de la parresía histórica. Esto no le quita a su reflexión un ápice de su valor, ni tiene por qué socavar el rendimiento político o filosófico de su conceptualización de la parresía. Simplemente, deja más espacio para pensar un concepto que a diferencia de lo que supuso Foucault no trata de la valentía que tienen los grandes oradores o filósofos cuando se ponen en pie para cantarle las cuarenta al pueblo, sino de la dignidad de la forma de hablar de los pobres y del asombroso acontecimiento de que esta dignidad se convirtiera en uno de los principios políticos más importantes de la ciudad. Esta reconceptualización de la parresía histórica, como espero aclarar en este artículo, tiene muchas cosas que aportarnos a los desafíos del presente y a los debates que han sido abiertos por la propia Butler (entre otros, su intento de repensar la parresía de Foucault en el contexto de los cuerpos, las resistencias y los movimientos sociales).
David Hernández Castro, Sin chusma no hay 'parresía', elsaltodiario.com 16/12/2022
–Cuando yo utilizo una palabra –dijo Humpty Dumpty en un tono más bien desdeñoso– significa lo que
yo quiero que signifique: ni más ni menos.
–La cuestión –dijo Alicia– es si puedes hacer que las palabras signifiquen tantas cosas distintas.
–La cuestión –dijo Humpty Dumpty– es saber quién manda.
Lewis Carroll, Alicia en el país de las maravillas.
La noción de género es una noción de diagnóstico clínico que surge en un contexto médico psiquiátrico. No es por azar que mi libro se llame Dysphoria mundi. Hasta ahora, el ámbito de la sexualidad ha sido definido desde un lenguaje médico patologizante y que interpreta cualquier forma de disidencia respecto a la norma como disforia, como patología. Pero la noción de disforia no es médica, es política. Y no solamente no se refiere a mí, sino a cualquier cuerpo vivo que resiste a esta forma de imposición salvaje de la norma.
Las técnicas de muerte con las que se gestionaba a los cuerpos supuestamente subalternos se han expandido a la totalidad de la población (con la excusa del COVID). Me sentía como un médico de urgencias que de repente llega a casa de los normales y les dice: “Ojo, que ahora sois vosotros la carne de cañón”. También tiene que ver con el hartazgo de separar constantemente hombres, mujeres, heterosexuales, homosexuales. ¿Pero de verdad creéis que somos tan distintos? ¿De verdad creéis que, frente a lo que está sucediendo, el poder tendrá algún reparo en comeros y trituraros exactamente de la misma manera? Por eso digo que cualquiera de vosotros sois tan queer como yo porque estáis en el centro de esta pandemia. Si eres un cuerpo vivo sometido a regulaciones de vigilancia, control y tecnologías de la muerte, te conviene leerte esto, por si acaso.
Cualquier espacio se ha convertido totalmente en disfuncional y, por tanto, genera dolor, porque es imposible experimentar con tu propia subjetividad sin ser constantemente acosado. La cuestión es cómo posicionarse frente a eso. Una opción es pensar que estamos abocados a una especie de destrucción apocalíptica: sálvese quien pueda. La otra, y es lo que denomino dysphoria mundi, sería pensar que quizá por primera vez en la historia estamos en una situación límite y excepcional al mismo tiempo, porque tenemos la posibilidad de llevar a cabo un cambio de paradigma, una transformación radical de todos los modos de producción y de reproducción. La producción fósil o a través del trabajo, la reproducción heterosexual habitual, la taxonomía jerárquica que distingue entre humanos y animales... Ya sabemos que todo ese sistema está obsoleto. Y, desde esa postura, tendríamos la posibilidad de inventar colectivamente otra forma de vivir.
Cuando te haces consciente de tu posición excéntrica o disidente con respecto a la norma, hay muchas maneras de afrontarla. Una de ellas, claro, es desde la posición de la víctima. Y otra manera es entender ese pequeño espacio como un lugar de experimentación, como un lugar desde el que empezar, aunque sea de manera muy tímida y microscópica, a inventar prácticas de libertad. No estoy romantizando ni idealizando la falta de acceso a ciertos derechos políticos, que puedo compartir con gente que vive situaciones de discapacidad, trabajo sexual o inmigración, pero a veces pensamos que la norma es fácil y la disidencia es muy difícil. Y mi experiencia es que la norma es un lugar muy, muy duro, porque uno está siempre con una sensación de frustración, de fallo o de incompetencia. Sugiero que estar fuera de la norma puede ser un excelente lugar desde el que mirar lo que está sucediendo y desde el que establecer otras alianzas con otra gente, y empezar a disfrutar de la posibilidad de inventar otra forma de vida.
Carlos Primo, entrevista a Paul B. Preciado: "Estar fuera de la norma puede ser un excelente lugar para mirar lo que está sucediendo", Icon. El País 15/12/2022
Se trata en esto de una cuestión de jerarquía: ¿interesa la naturaleza en sí misma, o interesa la naturaleza porque interesa ese raro ser natural que es el hombre? O aún: ¿la causa de la naturaleza como instrumento para la causa del hombre, o más bien el saber del hombre al servicio de la preservación de una naturaleza de la que eventualmente el hombre ni siquiera formaría parte? Sin duda la respuesta a favor de la naturaleza resulta como corolario de toda relativización del peso del ser humano por homologación de nuestras facultades a las de otros animales.
Pero el peso ontológico (el peso en el conjunto de los entes) que se le da al ser humano es también rebajado cuando se homologa nuestra inteligencia a entidades del tipo Deep Learning soslayando la variable clave de que tales entidades son resultado de la existencia del hombre y no a la inversa. Ambas posturas se unifican en un discurso (incontestable desde el punto de vista fenomenológico) sobre el cosmos que cabe sintetizar así: enriquecida la naturaleza inanimada con la emergencia de la vida, y enriquecidos los sistemas de señalización e información con la aparición de un código complejo como es el lenguaje humano, el despliegue de las potencialidades de este último condujo a su reproducción en entidades que ya no tienen la vida como soporte, pero obviamente sí las leyes de la física. Las diferentes etapas sólo se diferenciarían gradualmente, siendo absurda la idea de erigir una de ellas en referencia o foco de significación.
Como ya he señalado nada cabe objetar a tal discurso…mientras nos atengamos a lo que la ciencia puede testimoniar. Pero la coherencia se rompe si nos permitimos introducir la pregunta: ¿qué da soporte al discurso de la ciencia? Pues es obvio que la ciencia es una manifestación del lenguaje refiriéndose a cosas que no son el propio lenguaje. La ciencia es fruto del hombre, y por ello el hombre mismo no puede ser homologado a nada de lo que la ciencia explora, no cabe por así decirlo una ciencia del hombre.
Una persona a la que exponía la idea que sustenta estas reflexiones, al apercibirse de la relativización (cuando no desvalorización) del ser humano que se desprende de las tesis reduccionistas, exclamó: ¡Y tan contentos! Y efectivamente algo en estas posturas llama poderosamente la atención: decimos que el hombre es un pasajero momento del orden natural, como si esto aboliera el sentimiento de que ese pasajero momento es el testigo incluso de tal pasar, de tal manera que fuera del mismo, fuera de lo que él describe (sea o no científicamente), lo seguro es nada. Y una vez más la pregunta:
¿Por qué esta rebaja en nuestro entorno cultural del peso de la variable lenguaje? ¿Por qué se niega la primacía del ser que es principio de toda afirmación como de toda negación? La respuesta es quizás que ello evita (al menos en estado de vigilia) la confrontación inevitable con la tremenda realidad de lo que somos. Y decididamente esta forma de denegación de la certeza (esta necesidad de imposible fusión con anímales, máquinas y eventualmente árboles) ha ganado la partida, empujando a los arcenes a todo aquel que dé signos de no comulgar y obligando incluso a plegarse a otras formas de religión, que en el pasado defendieron su “certeza” de la singularidad humana pero sólo en base al dogma de que una inteligencia creadora había querido que así fuera. ¡Sin duda era este segundo aspecto lo que confería la firmeza para conducir a la pira a quien sostuviera una tesis contraria!
Víctor Gómez Pin, ¡Tan contentos!, El Boomeran(g) 12/12/2022
Si la consciencia es un fenómeno emergente que generó la evolución tras agrandarse los cerebros y aumentar el número de neuronas, no sería descartable que lleguemos a la IAG (inteligencia artificial general) por la vía de modelos del tipo de ChatGPT de mayor tamaño. GPT-4 está a la vuelta de la esquina y se espera que tenga 500 veces más parámetros que GPT-3. Si ahora estamos con la boca abierta, no estamos preparados para el siguiente nivel.
Nuestra capacidad para predecir los efectos de una tecnología transformadora es muy limitada. Ya hemos discutido que una IA parezca que consciente sin serlo basta para cambiar nuestra visión del asunto por completo. Cuanto mejores resulten las versiones del modelo, más plausible será que podamos cederles las riendas en ciertas situaciones. Lo que parece más probable, de momento, es que vayamos hacia una creatividad asistida por inteligencia artificial. Dibujando, escribiendo o programando tendremos atajos, sugerencias de nuevas ideas o indicaciones de por donde deberíamos seguir. Una suerte de “autocompletar para todo” que aumentará la productividad, pero que, de momento y como mucho, solo nos aligerará las tareas de más bajo nivel del proceso creativo. Habrá cada vez más valor en la ideación, y menos en la técnica para implementar esa idea o solución.
Antonio Ortiz, ¿Puede ChatGPT amenazar el negocio de Google?, Retina. El País
Llegiu més en Marta Peirano
En el encuentro Año Cero organizado por Retina, Mark O’Connell, autor de Cómo ser una máquina, presentó esa idea de resurrección perdurable, de neo-humanidad desvestida de la pesada carga de la parca. El transhumanismo, resumido fácilmente en cómo “subir nuestra mente a una máquina”, en palabras de O’Connell, no es un grupo de frikis-viciados al WOW, con ritualística ciencióloga, adoradores de la máquina como el Ministerio Post Natural Valenciano y sus Advenimientos Sónicos. El movimiento transhumanista cuenta entre sus filas con cabecillas de la talla de Peter Thiel, Elon Musk y Ray Kurzweil, verdaderos coroneles de Silicon Valley (EEUU). Un oasis de ricos, riquísimos, en todo lo que importa; ambición y dinero, inteligencia y dinero, contactos y dinero, locura y dinero… Los titanes del Valle de Silicio poseen tanto de todo ello que hasta algunos se pueden permitir la bizarrada, como contaba O’Connell, de montar instalaciones criogénicas en Phoenix (EEUU), donde ya hay unos cuantos visionarios metidos en el congelador a la espera de un futuro en el que se pueda extirpar su cerebro, escanearlo y subirlo a un terminal robótico. Algo muy similar a Ghost in the Shell o a los, ahora no tanto, delirios ficticios de Arthur C. Clarke.
Ya lo decía Aquiles en Troya: “Te contaré un secreto, algo que no se enseña en tu templo: los dioses nos envidian. Nos envidian porque somos mortales, porque cada instante nuestro podría ser el último, todo es más hermoso porque hay un final. Nunca serás más hermosa de lo que eres ahora, nunca volveremos a estar aquí…”.
Desear la eternidad es el síntoma de una élite demasiado acostumbrada a tenerlo todo. Incapaz, como son los poderosos, de someterse a nada, incluso a los designios de la muerte. A esa muerte que expulsa a los muchachitos obscenos que somos y nos deja con lo que queda de nosotros. Algo inerme. Algo, en cierto sentido, puro. O también puede ser un reto. Un pulso egómano a la creación. El escupitajo definitivo a la cara de los dioses. Como bien apuntó O’Connell durante la charla, un ejercicio de sublimación freudiana; la reconducción de las pulsiones hacia objetivos más allá de lo sexual que en estos gerifaltes de la eternidad se materializa en deificarse.
Galo Abrain, Mercaderes del apocalipsis y el oscuro negocio del transhumanismo, Retina. El País
No quedan muy lejos algunos ejemplos de estoicismo moderno. Wittgenstein cuenta que de joven experimentó esa sensación de que “nada podía ocurrirle”. Era un modo de decir que, ocurriera lo que le ocurriera (una bala perdida, un cáncer), sabría aprovechar la experiencia. Una actitud que le permitió asumir el puesto de vigía en medio del fuego cruzado durante la primera gran guerra. Algo parecido encontramos en Simone Weil, siempre arriesgándose, ya fuera en la fábrica de la Renault o en los hospitales de Londres, con la humildad como valor supremo, que hace que el ego no apague la llama de lo divino. Curiosamente, la actitud de estos dos grandes filósofos, en los que reviven los viejos ideales grecolatinos, contrasta con algunas obsesiones actuales. Desde el miedo al propio cuerpo, que requiere un examen continuado, hasta la obsesión por la seguridad (to feel safe, to feel at home). Como si un escáner o un refugio pudieran otorgar esa tranquilidad, como si hubiera que encerrarse para sentirse seguro. Mientras un mandatario reciente se preguntaba cuánto dinero necesitaba para sentirse seguro y, al no hallar la cifra, se consagró a amontonar capitales, Wittgenstein se exponía en la trinchera y Weil en la columna de Durruti.
Juan Arnau, Más Séneca y menos ansiolíticos, El País 28/04/2022
https://elpais.com/cultura/2018/04/27/babelia/1524838978_764302.html?fbclid=IwAR38T44EwovvcYQ8PG3_9_qR7tGIPkX1B-GkjF41tccw_4s7_MZBNjSDIpU#?rel=lom
[...]. La ideología del movimiento explica a los seguidores sus tribulaciones y ofrece una propuesta de acción para remediar tales sufrimientos. Las ideologías más poderosas se alimentan de la ansiedad emocional latente en la población, como el deseo de justicia, las creencias religiosas, la liberación de la ocupación extranjera. La ideología proporciona un prisma, que incluye un vocabulario y categorías analíticas a través de las cuales se evalúa la situación. De esta manera, la ideología puede moldear la organización y los métodos operativos del movimiento» (1-65). «El mecanismo central a través del cual se expresan y se absorben las ideologías es el relato. Un relato es un esquema organizativo expresado en forma de historia. Los relatos son centrales en la representación de las identidades [...]» (1-66). El manual vuelve en distintas ocasiones a este, en particular en el capítulo sobre la Inteligencia: «La forma cultural más importante para comprender las fuerzas Coin [contrainsurgencia] es el relato [...]. Son los medios mediante los cuales las ideologías se expresan y son absorbidas por los individuos en una sociedad [...]. Al escuchar el relato, las fuerzas Coin pueden identificar el núcleo de los valores clave de la sociedad» (3-51).[1]
Lo más interesante (y desconcertante) es que los generales de los marines que escribieron el Manual retoman, con el lenguaje y la jerga de las ciencias humanas estadounidenses, las dos tesis fundamentales expresadas por el filósofo marxista francés Louis Althusser hace cincuenta años: a) «La ideología es una “representación” de la relación imaginaria de los individuos con sus propias condiciones reales de existencia»; b) «toda ideología tiene como función “constituir” a los individuos en sujetos»[2] (en el caso del Manual, en «sujetos de la insurrección»). El corolario es que, en cualquier caso, llevamos una ideología en nuestro interior, lo queramos o no. Por tal razón nadie puede decir la frase «no soy ideológico». Cuando no te adhieres voluntariamente a una ideología (o a una religión), te adhieres involuntariamente a ella, «respiras» ideología. Y por lo general, la ideología se niega a sí misma como tal, es más, vive de su propia negación y de atribuir ideologismo a todas las demás «representaciones».
De esta forma, mientras incluso los marines tienen que aprender hasta qué punto es importante la ideología, ¡la izquierda occidental se rasga las vestiduras acusando de ideologismo a su propio legado cultural y político!
En cierto sentido, la guerra ideológica desencadenada contra la izquierda, combatida y abrumadoramente ganada en los últimos cincuenta años, puede considerarse precisamente como una forma de counterinsurgency, de reacción a los movimientos de los sesenta. Esta guerra se libró y se ganó en primer lugar en los Estados Unidos.
Marco d'Eramo, Dominio, Barcelona, Anagrama 2022
(1) D. H. Petraeus, James Ames, FM-324 Counterinsurgency, descargable de [https:] o en versión impresa, The U.S. Army/Marine Corps Counterinsurgency Field Manual, University of Chicago Press, Chicago, 2007.
(2) Louis Althusser, «Idéologie et appareils idéologiques d’État» (1969), en Positions (1964-1975), Éditions Sociales, París, 1976, págs. 67-126. Las citas, en las págs. 101 y 110.
El comportamiento de los sistemas complejos nos resulta difícil de comprender y, a menudo, nos parece contrario a la intuición lógica. Está ejemplificado por el famoso efecto mariposa, cuando una respuesta sensible, dependiendo de las condiciones iniciales, puede acabar con grandes diferencias en una etapa posterior. Como cuando el aleteo de una mariposa en el Amazonas llega a provocar un tornado que arrasa Texas. Pero tales metáforas no siempre ayudan, y empecé a preguntarme si en realidad somos capaces de pensar de manera no lineal. Las predicciones sobre el comportamiento de los sistemas dinámicos complejos a menudo se presentan en forma de ecuaciones matemáticas aplicadas a las tecnologías digitales. Los modelos de simulación no nos hablan claro y directo; sus resultados y las opciones que producen deben interpretarse y explicarse. Dado que se perciben como científicamente objetivos, a menudo no se cuestionan. Pero, entonces, las predicciones adquieren el poder activo que les atribuimos. Si se sigue ciegamente, el poder predictivo de los algoritmos se convierte en una profecía de autocumplimiento: una predicción se cumple porque la gente cree en ella y actúa en consecuencia.
Así, me propuse salvar la brecha entre el nivel personal, en este caso las predicciones que recibimos como individuos, y lo colectivo, representado por sistemas más complejos. Nos sentimos cómodos con mensajes conocidos y comunicaciones que nos llegan a nivel personal, mientras que, a menos que adoptemos una postura profesional y científica, vivimos todo lo relacionado con sistemas complejos como una fuerza externa e impersonal. ¿No podría ser, me preguntaba, que se nos convenza tan fácilmente de confiar en un algoritmo predictivo porque nos llega a nivel personal? Y al mismo tiempo, tal vez desconfiamos del sistema digital, sea lo que sea que entendamos como tal, porque lo percibimos como impersonal.
Inesperadamente, la crisis del coronavirus reveló las limitaciones de las predicciones. Una pandemia es una de esas incógnitas previsibles que se espera que ocurran. Se sabe que es probable que aparezcan, pero se desconoce cuándo y dónde. En el caso del virus SARS-CoV-2, la brecha entre las predicciones y la falta de preparación pronto se hizo evidente. Estamos preparados para creernos ciegamente las predicciones que los algoritmos arrojan sobre lo que debemos consumir, sobre cuál tiene que ser nuestro comportamiento e incluso nuestro estado mental emocional en el futuro. Creemos lo que nos dicen sobre los riesgos para la salud y los avisos sobre la necesidad de cambiar nuestro estilo de vida. Tales datos se utilizan para la elaboración de perfiles policiales, sentencias judiciales y mucho más. Y, sin embargo, no estábamos preparados en lo más mínimo para una pandemia que se había pronosticado mucho tiempo atrás. ¿Cómo ha podido fallar todo?
Así pues, la crisis de la COVID-19, que lo más probable es que pase de ser una emergencia a ser una situación endémica, fortaleció mi convicción de que la clave para comprender los cambios que estamos viviendo está vinculada a lo que llamo la paradoja de la predicción. Cuando el comportamiento humano, por flexible y adaptativo que sea, comienza a ajustarse a lo que anuncian las predicciones, corremos el riesgo de volver a un mundo determinista, en el que el futuro ya está fijado. La paradoja se encuentra en la relación dinámica pero volátil entre el presente y el futuro: las predicciones, como es evidente, son sobre el futuro, pero actúan directamente sobre cómo nos comportamos en el presente.
El poder predictivo de los algoritmos nos permite ver más allá y prever los efectos de las pautas emergentes, dentro de sistemas complejos obtenidos a través de modelos de simulación. Respaldados por una enorme potencia informática, y entrenados en una ingente cantidad de datos extraídos del mundo natural y social, podemos trazar algoritmos predictivos y analizar su impacto. Pero la manera en que hacemos esto es paradójica en sí misma: anhelamos conocer el futuro, pero nos desentendemos de cómo las predicciones nos afectan en el presente. ¿Qué creemos, pues, y qué descartamos? La paradoja surge de la incompatibilidad entre una función algorítmica, que al fin y al cabo es una ecuación matemática abstracta, y esas creencias humanas lo bastante poderosas para impulsarnos (o no) a actuar.
Los algoritmos predictivos han adquirido un poder poco común que se expresa en varias dimensiones. Hemos llegado a confiar en ellos bajo formas que incluyen predicciones científicas con una amplia gama de aplicaciones, como la mejora de las previsiones meteorológicas o los numerosos instrumentos tecnológicos diseñados para abrir nuevos mercados. Se basan en técnicas de análisis predictivo que han dado como resultado una amplia gama de productos y servicios, desde el análisis de muestras de ADN para predecir el riesgo de determinadas enfermedades, hasta aplicaciones en política (se ha llegado a apuntar a grupos específicos de votantes, cuyo perfil se ha establecido a través de bases de datos, algo que se ha convertido en una característica habitual de las campañas). Las predicciones se han vuelto omnipresentes en nuestra vida diaria. Regalamos nuestros datos personales a cambio de conveniencia, eficiencia y ahorro en los productos que nos ofrecen las grandes empresas. Alimentamos su insaciable apetito por más datos y les confiamos información sobre nuestros sentimientos y comportamientos más íntimos. Parece que nos hemos adentrado en un camino irreversible de confianza en tales compañías. El análisis predictivo prevalece en los mercados financieros, donde se instalaron hace mucho tiempo las evaluaciones de riesgo automatizadas de comercio y tecnología financiera. También es la columna vertebral del desarrollo militar de armas robotizadas, cuyo despliegue real constituiría una auténtica pesadilla.
Sin embargo, la pandemia de la COVID-19 ha revelado que el control es mucho menor de lo que pensábamos. Esto no se debe a algoritmos defectuosos ni a falta de datos, aunque la pandemia ha evidenciado hasta qué punto se subestima la importancia del acceso a datos de calidad y su interoperabilidad. No hubo algoritmos predictivos cuando se advirtió de posibles epidemias; los modelos epidemiológicos y la estadística bayesiana fueron suficientes. Pero las advertencias no fueron escuchadas. La brecha entre saber y actuar seguirá existiendo si la gente no quiere saber o encuentra muchas excusas para justificar su inacción. Por tanto, las predicciones deben verse siempre en su contexto. Pueden caer en el vacío o llevarnos a seguirlas a ciegas. La analítica predictiva, aun cuando se expresa como una derivada de nuestra ignorancia, viene como un paquete digital que recibimos con gusto, pero que rara vez nos vemos en la necesidad de desempaquetar. Tiene la apariencia de productos algorítmicos refinados, producidos por un sistema que parece impenetrable para la mayoría de nosotros y, a menudo, guardado celosamente por las grandes empresas que lo poseen.
Así pues, las observaciones realizadas durante mi viaje intelectual empezaron a centrarse en el poder de la predicción y, en especial, en el poder ejercido por los algoritmos predictivos. Esto me permitió preguntarme: ¿cómo cambia la inteligencia artificial nuestra concepción del futuro y nuestra experiencia del tiempo?
Lo que veo ahora es que ya ha llegado el futuro. Vivimos no sólo en una era digital, sino en una máquina del tiempo digital. Una máquina alimentada por algoritmos predictivos que producen la energía para empujarnos más allá del futuro que ya ha llegado, hacia un futuro desconocido que queremos dilucidar desesperadamente. Por tanto, nos apresuramos a compilar pronósticos y a participar en múltiples ejercicios de previsión, tratando de obtener una medida de control sobre lo que de otro modo parece incontrolable debido a su complejidad. Los algoritmos y análisis predictivos nos brindan tranquilidad al trazar las trayectorias para el comportamiento futuro. Les atribuimos poderes y nos sentimos apoyados por los mensajes que transmiten sobre las incógnitas que más nos preocupan. Nuestro anhelo de certeza es tal que incluso en los casos en que el pronóstico es negativo nos sentimos aliviados de saber lo que sucederá. Al ofrecer tal seguridad, las predicciones algorítmicas pueden ayudarnos a hacer frente a la incertidumbre y, al menos en parte, devolvernos algo de control sobre el futuro.
Por tanto, es apropiado recordar el trabajo de los profesionales de STS (Estudios de Ciencia y tecnología) que han analizado extensamente la configuración social de las tecnologías. Sus hallazgos demuestran que las tecnologías se aplican de forma selectiva. Tienen género. Se traducen en productos que abren nuevos mercados y que dan un nuevo impulso al capitalismo global. Los beneficios de la innovación tecnológica nunca se distribuyen por igual, y las desigualdades sociales ya existentes se hacen más profundas con el cambio tecnológico acelerado. Pero nunca es la tecnología sola la que actúa como una fuerza externa que provoca el cambio social. Más bien, las tecnologías y el cambio tecnológico son consecuencia de condiciones previas sociales, culturales y económicas, y resultado de muchos procesos coproductivos.
La propensión de las personas a orientarse en relación con lo que hacen los demás, en especial en circunstancias inesperadas o amenazantes, aumenta el poder de los algoritmos predictivos. Magnifica la ilusión de tener el control. Pero si el instrumento gana en comprensión perdemos la capacidad de pensamiento crítico. Terminamos confiando en el piloto automático mientras volamos a ciegas en la niebla. Sin embargo, hay situaciones en las que es crucial desactivar el piloto automático y ejercer nuestro propio juicio sobre lo que debemos hacer.
Al visualizar el camino por delante, veo una situación en la que hemos creado un instrumento altamente eficiente que nos permite seguir y prever la dinámica en evolución de una amplia gama de fenómenos y actividades, pero en la que en gran medida no entendemos las causas. Dependemos cada vez más de lo que nos dicen los algoritmos predictivos, sobre todo cuando las instituciones comienzan a alinearse con sus predicciones, a menudo sin darse cuenta de las consecuencias no deseadas que seguirán. Confiamos no sólo en el poder performativo de la analítica predictiva, sino también en que sabe qué opciones presentarnos, de nuevo sin considerar quién ha diseñado estas opciones y cómo, o que podría haber otras opciones igualmente dignas de considerar.
Cuando las profecías autocumplidas comienzan a proliferar, corremos el riesgo de volver a una cosmovisión determinista en la que el futuro aparece como prescrito y, por tanto, cerrado. El espacio vital para imaginar lo que podría ser de otra manera comienza a encogerse. La motivación y la capacidad de ampliar los límites de la imaginación se reducen. Depender sólo de la eficacia de la predicción oculta la necesidad de comprender por qué y cómo. El riesgo es que todo lo que atesoramos sobre nuestra cultura y nuestros valores se pueda atrofiar.
Además, en un mundo gobernado por la analítica predictiva, no existe ni lugar ni obligación de rendir cuentas. Cuando el poder político deja de rendir cuentas a aquellos sobre quienes se ejerce, corremos el riesgo de destruir la democracia. La rendición de cuentas se basa en una comprensión básica de causa y efecto. En una democracia, esto se enmarca en términos legales y es una parte integral de las instituciones democráticamente legitimadas. Si esto ya no está garantizado, el control se vuelve omnipresente. Los macrodatos aumentan aún más y los datos se adquieren sin comprensión ni explicación. Nos convertimos en parte de un sistema predictivo interconectado y afinado que se cierra dinámicamente sobre sí mismo. La capacidad humana de enseñar a otros lo que sabemos y hemos experimentado comienza a parecerse a la de una máquina que puede enseñarse a sí misma e inventar las reglas. Las máquinas no tienen empatía ni sentido de la responsabilidad. Sólo los humanos pueden rendir cuentas y sólo los humanos tienen la libertad de asumir responsabilidades.
Por fortuna, todavía no hemos llegado a ese extremo. Todavía podemos preguntarnos: ¿de verdad queremos vivir en un mundo completamente previsible donde el análisis predictivo invada y guíe nuestros pensamientos y deseos más íntimos? Eso significaría renunciar a la incertidumbre inherente del futuro y reemplazarla con la peligrosa ilusión de tener el control. ¿O estamos dispuestos a reconocer que nunca se puede lograr un mundo previsible del todo? Entonces tendríamos que reunir el valor para asumir los riesgos de un mundo falsamente determinista.
Nos hemos embarcado en un viaje para seguir adelante con algoritmos predictivos que nos permiten ver más allá. Afortunadamente, somos cada vez más conscientes de lo crucial que es el acceso a datos de calidad del tipo correcto. Somos cautelosos acerca de la erosión adicional de nuestra privacidad y reconocemos que la circulación de mentiras deliberadas y discursos de odio en las redes sociales representan una amenaza para la democracia. Confiamos en la IA y, al mismo tiempo, desconfiamos de ella. Es probable que esta ambivalencia perdure, ya que por inteligentes que sean los algoritmos cuando avanzamos hacia el futuro en la era digital, no van más allá de encontrar correlaciones.
Incluso las redes neuronales más sofisticadas, que son versiones simplificadas del cerebro, sólo pueden detectar regularidades e identificar patrones basados en datos que provienen del pasado. No está involucrado ningún razonamiento causal, ni una IA pretende que lo sea. ¿Cómo podemos seguir adelante si no entendemos la vida tal como ha evolucionado en el pasado? Algunos informáticos, como Judea Pearl y otros, deploran la ausencia de una búsqueda de relaciones causa-efecto. La «inteligencia real», argumentan, implica comprensión causal. Para que la IA llegue a tal etapa debe poder razonar de una manera contrafáctica. No es suficiente ajustar simplemente una curva a lo largo de una línea de tiempo indicada. Hay que abrir el pasado para entender una frase como «qué hubiera pasado si...». La acción humana consiste en lo que hacemos, pero comprender lo que hicimos en el pasado para poder hacer predicciones sobre el futuro siempre debe involucrar el contrafactual de que podríamos haber actuado de manera diferente. Al transferir un proceso humano a una IA debemos asegurarnos de que tenga la capacidad de discernir esta cualidad que es básica para la comprensión y el razonamiento humanos.
El poder de los algoritmos es tan grande que olvidamos con facilidad la importancia del vínculo entre comprensión y predicción. Los usamos para hacer previsiones prácticas y calculables que son útiles en nuestra vida diaria, ya sea en la gestión de los sistemas de salud, en el comercio financiero automatizado, para hacer negocios más rentables o para expandir las industrias creativas. Pero no debemos ceder a la conveniencia de la eficiencia y abandonar el deseo de comprender, ni la curiosidad y la perseverancia que sustentan tal deseo.
Aunque podemos predecir con seguridad que los algoritmos darán forma al futuro, la cuestión de qué tipos de algoritmos darán esa forma sigue abierta todavía.
Quizá ha llegado el momento de admitir que no tenemos el control de todo, de admitir con humildad que el frágil y arriesgado viaje de coevolución con las máquinas que hemos construido será más fecundo si renovamos los intentos de comprender nuestra humanidad y nuestra comunidad. De saber cómo podríamos vivir mejor juntos. Tenemos que continuar nuestra exploración para avanzar en la vida, mientras tratamos de mirar atrás hacia lo que hemos vivido, y unir ambas visiones. En tal caso, la predicción dejará de trazar únicamente las trayectorias hacia nuestro futuro, y se convertirá en una parte integral de la comprensión sobre cómo avanzar y vivir mejor. En lugar de predecir lo que sucederá, nos ayudará a comprender por qué suceden las cosas.
Después de todo, lo que nos hace humanos es nuestra capacidad única de hacernos la pregunta: ¿por qué suceden las cosas... por qué y cómo?
Helga Nowotny, La fe en la inteligencia artificial, Barcelona, Galaxia Gutemberg 2022