Cuando quienes aceleraron la inteligencia artificial piden frenar: por qué necesitamos un Seminario Permanente sobre los escenarios sociales de la tecnología

En los últimos años nos hemos acostumbrado a considerar el desarrollo exponencial de la inteligencia artificial como un hecho natural e inevitable. El lanzamiento de un nuevo modelo hacía que el anterior quedara rápidamente obsoleto, y todo el mundo parecía asumirlo como una etapa más del proceso histórico del desarrollo tecnológico. Nos hemos ido acostumbrando a la inevitabilidad del progreso, hasta el punto de que la defensa de una ralentización del desarrollo podía parecer casi una conjetura conspirativa.   Sin embargo, en estos días son precisamente algunos de los responsables de esta aceleración quienes están advirtiendo de que quizá sea necesario reducir su velocidad. Entre ellos, el director ejecutivo de Anthropic, Dario Amodei, ha declarado públicamente la necesidad de moderar el ritmo de desarrollo de los modelos más avanzados. Con distintos matices, se trata de una preocupación que parecen compartir figuras como Sam Altman, de OpenAI, Elon Musk, de xAI, y Demis Hassabis, de Google DeepMind. La cuestión que parece suscitar una preocupación general es que el desarrollo avanza a tal velocidad que pone en duda la capacidad de los sistemas de seguridad, los mecanismos de evaluación y las instituciones públicas para comprenderlo y gobernarlo. Se trata, sin duda, de un hecho llamativo, porque la advertencia procede precisamente de algunas de las mentes que han promovido este gran impulso tecnológico. Nos encontramos ante la posibilidad de que una inteligencia artificial contribuya a desarrollar otra más potente y veloz (la superinteligencia), generando una dinámica difícil de seguir para los seres humanos en términos de investigación, regulación y deliberación pública. Como telón de fondo resuenan las afirmaciones de Nick Bostrom y de su Superinteligencia (2014) acerca del problema de la alineación: un sistema puede cumplir de manera extraordinariamente eficaz un objetivo determinado y, al mismo tiempo, actuar de una forma incompatible con las intenciones generales de los seres humanos que lo diseñaron. La cuestión que parece suscitar una preocupación general es que el desarrollo avanza a tal velocidad que pone en duda la capacidad de los sistemas de seguridad, los mecanismos de evaluación y las instituciones públicas para comprenderlo y gobernarlo. Resulta particularmente significativo que esta llamada de atención proceda del propio mundo empresarial. Amodei propone incorporar evaluaciones externas que establezcan estándares comunes para las empresas y favorezcan cierta cooperación internacional en el desarrollo de la inteligencia artificial. Se trata de una propuesta que una parte del mundo académico y de la investigación ya venía planteando desde hace años, cuando los riesgos actuales todavía parecían mucho más lejanos. Lo interesante es que la supuesta inevitabilidad del progreso tecnológico ya no parece servir como excusa para evitar una reflexión crítica sobre el desarrollo exponencial de la inteligencia artificial. Esta tecnología no solo ha penetrado ya en nuestra vida cotidiana, sino que obliga a las instituciones políticas y a la esfera pública a preguntarse cómo debe gobernarse su velocidad en plena continuidad con aquel siglo XX, ya tan lejano, que había inaugurado la era de la rapidez. Este encuentro, cada vez más estrecho, entre la esfera privada y la pública representa una ocasión privilegiada para debatir sobre la interrelación entre la inteligencia artificial y los distintos escenarios sociales que plantea. Seminario permanente «Escenarios sociales de la tecnología» Precisamente por ello, la Facultad de Ciencias Políticas y Sociología de la Fundación Pablo VI pone en marcha un Seminario permanente que comenzará el próximo 22 de octubre. En “Escenarios sociales de la tecnología”, se abarcarán el tema de las utopías y distopías asociadas a la aceleración tecnológica para analizar sus efectos concretos en diferentes ámbitos de la sociedad. Hablaremos de gobernanza y justicia global, con el propósito de comprender qué reglas comunes pueden establecerse en un mundo geopolíticamente tan dividido. Trataremos el tema de la educación en el ámbito de la automatización, de la transformación de las profesiones y las competencias y de los problemas de justicia y responsabilidad jurídica que surgen en el marco de la inteligencia artificial. También abordaremos la salud, los cuidados y las vulnerabilidades, para examinar cómo está cambiando el propio concepto de bienestar en términos de disponibilidad de recursos, accesibilidad y desigualdad. El seminario comenzará el 22 de octubre y se prolongará hasta junio, con un encuentro mensual los jueves. A lo largo de las ocho sesiones contaremos con la participación de pensadores y profesionales que, desde distintas disciplinas y ámbitos, compartirán con nosotros sus conocimientos, experiencias y puntos de vista: Joan Costa Bou, Lucía Ortiz de Zárate, Emilio Alba, Iñaki Ortega, Federico de Montalvo, Rafael Areses, Lydia Feito e Irene Lebrusán. Más allá de preguntarnos qué es lo que puede llegar a hacer la inteligencia artificial, se procurará comprender qué sociedad estamos construyendo mediante ella y con cuáles beneficios y límites en un plano concreto. Si incluso aquellos que han impulsado la aceleración tecnológica están reclamando una cierta prudencia, este espacio de reflexión y deliberación que compartiremos se hace más necesario que nunca. La entrada Cuando quienes aceleraron la inteligencia artificial piden frenar: por qué necesitamos un Seminario Permanente sobre los escenarios sociales de la tecnología se publicó primero en Fundación Pablo VI.