Helga Nowotny

Helga Nowotny est professeure émérite d'études scientifiques et technologiques à l'École polytechnique fédérale (ETH) de Zurich. Elle est membre fondateur et ancienne présidente du Conseil européen de la recherche. Après une brillante carrière dans des universités et des instituts de recherche de plusieurs pays européens, elle continue à participer activement à la politique de recherche et d'innovation aux niveaux national, européen et international, notamment en tant que membre du conseil d'administration de la Falling Walls Foundation (Berlin). Elle est  vice-présidente des Lindau Nobel Laureate Meetings (réunions des lauréats du prix Nobel), Senior Fellow à la School of Transnational Governance (EUI) (Florence), membre du Conseil de l'AIE (Paris), membre du Conseil autrichien des sciences, de la technologie et de l'innovation et présidente du conseil scientifique du Complexity Science Hub (Vienne).

Elle a reçu de nombreux prix et doctorats honorifiques, notamment de l'Université d'Oxford et de l'Institut Weizmann des sciences, en Israël. Elle a publié de nombreux ouvrages dans les domaines de la science et de la technologie, des sciences sociales et du temps social. Ses dernières publications comprennent The Cunning of Uncertainty (2016) et In AI We Trust (2021), qui a été traduit en italien, en espagnol, en chinois et en allemand. Actuellement, Helga Nowotny travaille également sur le projet Socioscope qui développe une méthodologie pionnière pour étudier les transitions sociétales dans le domaine de la production, du transport et de la consommation alimentaires.Il s'agit d'une nouvelle façon de faire de la recherche en sciences sociales en collectant des données "épaisses" de haute qualité à l'aide de méthodes multiples standardisées à travers les continents, ce qui a rarement été appliqué lors de l'étude de phénomènes sociaux.

Le projet

Titre : L'IA et l'illusion du contrôle

« Les prouesses des LLM (Large Language Models), qui génèrent des textes et des images formés à partir de données provenant du web ou produites synthétiquement, ont surpris même les experts. De nouvelles opportunités ont été célébrées et de nombreuses préoccupations ont été soulevées, allant des menaces de saper les démocraties libérales par une "désinformation" ciblée à la manière de faire face aux pertes d'emplois pour les professionnels et les artistes, en passant par les bouleversements que la diffusion de l'IA générative entraînera dans les systèmes de soins de santé et d'éducation. Toutefois, une question se pose avec encore plus d'acuité : les humains ont-ils encore le contrôle des technologies de l'IA ? Il ne s'agit pas du "risque existentiel" d'une intelligence artificielle générale qui anéantirait l'action et la créativité de l'homme dans un futur proche, qui n'est évoqué que pour nous détourner des problèmes du présent. Au contraire les questions abondent, comme celle de savoir si nous "surdéléguons" lorsque nous installons de plus en plus de systèmes de commande et de contrôle dans les armes autonomes et ce qui se passera lorsque les systèmes d'IA conçus et annoncés pour donner l'illusion de l'intelligence deviendront omniprésents dans la vie quotidienne des citoyens, des entreprises et de l'administration publique. Compte tenu de l'énorme concentration du pouvoir économique entre les mains d'une poignée de grandes entreprises internationales et des difficultés rencontrées par les gouvernements pour réglementer l'IA, le contrôle est-il transféré aux grandes entreprises technologiques ? »

Institution d'accueil : Institut d'Études Avancées Paris (IEA)

Bibliographie sélective

• Nowotny, Helga, “The Re-Enchanted Universe of AI: the Place for Human Agency”, to be published in: Introduction to Digital Humanism, Editors: H. Werthner, C. Ghezzi, J. Kramer, J. Nida-Rümelin, B. Nuseibeh, E. Prem, A. Stanger, 2023, Springer Nature.
• Nowotny, Helga, “Digital Humanism – Navigating the Tensions Ahead” in H. Werthner, E. Prem, E. A. Lee, and C. Ghezzi (eds): Perspectives on Digital Humanism, Springer, 2022. (BibTeX).
• Nowotny, Helga, “In AI We Trust. Power. Illusion and Control of Predictive Algorithms”, Polity Press; 2021 “Le macchine di Dio. Gli algoritmi predittivi e l'illusione del controllo”, LUISS University Press, 2022 ; “La fe en la inteligencia artificial. Los algoritmos predictivos y el futuro de la humanidad”, Galaxia Gutenberg, 2022, 未來的錯覺, the Chinese University of Hong Kong Press, 2023; “Die KI sei mit euch. Macht, Illusion und Kontrolle algorithmischer Vorhersage”, Matthes & Seitz, Berlin, 2023.
• Nowotny, Helga, “The Illusion of Control: Living with digital Others” to be published in: “The Illusion of Control: Living with the digital Others”, in Global Perspectives, special issue “illusion of Control” forthcoming 2024, (S.E. van der Leeuw, V. Galaz, J.-W. Vasbinder, eds