Cet article est extrait du mensuel Sciences et Avenir n°952, daté juin 2026.
Après le boom de l’IA générative, nous entrons, depuis la fin 2025, dans l’âge de l’IA agentique. L’idée est ancienne : un agent capte de l’information, texte, image ou son, l’interprète, prend des décisions sur la foi de ses entrées, et agit (d’où le nom d’agent) en vue de réaliser les buts qu’on lui a fixés.
Cela fait belle lurette qu’on réalise des agents d’interface et que des penseurs de l’IA, comme Allen Newell, Herbert Simon, le philosophe Daniel Dennett ou bien d’autres, parlent d’agent. Jusque-là, rien de neuf. La primeur vient de ce que des dizaines, voire des centaines de milliers d’agents spécialisés se coordonneront en vue de nous assister dans d’innombrables tâches. L’efficacité en sera vertigineuse !
Lire aussiL’espèce humaine sous la férule des IA
L’humain n’est pas toujours une garantie
On nous promet un soutien permanent. Cependant, comment ne pas s’en inquiéter : l’IA agentique nous aidera-t-elle à agir de manière plus responsable ou nous mettra-t-elle sous tutelle en nous court-circuitant ? Dans l’éthique du soin, on a introduit la notion de « garantie humaine » pour s’assurer qu’aucune décision ne se prenne sans qu’un personnel de santé ne l’ait préalablement approuvée. Pourquoi ne pas procéder ainsi ?
Parce que l’humain n’est pas toujours une garantie ! Errare humanum est : nous nous trompons parfois. L’étude rétrospective d’accidents d’avions ou de centrales nucléaires le prouve : souvent, des personnes causèrent les déboires, alors que la machine aurait pris les décisions idoines, si on l’avait laissée. Comment résoudre en amont les conflits d’autorité pour chaque situation ? On choisit parfois, sur la base d’arguments rationnels, de laisser la main à une machine. Mais cette délégation de responsabilité ne vaut que pour un temps et doit rester révocable à tout moment !
Par Jean-Gabriel Ganascia, professeur à Sorbonne Université, à Paris, chercheur en intelligence artificielle au LIP6 (Sorbonne Université, CNRS), ex-président du comité d’éthique du CNRS. Dernier ouvrage publié : L’I.A. expliquée aux humains, Seuil, 2024.
Source:
www.sciencesetavenir.fr
