Anthropic relance le débat sur les risques liés à l’intelligence artificielle. Dans un article relayé notamment par le Wall Street Journal, l’entreprise affirme que les systèmes d’IA pourraient, à terme, atteindre un niveau leur permettant de s’améliorer eux-mêmes sans intervention humaine.
Ce phénomène, connu sous le nom « d’auto-amélioration récursive », désigne la capacité d’une IA à perfectionner ses propres performances, ouvrant potentiellement la voie à une accélération autonome de son développement.
Si cette étape n’a pas encore été franchie, Anthropic estime qu’elle pourrait survenir plus tôt que prévu.
Vers un ralentissement coordonné du développement de l’IA
Face à cette perspective, l’entreprise fondée par d’anciens chercheurs d’OpenAI appelle les principaux acteurs du secteur à réfléchir à des mécanismes permettant de mieux contrôler le rythme des avancées technologiques.
Selon Anthropic, un accord international pourrait être nécessaire afin de ralentir temporairement le développement des systèmes les plus puissants.
L’entreprise souligne également l’importance de mettre en place des mécanismes de vérification capables de garantir le respect de tels engagements par les différents acteurs du marché.
Des inquiétudes croissantes sur l’impact économique et social
Les dirigeants d’Anthropic alertent régulièrement sur les conséquences potentielles d’une IA toujours plus performante. Son PDG, Dario Amodei, a notamment averti que ces technologies pourraient accentuer les inégalités économiques et entraîner la disparition d’une part importante des emplois de bureau débutants.
Pour l’entreprise, la question n’est plus seulement technologique, mais également sociétale. Les transformations induites par l’IA pourraient être si rapides que les institutions, les entreprises et les gouvernements peineraient à s’y adapter.
Cette vision n’est toutefois pas partagée par l’ensemble des experts du secteur. Yann LeCun, figure de référence dans le domaine de l’intelligence artificielle, considère que les grands modèles de langage actuels restent fondamentalement incapables d’atteindre une intelligence comparable à celle des humains.
Malgré ces divergences, le débat gagne en intensité à mesure que les capacités des modèles progressent.
« Donner à la société le temps de suivre »
Pour Jack Clark, co-fondateur d’Anthropic, l’auto-amélioration continue des systèmes d’IA pourrait constituer un véritable tournant historique.
Il estime qu’il serait souhaitable que la communauté internationale dispose des moyens nécessaires pour ralentir, voire suspendre temporairement, le développement des technologies les plus avancées.
Selon lui, cette réflexion ne doit pas être réservée aux seules entreprises du secteur. Les pouvoirs publics, les chercheurs indépendants et la société civile doivent également participer à la définition des règles qui encadreront l’avenir de l’intelligence artificielle.
Source:
www.zdnet.fr
