Alerte britannique : l’IA pourrait échapper au contrôle humain dans cinq ans

L’Institut Alan Turing, au Royaume-Uni, a alerté sur la possibilité de voir apparaître, au cours des cinq prochaines années, des systèmes d’intelligence artificielle aux capacités extrêmement avancées. Selon l’institut, l’évolution rapide de cette technologie pourrait poser des défis sans précédent à la capacité des humains à surveiller et à contrôler les machines.

Dans un récent rapport consacré à la gestion des systèmes d’intelligence artificielle avancés, l’institut estime qu’il existe une « possibilité réelle » que certains systèmes dépassent les capacités humaines dans un grand nombre de tâches cognitives importantes au cours de cette période.

Les décisions pourraient-elles passer aux mains des machines ?

Le rapport met en garde contre le fait que les progrès rapides et les capacités croissantes de l’IA pourraient pousser les institutions à déléguer davantage de décisions aux machines, notamment en raison de leur capacité à traiter les informations et à exécuter des tâches à une vitesse supérieure à celle des humains.

L’institut souligne que si les systèmes d’IA parviennent à élaborer des stratégies difficiles à évaluer pour les institutions, ou à mener des actions plus rapidement que les humains ne peuvent y répondre, la capacité humaine à les contrôler pourrait considérablement diminuer.

Cinq ans : une alerte, pas une prédiction

Le rapport précise que l’horizon de cinq ans ne constitue pas une prédiction certaine de ce qui va se produire, mais plutôt une « possibilité à laquelle il faut se préparer et qu’il faut anticiper ».

L’institut souligne également que la dépendance croissante à l’IA pour l’exécution de tâches essentielles pourrait progressivement réduire le rôle humain dans la prise de décision, notamment si les systèmes deviennent plus rapides et plus complexes que les capacités des institutions à les surveiller.

Peut-on ralentir la course à l’intelligence artificielle ?

L’Institut Alan Turing estime qu’un accord international visant à ralentir le développement des systèmes d’IA avancés semble difficile à mettre en place dans le contexte international actuel. Il souligne qu’une telle mesure nécessiterait des législations contraignantes et urgentes.

Le rapport met également en doute la possibilité de mettre en place un « bouton d’arrêt d’urgence » mondial pour l’IA, tout en indiquant que les propositions visant à désactiver certains modèles technologiques seront évaluées.

Des tests avant le lancement et une surveillance après

Le rapport appelle à renforcer les mécanismes de contrôle des systèmes d’intelligence artificielle, notamment en les testant avant leur mise sur le marché et en assurant leur surveillance après leur déploiement, afin d’identifier les risques potentiels et d’y répondre rapidement.

Ce débat intervient alors que les appels internationaux en faveur de règles plus strictes pour encadrer l’intelligence artificielle se multiplient, sur fond de divergences concernant l’équilibre à trouver entre l’accélération de l’innovation et la réduction des risques liés aux systèmes les plus avancés.

Dans la même catégorie