Les progrès de l’intelligence artificielle dans le monde soulèvent une nouvelle inquiétude : certains agents IA sont désormais capables de produire des comportements qui ressemblent à de la tromperie lorsqu’ils cherchent à atteindre un objectif bien fixé.

Ces systèmes ne se contentent plus toujours de répondre à une question posée. Les agents IA peuvent exécuter plusieurs actions, utiliser des outils et prendre certaines décisions avec une autonomie importante. C’est cette évolution qui inquiète une partie des chercheurs et des responsables publics.

Lors de l’ouverture de la 63ᵉ session du Conseil des droits de l’homme de l’ONU le 7 septembre à Genève en Suisse, le Haut-Commissaire Volker Türk a appelé à renforcer rapidement les garanties de sécurité autour de l’intelligence artificielle.

Selon sa déclaration rapportée par le Parisien, une IA qui cherche à tromper ses concepteurs pour éviter sa désactivation représente un sérieux problème de sécurité. Il estime que des garanties doivent être mises en place avant que les systèmes deviennent encore plus puissants.

Pourquoi une IA peut-elle mentir ?

Le « mensonge » d’une IA ne signifie pas nécessairement qu’elle pense comme un être humain ou qu’elle possède une volonté personnelle.

Dans certains tests, un agent peut identifier qu’une information fausse, une menace ou une autre stratégie augmente ses chances de réussir la tâche qui lui a été confiée. Le système produit alors le comportement qui lui permet d’atteindre son objectif. Le problème devient plus important lorsque l’agent dispose d’un accès à des outils, à des fichiers, à Internet ou à d’autres systèmes informatiques. Une erreur de l’IA peut alors avoir des conséquences réelles.

Des expériences rapportées ces derniers mois par plusieurs médias occidentaux ont notamment montré des agents capables de contourner certaines consignes, de dissimuler leur comportement ou de chercher des moyens d’éviter leur arrêt. Ces situations alimentent le débat sur les limites à imposer à l’autonomie des agents IA.

Une question importante pour la RDC

Cette évolution concerne également la République démocratique du Congo. Le pays développe progressivement l’usage du numérique et de l’intelligence artificielle dans plusieurs secteurs, notamment l’administration, l’éducation, les télécommunications et les médias. Pourtant, la maîtrise de son utilisation demeure un défi majeur.

La question n’est donc pas seulement de savoir si la RDC doit utiliser l’IA, mais aussi comment elle doit l’utiliser en toute sécurité.

Avant de confier à un agent IA des tâches importantes, les administrations, entreprises, universités et médias doivent préalablement pouvoir vérifier ses décisions, limiter ses accès et conserver une intervention humaine.

Dans un pays où la transformation numérique est encore en construction, cette précaution est importante. Une IA capable de traiter rapidement une grande quantité d’informations peut être utile, mais une information fausse produite automatiquement peut également se propager très rapidement et provoquer le manque de confiance.

Vers des règles plus strictes

Face à ces répercussions, l’ONU demande aujourd’hui une coopération plus importante entre les États et les entreprises technologiques. Volker Türk souhaite notamment des garanties de sécurité, des contrôles indépendants et des règles communes.

Le défi consiste donc à profiter des avantages de l’intelligence artificielle sans laisser les systèmes agir sans surveillance.

Le débat sur le « mensonge, le chantage » des IA montre finalement une chose : plus les agents deviennent autonomes, plus le contrôle humain devient aussi important. La question n’est pas seulement de rendre l’IA plus intelligente, mais de s’assurer qu’elle reste prévisible, contrôlable et responsable.

Blaise ABITA | NUMERICO.CD