À Genève, à l’occasion du Dialogue mondial des Nations Unies sur la gouvernance de l’intelligence artificielle, la ministre déléguée chargée de la Transition numérique et de la Réforme de l’administration, Amal El Fallah Seghrouchni, a plaidé pour une refonte des règles d’imputabilité applicables aux systèmes d’intelligence artificielle. Lors d’un panel de haut niveau consacré au respect, à la protection et à la promotion des droits humains à l’ère de l’IA, elle a estimé que la responsabilité juridique des systèmes d’IA agentique constitue l’un des défis majeurs de cette décennie.
La ministre a expliqué que l’émergence de systèmes composés de plusieurs agents autonomes, capables d’interagir et de prendre des décisions de manière coordonnée, complique considérablement l’identification des responsabilités. Cette évolution technologique impose, selon elle, de repenser les mécanismes juridiques afin de garantir que les décisions prises par l’intelligence artificielle restent pleinement compatibles avec les principes de l’État de droit.
Face à cette réalité, Amal El Fallah Seghrouchni a appelé à bâtir un nouveau cadre d’imputabilité adapté à la complexité croissante des technologies d’IA. Elle a défendu la mise en place de mécanismes innovants permettant de retracer les différentes étapes du processus décisionnel, d’identifier les zones de risque susceptibles d’affecter les droits des citoyens et d’assurer une meilleure transparence dans le fonctionnement des systèmes.
La responsable gouvernementale a également insisté sur trois exigences qu’elle juge incontournables pour une gouvernance responsable de l’intelligence artificielle. La première consiste à documenter l’ensemble de la chaîne des agents impliqués dans une décision automatisée afin d’en garantir la traçabilité. La deuxième prévoit la désignation d’un responsable humain clairement identifié chaque fois qu’une décision peut avoir des conséquences sur les droits des personnes. Enfin, elle a souligné la nécessité de garantir un recours effectif, accessible dans des délais compatibles avec la rapidité d’exécution des technologies d’intelligence artificielle.
En clôture de son intervention, Amal El Fallah Seghrouchni a rappelé que l’autonomie opérationnelle des systèmes d’IA ne peut en aucun cas signifier une autonomie vis-à-vis du droit. Elle a réaffirmé l’importance d’une gouvernance anticipative reposant sur les droits humains, la traçabilité, les audits réguliers, la supervision humaine et l’évaluation continue des risques tout au long du cycle de vie des systèmes d’intelligence artificielle. Une approche qu’elle considère indispensable pour favoriser un développement responsable, fiable et inclusif de l’IA à l’échelle internationale.
