Standardisation des Droits Fondamentaux

10 janvier 2024

De nombreux systèmes d’IA sont « sociotechniques » ; ils impliquent une interaction entre les facteurs techniques et humains, ce qui pose à son tour des défis distincts pour la sécurité et l’équité de ces systèmes. Si les recherches existantes et les propositions de réglementation législative suggèrent souvent de renforcer la composante « socio », en particulier au stade de la conception, la manière dont cela pourrait concrètement produire des avantages en termes de systèmes d’IA « dignes de confiance » n’est pas claire : en fin de compte, ces systèmes restent des mécanismes d’optimisation orientés vers le marché, avec des incitations associées différentes de celles valorisées dans une « société centrée sur l’humain ».

Dans ce contexte, cette proposition de recherche suggère que les progrès vers une « IA digne de confiance » nécessiteront le développement et l’application de normes techniques qui aideront à garantir la conformité des systèmes d’IA avec les droits de l’homme. Ces normes constitueront l’épine dorsale d’une approche mettant l’accent sur la « conformité dès la conception », c’est-à-dire la garantie que les êtres humains – et leurs droits – sont respectés à chaque étape du cycle de vie d’un système d’IA, ainsi que dans les intrants, les extrants et le fonctionnement des systèmes d’IA. Associer un concept juridique, les droits de l’homme, à un cadre technique tel que les normes est un défi. La législation sur les droits de l’homme, qui implique souvent un équilibre nuancé entre des intérêts concurrents, n’est en effet pas facilement transposable dans un contexte technique. L’intégration de ces droits dans le développement des systèmes d’IA nécessitera donc un acte de traduction complexe susceptible d’altérer leur matérialité ou leur contenu, offrant ainsi la possibilité de réorienter les droits de l’homme vers l’ère de l’IA. À cette fin, la recherche utilisera une approche multidisciplinaire, intégrant l’analyse juridique normative à la collecte de données empiriques et à la modélisation informatique.