Définition
Une partie prenante est un acteur (un individu ou un groupe), concerné de près ou de loin par une décision ou un projet, à cause de l’impact positif ou négatif que cela peut avoir sur lui (« Partie prenante », 2023).
Contexte
Nous avons commencé un partenariat avec deux chercheuses, qui s’étalera sur l’année 2024. Pendant les prochains mois, notre équipe participera à des ateliers réflexifs. L’objectif est de questionner et d’entraîner notre exercice de la responsabilité en tant que concepteurs d’outils de traduction utilisant des techniques d’apprentissage automatique (dit « IA ») : quels impacts notre activité peut-elle avoir, et comment pouvons-nous éviter les effets délétères sur nos parties prenantes ?
(Article pour aller plus loin au sujet de cet objectif)
Ce billet de blog concerne notre premier atelier en présentiel, qui fait suite à une session d’introduction où nous avons été sensibilisés aux enjeux spécifiques de l’IA nécessitant notre vigilance.
L’étendue de nos parties prenantes
La session s’est découpée en deux activités, encadrées par les chercheuses qui étaient accompagnées de deux stagiaires. La première activité visait à réfléchir en profondeur aux groupes de personnes impactés par l’activité de Xenizo : nos parties prenantes.
Pour ce faire, nous avons utilisé un outil de design responsable, le “panda inclusif”, que nous avons rempli tous ensemble. Il fallait répondre à des questions aussi simples que “quelle est notre cible principale ?”, jusqu’à des questions beaucoup moins évidentes comme “quelles personnes s’opposent à ce que nous faisons, au point d’utiliser nos productions contre nous ?”. Entre ces deux extrêmes, cet exercice a permis de mettre au jour toute personne liée à nos activités, de près ou de loin.
Grâce à cet outil, notre équipe a eu la place de déplier des réflexions qu’elle ne fait qu’effleurer le reste du temps. Dans le quotidien, il ne semble pas utile de se demander quelles personnes ne sont pas impactées par nos activités parce qu’elles décident que ça ne les intéressent pas.
Prendre le temps de réfléchir, ensemble, à toutes les personnes impactées directement ou indirectement par notre travail nous force à évaluer précisément notre responsabilité lorsque nous concevons des outils pour traducteurs de ressources bibliques.
Qu’est-ce qui pourrait mal se passer ?
Pour la deuxième activité, nous avons imaginé des scénarios catastrophes par petits groupes. Dans la peau de journalistes, nous devions réaliser la Une d’un journal titrant sur une catastrophe éthico-responsable liée à Xenizo : qu’est-ce qui avait mal tourné et quelles ont été les conséquences ?
Quel que soit le groupe, le scénario a débouché sur un déferlement de violence.
Ainsi, au-delà de l’aspect créatif de l’atelier, les discussions menées nous ont révélé l’impact potentiel de notre travail en cas de problème. En reconnectant ces scénarios catastrophes prospectifs au temps présent, nous avons ciblé des zones à risques dans ce que nous faisons et démarré des réflexions concernant les solutions à apporter.
Et ensuite ?
Cet atelier était le premier d’une série, et les conclusions de ce travail prendront forme petit à petit. Un des objectifs de ce partenariat est de rédiger une charte éthique de l’IA pour Xenizo, qui sera le résultat de nos réflexions sur le sujet, et qui guidera les décisions de conception d’outils de traductions de ressources bibliques dans l’entreprise.
Nous avons commencé ici par réfléchir aux personnes impactées par nos activités et à l’étendue des dégâts possibles en cas de problèmes. J’imagine qu’avec le temps, nous en viendrons à cadrer des solutions. On le découvrira dans les ateliers suivants.
