À mesure que l’intelligence artificielle s’intègre dans la vie quotidienne, des moteurs de recherche aux candidatures d’emploi en passant par les assistants numériques, les personnes LGBTQ pourraient payer un prix disproportionné pour des systèmes qui n’ont pas été conçus pour elles.
Le 17 juin, GLAAD a publié son premier rapport sur la sécurité de l'IA, Construire pour tout le monde : un cadre pour la représentation et la sécurité des LGBTQ dans l'IAappelant les entreprises technologiques à repenser la façon dont l’intelligence artificielle est conçue, formée et déployée. Le rapport affirme que l’IA n’est pas neutre par défaut et que, sans intervention, les préjugés en ligne existants risquent de devenir automatisés à grande échelle.
Le rapport arrive à un moment où les outils d’IA façonnent de plus en plus la façon dont les gens découvrent des informations, communiquent, accèdent aux services et participent en ligne. GLAAD dit que l'influence s'accompagne de responsabilités.
S'appuyant sur la recherche universitaire, le journalisme, les reportages de la société civile et les propres efforts de surveillance de GLAAD, l'organisation a examiné l'ensemble du pipeline d'IA, depuis la formation des modèles de base et les pratiques de confidentialité jusqu'aux systèmes de modération et aux technologies émergentes basées sur des agents.
La conclusion est directe : si les préjugés pénètrent tôt dans le système, ils n’y restent pas.
Pourquoi GLAAD tire la sonnette d'alarme
Au centre du rapport se trouve un avertissement selon lequel les modèles d’IA peuvent absorber et reproduire des récits préjudiciables sur les communautés LGBTQ.
Parmi les exemples mis en avant, citons les recherches antérieures de GLAAD sur les modèles Meta's Llama, qui ont trouvé des réponses recommandant une « thérapie » de conversion lorsque les utilisateurs recherchaient un langage autour de « l'attirance non désirée envers le même sexe », une terminologie couramment utilisée par les promoteurs de cette pratique.
La « thérapie » de conversion a été condamnée par les principales organisations américaines de médecine et de santé mentale et a été comparée à la torture par les Nations Unies.
La présidente et directrice générale de GLAAD, Sarah Kate Ellis, a déclaré que l'industrie ne pouvait plus considérer ces résultats comme accidentels.
« La neutralité n'est plus une option. Les systèmes d'IA formés sur des données qui positionnent à tort les vies LGBTQ comme « marginales » ou traitent nos droits égaux comme « controversés », ou qui ne parviennent pas à détecter la désinformation sophistiquée sur les personnes LGBTQ, menacent notre santé, notre sécurité et nos droits civils. »
Ellis a ajouté que la construction de systèmes plus sûrs est à la fois une obligation éthique et une décision commerciale à long terme.
L'organisation s'est de plus en plus concentrée sur la responsabilité technologique ces dernières années à travers des initiatives telles que son indice annuel de sécurité des médias sociaux, qui évalue la manière dont les plateformes protègent les utilisateurs LGBTQ en ligne.
Quatre domaines que GLAAD souhaite que la technologie corrige
Le rapport présente plusieurs recommandations destinées aux développeurs, déployeurs et concepteurs d’IA.
Les données de formation doivent suivre
GLAAD soutient que les entreprises d’IA devraient régulièrement mettre à jour leurs ensembles de données et recycler leurs systèmes pour refléter les changements de langue, de culture, les tactiques de désinformation et l’évolution des formes de haine.
Le rapport souligne des recherches antérieures montrant que les modèles linguistiques peuvent reproduire des stéréotypes nuisibles et des associations discriminatoires s’ils ne sont pas contrôlés.
La confidentialité ne peut pas être facultative
Une autre préoccupation majeure concerne la collecte de données.
GLAAD prévient que les utilisateurs LGBTQ peuvent être confrontés à des risques élevés lorsque les systèmes d'IA collectent ou déduisent des détails liés à l'orientation sexuelle ou à l'identité de genre. Ces risques deviennent plus graves dans les pays qui criminalisent les relations homosexuelles et dans les endroits où les protections juridiques sont limitées.
Le rapport note également que les gens partagent de plus en plus de questions profondément personnelles avec les chatbots, notamment des conversations sur l'identité et le coming-out, soulevant des questions sur le stockage, la rétention et le contrôle des utilisateurs.
La modération du contenu a besoin de plus de nuances
GLAAD affirme que les outils de modération automatisés négligent souvent le harcèlement tout en restreignant le contenu LGBTQ légitime.
Le rapport cite les préoccupations persistantes des créateurs et des utilisateurs des principales plates-formes qui affirment que les systèmes automatisés ont contribué au shadowbanning, à la démonétisation, aux suppressions de contenu et aux suspensions de comptes.
La préoccupation n’est pas de savoir si la modération devrait exister, mais plutôt de savoir si les plateformes peuvent créer des systèmes qui reconnaissent le contexte au lieu de l’aplatir.
Questions de surveillance
La recommandation finale milite en faveur d’une responsabilité et d’une collaboration plus fortes de l’industrie avec les communautés les plus touchées par les systèmes d’IA.
Plutôt que de traiter la sécurité comme un correctif après le lancement, GLAAD soutient que les voix LGBTQ devraient être incluses plus tôt dans le développement et les tests.
Construire la prochaine version d'Internet
Brandon Grabowski, vice-président de la recherche de GLAAD, a décrit le moment comme étant encore ouvert à l'influence.
« Même si le débat peut rendre inévitable l’avenir de l’IA, il est encore temps d’orienter la technologie : dans quelle mesure elle est sûre, dans quelle mesure ses réponses sont précises, dans quelle mesure ses actions sont appropriées et si la technologie est positive ou préjudiciable à la société. »
Il a ajouté :
« Avec quelques protections réfléchies, nous pouvons construire un avenir de l'IA meilleur et plus sûr pour tout le monde. »
Cette idée est au centre de Construire pour tout le monde: L’IA n’est plus une technologie émergente. C'est une infrastructure.
Et si ces systèmes contribuent à façonner la culture, l'accès, les opportunités et l'information, le message de GLAAD est clair : tout le monde doit être pris en compte avant que le code ne soit envoyé.
