L'application de rencontres gay Goose est accusée d'utiliser des hommes générés par l'IA. (Oie/App Store)
L'application de rencontres gay Goose a été accusée de générer des hommes IA pour attirer les utilisateurs sur la plateforme.
Une enquête de Wired allègue que Goose, une application de rencontres et d'amitié, utilise des comptes non authentiques à des fins de promotion, ce que Goose a nié.
Goose a été créé par l'influenceur modèle Derek Chadwick et l'ancien responsable de la croissance et de la communauté de BeReal, David Aliagas. L'application est présentée comme un Grindr moins axé sur les connexions, construit autour du désir de relations durables. Pour le moment, l’application se concentre sur la ville de New York.
L'énoncé de mission de l'entreprise a fait l'objet d'un examen minutieux après que le rapport de Wired a révélé la découverte de « plus de deux douzaines » de comptes qui auraient été générés par l'IA. Plusieurs des comptes Wired signalés comme inauthentiques sont désormais indisponibles, apparemment désactivés.
Wired note que certains des avatars de ces comptes ont été « déterminés avec un degré de confiance supérieur à 90 % » comme étant générés par l'IA. De plus, ces comptes à faible utilisation auraient présenté des ratios d'abonnés/abonnés anormaux.
Le rapport continue : « Les comptes semblent faire partie d’un réseau beaucoup plus vaste d’influenceurs masculins sympathiques, apparemment générés par l’IA, qui font la promotion de l’application, soit en contactant des hommes homosexuels via DM, soit en les ajoutant à leurs histoires d’amis proches.
« De nombreux comptes commentent également fréquemment les photos des uns et des autres, y compris les mêmes émojis de cœur et de feu. »
« La nécessité d'inciter les gays à s'inscrire semble vraiment sommaire »
Les journalistes de Wired ont également communiqué avec plusieurs hommes qui ont interagi avec des comptes prétendument générés par l'IA.
Ryan Cheam a déclaré au média qu'il pensait que le compte avec lequel il interagissait était « un homme gay normal ». Cependant, il est devenu méfiant lorsque le compte l'a invité à rejoindre un « réseau de gars organisé » chez Goose.
« D'un côté, je suis flatté d'être leur public cible », a déclaré Cheam à Wired. « Mais la nécessité d'inciter les gays à s'inscrire semble vraiment floue. »
Dans les directives de Goose, la société demande aux utilisateurs de « rester authentiques ». En outre, les lignes directrices demandent aux utilisateurs de ne pas « partager du contenu créé à partir d’outils de génération ou de modification de contenu ».
La Federal Trade Commission interdit l'utilisation de comptes générés par l'IA pour usurper l'identité de vraies personnes et créer de fausses mentions.
Ni Goose ni Chadwick n'ont répondu à la demande de commentaires de Wired, mais un porte-parole de la société a publié une déclaration à The Advocate.
« Goose perturbe l'espace des applications gay en créant un endroit où de vraies personnes peuvent se faire de vrais amis, des rendez-vous et une communauté – notre équipe a trié sur le volet toutes les personnes qui ont reçu une invitation à notre application et nous sommes fiers de la communauté que nous construisons », a écrit le porte-parole.
« Nous travaillons 24h/24 et 7j/7 pour garder notre application sûre et exempte des faux profils qui ont gâché d'autres plates-formes. Il est clair que nos concurrents en prennent note. »
Des problèmes de sécurité « insensés »
Depuis la sortie de Goose, les utilisateurs ont remarqué que ses termes et conditions comportent des règles plutôt extrêmes.
Il comprend une « licence et renonciation au contenu de membre », qui permet à Goose d'utiliser « le nom d'utilisateur, l'image, la voix et la ressemblance » d'un utilisateur, ainsi que toutes les photos disparues partagées sur l'application.
Partageant son inquiétude sur X, une personne a déclaré : « Il s'agit donc d'un problème insensé en matière de confidentialité. Pour tous les autres utilisateurs de l'application, cela signifie que Goose peut faire ce qu'il veut avec n'importe quelle photo/date que vous téléchargez sur l'application. Oui, cela inclut celles qui disparaissent. «
PinkNews a contacté Goose pour commentaires.
Partagez vos réflexions ! Faites-le-nous savoir dans les commentaires ci-dessous et n'oubliez pas de garder la conversation respectueuse.
