Une nouvelle étude menée par l'Université Cornell met en lumière les défis auxquels sont confrontés les modérateurs de Reddit alors que le contenu généré par l'IA prolifère, menaçant l'authenticité, la valeur sociale et la gérabilité du forum.
Alors que l'intelligence artificielle continue d'évoluer, sa présence croissante sur Reddit, plateforme réputée pour son contenu centré sur l'humain, devient un sujet controversé. Cette disruption est analysée dans une nouvelle étude menée par des chercheurs de l'Université Cornell. L'étude dresse un tableau complexe de l'impact du contenu généré par l'IA sur l'essence même des communautés Reddit.
L'auteur principal, Travis Lloyd, doctorant en sciences de l'information, a fait part des préoccupations nuancées des modérateurs supervisant certains des forums les plus influents de Reddit.
« Ils étaient préoccupés par cette situation à trois niveaux : la baisse de qualité du contenu, la perturbation de la dynamique sociale et la difficulté à gouverner », a déclaré Lloyd dans un communiqué de presse. « Pour y remédier, ils ont instauré des règles au sein de leurs communautés, qui établissaient des normes, mais ils devaient également les faire respecter, ce qui est un véritable défi. »
Trois préoccupations
étude, présenté lors de la conférence ACM SIGCHI sur le travail coopératif assisté par ordinateur et l'informatique sociale, qui se tiendra à Bergen, en Norvège, du 18 au 22 octobre, explore les implications complexes du contenu IA pour les communautés en ligne. Ce travail a reçu la mention honorable du meilleur article.
La recherche met en évidence trois préoccupations principales identifiées par les modérateurs :
1. Qualité du contenuUn modérateur a souligné que les publications générées par l'IA n'atteignent souvent pas la profondeur et la substance du contenu généré par l'homme, et sont truffées d'erreurs flagrantes de style et de précision. Cette baisse de qualité du contenu est très préoccupante.
2. Dynamique sociale: L'infiltration de l'IA perturbe les interactions humaines significatives, qui sont la pierre angulaire des valeurs de la communauté Reddit. Les modérateurs craignent que cela ne conduise à des relations tendues et à une dilution des liens humains.
3. Défis de gouvernance : Faire respecter les normes et les règles de la communauté contre le contenu généré par l’IA représente un fardeau croissant pour les modérateurs bénévoles.
« La question cruciale reste de savoir comment ils parviendront à cet objectif », a ajouté Mor Naaman, auteur principal et professeur de sciences de l'information Don et Mibs Follett à Cornell Tech, au Jacobs Technion-Cornell Institute et au Cornell Ann S. Bowers College of Computing and Information Science. « Une grande partie de cette charge de travail reviendra inévitablement aux modérateurs, dont le nombre est limité et surchargé. »
Afin de préserver l'authenticité de Reddit, ces bénévoles élaborent et appliquent des directives pour contrer l'influence omniprésente de l'IA. Cependant, la pérennité de cette approche reste incertaine.
Implications plus larges
L’avènement de l’IA sur les plateformes de contenu généré par les utilisateurs comme Reddit souligne le besoin urgent d’une intervention multipartite.
« Reddit, la communauté des chercheurs et d’autres plateformes doivent relever ce défi, sinon ces communautés en ligne échoueront sous la pression de l’IA », a ajouté Naaman, soulignant les ramifications plus larges de ce phénomène.
Cette recherche rigoureuse a débuté en 2023, un an après le lancement de ChatGPT, marquant un moment charnière alors que le contenu généré par l'IA commençait à inonder divers forums numériques.
L’étude a impliqué 15 modérateurs de subreddits avec des règles explicites concernant l’utilisation de l’IA, gérant des communautés allant de petits groupes de 10 à des collectifs massifs de plus de 32 millions de membres.
Joseph Reagle, professeur associé d’études en communication à l’Université Northeastern, est co-auteur de l’étude.
Source: L'Université Cornell