Ubisoft et Riot Games : vers un monde moins toxique

Qui n’a jamais été confronté aux propos déplacés voire aux insultes dans le monde des jeux en ligne ? Ubisoft et Riot Games unissent leurs forces autour du nouveau projet baptisé « Zero Harm in Comms » qui vise à rendre les communications dans les sessions de jeux moins toxiques. La création d’algorithme permettant la suppression des comportements haineux dans les tchats est un travail important et de longues haleines pour les développeurs. Certaines personnes aux comportements toxiques usent d’astuces toujours plus ingénieuses pour déjouer les programmes protégeant les joueurs qui ne demandent rien d’autre que de bénéficier d’une partie agréable. D’après Yves Jacquier, directeur exécutif du département R&D de La Forge d’Ubisoft, il était important de s’associer à un acteur majeur. L’unification de leurs forces ne peut qu’aboutir à des algorithmes toujours plus perfectionnés, difficiles à déjouer.

Comment ça fonctionne ?

À la base, le projet de recherche Zero Harm in Comms vise à créer une base de données anonymisées partagée. Grâce aux méthodologies de deep learning, il deviendra possible de créer une intelligence artificielle qui permettra d’atténuer les comportements les plus douteux de manière efficace. Pour arriver à un résultat probant, il sera nécessaire d’emmagasiner un maximum d’information. Et c’est bien sur cet aspect que l’unification de ces deux géants fait sens. Les journaux d’informations (appelés aussi « logs » ) sont collectés, nettoyés pour les rendre anonymes puis analysées. L’idée est d’accoler une étiquette sur chaque échange, identifiant si le comportement est toxique ou non. Par exemple, l’algorithme déterminera si les messages sont à caractères racistes, sexistes, ou simplement des messages d’échanges cordiaux. Vous l’aurez donc compris, la réussite du projet réside dans le grand volume de données à collecter. Plus le système possédera d’informations, plus il pourra détecter plus facilement des propos déplacés qui n’ont raison d’exister. Bien entendu, il est impossible d'enseigner à une intelligence artificielle tous les scénarios néfastes possibles, mais Ubisoft et Riot Games expliquent que l'objectif est d'affiner leurs systèmes pour les rendre beaucoup plus performants.

Vers une meilleure industrie

Les deux entreprises travaillent conjointement depuis près de 6 mois et prévoient de partager leurs travaux à l’ensemble de l’industrie dans le courant de l’année prochaine. La création d'un environnement en ligne moins toxique est cruciale à une époque où une grande partie de la population est quotidiennement connectée à divers systèmes de communication. Comme le précise Yves Jacquier « Nous sommes en 2022, tout le monde est en ligne, et tout le monde devrait se sentir en sécurité ».