Les atroces coulisses de ChatGPT

Publié le 24 janvier 2023 Sylvia Di Pasquale, Cadre Emploi

La nouvelle “intelligence” artificielle ChatGPT est un gigantesque chalutier du Web. Avec ses gros filets, elle ramasse tout ce qu’elle trouve, du meilleur et du pire, dans les productions humaines, y compris dans les recoins les plus reculés du Web. Pour proposer des réponses présentables, à qui croyez-vous que ces concepteurs font appel ? à des humains exploités pour 1 ou 2 dollars la journée et qui éradiquent en coulisses les contenus les plus atroces de leurs contemporains.

C’est une enquête du magazine Time qui le révèle.

Voilà des semaines que les médias s’ébahissent et que les entreprises s’ébaubissent. Les premiers voient en ChatGPT une révolution et les seconds sont en pamoison devant cette IA qui va leur faire économiser un temps fou, puisqu’elle a réponse à tout. Vraiment ? 

En suivant les pérégrinations de ce recruteur aux prises avec l’appli (lire son article “ChatGPT m’aide à écrire une annonce”), on se rend surtout compte que l’affaire est coton. Il lui a fallu en passer par une formation (à 150 euros) pour s’en tirer, et non sans tâtonner. L’IA pour tous, c’est donc loin d’être gagné et le système n’est pas encore à la portée du premier propriétaire de Smartphone.

Mais cette impasse de l’interface homme-machine n’est évidemment que provisoire et les concepteurs d’Open Ai, la boîte qui a créé ChatGPT, devraient être assez lestes pour la résoudre rapidement. En revanche, il est deux domaines qui risque de rester complexes à maîtriser pour eux : la fiabilité, et le manque d’innovation. Deux sujets auxquels les entreprises doivent rester sensibles, au risque de se perdre. 

Luc Julia, spécialiste de l’IA et co-créateur de Siri l’explique : « on parle de création. Mais en fait ça ne crée strictement rien. » Tout simplement parce que l’outil est créé par des humains, et utilisé par des humains avec leurs limites humaines. Mais pas seulement.

Bien sûr, ces “emprunts” posent des problèmes de copyrights.

Mais au-delà du droit, ces filets ont des mailles trop grandes pour trier les fake news des vérités vérifiées. Le plus fou, ce sont les moyens trouvés par ses créateurs pour exclure, pour des motifs légaux bien sûr, le côté vraiment trop obscur du Web. Et ce n’est pas, comme on l’imagine, totalement grâce à l’IA.

En fait, les discours haineux, ultra violents, ou sexuellement explicites sont éjectées des réponses grâce à des humains qui forment l’IA. Le magazine Time, dans une enquête publiée le 18 janvier dernier, révèle que cette tâche est sous-traitée par la boite de la Silicon Valley. C’est une agence kenyanne qui se charge du sale boulot : regarder défiler, et virer de ChatGPT, des centaines de milliers d’atrocités, « des abus sexuels sur enfants, de la zoophilie, des meurtres, de la torture, de l’automutilation et de l’inceste ».Les Kenyans qui en sont chargé, passent 9h par jour à lire et visionner le pire, pour 1 ou 2 dollars la journée. 

Il est donc très difficile d’affirmer, comme ses créateurs tendent à vouloir le faire, que Chat GPT est une intelligence artificielle qui se passe de l’humain. Pour le moment, elle a recours à l’homme, en l’exploitant, pour éliminer les pires dépravations de l’homme, et elle tombe dans les biais humains, et dans les fake news qu’ils peuvent lui faire commettre. 

Sylvia Di Pasquale

Je suis rédactrice en chef de Cadremploi depuis 2006, en charge de la rubrique actualités du site. Je couvre des sujets sur la mutation des métiers, l’évolution des rapports recruteurs/recrutés, les nouvelles pratiques managériales ou les avancées de la parité. A la fois sous forme de textes, d’émissions video, de podcasts ou d’animation de débats IRL.