Les atroces coulisses de ChatGPT

Sylvia Di Pasquale

La nouvelle "intelligence" artificielle ChatGPT est un gigantesque chalutier du Web. Avec ses gros filets, elle ramasse tout ce qu'elle trouve, du meilleur et du pire, dans les productions humaines, y compris dans les recoins les plus reculés du Web. Pour proposer des réponses présentables, à qui croyez-vous que ces concepteurs font appel ? à des humains exploités pour 1 ou 2 dollars la journée et qui éradiquent en coulisses les contenus les plus atroces de leurs contemporains. C'est une enquête du magazine Time qui le révèle.

ChatGPT, l'IA qui n'est rien sans l'humain. Dessin original de Charles Monnier pour Cadremploi

Les atroces coulisses de ChatGPT
ChatGPT, l'IA qui n'est rien sans l'humain. Dessin original de Charles Monnier pour Cadremploi

Voilà des semaines que les médias s’ébahissent et que les entreprises s’ébaubissent. Les premiers voient en ChatGPT une révolution et les seconds sont en pamoison devant cette IA qui va leur faire économiser un temps fou, puisqu’elle a réponse à tout. Vraiment ? 

En suivant les pérégrinations de ce recruteur aux prises avec l’appli (lire son article "ChatGPT m'aide à écrire une annonce"), on se rend surtout compte que l’affaire est coton. Il lui a fallu en passer par une formation (à 150 euros) pour s’en tirer, et non sans tâtonner. L’IA pour tous, c’est donc loin d’être gagné et le système n’est pas encore à la portée du premier propriétaire de Smartphone. 

Chat GPT, l’IA qui n’est rien sans l’humain

Mais cette impasse de l’interface homme-machine n’est évidemment que provisoire et les concepteurs d’Open Ai, la boîte qui a créé ChatGPT, devraient être assez lestes pour la résoudre rapidement. En revanche, il est deux domaines qui risque de rester complexes à maîtriser pour eux : la fiabilité, et le manque d’innovation. Deux sujets auxquels les entreprises doivent rester sensibles, au risque de se perdre. 

Luc Julia, spécialiste de l’IA et co-créateur de Siri l’explique : « on parle de création. Mais en fait ça ne crée strictement rien. » Tout simplement parce que l’outil est créé par des humains, et utilisé par des humains avec leurs limites humaines. Mais pas seulement.

ChatGPT est un chalutier du Web qui ramasse tout ce qui s’est dit, montré ou écrit sur la Toile, sur quel que sujet que ce soit.

Bien sûr, ces "emprunts" posent des problèmes de copyrights.

Mais au-delà du droit, ces filets ont des mailles trop grandes pour trier les fake news des vérités vérifiées. Le plus fou, ce sont les moyens trouvés par ses créateurs pour exclure, pour des motifs légaux bien sûr, le côté vraiment trop obscur du Web. Et ce n'est pas, comme on l'imagine, totalement grâce à l'IA.

En fait, les discours haineux, ultra violents, ou sexuellement explicites sont éjectées des réponses grâce à des humains qui forment l’IA. Le magazine Time, dans une enquête publiée le 18 janvier dernier, révèle que cette tâche est sous-traitée par la boite de la Silicon Valley. C’est une agence kenyanne qui se charge du sale boulot : regarder défiler, et virer de ChatGPT, des centaines de milliers d’atrocités, « des abus sexuels sur enfants, de la zoophilie, des meurtres, de la torture, de l’automutilation et de l’inceste ».Les Kenyans qui en sont chargé, passent 9h par jour à lire et visionner le pire, pour 1 ou 2 dollars la journée. 

Profession de foi d'OpenAI sur le site de l'entreprise

Il est donc très difficile d’affirmer, comme ses créateurs tendent à vouloir le faire, que Chat GPT est une intelligence artificielle qui se passe de l’humain. Pour le moment, elle a recours à l’homme, en l’exploitant, pour éliminer les pires dépravations de l’homme, et elle tombe dans les biais humains, et dans les fake news qu’ils peuvent lui faire commettre. 

 

Sylvia Di Pasquale
Sylvia Di Pasquale

Je suis rédactrice en chef de Cadremploi depuis 2006, en charge de la rubrique actualités du site. Je couvre des sujets sur la mutation des métiers, l'évolution des rapports recruteurs/recrutés, les nouvelles pratiques managériales ou les avancées de la parité. A la fois sous forme de textes, d'émissions video, de podcasts ou d'animation de débats IRL.

Vous aimerez aussi :