chat gptL’arrivée de ChatGPT pourrait avoir des effets plus ou moins importants sur le gain de productivité d’un ensemble de professions. Que ce gain – difficile à quantifier – soit utilisé en faveur des travailleur·ses n’est pas du tout garanti et moins encore sous forme de diminution du temps de travail. Décryptage de certains enjeux majeurs du développement des intelligences artificielles rédactionnelles à la lumière de révolutions technologiques du passé.

Télécharger l'article en PDF


Si des technologies d’intelligence artificielle (IA) sont déjà présentes dans de nombreux domaines, ChatGPT – prototype d’agent conversationnel, contraction de chat, dialogue, et GPT, Generative Pre-trained Transformer – a provoqué un émoi certain lorsqu’il a été rendu public en novembre 2022. Au-delà du coup publicitaire réussi, le fait que chacun et chacune puisse tester l’outil a certainement contribué à l’agitation médiatique. Tout un chacun a ainsi pu faire ses demandes au système : qui de lui faire rédiger un rapport ou ses devoirs scolaires, qui de lui faire raccourcir son texte, qui de reformuler un courriel incendiaire dans un langage plus acceptable.
Le développement des intelligences artificielles rédactionnelles promet un gain de productivité pour un ensemble de professions. En pratique, l’effet de ces outils sur le travail dépendra toutefois de nombreux facteurs. Citons par exemple la disponibilité technique, l’organisation du travail, les rapports commerciaux, la formation initiale et continue des travailleur·ses... Les changements induits par l’arrivée d’une technologie nouvelle dans un milieu de travail ne sont pas prédéterminés et peuvent avoir des effets plus ou moins importants sur le gain de productivité. Cela dit, la manière dont ce gain – difficile à quantifier – sera utilisé n’est pas écrite dans les astres. Il faut un rapport de forces en faveur des travailleur·ses pour rediriger une partie de cette richesse vers elles·eux. C’est en pratique dans la négociation collective que devra se décider si ce gain se concrétisera par une augmentation du salaire horaire ou une diminution du temps de travail à salaire égal 1. Même dans un scénario idéal où l’IA amène un accroissement de productivité, le gain pour les travailleur·ses n’est donc pas du tout garanti et moins encore qu’il prenne la forme d’une diminution du temps de travail 2.
Les multiples scénarios et situations imaginables, prenant en compte les comportements et stratégies des divers acteurs, se révéleront avec les expérimentations multiples et sont difficiles à prévoir. à la lumière du passé, il est cependant possible de se pencher sur certaines caractéristiques de la technologie des IA génératives (c’est-à-dire capables de générer du texte, des images, ou d’autres médias) pour dégager certains enjeux majeurs 3.


Un impact sur le travail au détriment des travailleur·ses ?


La manière dont les révolutions technologiques affectent le contenu du travail n’est pas univoque. L’automatisation, ou l’accélération, de certaines tâches peut se traduire par une intensité accrue. Pensons, par exemple, à la manière dont les technologies de la communication ont évolué : le temps des échanges par courriers postaux a largement été remplacé par des échanges électroniques, bien plus rapides. Cependant, plutôt que de libérer du temps, cela s’est traduit par une intensification des communications et une augmentation du nombre d’échanges. Sans d’ailleurs que des gains de productivité majeurs soient apparus 4 de façon évidente.
Les révolutions technologiques précédentes ont toutes amené la transformation d’une partie des métiers – voire à une disparition complète de certains d’entre eux 5. En sera-t-il de même avec les technologies d’intelligence artificielle génératives ?
L’arrivée de technologies d’automation a par le passé profité aux métiers très qualifiés et intensifié la demande dans des professions infra-qualifiées 6.
ChatGPT et ses consœurs peuvent aider dans des tâches jusque-là relativement protégées de l’automatisation, des activités que l’on pensait, peut-être naïvement, réservées à la spécificité humaine : le langage, la créativité, la production de sens. Ceci pourrait accentuer les problèmes de type burn-out liés à l’intensification du travail. Nous savons en effet que le sens trouvé au travail est un des facteurs protégeant du burn-out. Un travail dont les tâches qui produisent du sens sont déléguées à l’IA perdra-t-il son intérêt en plus d’être plus intense ? Soulignons deux éléments à ce sujet. D’une part, l’examen de l’usage de l’outil de production de textes en tant que tel révèle qu’il ne sera probablement véritablement utile à la plupart des métiers existants qu’en support d’une expertise (voir encadré). Les codeur·ses interagissent avec ChatGPT pour aider à concevoir des morceaux de codes, mais ne peuvent lui confier directement toute leur production. Les avocat·es peuvent obtenir un résumé de la jurisprudence très rapidement, sans pour autant que l’angle d’attaque de leur plaidoirie leur échappe. Les outils d’IA rédactionnelle ne privent donc pas (encore) les travailleur·ses de l’étape cruciale de création de sens dans leur activité.
D’autre part, le contexte économique aura un impact déterminant sur les choix posés et leurs conséquences sur le travail. Pour le comprendre, penchons-nous, par exemple, sur les journalistes. Les nouveaux outils à leur disposition pourraient changer l’équilibre des tâches au sein de leur travail, sans mener pour autant à leur disparition. À défaut de réduire le temps de travail, le gain de temps passé à la rédaction des dépêches pourrait permettre de se consacrer davantage à rechercher l’information ou à la recouper... ou bien intensifier le rythme de production, voire réduire le personnel. Ce qui sera déterminant ici est moins l’outil mis à disposition que le modèle économique dans lequel s’inscrit l’organe de presse qui le met en place : production d’une grande quantité de contenus pour retenir l’attention des lecteur·rices et diffuser des publicités ou abonnements pour des articles avec analyse et information recoupées ? La question vaut pour tous les métiers qui feront usage des IA génératives : à quoi sera utilisé le temps libéré et dans quel but ?

Un impact économique et social certain

La menace du remplacement de nombreux travailleur·ses ou des mutations de leurs métiers n’est pas imaginaire, mais l’ampleur de celle-ci est l’objet de controverses 7. Verra-t-on émerger une société où les professions créatives verront leur charge et temps de travail diminuer – voir disparaitre – alors que les métiers pénibles et pourtant essentiels continueront à devoir s’exercer dans des conditions sociales et salariales déplorables ?
Ou verra-t-on les gains de productivité « aspirés » vers des acteurs concentrant toujours plus de richesses ? Dans ce cas, au contraire, cela se traduira par une intensification du travail au profit principal des marchands d’IA. Un des enjeux majeurs réside en effet dans la maitrise technique des outils proposés. La concentration de pouvoir au sein de quelques firmes technologiques accentuerait encore leur emprise déjà conséquente aujourd’hui. Il se pourrait aussi que la maitrise de ces outils reste obscure et orientée dans un intérêt particulier hors de tout débat démocratique.
Ceci permet de revenir à la fois sur un enjeu, et une revendication ancienne, celle de l’encadrement démocratique de l’espace économique. On a vu dans d’autres cas à la technicité bien moindre que les IA génératives, ce que la maitrise de certains outils a comme impacts sur des secteurs industriels tout entiers. Pensons aux nombreuses retombées néfastes d’Amazon 8, aux effets d’Uber sur les transports, ou à l’accaparement de la publicité par des acteurs restreints, pour ne mentionner que quelques cas. À l’inverse, une mise à disposition dans une logique purement libertarienne des outils sans aucun contrôle ne constituerait pas pour autant une garantie contre des dérives destructrices.
Une société démocratique peut-elle tolérer qu’un ensemble aussi important de technologies soit conçu, maitrisé et vendu sans aucun contrôle ? Puisque l’impact concret d’une technologie nouvelle dépend de facteurs autres que les seules caractéristiques de cette technologie, on peut dire que, pour s’assurer effectivement de donner un effet sociétal positif aux IA génératives, il faut pouvoir agir sur les conditions d’exercice de l’activité économique, ce qui va à l’encontre du laisser-faire actuel.

Un impact démocratique à appréhender

Interrogé sur l’impact des IA par The Guardian, Peter Wang, fondateur d’une plateforme de big data,
affirmait que « la dégradation due aux médias sociaux est notre première rencontre avec une IA vraiment stupide – parce que les systèmes de recommandation sont en réalité des modèles de machine learning simples. Et nous avons complètement échoué dans cette rencontre ».
Apparaissant dans un premier temps comme un espace de lien et de débat public, on reconnait en effet aujourd’hui aux réseaux sociaux des effets bien plus délétères : leurs algorithmes de recommandation, qui sont des modèles d’IA, enferment leurs utilisateur·rices dans des bulles informationnelles et renforcent la polarisation de la société.
Cet exemple nous emmène un pas plus loin. Dans le cas des IA génératives, la manière dont elles seront intégrées dans la société risque d’entraver les capacités des démocraties à les réguler, car ces outils interviennent directement dans le débat démocratique. En effet, elles permettent de partiellement automatiser des missions de service public et d’impacter directement des fonctions sociétales essentielles telles que l’enseignement ou l’établissement du débat collectif. Une déstructuration de ces fonctions peut représenter un danger pour notre système démocratique. Ainsi, la possibilité offerte à tout un chacun de produire des textes et images avec une facilité déconcertante ne peut être sans impact sur la qualité de nos démocraties. Si l’ère des fake news ne s’est pas ouverte avec l’IA, celle-ci pourrait amplifier le phénomène au point de générer un brouillard informationnel. Au-delà d’une utilisation potentielle par des complotistes, le simple fait de savoir que tout texte ou image peut avoir été généré artificiellement par une IA – dont seules quelques firmes détiendraient les clés – ne va-t-il pas effacer le peu de confiance qui nous reste dans notre capacité à poser des choix éclairés ? Un soupçon généralisé (« Cette image est-elle vraie ? ») ou un déséquilibre du débat (sous l’influence de milliers de personnes artificielles) constituent ici des menaces existentielles pour la démocratie. Promesses potentiellement factices pour les travailleur·ses, dangers pour le tissu socio-économique, menace majeure pour notre système politique, on pourrait dire en conclusion de cet article que l’arrivée des IA génératives nous dessine un avenir bien sombre 9. Ce serait mettre de côté toutes leurs promesses en termes de créativité et tout le potentiel de gain de productivité qu’elles contiennent. Il importe surtout de comprendre que l’impact de l’arrivée de cette technologie dépend avant tout de la façon dont la société réagira.
Nous avons évoqué les divers avenirs probables pour les journalistes. Avec les possibilités du journalisme par les data (usage des techniques du big data et de l’open data) on voit parfois une réorientation des tâches des équipes rédactionnelles vers l’analyse et la production de transparence de la société sur elle-même, ce qui renforce le rôle de quatrième pouvoir de ce secteur.
La réponse articulée d’une société à une nouveauté technologique vient toujours avec un temps de retard. Les bidouillages et les expérimentations se font d’abord, la prise en compte des risques et la mise en place de garde-fous ne viennent que bien plus tard.
Il importe, pour des mouvements sociaux soucieux de démocratie et porteurs de progrès social, d’agir dans ces deux temps. D’abord lors de la mise en œuvre, pour ne pas laisser des intérêts particuliers prendre le pas et façonner le terrain économique et le débat démocratique. Ensuite, lors de la mise en œuvre des régulations collectives, pour assurer que ces débats, tels que ceux qui entourent le projet de régulation européenne (le « AI Act »), ne restent pas cantonnés à des discussions techniques où interviennent des armées de lobbyistes 10. #

En mars dernier, le vénérable journal The Guardian fut contacté par un scientifique recherchant un article que ChatGPT lui avait renseigné. L’article en question était signé par un journaliste qui traite ces questions et son titre était tout à fait vraisemblable. Pourtant, de cet article, pas de trace dans le quotidien britannique. Et pour cause, puisque l’article n’existe pas.En mars dernier, le vénérable journal The Guardian fut contacté par un scientifique recherchant un article que ChatGPT lui avait renseigné. L’article en question était signé par un journaliste qui traite ces questions et son titre était tout à fait vraisemblable. Pourtant, de cet article, pas de trace dans le quotidien britannique. Et pour cause, puisque l’article n’existe pas.Le journal Le Monde s’est amusé à demander à ChatGPT de lui expliquer le fonctionnement et les limites de MidJourney, une autre IA générative. Le robot conversationnel a fourni une réponse structurée et argumentée, illustrée d’une citation de Leonardo Da Vinci. Or, là encore, la citation, bien que crédible, était fausse. Ainsi fonctionne ChatGPT. Ayant assimilé une somme considérable de textes, il produit, mot à mot, le texte qui, suivant le contexte donné, est mathématiquement le plus probable1. Il ne cherche pas à mentir ni à répondre à nos demandes en tant que telles, mais est uniquement un modèle logarithmique de ce que serait un texte plausible.Le principe de fonctionnement réside dans les réseaux de neurones artificiels (RNA), une modélisation très abstraite des systèmes nerveux biologiques. Il permet de modéliser le langage avec un succès surprenant, sans que l’on sache exactement ce que le réseau de neurones fait. On dispose d’une explication fondamentale, qui explique pourquoi un RNA peut approximer toute fonction, mais pas comment cela marche dans des cas concrets. Les industriels possèdent toute une série de techniques pour construire, entrainer et optimiser les RNA, mais personne ne sait interpréter pourquoi cela marche ici. S’il « ment », c’est uniquement en application des modèles qui le structurent et évaluent cette suite de mots comme probable dans ce contexte. En définitive, ChatGPT n’est qu’un beau parleur !Il manque à cet outil une capacité à évaluer la véracité des affirmations qu’il produit ou à sourcer celles-ci. Mais le champ évoluant rapidement, ces fonctionnalités apparaissent déjà sur des outils similaires.

1. Ou l’un des plus probables, histoire de donner un peu de place au hasard et aux systèmes qui permettent d’éviter certaines dérives, tels que les propos racistes ou la manipulation des relations humaines (cfr réseaux de rencontre). https://writings.stephenwolfram.com/2023/02/what-is-chatgpt-doing-and-why-does-it-work/


Martin COCLE, Informaticien et chargé de projet en économie sociale aux AID et Benoît DASSY, Secrétaire régional de la CSC de Bruxelles

 

  1. Pour autant que les augmentations des travailleur·ses soient
    permises sous quelque forme que ce soit par la loi sur la compétitivité, mais c’est une autre histoire.
    2. Le chemin est encore long pour les rédacteur·rices de Démocratie qui pensaient
    pouvoir se reposer les orteils en éventail – tout en empochant leur plantureux salaires – pendant que ChatGPT rédigeait tout pour elles·eux.
    3. Faisant fi de la phrase célèbre de Hegel statuant
    que « l’expérience et l’histoire nous enseignent que peuples et gouvernements n’ont jamais rien appris de l’histoire, qu’ils n’ont jamais agi suivant les maximes qu’on aurait pu en tirer » (Leçons sur la philosophie de l’histoire).
    4. G. VALENDUC et P. VENDRAMIN, La fin du travail n’est pas pour demain, Note de Prospective n° 6, mars 2019, Bruxelles, European Trade Union Institute.
    5. G. VALENDUC et P. VENDRAMIN, op cit.
    6. Ibid.
    7. Ibid.
    8. Sur le petit commerce, à commencer par les librairies, sur la création d’emplois de piètre qualité dans les entrepôts, sur l’environnement, sur la vie dans les centres urbains, sur les transferts de richesse vers quelques acteurs, etc.
    9. Et encore, nous n’avons pas abordé les questions environnementales, les impacts sur les droits fondamentaux, les problèmes légaux, les enjeux pédagogiques voire psychologiques.
    10. « L’Union européenne cherche à réguler l’intelligence artificielle, à l’heure de ChatGPT », Le Monde, 15 février 2023. Disponible en ligne.

©

Le Gavroche

Palestine : remettre les mots à leur place

«Les Palestiniens sont abattus. Les Palestiniens meurent de faim. Des enfants… Lire la suite
Mai 2019

Tous les numéros

DEMO NOV 23