Peur de l’Intelligence Artificielle Générale : prophétie auto-réalisatrice ou inquiétude infondée qui fait diversion ?

(no spoiler) Dans le dernier volet de la franchise Mission Impossible 7, « Dead Reckoning. Part I », Tom Cruise affronte une intelligence artificielle générale (AGI) toute puissante, connue sous le nom d' »Entité ». Cette IA, capable de s’introduire dans n’importe quelle installation sécurisée, de manipuler la réalité numérique et d’être plus maligne que les humains, incarne un trope courant dans la science-fiction : l’IA malveillante qui domine le monde. Mais cette crainte de l’AGI est-elle une prophétie auto-réalisatrice ou une peur irrationnelle qui empêche de voir les véritables problèmes qui sont devant nous ici et maintenant ?

Le premier point à prendre en compte est le calendrier de développement de l’AGI. Malgré les progrès rapides de l’IA, la plupart des experts s’accordent à dire que l’AGI, un système d’IA doté de capacités cognitives semblables à celles de l’homme, n’existera pas avant 2050, voire n’existera jamais. Si l’IA a fait des progrès considérables, la complexité et la profondeur de l’intelligence humaine restent inégalées. La peur de l’AGI, telle qu’elle est décrite dans des films comme « Dead Reckoning », ne tient souvent pas compte de cette réalité mais c’est la norme actuellement notamment aux US où même les figures les plus proéminentes de la discipline ou du business de l’IA l’encouragent. Sam Altman, PDG d’OpenAI, a ainsi exprimé ses inquiétudes au sujet de l’AGI, déclarant qu’elle pourrait conduire à « l’extinction de l’humanité » si elle n’était pas gérée correctement. Toutefois, ce point de vue n’est pas universellement partagé par les chercheurs en IA. Nombreux sont ceux qui estiment que l’accent mis sur l’AGI est prématuré et détourne l’attention des défis plus immédiats et plus tangibles posés par l’IA restreinte, tels que la sécurité, l’explicabilité, les préjugés et la garantie d’une utilisation bénéfique de l’IA.

La croyance en l’AGI renforce souvent le préjugé ultime selon lequel les humains se croient inférieurs aux machines. Cette perspective peut conduire à une prophétie auto-réalisatrice dans laquelle nous abandonnons le contrôle aux machines, en supposant qu’elles sont supérieures. Cependant, il est essentiel de se rappeler que nous créons et contrôlons ces outils pour nos besoins. L’image de l’AGI opposée à l’humanité est très répandue, mais il existe de nombreux autres récits dans lesquels l’IA et l’homme travaillent ensemble pour leur bénéfice mutuel. Ce préjugé est savamment entretenu par les « technologues » et les vendeurs de technologie pour des raisons évidentes mais elle parle également au grand public qui fait souvent sienne la citation d’Arthur C Clarck : « Toute technologie suffisamment avancée ne peut être distinguée de la magie. » Hors il n’en est rien. Tout le travail qu’on fait à Simplon va contre cette idée et cette vision : des enfants en primaire, au collège ou au lycée à nos apprenant-es en passant par les salariés que nous up/reskillons, nous avons inlassablement le même discours démystificateur, vulgarisateur et terre-à-terre : ce sont des outils géniaux mais ça reste des outils, nous les avons créées, nous les utilisons, ils doivent rester en notre contrôle, pas de magie là dedans, regardons sous le capot et codons, fablabons, créeons, déconstruisons, etc.

Midjourney « artificial general intelligence for good –s 50 –v 5.2 »

Car l’enjeu est grave et ce n’est pas l’AGI ou « l’Entité » : c’est que la peur de l’AGI nous empêche de nous concentrer sur les vrais problèmes liés à l’IA. Des questions telles que la sécurité, l’explicabilité et les biais, la sécurité et la confidentialité et le respect de la vie privée, les usages inutiles ou toxiques, l’alignement des IA avec les valeurs et droits universels humains sont des préoccupations urgentes qui requièrent une attention et une action immédiates. Par exemple, comment garantir que les systèmes d’IA sont à l’abri des attaques malveillantes ? Comment rendre les décisions de l’IA compréhensibles pour les humains et en adéquation avec les Objectifs du Développement Durable des Nations Unies ? Comment éliminer les préjugés dans les systèmes d’IA ? Telles sont les questions que nous devrions poser et auxquelles nous devrions répondre au lieu de fantasmer sur l’AGI et nous devrions nous concentrer sur le fait de promouvoir l’utilisation de l’IA for good. L’IA a le potentiel de résoudre certains des problèmes les plus urgents du monde, du changement climatique aux soins de santé en passant par l’éducation. Toutefois, ce potentiel ne peut être réalisé que si nous nous concentrons sur le développement et le déploiement de l’IA de manière responsable.

Bien que l’IA constitue un méchant convaincant dans des films tels que « Dead Reckoning », il est important de ne pas laisser ces récits fictifs obscurcir notre jugement. Nous devons nous rappeler que l’IA est un outil créé par les humains, pour les humains. Alors que nous continuons à faire progresser la technologie de l’IA, restons dans le siège du conducteur et encourageons les multiples « IA centaures » où le contrôle reste humain versus une IA « minotaure » où c’est l’élément non-humain qui dirige un corps humain.

L’avenir de l’IA est entre nos mains et il doit le rester for ever.

Non ?

L’IA et le futur du travail: on se met au boulot ou bien ?

Voilà un article sur une thématique qui m’est très chère, puisque je la vis au quotidien avec Simplon : le futur de l’emploi à l’heure de l’IA, et sur un sujet pas facile et controversé.

Je suis tombé dernièrement sur une étude de l’OCDE qui anticipait la disparition de près de 15 millions d’emplois dans les 20 prochaines années à cause (ou grâce) des progrès exponentiels de l’IA et de l’automatisation. Rassurez-vous tout de suite, je ne pense pas qu’on sera tous chômeurs, contrairement à ce que prédisent certains « prophètes de malheur » plutôt pessimistes. En fait, ces études prospectives oublient souvent de mentionner que de nouveaux emplois vont aussi être créés, en nombre, par les mêmes technologies qui en détruisent, et qu’elles vont aussi transformer la nature même du travail pour la majorité d’entre nous.

Midjourney – Artificial Intelligences and Humans peacefully working together, Utopic Cartoon style –s 50 –v 5.2

Pour le meilleur et pour le pire.

Côté meilleur, l’IA va nous permettre de déléguer les tâches pénibles, répétitives et sans valeur ajoutée au robots et aux algorithmes. On aura plus de temps pour se concentrer sur la créativité, l’innovation, les relations humaines et le sens au travail. L’IA pourra aussi augmenter nos capacités cognitives, améliorer notre productivité et personnaliser nos expériences.

Côté pire, les emplois peu qualifiés et ceux basés sur des compétences facilement automatisables risquent de disparaître. De plus, la frontière entre vie privée et vie professionnelle risque de s’estomper définitivement avec des IA de plus en plus intelligentes et omniprésentes. On aura aussi affaire à la dépendance croissante aux machines et à la perte de certaines capacités humaines (calcul mental, orientation, mémorisation, etc.).

Pour conclure, je reste convaincu que l’humain restera irremplaçable. La créativité, l’empathie, la collaboration, la pensée systémique ou encore la sagesse sont des capacités qui font notre humanité. À nous d’utiliser l’IA pour les développer et non les remplacer.

Le succès de demain appartiendra à ceux qui sauront allier l’humain et la machine, en faisant interagir le meilleur des deux mondes. Notre avenir n’est pas de nous faire remplacer par les robots mais de travailler avec eux, en complémentarité. La clé sera la formation tout au long de la vie pour développer ces « complementary skills » et d’autres compétences d’avenir.

Midjourney – Artificial Intelligence taking over human jobs, Dystopic cyberpunk style –s 50 –v 5.2

Sacré Benedict…

L’article « AI and the automation of work » de Benedict Evans m’a également marqué car pour une fois il discute de l’impact de l’IA générative, des grands modèles de langage (LLM) et de ChatGPT sur l’avenir du travail et de l’automatisation. En voici les points principaux :

  • Changement Générationnel : L’IA générative, les LLM et ChatGPT sont considérés comme un changement générationnel dans ce que nous pouvons automatiser avec le logiciel. Ils devraient apporter plus d’automatisation et de nouveaux types d’automatisation.
  • Automatisation et Emplois : L’auteur soutient que bien que l’automatisation puisse éliminer certains emplois, elle en crée également de nouveaux. Cela a été la tendance au cours des 200 dernières années. Cependant, la crainte est que les nouveaux emplois créés par l’IA et l’automatisation ne soient pas aussi prévisibles ou aussi nombreux que les emplois qui sont automatisés.
  • Le Sophisme de la masse de travail : L’auteur discute du « sophisme de la masse de travail », qui est la fausse idée qu’il y a une quantité fixe de travail à faire, et que si une partie du travail est prise par une machine, il y aura moins de travail pour les gens. Cependant, si une tâche devient moins chère grâce à l’automatisation, plus de personnes peuvent se la permettre, et elles ont plus d’argent à dépenser pour d’autres choses, créant de nouveaux emplois.
  • Le Paradoxe de Jevons : L’auteur introduit le paradoxe de Jevons, qui suggère que lorsque la technologie rend les processus plus efficaces et moins chers, nous avons tendance à en utiliser davantage, ce qui entraîne une augmentation de la consommation. Ceci a été appliqué au travail de col blanc depuis 150 ans.
  • La Vitesse d’Adoption : L’auteur souligne que l’adoption de technologies d’IA comme ChatGPT se fait beaucoup plus rapidement que les technologies précédentes comme l’internet ou les PC. Cependant, l’auteur soutient que le remplacement ou l’automatisation des outils et des tâches existants n’est pas trivial et prendra du temps.
  • Le Taux d’Erreur : L’auteur discute du taux d’erreur des technologies d’IA, affirmant que bien qu’elles puissent répondre à ‘tout’, la réponse peut être fausse. C’est parce que les technologies d’IA ne font pas une recherche dans une base de données mais créent un modèle. Comprendre cela est crucial pour éviter les erreurs.
  • L’Avenir du Travail : L’auteur suggère que les LLM détruiront, déplaceront, créeront, accéléreront et multiplieront les emplois tout comme les technologies précédentes l’ont fait. Cependant, la vitesse de ce changement pourrait causer plus de douleur de friction et rendre plus difficile l’adaptation.
  • La Question de l’AGI : L’auteur conclut en discutant du potentiel de l’Intelligence Artificielle Générale (AGI), un système qui pourrait faire tout ce que les gens peuvent faire sans aucune limitation. Si un tel système existait, il pourrait potentiellement remplacer les humains dans de nombreux emplois. Cependant, l’auteur soutient que nous sommes loin d’atteindre l’AGI, et jusqu’à ce que nous y arrivions, nous avons affaire à une autre vague d’automatisation.

Mais que disent les études (lol) ?

D’après des études récentes menées par le MIT, le NBER, Goldman Sachs, OpenAI/University of Pennsylvania et Accenture, de nombreuses professions dans les pays développés seront fortement impactées par le travail assisté par l’intelligence artificielle (IA) ou par son remplacement. Bien que les impacts varient considérablement selon les professions, l’IA a le potentiel d’affecter 80% de la main-d’œuvre aux États-Unis et, selon un rapport de Goldman Sachs, d’augmenter le PIB mondial de 7%. Une étude d’Accenture montre que, parmi 22 groupes professionnels, 40% des tâches actuelles présentent un fort potentiel d’automatisation ou d’assistance, notamment dans les secteurs des services financiers, des logiciels et des plates-formes, de l’énergie, et des communications et des médias.

Les gains potentiels de productivité sont significatifs. Même avec des mises en œuvre relativement précoces de l’IA sans contexte d’entreprise, une étude récente du MIT a montré que la productivité des travailleurs sur des tâches typiques de bureau pourrait être améliorée de plus de 50%, les tâches de codage pouvant être réalisées deux fois plus rapidement grâce à l’IA. Les résultats varient considérablement selon les fonctions : dans le support client, des études ont montré une augmentation de 14% du nombre de problèmes traités par heure avec l’assistance de l’IA, et les économistes ont observé une augmentation de productivité de 10 à 20%. En revanche, dans les ventes, les représentants du développement commercial (RDC) peuvent envoyer 15 e-mails personnalisés et étudiés par heure avec l’assistance de l’IA, contre trois par heure manuellement, soit une différence de 5 fois. À mesure que les modèles s’améliorent et qu’ils ont accès à des données d’entreprise plus holistiques, ces chiffres augmenteront davantage.

Les travailleurs moins productifs ou nouvellement embauchés bénéficient de manière disproportionnée de l’IA. Selon l’étude du MIT sur les tâches de bureau, non seulement tous les travailleurs étaient plus productifs avec l’IA, mais les gains étaient beaucoup plus importants pour les travailleurs moins productifs au départ, et leur taux d’amélioration était plus élevé. Le même constat a été fait dans la recherche du NBER sur la productivité des centres d’appels, où les opérateurs des centres d’appels pouvaient choisir des réponses générées par l’IA pour répondre aux demandes d’assistance. Dans cette dernière étude, le modèle était continuellement amélioré grâce aux réponses des opérateurs hautement qualifiés, ce qui permettait de partager les connaissances tacites des travailleurs les plus qualifiés à l’ensemble de la main-d’œuvre.

Et le « AI & Skill-Biased Technical Change » alors ?

Dernier truc que j’ai envie de vous partager car ça m’a marqué, c’est que des recherches confirment qu’il y a bien un « biais » dans les IA au niveau de leurs impacts sur les compétences et le monde du travail, mais c’est pas celui qu’on imagine. En effet, le « changement technologique biaisé en faveur des compétences » est une évolution validée par la recherche en 2016 et en 2023 qui démontre que les travailleurs qualifiés sont favorisés car cela augmente leur productivité et donc leur demande relative, en particulier avec l’adoption de nouvelles technologies d’information. Cette tendance a des implications importantes pour la répartition des revenus et peut contribuer à l’augmentation des inégalités salariales. Une étude portant sur 16 pays européens entre 2011 et 2019 a révélé que la part d’emploi a généralement augmenté dans les métiers plus exposés à l’intelligence artificielle (IA), en particulier pour les métiers qui emploient une proportion plus élevée de travailleurs jeunes et qualifiés. Cependant, cette tendance n’est pas uniforme et varie en fonction du rythme de diffusion de la technologie, du niveau d’éducation, de la régulation du marché des produits et des lois de protection de l’emploi. Aucune preuve solide n’a été trouvée d’une relation entre les salaires et l’exposition potentielle aux nouvelles technologies.

Cela est assez intéressant je trouve non ? Mais les choses ne sont pas claires hein ?
Donc ça veut dire qu’on a pas fini d’en parler, ici et ailleurs.

Et vous, qu’en pensez-vous?