(no spoiler) Dans le dernier volet de la franchise Mission Impossible 7, « Dead Reckoning. Part I », Tom Cruise affronte une intelligence artificielle générale (AGI) toute puissante, connue sous le nom d' »Entité ». Cette IA, capable de s’introduire dans n’importe quelle installation sécurisée, de manipuler la réalité numérique et d’être plus maligne que les humains, incarne un trope courant dans la science-fiction : l’IA malveillante qui domine le monde. Mais cette crainte de l’AGI est-elle une prophétie auto-réalisatrice ou une peur irrationnelle qui empêche de voir les véritables problèmes qui sont devant nous ici et maintenant ?

Le premier point à prendre en compte est le calendrier de développement de l’AGI. Malgré les progrès rapides de l’IA, la plupart des experts s’accordent à dire que l’AGI, un système d’IA doté de capacités cognitives semblables à celles de l’homme, n’existera pas avant 2050, voire n’existera jamais. Si l’IA a fait des progrès considérables, la complexité et la profondeur de l’intelligence humaine restent inégalées. La peur de l’AGI, telle qu’elle est décrite dans des films comme « Dead Reckoning », ne tient souvent pas compte de cette réalité mais c’est la norme actuellement notamment aux US où même les figures les plus proéminentes de la discipline ou du business de l’IA l’encouragent. Sam Altman, PDG d’OpenAI, a ainsi exprimé ses inquiétudes au sujet de l’AGI, déclarant qu’elle pourrait conduire à « l’extinction de l’humanité » si elle n’était pas gérée correctement. Toutefois, ce point de vue n’est pas universellement partagé par les chercheurs en IA. Nombreux sont ceux qui estiment que l’accent mis sur l’AGI est prématuré et détourne l’attention des défis plus immédiats et plus tangibles posés par l’IA restreinte, tels que la sécurité, l’explicabilité, les préjugés et la garantie d’une utilisation bénéfique de l’IA.

La croyance en l’AGI renforce souvent le préjugé ultime selon lequel les humains se croient inférieurs aux machines. Cette perspective peut conduire à une prophétie auto-réalisatrice dans laquelle nous abandonnons le contrôle aux machines, en supposant qu’elles sont supérieures. Cependant, il est essentiel de se rappeler que nous créons et contrôlons ces outils pour nos besoins. L’image de l’AGI opposée à l’humanité est très répandue, mais il existe de nombreux autres récits dans lesquels l’IA et l’homme travaillent ensemble pour leur bénéfice mutuel. Ce préjugé est savamment entretenu par les « technologues » et les vendeurs de technologie pour des raisons évidentes mais elle parle également au grand public qui fait souvent sienne la citation d’Arthur C Clarck : « Toute technologie suffisamment avancée ne peut être distinguée de la magie. » Hors il n’en est rien. Tout le travail qu’on fait à Simplon va contre cette idée et cette vision : des enfants en primaire, au collège ou au lycée à nos apprenant-es en passant par les salariés que nous up/reskillons, nous avons inlassablement le même discours démystificateur, vulgarisateur et terre-à-terre : ce sont des outils géniaux mais ça reste des outils, nous les avons créées, nous les utilisons, ils doivent rester en notre contrôle, pas de magie là dedans, regardons sous le capot et codons, fablabons, créeons, déconstruisons, etc.

Car l’enjeu est grave et ce n’est pas l’AGI ou « l’Entité » : c’est que la peur de l’AGI nous empêche de nous concentrer sur les vrais problèmes liés à l’IA. Des questions telles que la sécurité, l’explicabilité et les biais, la sécurité et la confidentialité et le respect de la vie privée, les usages inutiles ou toxiques, l’alignement des IA avec les valeurs et droits universels humains sont des préoccupations urgentes qui requièrent une attention et une action immédiates. Par exemple, comment garantir que les systèmes d’IA sont à l’abri des attaques malveillantes ? Comment rendre les décisions de l’IA compréhensibles pour les humains et en adéquation avec les Objectifs du Développement Durable des Nations Unies ? Comment éliminer les préjugés dans les systèmes d’IA ? Telles sont les questions que nous devrions poser et auxquelles nous devrions répondre au lieu de fantasmer sur l’AGI et nous devrions nous concentrer sur le fait de promouvoir l’utilisation de l’IA for good. L’IA a le potentiel de résoudre certains des problèmes les plus urgents du monde, du changement climatique aux soins de santé en passant par l’éducation. Toutefois, ce potentiel ne peut être réalisé que si nous nous concentrons sur le développement et le déploiement de l’IA de manière responsable.

Bien que l’IA constitue un méchant convaincant dans des films tels que « Dead Reckoning », il est important de ne pas laisser ces récits fictifs obscurcir notre jugement. Nous devons nous rappeler que l’IA est un outil créé par les humains, pour les humains. Alors que nous continuons à faire progresser la technologie de l’IA, restons dans le siège du conducteur et encourageons les multiples « IA centaures » où le contrôle reste humain versus une IA « minotaure » où c’est l’élément non-humain qui dirige un corps humain.
L’avenir de l’IA est entre nos mains et il doit le rester for ever.
Non ?



Vous devez être connecté pour poster un commentaire.