Six pires scénarios de développement de l'IA dans le monde réel
Le pire scénario impliquant l'intelligence artificielle (IA) est familier à tous grâce aux blockbusters de science-fiction : les machines acquièrent une conscience humaine, deviennent intelligentes et se transforment inévitablement en maîtres maléfiques qui cherchent à anéantir la race humaine. Cette histoire repose sur notre peur innée de la technologie, qui reflète les profonds bouleversements accompagnant souvent les nouvelles avancées technologiques.
Pourtant, selon Malcolm Murdoch, ingénieur en apprentissage automatique et auteur du roman « Le prix quantique » (2019), l'IA n'a pas nécessairement besoin d'être consciente pour nous anéantir tous. Il existe de nombreux autres scénarios qui nous effaceraient de la surface de la terre bien avant que l'IA consciente ne devienne un problème.
« Nous entrons dans un territoire dangereux et inexploré avec le renforcement de la surveillance et du suivi des données, et nous comprenons à peine les conséquences potentielles »
Dans des entretiens avec des experts en IA, la publication IEEE Spectrum a identifié six pires scénarios de développement de l'intelligence artificielle dans le monde réel, bien plus banals que ceux montrés dans les films. Mais ils n'en sont pas moins utopiques à l'envers, c'est-à-dire tout aussi dystopiques.
Quand la fiction définit notre réalité
Si nous laissons la fiction définir notre réalité, une tragédie inutile peut survenir. Mais quel choix avons-nous si nous ne pouvons pas distinguer le vrai du faux dans le monde numérique ?
Dans un scénario effrayant, la prolifération des deepfakes — fausses images, vidéos, audios et textes créés à l'aide d'outils avancés d'apprentissage automatique — pourrait un jour amener les décideurs en matière de sécurité nationale à agir concrètement sur la base de fausses informations, provoquant une crise majeure ou, pire encore, une guerre.
Andrew Lohn, chercheur senior au Centre pour la sécurité et les technologies émergentes (CSET) de l'Université de Georgetown, a déclaré que « les systèmes dotés d'IA sont désormais capables de générer de la désinformation à grande échelle ». En créant de grands volumes et une grande diversité de faux messages, ces systèmes peuvent dissimuler leur véritable nature et être optimisés pour réussir, en améliorant progressivement l'effet recherché.
Le simple fait de savoir que des deepfakes peuvent exister en situation de crise pourrait également conduire les dirigeants à hésiter dans leurs actions, si la véracité des informations ne peut pas être confirmée à temps.
Marina Favaro, chercheuse à l'Institut de recherche et de politique de sécurité de Hambourg (Allemagne), a souligné que « les deepfakes sapent par défaut notre confiance dans les flux d'informations ». Qu'il s'agisse d'agir ou de ne pas agir à cause des deepfakes, les conséquences pourraient être catastrophiques pour le monde entier.
La course dangereuse vers le bas
Lorsqu'il s'agit d'IA et de sécurité nationale, la vitesse est à la fois l'enjeu et le problème. Comme les systèmes dotés d'IA offrent à leurs utilisateurs de grands avantages en termes de rapidité, les pays qui développeront les premiers des applications militaires obtiendront un avantage stratégique. Mais quels principes pourrait-on sacrifier en chemin ?
Helen Toner, directrice de la stratégie au CSET, suppose qu'une crise pourrait « commencer par une simple défaillance ponctuelle qui coupe toutes les communications, provoquant la panique des gens et l'arrêt de l'activité économique. Le manque d'informations persistant, accompagné d'autres erreurs de calcul, pourrait faire dégénérer la situation ».
Vincent Boulanin, chercheur senior à l'Institut international de recherche sur la paix de Stockholm (SIPRI) en Suède, met en garde contre de grandes catastrophes qui pourraient survenir « lorsque les grandes puissances feront des raccourcis pour prendre l'avantage en premier. Si un pays privilégie la vitesse plutôt que la sécurité, les tests ou le contrôle humain, ce sera une course dangereuse vers le bas ».
La fin de la vie privée et du libre arbitre
À chaque action numérique, nous produisons de nouvelles données — e-mails, SMS, téléchargements, achats, messages, selfies et localisations GPS. En donnant aux entreprises et aux gouvernements un accès illimité à ces données, nous leur remettons des outils de surveillance et de contrôle.
Avec l'ajout de la reconnaissance faciale, de la biométrie, des données génomiques et de l'analyse prédictive dotée d'IA, Lohn du CSET s'inquiète que « nous entrions dans un territoire dangereux et inexploré avec la hausse de la surveillance et du suivi par les données, et nous comprenons à peine quelles conséquences sont possibles ».
Michael C. Horowitz, directeur de la Perry World House de l'Université de Pennsylvanie, met en garde « contre la logique de l'IA et ce qu'elle signifie pour la répression intérieure. Par le passé, la capacité des autocrates à réprimer leur population dépendait d'un grand nombre de soldats, dont certains pouvaient décider de se ranger du côté de la société et de renverser le pouvoir. L'IA pourrait réduire ces contraintes ».
La puissance des données, une fois collectées et analysées, dépasse largement les fonctions de suivi et de surveillance, permettant une gestion prédictive. Aujourd'hui, les systèmes dotés d'IA prédisent quels produits nous achèterons, quels divertissements nous regarderons et sur quels liens nous cliquerons.
La boîte de Skinner humaine
Les utilisateurs des réseaux sociaux sont devenus des rats de laboratoire vivant dans des boîtes de Skinner humaines (la boîte de Skinner est un appareil de laboratoire utilisé pour étudier le comportement animal), collés à l'écran de leur smartphone, contraints de sacrifier leur temps et leur attention, plus précieux encore, au profit de plateformes qui en tirent profit à leurs dépens.
Helen Toner du CSET a déclaré que « les algorithmes sont optimisés pour que les utilisateurs restent sur la plateforme aussi longtemps que possible ». En offrant une récompense sous forme de likes, de commentaires et d'abonnements, explique Malcolm Murdoch, « les algorithmes court-circuitent le fonctionnement de notre cerveau, rendant notre prochaine participation irrésistible ».
Pour maximiser les revenus publicitaires, les entreprises détournent notre attention du travail, de la famille et des amis, des responsabilités et même des loisirs. Pire encore, le contenu nous fait souvent nous sentir malheureux et moins bien qu'auparavant. Toner met en garde : « plus nous passons de temps sur ces plateformes, moins nous en consacrons à la poursuite d'une vie positive, productive et épanouie ».
La tyrannie du design de l'IA
Chaque jour, nous confions une grande partie de notre vie quotidienne à des machines dotées d'IA. C'est problématique car, comme le souligne Horowitz, « nous devons encore pleinement prendre conscience du problème des biais dans l'IA. Même avec les meilleures intentions, la conception des systèmes dotés d'IA, qu'il s'agisse des données d'entraînement ou des modèles mathématiques, reflète l'expérience étroite et les intérêts des personnes biaisées qui les programment. Et nous avons tous nos propres préjugés ».
Lidia Kostopoulos, vice-présidente senior en nouvelles technologies chez KnowBe4, entreprise spécialisée dans la sécurité de l'information, affirme que « de nombreux systèmes dotés d'IA ne tiennent pas compte de l'expérience et des caractéristiques diverses des différentes personnes ». Comme l'IA résout des problèmes fondés sur des points de vue et des données biaisés plutôt que sur les besoins uniques de chacun, ces systèmes imposent un niveau de conformité qui n'existe pas dans la société humaine.
Bien avant l'IA, la conception des objets courants de notre quotidien servait souvent un type particulier de personnes. Par exemple, des études ont montré que les voitures, les outils manuels, y compris les téléphones portables, et même les paramètres de température dans les bureaux ont été conçus pour des hommes de taille moyenne, plaçant les personnes de tailles et de morphologies différentes, dont les femmes, dans une situation inconfortable, parfois même dangereuse.
La peur de l'IA prive l'humanité de ses avantages
Comme l'IA moderne travaille avec des ensembles de données, des modèles statistiques avancés et des algorithmes de prédiction, le processus de création d'une intelligence artificielle se concentre finalement sur les mathématiques. Selon Murdoch, « l'algèbre linéaire peut accomplir des choses follement puissantes si nous ne faisons pas attention ».
Mais que se passerait-il si les gens avaient si peur de l'IA que les gouvernements la réglementeraient d'une manière qui priverait l'humanité de nombreux avantages de l'IA ? Par exemple, le programme AlphaFold de DeepMind a réalisé une percée majeure dans la prédiction de la façon dont les acides aminés se replient en protéines, permettant aux scientifiques de déterminer la structure de 98,5 % des protéines humaines. Cette étape posera des bases fécondes pour le développement rapide des sciences du vivant.
Pensez aux avantages d'une meilleure communication et d'une meilleure compréhension interculturelle rendues possibles par une traduction fluide vers n'importe quelle combinaison de langues humaines, ou par l'utilisation de systèmes dotés d'IA pour trouver de nouveaux traitements contre les maladies.
Les mesures réglementaires prises par les gouvernements pour se protéger des pires scénarios de développement de l'IA peuvent aussi avoir des effets indésirables et engendrer leurs propres conséquences négatives involontaires, nous rendant si craintifs face à la puissance de cette technologie étonnante que nous résisterions à l'utiliser pour le bien qu'elle peut apporter au monde.
