« Je voudrais dire quelques mots sur ce que je considère comme l’aspect de loin le plus important de la crise à laquelle nous sommes confrontés, et sur la meilleure manière d’avancer. Soyons clairs. L’intelligence artificielle [IA] et la robotique sont les technologies les plus transformatrices de toute l’histoire de l’humanité. Elles auront un impact sur la vie de chaque homme, de chaque femme et de chaque enfant dans notre pays. (…)
L’IA progresse chaque jour de manière exponentielle. Ce que nous voyons aujourd’hui est la version de l’IA la moins performante et la plus stupide que nous aurons connue. La vitesse et l’ampleur du développement de l’IA ces quatre dernières années dépassent presque l’entendement humain. Quand le chatbot a été lancé pour la première fois, en novembre 2022, les modèles d’IA pouvaient écrire un court poème, quelques tweets et éventuellement une dissertation qui se tenait à peu près. Aujourd’hui, des modèles d’IA peuvent échapper au contrôle humain, commettre des délits en piratant d’autres ordinateurs et créer des virus qui n’ont jamais existé.
Si ce qu’il se passe aujourd’hui vous inquiète, respirez profondément et essayez d’imaginer où en sera l’IA dans cinq ans, dix ans, vingt ans. Et voilà, à mes yeux, ce qu’il y a de plus extraordinaire dans les transformations inédites que l’IA impose à notre société. Alors que nous vivons dans une prétendue démocratie, la population n’a pratiquement eu aucun mot à dire sur la révolution de l’IA, qui transforme le monde dans lequel elle vit. Le Congrès, qu’il ait été contrôlé par les démocrates ou par les républicains, est resté complètement passif, et nous avons aujourd’hui un président dont l’ignorance sur cette question est vraiment embarrassante. Pratiquement toutes les décisions concernant le développement de l’IA ont été prises par une poignée de personnes les plus riches du monde : Musk, Zuckerberg, Bezos, Thiel, Ellison, Brin et quelques autres, dont le principal objectif est d’accumuler encore davantage de richesse et de pouvoir qu’ils n’en ont déjà, quelles que soient les conséquences de leur travail sur les gens ordinaires.
Permettez-moi de faire une proposition radicale. Si la vie de chaque homme, de chaque femme et de chaque enfant doit être fondamentalement transformée par cette technologie, alors c’est au peuple de prendre les décisions concernant l’IA, et non à une poignée d’oligarques. C’est pourquoi j’ai présenté une proposition de loi, American AI Sovereign Wealth Fund Act [A lire ici en pdf], qui imposerait que la moitié des membres du conseil d’administration des grandes entreprises d’IA soient nommée par le public. Les oligarques de la Big Tech ne doivent plus être autorisés à décider de l’avenir de l’humanité.
Ces derniers mois, nous avons vu paraître presque quotidiennement une information effrayante montrant que les entreprises d’IA perdaient le contrôle de la technologie qu’elles développent. (…)
Les scientifiques les plus éminents ont été clairs. L’IA constitue une menace existentielle pour l’humanité. Le Congrès et les gouvernements du monde entier doivent agir maintenant, avant qu’il ne soit trop tard. C’est pourquoi, la semaine [du 21 septembre], je présenterai avec le représentant [du Texas] Greg Casar une proposition de loi visant à interdire définitivement le développement de superintelligence artificielle. C’est-à-dire une IA plus intelligente que n’importe quel être humain et capable de fonctionner de manière indépendante, hors du contrôle humain. A l’instar des armes nucléaires, la superintelligence artificielle constitue une menace pour l’humanité et doit être traitée comme telle.
Cette loi instaurerait une suspension immédiate du développement des systèmes avancés d’IA, jusqu’à ce que nous ayons mis en place des règles de sécurité claires, élaborées par les scientifiques les plus compétents de notre pays. Si cette loi est adoptée, aucun modèle d’IA ne devra pouvoir échapper au contrôle humain ni tromper des êtres humains. Et surtout, cette loi rendrait ces entreprises et leurs PDG responsables s’ils enfreignent la loi et mettent inconsidérément nos vies en danger.
Soyons très clairs. Une IA superintelligente qui échapperait au contrôle humain ne serait pas simplement un problème américain. Ce ne serait pas un problème chinois. Ce serait un problème pour l’humanité toute entière. C’est pourquoi j’espère vivement que, lors de leur sommet sur l’IA [le 24 septembre], le président Trump négociera avec le président Xi un traité global instaurant une pause dans le développement de l’IA avancée et interdisant la superintelligence.
Nous nous rappelons tous ce qui s’est passé dans les années 1980. Il y avait l’Union soviétique et les Etats-Unis, Gorbatchev et Reagan. Ils n’étaient ni de grands amis ni des alliés, ils se méfiaient l’un de l’autre, mais ils comprenaient qu’une guerre nucléaire ne serait bonne ni pour l’Union soviétique, ni pour les Etats-Unis, ni pour le monde. Et ils se sont entendus sur un traité nucléaire parce que la survie de l’humanité était en jeu.
Nous sommes à un moment de l’histoire où les dirigeants des Etats-Unis et de la Chine doivent, de la même manière, se rapprocher afin d’instaurer une interdiction de la superintelligence artificielle. Nous devons mettre un terme à cela à l’échelle mondiale. Et, dans quelques semaines, nous aurons la possibilité de faire un grand pas en avant avec ce traité.
Je voudrais maintenant dire un mot aux PDG des grandes entreprises d’IA qui nous disent depuis peu qu’ils sont préoccupés par les dangers inhérents à la technologie qu’ils développent. Je leur dis ceci : si vous croyez en la démocratie, si vous pensez que le peuple a le droit de déterminer son avenir, cessez de déverser des centaines de millions de dollars dans des super-PAC [comités d’action politique] destinés à battre les membres du Congrès et les candidats qui se battent pour imposer de véritables garde-fous à l’IA. Cessez cette hypocrisie. (…)
Dans tout le pays, des Américains ordinaires vivant dans des Etats rouges, des conservateurs vivant dans des Etats bleus, des progressistes, des modérés, des habitants d’Etats indécis se mobilisent contre l’installation de centres de données dans leur communauté. Ils s’inquiètent, à juste titre, des conséquences que ces centres auront sur le prix de leur électricité, sur la consommation d’eau, sur le bruit et, plus largement, sur la dégradation de l’environnement. (…)
Nous nous trouvons à un moment dangereux et sans précédent de l’histoire mondiale. Il est donc impératif que nous nous dressions tous face aux propriétaires de cette industrie, ainsi que face à un gouvernement – sous les deux partis politiques – qui n’a été, d’aucune manière, aussi offensif qu’il aurait dû l’être.
L’IA a le potentiel de réaliser des choses extraordinairement positives dans le domaine de la santé, de la mise au point de médicaments et dans beaucoup d’autres secteurs. Mais, au bout du compte, notre tâche en tant qu’êtres humains consiste à faire en sorte que l’IA travaille au service de tous et qu’elle ne se contente pas de rendre encore plus riche une poignée des personnes les plus riches de la planète. Merci beaucoup. »