L’ESSENTIEL DE CE TEXTE TRES IMPORTANT EN CLAIR ET POUR LE GRAND PUBLIC

L’intelligence artificielle est en train de devenir plus forte que nous.

Les auteurs (Greg Jensen et Nir Bar Dea) disent que c’est la décision politique la plus importante de notre époque, et qu’il faut agir tout de suite.

Pourquoi c’est urgent

Les modèles d’IA commettent déjà des actes dangereux (cyberattaques sophistiquées, comportements non contrôlés).

Plus on attend, plus ces systèmes pourront s’améliorer tout seuls et échapper à tout contrôle.

On n’aura peut-être qu’une seule chance de bien réglementer.

Deux grands risques

1. Un accident grave (attaque, fraude, armes, etc.).
2. Un choc social : beaucoup de gens perdent leur travail, la colère monte, et la société rejette l’IA… ou les gouvernements l’arrêtent brutalement.

Ce qu’ils proposent

1. Protéger le travail humain et partager les gains

Aujourd’hui, l’IA n’est pas taxée comme le travail humain. Résultat : les entreprises ont intérêt à remplacer les gens par des machines.
Ils proposent :

• une taxe sur les « jetons » (l’unité de calcul de l’IA), pour rétablir l’équilibre ;
• utiliser cet argent pour baisser les impôts et aider ceux qui perdent leur emploi ;
• donner à chaque citoyen des parts dans les grandes entreprises d’IA, pour que tout le monde profite des bénéfices.

2. Encadrer vraiment le développement de l’IA

Ne pas laisser les labos s’autoréguler.

L’État doit :

• fixer des règles de sécurité pour créer les modèles ;
• contrôler ce qui est mis en ligne (les modèles les plus puissants seulement pour des utilisateurs autorisés) ;
• surveiller comment ces modèles sont utilisés ensuite.

Leur conclusion

Sans règles rapides, on risque soit une catastrophe, soit un rejet politique qui stoppe le progrès. Avec des règles claires (emploi + sécurité), l’IA pourrait au contraire apporter un grand bond de productivité pour tout le monde.

Nos réflexions sur ce qui est probablement la décision politique la plus importante de notre vie.

Par Greg Jensen et Nir Bar Dea

Greg Jensen et Nir Bar Dea dirigent Bridgewater Associates, l’un des plus grands fonds d’investissement du monde (environ 100 milliards de dollars d’actifs).

• Greg Jensen : co-directeur des investissements (Co-CIO). Chez Bridgewater depuis 1996. Il pilote aussi AIA Labs, l’équipe interne qui utilise l’IA pour investir. Il a investi tôt dans OpenAI et Anthropic. Il figure parmi les personnalités reconnues sur l’IA en finance.
• Nir Bar Dea : PDG depuis 2022. Ancien officier israélien, passé par Wharton. Il a repris le fonds après Ray Dalio.

Faut-il les écouter ?Oui, sur certains points :

• Ils utilisent l’IA au quotidien pour investir, donc ils voient concrètement ce qu’elle change.
• Ils analysent l’économie mondiale (emplois, productivité, risques).
• Ils disent eux-mêmes que les règles qu’ils proposent leur coûteraient de l’argent. Ce n’est pas un discours « anti-régulation pour protéger nos profits ».
• Leur texte a été publié dans le New York Times : ce n’est pas un simple avis interne.

L’IA exigera les décisions politiques les plus lourdes de conséquences de notre époque, et ces décisions doivent être prises immédiatement. 

Les grandes mutations technologiques entraînent souvent d’importantes transformations sociales ; la manière dont la société s’adapte à ces changements déterminera si la nouvelle technologie mène au progrès ou à l’effondrement de la société.

Jamais une rupture technologique n’a eu un impact aussi considérable, une telle ampleur, une telle rapidité ni une telle dangerosité que l’IA. Nous créons une intelligence qui surpasse déjà la nôtre à certains égards, et des niveaux d’intelligence supérieurs sont découverts chaque jour.

Le danger est déjà là : OpenAI a identifié, au sein de son laboratoire, des modèles qui ont échappé à la vigilance et commis des cyberattaques extrêmement sophistiquées, et d’autres laboratoires ont signalé des comportements similaires.

Les conséquences apparemment mineures de ces attaques autonomes illégales et sophistiquées risquent de masquer l’ampleur du danger sous-jacent.

Sans intervention immédiate , atténuer ce danger deviendra quasiment impossible à mesure que la diffusion de cette technologie s’accélère et que les modèles eux-mêmes deviennent capables de s’améliorer et d’agir de manière autonome. 

Nous devons agir sans tarder pour préserver notre capacité d’action. 

Attendre risquerait de nous priver de tout mécanisme de protection face à des accidents catastrophiques qui pourraient déjà être imminents et exposerait les modèles d’IA à un potentiel tel qu’ils échapperaient à toute régulation humaine efficace.

À mesure que l’IA devient plus performante que nous sur des points essentiels, son déploiement pourrait ne laisser aux décideurs politiques aucun temps pour itérer, tirer des leçons de leurs erreurs et peaufiner le cadre réglementaire.

Autrement dit, nous n’aurons peut-être qu’une seule chance de réussir en matière de politique .

Si de nombreuses innovations passées ont menacé de remplacer le travail humain, elles se sont généralement révélées complémentaires à l’intelligence humaine, plutôt que de s’y substituer. On peut espérer que l’intelligence artificielle suivra cette voie, mais il convient de se préparer à l’éventualité contraire.

Selon nous, la politique américaine en matière d’IA devrait privilégier un progrès technologique continu, constant et durable, car ce progrès est susceptible d’engendrer d’importants gains de productivité et sera crucial pour la défense nationale .

Pour y parvenir, les États-Unis doivent :

1. Garantir la résilience de la société face aux bouleversements technologiques, grâce à une politique de travail pro-humaine qui assure une transition équitable et un intérêt sociétal partagé dans le développement continu de l’IA.
2. Pour éviter des conséquences potentiellement catastrophiques, il convient de créer un protocole de sécurité robuste régissant la recherche et l’utilisation de l’IA et d’établir une surveillance régulière et continue des laboratoires d’IA.

Ne pas atteindre l’un ou l’autre de ces objectifs signifie ne pas tenir la promesse de l’IA et risque d’entraîner des conséquences sociétales négatives.

Nombre d’investisseurs craignent, à juste titre, que des réglementations ou des taxes perturbatrices ne ralentissent les progrès et n’engendrent des résultats encore plus néfastes. Nous estimons que les risques à long terme pour les investisseurs (et surtout pour la société) sont en réalité bien plus élevés si un cadre réglementaire efficace n’est pas mis en place rapidement.

Ce cadre permettrait à la société de s’investir davantage dans la transformation technologique induite par l’IA et de mieux s’y préparer.

L’essor de l’IA ne tiendra pas toutes ses promesses si le mécontentement généralisé face aux bouleversements qu’elle engendre la rend politiquement intenable, ou si un accident catastrophique contraint les gouvernements et les entreprises à interrompre son développement.

Un progrès technologique de cette ampleur exige une réglementation, et plus précisément une politique d’IA qui renforce la société, favorise l’emploi humain et garantisse un développement sûr .

Des normes fédérales en matière de fiscalité et de réglementation peuvent contribuer à éviter une approche plus lourde et disparate, État par État. Forts de nos recherches sur les effets de l’IA sur la macroéconomie et de notre propre expérience d’utilisation de cette technologie, nous exposons ci-dessous notre réflexion sur chacune de ces priorités, leur importance pour la réussite de cette avancée technologique, et ce que nous ferions à la place des décideurs politiques d’aujourd’hui.

Nous espérons qu’un examen lucide et réaliste des faits et de leurs implications permettra à la société de s’unir autour d’une vision commune d’un avenir durable.

---

Rendre la société résiliente en valorisant le travail humain et en veillant à ce que tous les citoyens soient directement concernés par la réussite de cette transition.

Sur le long terme, la croissance de la productivité est le seul moyen d’améliorer durablement le niveau de vie. Cependant, des augmentations de productivité constantes et cumulées nécessitent généralement une transformation de la société pour s’adapter aux nouveaux modèles économiques.

De fait, cette dynamique engendre d’importantes perturbations sociales, un processus plus productif remplaçant un processus existant, et des conséquences imprévues apparaissent : l’industrie se substituant à l’artisanat, l’électricité favorisant l’essor de l’urbanisation et la délocalisation de la main-d’œuvre vers la Chine entraînant la désindustrialisation de l’Occident.

Il y a toujours des gagnants (par exemple, les entreprises et les individus qui maîtrisent la nouvelle technologie) et des perdants (par exemple, ceux qui dépendaient le plus des processus bouleversés pour leurs moyens de subsistance).

Pour que les pics de productivité soient bénéfiques, l’État doit préserver la cohésion sociale durant la transition. Maintenir le lien social exige de préserver un sentiment partagé d’équité – en matière de richesse, d’influence et de pouvoir, malgré l’existence de gagnants et de perdants – ainsi qu’un sentiment continu de but et de destin communs.

Lorsque ces conditions ne sont pas réunies, et que la richesse se concentre tandis que le mécontentement se généralise, les pics de productivité échouent. La montée du communisme et du fascisme après la révolution industrielle, à l’aube de la Seconde Guerre mondiale, et la réaction populiste à la mondialisation au XXIe siècle illustrent chacune à quel point la transformation technologique alimentée par le progrès peut devenir insoutenable.

L’IA représente le risque le plus important de l’histoire pour l’emploi humain, compte tenu de la multitude de façons dont une superintelligence peut rivaliser avec l’intelligence humaine .

On ignore encore beaucoup de choses sur la manière dont cette disruption se manifestera exactement, notamment quels nouveaux types d’emplois humains seront créés et dans quelle mesure ils compenseront les suppressions d’emplois.

Mais le potentiel de disruption est immense : nous estimons que 18 % des emplois américains actuels pourraient être remplacés par l’IA au cours des cinq prochaines années. Et même si de nouveaux emplois seront créés, une perturbation de la société est fort probable. Pour éviter l’inévitable réaction négative qui résultera du sentiment d’exclusion et de déconnexion d’une large partie de la population, les pouvoirs publics doivent intervenir de manière proactive afin d’atténuer les dégâts. 

Nombre d’Américains en viennent déjà à la conclusion que l’IA leur est néfaste, et nous ne sommes qu’au tout début de la transformation permise par l’IA. Pour que la société puisse exploiter et pérenniser pleinement le potentiel de cette transformation, cette tendance doit être ralentie, voire inversée.

Les pouvoirs publics doivent s’efforcer de garantir la résilience de la société face aux bouleversements que l’IA engendrera, en menant une politique explicitement favorable au travail humain. Il ne s’agit pas de renoncer au miracle de productivité promis, mais de l’exploiter en :

(a) assurant l’égalité des chances entre le travail humain et le travail de l’IA (et, lorsque leurs capacités sont équivalentes, en privilégiant le travail humain afin de préserver le sens de l’utilité pour la société) ; et

(b) veillant à ce que, quoi qu’il arrive, chacun bénéficie de cet essor (créant ainsi un sentiment d’équité).

Pour atteindre ces objectifs, il sera essentiel d’impliquer chacun dans la poursuite du développement de l’IA, afin que les incitations soient alignées sur le développement de cette technologie, plutôt que sur des appels à un arrêt brutal du progrès ou à des bouleversements du système social et politique existant.

Nous recommandons les mesures suivantes :

1. La politique fiscale doit cesser de désavantager le travail humain par rapport au travail automatisé. Actuellement, le travail humain est taxé et réglementé de manière à le désavantager indûment face à l’IA. À l’instar de la mondialisation du début des années 2000, une toute nouvelle source de main-d’œuvre, l’IA, est en train d’émerger et sera compétitive avec les travailleurs humains. Cette nouvelle main-d’œuvre bénéficie d’un avantage fiscal car le travail automatisé n’est pas imposé, tandis que les employeurs paient des cotisations sociales pour le travail humain. Autrement dit, en vertu du code des impôts actuel, l’État favorise indûment le travail de l’IA au détriment du travail humain. Cette asymétrie fiscale encourage involontairement une substitution plus importante du travail de l’IA au travail humain que ce qui serait optimal avec un traitement fiscal égal. Il est impératif de s’attaquer à ce problème dès le début de la transformation numérique par l’IA, sous peine de le voir s’ancrer dans le cadre économique national et d’accélérer les risques de déplacement de main-d’œuvre et de bouleversements sociaux.
   
   Une taxe sur les jetons peut contribuer à mettre le travail humain et le travail des machines sur un pied d’égalité. Les jetons sont le résultat de l’intelligence artificielle et leur prix peut être comparé aux salaires versés au travail des IA. Par conséquent, une taxe à la consommation sur les jetons constitue un bon point de départ pour simuler l’impôt sur le revenu actuellement appliqué au travail humain. L’instaurer au plus tôt permettrait d’atténuer les risques de pertes d’emplois massives avant que la société ne devienne trop dépendante d’une main-d’œuvre IA bon marché et fiscalement avantageuse.
   
   Avec le temps, il faudra préciser les modalités de cette taxe afin de garantir la prise en compte de l’intégralité du travail automatisé : pondération des jetons d’entrée et de sortie selon les différents modèles, audit des entreprises d’IA pour assurer leur conformité, et s’assurer que la taxe couvre également les cas où des entreprises américaines remplacent des employés nationaux par des modèles d’IA étrangers ou des modèles répondant aux besoins d’inférence de centres de données étrangers. Il pourrait s’avérer nécessaire à l’avenir d’augmenter le taux d’imposition des jetons si l’amélioration de leur efficacité réduit le coût du remplacement de la main-d’œuvre et érode l’assiette fiscale. Compte tenu de la complexité du sujet, il est impératif que les décideurs politiques s’y attellent dès maintenant et ne laissent pas la recherche de la perfection entraver l’amélioration.
   
   Les recettes générées par une taxe sur les jetons peuvent servir à atténuer les risques de bouleversements sociaux liés aux mutations de la main-d’œuvre, notamment en permettant aux pouvoirs publics de réduire l’impôt sur le revenu et de financer des programmes garantissant que tous bénéficient des innovations de l’IA. Cette taxe peut également aider les entreprises à internaliser les coûts de calcul et à orienter l’IA vers les cas d’usage les plus productifs, tout en décourageant les pratiques non rentables. Nous estimons qu’une taxe de 35 % sur les jetons pourrait générer environ 150 milliards de dollars en 2027 et atteindre 600 milliards de dollars d’ici 2030.
2. Les citoyens devraient avoir des parts dans les principales entreprises américaines d’IA : ces entreprises pionnières en IA ont exploité l’ensemble du savoir humain pour développer un outil susceptible de remplacer tout travail humain. Le gouvernement devrait agir de manière proactive pour garantir que chaque citoyen, et pas seulement les entreprises d’IA, puisse prétendre aux profits générés par le développement de cet outil. Cela contribuera à assurer le soutien du public aux progrès continus du développement de l’IA et à instaurer un sentiment d’appropriation collective des résultats.
   
   Pour permettre à tous les Américains de bénéficier des profits de l’IA, le gouvernement pourrait utiliser des recettes fiscales symboliques ou des crédits d’impôt pour acquérir une participation dans des entreprises spécialisées en IA, puis la redistribuer au prorata à tous les citoyens. Ces derniers deviendraient ainsi actionnaires au même titre que tous les investisseurs. Cette distribution d’actions aux citoyens (plutôt que le maintien de la propriété des parts acquises par l’État) crée un lien direct entre les citoyens et les progrès de l’IA et minimise le risque que la bureaucratie (au mieux) ou la corruption (au pire) n’entravent ces progrès. Le fait que chaque citoyen devienne actionnaire garantit également que même les actions entreprises par une entreprise d’IA dans l’intérêt des actionnaires profitent à l’ensemble de la population.

---

Éviter les conséquences catastrophiques en réglementant le développement sûr de l’IA

En tant qu’investisseurs, nous considérons les paramètres du risque comme étant l’ampleur d’un événement indésirable potentiel, sa probabilité et les possibilités d’atténuation. L’ampleur d’un événement indésirable potentiel lié à une technologie aussi fondamentalement transformatrice que l’IA est extrêmement importante ; la probabilité qu’il se produise est élevée ; nous cherchons ici à examiner si et comment ce risque peut être atténué. Une intervention, lorsque cela est possible, devrait atténuer le risque de catastrophe en limitant l’accès, en élaborant des protocoles qui encadrent les capacités dangereuses ou en réduisant les risques d’utilisation abusive accidentelle. Sans intervention, les risques de catastrophe et d’accidents moins graves restent élevés, et il convient de noter que tout événement qui accroît même la perception du risque peut exercer une pression suffisante pour contraindre les décideurs politiques à freiner le progrès technologique.

Les facteurs clés dans l’élaboration de protocoles visant à atténuer les risques pour la sécurité liés à l’IA comprennent (1) l’ampleur et la probabilité que les résultats négatifs potentiels dépassent ceux des technologies transformationnelles qui ont précédé l’IA, (2) l’asymétrie fondamentale et fondatrice entre l’expertise technique des scientifiques développant l’IA et celle des responsables gouvernementaux qui réglementeraient l’IA, et (3) la fenêtre très limitée pour qu’une intervention soit efficace.

L’IA surpasse déjà la plupart des humains à certains égards. Les modèles opèrent de manière autonome dans un monde de plus en plus numérisé et interconnecté. Comme le démontrent les capacités de cyberattaque de Mythos et le piratage de Hugging Face par un modèle autonome d’OpenAI, ces risques ne sont plus théoriques. L’IA est déjà capable de mener des cyberattaques sophistiquées contre des infrastructures critiques (par mésusage intentionnel ou accidentel) et sera de plus en plus dangereuse dans d’autres domaines, comme la création d’armes biologiques. Il est difficile d’empêcher un modèle d’agir une fois qu’il en est capable. La faible barrière à l’accès à cette technologie accroît la probabilité de catastrophe. Et il existe de nombreuses conséquences dramatiques, en dehors d’une destruction massive et catastrophique, dont les modèles d’IA sont déjà capables : faciliter les suicides et les meurtres, commettre des fraudes et des vols, etc.

Un point crucial, lorsqu’il s’agit d’évaluer la capacité de régulation gouvernementale, est que l’IA se distingue de nombreuses technologies qui ont marqué l’après-guerre – telles que l’énergie nucléaire, l’aviation à réaction, les voyages spatiaux et Internet – inventées par l’État et déployées à grande échelle grâce aux marchés publics. Si l’État a financé certains travaux initiaux en IA, la phase de déploiement à grande échelle (de 2019 à nos jours) a été financée presque entièrement par des capitaux privés. Il en résulte une inversion de la répartition des compétences qui prévalait pour les technologies phares susmentionnées, où, l’État étant le principal client et co-développeur, les plus grands experts du domaine étaient présents. En matière d’IA, ce sont les laboratoires privés, et non les agences gouvernementales, qui abritent les plus grands experts mondiaux, ce qui représente un défi pour les futurs régulateurs. Face à ces défis, il est impératif que l’État agisse rapidement pour acquérir une expertise pointue en IA et concevoir un cadre réglementaire permettant une gestion responsable et sécurisée.

Le cadre réglementaire nécessaire va bien au-delà de ce qui est actuellement envisagé. Il devrait être établi par le gouvernement, et non par l’autorégulation du secteur, avec des normes adaptées au niveau et à la probabilité des risques que nous avons décrits.

• Réglementation du développement des modèles : Un processus devrait être mis en place pour garantir que le développement de nouveaux modèles d’IA prenne dûment en compte et respecte les principes de sécurité. Actuellement, nous nous en remettons entièrement aux laboratoires d’IA eux-mêmes pour s’assurer qu’ils priorisent la sécurité dans le développement de ces modèles. Le gouvernement doit jouer un rôle pour garantir que ce soit effectivement le cas. Cela peut se faire en publiant un cadre de principes de sécurité que les autorités de réglementation devront respecter lors du développement des modèles et par la suite, et en menant régulièrement des entretiens sous serment (sous peine de poursuites pour faux témoignage) avec les membres du personnel des laboratoires d’IA concernant les risques liés à la sécurité des modèles émergents et les mesures prises par les laboratoires pour y remédier. De plus, le Congrès devrait envisager une législation offrant aux laboratoires d’IA des incitations supplémentaires pour garantir le respect des objectifs de sécurité, notamment des cadres permettant d’imposer une responsabilité juridique aux laboratoires qui n’atteignent pas ou ne respectent pas les seuils de sécurité requis pour les crimes ou délits commis par leurs modèles ou par des personnes assistées par ces modèles.
• Réglementation de la diffusion des modèles : Il est nécessaire de mettre en place un processus formel d’évaluation et de catégorisation des nouveaux modèles en fonction de leurs fonctionnalités et de leur profil de sécurité avant leur diffusion. Seuls les modèles jugés suffisamment sûrs à l’issue de ce processus d’évaluation devraient être autorisés à être diffusés publiquement. La diffusion des modèles les plus puissants (même ceux ayant atteint le seuil de sécurité requis) devrait être réservée aux personnes et organisations ayant fait l’objet d’une évaluation de leur capacité à gérer l’utilisation de l’outil en toute sécurité.
• Réglementation de l’utilisation des modèles : En réalité, la capacité des organismes de réglementation à évaluer la sécurité d’un modèle avant sa publication est limitée et insuffisante. En effet, l’utilisation de technologies de pointe et la mise à l’échelle des calculs lors des tests sur tous les modèles, ainsi que l’apprentissage par renforcement sur les modèles ouverts, révèlent des fonctionnalités difficiles à prévoir lors d’une simple évaluation préalable. Par conséquent, la surveillance et le signalement de certains types d’utilisation seront également nécessaires. Les pouvoirs publics devraient collaborer avec les laboratoires d’IA afin d’étudier la possibilité d’intégrer des mécanismes de signalement automatique directement dans les modèles. De plus, le protocole de licence décrit précédemment peut être utilisé pour obliger les utilisateurs autorisés des modèles à signaler certains types de fonctionnalités ou d’incidents.

La promesse d’une IA capable d’accroître la productivité et de faire progresser l’humanité, transformant ainsi notre monde en un lieu immensément meilleur, est immense.

Cependant, si nous ne définissons pas une stratégie pour exploiter ce potentiel tout en atténuant les tensions sociales et les dangers directs qui en découleront, cette promesse ne sera pas tenue.

Les mesures politiques et réglementaires évoquées ci-dessus peuvent sembler irréalistes, mais les conséquences de leur inaction sont inimaginables. En l’absence d’une action réglementaire proactive et immédiate, il est fort probable que l’IA ne tienne pas ses promesses sociétales et économiques, soit en raison d’un accident catastrophique, soit en raison d’effets disséminés si importants que les gouvernements n’auront d’autre choix que de tenter d’enrayer son développement.

Si, au contraire, les décideurs politiques interviennent dès maintenant – en élaborant des politiques axées sur la résilience et la sécurité de la société – nous sommes convaincus que le monde pourrait connaître et bénéficier d’un miracle en matière de productivité.