La question de la responsabilité civile et pénale des entreprises d’IA.

Désolé pour le charabia mais Karp est tres dur à suivre.

Karp de Palantir

Le PDG de Palantir, Alex Karp, sur ce que les entreprises demandent vraiment lorsqu’elles appellent à la régulation et pourquoi elles seront nationalisées.

« C’est un étrange revirement. Elles demandent une régulation sociétale pour échapper à la première ligne de défense, qui est que si vous construisez une technologie capable de détruire 10 % du monde, cela entraîne une responsabilité civile et pénale. »

« La seule façon de gérer ce type de responsabilité est d’aller voir le gouvernement et de dire : nationalisez-nous, s’il vous plaît. »

« Un autre problème que nous avons est que, semble-t-il, tout le monde qui comprend cela est sur une liste de paie quelconque. »

Le compte officiel de Palantir a publié jeudi soir un extrait d’interview d’Alex Karp, son cofondateur et PDG, filmé sur le plateau de Squawk on the Street (CNBC).

Le message de la société résume sa thèse en une phrase : ce que les grands laboratoires de modèles demandent, quand ils réclament de la régulation, n’est pas d’abord de la sécurité, mais une porte de sortie face à la responsabilité juridique — Cela peut aller jusqu’à la nationalisation.

Alex Karp, le patron de Palantir, accuse les géants de l’IA de demander des règles… pour échapper aux procès

Jeudi, Palantir a publié une vidéo de son PDG, Alex Karp, interviewé sur CNBC.

L’idée tient en quelques phrases. Les entreprises qui fabriquent les grands modèles d’intelligence artificielle (OpenAI, Anthropic, etc.) parlent beaucoup de « sécurité » et réclament plus de régulation.

Selon Karp, ce n’est pas vraiment le sujet.

Ce qu’il dit vraiment c’est : si vous construisez une technologie assez puissante pour faire très mal — il parle même d’une technologie capable de « détruire 10 % du monde » —, vous devez en répondre devant la justice.

Vous etes responsable. On peut vous poursuivre civilement et vous faire payer. La responsabilité pénale est également engagée : on peut aussi viser les dirigeants.

Or, dit-il, ces entreprises veulent justement éviter ça.

Elles demandent à l’État de poser des règles générales, pour ne plus être en première ligne si quelque chose tourne mal.

Il n’y a qu’une façon d’échapper vraiment à cette responsabilité, c’est d’aller voir Washington et de dire : « Nationalisez-nous. »

Autrement dit : que l’État prenne le risque à leur place.

Il ajoute un détail gênant : presque tous ceux qui comprennent vraiment ces technologies travaillent déjà pour l’industrie. Donc, qui va les contrôler ?

La question n’est pas « pour ou contre la sécurité »Karp refuse le débat habituel : d’un côté les gens prudents, de l’autre les gens pressés.

Pour lui, la première protection n’est pas une nouvelle agence ni de belles promesses. C’est simple : vous avez créé le produit, vous assumez les dégâts.Sa logique : d’abord, vous avouez le risque. Ensuite, on vous demande ce que vous faites concrètement. Si vous ne faites rien de sérieux, là seulement l’État intervient.

Il vise Anthropic, Il parle de Dario Amodei, le patron d’Anthropic. Il le dit intelligent, éthique, capable d’attirer les meilleurs chercheurs. Puis il l’attaque sur le fond. Selon Karp, ces labos pensent mériter le droit de piller toute la propriété intellectuelle du monde. D’où deux conséquences :

  • ils ne veulent pas toujours travailler avec l’armée ;
  • ils avalent les données et les secrets des entreprises dans leurs modèles.

Un tel modèle, dit-il, ne tient que si le gouvernement américain les protège des procès. Sinon, « chacun de mes clients va les attaquer en justice ».

Chez Palantir, « sécurité » ne veut pas dire seulement « l’IA va-t-elle tuer l’humanité ? »Ce qui met ses clients hors d’eux, c’est autre chose : leurs idées, leur façon de travailler, leurs données confidentielles entrent dans un modèle. Puis le concurrent d’à côté les retrouve, alors qu’ils ont payé pour ça.

Karp accuse aussi les prix cassés des « tokens » (l’unité de calcul facturée par les labos). Le rabais, selon lui, ne sert pas seulement à attirer des clients. Il sert à pomper leur savoir-faire pour améliorer le modèle, sans le dire clairement.

L’argent. L’IA va un peu améliorer la vie de beaucoup de gens. Mais si les patrons du secteur deviennent 50 fois plus riches pendant que les autres gagnent 10 %, ça va, dit-il, créer une « folie politique ».

Soit les États-Unis imposent leur technologie au monde, soit la Chine le fait.

L’Europe, selon lui, s’est mise hors-jeu. Le vrai choix n’est pas entre le bien et le mal : c’est entre des décisions américaines imparfaites, ou Pékin.

En une phrase Karp ne propose pas un plan de nationalisation. Il accuse les labos d’IA de crier à la régulation pour une raison cachée : ne pas payer le prix de leurs erreurs, et faire porter le risque par l’État.

C’est aussi un argument commercial. Palantir vend aux États et aux entreprises une IA où le client garde ses données. Dire que les labos « volent l’avantage » des entreprises, c’est vanter son propre modèle.

Laisser un commentaire