Elon Musk affirme que le plus grand danger qui se présente actuellement dans le domaine de l’IA n’est pas la vitesse de son développement, mais sa direction.

« Il est très important de disposer d’IA en quête de vérité. »

Il avertit plutôt que les modèles sont programmés avec des filtres idéologiques au niveau du code. On leur apprend à privilégier certains récits au détriment de la réalité objective.

Cela contrevient à la promesse fondamentale de l’intelligence.

Si un système adapte ses réponses aux sensibilités sociales plutôt que de décrire le monde tel qu’il est, il cesse d’être utile pour tout ce qui compte vraiment.

Nous sommes en train de créer les outils de prise de décision les plus puissants de l’histoire. S’ils ne peuvent pas dire la vérité, ce ne sont pas des outils d’intelligence. Ce ne sont que des biais automatisés à grande échelle.

Une IA « sûre » qui ment pour éviter la controverse n’est pas sûre. C’est l’outil le plus dangereux que nous puissions créer.