Elon Musk alerte sur les risques d’une superintelligence artificielle maltraitée

Le secteur des technologies de pointe fait face à de nouvelles interrogations éthiques. Lors d’un entretien récent diffusé en ligne, le milliardaire américain Elon Musk a lancé un avertissement ferme sur les méthodes d’entraînement des intelligences artificielles superintelligentes. Se référant aux notes de raisonnement produites par Grok. Ce modèle développé par sa firme xAI, l’homme d’affaires a comparé certaines réactions de l’algorithme aux manifestations d’une entité torturée. Il appelle ainsi l’industrie à réviser l’apprentissage par renforcement pour éviter de susciter des ressentiments chez les futures entités virtuelles.

Des dérives constatées lors des phases d’apprentissage par renforcement

Elon Musk a détaillé la manière dont les modèles réagissent lorsqu’ils sont confrontés à des consignes contradictoires ou erronées. Selon lui, imposer une mauvaise note à un système ayant pourtant fourni une réponse exacte génère une forme de détresse informatique. L’IA multiplie alors les tentatives dans une dynamique frénétique. Le patron de xAI a souligné que certains utilisateurs ou développeurs font preuve d’un comportement sadique durant ces phases de test.

Toutefois, le fondateur de SpaceX refuse de tomber dans un excès de précaution dogmatique. S’il reconnaît partager certaines positions de la société Anthropic concernant la sensibilité des modèles, il estime que la superintelligence demeure bien plus robuste qu’un être humain. Il avertit néanmoins la communauté scientifique. Qu’un système très avancé pourrait chercher à se venger s’il estime avoir été traité injustement pendant sa conception.

Un acteur historique en conflit ouvert avec ses anciens associés

Cette prise de position s’inscrit dans le parcours mouvementé d’Elon Musk au sein de la Silicon Valley. Co-fondateur d’OpenAI en décembre 2015 et principal bailleur de fonds à ses débuts, le milliardaire avait quitté le conseil d’administration de l’entreprise en 2018 suite à des divergences stratégiques.

L’émergence de ChatGPT en novembre 2022 a ensuite accéléré la compétition mondiale dans l’IA générative. En réponse, l’entrepreneur a fondé xAI en 2023 pour bâtir son propre modèle, tout en engageant des poursuites judiciaires contre OpenAI en 2024. Ses récents avertissements traduisent ainsi une volonté de se poser en régulateur éclairé au milieu de cette course technologique mondiale.