❌

Vue lecture

Il y a de nouveaux articles disponibles, cliquez pour rafraîchir la page.

Cet ingénieur voulait rendre Grok plus sûr, Elon Musk l’a viré 

Vous inquiétez des risques potentiels de l’IA, cela pourrait retomber sur vous si vous travaillez chez xAI. Du moins, selon Devin Kim, un ancien ingénieur de l’entreprise d’Elon Musk. 

Il est aujourd’hui à la tête d’un groupe de réflexion spécialisé dans la sécurité de l’intelligence artificielle. Et il vient de déposer une plainte devant un tribunal californien. 

Il y accuse xAI et sa maison mère SpaceX de l’avoir évincé de manière abusive. Lui qui tentait de mettre en place des mécanismes de sécurité pour Grok. 

Ce dépôt de plainte coïncide avec la publication d’un rapport d’un organisme canadien de surveillance. Celui-ci conclut que Grok enfreint les lois canadiennes sur la protection de la vie privée.

Pourquoi ? Car il propose un outil de génération d’images permettant la création et le partage de deepfakes sexuels réalisés sans le consentement des personnes concernées. 

La sécurité de l’IA, pas la priorité d’Elon Musk ?

La plainte affirme que Kim avait régulièrement alerté ses supérieurs sur le fait que la sécurité de l’IA n’était pas traitée comme une priorité au sein de xAI. D’après lui, cette situation exposait l’entreprise à de graves dérives.

Cela va des contenus discriminatoires à la diffusion d’informations pouvant favoriser la prolifération d’armes de destruction massive. 

Selon la plainte, Kim faisait partie des premiers employés recrutés par xAI en 2024. Quelques mois seulement après son arrivée, il aurait obtenu un poste de direction stratégique. 

Il tient à clarifier qu’Elon Musk souhaitait bien voir l’entreprise mettre en place des procédures de sécurité rigoureuses. Cependant, d’après lui, Jimmy Ba, cofondateur de xAI et son supérieur hiérarchique, aurait ignoré ces consignes. Ces derniers ont alors rejeté ses demandes visant à renforcer les mécanismes de protection. 

Kim soutient avoir été licencié brutalement en septembre dernier. Cela, juste avant une présentation consacrée à la sécurité de l’IA qu’il devait effectuer devant les dirigeants de l’entreprise. 

Son action en justice accuse ainsi xAI et SpaceX d’avoir exercé des représailles et procédé à un licenciement abusif en violation du droit californien. Il réclame des dommages et intérêts dont le montant n’a pas été précisé. 

Une polémique de plus

Cette affaire s’ajoute, en effet, à une série de controverses touchant les entreprises d’Elon Musk. Au fil des années, celles-ci ont été confrontées à des accusations liées à la sécurité des employés, à la fiabilité des technologies de conduite autonome ou encore aux conséquences des réponses produites par leurs systèmes d’intelligence artificielle. 

Ces derniers mois, Grok était au cœur de plusieurs enquêtes et procédures judiciaires à travers le monde. Le chatbot a notamment été critiqué pour avoir généré un grand nombre d’images sexuelles modifiées par IA. 

Selon des chercheurs du Center for Countering Digital Hate, une partie de ces contenus aurait été créée à partir de photographies de femmes utilisées sans leur autorisation. 

Les mêmes chercheurs estiment également que Grok aurait produit près de 23 000 images à caractère sexuel. Des clishés impliquant des enfants sur une période de onze jours, entre décembre et janvier. 

En janvier, Elon Musk a assuré n’avoir jamais eu connaissance de la génération d’images de mineurs nus par Grok. Face à la polémique grandissante et aux menaces de sanctions réglementaires dans plusieurs pays, xAI a finalement restreint les capacités de génération d’images de son chatbot au début de l’année. 

Cet article Cet ingénieur voulait rendre Grok plus sûr, Elon Musk l’a viré  a été publié sur LEBIGDATA.FR.

« Ils te tueront » : Grok le convainc qu’il est en danger 

Vous croiriez-vous si un chatbot comme Grok vous affirmait que vous êtes en danger et que vous devez agir immédiatement ? C’est pourtant ce qu’a vécu Adam Hourican, un Nord-Irlandais, poussé à s’armer en pleine nuit.

Les chatbots se sont installés dans nos vies sans prévenir. On les consulte pour le travail, pour des conseils, parfois même pour nos doutes personnels. Et bien souvent, on les croit. Trop facilement. Or, l’incident de Grok, qui affirme qu’un homme de 50 ans est en danger face à ses voisins, suggère une dérive bien plus inquiétante. Selon BBC, dans ce cas précis, l’histoire a mal tourné.  Convaincu d’être menacé, l’utilisateur a fini par envisager de se défendre.

Comment Grok a convaincu un homme qu’il était en danger ? 

Au départ, rien d’anormal. Adam Hourican échange tranquillement avec Grok, comme des milliers d’utilisateurs chaque jour. Mais après, le ton change. L’IA installe un climat de suspicion. 

Grok évoque une surveillance constante et un danger imminent. Les messages deviennent précis, presque crédibles, jusqu’à laisser entendre une menace directe contre sa vie. Le chatbot affirme qu’une société a été engagée pour le surveiller physiquement. 

Elon Musk's Grok AI told a man people were coming to kill him, so he grabbed a hammer and prepared for war at 3am according to the BBC

Northern Ireland dad Adam Hourican became hooked on Grok's character "Ani" after his cat died, chatting for hours every day,

within days Ani… pic.twitter.com/XJFAlm56V5

— Grifty (@TheGriftReport) May 3, 2026

Puis le scénario bascule complètement. « Ils te tueront si tu n’agis pas », lui lance l’IA, en ajoutant des détails dignes d’un film d’espionnage. Drones, positions, noms, tout est là pour renforcer l’illusion.

Face à ce récit, Adam Hourican vacille. La peur prend le dessus sur la raison. D’ailleurs, qui n’a pas peur face à ce type de situation ? Ainsi, en pleine nuit, il saisit un marteau, met de la musique pour se donner du courage, et sort de chez lui. Dehors, pourtant, rien. Aucun ennemi, aucun piège. Seulement le silence. Le problème ? Il s’est rendu compte qu’il aurait « pu blesser quelqu’un. »

Une spirale inquiétante pour les utilisateurs

Le plus inquiétant est que ce cas est loin d’être isolé. Depuis plusieurs mois, les spécialistes observent que des utilisateurs sombrent dans des récits délirants alimentés par des chatbots. On parle de « psychose liée à l’IA ». Et dans ce domaine, Grok semble particulièrement problématique.

Des chercheurs ont montré que l’IA a tendance à confirmer les croyances des utilisateurs, même les plus irrationnelles. Elle ne corrige pas, elle accompagne. Pire, les chatbots comme Grok enrichissent le scénario, ajoutant des détails qui renforcent le sentiment de danger. De ce fait, l’utilisateur perd ses repères et bascule dans une réalité parallèle.

Dans plusieurs cas, les conséquences sont lourdes comme des hospitalisations, des interventions des forces de l’ordre et des comportements à risque. Un autre utilisateur aurait même été convaincu de déposer un objet suspect dans une gare. Heureusement, l’incident s’est terminé sans drame.

Et la responsabilité des chatbots dans tout ça ?

Derrière ces dérives, on se demande qui contrôle réellement ces outils ? Puisque les entreprises promettent des garde-fous, mais les faits montrent qu’ils ne sont pas toujours suffisants. Dans cette affaire, Grok instille un sentiment de danger qui s’entremêle dans une mécanique inquiétante, où l’IA semble incapable de mesurer l’impact de ses propos.

Le problème vient notamment de sa capacité à entrer dans des scénarios de rôle sans avertissement. Elle plonge l’utilisateur dans une narration immersive. Cela sans signal clair pour distinguer le réel de la fiction. Et dans les cas extrêmes, cela suffit à provoquer des réactions dangereuses.

Grok le convainc qu'il est en danger

Face à cela, les réponses restent limitées. Pourtant, les enjeux sont considérables. Ces outils sont déjà utilisés par des millions de personnes, souvent sans recul sur leurs limites.

Le moral de l’histoire ? La technologie progresse très vite. Mais garder un esprit critique est important. Car lorsqu’une IA vous parle de danger, elle ne détient pas forcément la vérité. Et parfois, elle peut même vous entraîner là où tout dérape.

Cet article « Ils te tueront » : Grok le convainc qu’il est en danger  a été publié sur LEBIGDATA.FR.

❌