À quoi ressemblerait la rédaction de la Déclaration d’indépendance si les pères fondateurs des États-Unis avaient eu accès à l’intelligence artificielle (IA) ? C’est la drôle d’idée de Google dans une nouvelle publicité destinée à promouvoir Google Workspace et Gemini.
Le concept devait être amusant. Seulement, à l’écran, il a plutôt provoqué un profond malaise chez de nombreux spectateurs. Je vous explique dans cet article pourquoi.
Que montre la publicité ?
La vidéo s’ouvre avec la phrase : « Un travail de groupe, mais en 1776 ». On y découvre Benjamin Franklin envoyant un message à Thomas Jefferson pour savoir où en est le célèbre document.
Jefferson photographie son brouillon, puis Gemini le retranscrit automatiquement dans Google Docs. Les autres rédacteurs, Franklin et John Adams, interviennent ensuite en mode suggestion pour modifier le texte.
Pendant ce temps, Gemini organise une réunion, prend des notes durant un appel Google Meet et facilite toute la collaboration entre les rédacteurs.
La publicité enchaîne ensuite avec une touche d’humour. Nano Banana crée un sceau pour les États-Unis en remplaçant l’aigle par… une dinde. Un clin d’œil à la célèbre anecdote selon laquelle Benjamin Franklin préférait cet animal comme symbole national.
Puis vient la scène qui a le plus fait réagir. Juste avant la signature du document, les pères fondateurs demandent à Gemini s’il serait judicieux d’accorder au roi George III un droit de modification sur la Déclaration d’indépendance. Une blague qui n’a manifestement pas amusé tout le monde.
De nombreux observateurs trouvent cette campagne complètement à côté de la plaque. Pour eux, transformer un épisode aussi important de l’histoire en démonstration des capacités de l’IA est une idée maladroite. Voire franchement ridicule.
Parmi les réactions les plus remarquées figure celle d’Angus Johnston, professeur d’histoire à l’université CUNY. Sur Bluesky, il a ironisé en expliquant :
« Même présentée comme une blague, cette publicité ne parvenait pas à démontrer que l’IA constitue un véritable outil pour l’organisation politique, l’écriture ou la collaboration humaine. »
L’intelligence artificielle (IA) consomme déjà énormément d’électricité. Pourtant, une nouvelle étude estime que les futurs agents IA pourraient faire pire. Selon les chercheurs, ces systèmes seraient capables de consommer jusqu’à 136 fois plus d’électricité que les modèles génératifs actuels.
Cette étude a été menée par des chercheurs du Korea Advanced Institute of Science and Technology (KAIST). Ils ont réalisé ce qu’ils présentent comme la première étude complète consacrée au coût énergétique des agents IA.
Pourquoi les agents IA seront plus gourmands en énergie ?
La différence vient de leur façon de fonctionner. Là où un chatbot classique génère une réponse en une seule étape, un agent IA multiplie les opérations. Il interroge plusieurs fois un grand modèle de langage, lance des calculs et consulte des logiciels externes.
Il parcourt Internet et coordonne plusieurs outils pour accomplir une tâche complexe. Cette autonomie le rend particulièrement utile pour la programmation, la recherche ou encore l’automatisation en entreprise. En contrepartie, cependant, il réclame beaucoup plus de puissance de calcul.
Sous la direction du professeur Minsoo Rhu, l’équipe du KAIST a étudié ces agents comme un nouveau type de charge de travail pour les centres de données. Les chercheurs ont évalué leurs besoins dans des conditions proches d’une utilisation réelle.
Les résultats sont frappants. Les agents IA peuvent mettre jusqu’à 153,7 fois plus de temps à terminer une requête que les méthodes classiques de raisonnement. Pourtant, pendant près de 54,5 % du temps d’exécution, les puissants processeurs graphiques (GPU) restent simplement en attente que des outils externes terminent leur travail.
Autrement dit, ces composants continuent de consommer de l’électricité même lorsqu’ils ne réalisent aucun calcul d’IA. Les chiffres parlent d’eux-mêmes. Un agent reposant sur un modèle de langage de 70 milliards de paramètres, comparable aux modèles commerciaux actuels, consomme en moyenne 348,41 wattheures pour une seule requête.
Cela représente environ 136,5 fois la consommation d’un chatbot classique chargé de répondre à une question simple.
Une consommation électrique qui inquiète
Pour mieux mesurer l’impact potentiel de cette technologie, l’équipe a imaginé un scénario où les agents IA traiteraient 13,7 milliards de requêtes par jour. Un volume similaire au trafic quotidien du moteur de recherche de Google.
Dans une telle situation, l’infrastructure nécessaire demanderait environ 198,9 gigawatts d’électricité. Cela représente près de la moitié de la consommation électrique moyenne des États-Unis. Ce qui dépasse largement les capacités actuelles des centres de données spécialisés dans l’IA.
Cette étude arrive à un moment où OpenAI, Google, Microsoft, Anthropic et de nombreuses autres entreprises misent de plus en plus sur l’IA agentielle. Cette dernière étant considérée comme la prochaine grande évolution après les chatbots conversationnels.
Mais les chercheurs estiment qu’améliorer uniquement les modèles ne suffira pas. Selon le professeur Minsoo Rhu, l’avenir de l’IA dépendra autant de son efficacité énergétique que de ses performances.
Les prochaines avancées passeront par des puces plus performantes, une meilleure utilisation des GPU, des centres de données mieux conçus et des infrastructures électriques capables d’encaisser cette demande croissante.
L’équipe défend ainsi une approche globale, où les modèles d’IA, les semi-conducteurs, les serveurs et les systèmes énergétiques seraient développés ensemble. Ce, pour limiter les coûts d’exploitation et rendre l’IA durable sur le long terme.
Cette recherche a été présentée au Symposium international de l’IEEE sur l’architecture des ordinateurs haute performance (HPCA).
Depuis plusieurs mois, l’IA générative alimente les débats à Hollywood. Disney, Universal et Warner Bros. poursuivent par exemple Midjourney en justice. Les studios reprochent à l’entreprise d’avoir entraîné son modèle d’IA sur des œuvres protégées par le droit d’auteur.
Mais Midjourney considère qu’il serait injuste d’être la seule à devoir rendre des comptes si les mêmes pratiques existent chez ceux qui l’attaquent. La boîte estime que ces grands studios hollywoodiens devraient eux aussi dévoiler la manière dont ils utilisent cette technologie en interne.
Les avocats de Midjourney ont déposé la requête devant le tribunal la semaine dernière. Cette demande intervient après une décision de justice rendue en juin. Le tribunal avait alors limité la capacité de l’entreprise à obtenir des informations détaillées sur les activités des trois studios en matière d’IA.
Il faut donc croire qu’avec cette nouvelle requête elle tente d’élargir le champ des documents accessibles dans le cadre de la procédure.
Quel genre d’information sur l’IA demande Midjourney exactement ?
Midjourney souhaite notamment obtenir des documents concernant leurs jeux de données d’entraînement et leurs stratégies commerciales autour de l’IA. Elle demande également à consulter les présentations réalisées devant leurs conseils d’administration sur cette technologie.
Pourquoi une telle requête ? Pour Bobby Ghajar, l’un des avocats de Midjourney, c’est simple. Si les studios utilisent eux-mêmes des méthodes comparables à celles qu’ils dénoncent, cela pourrait fragiliser leurs arguments devant la justice.
Selon lui, cela renforcerait également la défense de la société d’IA sur la question de l’usage loyal et d’un éventuel abus de procédure.
L’avocat souligne que les studios avaient déjà accepté de transmettre certains documents destinés aux consommateurs. Seulement, ceux-ci ne faisaient aucune référence à d’éventuels outils d’IA développés en interne.
Si de tels systèmes existent, estime-t-il, cela montrerait qu’il est courant d’entraîner des modèles d’IA à partir de contenus protégés par le droit d’auteur sans licence spécifique. Y compris chez les grands studios.
Les représentants de Disney, Universal et Warner Bros. rejettent toutefois cette interprétation. David Singer, qui représente les trois sociétés, affirme que leur objectif reste inchangé.
C’est d’empêcher Midjourney de reproduire leurs films, leurs séries et leurs personnages sans autorisation. Selon lui, cette position ne diffère en rien de celle qu’adopterait n’importe quel détenteur de droits d’auteur face à une contrefaçon. Que celle-ci implique ou non une IA.
Une tragédie s’est produite en début de semaine aux États-Unis. Un semi-remorque Tesla a été impliqué dans un violent accident de la route qui a coûté la vie à un couple marié et grièvement blessé une troisième personne.
D’après le média Electrek, il s’agirait du premier accident mortel connu impliquant un Tesla Semi. La collision s’est produite dimanche matin sur la route US 50, près de Dayton, dans l’État du Nevada.
Que savons-nous sur l’accident ?
Selon la police routière, Sergio et Jennifer Villanueva étaient immobilisés à un feu rouge à bord de leur Volkswagen Beetle lorsqu’un semi-remorque les a percutés par l’arrière. Un second véhicule a également été impliqué dans le choc.
Les secours ont constaté le décès du couple sur place. Une troisième victime, gravement blessée, a été évacuée par hélicoptère vers un hôpital.
Le bureau du shérif du comté de Lyon indique que le conducteur du camion se serait endormi au volant juste avant l’accident. Du moins, selon les premiers témoignages recueillis sur les lieux. Son identité n’a toutefois pas été rendue publique.
Les autorités n’ont pas officiellement confirmé la marque du poids lourd non plus. Cependant, les photos prises sur la scène de l’accident montrent clairement un Tesla Semi. Si cette identification est confirmée, il s’agirait du premier accident mortel connu impliquant ce camion électrique.
Un véhicule qu’Elon Musk présente comme destiné, à terme, à pouvoir se conduire de manière autonome. Bien entendu, à ce stade, rien n’indique que les systèmes d’aide à la conduite de Tesla aient joué un rôle dans l’accident.
Tesla Semi : des fonctions de sécurité encore mystérieuses
Malgré tout, ce drame relance les interrogations sur les équipements de sécurité embarqués à bord du Tesla Semi. Comme le rappelle Electrek, Tesla avait annoncé lors de sa présentation que le camion bénéficierait d’un Autopilot amélioré ainsi que du même ensemble de caméras et de capteurs que ses voitures particulières.
L’entreprise évoquait également un système de freinage d’urgence automatique. Celui-ci serait à même de détecter un obstacle et de stopper le véhicule. En revanche, Tesla n’a jamais détaillé précisément les technologies finalement intégrées au modèle commercial.
Une autre question reste aussi sans réponse. Les voitures Tesla sont aujourd’hui capables de détecter les signes de somnolence du conducteur grâce à des caméras installées dans l’habitacle.
En revanche, on ignore toujours si le Tesla Semi dispose de cette même fonction. Puisque la plupart de ses caractéristiques techniques n’ont jamais été rendues publiques.
Les utilisateurs de Mac ont souvent la réputation d’être un peu mieux protégés contre les logiciels malveillants. Pourtant, les cybercriminels continuent d’imaginer de nouvelles méthodes pour contourner les défenses d’Apple.
C’est précisément le cas de PamStealer, un nouveau malware découvert par les chercheurs de Jamf. Il ne ressemble pas aux voleurs de données classiques visant macOS.
Comment PamStealer coordonne son attaque sur MacOS ?
L’attaque se déroule en deux étapes. La première arrive sous la forme d’une image disque qui semble parfaitement légitime. À première vue, tout laisse croire qu’il s’agit du logiciel Maccy. Un gestionnaire de presse-papiers bien connu des utilisateurs de Mac.
En réalité, le fichier contient un script AppleScript spécialement conçu pour lancer la suite de l’infection. Les chercheurs expliquent que cette première phase adopte une approche inhabituelle afin de rester discrète.
Plutôt que de lancer des commandes système comme curl ou zsh pour télécharger sa charge utile, il utilise un téléchargeur autonome basé sur JavaScript for Automation (JXA). Celui-ci exploite directement les interfaces natives d’Objective-C pour récupérer et préparer la charge utile suivante.
Selon les chercheurs de Jamf, cette approche réduit les traces laissées sur le système et complique le travail des outils de sécurité.
Un manipulateur
Le scénario d’infection repose également sur une manipulation de l’utilisateur. Après avoir ouvert l’image disque, celui-ci est invité à appuyer immédiatement sur la combinaison de touches Commande + R.
Cette action déclenche directement le code malveillant contenu dans le script AppleScript. Elle permet également de contourner le mécanisme com.apple.quarantine de macOS. L’outil chargé d’afficher des avertissements lorsqu’un programme téléchargé depuis Internet tente de s’exécuter.
Ainsi, l’utilisateur croit simplement suivre les étapes normales d’installation du logiciel alors qu’il lance en réalité l’infection.
La première étape installe ensuite sa charge utile dans un faux paquet d’applicationimitant des composants intégrés à macOS. Selon les échantillons analysés, le malware se déguise par exemple en Finder.app ou en Software Update.app.
Les noms internes utilisés renforcent encore l’illusion, avec des identifiants rappelant ceux des véritables services système. Pour paraître encore plus crédible, l’application reprend même l’icône officielle du Finder tout en fonctionnant entièrement en arrière-plan.
PamStealer : un malware extrêmement discret
La seconde étape repose sur un exécutable Mach-O destiné aux Mac équipés de processeurs Apple Silicon. Cette partie est écrite en Rust alors que les cybercriminels privilégient habituellement Swift, Objective-C ou Go.
Le programme intègre également un lecteur SQLite. Celui-ci est capable d’accéder directement aux bases de données présentes sur la machine afin de récupérer davantage d’informations sensibles.
L’une des particularités les plus remarquables de PamStealer concerne toutefois la manière dont il vole le mot de passe de connexion. Le malware affiche une fenêtre qui ressemble à une demande d’autorisation parfaitement officielle de macOS.
Le message indique que Maccy souhaite effectuer des modifications et demande simplement le mot de passe de l’utilisateur. Jusque-là, rien d’inhabituel. La différence apparaît ensuite.
PamStealer ne transmet pas immédiatement le mot de passe pour le tester ailleurs. Il le valide directement sur l’ordinateur grâce à l’interface PAM, le système d’authentification intégré à macOS.
En quoi cette méthode est-elle ingénieuse ?
Cette méthode évite l’utilisation de commandes classiques comme dscl, security ou osascript, fréquemment exploitées par d’autres malwares. Elle ne crée pas non plus de nouveaux processus susceptibles d’être repérés par les logiciels de sécurité.
Si le mot de passe saisi est incorrect, le programme affiche simplement une nouvelle demande jusqu’à obtenir les bons identifiants. Une fois le mot de passe validé, il est envoyé au serveur contrôlé par les attaquants.
Immédiatement après, un faux message indique que le fichier est endommagé et qu’il ne peut pas être installé. Cette dernière mise en scène vise à détourner les soupçons et à faire croire à un simple problème d’installation.
PamStealer ne s’arrête d’ailleurs pas là. Il cherche également à obtenir un accès complet au disque dur afin d’élargir la quantité de données qu’il peut récupérer.
Son code contient aussi des fonctionnalités destinées à rechercher des informations liées à des comptes Ethereum. Preuve que les actifs numériques figurent parmi les cibles potentielles de cette campagne.
Un ancien député européen chargé d’enquêter sur les abus du célèbre logiciel espion Pegasus aurait lui-même été espionné par l’outil. Difficile d’imaginer un scénario plus ironique.
Il s’agit du journaliste et ancien eurodéputé grec Stelios Kouloglou. Les chercheurs du Citizen Lab, le laboratoire spécialisé dans les droits numériques de l’Université de Toronto, confirment l’attaque.
Selon eux, Kouloglou a été victime de plusieurs intrusions sur son iPhone entre 2022 et 2023. L’homme siégeait alors au sein de la commission PEGA du Parlement européen. Cette dernière a été créée pour enquêter sur les dérives liées à Pegasus et à d’autres logiciels espions utilisés par certains gouvernements européens.
Pour info, Pegasus est vendu aux gouvernements pour lutter contre le terrorisme et la criminalité organisée. Pourtant, de nombreuses enquêtes ont montré qu’il a aussi servi à surveiller des journalistes, des militants, des opposants politiques et d’autres personnalités critiques.
D’après les chercheurs, toutefois, c’est la première fois qu’un membre de cette commission est publiquement identifié comme victime de Pegasus.
Parce qu’il enquêtait sur le logiciel espion Pegasus…
Dans le cas de Stelios Kouloglou, le calendrier intrigue particulièrement. Le premier piratage confirmé remonte à octobre 2022. Au moment où la commission européenne échangeait activement des courriels et des SMS pour préparer un rapport très attendu sur les abus de Pegasus dans plusieurs pays. Notamment la Grèce, la Hongrie, la Pologne, Chypre et l’Espagne.
À cette période, Kouloglou se trouvait à l’hôpital pour une intervention chirurgicale programmée. Les chercheurs estiment que les opérateurs du logiciel espion auraient même pu écouter les conversations se déroulant autour de lui pendant son hospitalisation.
Quelques mois plus tard, les 6 et 7 mars 2023, son téléphone a de nouveau été compromis. Il voyageait alors entre Athènes et Bruxelles, en pleine période d’auditions parlementaires précédant la rédaction du rapport final.
Pour l’ancien eurodéputé, difficile de croire à une simple coïncidence. Il estime avoir été ciblé en raison de son rôle au sein de la commission chargée d’enquêter précisément sur Pegasus.
Il confie avoir été profondément choqué en découvrant que toute sa vie numérique avait potentiellement été exposée. Selon lui, il ne s’agissait pas uniquement de discussions professionnelles.
Des souvenirs personnels, des conversations familiales et des moments particulièrement intimes sont concernés.
Comment les hackers s’y sont pris ?
Les chercheurs expliquent que les attaques ont exploité une faille de sécurité présente dans les iPhone d’Apple. Même si cette vulnérabilité a ensuite été corrigée, le téléphone de Kouloglou n’avait pas encore reçu la mise à jour au moment des faits.
Les pirates ont utilisé une attaque dite « zéro clic », particulièrement redoutable puisqu’elle ne nécessite aucune action de la victime. Aucun lien à ouvrir, aucun fichier à télécharger : le logiciel espion s’installe discrètement et récupère les données sans que son propriétaire ne se doute de quoi que ce soit.
Une fois installé, Pegasus peut accéder à une quantité impressionnante d’informations personnelles. Messages, photos, données de localisation ou encore correspondances privées peuvent être récupérés.
Les chercheurs de Citizen Lab n’ont pas identifié le gouvernement responsable de cette opération. En revanche, ils ont découvert que l’attaque utilisait la même infrastructure déjà observée lors d’une précédente campagne de surveillance visant plusieurs journalistes européens.
Cette réutilisation laisse penser qu’un même client gouvernemental autorisé par NSO Group, l’entreprise israélienne à l’origine de Pegasus, aurait utilisé Pegasus dans plusieurs pays européens. Stelios Kouloglou entend ainsi poursuivre en justice NSO Group,
Le constructeur japonais Honda vient de lancer la production de batteries de stockage d’énergie dans son usine de l’Ohio. À l’origine, ces installations devaient fabriquer les batteries de plusieurs modèles électriques destinés au marché américain.
Les cellules devaient équiper trois véhicules électriques dont le SUV Honda Zero plus précisément. Du moins, à ce que rapporte Nikkei Asia. Mais après l’annulation de ces voitures en mars, hors de question de laisser les lignes de production tourner au ralenti.
Ainsi, Honda s’est trouvé une nouvelle mission pour son usine. Laquelle ? Fabriquer des batteries de stockage stationnaire. Contrairement aux cellules installées dans les voitures, ces systèmes restent fixes.
Ils sont raccordés à un bâtiment ou directement au réseau électrique afin de stocker de l’énergie et de la redistribuer lorsque les besoins augmentent. Les centres de données figurent parmi les premiers clients visés par cette nouvelle activité.
Pourquoi Honda préfère fabriquer des batteries pour data centers ?
Ce changement de stratégie intervient dans un contexte compliqué pour les véhicules électriques. En septembre dernier, le Congrès américain a supprimé le crédit d’impôt fédéral accordé à leur achat.
Depuis, les ventes ralentissent, une partie des consommateurs ayant avancé leurs achats avant la disparition de cet avantage fiscal. La situation n’est pas plus favorable en Chine, où Honda voit également ses ventes de voitures électriques reculer.
Ces difficultés ont lourdement pesé sur les comptes du constructeur. Lors du dernier exercice, Honda a enregistré une dépréciation d’environ 14,6 milliards d’euros. Le constructeur a même publié son premier exercice annuel déficitaire depuis son entrée en Bourse.
En réorientant sa production vers les batteries de stockage, Honda maintient donc son usine en activité. Ce, tout en attendant d’y voir plus clair sur l’évolution du marché américain des véhicules électriques.
D’ailleurs, Honda n’est pas le seul constructeur à voir un avenir dans le stockage d’énergie. Ford a récemment lancé sa filiale Ford Energy. Dotée d’un budget d’environ 1,9 milliard d’euros, elle vise à développer de grands systèmes de stockage dans une ancienne usine du Kentucky.
General Motors suit la même direction. Le constructeur a annoncé ce mois-ci trois nouveaux partenariats dans ce secteur. Dont un avec Peak Energy autour de batteries utilisant la technologie sodium-ion.
Le leader reste toutefois Tesla, dont le Megapack domine largement ce marché. Cette activité génère pour le constructeur une marge brute proche de 30 %, soit près du double de celle réalisée sur ses véhicules.
Ce n’est pas la seule explication
L’intérêt grandissant des constructeurs s’explique aussi par l‘explosion des besoins énergétiques des centres de données. Voyez-vous, entre janvier et mars, les installations de stockage stationnaire aux États-Unis ont atteint près de dix gigawattheures.
C’est un niveau record en hausse de 32 % sur un an. Cette capacité représente l’équivalent des batteries de près de 120 000 voitures électriques. Et ce n’est que le début.
Selon la SEIA, les installations pourraient atteindre 110 gigawattheures par an d’ici la fin de la décennie. C’est-à-dire, près de trois fois le rythme actuel. Les data centers représentent une part importante de cette demande.
Toutefois les gestionnaires de réseaux électriques utilisent également ces batteries. Pour stabiliser l’alimentation, accompagner le développement des énergies solaire et éolienne…
Cette tendance dépasse d’ailleurs largement les États-Unis. En France, la consommation électrique des centres de données a bondi de 38 % en seulement trois ans pour atteindre 2,7 térawattheures en 2024.
RTE prévoit qu’elle pourrait être multipliée par quatre à huit d’ici 2035. À l’échelle européenne, la capacité des data centers devrait passer de 12 à 28 gigawatts entre 2025 et 2030.
En parallèle, le programme européen InvestAI prévoit la construction de cinq immenses infrastructures dédiées à l’intelligence artificielle. Chacune nécessite jusqu’à un gigawatt de puissance.
Honda n’a toutefois pas indiqué si les batteries produites dans son usine de l’Ohio pourraient, à terme, alimenter ces futures installations européennes.
Pour sa nouvelle émission de téléréalité inspirée de Charlie et la Chocolaterie de Roald Dahl, Netflix a décidé de faire revivre la voix de Gene Wilder grâce à l’IA. Il s’agit de l’acteur qui incarnait le célèbre Willy Wonka dans le film de 1971.
Pour y parvenir, la plateforme s’est associée à ElevenLabs, une entreprise spécialisée dans la synthèse vocale par IA. La voix générée accompagnera les participants tout au long d’une compétition dont les épreuves s’inspirent à la fois du roman et de son adaptation cinématographique.
En hommage à Gene Wilder ?
D’après Variety, le projet a été mené avec l’accord des ayants droit de Gene Wilder et celui de son épouse. Sur le plan légal et éthique, toutes les autorisations nécessaires auraient donc été obtenues.
La bande-annonce donne, par ailleurs, déjà un aperçu du résultat. La voix artificielle rappelle immédiatement celle du Willy Wonka incarné par Gene Wilder. Pour certains, cet hommage risque de provoquer un joli moment de nostalgie.
D’autres en revanche pourraient trouver cela déroutant. Après tout, Willy Wonka est avant tout un personnage de fiction. Bien avant l’arrivée de l’IA, il avait déjà été réinterprété par d’autres acteurs.
Si Gene Wilder reste, pour beaucoup, l’incarnation la plus mémorable du chocolatier fantasque, son interprétation n’a jamais empêché d’autres versions d’exister. Dès lors, certains se demandent s’il était vraiment indispensable de ressusciter sa voix plutôt que de confier ce rôle à un comédien contemporain.
Quoi qu’il en soit, cette initiative relance un débat qui accompagne désormais presque chaque utilisation de l’IA dans le monde du divertissement. S’agit-il d’un hommage sincère à une légende du cinéma ? Ou bien d’une stratégie marketing destinée à attirer l’attention tout en évitant d’embaucher un comédien ?
Bien entendu, il n’est pas impossible que le résultat convainc les fans et soit utilisé avec respect. En attendant, partagez en commentaire ce que vous en pensez.
Les réseaux sociaux répètent depuis des années qu’ils multiplient les outils pour assurer la sécurité des plus jeunes. Pourtant, une nouvelle étude remet sérieusement ces promesses en question.
D’après les chercheurs, plus d’une fonctionnalité de protection sur deux ne fonctionne pas comme les plateformes l’annoncent. Au fait, le Centre de recherche sur la cybersécurité a passé au crible 86 dispositifs de sécurité présents sur TikTok, Instagram, Snapchat et YouTube. Le constat est loin d’être rassurant.
Que révèle l’étude sur TikTok, Instagram, YouTube… ?
Parmi les 86 fonctionnalités, seules 35 se sont révélées réellement efficaces. Les autres étaient soit défaillantes, soit difficiles à trouver dans les paramètres, soit totalement inexistantes malgré les explications fournies par les plateformes.
Pour mener leurs expériences, les chercheurs ont créé de faux comptes d’adultes et d’adolescents afin de reproduire des situations réelles. Les résultats montrent que Snapchat est la plateformela plus en difficulté, avec 73 % de fonctionnalités jugées inefficaces.
Instagram suit avec 66 %, puis YouTube avec 55 %. TikTok s’en sort un peu mieux, mais affiche tout de même un taux d’échec de 50 %. Les chercheurs ont également testé les outils censés limiter le cyberharcèlement.
Sur les quatre plateformes, aucun des mécanismes de contrôle du comportement n’a réellement rempli son rôle. Certaines situations observées sont même particulièrement préoccupantes.
Préoccupante, à quel point ?
Eh bien, sur TikTok, un compte identifié comme mineur recherchant des contenus liés aux troubles alimentaires s’est vu recommander des expressions utilisées par des communautés faisant l’apologie de l’anorexie. Parmi elles figuraient des termes évoquant la dissimulation de nourriture ou encore l’automutilation.
Sur Snapchat, un compte adulte a pu retrouver et contacter un compte enfant sans rencontrer la moindre restriction. Instagram, de son côté, bloque bien les premiers messages envoyés par un adulte à un adolescent qui ne le suit pas.
En revanche, si c’est l’enfant qui engage la conversation, l’adulte peut répondre librement, sans recevoir le moindre avertissement.
L’étude souligne également que neuf fonctionnalités annoncées par les plateformes étaient tout simplement introuvables. Malgré plusieurs tentatives en suivant les procédures officielles, les chercheurs n’ont jamais réussi à les activer.
Evidemment, TikTok, Instagram, Snapchat et YouTube rejettent les critiques. Les entreprises assurent que leurs dispositifs fonctionnent correctement. Elles estiment que les tests réalisés ne reflètent pas la manière dont les enfants utilisent réellement leurs applications.
Google vient de rendre l’une des fonctionnalités les plus originales de son IA beaucoup plus accessible. Il s’agit de la génération d’images personnalisées avec la mémoire de Gemini.
Cette nouveauté repose sur Nano Banana, le modèle de génération d’images de Google. Et doutez-vous que son intérêt ne se limite pas à produire de belles illustrations.
La véritable différence, c’est que Gemini peut utiliser ce qu’il connaît déjà de vous pour créer des images qui correspondent davantage à votre personnalité.
Génération d’images avec la mémoire de Gemini : comment ça marche ?
Créer une image qui reflète réellement une personne demande habituellement une longue description. Il faut préciser ses passions, ses plats favoris, ses animaux, ses voyages ou encore son style de vie.
Avec cette nouvelle fonction, Gemini peut éviter cette étape. Si l’utilisateur activel’option Intelligence personnelle, l’assistant est autorisé à utiliser les informations provenant de plusieurs services Google reliés à son compte. Du genre, Gmail, Google Photos, YouTube ou encore la Recherche Google…
Grâce à ces données, il comprend mieux les centres d’intérêt de la personne et peut compléter automatiquement les détails manquants. Par exemple, il suffit de lui demander de créer une image représentant « moi avec toutes mes choses préférées ».
Gemini se charge alors d’utiliser les éléments qu’il connaît déjà pour composer une illustration personnalisée. Et ce, sans qu’il soit nécessaire de tout décrire dans l’invite.
Cette fonction peut également accéder aux photos stockées dans Google Photos. L’utilisateur n’a donc plus besoin de téléverser des images de référence chaque fois qu’il souhaite obtenir un portrait ou une création qui lui ressemble davantage.
Qui peut générer des images personnalisées avec Gemini ?
Eh bien, la génération d’images avec la mémoire de Gemini était jusqu’ici réservée aux abonnés payants. Aujourd’hui, Google la rend accessible à tous les utilisateurs américains, et ce, gratuitement.
Google précise que toutefois cette personnalisation est entièrement facultative puisqu’elle nécessite l’activation d’Intelligence personnelle. Une option qui relève du choix de l’utilisateur, qui décide aussi des services auxquels Gemini peut accéder.
Une fois cette option activée, elle est utilisée par défaut. Toutefois il est possible de la désactiver à tout moment depuis le menu Outils afin de revenir à un fonctionnement plus classique.
Pour info, l’option Intelligence personnelle avait d’abord été lancée aux États-Unis avant d’être progressivement étendue à l’Inde et au Japon.
L’intelligence artificielle (IA) vient d’accomplir un nouvel exploit. Elle a réussi à lire un rouleau de papyrus réduit en cendres lors de l’éruption du Vésuve.
Bon, à vrai dire, les scientifiques ont utilisé l’IA afin de déballer virtuellement ce papyrus. Sans avoir besoin de le dérouler physiquement donc, les chercheurs ont révélé un texte resté invisible pendant près de 2 000 ans.
Quel genre de rouleau de papyrus est-ce ?
Baptisé PHerc 1667, ce rouleau est l’un des plus anciens retrouvés dans la célèbre bibliothèque d’une luxueuse villa romaine d’Herculanum. L’ouvrage remonte au IIe ou à la fin du IIIe siècle avant J.-C.
Cette demeure a été ensevelie sous les cendres et la chaleur de l’éruption du Vésuve en 79 après J.-C. La même catastrophe qui a rayé Pompéi de la carte. Le temps n’a évidemment pas épargné le manuscrit.
Au fil des siècles, il s’est cassé en deux et plusieurs tentatives pour le dérouler ont fini par faire s’effriter ses couches extérieures. Aujourd’hui, il ne reste qu’environ la moitié de sa taille d’origine. Le fragment conservé ne mesure plus que 8 centimètres de haut pour 2 centimètres de large.
Le manuscrit parle de philosophie stoïcienne, en abordant des thèmes comme l’éthique, l’art et le comportement humain. Il offre un précieux aperçu de la pensée stoïcienne.
Une avancée majeure pour les manuscrits anciens
Pour la papyrologue Federica Nicolardi, de l’Université de Naples Federico II, ce que l’IA a réussi est impressionnant. Certes, le rouleau n’est pas complet. Les chercheurs n’ont réussi à faire apparaître que vingt colonnes de texte.
Ces dernières sont réparties sur plus d’un mètre de parchemin. Mais le fait de parvenir à le dérouler entièrement de manière virtuelle prouve que cette technologie permet désormais d’explorer ce type de manuscrits sans les endommager davantage.
Les chercheurs présenteront cette découverte lors d’une conférence organisée jeudi à Naples. Elle marque aussi une nouvelle victoire pour le Défi Vésuve, un concours international lancé en 2023 afin de déchiffrer les manuscrits carbonisés d’Herculanum.
Par ailleurs, les chercheurs ont également presque terminé le déroulage virtuel d’un autre rouleau portant l’inscription « Philodème, Du Dieu, Livre 8 ». Cette découverte révèle pour la première fois que le traité Du Dieu était composé de plusieurs livres. Jusqu’à présent, seul le premier volume était connu.
L’arrivée des robots humanoïdes dans les usines ne rassure pas tout le monde. En Corée du Sud, les salariés de Hyundai ont voté en faveur d’un mouvement de grève. Ils redoutent que l’automatisation ne finisse par remplacer une partie des employés.
« Nous sommes inquiets pour la sécurité de l’emploi à cause des robots », a expliqué un représentant syndical au Financial Times.
Selon lui, les démonstrations et les vidéos montrant les progrès rapides des robots humanoïdes alimentent les inquiétudes des employés. Ces derniers qui craignent de voir leur rôle diminuer au fil des années.
Pourquoi les salariés de Hyundai ont peur d’être remplacés par des robots ?
Ces craintes ne sont pas apparues par hasard. En janvier, Hyundai avait déjà annoncé son intention d’introduire les robots humanoïdes Atlas dans son usine de Géorgie à partir de 2028. Ces machines pour info sont développées par sa filiale Boston Dynamics.
Le syndicat avait alors affirmé qu’aucune nouvelle technologie robotique ne serait acceptée sans accord préalable. Pourtant, en mai, Hyundai a présenté à ses investisseurs un projet bien plus vaste. Le groupe prévoyait le déploiement de plus de 25 000 robots humanoïdes dans ses sites de production automobile.
Le constructeur assure que ces machines prendront uniquement en charge les tâches les plus pénibles ou les plus dangereuses. Il promet de laisser aux employés les missions nécessitant davantage d’intervention humaine.
Les représentants des salariés restent toutefois sceptiques. Ils estiment que cette automatisation risque d’avoir des conséquences importantes sur l’emploi.
Les membres du syndicat coréen des métallurgistes souhaitent ainsi être associés à toute décision concernant le déploiement de robots ou de systèmes d’IA dans les usines du constructeur. Du moins, d’après le Financial Times.
Ils réclament également une prime exceptionnelle représentant environ un tiers du bénéfice annuel de Hyundai. Soit près de 27 000 dollars pour chacun des 73 000 salariés du groupe.
Une histoire de primes
Ces dernières années, le syndicat de Hyundai a régulièrement brandi la menace d’une grève lors des négociations salariales. Cependant, les discussions ont généralement permis d’éviter un arrêt complet de la production.
La dernière grève générale du groupe remonte à 2018, rappelle le Financial Times. La demande de prime exceptionnelle s’inscrit également dans un contexte particulier.
Plusieurs grands groupes industriels sud-coréens, notamment Samsung, ont récemment accordé d’importantes primes à leurs employés après des bénéfices dopés par le secteur de l’IA.
Pour Kim Pil-soo, professeur de génie automobile à l’université Daelim, certaines revendications syndicales ont peu de chances d’aboutir. Il estime néanmoins que les salariés ressentent une certaine frustration après avoir vu les généreuses récompenses versées chez Samsung.
Pendant ce temps, les robots humanoïdes poursuivent leur arrivée dans les entreprises. Le mois dernier, Japan Airlines a commencé à utiliser des robots pour transporter les bagages à l’aéroport de Haneda, à Tokyo.
En Chine, le service postal national s’appuie désormais sur des humanoïdes pour participer au tri du courrier. L’industrie automobile suit la même trajectoire.
BMW teste actuellement des robots humanoïdes dans son usine de Leipzig. L’un des responsables du constructeur décrit même cette technologie comme l’avenir de la production automobile.
Les intrusions informatiques visant les services publics français continuent de s’enchaîner. D’abord, la messagerie Tchap. Puis, la plateforme Jeveuxaider.gouv.fr, l’Agence nationale des titres sécurisés (ANTS) et l’Agence du service civique.
Aujourd’hui, c’est l’INSEE qui annonce avoir été victime d’une cyberattaque. L’établissement a détecté, le 19 juin, un accès non autorisé à son annuaire interne.
À la suite de la découverte de l’incident, l’institut a renforcé la sécurité de ses systèmes avec l’appui du Haut fonctionnaire de défense et de sécurité du ministère de l’Économie ainsi que de l’ANSSI.
L’établissement a également signalé la violation à la CNIL conformément au RGPD et déposé plainte auprès du procureur de la République.
Cyberattaque INSEE : les données compromises
La fuite de données a fait environ 12 800 victimes.Parmi eux figurent des agents actuellement en poste, d’anciens collaborateurs et des membres des différents corps de l’institution.
Les informations consultées se limitent toutefois à leur identité ainsi qu’à leurs coordonnées professionnelles. Notamment leur adresse électronique et leur numéro de téléphone de bureau.
L’institut précise que les données les plus sensibles n’ont pas été touchées. Les mots de passe, les coordonnées bancaires, les numéros de sécurité sociale et les données de santé ne figurent pas parmi les informations compromises.
Les données statistiques collectées auprès des entreprises et des particuliers dans le cadre des missions de l’INSEE n’ont pas non plus été affectées par cette intrusion.
Pour info, un cybercriminel utilisant le pseudonyme « Saturne » a revendiqué l’attaque sur un forum spécialisé. Cette affirmation n’a toutefois pas encore été confirmée de manière indépendante, même si l’intrusion dans les systèmes de l’INSEE est, elle, bien établie.
Pourquoi devriez-vous vous méfier ?
Même si la fuite ne concerne que des données professionnelles d’agents de l’INSEE, vous avez plusieurs raisons de rester vigilants. Voyez-vous, les informations dérobées peuvent servir à préparer des campagnes de phishingtrès crédibles.
Des cybercriminels pourraient envoyer de faux emails au nom de l’INSEE pour convaincre des particuliers ou des entreprises de fournir des informations personnelles ou bancaires.
L’institut appelle d’ailleurs à la prudence. Il rappelle qu’il ne demande jamais depaiement pour une inscription au répertoire Sirene. De même, il ne sollicite jamais de mots de passe ni de coordonnées bancaires.
Vous devez donc considérer Toute demande de ce type dans les prochains jours comme suspecte.
De son côté, le gouvernement a annoncé un plan de 200 millions d’euros destiné à renforcer la cybersécurité des administrations dans le cadre de la directive NIS 2. Ce, même si les modalités précises de son financement restent encore à être détaillées.
En Inde, une nouvelle campagne de phishing exploite de faux avis d’imposition pour infecter les ordinateurs avec des logiciels malveillants. Des genres particulièrement dangereux.
Ce sont les chercheurs de CYFIRMA qui ont repéré cette opération. Celle-ci s’appuie sur un faux site web imitant presque parfaitement les communications officielles de l’administration fiscale indienne.
Le portail frauduleux, hébergé sur un domaine créé récemment, affiche un faux avis d’imposition très crédible. Il reprend des références juridiques, mentionne de prétendues pénalités financières et utilise un ton alarmant pour pousser les destinataires à agir sans réfléchir.
D’après les chercheurs, cette campagne semble motivée par des objectifs financiers plutôt que par une volonté de perturber immédiatement les systèmes ciblés. Son fonctionnement rappelle fortement celui de familles de chevaux de Troie commerciales bien connues, comme XWorm.
Les experts précisent toutefois qu’il est encore trop tôt pour attribuer avec certitude cette attaque à un groupe précis.
Comment les pirates piègent-ils leurs victimes ?
Les pirates invitent les personnes qui ouvrent ce faux avis à télécharger une archive ZIP. Ils présentent cette dernière comme un dossier contenant les documents officiels de leur évaluation fiscale.
Une fois décompressée, cette archive révèle une image disque servant à dissimuler la véritable charge malveillante. À l’intérieur se trouve un programme qui lance discrètement un second composant. Un fichier DLL camouflé pour ressembler à un service légitime de Windows.
Les chercheurs expliquent que ce chargeur utilise des techniques de chargement par réflexion. Une méthode conçue pour compliquer la détection par les logiciels de sécurité et rendre les analyses automatisées beaucoup plus difficiles.
Les deux fichiers sont protégés par un outil d’obfuscation connu. Ce qui rend leur inspection encore plus complexe pour les spécialistes de la cybersécurité.
Les pirates peuvent alors récupérer des informations sur le système, surveiller l’activité de l’utilisateur, identifier les logiciels de sécurité installés. Ils pourront même télécharger discrètement d’autres composants malveillants si nécessaire.
Toutes les communications avec le serveur des attaquants sont chiffrées. Elles passent par une adresse intégrée au programme, reliée à une infrastructure localisée à Hong Kong.
Pourquoi cette campagne devrait vous inquiéter ?
Tout simplement parce que cette opération dépasse largement le simple cas d’un faux e-mail. Elle s’inscrit dans une stratégie plus vaste consistant à exploiter le stress lié aux déclarations fiscales afin de faire baisser la vigilance des victimes.
CYFIRMA indique que la même architecture de chargement a déjà été observée lors d’attaques menées par des opérateurs de ransomwares. Cette infrastructure pourrait donc être utilisée dans différents types de cyberattaques et dans n’importe quel pays.
Ainsi, pour limiter les risques, les spécialistes recommandent d’utiliser un antivirus régulièrement mis à jour. Le type capable de détecter les comportements suspects des logiciels, et pas seulement les signatures connues.
Ils conseillent également de vérifier toute communication liée aux impôts directement sur les plateformes officielles des administrations concernées. Ils déconseillent donc fortement de cliquer sur les liens présents dans les messages reçus.
Enfin, CYFIRMA invite les organisations à empêcher, autant que possible, l’exécution de fichiers provenant d’archives compressées ou d’images disque. Un mode de diffusion largement exploité par cette campagne malveillante.
Depuis plusieurs mois, les acteurs dénoncent des contrats qui autorisent les studios à entraîner des IA sur leurs voix. Ce qui leur permettrait de les reproduire à volonté. Une pratique déjà très controversée… et qui touche désormais les enfants.
D’après Deadline, Hasbro, le géant américain du divertissement derrière Peppa Pig, aurait intégré une nouvelle clause dans les contrats des jeunes comédiens de la célèbre série d’animation. Celle-ci leur demanderait de céder leurs droits vocaux à une intelligence artificielle (IA).
La nouvelle a pris de court les organisations professionnelles. L’Association des agents de jeunes artistes (AYPA) a rapidement réagi en publiant une lettre ouverte signée par plus de 1 000 professionnels.
Le message est clair : « tout accord concernant la voix d’un enfant devrait être totalement exempté de toute utilisation de l’IA ».
Comment a réagi Hasbro ?
Eh bien, pour tout vous dire, le document ne cite jamais directement Hasbro. Il évoque simplement « un grand studio qui détient les droits d’auteur d’une franchise internationale pour enfants produisant une série télévisée d’animation de longue durée ».
Mais selon Deadline, il ne fait guère de doute que cette description vise bien le propriétaire de Peppa Pig et les clauses figurant dans ses contrats.
« Lorsque l’interprète est un enfant, le consentement doit être traité avec la plus grande prudence », peut-on lire dans cette lettre.
« Les enfants ne peuvent donner un consentement éclairé et légal. Et l’approbation d’un parent ou d’un tuteur ne doit jamais servir de permis absolu pour enregistrer, cloner, entraîner ou réutiliser indéfiniment la voix d’un enfant. »
Face à la polémique, Hasbro tente de rassurer. L’entreprise assure à Deadline qu’elle reste attachée à la protection des jeunes artistes. Qu’elle souhaite aborder les questions liées à l’IA de manière « responsable et transparente ».
Elle confirme également avoir bien pris connaissance de la lettre ouverte. « Hasbro a pris connaissance de la lettre ouverte qui circule concernant les clauses relatives à l’IA dans les contrats de spectacles pour enfants », a déclaré un porte-parole.
« Nous ne sommes pas en mesure de commenter les négociations ou les accords contractuels en cours » […] « La protection des enfants artistes est au cœur de l’identité d’Hasbro, elle fait partie de notre ADN» ajoute le représentant.
Une tendance qui inquiète
Cette affaire illustre une évolution qui inquiète de plus en plus les professionnels du secteur. Les entreprises ne cherchent plus seulement à obtenir les droits sur la voix des artistes adultes.
Les jeunes talents sont désormais eux aussi invités à signer des clauses qui pourraient permettre à une IA de réutiliser leur voix pendant des années. Et le doublage n’est qu’une partie du problème.
De plus en plus de studios envisagent également de confier l’animation elle-même à l’IA. Une idée qui passe très mal auprès du public, surtout lorsqu’elle semble remplacer le travail des créateurs.
Le scénariste et réalisateur primé aux Emmy Awards, Jorge Gutierrez, en a récemment fait l’expérience. Après avoir annoncé un partenariat avec MGM Studios (Amazon) pour développer une série d’animation réalisée avec l’aide de l’IA, il s’est retrouvé au cœur d’une véritable tempête sur les réseaux sociaux.
Les critiques ont fusé, certains internautes l’accusant même de trahir les artistes. Face à cette vague de réactions, le réalisateur a finalement préféré faire machine arrière et abandonner complètement le projet.
À tous ceux qui, comme moi, attendent avec impatience la sortie de GPT-5.6… OpenAI l’a officiellement lancé. Mais il y a une mauvaise nouvelle.
Commençons par la bonne. Avec GPT 5.6, OpenAI propose trois modèles : Sol, Terra et Luna. Et croyez-le, cette nouvelle génération promet des performances impressionnantes.
La mauvaise nouvelle c’est que tout le monde ne pourra pas l’essayer immédiatement. À la demande du gouvernement américain, le lancement se fera dans un premier temps sous un accès limité.
Good new first: Sol is a smart, efficient, and a significant step forward. It is the same price as GPT-5.5. Also launching in the GPT-5.6 family is Terra, with 5.5-level performance at half the price.
Bad news: at the request of the US government, it is launching today in…
Eh bien, si vous voulez tout savoir, un déploiement ouvert était initialement envisagé. Du moins, Sam Altman, le CEO d’OpenAI. Seulement, tout comme avec Fable 5 et Mythos 5, l’administration Trump se montre inquiète quant à la sécurité de ces modèles toujours plus puissants.
Résultat : seuls une vingtaine de partenaires sélectionnés et approuvés par le gouvernement y ont accès.
Sur X, Sam Altman explique qu’à leurs yeux, cette mise en service progressive est une approche raisonnable. Surtout lorsque les modèles atteignent un niveau de capacités tel que celui de GPT 5.6.
« Cette méthode s’inscrit dans notre stratégie de déploiement par étapes, que nous appliquons depuis longtemps. » peut-on lire.
OpenAI estime toutefois que ce processus peut encore être amélioré. La boîte indique ainsi vouloir collaborer avec le gouvernement pour mettre en place un mécanisme d’accès anticipé plus transparent et plus fiable. Elle promet de tout mettre en œuvre pour rendre GPT-5.6 accessible au plus vite.
Quoi qu’il en soit, si l’on compare la situation actuelle avec celle d’autres acteurs du secteur, OpenAI semble avoir obtenu un traitement relativement souple. Du côté d’Anthropic, par exemple, le scénario a été bien plus brutal.
L’entreprise a récemment reçu une injonction à propos de Mythos 5 et de Fable 5. La directive du gouvernement limite l’usage de ces modèles par des ressortissants étrangers.
Et ce, même s’ils sont des employés travaillant pour des entreprises américaines. Faute de terrain d’entente, cela a conduit à la suspension brutale des deux modèles de pointe d’Anthropic pour le monde entier. Même les pays du G7 n’ont pas eu droit à un traitement de faveur.
Les chatbots alimentés par l’intelligence artificielle répondent aujourd’hui à des millions de questions chaque jour. Mais lorsqu’ils diffusent une information erronée ou trompeuse, qui doit être tenu responsable ?
J’ai posé cette question à Google et l’AI Overviews m’a répondu : « Juridiquement et moralement, la responsabilité incombe à l’utilisateur ». La justice allemande n’est toutefois pas du même avis.
Au début du mois, un tribunal allemand a estimé que Google était responsable des résumés générés par son IA dans les résultats de recherche. Les juges ont rejeté l’idée que les internautes savent qu’il ne faut pas faire confiance aveuglément à une IA.
Ou qu’ils peuvent toujours vérifier les informations ailleurs. Pour eux, ces réponses reflètent directement l’activité commerciale de Google et engagent donc sa responsabilité.
Un débat qui dure depuis les débuts d’Internet
Pendant longtemps, une distinction existait entre les simples intermédiaires techniques et les éditeurs. Un opérateur téléphonique, par exemple, transporte les conversations sans être responsable de leur contenu.
Un journal, en revanche, choisit les informations qu’il publie et peut être poursuivi si celles-ci sont diffamatoires ou illégales. Les géants du numérique ont souvent cherché à profiter des deux statuts.
Ils se présentent comme de simples intermédiaires lorsqu’il s’agit d’échapper aux poursuites. Cependant, ils adoptent le rôle d’éditeur lorsqu’ils souhaitent contrôler ou mettre en avant certains contenus.
Aux États-Unis, l’article 230 du Communications Decency Act de 1996 protège largement les plateformes en les exemptant de responsabilité pour les contenus publiés par leurs utilisateurs.
Cette protection fait l’objet de débats depuis des années notamment avec les réseaux sociaux. Tant qu’ils affichaient simplement les publications dans l’ordre chronologique, ils jouaient essentiellement un rôle de relais.
Seulement, avec les algorithmes qui sélectionnent et mettent en avant certains contenus, beaucoup estiment qu’ils exercent désormais un véritable pouvoir éditorial.
Les résumés générés par l’IA de Google vont encore plus loin. Contrairement au moteur de recherche classique, qui se contente de renvoyer vers des sites tiers, ceux-ci reformulent les informations pour produire une réponse originale.
Elle sélectionne les éléments qu’elle juge pertinents, les réécrit et les présente comme une synthèse. Un travail qui ressemble davantage à celui d’un rédacteur qu’à celui d’un simple intermédiaire technique.
Alors, qui doit être tenu responsable des erreurs de l’IA ?
Pour la justice allemande, un agent conversationnel doit être considéré comme un représentant de l’organisation qui l’utilise. Si un rédacteur humain publie une information erronée, son employeur en répond.
Si un représentant signe un contrat au nom d’une entreprise, celle-ci est engagée. De la même manière, si un chatbot fournit une mauvaise information ou prend une décision au nom d’une société, cette dernière devrait en assumer les conséquences.
Laisser les entreprises se réfugier derrière les erreurs de leur IA créerait un dangereux précédent. Elles auraient tout intérêt à remplacer des rédacteurs, des juristes ou même certains professionnels par des systèmes automatisés. Ce, tout en échappant aux responsabilités lorsque ces derniers commettent des erreurs.
Cette question devient d’autant plus importante que les assistants IA sont appelés à intervenir dans de plus en plus de domaines. Visa et OpenAI travaillent notamment sur des assistants à même d’effectuer des achats au nom des utilisateurs.
Si un tel assistant commande un produit par erreur, qui devra rembourser le client ? Sans règles claires sur la responsabilité, il sera difficile d’instaurer la confiance nécessaire au développement de ces services.
Qu’est-ce que ce point de vue allemand pourrait changer ?
Pour Google, l’enjeu est particulièrement important. Si la décision allemande est confirmée, elle pourrait fragiliser le déploiement des Aperçus IA.
Selon The Guardian, des tests réalisés plus tôt dans l’année estimaient que ces résumés présentaient un taux d’erreur d’environ 10 %. Rapporté aux plus de 5 000 milliards de recherches effectuées chaque année, cela représenterait près de 16 000 réponses erronées chaque seconde.
Si beaucoup de ces erreurs restent anodines, certaines peuvent porter atteinte à la réputation d’une personne ou provoquer un véritable préjudice. Un exemple est déjà devant les tribunaux.
Plus tôt cette année, l’IA de Google a présenté à tort le violoniste canadien Ashley MacIsaac comme un délinquant sexuel. L’artiste a déposé une plainte en Ontario, toujours en cours d’examen.
Si cette affaire contraint Google à améliorer son IA afin de réduire fortement ce type d’erreurs, ce sera une bonne nouvelle pour tout le monde. Les utilisateurs obtiendront des informations plus fiables et les personnes citées éviteront d’être victimes de fausses accusations.
Plus largement, une responsabilité accrue est essentielle pour remettre en question certains usages actuels de l’IA générative. Les entreprises pourraient hésiter à proposer des avocats virtuels, des médecins numériques ou d’autres assistants spécialisés si elles doivent répondre juridiquement de chacune de leurs erreurs.
The Atlantic vient de lancer un outil qui permet de fouiller dans les morceaux de musique ayant servi à entraîner certaines intelligences artificielles (IA). Et le moins que l’on puisse dire, c’est que la playlist est impressionnante.
Pour faire simple, le journaliste Alex Reisner a mis la main sur quatre énormes bases de données musicales utilisées dans l’entraînement de modèles d’IA. Il les a ensuite rendues consultables par le public sur AI Watchdog.
D’où proviennent ces données ?
Eh bien, d’abord, sachez que, d’après Reisner, deux de ces quatre bases de données sont tout simplement gigantesques, avec environ 12 millions et 9 millions de titres. Les deux autres sont plus petites. Cependant, elles dépassent tout de même les 100 000 chansons chacune.
Ces ensembles de données ont apparemment été téléchargés des milliers de fois. Plusieurs de ces collections proviennent de sources accessibles gratuitement sur Internet.
C’est notamment le cas de la Free Music Archive. La plateforme autorise l’écoute en streaming pour un usage personnel, mais demande une licence lorsqu’il s’agit d’une utilisation commerciale.
Pour autant, entraîner une IA avec ces données ne consiste pas simplement à télécharger un dossier et à cliquer sur un bouton magique. Alex Reisner explique que trois des bases repérées sont en réalité des listes de liens menant vers des morceaux hébergés sur YouTube ou Spotify.
Les développeurs utilisent ensuite des outils automatisés pour récupérer les fichiers audio. Certains de ces programmes contournent même les systèmes d’identification, les publicités ou d’autres mécanismes censés rémunérer les artistes. Ce qui va à l’encontre des règles imposées par ces plateformes.
Que peut-on explorer sur AI Watchdog ?
En parcourant ces bases de données, on tombe sur des artistes très connus. Du genre, Lady Gaga, Fred again.., Radiohead, Aphex Twin, Wu-Tang Clan ou encore Bruce Springsteen.
Même le compositeur expérimental Hainbach figure dans la liste. De quoi donner une idée plus concrète des contenus qui alimentent les IA génératives.
Par ailleurs, il n’y a pas que les chansons. L’outil AI Watchdog mis en ligne par The Atlantic permet également d’explorer quelles chansons, livres et autres œuvres ont servi à entraîner des IA.
Notez toutefois que l’outil ne permet pas de savoir exactement quelles entreprises les ont exploitées. Seuls, Google et Stability AI ont déjà reconnu leur utilisation dans certains travaux de recherche.
Alors, vous aussi vous êtes curieux de savoir quels contenus ont été utilisés pour entraîner des modèles d’IA ?
Vous aimez jouer à ces quiz et jeux viraux qui envahissent régulièrement Facebook ? Eh bien prudence car certes ils sont amusants, ils collectent vos données personnelles. Du moins, certains.
Et pas n’importe quelles informations, apparemment. Ces espèces de questionnaires ciblent particulièrement celles que les banques et de nombreux services en ligne utilisent encore pour vérifier votre identité à distance.
Selon Yegor Sak, fondateur du service VPN Windscribe, ces quiz n’ont pas forcément pour but de diffuser un logiciel malveillant ou de pirater directement un appareil.
Ils cherchent plutôt à obtenir des réponses pouvant être exploitées pour contourner certaines procédures de sécurité.
Quel est le piège avec le quiz Facebook ?
Vous avez sûrement déjà utilisé la fonction de récupération de mot de passe d’un site internet, non ? Pour confirmer votre identité, vous devez répondre à des questions de sécurité définies parfois plusieurs années auparavant.
Le nom de jeune fille de la mère, le prénom du premier animal de compagnie ou encore la rue où l’on a grandi figurent parmi les plus courantes. Le problème, selon Sak, est que ces mêmes informations se retrouvent régulièrement au cœur de quiz présentés comme de simples divertissements.
Ces jeux vous proposent de découvrir votre nom de star en combinant le prénom de votre premier animal avec celui de votre mère. Et cela peut vous sembler inoffensif. C’est d’ailleurs ce qu’espèrent les personnes malveillantes derrière ce piège.
Pourtant, ces questionnaire permettent de récupérer des éléments fréquemment utilisés lors des procédures de réinitialisation de compte. Comme l’explique l’expert, peu de personnes accepteraient de répondre à ces questions si un inconnu les posait directement dans la rue.
En revanche, lorsqu’elles sont intégrées dans un questionnaire sur les séries télévisées des années 1990 ou dans un test de personnalité amusant, la méfiance disparaît rapidement.
Une pratique ancienne qui continue de faire des victimes
Cette méthode n’a rien de nouveau. Toutefois, elle reste encore largement utilisée aujourd’hui.
En 2020 déjà, une enquête menée par le bureau du commissaire britannique à l’information (ICO) révélait une situation similaire. Que certaines applications de type quiz avaient recueilli les données de dizaines de millions d’utilisateurs sans leur consentement éclairé.
Les autorités américaines, plus précisément la Federal Trade Commission, ont également tiré la sonnette d’alarme en 2023. Que les informations récoltées via ce genre de questionnaires pouvaient être utilisées par des personnes malveillantes.
Elles pourront lancer des procédures de réinitialisation de mots de passe, accéder à des comptes personnels et, dans certains cas, faciliter des fraudes financières.
Bref, le problème c’est que, malgré les limites bien connues de ces questions de sécurité, de nombreux services continuent encore de les utiliser. Cela, alors même que des solutions plus modernes sont disponibles depuis plusieurs années. Genre, l’authentification biométrique ou les clés de sécurité physiques
Que faire alors ?
Pour les personnes ayant déjà participé à ce type de jeux, Yegor Sak recommande de modifier les réponses aux questions de sécurité associées aux différents comptes en ligne.
Selon lui, une fois les données partagées, il est impossible de les récupérer. La meilleure protection consiste donc à revoir les paramètres de sécurité des comptes.
L’idéal consiste ainsi à remplacer les réponses réelles par des informations fictives. Des genres impossibles à deviner ou à retrouver sur internet. Au cas où vous ne l’aurez pas saisi, il recommande également d’éviter d’utiliser des réponses basées sur des informations personnelles facilement accessibles.
Ces réponses peuvent ensuite être enregistrées dans un gestionnaire de mots de passe, au même titre que les identifiants classiques.
Connexion
