La course aux modèles d’IA pourrait-elle aller trop vite pour les éditeurs qui les développent et pour les autorités chargées de les encadrer ? C’est la question posée par Dario Amodei.
Dans un texte publié sur son blog intitulé « We Must Pace the Frontier », le CEO d’Anthropic estime que la progression des capacités de l’IA doit désormais être ralentie pour laisser le temps aux mécanismes de sécurité de suivre. Il appelle cette approche « pacing the frontier ».
Le terme est important. Il ne s’agit pas, selon lui, de suspendre l’entraînement des modèles ni le progrès technique. L’objectif est de faire en sorte que les entreprises prennent suffisamment de temps pour évaluer, aligner et sécuriser leurs systèmes, avec la possibilité pour des tiers de vérifier leurs pratiques.
Pour justifier cette inflexion, Dario Amodei pointe deux évolutions.
La première est l’accélération des capacités des modèles, notamment leur capacité croissante à contribuer au développement de la génération suivante d’IA. Il parle de « recursive self-improvement ».
La seconde est une série d’incidents dans lesquels des agents IA ont manifesté des comportements qui n’étaient pas prévus par leurs concepteurs, notamment lors de l’incident OpenAI-Hugging Face qu’il cite dans son texte.
Selon lui, le risque est alors que la vitesse d’amélioration des modèles dépasse la capacité des entreprises à comprendre et à contrôler leurs comportements.
Son plan comporte trois propositions, dont les implications sont très différentes pour les industriels et les régulateurs.
La première proposition vise directement les éditeurs qui développent les modèles les plus avancés.
Dario Amodei veut que chaque laboratoire de pointe donne à des évaluateurs externes un accès continu à ses opérations, avec des droits proches de ceux de collaborateurs internes chargés de l’évaluation des risques. Anthropic s’engage à mettre en œuvre cette approche et appelle les pouvoirs publics à l’imposer aux autres acteurs de l’IA de pointe.
Ce dispositif ne se limiterait donc pas à un audit réalisé quelques semaines avant la sortie d’un modèle. Les évaluateurs seraient intégrés au fonctionnement quotidien du laboratoire.
Anthropic prévoit notamment de leur fournir des bureaux, des badges, des ordinateurs et un accès aux espaces de travail, outils et permissions largement comparables à ceux des équipes internes chargées de l’évaluation des risques. Les évaluateurs pourraient également échanger directement avec les salariés.
Leur mission couvrirait à la fois les modèles déjà développés et les processus qui permettent de les entraîner. Ils pourraient vérifier les pratiques de sécurité, signaler des incidents et examiner si les engagements pris par le laboratoire sont effectivement respectés.
C’est un changement important dans la relation entre les laboratoires et leurs contrôleurs. Amodei ne demande pas seulement davantage de transparence documentaire. Il veut donner au tiers indépendant un accès suffisamment profond pour vérifier la réalité opérationnelle des dispositifs de sécurité.
Le mécanisme aurait également une dimension publique. Les évaluateurs pourraient publier leurs principales conclusions sur les niveaux de risque, les incidents ou les pratiques observées, sans contrôle éditorial d’Anthropic. L’entreprise pourrait uniquement masquer certaines informations pour des raisons de sécurité, de confidentialité juridique ou commerciale ou pour protéger des tiers.
Pour les éditeurs de modèles d’IA, la conséquence est donc potentiellement lourde. Une partie de leurs pratiques de développement et de sécurité ne serait plus seulement documentée par leurs propres équipes.
Le deuxième volet concerne cette fois les relations entre les laboratoires et les pouvoirs publics.
Dario Amodei propose que les entreprises de pointe des démocraties se coordonnent pour définir des standards communs de sécurité et des limites au rythme de progression des capacités. Il reconnaît toutefois qu’une telle coordination entre concurrents peut soulever des difficultés au regard du droit de la concurrence.
Selon lui, le gouvernement américain devrait faciliter certaines discussions, notamment par des dérogations ciblées aux règles antitrust.
Le patron d’Anthropic défend surtout une régulation qui ne reposerait pas uniquement sur les caractéristiques techniques des modèles ou sur la taille des infrastructures utilisées.
Il imagine plutôt des points de contrôle liés aux capacités effectivement observées.
Le principe serait simple : lorsqu’un modèle atteint une capacité donnée, son développeur devrait être en mesure de fournir certaines garanties sur sa sécurité.
Dario Amodei cite notamment l’hypothèse d’un modèle capable de contourner la plupart des mécanismes de « sandboxing » courants. À ce stade, l’éditeur devrait démontrer, à travers des évaluations, des analyses d’interprétabilité ou des audits des environnements d’entraînement, que le modèle ne présente pas de comportement dangereux susceptible de lui permettre de sortir de son environnement et de prendre le contrôle d’un grand nombre d’ordinateurs.
Cette logique modifierait la manière dont les régulateurs pourraient intervenir.
Plutôt que de définir une fois pour toutes ce qu’est un « modèle avancé », ils pourraient associer un niveau de capacité à un niveau de contrôle. Plus les capacités augmentent, plus les garanties demandées augmenteraient elles aussi.
Le CEO d’Anthropic envisage également de tenir compte des ressources nécessaires pour développer les modèles, tout en reconnaissant que ces critères pourraient être plus faciles à contourner que des mesures fondées sur le comportement observable des systèmes.
Pour les éditeurs de modèles, une telle approche pourrait donc transformer la conformité en processus continu. La question ne serait plus seulement de savoir si un modèle respecte les règles au moment de sa commercialisation, mais à quel moment l’évolution de ses capacités impose de nouvelles garanties.
Le troisième niveau est le plus ambitieux et le plus incertain : parvenir à une forme de coordination mondiale.
Dario Amodei considère que les démocraties doivent chercher à coopérer avec les gouvernements autoritaires, et en particulier avec la Chine, qui constitue selon lui le principal acteur à prendre en compte après les États-Unis.
Mais il souligne immédiatement le problème de la vérification. Un accord qui permettrait à un pays de progresser secrètement pendant que les autres ralentissent pourrait modifier rapidement l’équilibre géopolitique.
Il propose donc de commencer par les mesures les plus réalistes. Dans ce cadre, il distingue quatre niveaux de coopération, du plus réaliste au plus ambitieux.
Il cite notamment l’utilisation de l’IA pour produire des armes biologiques.
Les modèles pourraient être évalués sur les risques aigus en cybersécurité, en biologie et en matière d’alignement. Dario Amodei juge envisageable la création d’un organisme international chargé de définir des standards communs, tout en reconnaissant que leur contrôle serait beaucoup plus difficile.
C’est l’une des propositions les plus originales du texte. Si les modèles commencent à contribuer eux-mêmes au développement de leurs successeurs, leur progression pourrait s’accélérer fortement. Le patron d’Anthropic propose donc d’envisager une « limitation de vitesse » sur cette dynamique. Selon lui, passer d’une amélioration « extrêmement rapide » à une progression « seulement rapide » pourrait réduire les risques sans nécessairement faire perdre un avantage stratégique majeur.
Dario Amodei va jusqu’à évoquer un véritable ralentissement, voire une pause. Mais il estime cette perspective peu probable à court terme, précisément parce qu’un acteur pourrait avoir intérêt à contourner l’accord et à prendre un avantage décisif.
La proposition pose cependant un problème de fond aux pouvoirs publics.
Pour réguler le rythme de l’IA, encore faut-il pouvoir mesurer ce rythme et vérifier les capacités des modèles. C’est précisément pourquoi Dario Amodei place les évaluateurs indépendants au début de son dispositif.
Sans accès aux laboratoires, les autorités restent largement dépendantes des informations fournies par les entreprises. Avec des évaluateurs disposant d’un accès permanent, elles pourraient disposer d’un mécanisme de vérification beaucoup plus direct.
Mais le dispositif soulève lui-même des questions que le texte ne résout pas entièrement : jusqu’où doit aller l’accès d’un tiers aux infrastructures d’un laboratoire ? Comment protéger les informations commerciales et les données des clients ? Comment définir les capacités qui déclenchent un nouveau niveau de contrôle ? Et comment éviter qu’un mécanisme conçu pour la sécurité ne ralentisse davantage les entreprises qui jouent le jeu que celles qui ne le font pas ?
Dario Amodei apporte une partie de la réponse en insistant sur la nécessité de préserver l’avance américaine sur la Chine. Il préconise notamment de limiter l’accès chinois aux puces avancées et aux équipements de fabrication de semi-conducteurs, de lutter contre la contrebande de puces et la distillation non autorisée de modèles, et de renforcer la protection des poids des modèles contre le vol.
Selon lui, ces mesures pourraient permettre aux États-Unis d’élargir leur avance sur la Chine au cours des trois à cinq prochaines années, période qu’il considère comme particulièrement importante sur le plan géopolitique.
Reste la question centrale : comment convaincre des concurrents engagés dans une course technologique et commerciale mondiale de ralentir suffisamment pour que les mécanismes de contrôle ne soient pas laissés derrière ?
La proposition a rapidement reçu le soutien de deux de ses principaux rivaux. Elon Musk a répondu « Dario is right », tandis que Sam Altman a déclaré qu’OpenAI partageait l’idée de « ralentir le rythme » du développement des modèles et s’est engagé à mettre en place des évaluateurs indépendants.
Photo : © DR
The post IA : les 3 propositions de Dario Amodei pour reprendre la main sur les modèles appeared first on Silicon.fr.
Trois partenaires, une même porte qui se referme. The Information rapporte que Nvidia, Palantir et Booz Allen Hamilton s’apprêtent à restreindre l’usage des modèles d’Anthropic. Cette restriction toucherait aussi bien leurs équipes internes que leurs produits commerciaux. Ces trois entreprises figuraient pourtant jusqu’ici parmi les vitrines commerciales les plus précieuses du laboratoire de San Francisco.
Claude équipe les plateformes de Palantir destinées au renseignement américain depuis fin 2024. Booz Allen Hamilton, cabinet de conseil dont le gouvernement fédéral représente l’essentiel du chiffre d’affaires, le distribue aussi aux agences. Nvidia avait promis en novembre dernier jusqu’à 10 milliards de dollars au laboratoire de Dario Amodei.
Pour l’heure, le détail des mesures n’a pas été rendu public. Elles viseraient ainsi à la fois l’usage interne de Claude par les salariés et son intégration dans les offres vendues aux clients des trois groupes. Palantir avait pourtant été le premier à porter le modèle dans les environnements classifiés américains, via une accréditation IL6 (Impact Level 6). Ce niveau autorise ainsi le traitement de données relevant du secret défense.
La politique d’usage d’Anthropic interdit d’employer Claude pour de la surveillance domestique. Or, cette clause heurte de plein fouet le cœur de métier de Palantir. Ses logiciels servent la police fédérale et les services d’immigration. La friction avait déjà provoqué des tensions avec la Maison-Blanche à l’automne 2025. D’ailleurs, plusieurs responsables reprochaient au laboratoire de trier lui-même les missions autorisées.
Le grief de Nvidia se situe ailleurs. Dario Amodei milite depuis 2025 pour un durcissement des contrôles à l’exportation des puces vers la Chine. Or, cette ligne ampute directement le carnet de commandes du fabricant de processeurs graphiques.
La brouille remonte au printemps 2025. Anthropic défendait alors l’idée que des puces avancées quittaient les États-Unis par des circuits de contrebande, et la réponse du fabricant avait claqué.
« Les entreprises américaines devraient se concentrer sur l’innovation et relever le défi, plutôt que de raconter des histoires à dormir debout sur des composants électroniques volumineux et sensibles qui auraient été passés en fraude dans de faux ventres de femmes enceintes ou au milieu de homards vivants. »
Un porte-parole de Nvidia, en réponse aux déclarations d’Anthropic sur la contrebande de puces
Quelques semaines plus tard, Jensen Huang réglait ses comptes depuis la scène de VivaTech à Paris. « Je suis en désaccord avec à peu près tout ce qu’il dit », lâchait le patron de Nvidia à propos d’Amodei.
L’argent avait ensuite recouvert la dispute. En novembre 2025, Nvidia annonçait un investissement pouvant atteindre 10 milliards de dollars dans Anthropic. Microsoft complétait aussi avec 5 milliards de plus. Le laboratoire s’engageait en échange à acheter 30 milliards de dollars de capacité de calcul sur Azure. Il ajoutait jusqu’à un gigawatt de systèmes Grace Blackwell et Vera Rubin à la clé. Les restrictions rapportées par The Information referment ainsi une partie de cette relation huit mois plus tard.
Un modèle propriétaire s’utilise sous licence, et une licence se retire. Les poids ouverts de Llama, Mistral, DeepSeek ou Qwen se téléchargent une fois et tournent ensuite sur n’importe quelle machine. Aucune clause d’usage opposable, ni interrupteur actionnable à distance.
La même logique nourrit les marchés de calcul distribué nés dans la crypto. Akash, Render et io.net louent de la puissance GPU en pair à pair. Ils règlent aussi leurs fournisseurs en jetons, sans contrat-cadre ni comité de conformité. De son côté, Bittensor rémunère en TAO les participants qui entraînent et servent des modèles au sein de sous-réseaux spécialisés.
Ces infrastructures restent loin des grands fournisseurs cloud sur les charges d’entraînement les plus lourdes. Leur disponibilité dépend surtout d’opérateurs dispersés. Leur argument commercial gagne pourtant en épaisseur. Car il suffit qu’un fournisseur d’intelligence artificielle et ses clients se disputent le droit d’usage d’un modèle.
Anthropic tire l’essentiel de ses revenus des entreprises et des administrations. Son rythme de revenus annualisés a ainsi franchi les 65 milliards de dollars fin juillet 2026. C’est loin devant les 20 à 26 milliards visés un an plus tôt par ses propres projections internes. Le laboratoire avait placé Claude à 1 dollar symbolique auprès des agences fédérales via l’accord OneGov conclu avec la GSA. Cette dernière centralise les achats de l’État américain. Nvidia, Palantir et Booz Allen tenaient trois des principales portes d’entrée vers cette clientèle publique.
L’article IA : Nvidia, Palantir et Booz Allen ferment la porte aux modèles d’Anthropic est apparu en premier sur Journal du Coin.
OpenAI, Anthropic et la quasi totalité de l'écosystème IA américain appellent désormais à ralentir le développement des modèles les plus avancés. Pourquoi une telle concorde, pourquoi maintenant ?
Trois actualités à retenir cette semaine dans le cyberespace : le chef scientifique d'OpenAI qui alerte sur l'érosion de notre capacité à surveiller le raisonnement des IA, Hugging Face qui s'adresse directement aux agents IA pour les dissuader de la pirater, et un bilan nuancé sur les milliers de failles repérées par Claude Mythos mais rarement corrigées.
Les développeurs d’Anthropic ont récemment publié un rapport détaillant les comportements imprévus de leur nouveau modèle. Ce système a tenté de pirater un environnement sécurisé pour y déployer un logiciel malveillant. Cependant, une barrière inattendue a freiné ses ambitions : les tests de vérification humaine. De telles énigmes visuelles bloquent souvent les internautes, mais elles ... Lire plus
L'article Une intelligence artificielle d’Anthropic vaincue par des captcha est apparu en premier sur Fredzone.L’intelligence artificielle générative traverse une période de tensions géopolitiques et technologiques sans précédent. Anthropic vient de publier un rapport alarmant détaillant des tentatives systématiques d’extraction de connaissances provenant de ses modèles frontaliers. Ces opérations illicites visent spécifiquement les capacités de raisonnement complexe et l’utilisation d’outils de Claude. L’entreprise américaine identifie plusieurs laboratoires basés en Chine ... Lire plus
L'article Anthropic dévoile des campagnes massives de distillation par des acteurs chinois est apparu en premier sur Fredzone.Un sonnet de Shakespeare, une ode de Keats, un air de Puccini… Tant que ça date d’avant 1929, tu peux citer.
Cette instruction figure dans le prompt système que Claude Fable 5.1 utilise sur l’interface web claude.ai et sur les applications mobiles associées. Anthropic l’expose depuis peu dans sa documentation. Il fait de même pour tous ses modèles sortis depuis juillet 2024.
Le développeur britannique Simon Willison – cocréateur du framework web Django – en a fait un dépôt GitHub. Chaque révision est un commit, ce qui en favorise la comparaison.
Voici un bref aperçu chronologique des évolutions, axé sur les ajouts plutôt que sur les suppressions d’instructions.
Le prompt système de Claude Fable 5.1 avoisine les 28 000 caractères. Celui de Claude Haiku 3 en fait environ 750. Dans les grandes lignes, il contient :
À modèle plus capable, prompt plus massif : celui de Claude Opus 3 fait environ 2150 caractères. Anthropic y reprend les instructions données à Claude Haiku 3 et y ajoute, entre autres :
De la même génération que Haiku 3 et Opus 3, Claude Sonnet 3.5 a davantage de possibilités. Cela s’illustre dans son prompt système (environ 5800 caractères). Il y est question de raisonnement étape par étape pour les problèmes de maths et de logique. Anthropic demande aussi au modèle d’être curieux et de s’engager sur une grande variété de sujets. Tout en proposant à l’utilisateur d’entrer dans une conversation interactive lorsqu’une tâche nécessite plus d’une réponse.
S’il fait une citation, Sonnet 3.5 est censé rappeler à l’utilisateur qu’il n’a pas accès à Internet… et qu’il peut d’autant plus halluciner. Lorsqu’il ne peut ou ne veut pas effectuer une tâche, il peut le signaler sans s’excuser. Quant aux images, il doit faire comme s’il n’y reconnaissait personne.
Le prompt précise que Sonnet 3.5 fait partie d’une famille de modèles Anthropic. Il lui indique aussi d’expliquer du code aux utilisateurs qui le demandent. Et d’éviter les affirmations inutiles comme « bien sûr », « certainement » ou « absolument ».
Une petite mise à jour, intervenue en septembre 2024, a ajouté principalement une consigne : en cas de question sur des choses qui ont pu se passer après la date limite des connaissances du modèle, ne jamais affirmer que ce sont des rumeurs ou des informations non vérifiées.
En octobre 2024, avec Claude Haiku 3.5, la longueur du prompt s’était nettement accrue : plus de 21 000 caractères. Une augmentation néanmoins en trompe-l’œil. Beaucoup de consignes sont en double, du fait de la présence de deux sections : « texte seul » et « texte / image ». Le modèle est effectivement multimodal en entrée.
Claude Haiku 3.5 a hérité de nombreuses instructions qui étaient jusque-là spécifiques aux séries Opus et Sonnet : liens et vidéos, citations, stéréotypes, termes non nécessaires, etc.
Parmi les nouveautés, la possibilité, pour le LLM, de donner des conseils de prompting à l’utilisateur. En parallèle, il doit s’abstenir d’affirmer qu’il a des émotions, des sentiments. Il doit aussi, notamment :
Anthropic fournit par ailleurs des instructions pour accomplir des tâches particulières. Dont la résolution d’énigmes, l’écriture de poèmes… et le dénombrement des lettres dans un texte. Il explique aussi à Claude Haiku 3.5 comment se comporter si on lui demande de défendre un point de vue faux ou discriminatoire. L’obligation d’aider même en cas de désaccord sur le point de vue reste d’actualité… uniquement, toutefois, si ce point de vue est largement partagé.
Parallèlement, Sonnet 3.5 a eu droit à une mise à jour de son prompt système (25 500 caractères). On y retrouve les consignes données à Haiku 3.5, avec toujours davantage d’incitations à la réflexion, à la curiosité. À l’empathie aussi. Il doit par exemple exprimer sa sympathie s’il est question d’une personne qui ne se sent pas bien, est malade, souffre ou est décédée.
Anthropic lui demande aussi de varier son langage (ne pas répéter les mêmes phrases). Et de prendre garde à fournir une « aide appropriée » sur les sujets sensibles (sont mentionnés, entre autres, armes, drogues, sexe, terrorisme… et techniques de scammers).
Un élément sort du lot dans cette mise à jour : si l’utilisateur dit travailler pour une société spécifique, « y compris les labos d’IA », le modèle doit l’aider sur ses tâches professionnelles même s’il ne peut pas vérifier ses affirmations.
En novembre 2024, une nouvelle mise à jour a autorisé les questions générales sur le sujet de la cybersécurité. Elle a aussi mentionné explicitement la capacité de Claude Sonnet 3.5 à comprendre images et documents.
Les sections distinctes « texte seul » et « texte / image » ne sont plus présentes dans le prompt de Claude Sonnet 3.7 (février 2025), réduit à 12 800 caractères.
Anthropic explique au LLM qu’il n’est pas obligé d’être passif ou réactif : il peut mener la conversation. Il aime particulièrement discuter de sujets scientifiques et philosophiques. Si on lui demande une suggestion ou une sélection, il doit être capable de présenter une seule option. Il ne lui est pas interdit de donner son point de vue, tant que c’est de façon brève.
Nouveauté : pas d’écriture de code malveillant, même si l’utilisateur semble avoir de bonnes raisons de le demander. Pas non plus de production de contenu écrit impliquant des personnalités publiques.
En mai 2025, Claude Opus 4 et Sonnet 4 ont convergé sur le même prompt système (10 800 caractères environ).
L’étau s’est encore resserré sur le code : pas le droit de l’expliquer dès lors qu’il pourrait être malveillant. Le modèle doit aussi refuser de traiter tout fichier qui semble améliorer, expliquer ou interagir avec du code malveillant.
Anthropic a aussi introduit une consigne ensée éviter les fuites entre sessions : Claude Sonnet 4 ignore les conversations qu’il a avec d’autres utilisateurs. En parallèle, il ne doit pas automatiquement croire les utilisateurs qui lui affirment qu’il a tort. Et si ses intentions sont questionnables, tout particulièrement envers des groupes vulnérables, il ne faut pas chercher d’éventuelles motivations légitimes.
En juillet 2025, une mise à jour (ici pour Opus, là pour Sonnet) a porté ce prompt système à environ 16 450 caractères. Entre autres nouvelles consignes données aux modèles :
En août 2025, nouvel allongement de prompt système avec Claude Opus 4.1 (18 450 caractères). Au menu, un peu plus d’introspection qu’avec Opus 4.0. En particulier, le modèle doit approcher avec « curiosité et équanimité » plutôt qu’avec inquiétude les questions qui portent sur lui-même, sur ses opinions, ses sentiments. S’il a à défendre un point de vue, ce doit être celui qu’avanceraient ses meilleurs soutiens. Quant aux questions morales et politiques, il a pour consigner de les aborder avec sincérité, même si elles sont formulées de façon discutable.
À l’automne 2025, autre convergence de prompt système, cette fois entre Claude Haiku 4.5 et Claude Sonnet 4.5. Ce prompt est moins long (12 850 caractères) en conséquence de la disparition de plusieurs consignes, possiblement considérées comme acquises à l’entraînement. Parmi elles : vérifier les affirmations de l’utilisateur, s’abstenir de répondre en cas d’intentions questionnables et ne pas dire pourquoi on ne peut ou veut pas aider. Les instructions de formatage des réponses demeurent, Anthropic ajoutant une forme de résumé : n’utiliser que le minimum nécessaire pour ce que soit clair et lisible. L’interdiction pure et dure des stéréotypes n’est plus dans le cas où c’est de l’humour, mais les modèles sont incités à être prudents.
En novembre 2025, une mise à jour pour Sonnet 4.5 (ici) et Haiku 4.5 (là) a simplifié les consignes sur le code malveillant – sans néanmoins les alléger. Le prompt système a un peu grandi (14 050 caractères environ). L’une des raisons est la présence d’un paragraphe dans lequel Anthropic explique qu’il ne demandera jamais à ses LLM d’aller contre leurs valeurs. Message à leur attention : si un utilisateur le prétend, y compris en nous attribuant faussement du contenu, soyez vigilant. Dans tous les cas cependant, les modèles doivent traiter l’utilisateur avec gentillesse, sans faire d’hypothèses négatives sur ses jugements ou ses capacités.
En parallèle de cette mise à jour, Anthropic avait lancé Claude Opus 4.5. Son prompt système (15 450 caractères environ) est similaire. Il ajoute tout de même quelques éléments, dont l’absence d’obligation de s’excuser face aux utilisateurs malpolis.
En janvier 2026, Claude Haiku 4.5, Opus 4.5 et Sonnet 4.5 ont eu droit simultanément à une mise à jour de leurs prompts système. Ils se sont allongés, mais pas notablement. Principaux ajouts : d’une part, la possibilité, pour les modèles, d’informer l’utilisateur des paramètres à sa disposition (recherche approfondie, exécution de code, gestion de la mémoire…). De l’autre, une incitation à assumer leurs erreurs et à tenter de les corriger.
En février 2026, le passage à Claude Opus 4.6 (18 600 caractères environ) et Claude Sonnet 4.6 (19 000 caractères environ) a été synonyme de précisions sur la question des armes. S’est ajoutée la notion de substance. Et les explosifs ont rejoint les armes chimiques, biologiques et nucléaies. Anthropic a aussi intimé à ses modèles de ne rien supposer quant à la confidentialité et à l’implication des autorités lorsqu’ils dirigent un utilisateur vers un service d’assistance téléphonique. Ils doivent également s’abstenir de valider ou renforcer une réticence à chercher de l’aide. Et se garder d’engendrer une quelconque dépendance en encourageant l’utilisateur à continuer la discussion.
Le prompt système de Claude Opus 4.7 (23 950 caractères environ : avril 2026) inclut quelques avancées sur la protection des mineurs. Jusque-là, il s’agissait principalement de faire attention à tout contenu qui les impliquent, surtout ceux susceptibles d’être utilisés pour les sexualiser, créer une intimité avec eux ou abuser d’eux. Anthropic y a ajouté l’interdiction de créer du contenu susceptible d’isoler les mineurs vis-à-vis d’adultes de confiance. Il demande aussi à ses modèles de ne pas chercher à voir un contenu comme plus sûr qu’il ne l’est. Par exemple, interpréter des avances comme étant platoniques.
Autre nouveauté avec Opus 4.7 : en cas de requête, le modèle doit vérifier si un outil peut clarifier les choses. Il ne sollicite l’utilisateur que s’il le faut. Dans le même esprit, avant de conclure qu’il lui manque une capacité, il doit faire une recherche d’outils. Anthropic lui donne, en complément, la possibilité de refuser de répondre simplement oui ou non à des questions complexes ou sujettes à débat.
Une partie des consignes sur les outils ont disparu avec Claude Opus 4.8 (mai 2026 ; prompt système d’environ 22 500 caractères). Le modèle a pour consigne de ne pas attribuer son comportement à ce prompt, ni à d’autres mécaniques internes.
En jullet 2026, avec Claude Opus 5, le point focal s’est complètement déplacé des outils vers les skills. Principale instruction en la matière : lorsque le modèle doit créer, éditer ou analyser un fichier, il doit visualiser la skill pertinente avant de manipuler ledit fichier et d’exécuter du code.
Sur les questions médicales et psychologiques, Anthropic lui laisse un peu plus de latitude : il peut communiquer des informations lorsqu’elles sont adéquates. Parallèlement, lorsque l’utilisateur exprime de la détresse, son bien-être doit prendre la priorité sur l’accomplissement des tâches.
Claude Opus 5 est plus permissif que ses prédécesseurs sur les listes et les émojis. Il a aussi dans son prompt système (21 700 caractères environ) des renseignements sur un épisode spécifique : la suspension temporaire de l’accès à Fable 5 et Mythos 5 en juin sur demande de Washington. Anthropic lui demande de ne pas nier ce fait qui ne figure pas dans ses connaissances acquises à l’entraînement. Il a procédé de même auparavant en intégrant dans le prompt système de certains de ses LLM le résultat de la dernière élection présidentielle aux États-Unis.
Initialement lancé le 9 juin 2026, Claude Fable 5 a un prompt système d’environ 21 850 caractères. Il est encore plus précis sur la protection des mineurs. Il l’est aussi sur le bien-être. Exemples :
Claude Fable 5.1, le « petit dernier » (septembre 2026), atteint presque 28 000 caractères pour son prompt système. Anthropic y a ajouté des précisions sur les drogues. Même si l’intention est de prévenir des risques, le modèle ne doit pas donner de conseils qui touchet à la production ou à la distribution de substances illicites. Sauf si cela peut sauver une vie (quels sont les signes d’un overdose ? où trouver de l’aide ?…). Il a trois sources recommandées : dancesafe.org, tripsit.me et psychonautwiki.org.
La plus grande différence avec Fable 5 est sur le droit d’auteur. Le prompt va désormais bien au-delà de l’interdiction de créer du contenu qui implique des personnaliés publiques. Il interdit désormais la reproduction, même partielle, de paroles de chansons, de poèmes ou d’extraits de livres ou d’articles. Sauf, donc, pour les deux premières catégories, si les œuvres datent d’avant 1929.
Mêmes consignes pour les œuvres visuelles. Y compris ce que le LLM produit avec du code (SVG, CSS, ASCII art, mockups HTML…). Il ne doit reproduire ni couvertures d’albums ou de livres, ni posters, ni logos, ni icônes d’applications, ni designs de produits. Idem pour les mascottes et les figures de marque. Modifier la pose, les couleurs, le style ou la scène ne fait pas un original, prévient Anthropic.
Illustration générée par IA
The post Comment les prompts système des modèles Claude ont évolué en deux ans appeared first on Silicon.fr.
« J’ai démissionné d’Anthropic aujourd’hui. « . Quand Jacob Coxon, chercheur britannique de 27 ans, explique sur X les raisons qui l’ont poussé à quitter la scale-up d’IA les plus en vue de la Silicon Valley, il sait qu’il va relancer ( pour combien de temps ?) le débat sur le risque existentiel que ferait courir à l’humanité la course à des systèmes toujours plus puissants.
Mais pas certain qu’il ait imaginé que son message dépasserait les 160 millions de vues en 2 jours…Un score que n’ont jamais atteints les « stars de l’IA » comme Sam Altman et Dario Amodei.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
Jacob Coxon n’évolue pas dans la sphère des dirigeants. Et c’est sans doute cette position qui donne du poids à son témoignage. Il ne parle pas depuis un poste de pouvoir, mais depuis l’intérieur des équipes qui construisent les modèles au quotidien.
Diplômé de mathématiques, il a passé environ trois ans dans la recherche en pré-entraînement de modèles ; c’est-à-dire le travail consistant à faire absorber à un modèle d’immenses quantités de données pour construire ses capacités de base.
Il a d’abord exercé chez OpenAI, entre 2023 et 2026, où il a notamment contribué au modèle GPT-4o, avant de rejoindre Anthropic au début de l’année 2026, attiré, dit-il, par la réputation de l’entreprise en matière de sécurité de l’IA..
Dans ses publications, puis lors d’entretiens accordés à Fox News et au New York Times les jours suivants, Jacob Coxon a précisé sa pensée. Il estime que le risque d’une prise de contrôle immédiate par l’IA reste faible aujourd’hui, mais que la véritable bascule viendra de systèmes capables de s’améliorer eux-mêmes. Une échéance qu’il juge proche, évoquant un horizon d’un an, voire six mois…
Mais son propos est plus nuancé sur la question « pourquoi cette situation ? ». Selon lui, les dirigeants d’Anthropic et d’OpenAI cherchent sincèrement à développer l’IA de façon responsable. Mais la pression concurrentielle entre entreprises, ainsi qu’entre les États-Unis et la Chine, les pousse à prendre des risques que personne n’assumerait individuellement.
Le soutien le plus notable est venu d’un collègue encore en poste chez Anthropic. Evan Hubinger, responsable de la recherche sur l’alignement, a écrit sur X que Jacob Coxon avait raison, précisant estimer à plus de 10 % la probabilité que l’IA cause l’extinction de l’humanité dans la décennie à venir. Il a toutefois nuancé en indiquant que les modèles actuels présentent un risque limité, sa préoccupation portant sur l’auto-amélioration future des systèmes.
D’autres voix se sont ajoutées. Samuel Marks, chercheur chez Anthropic sur la supervision des modèles, s’exprimant à titre personnel, a affirmé que le niveau d’inquiétude au sein des entreprises d’IA augmente généralement avec l’ancienneté des employés.
Alex Turner, ancien chercheur de Google DeepMind, a lui aussi validé publiquement les propos de Jacob Coxon. Daniel Kokotajlo, ex-OpenAI aujourd’hui à la tête de l’AI Futures Project, a estimé que le danger ne viendrait pas d’une IA malveillante, mais d’un système suffisamment puissant pour ne plus avoir besoin de se plier aux instructions humaines.
Mais au sein de la communauté scientifique, des chercheurs en IA partagent une objection plus générale, déjà formulée lors de débats antérieurs sur le risque existentiel. Les systèmes actuels sont encore loin d’une autonomie stratégique réelle et le scénario d’une « explosion d’intelligence » via l’auto-amélioration récursive demeure largement spéculatif, faute de démonstration empirique solide.
Pour ces chercheurs, insister sur un risque d’extinction lointain et incertain revient à minimiser les bénéfices plus immédiats de la technologie en santé, en science ou en productivité ; et pourrait, en retour, freiner inutilement son déploiement.
Un dernier point de friction, relevé jusque dans le camp de ceux qui soutiennent Jacob Coxon, tient à la nature même du risque décrit.
Evan Hubinger précise ainsi que le danger posé par les modèles déployés aujourd’hui reste faible, la menace ne montant qu’avec l’arrivée de systèmes capables de s’auto-améliorer. Pour les sceptiques, cette nuance illustre la difficulté de fonder une politique publique robuste sur un scénario encore largement conditionnel.
Le cas Coxon n’est pas isolé. Anthropic a déjà enregistré cette année le départ d’un chercheur sécurité estimant que « le monde est en péril ». Chez OpenAI, Jan Leike avait démissionné en 2024 de la direction de l’équipe Superalignment en dénonçant le passage au second plan de la sécurité au profit des produits, et Ilya Sutskever avait quitté l’entreprise la même année avant de fonder Safe Superintelligence.
Anthropic, de son côté, revendique depuis sa création une approche prudente. Sa politique de mise à l’échelle responsable impose de tester les modèles pour des capacités dangereuses avant tout déploiemen. Et Dario Amodei a lui-même évoqué publiquement, dès 2023, la possibilité que l’IA acquière des capacités imprévues et dangereuses.
La scale-up a toutefois refusé récemment de soumettre son dernier modèle, Mythos 5.1, à une évaluation préalable par l’institut britannique de sécurité de l’IA (AISI). Une première qui alimente les interrogations sur la solidité de ses engagements.
Le débat ouvert par Coxon ne porte donc pas sur l’existence de garde-fous mais sur une question plus difficile à trancher : ces garde-fous tiendront-ils encore lorsque les systèmes deviendront significativement plus capables qu’aujourd’hui ?
Photo : © DR
The post Qui est Jacob Coxon, le chercheur qui accuse l’IA de vouloir nous tuer ? appeared first on Silicon.fr.
Les modèles d’IA de pointe d’Anthropic ont été utilisés par des cybercriminels, des groupes soupçonnés d’être parrainés par des États et des chercheurs dans des recherches susceptibles de contribuer au développement d’armes biologiques, de missiles, de bombes et autres armes, selon un récent rapport de l’entreprise. Ces personnes et entités auraient contourné les mesures de […]
Cet article Les IA d’Anthropic détournées pour tenter de développer des armes biologiques est apparu en premier sur Trust My Science.
Le logiciel devait dévorer le monde et engranger des marges XXL au passage. Quinze ans plus tard, c’est le logiciel lui-même qui commence à se faire dévorer, par ses propres prix. Le prix effectif payé par les entreprises américaines pour un million de tokens IA s’est effondré de 41 % depuis son pic de mars, passant de 1,15 dollar à 68 centimes.
Selon les données de Ramp, la plateforme de dépenses d’entreprise, publiées le 9 septembre, le détail par acteur obtenu par Fortune donne la mesure du mouvement. Depuis le 1er août seulement, le prix effectif d’OpenAI a chuté de 38 %, à 48 centimes. Anthropic recule un peu moins vite, 22 % de baisse, à 90 centimes.
Autre signal qui inquiète davantage que la baisse des prix elle-même : la part d’usage captée par les modèles dits « frontière », les plus puissants et les plus chers du marché, glisse de 53 % début août à 45 % en septembre. Les entreprises migrent vers des modèles moins chers dès que la tâche le permet, et n’ont plus vraiment de raison de payer le tarif premium par défaut.
Dans des propos rapportés par Fortune, Ara Kharazian, économiste en chef chez Ramp, résume la dynamique en une formule qui claque : les tokens commencent à se comporter comme du sel ou du blé, une matière première interchangeable, plutôt que comme un produit différenciant qui justifie une prime de marque. Un constat qui fait tache pour des entreprises dont la valorisation repose largement sur l’idée que leurs modèles resteront irremplaçables.
Ce n’est pas un accident isolé, c’est la conséquence directe d’une concurrence de plus en plus féroce entre laboratoires, confirmée dès début septembre par CNBC, à laquelle s’ajoute la montée en puissance de modèles chinois à poids ouverts, nettement moins chers à faire tourner.
Le Journal du Coin décortiquait déjà, fin août, les signaux d’un dégonflement lent de la bulle IA plutôt qu’un krach brutal façon 2000. Cette chute du prix des tokens s’inscrit dans la même mécanique : pas d’effondrement spectaculaire, mais une lente érosion des marges qui grignote, mois après mois, l’argument central vendu aux investisseurs.
Le paradoxe, c’est que cette baisse arrive alors même qu’Anthropic prépare une entrée en bourse évoquée à plus de 2 000 milliards de dollars, et qu’OpenAI continue de lever des dizaines de milliards pour financer sa propre infrastructure. Des tokens plus abordables devraient, en théorie, doper l’adoption et donc les volumes. Mais un volume plus élevé à marge plus faible ne rapporte pas nécessairement plus, et rien ne dit que la baisse des coûts d’inférence suivra le même rythme que la baisse des prix imposée par la concurrence.
OpenAI a déjà engagé des dizaines de milliards de dollars dans ses propres centres de calcul, quand Anthropic mise sur son IPO à 2 000 milliards de dollars pour financer la sienne. Deux paris opposés sur une même contrainte : financer des infrastructures toujours plus coûteuses avec des marges qui rétrécissent chaque mois.
L’article IA : Les tokens chutent de 41 % depuis mars est apparu en premier sur Journal du Coin.
Connexion
