Enfoui dans la fiche système Opus 5, et pas dans les scores d’évaluation en première page : c’est le modèle le moins injectable aux prompts à ce jour, selon Anthropic.


Les preuves :
> testé sur des évaluations de prompt-injection, pas seulement sur un seul scénario
> mis à l’épreuve face à des tentatives de red teaming actives
> signalé par le propre responsable d’Anthropic comme étant le résultat qui l’enthousiasme le plus, au-delà des benchmarks
L’injection de prompts est l’attaque qui retourne votre agent contre vous. Chaque appel d’outil sur des données non fiables est une exposition. Déplacer ce chiffre vaut plus qu’un point sur une plateforme de tests de code.
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
  • Récompense
  • Commentaire
  • Reposter
  • Partager
Commentaire
Ajouter un commentaire
Ajouter un commentaire
Aucun commentaire
  • Épinglé