Anthropic dévoile les usages malveillants de Claude

Anthropic révèle dans un rapport les détournements de son IA Claude. Un cas notable implique une opération d'influence utilisant l'IA pour orchestrer des réseaux de bots sur les réseaux sociaux. D'autres abus concernent le vol d'identifiants, des fraudes au recrutement et la création de logiciels malveillants. L'entreprise renforce ses mesures de protection.

Source externe

anthropic.com

/news/detecting-and-countering-malicious-uses-of-claude-m...

Chargement de l'aperçu...

Lire l'article sur anthropic.com →

Informations

Source

Anthropic

Publication

23/04/2025

Tags associes

Cybersécurité Information

LinkedIn X / Twitter Email

Articles connexes

Contre l’AI Slop, Humans Commons lance les premières licences “human-first

Nataliya Kosmyna, chercheuse au MIT Media Lab et chez Google, lance Humans Commons, une initiative pionnière pour lutter contre l’AI slop. Avec les licences AI0, elle propose un cadre juridique inédit pour valoriser le travail humain face à l’IA. « Nous voulons agir vite, avec votre aide », souligne-t-elle. Un projet ambitieux, inspiré par des modèles comme Creative Commons, pour rééquilibrer pouvoir et éthique dans l’ère numérique.

ChatGPT sans Wikipédia ni Reddit : le symptôme d’un internet verrouillé par les géants

Mathieu Chapon, fondateur de PEAK ACE, décrypte la guerre invisible entre Google, OpenAI et les médias français. Depuis septembre 2025, Wikipédia et Reddit ont disparu des réponses de ChatGPT, tandis que les médias hexagonaux, en procès contre les géants tech, s’effacent aussi des résultats. « Top 10 SEO ou rien », résume-t-il : hors de cette zone, les contenus deviennent invisibles. Une bataille où l’accès à l’information se joue entre algorithmes et droits d’auteur, et où les stratégies marketing traditionnelles (comme les articles sponsorisés) perdent leur pertinence.

Abonnés en hausse, IA bannie : le pari gagnant de The Economist pour l’après-Google

The Economist mise sur l’innovation pour affronter l’ère post-recherche, dominée par l’IA. Le média renforce ses formats vidéo et audio, comme Insider, une série longue mettant en scène ses éditeurs, et bloque l’accès de ses contenus aux LLMs. "L’IA ne remplacera pas l’interaction humaine", souligne Luke Bradley-Jones, son président. Avec 1,25 million d’abonnés (+3 % sur un an), le groupe mise aussi sur des outils internes pour fidéliser son audience.

La soupe pour cerveau 2.0 : pourquoi les réseaux sociaux 100 % IA de Meta et OpenAI inquiètent

Vincent Flibustier, expert en réseaux sociaux, tire la sonnette d’alarme : OpenAI et Meta préparent des réseaux sociaux 100 % IA, où des vidéos générées artificiellement inonderont nos fils. "Le marché de la soupe pour cerveau est immense", dénonce-t-il. Après le Web 2.0 et ses algorithmes de recommandation, le Web 3.0 promet un contenu sur mesure et infini, conçu pour capter notre attention… au risque de nous y noyer.