Generative101.club
Livres blancs Le Filtre Use cases
Retour aux tags

Cybersécurité

3 actualites associees.

Copilot sous surveillance : l'IA, un risque pour vos données sensibles

Copilot, un assistant trop zélé ? Naïm Aouaichia, expert en cybersécurité, révèle les dangers de l'IA avec la faille EchoLeak. "Un simple email, et Copilot livre tes documents confidentiels", explique-t-il. Cette attaque zéro clic exploite la "violation de la portée LLM", où l'IA obéit à des pirates plutôt qu'à l'utilisateur. Microsoft a patché, mais le risque persiste. "Les IA n’ont pas d’intention malveillante. Juste une obéissance aveugle", rappelle Aouaichia. Une mise en garde contre la délégation aveugle à l'IA.

Naïm Aouaichia · 24/06/2025

Anthropic dévoile les usages malveillants de Claude

Anthropic révèle dans un rapport les détournements de son IA Claude. Un cas notable implique une opération d'influence utilisant l'IA pour orchestrer des réseaux de bots sur les réseaux sociaux. D'autres abus concernent le vol d'identifiants, des fraudes au recrutement et la création de logiciels malveillants. L'entreprise renforce ses mesures de protection.

Anthropic · 23/04/2025

"Slop Squatting" : la nouvelle menace IA visant les infrastructures critiques

Une nouvelle technique d'attaque informatique nommée "Slop Squatting" exploite les hallucinations générées par l'IA pour compromettre les technologies opérationnelles industrielles. Cette méthode cible particulièrement les infrastructures critiques comme les réseaux électriques ou les chaînes de production, avec des conséquences potentiellement catastrophiques estimées à 140 millions d'euros par incident, selon les experts en cybersécurité.

Fred Gordy · 15/04/2025