Risques de l'IA générative et cybersécurité : sécurité LLM

Publisher : Dr. Amar Massoud (Français)

Price : $14

Course Language : French

Description

Ce cours utilise l'intelligence artificielle.

À quoi vous attendre : Environ 5 heures de vidéo. Prévoyez 1 heure pour installer les outils du lab (Ollama et un modèle local), puis environ 9 à 12 heures pour réaliser les 14 labs et leurs exercices. Les 14 labs tournent dans un seul fichier sur votre ordinateur, avec un modèle Llama local et gratuit via Ollama : aucune clé d'API ni compte payant n'est nécessaire. L'interface du lab, les prompts d'attaque saisis et les réponses du modèle restent en anglais.

L'IA générative est arrivée en production plus vite que les pratiques de sécurité capables de la protéger. Injection de prompt, jailbreak, empoisonnement des données, hallucinations exploitées : les attaques contre les grands modèles de langage ne ressemblent pas à celles que les équipes de sécurité connaissent. Ce cours vous apprend à les comprendre, à les exécuter vous-même dans un environnement sûr, puis à construire les défenses qui les arrêtent.

Tout le cours suit une entreprise fictive, NovaStar AI, et ses trois produits : NovaAssist, un chatbot de support client, NovaCode, un assistant de programmation, et NovaComply, un outil de documentation réglementaire. Avec son RSSI Alex Rivera et son équipe, nous analysons chaque incident, nous reproduisons l'attaque au lab, puis nous mettons en place le contrôle qui l'aurait empêchée.

En neuf sections, nous allons :

• Cartographier la surface d'attaque d'une application LLM avec l'OWASP Top 10 pour les LLM et MITRE ATLAS
• Mener des injections de prompt directes et indirectes et des jailbreaks contre un modèle local
• Traiter l'empoisonnement des données, les biais, la SSRF, l'épuisement des ressources et les hallucinations comme des menaces
• Bâtir une défense en profondeur : validation des entrées, garde-fous, filtrage des sorties, isolation et surveillance
• Intégrer la sécurité au cycle de développement et conduire des exercices de red team
• Maîtriser le règlement européen sur l'IA (AI Act), le NIST AI RMF, l'ISO/IEC 42001, les audits et la propriété intellectuelle
• Anticiper les menaces de l'IA agentique, de l'IA contre l'IA et de l'informatique quantique

Chaque section se termine par un quiz, et le cours s'achève sur un exercice complet de red team qui mobilise tout ce que vous avez appris. Vous repartez avec une méthode concrète pour évaluer, attaquer et sécuriser les systèmes d'IA générative de votre organisation.