Cybersécurité

IA et cybersécurité : nouvelles menaces, nouvelles défenses

Équipe Pix
19 novembre 2026
•
11
min de lecture
Partager sur les réseaux
Une main robotique noire tend l’index vers une main humaine, illustrant la rencontre entre intelligence artificielle et cybersécurité

IA et cybersécurité : le duo s’installe dans les organisations. En 2026, 40 % des TPE-PME utilisent désormais des solutions d’intelligence artificielle, sur plus de 9 000 entreprises interrogées. L’IA joue dans les deux camps : elle affûte les attaques et muscle les défenses. Au programme : menaces, nouveaux risques en entreprise, compétences à cultiver et vigilance humaine, qui garde la main.

‍

L’essentiel en bref :

  • L’IA rend les attaques plus crédibles (mails soignés, voix et visages imités) : vérifier avant d’agir devient un réflexe précieux.
  • Face à une demande inhabituelle, un rappel sur un numéro déjà enregistré aide à confirmer l’identité de votre interlocuteur.
  • L’IA renforce aussi la défense en accélérant la détection et le tri des alertes, tandis que les actions critiques restent validées par une personne.
  • Un cadre d’usage partagé, avec une charte courte et des accès maîtrisés, aide à encadrer l’IA que vos équipes utilisent déjà, officiellement ou non.
  • Les parcours apprenants de Pix Pro s’adaptent au niveau de chacun : le parcours IA aide à utiliser l’IA générative de façon productive, sécurisée et éthique, le parcours cybersécurité à reconnaître les menaces et à sécuriser ses comptes, avec un diagnostic puis des modules d’une dizaine de minutes.

Comment les cybercriminels utilisent-ils l’IA : deepfakes et phishing automatisé ?

Un e-mail impeccable, une voix familière, un visage connu en visioconférence : les cyberattaques assistées par IA soignent les usurpations, dans une ampleur à lire avec nuance.

Des messages d’hameçonnage mieux rédigés et traduits en masse

Le phishing IA, ou hameçonnage IA, forme d’ingénierie sociale, désigne des messages frauduleux rédigés, traduits ou illustrés par un modèle d’IA. En 2025, les cybercriminels s’en sont servis pour traduire l’hameçonnage en plusieurs dizaines de langues et créer de faux sites. L’ANSSI relève une amélioration du niveau, de la quantité, de la diversité et de l’efficacité des attaques, chez tous les types d’acteurs. Les campagnes de masse entièrement pilotées par l’IA restent, à ce stade, à confirmer. Pour garder l’œil vif face à ces messages de plus en plus convaincants, il est indispensable de savoir reconnaître un faux mail.

Deepfakes audio et vidéo : une crédibilité accrue

Un deepfake, ou hypertrucage, est un contenu audio ou vidéo fabriqué par l’IA pour imiter une personne réelle. Pour IBM France, 23 % des attaques malveillantes subies par les 35 organisations françaises étudiées ont été générées par l’IA. L’étude mondiale d’IBM (602 entreprises, 2026) place l’usurpation par deepfake et les logiciels malveillants assistés par l’IA parmi les volumes les plus élevés. 

Chez le groupe britannique Arup, un employé du service financier a participé à une visioconférence où tous les participants, dont le supposé directeur financier, étaient des recréations par deepfake. Selon la police de Hong Kong, 15 virements, soit environ 200 millions de dollars de Hong Kong (25,6 millions de dollars américains), ont suivi. Arup, qui confirme l’usage de voix et d’images truquées, indique qu’aucun de ses systèmes internes n’a été compromis.

Un réflexe à retenir : pour déjouer un deepfake en entreprise, face à une demande inhabituelle reçue par la voix ou en visioconférence, un rappel sur un numéro déjà enregistré confirme l’identité de l’interlocuteur.

Un usage qui dépend de la maturité des attaquants

Selon l’ANSSI (février 2026), les hackers les plus matures utilisent l’IA générative pour produire du contenu en masse, dans plusieurs langues, tandis que les moins expérimentés s’en servent pour apprendre et gagner en productivité. L’ANSSI n’a toutefois pas identifié d’IA capable de mener seule toutes les étapes d’une attaque. 

Un cas documenté par l’éditeur Anthropic en novembre 2025 montre jusqu’où peut aller cette automatisation : lors d’une opération d’espionnage attribuée à un groupe soutenu par un État, environ 30 entités ont été visées, avec quelques intrusions réussies. L’IA a exécuté 80 à 90 % des opérations tactiques (reconnaissance, recherche de failles, exploitation), tandis que des opérateurs humains validaient les étapes clés, comme le passage à l’exploitation ou la portée des données extraites. L’IA exagérait parfois ses résultats, ce qui imposait une vérification humaine. 

Comment l’IA renforce-t-elle aussi les défenses en cybersécurité ?

La même IA qui sert les cybercriminels devient un atout pour s’en protéger : elle repère une connexion inhabituelle parmi des milliers et trie les alertes plus vite, avec des gains mesurables.

Détection, tri des alertes et réponse plus rapides

L’IA appliquée à la cybersécurité analyse de grands volumes de signaux pour repérer des anomalies et trier les alertes. Microsoft indique en octobre 2025 qu’elle aide à analyser les menaces, détecter le phishing et automatiser la remédiation. En France, IBM relève que 49 % des organisations étudiées disposant d’un SOC, le centre qui supervise la sécurité au quotidien, y ont déployé des agents d’IA, des programmes capables d’enchaîner seuls certaines tâches de surveillance, sans attendre une consigne à chaque étape.

Un gain mesurable, une marge de progression

Selon IBM France en 2026, 71 % des organisations étudiées déploient l’IA et l’automatisation dans leur sécurité. Celles qui y ont largement recours détectent et contiennent un incident 91 jours plus vite, pour 0,8 M€ de moins en moyenne, que celles qui n’utilisent pas ces technologies : l’adoption peut encore s’étendre.

L’IA accélère aussi la découverte de failles. Le rapport mondial d’IBM cite l’annonce, en avril 2026, d’un modèle d’IA de pointe qui a détecté des milliers de vulnérabilités très critiques, dont certaines dans les principaux systèmes d’exploitation et navigateurs web. IBM y voit un signal d’alerte : entre les mains de cybercriminels, de tels outils réduiront fortement le délai entre la découverte d’une faille et son exploitation. D’où l’intérêt d’appliquer rapidement les mises à jour de sécurité et de réduire les accès exposés.

L’IA propose, les équipes décident

Imaginons que l’outil d’IA détecte un compte connecté depuis deux pays en quelques minutes et propose de le bloquer. La DSI apporte l’expertise pour paramétrer l’IA, contrôler ses résultats et interpréter l’alerte avant de valider le blocage. La direction arbitre les priorités et les budgets, et fixe avec la DSI ce que l’on confie à l’IA. 

L’ANSSI recommande de configurer un système d’IA de façon à ce que les actions critiques sur le système d’information (reconfiguration de composants réseau, création d’utilisateurs à privilèges, transactions bancaires) soient validées par une personne, les IA génératives pouvant produire des réponses erronées. La décision finale doit rester humaine. 

Quels sont les nouveaux risques de l’IA générative en entreprise ?

ChatGPT dans un onglet, un assistant branché à la messagerie, une API reliée au cloud : l’IA générative s’installe vite dans les équipes, avec trois points de vigilance à connaître, des usages hors cadre aux accès à encadrer.

Shadow IA : des outils adoptés pour gagner du temps

Le shadow IA désigne l’usage d’outils d’IA, comme ChatGPT ou Perplexity, hors du cadre officiel de l’organisation : un collaborateur peut y trouver un moyen de gagner du temps, et l’outil échappe alors au suivi de la DSI. Parmi les 397 membres du CESIN interrogés en 2025, 79 % d’entre eux indiquent une IA officiellement utilisée en interne, 42 % l’ont intégrée à leur stratégie de sécurité, tandis que 16 % décrivent un usage non officiel (ce que l’on appelle shadow IT). Un cadre d’usage partagé permet d’encadrer l’usage de l’IA générative par les collaborateurs et de profiter de ces outils en confiance : dans son guide “Recommandations de sécurité pour un système d’IA générative”, l’ANSSI rappelle que l’envoi de données sensibles à des outils grand public sur Internet est à proscrire.

Injection de prompt et empoisonnement des données

Une injection de prompt (le prompt est la consigne donnée à l’IA) glisse des instructions cachées dans un contenu que l’assistant IA lit, comme un e-mail reçu ou une page web issue d’une recherche, pour détourner son comportement et lui faire provoquer une fuite de données. 

Les attaquants peuvent aussi viser l’apprentissage du modèle lui-même : c’est l’empoisonnement des données. Imaginons qu’un cyberattaquant publie sur le web quelques centaines de pages ordinaires, contenant chacune une formule secrète suivie de charabia. Si ces pages servent à entraîner un modèle d’IA, celui-ci apprend l’association, et dès qu’un utilisateur écrit la formule secrète, l’assistant répondra par du charabia. Anthropic, l’AI Security Institute britannique et l’Alan Turing Institute ont testé ce scénario en laboratoire : 250 documents ont suffi pour que des modèles de 600 millions à 13 milliards de paramètres apprennent l’association. L’effet testé était volontairement anodin, mais il montre qu’un petit nombre de pages peut orienter un modèle.

Bon à savoir : dans sa synthèse de février 2026, l’ANSSI indique qu’aucun incident d’empoisonnement n’a été porté à sa connaissance.

Accès, API et identités non humaines

Un assistant IA connecté à la messagerie, au cloud ou à des API agit avec des droits, comme un utilisateur humain. Les comptes de service, ces identités non humaines attribuées à des applications et à des automatismes, deviennent donc un point d’attention de la sécurité de l’IA. Dans son étude française, IBM indique les principaux contrôles utilisés pour les encadrer : 

  • l’inventaire des identités machines et la gestion de leur cycle de vie (62 %)
  • la gestion des secrets, c’est-à-dire des mots de passe et clés d’accès des applications (37 %)
  • des contrôles d’accès par rôles, qui limitent les autorisations au strict nécessaire (32 %)

Au niveau mondial, parmi les quelque 20 % d’entreprises ayant signalé une violation liée à l’IA, IBM relève que 92 % ne disposaient pas de contrôles d’accès appropriés pour l’IA. L’ANSSI observe que l’intégration de l’IA dans les flux opérationnels peut élargir la surface d’attaque en l’absence de cloisonnement : la compromission d’un système d’IA pourrait toucher la confidentialité des données traitées et les systèmes qui lui sont connectés.

Comment faire évoluer la montée en compétences en cybersécurité à l’ère de l’IA ?

Les attaques se perfectionnent, les assistants IA s’invitent au bureau : voilà de bonnes raisons d’inscrire la montée en compétences à l’ordre du jour. 

Un cadre européen qui encourage la maîtrise de l’IA

L’AI Act, le règlement européen (UE) 2024/1689 sur l’IA, demande aux organisations qui développent ou utilisent des systèmes d’IA (les “fournisseurs” et les “déployeurs”) de favoriser la maîtrise de l’IA de leur personnel. Modifié par le règlement (UE) 2026/1744 du 8 juillet 2026, il précise que les mesures s’adaptent aux connaissances, à l’expérience et au contexte d’usage de chacun. L’obligation porte sur les mesures mises en place plutôt que sur un niveau garanti à chaque personne. Pour y parvenir, le texte prévoit un appui public : la Commission et les États membres soutiennent et facilitent les efforts des fournisseurs et des déployeurs, en particulier ceux des PME, et la Commission publie des exemples pratiques de mise en œuvre.

Des compétences numériques à acquérir et à entretenir

L’Observatoire Pix montre que 47 % des actifs reconnaissent une tentative de phishing parmi plusieurs mails, et que 85 % souhaitent améliorer leurs compétences numériques : l’envie d’apprendre est bien présente.

Pix Pro, l’offre de Pix destinée aux organisations, accompagne les entreprises comme les collectivités avec des parcours en IA et en cybersécurité. Les Parcours liés à la thématique IA aide à apprivoiser l’IA générative au travail, de façon productive, sécurisée et éthique. Il part des notions clés pour comprendre comment fonctionne un assistant IA, puis propose des mises en situation avec exercices et simulateurs de modèles de langage (LLM) : rédaction de prompts structurés, repérage des erreurs et des hallucinations, protection des données personnelles et de la confidentialité. Accessible à tous les métiers, il ajuste le niveau en temps réel, des bases théoriques aux techniques avancées.

‍

Découvrir le Parcours IA de Pix Pro

Face aux messages soignés par l’IA, les Parcours Apprenants Cybersécurité prennent le relais. Ils s’ouvrent avec “Connaître les menaces et s’en protéger”, qui aide à reconnaître l’hameçonnage et les arnaques par manipulation psychologique, à comprendre les techniques de piratage et à distinguer les principales attaques par logiciels malveillants. Vient ensuite “Sécuriser ses comptes sur les services en ligne”, qui explique comment choisir un mot de passe robuste, à quoi sert un gestionnaire de mots de passe et ce qu’apportent la double authentification et l’authentification multifacteur, avec leurs limites.

Découvrir les Parcours Apprenants Cybersécurité de Pix Pro

Un plan progressif adapté à une TPE-PME ou à une collectivité

Pour lancer la montée en compétences sur l’IA dans votre organisation, quatre étapes posent les bases :

  • Cartographier les usages de l’IA : quels outils, pour quelles tâches, avec quelles données.
  • Rédiger une charte d’usage courte : ce qui est possible, les données à protéger, la personne à solliciter en cas de doute.
  • Planifier des temps de sensibilisation : des moments courts et réguliers, adaptés à chaque métier.
  • Suivre les progrès : revenir sur ce qui fonctionne et ajuster.

Ce plan s’ajuste à la taille et au fonctionnement de chaque structure. Dans une TPE-PME, la cartographie peut se faire en un échange d’équipe, et la charte se valide directement avec la direction. Dans une collectivité, la cartographie s’organise service par service, et la charte gagne à être partagée avec la direction générale et les élus, pour que chaque agent s’y retrouve. 

Pourquoi la vigilance humaine reste-t-elle une valeur sûre à l’ère de l’IA ?

Les outils changent vite, les bons réflexes durent.

Vérifier avant d’agir : un réflexe qui reste efficace

Vérifier l’identité de l’interlocuteur avant d’agir est un réflexe adapté à l’ère de l’IA : selon IBM France, l’ingénierie sociale (usurpation du support informatique, sollicitations répétées de validation MFA) est le premier vecteur d’attaque initial. Deux gestes complètent le rappel téléphonique : une question de contrôle connue du seul vrai interlocuteur et une validation à deux pour un virement ou un accès inhabituel.

Accès et authentification : des fondamentaux précieux

Microsoft observe en 2025 que les cyberattaquants cherchent de plus en plus à se connecter avec des identifiants volés (infostealers) plutôt qu’à forcer l’accès. L’authentification multifacteur et un gestionnaire de mots de passe protègent ces accès.

L’intelligence artificielle sait imiter une voix, rédiger un mail convaincant et trier des alertes ; pour les décisions qui comptent, elle attend le feu vert d’une personne. Avec une sensibilisation à la cybersécurité et à l’IA, un réflexe de vérification et des accès protégés, votre organisation avance avec l’IA comme alliée.

FAQ

IA et cybersécurité en 5 questions

Qu’est-ce que l’IA appliquée à la cybersécurité ?

L’IA appliquée à la cybersécurité désigne des logiciels qui analysent de grands volumes de données pour repérer des comportements inhabituels et trier les alertes. Elle inclut aussi la protection des systèmes d’IA : accès, données et identités.

Comment les cybercriminels utilisent-ils l’IA ?

Les cybercriminels utilisent l’IA pour rédiger des messages d’hameçonnage plus soignés, créer de faux sites et imiter des voix ou des visages par deepfake. Selon l’ANSSI, elle les aide à gagner en efficacité ou à apprendre, l’intervention humaine restant nécessaire à certaines étapes des cyberattaques.

L’IA peut-elle renforcer la sécurité informatique d’une entreprise ?

Oui, l’IA peut renforcer la sécurité informatique d’une entreprise en accélérant la détection et le tri des alertes : selon IBM France, les organisations étudiées qui y recourent largement détectent et contiennent un incident 91 jours plus vite.

Quels sont les risques de l’IA générative en entreprise ?

Les principaux risques de l’IA générative en entreprise sont le shadow IA, l’injection de prompt, l’empoisonnement des données et des accès d’API trop étendus :

  • Shadow IA : outils d’IA utilisés sans cadre défini.
  • Injection de prompt : consigne cachée dans un mail ou une page web, exécutée par l’assistant.
  • Empoisonnement des données : données altérées qui faussent un modèle.
  • Accès d’API : un assistant agit avec les droits qui lui sont donnés.

Faut-il former les collaborateurs à l’IA et à la cybersécurité ?

Oui, la sensibilisation à la cybersécurité et à l’IA aide les collaborateurs à reconnaître les messages soignés par l’IA et à utiliser les outils en sécurité, et l’AI Act demande aux organisations qui développent ou utilisent l’IA de favoriser la maîtrise de l’IA de leur personnel.