VEILLE / INTELLIGENCE ARTIFICIELLE
Des assistants génératifs aux audits de modèles : cinq jalons pour comprendre l’IA en entreprise, ses apports en cybersécurité et ses risques.
OpenAI présente ChatGPT au public en version de recherche. L’assistant peut dialoguer, expliquer du code et répondre à des questions, mais ses réponses peuvent être incorrectes.
Utiliser un assistant pour comprendre ou prototyper du code, puis vérifier le résultat et écrire des tests.
Microsoft annonce Security Copilot, un assistant destiné aux professionnels de la cybersécurité. Il vise à faciliter l’analyse des menaces et la réponse aux incidents.
Une aide à l’analyse peut accélérer le travail ; les alertes et les actions proposées doivent rester vérifiables.
La CNIL publie une fiche consacrée à la sécurité de l’IA lors de sa conception et de son apprentissage. Elle précise les précautions à prendre pour les données et les systèmes.
Avant d’intégrer une IA, identifier les données utilisées, limiter les accès et prévoir des mesures de sécurité adaptées.
Le NCSC publie une évaluation prospective des cybermenaces jusqu’en 2027. Il estime que l’IA rendra certaines étapes des attaques plus efficaces : il s’agit d’une projection, pas d’un bilan de 2027.
Renforcer les contrôles, les mises à jour et la sensibilisation au phishing, même lorsque les messages semblent crédibles.
La CNIL lance un appel à tester PANAME, un outil d’audit RGPD des modèles d’IA. Le projet explore notamment les risques d’extraction de données et de réidentification.
Évaluer ce qu’un modèle peut révéler sur les données personnelles. Un audit apporte des éléments d’analyse, sans garantir à lui seul la conformité.
Le fil conducteur : innover avec l’IA tout en gardant le contrôle humain et en protégeant les données.
Retour à la synthèse