Les outils d’IA générative s’installent dans les entreprises. Et avec eux, une question revient chez les dirigeants : comment gagner en productivité sans exposer ses informations ? Les autorités publiques ont mis à disposition deux documents opérationnels pour y répondre. ID4MOBILITY les relaie auprès de ses adhérents.

Un sujet de direction, pas seulement de DSI

Résumer un document, interroger une base interne, générer du code... Les usages se multiplient vite. Mais intégrer une IA générative dans un système d’information existant n’a rien d’anodin. La question se pose avec une acuité particulière pour les entreprises de la base industrielle et technologique de défense (BITD), et plus largement pour toutes celles qui manipulent des données sensibles. L’enjeu : éclairer les choix, et fixer des lignes directrices claires aux équipes chargées de la mise en œuvre.

1. Le guide de l’ANSSI : 35 recommandations

Publié le 29 avril 2024, le guide « Recommandations de sécurité pour un système d’IA générative » (ANSSI-PA-102) s’adresse aux développeurs, administrateurs, RSSI et DSI. Il couvre tout le cycle de vie du système, de la conception et l’entraînement du modèle jusqu’à son utilisation en production.

Quelques exemples de recommandations :

• cloisonner chaque phase dans un environnement dédié ;
• dédier les composants GPU au système d’IA ;
• privilégier un hébergement SecNumCloud en cas de recours au cloud public ;
• journaliser l’ensemble des traitements.

Le guide décrit aussi trois grands types d’attaques : la manipulation, l’infection des données d’entraînement et l’exfiltration d’informations.

À noter : il ne traite ni de la qualité des données, ni de l’éthique, ni de la protection des données personnelles.

Télécharger le guide de l’ANSSI :

‍https://cyber.gouv.fr/sites/default/files/document/Recommandations_de_s%C3%A9curit%C3%A9_pour_un_syst%C3%A8me_d_IA_g%C3%A9n%C3%A9rative.pdf

2. Le guide d’implémentation du Campus Cyber

Les recommandations, c’est bien. Les appliquer, c’est mieux. Le groupe de travail Sécurité de l’IA du Campus Cyber a publié un guide d’implémentation qui traduit chaque recommandation de l’ANSSI en actions concrètes, mesures et méthodes. Un outil pratique pour les équipes techniques qui passent du cadre au chantier.

Télécharger le guide du Campus Cyber :

‍https://wiki.campuscyber.fr/images/6/65/Guide_impl%C3%A9mentation_S%C3%A9curit%C3%A9_IA.pdf

Une question sur ces sujets ? L’équipe d'ID4MOBILITY reste à votre écoute.

‍