Customer Cloud Corp. a dévoilé « CC AGI Security », une nouvelle initiative de sécurité visant à garantir la sûreté des plateformes d'IA d'entreprise et des services numériques à l'ère de l'IA. Avec la diffusion de l'IA générative, de plus en plus d'entreprises construisent leur propre plateforme d'IA dédiée (LLM local) et développent et exploitent des services et produits d'IA. Parallèlement, les cas où des systèmes d'IA sont connectés à des services web et à des systèmes cloud existants se multiplient, faisant apparaître des enjeux de sécurité différents de ceux du passé.
Dans ce contexte, nous avons dévoilé le concept de « CC AGI Security », un nouveau domaine de sécurité couvrant l'ensemble des plateformes d'IA et des services numériques, et nous poursuivons actuellement les travaux de recherche et de conception détaillée.
Les enjeux de sécurité à l'ère de l'IA
Avec la diffusion de l'IA générative et des agents d'IA, de nouveaux types de risques apparaissent dans les environnements informatiques des entreprises : attaques propres à l'IA comme l'injection de prompt, accès non autorisé aux modèles d'IA et aux données d'entraînement, empoisonnement des données (Data Poisoning), dysfonctionnement ou utilisation malveillante d'agents d'IA, ou encore nouvelles cyberattaques visant les systèmes d'IA.
Par ailleurs, les applications d'IA fonctionnant souvent en lien avec des services web et des systèmes cloud, il devient de plus en plus important de mettre en place des mesures de sécurité qui protègent les plateformes d'IA et les systèmes existants comme un tout.
Ces risques ne peuvent pas toujours être traités de manière suffisante par une sécurité classique fondée sur des listes de contrôle ou sur la défense périmétrique. Avec l'arrivée de l'IA, la vitesse, l'ampleur et la sophistication des attaques évoluent simultanément : nous arrivons au moment de revoir les fondements mêmes de la sécurité.
De l'ère où l'on « utilise » l'IA à celle où on la « possède ».
Les domaines à protéger doivent, eux aussi, être repensés en profondeur.
Présentation de CC AGI Security
CC AGI Security est un domaine de sécurité couvrant l'ensemble des plateformes d'IA et des services numériques. Il vise à garantir la sûreté d'un large éventail de services numériques : non seulement les plateformes d'IA (LLM locaux) et les applications d'IA construites par les entreprises, mais aussi les services web et systèmes cloud courants.
Les principaux domaines couverts sont les suivants.
- Sécurité des plateformes d'IA — Vérification de la sûreté des plateformes d'IA dédiées aux entreprises (LLM locaux) et des modèles d'IA
- Évaluation de la sûreté des applications d'IA — Vérification du comportement des agents et services d'IA
- Sécurité des services web et des systèmes cloud — Vérification de la sûreté des applications web et des environnements cloud courants
En prenant en charge les nouvelles architectures où l'IA et les systèmes existants s'intègrent, nous fournirons les mesures de sécurité qu'exigent les services numériques à l'ère de l'IA.
Nos initiatives à ce jour
Customer Cloud a déjà annoncé plusieurs initiatives, dont « CC LLM », qui construit une plateforme d'IA dédiée pour chaque entreprise, et « CC AI Factory », un modèle de développement continu de services d'IA.
CC AGI Security est une initiative qui anticipe la diffusion de ces plateformes d'IA et met en place un domaine de sécurité couvrant l'ensemble des systèmes d'IA et des services numériques. Fondés sur la philosophie de la « Non-Destructive Innovation », qui consiste à superposer, à l'extérieur des dispositifs de sécurité existants, les couches nécessaires à l'ère de l'IA plutôt qu'à les remplacer, nous établirons une nouvelle forme de sûreté pour l'ère de l'IA tout en respectant les opérations et les actifs que les entreprises ont bâtis.
Perspectives
Nous mènerons désormais les initiatives suivantes.
- Évaluation de la sûreté des systèmes d'IA
- Recherche en sécurité de l'IA
- Renforcement de la sécurité des environnements de développement d'IA
- Organisation de séminaires sur la sécurité de l'IA
Alors que l'IA générative se diffuse comme socle de la société et de l'industrie, garantir la sûreté des systèmes d'IA est devenu un enjeu majeur. Customer Cloud poursuivra la mise en place d'un domaine de sécurité adapté à l'ère de l'IA.