L’essor des IA génératives, dont la plus connue est ChatGPT d’Open AI, soulève une question primordiale pour les utilisateurs comme pour les entreprises : Que font les IA génératives de nos données personnelles et confidentielles ?
L’enjeu du traitement des données confidentielles par les LLM (Large Language Models) est multiple :
- Les LLM apprennent-ils à partir des questions posées par les utilisateurs ?
- Les LLM sont-ils susceptibles de divulguer des informations sensibles contenues dans la question d'un utilisateur, à un autre utilisateur posant une question similaire ?
- Dans les cas d'applications avancées telles que les "RAG" (Retrieval-augmented generation) – ou IA sur mesure – comment les LLM traitent-ils les données contenues dans les documents confidentiels soumis par l'utilisateur ? Pour plus d’informations sur la personalisation d’un LLM, découvrez notre article consacré à ce sujet.
Dans cet article, nous nous penchons sur le traitement qui est fait par les LLM des données sensibles :
- dans le cadre d’une utilisation “standard”,
- ou dans le cadre des IA sur mesure (ou RAG : Retrieval-augmented generation).
Sommaire
