Mardi 10 novembre, l’Élysée a publié la charte d’engagement pour une intelligence artificielle plus sûre pour les enfants, portée par une coalition pilotée par la France, l’Espagne et le Kenya, en marge du Forum de Paris sur la Paix. Anthropic, Black Forest Labs, Microsoft et OpenAI figurent parmi les soutiens industriels. Explications.
Emmanuel Macron, président de la République, est intervenu mardi 10 novembre au Sommet sur l’enfance, organisé dans le cadre de la 9e édition du Forum de Paris sur la Paix, au Palais de Chaillot, à Paris. Le même jour, la présidence a publié dans un communiqué de presse la charte signée lors de l’événement.
Au Palais de Chaillot, un sommet sur l’enfance à l’ère de l’IA
Le Forum s’est tenu les 9 et 10 novembre, sous le thème de la souveraineté à la coopération, précise la page de l’Élysée consacrée à cette édition. La veille, lundi 9 novembre, le chef de l’État avait animé en visioconférence une session de travail sur la sécurité de l’IA avec une cinquantaine de participants. Le mardi, la protection, la santé et l’éducation des enfants à l’ère de l’IA étaient au programme.
Selon cette même page, Emmanuel Macron a défendu l’enfance comme une priorité, qu’il présente comme un investissement rentable et un devoir moral. Il a rappelé les restrictions françaises sur les écrans et les réseaux sociaux ainsi que l’agenda européen de protection des moins de 13 ans, puis annoncé une pré-certification des solutions d’IA avant leur mise à disposition des enfants, sur le modèle des tests imposés aux jouets. Le sujet touche aussi l’école, où la France fait figure de lanterne rouge en Europe pour la formation des enseignants à l’IA.
La coalition France, Espagne, Kenya et ses dix organismes de l’ONU
La charte émane de la « Coalition pour les droits et la protection des enfants à l’ère de l’IA », pilotée par la France, l’Espagne et le Kenya, avec dix organismes des Nations unies associés. Le préambule décrit l’IA générative comme un outil déjà présent dans l’éducation, le jeu et le soutien émotionnel, porteur de bénéfices potentiels et de risques. Il reconnaît que les connaissances scientifiques restent incomplètes, faute d’études longitudinales abouties.
Quant aux signataires, le communiqué ne donne ni leur nombre ni la liste des États. Il nomme seulement quatre soutiens industriels : Anthropic, Black Forest Labs, Microsoft et OpenAI.
Dix principes, dont une vérification de l’âge qui exclut la seule autodéclaration
Le texte fixe dix principes communs : sécurité dès la conception et par défaut, priorité à l’intérêt supérieur de l’enfant, IA éthique, équitable et inclusive, adaptation à l’âge, conception associant les familles, participation effective des enfants, protection de la vie privée, lutte contre les contenus pédocriminels et les images intimes diffusées sans consentement, qu’elles soient générées ou non par l’IA, et culture de l’IA.
Parmi eux, la vérification de l’âge doit être efficace et respectueuse de la vie privée. Le texte écarte la seule autodéclaration.
Un Observatoire de l’humain et de l’IA, six exigences pour les tests
La coalition doit créer un réseau de recherche indépendant, reliant centres publics, universitaires et privés, instituts de sécurité de l’IA et organisations de la société civile. Placé sous un comité scientifique indépendant, il s’organise en trois axes : un Observatoire de l’humain et de l’IA, qui suit les usages des enfants selon l’âge, le pays et le contexte culturel, des mesures communes en open source, comme des classificateurs et des systèmes de notation, et des revues de la littérature fondées sur des expérimentations et des études longitudinales.
Une annexe fixe six exigences d’évaluation. Elles vont de la définition claire des risques et des critères d’échec à la configuration correcte des comptes de test pour les moins de 18 ans, en passant par le test d’usages réalistes et de détournements prévisibles, y compris les interactions prolongées, et par l’évaluation de l’efficacité réelle des protections, dont la vérification de l’âge et les notifications aux parents.
Pour leur part, les entreprises proposant des systèmes accessibles aux mineurs doivent les évaluer et les tester avant déploiement lorsque c’est pertinent, puis à intervalles réguliers, et surveiller les incidents graves impliquant des enfants.
Les industriels financent les mesures communes, les fonds publics l’Observatoire
Les entreprises peuvent apporter des contributions financières, techniques, un accès aux modèles et aux données lorsque la loi le permet, des ressources en nature et des partenariats locaux. L’objet, les ressources et le calendrier de ces contributions doivent être rendus publics.
Ainsi, les financements industriels ne soutiennent que le volet des mesures communes. L’Observatoire, le volet consacré aux données probantes, la rémunération du comité scientifique et le volet évaluation et normes relèvent exclusivement de fonds publics ou philanthropiques indépendants, avec une comptabilité distincte. Les contributions ne donnent aucun accès privilégié aux données personnelles des enfants.
Les entreprises disposent d’un droit d’audit sur les méthodes d’évaluation de leurs propres systèmes et peuvent soulever des objections méthodologiques documentées. Ce droit ne leur donne aucun pouvoir sur les critères de sécurité, sur les conclusions ni sur la publication, qui doit inclure les résultats nuls, négatifs ou non concluants.
Les présidents du comité scientifique publieront chaque année un bilan des productions, des lacunes et des priorités de recherche. Le communiqué ne chiffre ni l’enveloppe, ni le nombre de signataires, ni le calendrier.
