As principais entidades protestantes e católicas da Alemanha, em parceria com uma associação de mídia infantil, lançaram uma iniciativa que visa estabelecer padrões obrigatórios para produtos de inteligência artificial (IA) voltados para crianças. A iniciativa, chamada “KI kindgerecht!” (“IA Apropriada para Crianças!”), foi anunciada em 14 de outubro pela Igreja Evangélica na Alemanha (EKD).
Objetivos da iniciativa
A iniciativa busca criar um código de conduta para desenvolvedores e novas obrigações legais para provedores de IA. Entre os parceiros estão a EKD, o Departamento de Igreja e Sociedade da Conferência dos Bispos Alemães, a agência de mídia protestante GEP e a Seitenstark, uma rede de sites infantis alemães.
Os organizadores respondem a 56 recomendações de uma comissão federal de especialistas sobre a proteção de crianças e jovens online. Eles argumentam que, além de proteger as crianças de danos, é necessário garantir que elas tenham acesso a bons serviços digitais, orientação adulta e habilidades para usar a IA.
“A tecnologia deve servir às pessoas, não a interesses puramente econômicos”
—Georg Bätzing
Medidas propostas
Três medidas principais foram delineadas. A primeira é um código de conduta voluntário para IA interativa voltada para crianças, que será elaborado com pesquisadores, educadores e empresas interessadas. Este código se baseará em cinco princípios: segurança por design, respeito aos direitos das crianças, espaços de participação adequados à idade, proteção de dados e supervisão humana dos sistemas de IA.
Com base nesse código, os parceiros planejam desenvolver padrões de qualidade práticos para servir como referência para desenvolvedores, provedores e instituições educacionais que projetam ou usam aplicações de IA para crianças. A terceira medida é um apelo por legislação que obrigue os provedores a atenderem a padrões adequados para crianças.
Importância da educação midiática
Os parceiros também defendem financiamento público contínuo para a educação midiática, permitindo que crianças, pais e profissionais da educação aprendam a usar a IA de forma competente. A participação está aberta a escolas, provedores de mídia, pesquisadores, associações de pais, empresas e indivíduos.
Darja Martens, membro do conselho da Seitenstark, destacou que os jovens têm sido amplamente excluídos das decisões sobre a tecnologia que já utilizam. “As crianças hoje são as primeiras a crescer com IA, mas muitas vezes as últimas a serem consultadas sobre como ela é projetada”, afirmou.
