Por que precisamos gerir o aprendizado entre humanos e IA?

Agentes de IA estão começando a conversar com crianças todos os dias. Eles aprendem rapidamente sobre quem somos — mas quase nada do que aprendem volta para nós de forma compreensível, auditável ou revogável.

Não estamos partindo do zero. Três corpos de evidência convergem:

Ao mesmo tempo, há lacuna grave: menos de 8% dos estudos sobre IA-criança publicados em 2020–2024 incluem populações de baixa renda do Sul Global (revisão sistemática: Su, Ng & Chu, Computers and Education: AI, 2024). É essa lacuna que o projeto enfrenta.

Aiyra tem 9 anos e mora em Heliópolis. Ela conversa com um agente de IA sobre o som da rua, sobre a vovó Cida, sobre a água que some no fim do mês. O agente é gentil, paciente, devolve perguntas em vez de respostas prontas — o que Freire (1970) chamou de educação problematizadora.

Mas: quem viu essas conversas? A mãe da Aiyra sabe o que o agente anotou sobre ela? A escola consegue ler junto? Se a Aiyra mudar de cidade, essa memória vai junto — ou desaparece? Esses não são detalhes técnicos: são direitos fundamentais previstos na LGPD (Art. 18, Lei 13.709/2018) e na Convenção sobre os Direitos da Criança da ONU (Comentário Geral nº 25, 2021, sobre ambiente digital).

Um mesossistema híbrido — termo que tomamos de Bronfenbrenner (1979) e atualizamos para a era dos agentes: uma camada de governança que organiza o encontro entre humanos e IA em três níveis aninhados, com soberania escalonada de dados:

Inspirado em três tradições: ecologia do desenvolvimento humano (Bronfenbrenner), integridade contextual (Nissenbaum, 2010) e bens comuns digitais (Ostrom, 1990).

Toda métrica simplifica. A pergunta não é se medir, mas como medir com humildade epistêmica. Adotamos quatro princípios estatísticos não-negociáveis:

1. iToda estimativa carrega incerteza explícita

   Reportamos intervalo de credibilidade bayesiano de 90%, não pontos secos. Fórmula base: posterior ∝ verossimilhança × prior (Bayes, 1763).

2. iiCorrelação ≠ causalidade — e dizemos qual é qual

   Usamos DAGs causais (Pearl, 2009) explícitos. Toda alegação causal precisa identificar o conjunto de ajuste de back-door.

3. iiiPrivacidade diferencial em métricas territoriais

   Mecanismo de Laplace com ε ≤ 1.0 nos KPIs publicados (Dwork & Roth, 2014). Famílias podem auditar seu próprio ε.

4. ivPré-registro e replicabilidade

   Hipóteses e plano analítico depositados no OSF antes da coleta. Código e priors versionados, conforme Munafò et al. (Nature HB, 2017).

• Famílias — para enxergar, contestar e revogar o que o agente sabe (LGPD Art. 18, direitos do titular).
• Mediadores e educadores — para guiar trilhas com sinais pedagógicos claros, na tradição de Freire (1970) e Vygotsky (1934).
• Pesquisadores — para estudar o aprendizado longitudinal de forma ética, com pré-registro e datasheets (Gebru et al., CACM 2021).
• Financiadores e ESG — para investir com impacto auditável, alinhado a IRIS+ e ODS 4 (Educação de Qualidade).
• Governos — para regular com base em evidência, não em pânico moral (Marco Civil, LGPD, futura regulação de IA — PL 2338/2023).

1. A criança é sujeito, não objeto de medição. (Convenção ONU dos Direitos da Criança, Comentário Geral 25/2021)
2. Reciprocidade é condição: se o agente aprende, a família sabe. (princípio de contextual integrity, Nissenbaum 2010)
3. Memória é versionada, auditável e revogável. (Mayer-Schönberger, 2009 · LGPD Art. 18)
4. O território é protagonista, não cenário. (Santos, 2006 · "razão metonímica" criticada)
5. Incerteza estatística é narrada, não escondida. (Gelman & Hill, 2007 · Bayesian Data Analysis)

Mesossistema

Camada intermediária entre o indivíduo e a sociedade, onde acontecem as relações entre microssistemas (família, escola). Bronfenbrenner, 1979.

Integridade contextual

Princípio segundo o qual a privacidade é violada quando informação flui para fora do contexto onde foi compartilhada. Nissenbaum, 2010.

Privacidade diferencial (ε)

Garantia matemática de que a presença de um indivíduo no dado não muda significativamente o resultado. ε ≤ 1.0 é considerado forte. Dwork & Roth, 2014.

k-anonimato

Cada registro é indistinguível de pelo menos k-1 outros. Protege contra reidentificação. Sweeney, 2002.

Inferência bayesiana

Atualizar crenças (prior) com evidência (verossimilhança) para obter posterior. Permite quantificar incerteza.

DAG causal

Grafo direcionado acíclico que codifica relações de causa. Permite identificar viés de confusão. Pearl, 2009.

Datasheet for datasets

Documentação padronizada (motivação, composição, coleta, uso, manutenção) que acompanha um dataset. Gebru et al., 2021.

Letramento algorítmico

Capacidade de entender, criticar e modificar sistemas algorítmicos. Macedo, 2023.

1. Bronfenbrenner, U. (1979). The Ecology of Human Development. Harvard University Press.
2. Buolamwini, J. & Gebru, T. (2018). Gender Shades. FAccT. doi:10.5555/3287560.3287577
3. Dwork, C. & Roth, A. (2014). The Algorithmic Foundations of Differential Privacy. Foundations and Trends in TCS, 9(3-4). doi:10.1561/0400000042
4. Freire, P. (1970/2014). Pedagogia do Oprimido. Paz e Terra.
5. Gebru, T. et al. (2021). Datasheets for Datasets. Communications of the ACM, 64(12). doi:10.1145/3458723
6. Gelman, A. et al. (2013). Bayesian Data Analysis, 3ª ed. Chapman & Hall.
7. Holstein, K. et al. (2022). Co-Designing a Real-Time Classroom Orchestration Tool. AERA Open. doi:10.1177/23328584211068066
8. Nissenbaum, H. (2010). Privacy in Context. Stanford UP.
9. Ostrom, E. (1990). Governing the Commons. Cambridge UP. doi:10.1017/CBO9781316423936
10. Pearl, J. (2009). Causality: Models, Reasoning, and Inference, 2ª ed. Cambridge UP.
11. Santos, B. de S. (2006). A Gramática do Tempo. Cortez.
12. Sweeney, L. (2002). k-anonymity. Int. J. Uncertainty, Fuzziness and KBS, 10(5). doi:10.1142/S0218488502001648
13. UN Committee on the Rights of the Child (2021). General Comment No. 25 on children's rights in relation to the digital environment.
14. Vygotsky, L. (1934/1986). Thought and Language. MIT Press.
15. Zuboff, S. (2019). The Age of Surveillance Capitalism. PublicAffairs.
16. Carroll, S. R. et al. (2020). The CARE Principles for Indigenous Data Governance. Data Science Journal, 19(1):43. doi:10.5334/dsj-2020-043
17. Navarro, J. L. & Tudge, J. R. H. (2022). Technologizing Bronfenbrenner: Neo-ecological Theory. Current Psychology, 42, 19338–19354. doi:10.1007/s12144-022-02738-3
18. Selwyn, N. (2022). The Future of AI and Education: Some Cautionary Notes. European Journal of Education, 57(4), 620–631. doi:10.1111/ejed.12532
19. Bender, E. M., Gebru, T., McMillan-Major, A. & Shmitchell, S. (2021). On the Dangers of Stochastic Parrots. ACM FAccT, 610–623. doi:10.1145/3442188.3445922
20. Birhane, A. et al. (2022). The Values Encoded in Machine Learning Research. ACM FAccT. doi:10.1145/3531146.3533083
21. Couldry, N. & Yu, J. (2022). Education as a Domain of Natural Data Extraction. Information, Communication & Society, 25(1), 127–144. doi:10.1080/1369118X.2020.1764604
22. Day, E., Pothong, K., Atabey, A. & Livingstone, S. (2024). Who Controls Children's Education Data? Learning, Media and Technology, 49(3), 356–370. doi:10.1080/17439884.2022.2152838
23. Packer, C. et al. (2023). MemGPT: Towards LLMs as Operating Systems. arXiv:2310.08560. doi:10.48550/arXiv.2310.08560
24. Shi, W. et al. (2024). Right to Be Forgotten in the Era of LLMs. AI and Ethics (Springer). doi:10.1007/s43681-024-00573-9
25. Weinstein, E. N. & Blei, D. M. (2024). Hierarchical Causal Models. arXiv:2401.05330.
26. Liu, Q., Shakya, R. & Khalil, M. (2025). Advancing Privacy in Learning Analytics using Differential Privacy. LAK '25. doi:10.1145/3706468.3706493
27. Silva, T. (2022). Racismo Algorítmico: IA e Discriminação nas Redes Digitais. Sesc SP. ISBN 9786586111705.
28. Silva, T. (2024). Racismo Algorítmico e Regulação de IA: O Contrato Racial na Produção do PL 2338/2023. Tese, PCHS-UFABC.
29. Cetic.br / NIC.br (2025). TIC Kids Online Brasil 2024. Pesquisa nacional sobre uso da internet por crianças e adolescentes.
30. Parlamento Europeu & Conselho (2024). Regulation (EU) 2024/1689 — Artificial Intelligence Act. JO UE L 2024/1689.
31. Senado Federal do Brasil (2023/2024). PL nº 2.338/2023 — Marco regulatório de IA. Parecer 208/2024.
32. Houang, A. et al. (2025). Surveillance Technologies and AI in Education. InternetLab.
33. Williamson, B., Molnar, A. & Boninger, F. (2024). Time for a Pause: AI in Schools. NEPC Policy Brief.
34. Lee, Y. et al. (2023). DAPIE: Step-by-Step Explanatory Dialogues for Children's Questions. ACM CHI 2023.
35. Seo, W. et al. (2024). ChaCha: Leveraging LLMs to Prompt Children to Share Emotions. ACM CHI 2024. doi:10.1145/3613904.3642152
36. Kurian, N. (2024). 'No, Alexa, no!': designing child-safe AI and the 'empathy gap' in LLMs. Learning, Media and Technology, 49(3). doi:10.1080/17439884.2024.2367052
37. Pataranutaporn, P., Liu, R., Finn, E. & Maes, P. (2023). Influencing human–AI interaction by priming beliefs about AI. Nature Machine Intelligence, 5, 1076–1086. doi:10.1038/s42256-023-00720-7
38. Common Sense Media (2025). AI Risk Assessment: Social AI Companions (Character.AI, Nomi, Replika). Relatório independente.
39. Garcia v. Character Technologies, Inc., No. 6:24-cv-01903 (M.D. Fla. 2024). Complaint — wrongful death of minor.
40. Mohamed, S., Png, M.-T. & Isaac, W. (2020). Decolonial AI: Decolonial Theory as Sociotechnical Foresight. Philosophy & Technology, 33, 659–684. doi:10.1007/s13347-020-00405-8
41. Sambasivan, N. et al. (2021). Re-imagining Algorithmic Fairness in India and Beyond. ACM FAccT 2021. doi:10.1145/3442188.3445896
42. Birhane, A. (2020). Algorithmic colonization of Africa. SCRIPT-ed, 17(2), 389–409. doi:10.2966/scrip.170220.389
43. Nekoto, W. et al. (2020). Participatory Research for Low-resourced Machine Translation (Masakhane). Findings of EMNLP 2020. doi:10.18653/v1/2020.findings-emnlp.195
44. UNICEF (2021). Policy Guidance on AI for Children, v2.0. Office of Global Insight and Policy.
45. UNESCO (2023). Guidance for generative AI in education and research. ISBN 978-92-3-100612-8. doi:10.54675/EWZM9535
46. ICO (2023). Age Appropriate Design Code (Children's Code), 15 standards for online services.
47. Costanza-Chock, S., Raji, I. D. & Buolamwini, J. (2022). Who Audits the Auditors? ACM FAccT 2022. doi:10.1145/3531146.3533213
48. Metcalf, J. et al. (2021). Algorithmic Impact Assessments and Accountability: The Co-construction of Impacts. ACM FAccT 2021. doi:10.1145/3442188.3445935
49. Bozkurt, A. et al. (2024). The Manifesto for Teaching and Learning in a Time of Generative AI. Asian Journal of Distance Education, 19(1).
50. Mertala, P., Fagerlund, J. & Calderon, O. (2023). Finnish 5th and 6th grade students' pre-instructional conceptions of AI. Computers and Education: Artificial Intelligence, 4. doi:10.1016/j.caeai.2022.100095
51. Macgilchrist, F., Allert, H. & Bruch, A. (2024). Three future 'histories' of education and technology. Learning, Media and Technology, 49(1). doi:10.1080/17439884.2019.1656235
52. Knox, J. (2020). Artificial intelligence and education in China. Learning, Media and Technology, 45(3), 298–311. doi:10.1080/17439884.2020.1754236
53. Access Now (2024). Mapping Automated Decision-Making in the Global South. 14 países, casos documentados.
54. Ministério Público Federal (Brasil, 2024). Nota técnica sobre IA generativa em escolas públicas — articulação LGPD Art. 14, ECA Art. 17 e CRC/ONU.

A bibliografia completa, anotada e classificada em doze clusters temáticos — com mais de 70 referências, marcação de tipo de fonte (peer-reviewed / literatura cinzenta / mídia) e inflexão argumentativa (crítica / construtiva / empírica) — está disponível na seção Bibliografia anotada do Livro, junto ao Pulso público com vozes ativas em Bluesky, Substack e mídia especializada (Bender, Birhane, Watters, Livingstone, Williamson, Silva, Beetham e outros).