👩‍🏫 Para o Professor — Atividade 02: “A IA Aprende com Dados — Mas de Quem?”

Ano: 6º ano

Duração: 50 minutos

Recursos: Nenhum

Offline: ✅ Total

📋 Resumo Rápido

O coração ético do 6º ano: como dados carregam viés histórico, e como a IA herda e amplifica esse viés. Os alunos trabalham com cenários investigativos concretos e chegam à conclusão que a desumanidade nos dados predece e determina a desumanidade nos algoritmos.

🎯 Objetivos

Compreender como viés nos dados de treinamento afeta os resultados da IA
Analisar casos concretos de viés algorítmico no Brasil
Desenvolver o conceito de “ciclo de amplificação de desigualdade”
Propor perguntas críticas para avaliar qualquer sistema de IA

⏱️ Roteiro

🔵 Abertura — “Imagine um assistente de RH” (10 min)

“Uma grande empresa brasileira usa IA para fazer a primeira triagem de currículos — antes que qualquer humano veja. A IA foi treinada com os currículos das pessoas que a empresa contratou nos últimos 20 anos. Ao longo desses 20 anos, quase todos os contratados eram homens de São Paulo com nomes ‘tradicionais’.

O que você espera que a IA aprenda a fazer?”

Aguente o silêncio. Deixe os alunos chegarem à conclusão: a IA vai aprender a preferir currículos parecidos com os que a empresa historicamente aprovou — independentemente de mérito.

🟡 Desenvolvimento — Quatro Cenários Investigativos (25 min)

Divida em grupos. Cada grupo recebe um cenário e deve responder: qual é o viés? De onde vem? Quem é prejudicado?

Cenário A — A IA Médica

Uma IA para triagem em pronto-socorro foi treinada com dados de 10 anos de atendimentos de um hospital universitário de São Paulo. No hospital, a maioria dos pacientes era branca. A IA agora é usada em hospitais do Nordeste, com maioria de pacientes negros e pardos.

Perguntas:

Qual viés a IA pode ter?
Quais grupos serão mal atendidos?
Que consequência isso pode ter para a saúde desses pacientes?
Como isso poderia ser corrigido?

Cenário B — A IA de Crédito

Um banco usa IA para aprovar empréstimos. Historicamente, moradores de favelas tiveram maior taxa de inadimplência — não por irresponsabilidade, mas porque ganhavam menos, tinham empregos mais instáveis e sofriam mais com crises econômicas. A IA aprendeu: CEP de favela = risco alto.

Perguntas:

O dado histórico é “verdadeiro”? Mas é justo usar esse dado?
Que ciclo vicioso isso cria?
Um morador de favela com renda estável seria bem avaliado pela IA?
O que deveria ser diferente?

Cenário C — A IA de Tradução

Um sistema de tradução automática foi treinado com textos da internet em português. A maioria dos textos foi escrita por pessoas do Sudeste com ensino superior. A IA agora é usada para traduzir mensagens de nordestinos para inglês para comunicação internacional de trabalho.

Perguntas:

Quais regionalismos e expressões a IA provavelmente não vai traduzir bem?
Que impressão isso passa sobre quem enviou a mensagem?
Isso pode prejudicar oportunidades profissionais? Como?

Cenário D — A IA de Moderação

Uma plataforma de vídeos usa IA para remover “discurso de ódio”. A IA foi treinada marcando conteúdo ofensivo — mas os moderadores que fizeram a marcação eram principalmente americanos e não conheciam contexto cultural brasileiro. A IA agora remove vídeos de funk, pagode e rap que usam gírias que os moderadores americanos marcaram como “ofensivas”.

Perguntas:

O que se perde culturalmente com isso?
Quais artistas e comunidades são mais prejudicados?
Como o contexto cultural afeta o que é ou não é discurso de ódio?

🟢 O Ciclo de Amplificação (10 min)

Construa coletivamente no quadro:

DESIGUALDADE HISTÓRICA
        ↓
Dados históricos carregam o viés dessa desigualdade
        ↓
IA aprende com esses dados → herda o viés
        ↓
IA toma decisões em escala → aplica o viés para milhões
        ↓
Grupos já desfavorecidos ficam ainda mais desfavorecidos
        ↓
Nova geração de dados ainda mais viesada → (volta ao início)

“A IA não criou o racismo, o sexismo ou a desigualdade regional. Mas pode amplificá-los em velocidade e escala impossíveis para humanos. E a velocidade torna mais difícil perceber — e mais fácil aceitar como ‘objetivo’.”

🔴 Caixa de Ética (5 min)

“Se alguém diz ‘nossa IA é objetiva, ela apenas segue os dados’ — isso é uma defesa válida? O que significa dizer que dados são objetivos quando eles foram produzidos por uma sociedade com desigualdades históricas profundas?”

Frase para discutir:

“Dados são registros do passado. Se o passado foi injusto, dados injetam injustiça no futuro.”

📝 Avaliação

✅ O grupo identificou corretamente o viés no cenário?
✅ Conectou o viés à desigualdade social existente?
✅ Propôs uma solução realista?
✅ Participou da construção do ciclo de amplificação?

*LABRIOT — UTFPR

Profa. Dra. Itamar Iliuk (Coordenadora)

CC BY-NC-SA 4.0*