Controle Parental Inteligente

IA que protege crianças na web sem bloquear o que é bom: uma extensão que analisa conteúdo em tempo real e censura apenas o que é impróprio.

Informações rápidas

/ CONTEXTO

Ferramentas de controle parental tradicionais bloqueiam sites inteiros. O problema: plataformas com conteúdo misto — como redes sociais e fóruns — acabam censuradas por completo, tirando também o que é útil e educativo.

A ideia foi criar uma solução mais inteligente: em vez de bloquear a página toda, analisar o conteúdo em tempo real e censurar apenas os trechos impróprios. O projeto nasceu como um experimento para aplicar IA generativa e processamento de linguagem natural a um problema real e sensível.

/ DESAFIO

O desafio central era a precisão. Um sistema que bloqueia demais se torna inutilizável; um que bloqueia de menos não protege ninguém. Era preciso:

• Identificar discurso de ódio, linguagem ofensiva e conteúdo obsceno com alta acurácia.
• Fazer isso em português, sem depender de listas de palavras ou regras frágeis.
• Decidir, trecho a trecho, entre censurar parcialmente ou bloquear a página.

O segundo desafio: rodar essa análise de forma prática dentro de uma extensão de navegador, com resposta rápida o suficiente para não atrapalhar a navegação.

/ PROCESSO

Comecei pelo modelo. Treinei o BERTimbau (modelo de linguagem em português) com fine-tuning para classificação binária de conteúdo apropriado/impróprio, usando datasets públicos como HateBR, ToLD-BR e OLID-BR.

Em seguida, estruturei a arquitetura em duas partes:

• Uma API FastAPI que recebe os textos, roda o modelo e retorna um score de 0 a 1.
• Uma extensão Google Chrome (Manifest V3) que analisa o DOM da página, extrai os textos visíveis e envia para a API.

A lógica de censura foi definida por limiar: trechos com até 30% de conteúdo impróprio recebem blur seletivo; acima disso, a página é bloqueada por completo.

/ SOLUÇÃO

O resultado é uma extensão de navegador que protege sem censurar:

• Análise em tempo real do conteúdo visível da página.
• Blur seletivo em trechos sensíveis (até 30% impróprio).
• Bloqueio total da página quando o conteúdo é majoritariamente nocivo (acima de 30%).
• Configuração flexível: URL da API, limiar de bloqueio e PIN do responsável.
• Ativação/desativação do filtro conforme a necessidade.

Desenvolvi todo o pipeline — do treinamento do modelo à extensão — cobrindo IA, API e integração com o navegador.

Destaques

BERTimbau fine-tuned em português

Em tempo real com blur seletivo

3 datasets públicos de toxicidade

/ RESULTADOS

O projeto provou que é possível proteger crianças na web sem sacrificar o acesso a conteúdo útil:

• Classificação precisa de discurso de ódio, ofensa e obscenidade em português.
• Censura proporcional: blur seletivo em vez de bloqueio total indiscriminado.
• Arquitetura funcional de extensão + API de IA pronta para evolução.

O projeto consolidou minha experiência em deep learning, fine-tuning de modelos Transformer, desenvolvimento de API e extensões de navegador — aplicando IA a um problema real de segurança digital.

Bloco técnico

O Controle Parental foi construído com:

• Modelo: neuralmind/bert-base-portuguese-cased (BERTimbau), com fine-tuning para classificação binária.
• Datasets: HateBR, ToLD-BR e OLID-BR (toxicidade e discurso de ódio em português).
• Backend/IA: Python, PyTorch, Hugging Face Transformers, Scikit-learn, Pandas, NumPy.
• API: FastAPI com endpoints de classificação individual e em lote.
• Extensão: JavaScript, Service Worker, HTML e CSS (Manifest V3).

A escolha do BERTimbau foi estratégica: é um modelo de linguagem treinado especificamente para português, o que garante muito mais acurácia do que alternativas multilíngues genéricas para detectar nuances de linguagem ofensiva.