/BP-Classificador-de-Propostas

Aplicação de Indexação Automática com ML das propostas publicadas no Brasil Participativo

Primary LanguageJupyter Notebook

Processamento de Linguagem Natural


Visualizar documentação online

Descrição

Brasil Participativo é a nova plataforma digital do governo federal, software livre Decidim, um espaço para que a população possa contribuir com a criação e melhoria das políticas públicas. Com uma semana no ar, a plataforma já tem 1000 propostas feitas pelos cidadãos. A plataforma, porém, não possui indexação ou processamento de linguagem natural para categorizar de forma automatizada as propostas. A ideia da proposta é fazer análise das propostas por meio de processamento de linguagem natural (PLN).

Mentores: Laila, Secretaria de Participação Social

💻 Tecnologias

Tecnologias utilizadas neste projeto:

Apache Airflow

O Apache e responsavel pela atualização e o treinamento diario do modelo em conjunto com os dados da plataforma do brasil participativo.

Repositorio Airflow

Apache Airflow

Modelo de Classificação

Scikit Learn

O python foi responsavel pela instanciação do modelo de classificação de propostas, entretanto para seu uso e necessario algumas dependencias como:

Gerenciador de pacotes, no caso o utilizado no desenvolvimento do projeto, pip

  • sudo apt install pip

Apos termos o pip instalado podemos preparar nosso ambiente para as bibliotecas necessarias para, treinarmos nosso modelo:

  • NumPy: pip install numpy

  • Pandas: pip install pandas

  • NLTK: pip install nltk

  • Scikit-learn: pip install scikit-learn

  • Plotly: pip install plotly

  • Skops: pip install skops

  • Unidecode: pip install unidecode

  • Pathlib: pip install pathlib

Desse modo apos termos nosso ambiente configurado podemos partir para a execução do modelo que pode ser encontrado em opt_10,que corresponde a versão com mais otimizações do modelo.Ou atraves do processo de desenvolvimento encontrado em nosso GitPages.

RubyGem

Ruby Gem

Por fim esta disponibilizado a gem em Ruby e o repositorio da mesma para utilização do modelo dentro de plataformas web afim de ser integrado a plataforma do Brasil Participativo.Esta disponivel tanto o repositorio da gem quanto sua pagina

🤖 Funcionalidade

🛞 Como executar/rodar

- 👩‍🦰 Usuário

  1. Abra seu terminal e digite o comando para instalar o Certifik8 do Pypi:
gem install proposal-classifier

Desenvolvedores