Classificação com Redes Neurais Convolucionais #3

 

Nesta etapa, resolveremos um problema clássico quando o assunto é reconhecimento de padrões com redes convolucionais. O problema proposto consiste no reconhecimento de dígitos presentes no dataset MNIST. O banco de dados em questão contém inúmeras imagens de dígitos manuscritos, cada imagem possui um tamanho de 28x28 pixels, resultando em 784 células da matriz, onde cada uma dessas células possuem uma intensidade de 0 a 255.

 

Contextualizando

Abaixo consta um exemplo de uma rede neural artificial (RNA) de 1 camada com 10 neurônios de saída (classes) correspondentes aos dígitos de 0 a 9:

A razão de utilizar uma CNN e não uma rede neural artificial, como vista na imagem acima, é que a RNA não possui um mecanismo de visualização de pixels vizinhos, ou seja, o que ela faz é apenas dizer que um pixel está mais ativo do que outro, ignorando a noção espacial do que está sendo analisado. Algo que é tratado ao utilizar redes de convoluções.

A ideia para solucionar o problema proposto é a criação de um modelo de deep learning que utiliza uma CNN para reconhecer novos dígitos inseridos como teste, utilizando para aprendizado o vasto acervo de unidades presentes no dataset.

O processo que o modelo irá realizar pode ser exemplificado por um raciocínio intuitivo da mesma forma que nós humanos fazemos para identificar algo que estamos olhando — capturando cada parte da informação e assimilando-as na totalidade. Claro que, para nós, é uma tarefa quase que instantânea, um nível que as máquinas ainda não alcançaram.

O reconhecimento de padrões por partes é o que as redes neurais convolucionais usam em seu cerne. Identificando e assimilando cada “pedaço” é possível chegar a uma determinada conclusão. A imagem abaixo exemplifica como a rede “enxerga” os pixels pela sua intensidade em cada neurônio:

 

Implementação

A seguir, será explicado cada um dos passos para implementação da rede convolucional utilizando a biblitoeca Keras do Python:

 

1 - Importação da biblioteca:

Aqui, estamos importando a biblioteca Keras, que é uma API para construir e treinar modelos de redes neurais em frameworks de deep learning, como o TensorFlow.

 

2 - Criação do modelo Sequencial:

O modelo Sequencial é uma pilha linear de camadas. Neste caso, estamos criando um modelo sequencial vazio, ao qual adicionaremos camadas uma após a outra.

 

3 - Adição de uma camada convolucional com 32 filtros:

Esta é a primeira camada do modelo. Conv2D é uma camada convolucional que aplica convoluções espaciais sobre a imagem de entrada. O parâmetro filters define o número de filtros que serão aplicados, kernel_size o tamanho dos filtros (neste caso, 5x5), padding=’same’ indica que o preenchimento é adicionado para manter o tamanho das saídas, activation=’relu’ aplica a função de ativação ReLU aos mapas de características gerados e o input_shape define a forma dos dados de entrada (28x28 pixels e 1 canal para imagens em escala de cinza).

 

4 - Redução de dimensionalidade:

A camada de MaxPooling2D reduz as dimensões espaciais dos mapas de características gerados pela camada convolucional anterior. O parâmetro pool_size=[2, 2] especifica o tamanho da janela de max pooling (2x2) e strides=2 define o deslocamento (stride) da janela.

 

5 - Adição de uma camada convolucional com 64 filtros:

Esta é a segunda camada convolucional. Aqui, estamos aplicando 64 filtros de tamanho 5x5 aos mapas de características gerados pela camada de max pooling anterior.

 

6 - Redução de dimensionalidade:

Outra camada de max pooling é adicionada para reduzir ainda mais as dimensões espaciais dos mapas de características.

 

7 - Flattening das features maps:

A camada Flatten transforma os mapas de características 3D em um vetor 1D para poderem ser alimentados em uma rede neural densa (totalmente conectada). Isso é necessário porque as camadas densas exigem vetores de entrada.

 

8 - Adição de uma camada Dense:

A camada Dense possui 1024 neurônios e usa a função de ativação ReLU. Cada neurônio nesta camada estará conectado a todos os outros da camada anterior, tornando-a uma camada totalmente conectada ou densa.

 

9 - Adição de uma camada Dense de saída:

Esta é a camada de saída do modelo. Ela possui 10 neurônios, que correspondem ao número de classes nas quais queremos classificar as imagens. A função de ativação Softmax é usada para converter as saídas em uma distribuição de probabilidade sobre as classes.

 

10 - Compilando o modelo:

Aqui, estamos compilando o modelo com as configurações de treinamento. A função de perda (loss) utilizada é a categorical_crossentropy, que é adequada para problemas de classificação com várias classes. O otimizador adam foi usado para ajustar os pesos do modelo. E a métrica de accuracy foi usada para monitorar a acurácia durante o treinamento.

 

Código final:

 

Resumo do modelo

Para criação deste modelo foi utilizada uma camada convolucional com 32 filtros, em seguida uma camada de pooling, outra camada com 64 filtros seguida de mais uma camada de pooling, uma camada de flatten e por fim duas camadas densas, cada uma com sua respectiva função de ativação: ReLU e Softmax. Totalizando, assim, 8 camadas na rede considerando a inicial de entrada. Além disso, também foi utilizado os algoritmos adam para otimização e, para a medida dos erros, categorical cross entropy e acurácia.

 

Etapa de treinamento do modelo

Dada a quantidade de parâmetros gerados pelo modelo, surgiu a necessidade do uso da GPU do Google Colab para o processamento. A etapa de treinamento do modelo em 5 épocas.

 

Avaliação do modelo

Abaixo constam os resultados obtidos da relação entre a acurácia da rede e o loss com base no conjunto de teste passado:

É possível observar um resultado satisfatório tendendo a 1 na acurácia, enquato o loss sofre um decaimento. Também é possível observar na matriz de confusão o percentual de acertos para cada classe.

 

Conclusão

Com base no conjunto de dados de treino e teste, foi possível alcançar um resultado satisfatório utilizando os devidos parâmetros na rede convolucional. Sabendo que o conjunto de testes possui 10000 amostras, o modelo em questão erra somente 28 amostras, acertando com total clareza as outras 9972 do conjunto e, com isso, solucionando o problema proposto com uma alta acurácia e uma baixa perda.

 

Referências

Neural Networks

How Do Convolutional Layers Work in Deep Learning Neural Networks?

Entendendo Redes Convolucionais

Uma introdução as redes neurais convolucionais uti- lizando o Keras

Obrigado pela leitura!