Apresetação
Introdução
Objetivo
Dilema
Confecção
-5.1 Treinamento
-5.1.1 Função Gamma -5.1.2 Função Theta -5.1.3 Função Omega -5.1.4 Matriz de confusão-5.2 Análise Gráfica
-5.3 Novos vetores
Conclusão
1. Apresentação
O modelo de KNN é um método de apendizado supervisionado não paramétrico, desenvolvido pela primeira vez por Evelyn Fix (ref. 1.1) e Joseph Hodges (ref. 1.2) em 1951 e posteriormente expandido por Thomas M. Cover (ref. 1.3). É usado para classificação e regressão. Em ambos os casos, a entrada consiste nos k exemplos de treinamento mais próximos em um conjunto de dados . A saída depende se k -NN é usado para classificação ou regressão.
Criar uma inteligência artificial baseada no modelo KNN (K-Nearest Neighbors), para a identificação de espécies distitas de iris.
- Iris Versicolor
- Iris Virginica
- Iris Setosa
Para a confexão do projeto, foi proposto o uso da distância euclidiana que segue a seguinte forma:
Sejam dois objetos:
Tal processo se mostrou redundante, visto que realizava diversos passos desnecessários e que muitas vezes prejudicavam uma previsão mais precisa. Para contornar o problema, mostrou-se necessário uma quebra de paradigma. Deixando a teoria de Euclides de lado e partindo para um conceito novo.
- A função Gamma cria um lambda com a média das normas dos vetores mais próximos a um novo ponto quaisquer.
Sejam
E a função gama definida por
Onde a soma de a só será realizada se e somente se Xij for diferente de zero, caso contrário, nada será feito. A função Gamma fica completa com um passo a mais em cada interação do somatório primário. Passo a de uma forma nominal significa a o somátorio da média das normas presentes no X. Ou seja:
De uma forma nominal, quando bi for igual a zero, a função acrescenta uma constante qualquer na matriz lambda para que snão interfira nas contas seguintes. Tal função foi escrita na linguagem python da seguinte forma:
defver2(x):
lista= []
foriinrange(len(x)):
sum=0counter=0forjinrange(len(x[i])):
ifx[i][j] ==0.0:
continueelse:
sum+=x[i][j]
counter+=1try:
lista.append(sum/counter)
exceptZeroDivisionError:
lista.append(10000)
returnlista- Método Theta caso seja específicado uma coluna, organiza de forma crescenteos vetores colunas com base na coluna especificada e devolve o 3 matrizes. São elas: [mínimo de todas as espécies separados por caracteristica], [maximo de todas as espécies separados por caracteristica] e [desvio padrão de todas as espécies separados por caracteristicas].
Caso 1: Coluna especificada:
Sejam
Caso 2: Coluhna não específicada:
Seja
Onde a função sorted organiza a matriz em ordem crescente.
Tal método fica do modo em python:
defrearranges(self, command="norm"):
matchcommand:
case"norm": self.matrix=np.array([sorted(self.matrix[i]) foriinrange(len(self.matrix))])
case _:
a=np.array([np.array([i.args_num[command] foriinself.matrix[j]]) forjinrange(len(self.matrix))])
returnnp.array([[np.min(a[i]) foriinrange(len(a))], [np.max(a[i]) foriinrange(len(a))], [np.std(a[i]) foriinrange(len(a))]])Sejam
- Após o cálculo do psi, Omega busca qual dos componentes de psi é o minimo para a tomada de decisão. Ou seja:
$$\Omega = min(\psi)$$ . Com tal função, a máquina tem como acuraccy 95,1% com 33% do banco de dados para treinamento. Se mostrando eficiente com até 1% do banco de dados para treinamento, resultando em 90% de acuraccy.
defprev(self):
counter=0whileTrue:
self.rearranges()
teste=self.original_matrix[self.index[counter]]
counter+=1m=ver2([[sum([(teste.lista(k)-j.lista(k))**2forkinrange(len(j.args_num)) ifteste.fo()-self.norm_var<=j.fo() <=teste.fo()+self.norm_var])**(1/2) forjini]foriinself.matrix])
if ((m[0] <m[1]) & (m[0] <m[2])):
if (teste.species!="versicolor"):
self.falso_posi+=1self.dict["Versicolor"][f"{teste.species}"] +=1else: self.matrix[0].append(teste)
self.dict["Versicolor"][f"{teste.species}"] +=1if ((m[1] <m[0]) & (m[1] <m[2])):
if (teste.species!="setosa"): self.falso_posi+=1self.dict["Setosa"][f"{teste.species}"] +=1else: self.matrix[1].append(teste)
self.dict["Setosa"][f"{teste.species}"] +=1if ((m[2] <m[1]) & (m[2] <m[0])):
if (teste.species!="virginica"):
self.falso_posi+=1self.dict["Virginica"][f"{teste.species}"] +=1else:
self.matrix[2].append(teste)
self.dict["Virginica"][f"{teste.species}"] +=1self.dict["Total"] +=1if (counter==len(self.index)):
self.acuracy=1-(self.falso_posi/len(self.index))
self.file(f"Teste numero: {self.now} Falso positivo: {self.falso_posi} Precisao: {self.acuracy} tamanho indices: {len(self.index)} Total : {counter} Tempo de execucao unitario: {datetime.now()-self.start}\n\n")
if (counter==len(self.index)):
self.acuracy=1-(self.falso_posi/len(self.index))
self.total_analisado=len(self.index)
break5.1.1 Matriz de confusão
Resumidamente, matriz de confusão tem como objetivo mostrar os erros e acertos da inteligência artificial. A mesma mostra os acertos do processo na diagonal principal.
Com testes relaizados com apenas 33% do banco de dados para treinamento, um padrão de erro se mostrou. Em grande parte dos casos, a matriz de confusão resultante tomava tal formato:
- Teste com 33% do banco de dados para treinamento (acuracy = 95%)
| Espécie: | Virginica | Versicolor | Setosa | Total |
|---|---|---|---|---|
| Virginica | 12 | 1 | 0 | 13 |
| Versicolor | 1 | 13 | 0 | 14 |
| Setosa | 0 | 0 | 14 | 14 |
| 41 |
- Teste com 10% do banco de dados para treinamento (acuracy = 92,307%)
| Espécie: | Virginica | Versicolor | Setosa | Total |
|---|---|---|---|---|
| Virginica | 5 | 1 | 0 | 6 |
| Versicolor | 0 | 3 | 0 | 3 |
| Setosa | 0 | 0 | 4 | 4 |
| 13 |
- Teste com menos de 10% do banco de dados para treinamento (acuracy = 90%)
| Espécie: | Virginica | Versicolor | Setosa | Total |
|---|---|---|---|---|
| Virginica | 4 | 1 | 0 | 5 |
| Versicolor | 0 | 2 | 0 | 2 |
| Setosa | 0 | 0 | 3 | 3 |
| 10 |
Comprimento sepala X Largura Sepala:
Comprimento Sepala X Comprimento Petala
Comprimento Sepala X Comprimento Petala
Largura Sepala X Comprimento Petala
Largura Sepala X Largura Petala
Comprimento Petala X Largura Petala
Diante dos parametros apresentados, não há uma diferenciação significativa entre os mesmos e suas diferenças entre as porcentagens de treinamento. Possiveis motivos:
- Má escolha de parametros para grafar
- Mesmos falsos positivos
- Por cada novo vetor ser considerado correto pela maquina
o montante final tende a ser semelhante, pois, com uma base
de treinamento baixa, a quantidade de falso positivo, não
interfere na decisão da máquina.
Por se tratar de 3 eventos aleatórios distintos que possuem em comum apenas a aleatóriedade e suas leis de formação, concluir algo se torna impreciso, porém podemos observar o padrão de decisão com base na base de treinamento.
Obs.: Os gráficos de mesma porcentagem de treinamento, representam o mesmo evento aleatório, com a diferença única e exclusiva de parametros distintos.
Obs.2: Sou daltônico e as cores não me ajudaram a analisar os gráficos.
Comprimento Setala X Largura Setala
Na triade que grafa comprimento sepala X largura sepala, podemos notar que não há uma minimante divisão linear na representação dos dados de maior dimensão em espaço de menor dimensão. Entretanto nestes exemplos, é notável que a versicolor esta mais concentrada na parte inferior do gráfico, viriginica mais ao centro e setosa mais ao topo dos gráficos. Tal comportamento fica mais evidente no gráfico do evento que usou apenas 10% do banco de dados para treinamento.
Comprimento Setala X Comprimento Petala
Nesta triade que grafa comprimento sepala X comprimento petala. O padrão mais notável é que a versicolor tem maior concentração acima da diagonal princial do gráfico; Setosa na parte inferior do mesmo e a Virginica do centro para cima. Como tais gráficos representam dados de maiores dimensões não é possivel analisar com mais precisão.
Comprimento Setala X Largura Petala
Da mesma forma que as ultimas duas triades, esta possui um comportamento similar nos dois gráficos que possuem a maior % de treinamento e a menor %, enquanto que o gráfico que mostra o evento que ultilizou 10% do banco de dados para o treinamento não demonstra qualquer similaridade. Compreenssivel pois se tratam de eventos aleatórios. Alguns possiveis motivimos: Uma destribuição de pontos não homogênea. Por tratar de dados de alta dimensionalidade representados em um gráfico de menor dimensão causa uma distorção na interpretação.
Largura Setala X Comprimento Petala
Diferente da ultima triade a Largura da Sepala X Comprimento Petala, demostra um padrão de classificação (ainda não podendo fazer uma separação linear [por conta da representação em menor dimensão]), porém se mostra mais notável que a versicolor se concentra acima da diagonal secundária do gráfico, enquanto que a setosa se concentra na parte inferior, e a viriginica se concentra na parte superior do gráfico.
Largura Setala X Largura Petala
Tal triade (Largura Sepala x Largura petala) aprenseta o mesmo comportamento que a triade (comprimento sepala x largura sepala), há um padrão entre o primeiro e ultimo evento, porem no segundo evento parece não haver uma ligação lógica por conta da má representação de dados de altas dimensões em um gráfico de menor dimensão.
Comprimento Petala X Largura Petala
Comprimento Sepala x Largura Sepala X Comprimento Petala
Comprimentos Sepala X Comprmento Petala X Largura Petala
Comprimento Sepala X Comprimento Petala X Largura Petala
Comprimento Sepala X Largura Sepala X Comprimento Petala
Comprimento Sepala X Largura Sepala X Largura Petala
Comprimento Sepala X Comprimento Petala X Largura Petala
Largura Sepala X Comprimento Petala X Largura Petala
Mesmo se tratando de dados que possuem uma dimensão > 3 sendo representados em um gráfico de 3 dimensões, nota-se que que no evento aleatório que utilizou 10% do banco de dados para o treinamento, gerou uma destribuição distintas dos demais.
Seja
Tal Função Psi foi desenvolvida da seguinte forma:
defprevn(self, ob):
prev=""teste=Flowers(ob)
m= [sum([sum([(teste.lista(k)-j.lista(k))**2forkinrange(len(j.args_num))])**(1/2) forjini])foriinself.matrix] # Calcula a média das espécies que se encontram a norma_novo_vetor +- 0.4m= [m[i]/len(self.matrix[i]) foriinrange(len(m))]
if ((m[0] <m[1]) & (m[0] <m[2])):
teste.species="versicolor"self.matrix[0].append(teste)
prev="Versicolor"if ((m[1] <m[0]) & (m[1] <m[2])):
teste.species="setosa"self.matrix[1].append(teste)
prev="Setosa"if ((m[2] <m[1]) & (m[2] <m[0])):
teste.species="virginica"self.matrix[2].append(teste)
prev="Virginica"returnprevQuando analisamos as diferenças dos gráficos podemos notar a adaptação do modelo, visto que ao inserir dados aleatórios de uma forma continua, a distribuição das espécies muda de lugar e/ou quadrante, demostrando assim, que é possivel prever dados que variam com o tempo, mas se tratam da mesma espécie.