What is it about?
Com o grande avanço da inteligência artificial, os algoritmos têm conseguido atingir resultados cada vez mais precisos para diferentes problemas. Porém, muitas vezes é impossível entender o motivo de um dado resultado. Este trabalho aplicou um algoritmo considerado explicável de Inteligência Artificial para tentar explicar os resultados obtidos por um algoritmo que pode ser considerado caixa-preta.
Featured Image
Photo by Ruthson Zimmerman on Unsplash
Why is it important?
Neste trabalho foram contrastados os resultados de um algoritmo considerado caixa-preta e de um algoritmo explicável, verificando-se o desempenho de ambos ao serem aplicados em um mesmo problema, bem como analisando a aplicação do algoritmo explicável para tentar entender e explicar os resultados obtidos pelo algoritmo caixa-preta.
Perspectives
Entender os motivos que levam um algoritmo de inteligência artificial a produzir um resultado sob uma dada instância é fundamental em diferentes domínios. Por exemplo, se um algoritmo sugere um tratamento médico ao invés de outro, é fundamental que o médico e o paciente entendam o motivo dessa sugestão. A inteligência artificial explicável (XAI) tem como um de seus objetivos explicar os resultados produzidos por algoritmos de inteligência artificial, seja pela criação de algoritmos cujos modelos são inerentemente explicáveis/interpretáveis, seja pela explicação de resultados de modelos considerados caixa-preta. Este trabalho realizou um estudo inicial neste sentido.
Dr. Luciano Digiampietri
Universidade de Sao Paulo Campus da Capital
Read the Original
This page is a summary of: A study about Explainable Articial Intelligence: using decision tree to explain SVM, Revista Brasileira de Computação Aplicada, January 2020, UPF Editora,
DOI: 10.5335/rbca.v12i1.10247.
You can read the full text:
Contributors
The following have contributed to this page
