Dimensionality reduction-based metric learning using information theoretic measures

dc.contributorLevada, Alexandre Luis Magalhães
dc.contributorhttps://lattes.cnpq.br/3341441596395463
dc.contributorhttps://lattes.cnpq.br/6840931161315479
dc.contributorhttps://orcid.org/0000-0001-6212-6205
dc.contributorhttps://orcid.org/0000-0001-8253-2729
dc.creatorCervati Neto, Alaor
dc.date2024-07-18T12:59:54Z
dc.date2024-07-18T12:59:54Z
dc.date2024-04-30
dc.date.accessioned2026-10-02T21:54:25Z
dc.descriptionProcessing large amounts of data to extract useful information is one of the main issues that may be approached using machine learning. One way to obtain this information is by grouping data according to their common features. In very complex data sets, this task may be accomplished by finding simpler ways of representing the relations between this data, lowering their dimensionality. There are many methods to find the data groups in a set automatically. However, finding a way to minimise the complexity of this data without losing relevant content is a computationally costly process. An alternative to that is treating these data sets as probability distributions of random variables and using concepts and measures from information theory to find their relations more efficiently. This work describes some dimensionality reduction methods and information theory measures and proposes that they be joined in order to obtain better results, by creating variants more resistant to disruption in data or differences in set sizes. The adaptation of existing methods to include information theory-based measures is tested on real datasets, and results formally verified as to their adequacy for obtaining more accurate metrics. In most of the tested cases, results show a better performance compared to traditional classification methods, while in others the modifications made those more effective for datasets with fewer samples.
dc.descriptionNão recebi financiamento
dc.descriptionO processamento de grandes quantidades de dados para extrair informações úteis é um dos principais problemas que podem ser abordados com o aprendizado de máquina. Uma das formas de obter essas informações é agrupando os dados de acordo com as características que tenham em comum. Em conjuntos de dados muito complexos, esta tarefa pode ser realizada encontrando formas mais simples de representar as relações entre esses dados, diminuindo o número de suas dimensões. Há vários métodos para descobrir os agrupamentos de dados em um conjunto de forma automática. Por outro lado, descobrir um meio de minimizar a complexidade desses dados sem perda de conteúdo relevante é um processo computacionalmente custoso. Uma alternativa para isto é o tratamento destes conjuntos de dados como distribuições de probabilidades de variáveis aleatórias e a utilização de conceitos e medidas de teoria de informação para descobrir suas relações de modo mais eficiente. Este trabalho descreve alguns métodos de redução de dimensionalidade e medidas de teoria de informação e propõe que ambos sejam unidos para a obtenção de resultados melhores, criando variantes mais resistentes a perturbações nos dados ou diferenças no tamanho dos conjuntos. A adaptação dos métodos existentes para incluir medidas baseadas em teoria da informação é testada em conjuntos de dados reais, e os resultados verificados formalmente quanto a sua adequação para a obtenção de métricas mais precisas. Na maior parte dos casos estudados, os resultados demonstraram um desempenho superior ao dos métodos tradicionais para classificação, enquanto em outros as alterações realizadas tornaram-nos mais eficazes para conjuntos de dados com um número reduzido de amostras.
dc.formatapplication/pdf
dc.identifierCERVATI NETO, Alaor. Dimensionality reduction-based metric learning using information theoretic measures. 2024. Tese (Doutorado em Ciência da Computação) – Universidade Federal de São Carlos, São Carlos, 2024. Disponível em: https://repositorio.ufscar.br/handle/20.500.14289/20097.
dc.identifierhttps://repositorio.ufscar.br/handle/20.500.14289/20097
dc.identifier.urihttps://agenda.sc.usp.br/handle/123456789/48405
dc.languageeng
dc.publisherUniversidade Federal de São Carlos
dc.publisherUFSCar
dc.publisherPrograma de Pós-Graduação em Ciência da Computação - PPGCC
dc.publisherCampus São Carlos
dc.rightsAttribution-NonCommercial-NoDerivs 3.0 Brazil
dc.rightshttp://creativecommons.org/licenses/by-nc-nd/3.0/br/
dc.subjectRedução de dimensionalidade
dc.subjectAprendizado de métricas
dc.subjectTeoria da informação
dc.subjectDimensionality reduction
dc.subjectMetric learning
dc.subjectInformation theory
dc.subjectCIENCIAS EXATAS E DA TERRA::CIENCIA DA COMPUTACAO::MATEMATICA DA COMPUTACAO
dc.subjectCIENCIAS EXATAS E DA TERRA::CIENCIA DA COMPUTACAO::METODOLOGIA E TECNICAS DA COMPUTACAO
dc.titleDimensionality reduction-based metric learning using information theoretic measures
dc.titleAprendizado de métricas baseado em redução de dimensionalidade usando medidas da teoria da informação
dc.typeTese

Files

Collections