Incorporação de vizinhos estocásticos t-distribuídos (t-SNE)

Compreender a t-SNE

A ideia central do t-SNE é preservar a estrutura local dos dados. Modela a semelhança entre pontos de dados de alta dimensão como probabilidades condicionais e, em seguida, tenta encontrar uma incorporação de baixa dimensão que produza uma distribuição de probabilidade semelhante entre os pontos mapeados. Ao contrário dos métodos lineares, como a análise de componentes principais (PCA), a t-SNE é não linear e probabilística. Isto permite-lhe captar relações complexas que a PCA pode não captar, especialmente quando os dados se encontram em variedades curvas. No entanto, a PCA é melhor para preservar a estrutura global e a variância dos dados.

O algoritmo calcula as semelhanças de pares entre pontos em dimensões altas e baixas. Utiliza uma distribuição Gaussiana no espaço de alta dimensão e uma distribuição t (especificamente, uma distribuição t de Student com um grau de liberdade) no espaço de baixa dimensão. A utilização da distribuição t ajuda a aliviar o "problema de aglomeração" (em que os pontos tendem a aglomerar-se no centro do mapa) e separa mais eficazmente os pontos diferentes no mapa de baixa dimensão. O processo envolve a minimização da divergência entre estas duas distribuições utilizando a descida do gradiente. Para uma explicação técnica detalhada, consulta o artigo original sobre t-SNE.

Aplicações em IA e ML

O t-SNE é principalmente uma técnica de visualização, de valor inestimável para explorar e compreender dados de elevada dimensão gerados por modelos de IA. Aqui tens alguns exemplos:

• Visualiza os embeddings de palavras: No Processamento de Linguagem Natural (PLN), modelos como BERT ou GPT geram representações vetoriais de alta dimensão(embeddings) para palavras ou frases. A aplicação de t-SNE a esses embeddings permite que os pesquisadores visualizem relações semânticas, potencialmente mostrando palavras com significados semelhantes agrupadas no gráfico 2D. Isto ajuda a compreender a qualidade da modelação da linguagem aprendida.
• Compreender as representações de caraterísticas das CNN: Na visão computacional (CV), as Redes Neurais Convolucionais (CNNs), como as usadas em Ultralytics YOLO t-SNE pode ser aplicado às activações das camadas intermédias ou finais de um conjunto de dados (por exemplo, ImageNet). A visualização destes mapas de caraterísticas ajuda a compreender até que ponto o modelo separa diferentes classes de objectos e pode fornecer informações durante o desenvolvimento do modelo, talvez mesmo quando treina modelos no Ultralytics HUB.

Considerações fundamentais

Embora poderoso, o t-SNE tem caraterísticas que os utilizadores devem compreender:

• Custo computacional: O t-SNE pode ser computacionalmente intensivo, especialmente para conjuntos de dados muito grandes, uma vez que requer o cálculo de semelhanças entre pares.
• Sensibilidade dos hiperparâmetros: Os resultados são sensíveis aos hiperparâmetros, nomeadamente à "perplexidade", que influencia o número de vizinhos locais considerados para cada ponto. É muitas vezes necessário afinar corretamente os hiperparâmetros. Implementações como a do scikit-learn oferecem controlos para estes parâmetros.
• Interpretação: As dimensões dos clusters e as distâncias entre eles no gráfico t-SNE nem sempre correspondem diretamente às dimensões ou separações reais dos clusters no espaço original de elevada dimensão. Revela principalmente semelhanças e agrupamentos locais. É uma ferramenta para exploração em vez de uma análise de agrupamento definitiva como o K-Means.

Em resumo, o t-SNE é uma ferramenta valiosa no conjunto de ferramentas da Inteligência Artificial (IA) para visualizar e obter intuição sobre conjuntos de dados complexos e de elevada dimensão, complementando outros métodos analíticos.