O aprendizado autorregulável (SSL, do inglês Self-supervised learning, também denominado aprendizado auto-supervisionado) é um paradigma no campo do aprendizado de máquina no qual um modelo é treinado em uma tarefa utilizando os próprios dados para gerar sinais de supervisão, em vez de depender de rótulos (labels) fornecidos externamente. No contexto de redes neurais artificiais, o aprendizado autorregulável visa aproveitar as estruturas inerentes ou as relações internas dos dados de entrada para criar sinais de treinamento significativos. As tarefas de SSL são projetadas de modo que sua resolução exija a captura de características ou relações essenciais dos dados. Os dados de entrada são tipicamente aumentados ou transformados para criar pares de amostras relacionadas, onde uma amostra serve como entrada e a outra é utilizada para formular o sinal de supervisão. Essa bônus de dados (data augmentation) pode envolver a introdução de ruído, cortes (cropping), rotações ou outras transformações geométrica. O aprendizado autorregulável imita de forma mais próxima a maneira como os seres humanos aprendem a classificar objetos.

Durante o SSL, o modelo aprende em duas etapas. Primeiro, a tarefa é solucionada com base em uma tarefa de classificação auxiliar ou de pretexto utilizando pseudo-rótulos, os quais ajudam a inicializar os parâmetros do modelo. Em seguida, a tarefa real é executada por meio de aprendizado supervisionado ou não supervisionado.

O aprendizado autorregulável tem produzido resultados promissores nos últimos anos e encontrou aplicação prática em áreas como o processamento de áudio, sendo utilizado pela Meta (antigo Facebook) e por outras corporações para o reconhecimento de voz.

Pseudo-rótulos Pseudo-rótulos (pseudo-labels) são rótulos gerados automaticamente que um modelo atribui a dados não rotulados com base em suas próprias previsões de alta confiança. Eles são amplamente utilizados no aprendizado autorregulável e semi-supervisionado, cenários nos quais as anotações reais (ground-truth) são escassas ou inexistentes. Ao tratar rótulos previstos como substitutos da verdade fundamental, os algoritmos de aprendizado conseguem aproveitar grandes volumes de dados não rotulados no processo de treinamento.

A geração de pseudo-rótulos também desempenha um papel de destaque em sistemas que precisam se adaptar ao desvio de conceito (concept drift), onde as propriedades estatísticas dos dados mudam ao longo do tempo. Nesses cenários, o modelo pode detectar que uma nova instância desvia do comportamento aprendido anteriormente. O sistema gera então um resultado de classificação para essa instância, e essa classe prevista é empregada como um pseudo-rótulo para atualizar ou retreinar os componentes do modelo que estão se tornando obsoletos. Essa abordagem possibilita a adaptação contínua em ambientes dinâmicos sem exigir anotação manual humana.

Tipos

Aprendizado autorregulável autoassociativo O aprendizado autorregulável autoassociativo é uma categoria específica na qual uma rede neural é treinada para reproduzir ou reconstruir os seus próprios dados de entrada. Em outros termos, o modelo tem a tarefa de aprender uma representação compacta dos dados que capture suas características ou estruturas essenciais, permitindo-lhe regenerar a entrada original com fidelidade.

O termo "autoassociativo" provém do fato de o modelo associar os dados de entrada consigo mesmos. Isso é frequentemente realizado por meio de autoencoders (codificadores automáticos), que são arquiteturas de rede neural voltadas para o aprendizado de representações. Os autoencoders consistem em uma rede codificadora (encoder), que mapeia os dados de entrada para uma representação de dimensionalidade reduzida (espaço latente), e uma rede decodificadora (decoder), que reconstrói a entrada a partir dessa representação latente.

O processo de treinamento envolve apresentar os dados ao modelo e exigir que ele reconstrua os mesmos dados da forma mais idêntica possível. A função de perda (loss function) utilizada penaliza a diferença entre a entrada original e a saída reconstruída (por exemplo, aplicando o Erro quadrático médio). Ao minimizar esse erro de reconstrução, o autoencoder extrai uma representação semântica rica dos dados em seu espaço latente.

Aprendizado autorregulável contrastivo Para uma tarefa de classificação binária, os dados de treinamento podem ser divididos em exemplos positivos e exemplos negativos. Exemplos positivos são aqueles que correspondem ao alvo procurado. Por exemplo, se o objetivo for treinar um classificador para identificar pássaros, os dados de treinamento positivos incluiriam imagens contendo pássaros, enquanto os exemplos negativos seriam imagens sem pássaros. O aprendizado autorregulável contrastivo utiliza tanto exemplos positivos quanto negativos. A função de perda no aprendizado contrastivo é formulada para minimizar a distância métrica entre pares de amostras positivas, ao mesmo tempo que maximiza a distância entre pares de amostras negativas.

Um exemplo histórico inicial utilizava um par de redes neurais convolucionais unidimensionais para processar um par de imagens e maximizar a concordância mútua entre suas saídas.

O método Contrastive Language-Image Pre-training (CLIP) permite o pré-treinamento conjunto de um codificador de texto e um codificador de imagem, de modo que um par correspondente de imagem e texto resulte em vetores de codificação que possuam um ângulo reduzido entre si (ou seja, exibam uma alta similaridade por cosseno).

O InfoNCE (Noise-Contrastive Estimation) é um método para otimizar dois modelos de forma conjunta com base na Estimação Contrastiva de Ruído (NCE). Dado um conjunto de amostras aleatórias contendo uma amostra positiva de e amostras negativas da distribuição de proposta , o método minimiza a seguinte função de perda:

Aprendizado autorregulável não-contrastivo O aprendizado autorregulável não-contrastivo (NCSSL) utiliza exclusivamente exemplos positivos. De forma contraintuitiva, o NCSSL converge para um mínimo local útil em vez de colapsar em uma solução trivial com perda zero (o que ocorreria se o modelo simplesmente aprendesse a classificar todos os exemplos como positivos). O funcionamento eficaz do NCSSL exige um preditor extra no ramo ativo (online) que não realize retropropagação de gradientes (backpropagation) no ramo de destino (target).

Arquiteturas de Incorporação Conjunta e Preditivas (JEPA) Uma classe principal de aprendizado autorregulável avança além dos pares contrastivos, maximizando a concordância entre diferentes visões de um mesmo dado enquanto previne o colapso do modelo por meio de restrições estatísticas. Baseada na Análise de Correlação Canônica Profunda (Deep CCA), essa abordagem engloba as Arquiteturas de Incorporação Conjunta (JEA), como Barlow Twins e VICReg, que aplicam restrições de covariância para aprender representações invariantes sem a necessidade de amostragem negativa.

Em 2022, esse ecossistema evoluiu para as Arquiteturas Preditivas de Incorporação Conjunta (JEPA, do inglês Joint-Embedding Predictive Architecture) quando Yann LeCun introduziu o conceito como um caminho estrutural em direção à tomada de decisões, raciocínio e inteligência de máquina autônoma. Fundamentado no aprendizado de representações, LeCun estabeleceu o conceito de um "modelo de mundo" (world model) na JEPA, que visa capacitar as máquinas a replicar o intelecto humano ao fornecer-lhes uma noção conceitual do ambiente em que existem.

Ao contrário dos autoencoders convencionais, as JEPAs operam integralmente no espaço latente, evitando o ruído de reconstrução em nível de pixels para focar exclusivamente na estrutura semântica dos dados. Em vez de apenas aprender invariância, as JEPAs aprendem prevendo representações latentes mascaradas a partir de um contexto visível. Recentemente, surgiram novas aplicações da JEPA para análise de imagens, processamento de áudio e modelagem de movimento em vídeos.

Comparação com outras formas de aprendizado O SSL assemelha-se aos métodos de aprendizado supervisionado na medida em que seu objetivo final é gerar uma saída classificada a partir da entrada. Ao mesmo tempo, no entanto, ele dispensa o uso explícito de pares de entrada-saída rotulados manualmente. Em vez disso, as correlações, os metadados embutidos nos dados ou o conhecimento de domínio contido na entrada são extraídos de forma implícita e autônoma. Esses sinais de supervisão intrínsecos são então empregados no treinamento.

O SSL é similar ao aprendizado não supervisionado por não exigir rótulos nos dados de amostragem. Todavia, diferentemente do não supervisionado clássico, o aprendizado não é realizado focado apenas em agrupamentos ou estruturas de dados inerentes (como em clustering), mas sim na resolução de uma tarefa de pretexto estruturada.

O Aprendizado semi-supervisionado combina elementos do supervisionado e não supervisionado, exigindo que apenas uma pequena fração dos dados de treinamento esteja previamente rotulada.

No aprendizado por transferência (transfer learning), um modelo desenvolvido para uma determinada tarefa é reaproveitado como ponto de partida para uma tarefa diferente.

No Aprendizado por reforço, o aprendizado autorregulável a partir de uma combinação de perdas pode ser utilizado para criar representações abstratas onde apenas as informações mais críticas sobre o estado do ambiente são preservadas de forma compacta.

Exemplos práticos Processamento de Linguagem Natural (PLN): O modelo BERT (Bidirectional Encoder Representations from Transformers) do Google utiliza aprendizado autorregulável (através do mascaramento de palavras) para compreender o contexto de consultas de busca. De forma semelhante, a série GPT da OpenAI utiliza a previsão do próximo token em textos massivos para realizar tarefas generalistas de geração e tradução. Reconhecimento de Fala: O algoritmo wav2vec da Meta realiza o reconhecimento de voz utilizando duas redes neurais convolucionais profundas treinadas de forma autorregulável em áudios brutos não rotulados. Visão Computacional: Modelos como o BYOL (Bootstrap Your Own Latent) alcançaram resultados de ponta no banco de dados ImageNet sem utilizar rótulos durante o treinamento inicial, aprendendo representações visuais robustas ao fazer o modelo prever a saída de uma versão atualizada de si mesmo.

Referências

Leitura adicional

Ligações externas "Attention Is All You Need" no Google Research "Attention Is All You Need" no arXiv

Categoria:Aprendizagem de máquina Categoria:Aprendizagem profunda