No campo do aprendizado profundo (deep learning), a interferência catastrófica, também conhecida como esquecimento catastrófico, é a tendência de uma rede neural artificial de esquecer abrupta e drasticamente informações aprendidas anteriormente ao aprender novas informações.
As redes neurais são uma parte importante da abordagem conexionista da ciência cognitiva. O problema da interferência catastrófica ao modelar a memória humana com modelos conexionistas foi originalmente levado à atenção da comunidade científica por pesquisas de McCloskey e Cohen (1989), e Ratcliff (1990). Trata-se de uma manifestação radical do dilema "sensibilidade-estabilidade" ou do dilema "estabilidade-plasticidade". Especificamente, esses problemas referem-se ao desafio de criar uma rede neural artificial que seja sensível a novas informações, mas que não seja desorganizada por elas.
As tabelas de busca (lookup tables) e as redes conexionistas situam-se em lados opostos do espectro de estabilidade-plasticidade. As primeiras permanecem completamente estáveis na presença de novas informações, mas carecem da capacidade de generalizar, ou seja, inferir princípios gerais a partir de novas entradas. Por outro lado, as redes conexionistas, como a rede padrão de retropropagação (backpropagation), conseguem generalizar para entradas não vistas, mas são extremamente sensíveis a novas informações.
Os modelos de retropropagação podem ser comparados à memória humana na medida em que possuem uma capacidade semelhante de generalizar, mas essas redes frequentemente exibem menos estabilidade do que a memória humana. Notavelmente, essas redes de retropropagação são altamente suscetíveis à interferência catastrófica. Isso se consolida como um problema ao modelar a memória humana porque, ao contrário dessas redes, os seres humanos normalmente não apresentam um esquecimento catastrófico.
Descoberta O termo interferência catastrófica foi originalmente cunhado por McCloskey e Cohen (1989), mas também foi trazido à atenção da comunidade científica de forma paralela por meio de pesquisas conduzidas por Ratcliff (1990).
O Problema do Aprendizado Sequencial: McCloskey e Cohen (1989) McCloskey e Cohen (1989) detectaram o problema da interferência catastrófica durante a realização de dois experimentos distintos com modelagem de redes neurais por retropropagação.
**Experimento 1: Aprendizado dos fatos de adição de uns e dois** Em seu primeiro experimento, eles treinaram uma rede neural de retropropagação padrão em um único conjunto de treinamento composto por 17 problemas de adição de um único dígito envolvendo o número um (ou seja, de 1 + 1 a 9 + 1, e de 1 + 2 a 1 + 9) até que a rede pudesse representar e responder adequadamente a todos eles. O erro entre a saída real e a saída desejada diminuiu continuamente ao longo das sessões de treinamento, refletindo que a rede aprendeu a representar melhor as saídas-alvo ao longo das tentativas.
Em seguida, eles treinaram a rede em um único conjunto de treinamento composto por 17 problemas de adição de um único dígito envolvendo o número dois (ou seja, de 2 + 1 a 2 + 9, e de 1 + 2 a 9 + 2) até que a rede pudesse representar e responder adequadamente a todos eles. Eles observaram que esse procedimento assemelhava-se à maneira como uma criança aprenderia a tabuada de adição. Após cada tentativa de aprendizado sobre os fatos do número dois, a rede era testada quanto ao seu conhecimento sobre as adições tanto de uns quanto de dois. Assim como os fatos do número um, os fatos do número dois foram facilmente aprendidos pela rede. No entanto, McCloskey e Cohen observaram que a rede perdeu completamente a capacidade de responder corretamente aos problemas de adição do número um após apenas uma única rodada de treinamento com os problemas do número dois.
O padrão de saída produzido em resposta aos fatos do número um frequentemente assemelhava-se mais a um padrão de saída para um número incorreto do que ao padrão de saída para o número correto. Isso foi considerado um volume drástico de erro. Além disso, os problemas 2+1 e 1+2, que estavam incluídos em ambos os conjuntos de treinamento, apresentaram uma desestruturação dramática logo nas primeiras rodadas de aprendizado dos fatos do número dois.
**Experimento 2: Replicação do estudo de Barnes e Underwood (1959)** Em seu segundo modelo conexionista, McCloskey e Cohen tentaram replicar o estudo sobre interferência retroativa em humanos realizado por Barnes e Underwood (1959). Eles treinaram o modelo em listas A-B e A-C e usaram um padrão de contexto no vetor de entrada (padrão de entrada) para diferenciar as listas. Especificamente, a rede foi treinada para responder com a resposta B correta quando apresentada ao estímulo A e ao padrão de contexto A-B, e a responder com a resposta C correta quando apresentada ao estímulo A e ao padrão de contexto A-C. Quando o modelo foi treinado concorrentemente (em paralelo) nos itens A-B e A-C, a rede aprendeu prontamente todas as associações de forma correta.
No treinamento sequencial, a lista A-B foi treinada primeiro, seguida pela lista A-C. Após cada apresentação da lista A-C, o desempenho foi medido tanto para a lista A-B quanto para a lista A-C. Eles descobriram que a quantidade de treinamento na lista A-C que no estudo de Barnes e Underwood levou a 50% de respostas corretas em humanos, levou a praticamente 0% de respostas corretas pela rede de retropropagação. Além disso, descobriram que a rede tendia a exibir respostas que se assemelhavam ao padrão de resposta C quando era instada a fornecer o padrão de resposta B. Isso indicou que a lista A-C havia essencialmente sobrescrito a lista A-B. Isso poderia ser comparado a aprender a palavra "cachorro", seguida pelo aprendizado da palavra "banco", e depois descobrir que você pensa na palavra "banco" ao ser apresentado à palavra "cachorro".
McCloskey e Cohen tentaram mitigar a interferência por meio de uma série de manipulações, incluindo a alteração do número de unidades ocultas (hidden units), a alteração do valor do parâmetro da taxa de aprendizado, o sobretreinamento na lista A-B, o congelamento de certos pesos de conexão e a alteração dos valores-alvo de 0 e 1 para 0,1 e 0,9. No entanto, nenhuma dessas manipulações reduziu de maneira satisfatória a interferência catastrófica exibida pelas redes.
Em termos gerais, McCloskey e Cohen (1989) concluíram que: Pelo menos alguma interferência ocorrerá sempre que um novo aprendizado alterar os pesos envolvidos na representação do aprendizado antigo; Quanto maior a quantidade de novos aprendizados, maior será a desestruturação do conhecimento antigo; A interferência revelou-se catastrófica nas redes de retropropagação quando o aprendizado era sequencial, mas não quando ocorria de forma concorrente.
Restrições Impostas por Funções de Aprendizado e Esquecimento: Ratcliff (1990) Ratcliff (1990) utilizou múltiplos conjuntos de modelos de retropropagação aplicados a procedimentos padrão de memória de reconhecimento, nos quais os itens eram aprendidos sequencialmente. Após inspecionar os modelos de desempenho de reconhecimento, ele detectou dois problemas principais:
**Informações bem aprendidas foram esquecidas catastroficamente à medida que novas informações eram aprendidas, tanto em redes de retropropagação pequenas quanto grandes.** Mesmo uma única rodada de treinamento com novas informações resultava em uma perda significativa das informações antigas, corroborando as descobertas de McCloskey e Cohen (1989). Ratcliff também descobriu que as saídas resultantes eram frequentemente uma mistura da entrada anterior e da nova entrada. Em redes maiores, os itens aprendidos em grupos (por exemplo, AB e depois CD) mostraram-se mais resistentes ao esquecimento do que os itens aprendidos individualmente (por exemplo, A, depois B, depois C...). No entanto, o esquecimento para itens aprendidos em grupos ainda permaneceu elevado. A adição de novas unidades ocultas à rede não reduziu a interferência.
**A discriminação entre os itens estudados e os itens inéditos diminuiu à medida que a rede aprendia mais.** Esta descoberta contradiz frontalmente os estudos sobre a memória humana, os quais indicam que a discriminação aumenta com o aprendizado. Ratcliff tentou mitigar esse problema adicionando "nós de resposta" que responderiam seletivamente a entradas antigas e novas. No entanto, esse método não funcionou, pois esses nós de resposta tornavam-se ativos para todas as entradas. Um modelo que utilizava um padrão de contexto também falhou em aumentar a discriminação entre itens novos e antigos.
Soluções propostas A causa principal da interferência catastrófica parece ser a sobreposição (overlap) nas representações na camada oculta de redes neurais distribuídas. Em uma representação distribuída, cada entrada tende a induzir alterações nos pesos de muitos dos nós. O esquecimento catastrófico ocorre porque, quando muitos dos pesos onde o "conhecimento está armazenado" são alterados, torna-se improvável que o conhecimento prévio seja mantido intacto. Durante o aprendizado sequencial, as entradas misturam-se, com as novas entradas sendo superpostas no topo das antigas.
Outra maneira de conceituar isso é visualizar o aprendizado como um movimento através de um espaço de pesos (weight space). Esse espaço de pesos pode ser comparado a uma representação espacial de todas as combinações possíveis de pesos que a rede poderia possuir. Quando uma rede aprende pela primeira vez a representar um conjunto de padrões, ela encontra um ponto no espaço de pesos que lhe permite reconhecer todos esses padrões. No entanto, quando a rede aprende um novo conjunto de padrões, ela se deslocará para um local no espaço de pesos onde a única preocupação passa a ser o reconhecimento dos novos padrões. Para reconhecer ambos os conjuntos de padrões, a rede deve encontrar um local no espaço de pesos que seja adequado para reconhecer tanto os novos quanto os antigos padrões.
Abaixo estão listadas uma série de técnicas que possuem suporte empírico no combate e redução bem-sucedida da interferência catastrófica em redes neurais de retropropagação:
Ortogonalidade Muitas das técnicas iniciais para reduzir a sobreposição representacional envolviam tornar os vetores de entrada ou os padrões de ativação das unidades ocultas ortogonais entre si. Lewandowsky e Li (1995) observaram que a interferência entre padrões aprendidos sequencialmente é minimizada se os vetores de entrada forem ortogonais entre si. Diz-se que os vetores de entrada são ortogonais entre si se o produto par a par de seus elementos ao longo dos dois vetores somar zero. Por exemplo, os padrões e são ditos ortogonais porque .
Uma das técnicas que pode criar representações ortogonais nas camadas ocultas envolve a codificação bipolar de características (ou seja, codificação usando -1 e 1 em vez de 0 e 1). Padrões ortogonais tendem a produzir menos interferência mútua. No entanto, nem todos os problemas de aprendizado podem ser representados usando esses tipos de vetores, e alguns estudos relatam que o grau de interferência continua sendo problemático mesmo com vetores ortogonais.
Técnica de aguçamento de nós (Node sharpening) De acordo com French (1991), a interferência catastrófica surge em redes de retropropagação do tipo alimentadas adiante (feedforward) devido à interação das ativações dos nós, ou sobreposição de ativação, que ocorre em representações distribuídas na camada oculta. As redes neurais que empregam representações altamente localizadas não apresentam interferência catastrófica devido à ausência de sobreposição na camada oculta. French, portanto, sugeriu que reduzir o valor da sobreposição de ativação na camada oculta reduziria a interferência catastrófica em redes distribuídas.