3.10 Generalização, subadaptação e sobreadaptação

Imagine que Mike, Ana e Luka estão a preparar-se para um exame de matemática e que todos usam a mesma coleção. Mike estava relaxado e apenas praticando as tarefas apenas ligeiramente, Ana foi diligente e praticou de forma cuidadosa e abrangente durante toda a semana, enquanto Luka decidiu memorizar as tarefas. Consegue adivinhar quem se saiu melhor no teste? Claro, Ana!

Uma coleção de problemas pode ser pensada como um conjunto abstrato de dados que consiste em entradas (textos de tarefas) e saídas (soluções). Um modelo de aprendizagem automática pode, como Pera, aprender apenas algumas conexões nos dados e cometer muitos erros na prática. Tal propriedade do modelo é chamada de underfitting. O modelo também pode exagerar no nível de detalhes, como Luke, e perder o poder de lidar com alguns dados novos. Tal propriedade do modelo é chamada de overfitting. Seria melhor que o modelo adotasse as informações certas e pudesse, como Anna, resolver com sucesso tarefas familiares e algumas novas. Essa propriedade do modelo é chamada de generalização.

Um exemplo de subadaptação e sobreadaptação pode ser ilustrado pela figura seguinte. Imagine que ao longo do eixo x estão os valores de um atributo, ao longo do y-oce estão os valores da variável de destino, e que a linha tracejada mostra o modelo. O modelo à esquerda não é a melhor escolha considerando a disposição dos pontos, parece muito simples. Os dados se parecem mais com um "vidro", então um modelo quadrado que tenha esse formulário pode ser uma solução melhor. Podemos vê-lo na imagem do meio. Na imagem à direita, vemos um modelo que segue consistentemente cada ponto do conjunto de dados e está completamente adaptado a ele.

Exemplo de subadaptação e sobreadaptação

A tarefa de encontrar o modelo ideal e equilibrar entre underfitting e overfitting não é fácil. Felizmente, o campo da aprendizagem automática define os protocolos e técnicas que podemos usar para acompanhar cada uma dessas situações. Por exemplo, grandes diferenças no desempenho do modelo no conjunto de treinamento e no conjunto de teste indicam que o modelo foi readaptado. Isso geralmente se deve à escolha de um modelo mais complexo do que o necessário (como na imagem no canto superior direito) ou ao treinamento do modelo por mais tempo. Por outro lado, baixos valores de medidas de qualidade tanto no conjunto de treinamento quanto no conjunto de testes indicam que o modelo não aprendeu o suficiente com os dados, é muito simples (como na imagem superior esquerda) ou precisa de mais atributos.

Uma boa generalização é uma propriedade que permite que modelos de machine learning sejam aplicados com sucesso na prática. Apenas uma pequena parte dos dados disponíveis é usada para treiná-los e, no entanto, esperamos que eles se comportem bem durante a aplicação e sobre novos dados que nunca encontraram. É por isso que é importante que os conjuntos de dados sejam representativos, ou seja, sejam suficientemente ricos e diversificados para se adequarem ao problema abordado, bem como um acompanhamento cuidadoso de possíveis subadaptações e sobreadaptações do modelo.