Computer Science › Inteligência + Teoria
Diferente dos Labs 1 a 3, estes dois algoritmos não têm rótulos contra os quais ajustar, nem uma função de loss medindo a distância até uma resposta certa conhecida, e essa é a lição concreta e prática que este lab foi construído para entregar. O loop de atribuir e depois atualizar de Agrupamento k-Means é implementado do zero e executado até convergir, e a decomposição em autovalores da matriz de covariância de um dataset real feita pela Análise de Componentes Principais é verificada não contra um rótulo, mas contra uma propriedade geométrica diretamente checável: a distância total dentro dos clusters do k-means diminuindo estritamente a cada iteração, e os principais componentes do PCA capturando a fração calculada e declarada da variância total.
Regressão Linear como Mínimos Quadrados e Gradiente Descendente como Otimizador Geral já provam, no papel, que minimizar o erro quadrático médio tem uma solução em forma fechada e que o gradiente descendente converge iterativamente para ela; este lab implementa as duas coisas, em NumPy puro, sem scikit-learn em nenhum ponto do loop, sobre um dataset real e pequeno, e verifica que as duas respostas calculadas de forma independente, a fechada e a iterativa, concordam entre si. Esse é o ponto real: prova de convergência e convergência de fato observada são coisas diferentes, e é neste lab que a segunda é checada.
Este lab abre o segundo arco desta disciplina, aplicando o framework de hipóteses e evidências de `graduate-studies/research-statistics` a um cenário de ML genuinamente prático. Não basta um dataset real; é preciso uma pergunta real e ainda em aberto sobre ele, refinada, exatamente como descreve Hipóteses, Perguntas e Formas de Evidência, em uma afirmação específica e falseável (o sinal do coeficiente de uma feature, um limiar específico de acurácia que o modelo do Lab 1 deve superar) antes mesmo de começar o trabalho com o dataset do Lab 6 ou a seleção de modelo do Lab 7. Assim, cada lab seguinte deste arco responde a uma pergunta declarada com precisão suficiente, com antecedência, para que possa de fato estar errada.
Splits de Treino, Teste e Validação já estabelece por que um modelo só pode ser avaliado com honestidade em dados que ele nunca tocou durante o treino; este lab torna essa disciplina concreta e, de propósito, torna concreta também a sua violação. Primeiro um split correto, depois uma segunda versão intencionalmente quebrada que vaza informação do conjunto de teste para o treino (por meio de um passo de pré-processamento, como uma normalização de features ajustada no dataset inteiro antes do split), medindo diretamente quanto esse vazamento infla a acurácia relatada, exatamente a diferença entre avaliação honesta e desonesta que a disciplina k-fold de Validação Cruzada existe para fechar.
Este lab reaproveita sem mudanças o loop de gradiente descendente do Lab 1, trocando apenas a função de loss (cross-entropy no lugar do erro quadrático médio) e a não linearidade de saída (sigmoid no lugar da identidade), e verifica a fronteira de decisão do classificador resultante contra o relato de Regressão Logística e Fronteiras de Decisão sobre onde essa fronteira fica (o conjunto de pontos em que a saída da sigmoid cruza 0,5), plotada diretamente sobre um dataset real, pequeno e linearmente separável, em vez de apenas afirmada algebricamente.
A regressão logística do Lab 2 é, no sentido exato descrito em Redes Multicamadas como Transformações Lineares Compostas, uma rede neural com zero camadas ocultas; este lab acrescenta uma camada oculta e implementa à mão o cálculo de gradiente por regra da cadeia do backpropagation, camada por camada, e depois verifica cada gradiente derivado à mão contra a verificação numérica de gradiente (uma pequena perturbação por diferenças finitas em cada peso), que é a forma padrão e real de confirmar na prática a correção descrita em Backpropagation, em vez de apenas confiar na derivação.
O Trade-off Viés-Variância e Overfitting e a Dimensão VC já preveem, na teoria, uma curva de erro de validação em forma de U à medida que a complexidade do modelo aumenta, com underfitting de um lado e overfitting do outro; este lab varre a complexidade do modelo diretamente (grau do polinômio para o regressor do Lab 1, largura da camada oculta para a pequena rede do Lab 3), plota o erro de treino contra o erro de validação retido ao longo dessa varredura e mede o ponto exato em que a curva vira. Depois aplica o termo de penalidade de Regularização: Ridge e Lasso e confirma, empiricamente, que ele desloca esse ponto de virada, em vez de apenas afirmar isso.
Este lab aplica a disciplina de baselines e robustez de `graduate-studies/research-statistics` diretamente aos modelos que este arco construiu. O melhor modelo selecionado no Lab 7 é rodado contra um baseline real e justo (uma configuração padrão sem ajuste, não um espantalho), avaliado com o conjunto completo de métricas de Métricas de Avaliação: Precisão, Recall e ROC, e não só com acurácia, ao longo de várias seeds aleatórias para relatar a variabilidade com honestidade, e documentado em um relatório curto e real que responde diretamente à hipótese original do Lab 5, sustentada ou refutada, com a evidência real, e não apenas um número final.
O relatório real e revisado por pares do NeurIPS Reproducibility Program sobre reprodutibilidade em machine learning documenta, com dados reais coletados de artigos de fato submetidos, com que frequência resultados publicados de ML falham ao ser reproduzidos e o que costuma faltar. Este lab aplica o checklist desse relatório (hiperparâmetros exatos, passos exatos de pré-processamento, seeds aleatórias exatas, versões de hardware e software) diretamente ao experimento do Lab 8, primeiro escondendo de propósito os itens do checklist (imitando um artigo tipicamente mal documentado) para mostrar que uma nova tentativa de implementação não reproduz o número relatado, e depois preenchendo cada item e confirmando que agora ela reproduz.
Este capstone percorre de ponta a ponta o ciclo completo que a sequência de tópicos desta disciplina nomeia (pergunta, hipótese, dataset, modelo, experimento, avaliação, reprodução, desafio) sob pressão competitiva real, no estilo Kaggle. Há um dataset cujos rótulos verdadeiros de teste são de fato retidos, um prazo fixo e uma única pontuação de leaderboard sobre o conjunto retido como único retorno, o que força a disciplina de cada lab anterior (splits honestos do Lab 6, seleção de modelo com princípios do Lab 7, um baseline real do Lab 8) a se juntar em uma decisão real sob incerteza. O capstone fecha exatamente onde o framework teórico de Escolhendo e Validando um Modelo: Um Guia de Decisão começou, mas agora aplicado sob um prazo real e obrigatório, em vez de trabalhado com calma.
Part of the Computer Science curriculum.
Diferente dos Labs 1 a 3, estes dois algoritmos não têm rótulos contra os quais ajustar, nem uma função de loss medindo a distância até uma resposta certa conhecida, e essa é a lição concreta e prática que este lab foi construído para entregar. O loop de atribuir e depois atualizar de Agrupamento k-Means é implementado do zero e executado até convergir, e a decomposição em autovalores da matriz de covariância de um dataset real feita pela Análise de Componentes Principais é verificada não contra um rótulo, mas contra uma propriedade geométrica diretamente checável: a distância total dentro dos clusters do k-means diminuindo estritamente a cada iteração, e os principais componentes do PCA capturando a fração calculada e declarada da variância total.
Regressão Linear como Mínimos Quadrados e Gradiente Descendente como Otimizador Geral já provam, no papel, que minimizar o erro quadrático médio tem uma solução em forma fechada e que o gradiente descendente converge iterativamente para ela; este lab implementa as duas coisas, em NumPy puro, sem scikit-learn em nenhum ponto do loop, sobre um dataset real e pequeno, e verifica que as duas respostas calculadas de forma independente, a fechada e a iterativa, concordam entre si. Esse é o ponto real: prova de convergência e convergência de fato observada são coisas diferentes, e é neste lab que a segunda é checada.
Este lab abre o segundo arco desta disciplina, aplicando o framework de hipóteses e evidências de `graduate-studies/research-statistics` a um cenário de ML genuinamente prático. Não basta um dataset real; é preciso uma pergunta real e ainda em aberto sobre ele, refinada, exatamente como descreve Hipóteses, Perguntas e Formas de Evidência, em uma afirmação específica e falseável (o sinal do coeficiente de uma feature, um limiar específico de acurácia que o modelo do Lab 1 deve superar) antes mesmo de começar o trabalho com o dataset do Lab 6 ou a seleção de modelo do Lab 7. Assim, cada lab seguinte deste arco responde a uma pergunta declarada com precisão suficiente, com antecedência, para que possa de fato estar errada.
Splits de Treino, Teste e Validação já estabelece por que um modelo só pode ser avaliado com honestidade em dados que ele nunca tocou durante o treino; este lab torna essa disciplina concreta e, de propósito, torna concreta também a sua violação. Primeiro um split correto, depois uma segunda versão intencionalmente quebrada que vaza informação do conjunto de teste para o treino (por meio de um passo de pré-processamento, como uma normalização de features ajustada no dataset inteiro antes do split), medindo diretamente quanto esse vazamento infla a acurácia relatada, exatamente a diferença entre avaliação honesta e desonesta que a disciplina k-fold de Validação Cruzada existe para fechar.
Este lab reaproveita sem mudanças o loop de gradiente descendente do Lab 1, trocando apenas a função de loss (cross-entropy no lugar do erro quadrático médio) e a não linearidade de saída (sigmoid no lugar da identidade), e verifica a fronteira de decisão do classificador resultante contra o relato de Regressão Logística e Fronteiras de Decisão sobre onde essa fronteira fica (o conjunto de pontos em que a saída da sigmoid cruza 0,5), plotada diretamente sobre um dataset real, pequeno e linearmente separável, em vez de apenas afirmada algebricamente.
A regressão logística do Lab 2 é, no sentido exato descrito em Redes Multicamadas como Transformações Lineares Compostas, uma rede neural com zero camadas ocultas; este lab acrescenta uma camada oculta e implementa à mão o cálculo de gradiente por regra da cadeia do backpropagation, camada por camada, e depois verifica cada gradiente derivado à mão contra a verificação numérica de gradiente (uma pequena perturbação por diferenças finitas em cada peso), que é a forma padrão e real de confirmar na prática a correção descrita em Backpropagation, em vez de apenas confiar na derivação.
O Trade-off Viés-Variância e Overfitting e a Dimensão VC já preveem, na teoria, uma curva de erro de validação em forma de U à medida que a complexidade do modelo aumenta, com underfitting de um lado e overfitting do outro; este lab varre a complexidade do modelo diretamente (grau do polinômio para o regressor do Lab 1, largura da camada oculta para a pequena rede do Lab 3), plota o erro de treino contra o erro de validação retido ao longo dessa varredura e mede o ponto exato em que a curva vira. Depois aplica o termo de penalidade de Regularização: Ridge e Lasso e confirma, empiricamente, que ele desloca esse ponto de virada, em vez de apenas afirmar isso.
Este lab aplica a disciplina de baselines e robustez de `graduate-studies/research-statistics` diretamente aos modelos que este arco construiu. O melhor modelo selecionado no Lab 7 é rodado contra um baseline real e justo (uma configuração padrão sem ajuste, não um espantalho), avaliado com o conjunto completo de métricas de Métricas de Avaliação: Precisão, Recall e ROC, e não só com acurácia, ao longo de várias seeds aleatórias para relatar a variabilidade com honestidade, e documentado em um relatório curto e real que responde diretamente à hipótese original do Lab 5, sustentada ou refutada, com a evidência real, e não apenas um número final.
O relatório real e revisado por pares do NeurIPS Reproducibility Program sobre reprodutibilidade em machine learning documenta, com dados reais coletados de artigos de fato submetidos, com que frequência resultados publicados de ML falham ao ser reproduzidos e o que costuma faltar. Este lab aplica o checklist desse relatório (hiperparâmetros exatos, passos exatos de pré-processamento, seeds aleatórias exatas, versões de hardware e software) diretamente ao experimento do Lab 8, primeiro escondendo de propósito os itens do checklist (imitando um artigo tipicamente mal documentado) para mostrar que uma nova tentativa de implementação não reproduz o número relatado, e depois preenchendo cada item e confirmando que agora ela reproduz.
Este capstone percorre de ponta a ponta o ciclo completo que a sequência de tópicos desta disciplina nomeia (pergunta, hipótese, dataset, modelo, experimento, avaliação, reprodução, desafio) sob pressão competitiva real, no estilo Kaggle. Há um dataset cujos rótulos verdadeiros de teste são de fato retidos, um prazo fixo e uma única pontuação de leaderboard sobre o conjunto retido como único retorno, o que força a disciplina de cada lab anterior (splits honestos do Lab 6, seleção de modelo com princípios do Lab 7, um baseline real do Lab 8) a se juntar em uma decisão real sob incerteza. O capstone fecha exatamente onde o framework teórico de Escolhendo e Validando um Modelo: Um Guia de Decisão começou, mas agora aplicado sob um prazo real e obrigatório, em vez de trabalhado com calma.