CnnResearchMeetings

Presentations made for the research project meetings.

Análise de Artigos - Resumos

- Levantamento do estado da arte da aprendizagem profunda na radiologia;

Semana 01 (18/09/2020) - Síncrono

- Apresentação da Metodologia e da Equipe;

Semana 02 (25/09/2020) - Síncrono

- Introdução a Aprendizagem de Máquina;

Semana 03 (02/10/2020) - Síncrono

- Introdução a Redes Neurais Artificiais;

Semana 04 (09/10/2020) - Síncrono

- Função de Custo e Gradiente Descendente;
- Regressão Linear;

Semana 05 (16/10/2020) - Síncrono

- Regressão Linear;
- Regressão Linear Múltipla;

Semana 06 (23/10/2020) - Síncrono

- Regressão Logística para problemas de Classificação;
- Evitando sobreajuste de dados com regularização;

Semana 07 (29/10/2020) - Assíncrono

- Introdução a modelos de Redes Neurais Artificiais;
- Implementação de funções lógicas através de Redes Neurais Artificiais;
- Noção inicial sobre a arquitetura e funcionamento de Redes Neurais Artificiais;
- Ideias de configurações das Redes Neurais Artificiais;

Semana 08 (06/11/2020) - Síncrono

- Implementação de uma rede neural para reconhecimento de dígitos escritos a mão;
- Implementação da função de custo para a rede neural; 
- Algoritmo de Forwardpropagation;
- Algoritmo de Backpropagation;
- Solução numérica para verificação da derivada parcial na função de custo;
- Problemas de quebra de simetria;

Semana 09 (20/11/2020) - Assíncrono

- Análise de modelos com muitos erros na predição;
- Diagnóstico do Aprendizado de Máquina;
- Abordagem do Aprendizado de Máquina;
- Avaliando a Hipótese;
- Procedimentos em Regressão Linear/Polinomial;
- Procedimentos em Regressão Logística;
- Problemas de classificação incorreta;
- Dados de Treinamento, Validação e Teste;
- Matriz de Confusão;
- Quantidade de dados envolvidas no treinamento;
- Testando novos algoritmos;

Semana 10 (27/11/2020) - Assíncrono

- Analisando viés vs variância;
- Regularização e viés/variância;
- Revisando os passos de análise de um modelo de aprendizado de máquina;
- Diagnóstico de Redes Neurais;
- Análise de casos voltados para medicina;
- Efeitos da complexidade do modelo;

Semana 11 (13/11/2020) - Assíncrono

- Curso completo de Python;

Semana 12 (18/12/2020) - Síncrono

- Análise do Bias vs Variância em casos distintos de regressão regularizada;
- Definindo um método sofisticado para análise do hiperparâmetro de regularização;
- Implementação em Python de modelos de regressão para análise do limite de estouro em uma barragem;

Semana 13 (08/01/2021) - Síncrono

- Modelo de regressão logística no estilo de rede neural;
- Análise de um dataset não estruturado('cat'/'non-cat');
- Implementação de vetorização utilizando o pacote numpy do python;

Semana 14 (15/01/2021) - Síncrono

- Discussão dos artigos relevantes para o projeto;
- Redes neurais com uma camada [blobs, gaussian quantiles, noisy circles, planar];
- Construindo uma rede neural profunda passo a passo;
- Rede neural profunda para reconhecimento de gatos em imagens;
- Introdução ao Tensorflow para Machine Learning e Deep Learning;
- Introdução a redes neurais convolucionais usando o framework TensorFlow;
- Apresentação de uma aplicação simples usando o streamlit;

Semana 15 (22/01/2021) - Assíncrono

- Discussão dos artigos relevantes para o projeto;
- Finalização do curso de introdução ao Tensorflow;
- Ajuste de hiperparâmetros: [inicialização, regularização, aproximação numérica para o gradiente descendente, escolha de otimizadores, frameworks];
- Redes neurais convolucionais com Tensorflow: [tamanhos de datasets, aumento de dados, transferência de aprendizagem, problemas de multiclassificação];
- Apresentação do dataset para classificação de distúrbios pulmonares;

Semana 16 (29/01/2021) - Síncrono

- Discussão dos artigos relevantes para o projeto;
- Construção passo a passo de uma rede neural convolucional;
- Aplicando o modelo previamente construindo para classificação de imagens;
- Introdução ao framework TensorFlow/Keras;
- Modelando arquiteturas famosas e analisando desempenhos: [LeNet e ResNet];
- Apresentação de datasets públicos úteis;

Semana 17 (05/02/2021) - Síncrono

- Detecção de objetos em imagens - yolo algorítmo;
- Redes neurais convolucionais para reconhecimento e verificação facial - implementação de uso;
- Redes neurais convolucionais para transferência de estilo - geração artística;
- Discussão das bases de dados a serem utilizadas no projeto;
- Discussão de alguns artigos;
- Levantamento de ideias para implementações de modelos;
- Organização do relatório parcial;

Repositórios relacionados

Os repositórios abaixo são a continuação das diversas semanas de estudo listadas neste repositório.

• ai-for-medicine-specialization
• cnn-lung-diseases
• histogram-equalization
• ml-coursera-python-solutions
• introduction-to-tensorflow
• cnn-tensorflow
• deploy-to-heroku-app
• grad-cam-implementation
• lime-algorithm
• ipynb-tutorial

Referências

• Ng, Andrew. Machine Learning. Stanford University. Disponível em: https://www.coursera.org/learn/machine-learning. Acesso em 30 jan. 2021.
• Ng, Andrew. Neural Networks and Deep Learning. deeplearning.ai. Disponível em: https://www.coursera.org/learn/neural-networks-deep-learning. Acesso em 30 jan. 2021.
• Ng, Andrew. Improving Deep Neural Networks: Hyperparameter Tuning, Regularization and Optimization. deeplearning.ai. Disponível em: https://www.coursera.org/learn/deep-neural-network. Acesso em 30 jan. 2021.
• Ng, Andrew. Convolutional Neural Networks: Hyperparameter Tuning, Regularization and Optimization. deeplearning.ai. Disponível em: https://www.coursera.org/learn/convolutional-neural-networks. Acesso em 30 jan. 2021.
• Moroney, Laurence. Introduction to TensorFlow for Artificial Intelligence, Machine Learning, and Deep Learning. deeplearning.ai. Disponível em: https://www.coursera.org/learn/introduction-tensorflow. Acesso em 30 jan. 2021.
• Moroney, Laurence. Convolutional Neural Networks in TensorFlow. deeplearning.ai. Disponível em: https://www.coursera.org/learn/convolutional-neural-networks-tensorflow. Acesso em 30 jan. 2021.
• SZELISKI, R. Algorithms and Applications. [S.l.]: Springer-Verlag London, 2011.
• WANG, H. et al. Global, regional, and national life expectancy, all-cause mortality, and cause-specific mortality for 249 causes of death, 1980–2015: a systematic analysis for the global burden of disease study 2015. The lancet, Elsevier, v. 388, n. 10053, p. 1459–1544, 2016.
• DUNNMON, J. A. et al. Assessment of convolutional neural networks for automated classification of chest radiographs. Radiology, Radiological Society of North America, v. 290, n. 2, p. 537–544, 2019.
• LECUN, Y. et al. Gradient-based learning applied to document recognition. Proceedings of the IEEE, Ieee, v. 86, n. 11, p. 2278–2324, 1998.
• LEE, J.-G. et al. Deep learning in medical imaging: general overview. Korean journal of radiology, v. 18, n. 4, p. 570–584, 2017.
• RUECKERT, D.; GLOCKER, B.; KAINZ, B. Learning clinically useful information from images: past, present and future. [S.l.]: Elsevier, 2016.
• CHARTRAND, G. et al. Deep learning: a primer for radiologists. Radiographics, Radiological Society of North America, v. 37, n. 7, p. 2113–2131, 2017.
• MAZUROWSKI, M. A. et al. Deep learning in radiology: An overview of the concepts and a survey of the state of the art with focus on mri. Journal of magnetic resonance imaging, Wiley Online Library, v. 49, n. 4, p. 939–954, 2019.
• MCBEE, M. P. et al. Deep learning in radiology. Academic radiology, Elsevier, v. 25, n. 11, p. 1472–1480, 2018.
• SAVADJIEV, P. et al. Demystification of ai-driven medical image interpretation: past, present and future. European radiology, Springer, v. 29, n. 3, p. 1616–1624, 2019.
• THRALL, J. H. et al. Artificial intelligence and machine learning in radiology: opportunities, challenges, pitfalls, and criteria for success. Journal of the American College of Radiology, Elsevier, v. 15, n. 3, p. 504–508, 2018.
• LITJENS, G. et al. A survey on deep learning in medical image analysis. Medical image analysis, Elsevier, v. 42, p. 60–88, 2017.
• BECKER, A. S. et al. Deep learning in mammography: diagnostic accuracy of a multipurpose image analysis software in the detection of breast cancer. Investigative radiology, LWW, v. 52, n. 7, p. 434–440, 2017.
• KOOI, T. et al. Large scale deep learning for computer aided detection of mammographic lesions. Medical image analysis, Elsevier, v. 35, p. 303–312, 2017.
• DROZDZAL, M. et al. Learning normalized inputs for iterative estimation in medical image segmentation. Medical image analysis, Elsevier, v. 44, p. 1–13, 2018.
• HAVAEI, M. et al. Deep learning trends for focal brain pathology segmentation in mri. In: Machine Learning for Health Informatics. [S.l.]: Springer, 2016. p. 125–148.
• ANTHIMOPOULOS, M. et al. Lung pattern classification for interstitial lung diseases using a deep convolutional neural network. IEEE transactions on medical imaging, IEEE, v. 35, n. 5, p. 1207–1216, 2016.
• SHIN, H.-C. et al. Interleaved text/image deep mining on a very large-scale radiology database. In: Proceedings of the IEEE conference on computer vision and pattern recognition. [S.l.: s.n.], 2015. p. 1090–1099.
• BENGIO, Y. Learning deep architectures for AI. [S.l.]: Now Publishers Inc, 2009.
• RUSSAKOVSKY, O. et al. Imagenet large scale visual recognition challenge. International journal of computer vision, Springer, v. 115, n. 3, p. 211–252, 2015.
• SCHMIDHUBER, J. Deep learning in neural networks: An overview. Neural networks, Elsevier, v. 61, p. 85–117, 2015.
• MAZUROWSKI, M. A. et al. Deep learning in radiology: an overview of the concepts and a survey of the state of the art. arXiv preprint arXiv:1802.08717, 2018.
• LUNDERVOLD, A. S.; LUNDERVOLD, A. An overview of deep learning in medical imaging focusing on mri. Zeitschrift für Medizinische Physik, Elsevier, v. 29, n. 2, p.102–127, 2019.
• CARUANA, R. Multitask learning. Machine learning, Springer, v. 28, n. 1, p. 41–75, 1997.
• BENGIO, Y. Deep learning of representations for unsupervised and transfer learning. In: Proceedings of ICML workshop on unsupervised and transfer learning. [S.l.: s.n.], 2012. p. 17–36.
• RAZAVIAN, A. S. et al. Cnn features off-the-shelf: an astounding baseline for recognition. In: Proceedings of the IEEE conference on computer vision and pattern recognition workshops. [S.l.: s.n.], 2014. p. 806–813.
• OQUAB, M. et al. Learning and transferring mid-level image representations using convolutional neural networks. In: Proceedings of the IEEE conference on computer vision and pattern recognition. [S.l.: s.n.], 2014. p. 1717–1724.
• LU, S.; LU, Z.; ZHANG, Y.-D. Pathological brain detection based on alexnet and transfer learning. Journal of computational science, Elsevier, v. 30, p. 41–47, 2019.
• LAKHANI PARAS E SUNDARAM, B. Aprendizado profundo em radiografia de tórax: classificação automatizada da tuberculose pulmonar usando redes neurais convolucionais. Radiology, Sociedade Radiológica da América do Norte, v. 284, n. 2, p. 574–582.
• KRIZHEVSKY, A.; SUTSKEVER, I.; HINTON, G. E. Imagenet classification with deep convolutional neural networks. In: Advances in neural information processing systems. [S.l.: s.n.], 2012. p. 1097–1105.
• SZEGEDY, C. et al. Going deeper with convolutions. In: Proceedings of the IEEE conference on computer vision and pattern recognition. [S.l.: s.n.], 2015. p. 1–9.