기억의 기록(나의 기기)

AN IMAGE IS WORTH 16X16 WORDS: TRANSFORMERS FOR IMAGE RECOGNITION AT SCALE안녕하세요, 데이터 과학 전공하고 있는 황경하입니다.오늘은 저번 시간에 Transformer에 대해 공부했기 때문에 이를 Vision 분야에 접목한 Vision Transformer에 대해 공부해보려 합니다. 데이터를 구하기 비교적 쉬워진 지금 시점에서는 데이터만 더 많다면 기존 모델보다 더 좋은 성능을 보일 수 있다고 한다면, 그 모델은 각광을 받을 것입니다. 오늘 읽을 논문인 ViT(Vision Transformer)는 데이터 수가 많을 때 SOTA 모델보다 더 뛰어난 성능을 보인 논문입니다. * 리뷰할 논문: https://arxiv.org/pdf/2010.11929/..

Attention Is All You Need안녕하세요, 데이터 과학 전공하고 있는 황경하입니다.오늘은 Transformer 모델의 기초가 되는 Attention과 Self-Attention에 대한 내용을 공부하고, Transformer 모델의 아키텍처를 분석해보려 합니다. Transformer는 LLM 뿐 아니라 Vision 영역에서도 매우 좋은 성능을 보이고 있기에 이젠 영역 상관없이 관심을 가지고 연구해봐야 할 모델이라고 생각합니다. * 리뷰할 논문: https://proceedings.neurips.cc/paper/2017/hash/3f5ee243547dee91fbd053c1c4a845aa-Abstract.html Attention is All you NeedRequests for name cha..

[Computer Vision] A semi-supervised multi-task learning framework for cancer classification with weak annotation in whole-slide images안녕하세요, 데이터 과학 전공하고 있는 황경하입니다.오늘은 지난 포스팅에 이어 딥러닝이 병리학적 데이터에 적용된 논문을 살펴보겠습니다. 본 논문은 다른 논문과 달리 Supervised-Learning 방식이 아닌 Semi-Supervised Learning 방식으로 진행하는 Multi-task Learning이라는 점을 눈여겨볼 필요가 있습니다. *리뷰할 논문: https://www.sciencedirect.com/science/article/pii/S136184152..

[Computer Vision] The Application of Deep Learning in Cancer Prognosis Prediction안녕하세요, 데이터 과학 전공하고 있는 황경하입니다.오늘은 지난 포스팅에 이어 딥러닝이 병리학적 데이터에 적용된 논문을 살펴보겠습니다. 본 논문은 이전에 진행되었던 여러 논문들을 요약한 리뷰 논문입니다. * 리뷰할 논문: https://www.mdpi.com/2072-6694/12/3/603 (IF: 6.1) The Application of Deep Learning in Cancer Prognosis PredictionDeep learning has been applied to many areas in health care, including imaging d..

[Computer Vision] Deep learning in histopathology: the path to the clinic안녕하세요, 데이터 과학 전공하고 있는 황경하입니다.최근에 병리학적 데이터 (TCGA)에 딥러닝이 적용된 연구들을 살펴보고 있습니다. 따라서, 이번 블로깅에서도 그중 하나인 논문을 리뷰해 보겠습니다. * 리뷰할 논문: https://www.nature.com/articles/s41591-021-01343-4 (Impact Factor: 58.7)* 해당 글에 첨부된 사진들은 모두 위 논문에서 발췌한 것임을 미리 밝힙니다.* 해당 글에 설명은 논문을 기반으로 한 주관적 해석이므로 틀린 부분이 있다면, 댓글로 지적 부탁드립니다!# Abstract병리학적 이미지 (MRI, CT 등..

[Computer Vision] GastroVRG: Enhancing early screening in gastrointestinal health via advanced transfer features안녕하세요, 데이터 과학 전공하고 있는 황경하입니다.오늘은 위암 조기 진단을 위한 GastroVRG 구조를 제안한 논문에 대해 리뷰해보려 합니다. 최근에 위암 조기 진단에 관한 논문들을 찾아보고 있는데, 종류가 너무 많더라고요. 여러 기법들이 있는데, 하나씩 좀 살펴보고 있습니다. 오늘도 시작해 보겠습니다. * 리뷰할 논문: https://www.sciencedirect.com/science/article/pii/S2667305324000747 GastroVRG: Enhancing early screenin..

[Computer Vision] Dice, Jaccard Index 정의 및 차이점안녕하세요, 데이터과학 전공하고 있는 황경하입니다.오늘은 이전에 Semantic Segmentation 논문 리뷰에서 나왔던 평가 지표인 Dice, Jaccard Index에 대해 이야기해 보겠습니다. 이런 분할 태스크에 정말 많이 사용되는 지표임과 동시에 두 개념이 매우 유사하기에 차이점을 확실히 정리해 두는 것이 필요할 것 같아 블로깅하게 되었습니다. # 어디에 사용하는데?우선, Metrics를 공부하기 이전에 어디에 사용되는지를 알아야 적용할 수 있겠죠. Dice, Jaccard Index는 Object Detection, Semantic Segmentation, .. 등 이미지 내에서 특정 영역의 위치를 예측 혹은 ..

[Segmantic Segmentation] EfficientNetB0 cum FPN Based Semantic Segmentation of Gastrointestinal Tract Organs in MRI Scans안녕하세요, 데이터 과학 전공하고 있는 황경하입니다.오늘은 컴퓨터 비전 영역에서 많은 연구가 이루어지고 있는 의미론적 분할 (Semantic Segmentation) 논문에 대해 리뷰해보려 합니다. 최근에 위암 조기 진단에 관한 논문들을 찾아보고 있는데, 종류가 너무 많더라고요. 저번에는 Attention 모듈을 사용한 논문을 리뷰했는데, 이번에는 EfficientNet과 FPN 구조를 적용하여 Segmentation을 수행한 논문을 리뷰해보려 합니다.  * 리뷰할 논문: https://ww..

[Segmantic Segmentation] Deep learning for classification and localization of early gastric cancer in endoscopic images안녕하세요, 데이터 과학 전공하고 있는 황경하입니다.오늘은 컴퓨터 비전 영역에서 많은 연구가 이루어지고 있는 의미론적 분할 (Semantic Segmentation) 논문에 대해 리뷰해보려 합니다. 최근에 위암 조기 진단에 관한 논문들을 찾아보고 있는데, 그중에 Attention 모듈을 도입한 논문들이 많더라고요. 그래서, 오늘은 Attention 모듈을 이용하며, 성능 또한 SOTA보다 높게 달성한 두 가지 모델을 제안하는 논문을 리뷰해 볼까 합니다. * 리뷰할 논문: https://www.s..

Super Resolution 구현 - SRGAN안녕하세요, 데이터과학을 전공하고 있는 황경하입니다. 오늘은 저번에 이어 프로젝트로 진행하고 있는 Super Resolution에 대해 이야기해 보겠습니다. 저번에는 SRCNN의 논문을 읽고 직접 구현해 보며 결과를 살펴봤습니다. 그리고, Fine-Tuning을 통해 성능을 개선시킨다는 계획도 밝혔었죠. 하지만, 계획이 바뀌었습니다. 자료를 찾아보니, GAN 모델을 활용한 Super Resolution의 결과가 일반적으로 CNN계열 모델(SRCNN, FSRCNN 등)의 결과보다 정성적인 평가에서 더 좋다고 알려져 있더라고요. 저희는 정해진 기간 동안 빠르게 결과를 내야 하는 프로젝트이기 때문에 CNN 모델들을 과감히 포기하고, GAN 모델 구현을 시작했습니..