KUBIG 2023-2 활동 블로그

DETR은 ECCV2020에 publish된 논문으로, ViT와 더불어 transformer 철학을 Vision task에 최초로 적용한 논문이다. 본 논문을 이해하기 위해서는 Attention Is All You Need (A.Vaswani et al.)를 정확히 이해하는 것이 필요하겠지만, Vanilla Transformer의 경우 NLP task를 해결하기 위해 제안된 아키텍쳐임으로 해당 내용에 대한 공부는 독자에게 맡겨두겠다. DETR의 main contribution은 global context-aware하게 object를 detect할 수 있는 end-to-end 모델이란 점이다. 다음으로 본 모델의 notable한 특징들을 몇 가지 살펴보자. 1. 무엇보다도 transformer의 철학을 가..

2023 Summer Session/CV Team 3 2023. 7. 20. 17:21

# Abstract 고차원의 매개변수와 노이즈가 있는 objective function과 관련하여 최적화 기법이 요구되어 왔으며 본 논문은 이에 대한 답으로 Adam을 제시한다. Adam의 개념과 알고리즘 그리고 Adam과 관련 있는 알고리즘 – AdaGrad, RMS PROP 과 더불어 infinity norm을 기반으로 변형된 형태인 AdaMax 또한 본 논문에서 다루고 있다. Adam 은 2개의 *lower-order moments의 추정치를 기반으로 *stochastic objective functions을 *first-order gradient-based로 최적화하는 알고리즘이다. 해당 알고리즘은 구현이 쉽고, 효율적인 계산으로 메모리 요구사항이 거의 없다. 또한 *gradient의 diagon..

2023 Summer Session/DL 2023. 7. 20. 13:56

Overview of mini-batch gradient descent The error surface for a linear neuron * error surface는 각 weight를 horizontal axis, error를 vertical axis로 두는 공간에 있음 => quadratic bowl모양으로, vertical cross-section은 parabolas(포물선), horizontal cross-section은 ellipses(타원)형으로 나온다. * multi-layer이며 non-linear인 net들의 error surface는 더 복잡하지만 보통 quadratic bowl로 좋은 예측이 가능하다. * Learning rate가 클 경우 진폭이 튀게된다 -> 빠르게 움직이지만 작..

2023 Summer Session/DL 2023. 7. 20. 13:26

Abstract bounding box 와 class 확률에 대한 회귀를 이용한 single network. end-to-end 빠르다. sota 모델보다 더 많은 위치 오류를 만들지만 배경인데 object로 잘못 예측할 확률은 낮아짐. Introduction 이전의 detection 모델들 1) DPM(Deformable Parts Model) : sliding window 2) R-CNN : localization과 classification 파트가 분리 되어 있는 2-stage-detector (1. Region Proposal을 통해 Object가 있을법한 영역을 찾고, 2. CNN으로 각각의 영역으로부터 고정된 크기의 Feature Vector를 뽑아낸 후, Classification 진행) 느..

2023 Summer Session/CV Team 2 2023. 7. 20. 00:00

작성자 : 17기 임청수 Object Detection은 Region Proposal의 속도, 성능 개선에 따라 발전되고 있다. faster R-CNN은 RPN으로 Region Proposal을 개선했다. RPN은 detection network의 feature를 공유하면서 cost-free가 된다. 이를 통해 1) end to end 학습 2) region proposal의 gpu 연산 3) network 학습을 detection과 공유하는 등 총 3가지 이점에 따라 성능 및 속도 개선해냈다. 1. Introduction Background 최근 객체 탐지의 발전은 영역 제안(region proposal) 최적화에 달려 있습니다. Fast R-CNN도 Real time에 가까운 속도를 보였지만 영역 제..

2023 Summer Session/CV Team 3 2023. 7. 19. 23:49

YOLO 2-Stage Detector 물체의 위치를 찾는 문제(localization)와 분류 문제(classification)을 순차적으로 해결 1-Stage Detector 물체의 위치를 찾는 문제와 분류 문제를 한 번에 해결 YOLO가 대표적 YOLO(version 1) 이미지를 input 으로 받고 SxS grid cells로 나누고 각 cell마다 하나의 개체를 예측한다. 미리 설정된 개수(N개)의 boundary boxes를 통해 객체의 위치와 크기를 파악한다. 이때, 각 cell마다 하나의 객체만을 예측할 수 있기 때문에 여러 개체가 겹쳐있으면 몇몇의 개체는 탐지를 못할 수 있다. yolo모델 작동과정 grid cell 각 cell 마다 위와 같은 값들을 가진다. 각 셀은 B개의 Bbox를..

2023 Summer Session/CV Team 3 2023. 7. 19. 23:08

Object detection frame을 변화시킨 논문 Classification + Regression의 2-steps network ▶ Single Regression problem의 Single network 이미지로부터 신경망으로 한 번에 detection 처리 → You Only Look Once ! 특징 single convolution network가 multiple bounding boxes + class probabilities 동시에 예측한다. 전체 이미지를 직접적으로 학습한다. → Unified model - Extremely Fast: real-time detection 가능 - Reasons globally: background error 감소 - Generalizable: 새로..

2023 Summer Session/CV Team 1 2023. 7. 19. 14:56

작성자 : 17기 문성빈 1. Introduction YOLO는 input image를 CNN으로 받아서 bbox와 그 class를 예측하는 object detection의 1-stage detector이다. 이 과정 이후 NMS(Non-max suppression)을 진행한 후 최종 bounding box를 예측한다. 1-stage Detector로, end-to-end training으로 진행된다. 그 과정은 위와 같이 진행된다. 2. Unified Detection S x S grid로 input image를 분할 후, object의 중심이 grid cell과 일치하면 object를 detect했다고 판단한다. 각 grid cell에서 bbox와 그들의 confidence score를 구하고, C개..

2023 Summer Session/CV Team 1 2023. 7. 19. 03:37