DenseNet은 ResNet 아이디어의 연장선에 있으며 Dense Block을 제안하고 있다.
Dense Block 내에서는 ResNet과 같이 Pre-Activation 구조 (BN-ReLU-Conv)구조를 사용한다.
ResNet은 이전 특징 맵을 합하는 것이라면 DenseNet은 이전 특징 맵에 누적해서 Concatenate하는 결과와 같다.
레이어가 깊어지면서 연산량이 급격히 증가하는 것을 막기 위해 1x1 Conv를 이용한 Bottleneck Layer를 사용하였다.
