/self-supervised-learning-narratives-1

거꾸로 읽는 self-supervised learning 파트 1

[스터디 종료] 거꾸로 읽는 self-supervised-learning 파트1

  • 정말 세상에 좋은 모델이 너무 많고, 유명한 논문도 너무 많습니다.
  • 우리는 현시점에서 지난 2년간 정말 역사적으로 의미가 있었던 self-supervised learning 논문을 다시 봅니다.
  • 해당 논문에서 제시하는 메소드의 특징 그리고 역사적으로 평가되는 이유에 대해서 즐겁게 토론하는 시간을 가집니다.
  • 우리가 매주 모이는 zoom link

기간

  • 2022년 4월 16일 ~ 2022년 06월 04일
  • 오전 10시30분 ~ 오후 12시

발표 논문 및 순서

google sheet

Representation learning for clustering

paper title 논문 발표 코드 분석
1주차 DEC: Unsupervised Deep Embedding for Clustering Analysis 강재욱 강재욱
2주차 DAC: Deep Adaptive Image Clustering (논문리뷰영상), (코드리뷰영상) 김건 김세용
3주차 DeepClustering: Deep Clustering for Unsupervised Learning of Visual Features (논문리뷰영상), (코드리뷰영상) 김효실 김희은

Representation learning 코어 기술

paper title 논문 발표 코드 분석
4주차 VQ-VAE: Neural Discrete Representation Learning (논문리뷰영상) 김기범 황중원
5주차 CPC v1: Representation Learning with Contrastive Predictive Coding (논문리뷰영상), (코드리뷰영상) 정두해 김세용

Instance-level contrastive learning

paper title 논문 발표 코드 분석
6주차 MoCo v1: Momentum Contrast for Unsupervised Visual Representation Learning (논문리뷰영상) 오진우
7주차 SwAV: Unsupervised Learning of Visual Features by Contrasting Cluster Assignments (논문리뷰영상) 박성훈

Self-supervised learning withtout negative examples

paper title 논문 발표 코드 분석
8주차 SimCLR: A Simple Framework for Contrastive Learning of Visual Representations (논문리뷰영상), (코드리뷰영상) 이영수 이동형
9주차 warp-up 강재욱

관련 링크