/NLP-study

๐Ÿ‘ฉ๐Ÿปโ€๐Ÿ’ปNLP Paper Reviews Zero to Hundred๐Ÿ‘ฉ๐Ÿปโ€๐Ÿ’ป

โœจNLP-studyโœจ

๐Ÿ‘ฉ๐Ÿปโ€๐Ÿ’ปNLP Paper Reviews Zero to Hundred๐Ÿ‘ฉ๐Ÿปโ€๐Ÿ’ป


1.ํŒ€์› ์†Œ๊ฐœ

AhnYujin Geenie ํžˆ์ก
Github Github Github

2.์Šคํ„ฐ๋”” ๋ชฉ์  ๋ฐ ๋ฐฉํ–ฅ

1)์Šคํ„ฐ๋”” ๋ชฉ์ 

: ์ด ์Šคํ„ฐ๋””๋Š” ์œ„ํ‚ค๋…์Šค-nlp์˜ ๊ณผ์ •์„ ๋”ฐ๋ผ๊ฐ€๋ฉฐ nlp๊ธฐ์ดˆ ์ง€์‹์„ ์Œ“๊ณ , nlp๋ชจ๋ธ๊ณผ ๊ด€๋ จ๋œ ๋…ผ๋ฌธ์„ ์ฝ์œผ๋ฉฐ nlp์— ๊ด€ํ•œ ์ง€์‹์„ ์Œ“๋Š”๊ฒƒ์„ ๋ชฉ์ ์œผ๋กœ ํ•ฉ๋‹ˆ๋‹ค.

2)์Šคํ„ฐ๋”” ๋ฐฉํ–ฅ

  • ๊ฐ ์ธ์›์€ ๋งค์ฃผ ๋งก์€ ๋ถ€๋ถ„์— ๋Œ€ํ•ด ๋ฐœํ‘œ์ž๋ฃŒ๋ฅผ ์ค€๋น„ํ•˜๊ณ , ๋ฐœํ‘œํ•ฉ๋‹ˆ๋‹ค.
  • ๋‚˜๋จธ์ง€ ์ธ์›์€ ๋‹ค๋ฅธ ๋ฐœํ‘œ์ž๊ฐ€ ๋งก์€ ๋ฐœํ‘œ๋ถ€๋ถ„๊นŒ์ง€ ์ตœ์†Œ 1ํšŒ๋… ํ•ด์•ผํ•ฉ๋‹ˆ๋‹ค.
  • ๋ฐœํ‘œ ์ž๋ฃŒ๋ฅผ ์ œ์ž‘ํ•˜๋Š” ์ด์œ : ๊ณต๋ถ€ํ•œ ๋‚ด์šฉ์„ ์ •๋ฆฌํ•˜๋Š” ๊ณผ์ •์„ ํ†ตํ•ด ์ดํ•ดํ•œ ๋‚ด์šฉ์„ ๊ตฌ์กฐํ™” ํ•˜๊ธฐ ์œ„ํ•จ์ž…๋‹ˆ๋‹ค.

3)์Šคํ„ฐ๋”” ๊ธฐ๊ฐ„: 2021.08.05 ~ 2021.

3.์Šคํ„ฐ๋”” ์ผ์ •

๋‚ ์งœ ๋ฐœํ‘œ์ž ๋งก์€ ๋ถ€๋ถ„
8/5 ์•ˆ์œ ์ง„ ์–ธ์–ด ๋ชจ๋ธ & ์นด์šดํŠธ ๊ธฐ๋ฐ˜์˜ ๋‹จ์–ด ํ‘œํ˜„
8/5 ์–‘์œ ์ง„ ํ…์ŠคํŠธ ์ „์ฒ˜๋ฆฌ
8/5 ์„œ๋ฏผ๊ท  ๋ฒกํ„ฐ์˜ ์œ ์‚ฌ๋„ & ํ† ํ”ฝ ๋ชจ๋ธ
8/14 ์•ˆ์œ ์ง„ ์ˆœํ™˜ ์‹ ๊ฒฝ๋ง(RNN & GRU & LSTM)
8/14 ์–‘์œ ์ง„ RNN์„ ์ด์šฉํ•œ ํ…์ŠคํŠธ ๋ถ„๋ฅ˜(BiLSTM)
8/14 ์ตœํฌ์ • Sequence to Sequence Learning with Neural Networks(Paper)
8/24 ์–‘์œ ์ง„ ์›Œ๋“œ์ž„๋ฒ ๋”ฉ & ELMo
8/24 ์ตœํฌ์ • NLP๋ฅผ ์œ„ํ•œ ํ•ฉ์„ฑ๊ณฑ ์‹ ๊ฒฝ๋ง & Word2Vec
8/24 ์•ˆ์œ ์ง„ ํƒœ๊น… ์ž‘์—… & Glove
9/01 ์ตœํฌ์ • ์„œ๋ธŒ์›Œ๋“œ ํ† ํฌ๋‚˜์ด์ €
9/01 ์–‘์œ ์ง„ RNN์„ ์ด์šฉํ•œ ์ธ์ฝ”๋”-๋””์ฝ”๋”
9/01 ์•ˆ์œ ์ง„ ์–ดํ…์…˜ ๋ฉ”์ปค๋‹ˆ์ฆ˜
9/16 ์–‘์œ ์ง„ Transformer
9/16 ์•ˆ์œ ์ง„ BERT
9/16 ์ตœํฌ์ • ํ…์ŠคํŠธ ์š”์•ฝ & ์งˆ์˜ ์‘๋‹ต

4.์Šคํ„ฐ๋”” ๊ทœ์น™

  1. ์–ด๋–ค ์งˆ๋ฌธ์ด๋“  ๊ฐ€๋Šฅํ•ฉ๋‹ˆ๋‹ค.
  2. ์งˆ๋ฌธ์ด ๋‚˜์˜ค๋ฉด ์„œ๋กœ์˜ ์ง€์‹์„ ๊ณต์œ ํ•˜๋ฉฐ, ๋งŒ์•ฝ ๋ชจ๋ฅผ ์‹œ ๋”ฐ๋กœ ์ •๋ฆฌํ•˜๊ณ  ๊ณต์œ ํ•˜์—ฌ ๋‹ค๊ฐ™์ด ์•Œ ์ˆ˜ ์žˆ๋„๋ก ํ•ฉ๋‹ˆ๋‹ค.
  3. ๋ฐœํ‘œ์ž๋ฃŒ๋Š” git์— ์ •๋ฆฌํ•˜์—ฌ ๊ณต์œ ํ•ฉ๋‹ˆ๋‹ค.