๐Ÿ“

1์ฃผ์ฐจ ์ธ์Šคํƒ€๊ทธ๋žจ ํฌ์ŠคํŠธ (1)

ย 
page 1.
notion image
์•ŒํŒŒ๋ฒณ๋งŒ์„ ํ•™์Šตํ•ด์„œ ๋ฌธ์„œ๋ฅผ ๋ถ„๋ฅ˜ํ•ด๋‚ด๋Š” ์ธ๊ณต์ง€๋Šฅ
*๊ธฐํƒ€ ์ œ๋ชฉ ํ›„๋ณด (?)
  1. ์•ŒํŒŒ๋ฒณ๋งŒ ์ฝ๊ณ ๋„ ๋ฌธ์„œ๋ฅผ ๋ถ„๋ฅ˜ํ•ด๋‚ด๋Š” ์ธ๊ณต์ง€๋Šฅ
  1. ์•ŒํŒŒ๋ฒณ๋งŒ ๋ณด๊ณ  ๋ฌธ์„œ๋ฅผ ๋ถ„๋ฅ˜ํ•ด๋‚ด๋Š” 1์ฐจ์› CNN์˜ ํž˜
  1. ๋‹จ์–ด๊ฐ€ ์•„๋‹Œ, ์•ŒํŒŒ๋ฒณ์œผ๋กœ! RNN์ด ์•„๋‹Œ, CNN์œผ๋กœ! ๋ฌธ์„œ ๋ถ„๋ฅ˜ํ•˜๊ธฐ
  1. ๋ฌธ์„œ๋ฅผ ๋ถ„๋ฅ˜ํ•ด๋ณด์ž ๋‹จ์–ด๋ณด๋‹ค๋Š” ์•ŒํŒŒ๋ฒณ์œผ๋กœ! RNN์ด ์•„๋‹Œ CNN์œผ๋กœ!
ย 

page 2.
notion image
2016๋…„ 3๋ช…์˜ ์—ฐ๊ตฌ์ง„์ด ๋‹จ์–ด๊ฐ€ ์•„๋‹Œ ์•ŒํŒŒ๋ฒณ์œผ๋กœ ๋ฌธ์„œ๋ฅผ ๋ถ„๋ฅ˜ํ•˜๋Š” ์ธ๊ณต์ง€๋Šฅ์— ๊ด€ํ•œ ๋…ผ๋ฌธ์„ ๋ฐœํ‘œํ–ˆ๋‹ค.
ย 

page 3.
๋ณธ ๋…ผ๋ฌธ์€ ๋ฌธ์„œ ๋ถ„๋ฅ˜๋ฅผ ์œ„ํ•ด ์•„๋ž˜์™€ ๊ฐ™์€ ์ƒˆ๋กœ์šด ์ ‘๊ทผ์„ ์‹œ๋„ํ–ˆ๋‹ค.
  1. ํ…์ŠคํŠธ์— ํ”ํžˆ ์‚ฌ์šฉํ•˜๋Š” RNN์ด ์•„๋‹Œ CNN์„ ์‚ฌ์šฉ
2) ์ž…๋ ฅ๊ฐ’์˜ ์ตœ์†Œ๋‹จ์œ„๋กœ ๋‹จ์–ด ๋Œ€์‹  ์•ŒํŒŒ๋ฒณ์„ ์‚ฌ์šฉ
ย 

page 4.
1) 1D CNN (1- Dimensional Convolutional Neural Network)
notion image
1์ฐจ์› CNN์€ ํ•„ํ„ฐ๊ฐ€ ๋ฐ์ดํ„ฐ๋ฅผ ๋”ฐ๋ผ ํ•œ ์ถ•์œผ๋กœ ์ด๋™ํ•˜๊ธฐ ๋•Œ๋ฌธ์— ํšจ๊ณผ์ ์œผ๋กœ ํ…์ŠคํŠธ ๋ถ„์„์„ ์ˆ˜ํ–‰ํ•  ์ˆ˜ ์žˆ๋‹ค.
  • CNN: ์ž…๋ ฅ๋ฐ์ดํ„ฐ์— ํ•„ํ„ฐ๋ฅผ ์ ์šฉํ•˜์—ฌ ๋ฐ์ดํ„ฐ์˜ ํŠน์ง•์„ ์ถ”์ถœํ•˜๋Š” ๊ธฐ๋ฒ•
ย 

page 5.
2) ์•ŒํŒŒ๋ฒณ์˜ ๋ฒกํ„ฐํ™”
notion image
๊ธฐ์กด ์—ฐ๊ตฌ๋“ค์€ ๋‹จ์–ด๋ฅผ ์ค‘์‹ฌ์œผ๋กœ ๋ฒกํ„ฐํ™”๋ฅผ ์‹œ์ผฐ์ง€๋งŒ,
๋ณธ ๋…ผ๋ฌธ์—์„œ๋Š” ๋” rawํ•œ ์ˆ˜์ค€์˜ ์•ŒํŒŒ๋ฒณ์„ ๋ฒกํ„ฐํ™”์‹œ์ผฐ๋‹ค.
  • ๋ฒกํ„ฐํ™” : ๋‹จ์–ด๋ฅผ ์ปดํ“จํ„ฐ๊ฐ€ ์ดํ•ดํ•  ์ˆ˜ ์žˆ๋Š” ๋ฒกํ„ฐ๋กœ ๋ณ€ํ™˜
ย 

page 6.
notion image
์•ŒํŒŒ๋ฒณ ์ˆ˜์ค€์œผ๋กœ ๋ฒกํ„ฐํ™” ๋œ ๋ฐ์ดํ„ฐ์™€ CNN์„ ํ™œ์šฉํ•ด ๋ชจ๋ธ์„ ํ•™์Šต์‹œ์ผœ ๋ฌธ์„œ๋ฅผ ๋ถ„๋ฅ˜ํ•œ๋‹ค.
ย 

page 7.
ํ…์ŠคํŠธ์— CNN์„ ์ ์šฉํ•˜๋ฉด ํ†ต์‚ฌ, ์˜๋ฏธ๊ตฌ์กฐ์— ๋Œ€ํ•œ ์ง€์‹ ์—†์ด
์•ฝ๊ฐ„์˜ ์ˆ˜์ •์œผ๋กœ๋„ ์—ฌ๋Ÿฌ ์–ธ์–ด์— ์ ์šฉ๋  ์ˆ˜ ์žˆ๋‹ค.
๋˜ํ•œ ์˜คํƒˆ์ž, ์ด๋ชจํ‹ฐ์ฝ˜ ๋“ฑ์— ๊ฐ•ํ•˜๋‹ค๋Š” ์žฅ์ ์ด ์กด์žฌํ•œ๋‹ค
ย 

page 8.
notion image
๊ทธ๋Ÿฌ๋‚˜ ์ด๋Ÿฌํ•œ ์žฅ์ ์—๋„ ๋ถˆ๊ตฌํ•˜๊ณ  ํ•œ๊ณ„๊ฐ€ ์กด์žฌํ–ˆ๋‹ค.
๋ฐ์ดํ„ฐ์…‹์˜ ํฌ๊ธฐ๋‚˜ ๋Œ€์†Œ๋ฌธ์ž ๊ตฌ๋ณ„ ์—ฌ๋ถ€์— ๋”ฐ๋ผ ๋ชจ๋ธ์˜ ์„ฑ๋Šฅ์ด ๋‹ฌ๋ผ์กŒ๊ธฐ ๋•Œ๋ฌธ์—,
์‹คํ—˜์„ ํ†ตํ•ด ๋ฐ์ดํ„ฐ์…‹์— ๊ฐ€์žฅ ์ ํ•ฉํ•œ ๋ชจ๋ธ์„ ์ฐพ์•„์•ผ ํ•œ๋‹ค.
ย 

page 9.
notion image
๊ทธ๋Ÿผ์—๋„ ์ด ์—ฐ๊ตฌ๋Š” ๋งŽ์€ ์˜์˜๋ฅผ ์ง€๋‹Œ๋‹ค.
์ž์—ฐ์–ด์ฒ˜๋ฆฌ๋ฅผ ์œ„ํ•ด ๋‹จ์–ด ๊ธฐ๋ฐ˜์˜ CNN์„ ์‚ฌ์šฉํ•˜๋˜ ๊ธฐ์กด ๋ฐฉ์‹์„ ๋ฒ—์–ด๋‚˜
์•ŒํŒŒ๋ฒณ์„ ํ†ตํ•ด ๊ทผ๋ณธ์ ์ธ ์–ธ์–ด ๊ตฌ์กฐ์˜ ํŠน์ง•์„ ์ถ”์ถœํ•˜๊ณ ์ž ํ•œ ์ตœ์ดˆ์˜ ์—ฐ๊ตฌ์ด๊ธฐ ๋•Œ๋ฌธ์ด๋‹ค.
ย 


page 10.

character cnn์— ๋Œ€ํ•ด ๋” ์•Œ์•„๋ณด๊ณ  ์‹ถ๋‹ค๋ฉด?

๋…ผ๋ฌธ

Word-based ConvNets <Convolutional Neural Networks for Sentence Classification>
CNN in NLP <Character-level Convolutional Networks for Text Classification>
๊ด€๋ จ ๊ฐœ๋…
# NLP ์ž์—ฐ์–ด ์ฒ˜๋ฆฌ
# CNN ํ•ฉ์„ฑ๊ณฑ ์‹ ๊ฒฝ๋ง
# Text Classification ๋ฌธ์„œ ๋ถ„๋ฅ˜