ย
page 1.
์ํ๋ฒณ๋ง์ ํ์ตํด์ ๋ฌธ์๋ฅผ ๋ถ๋ฅํด๋ด๋ ์ธ๊ณต์ง๋ฅ
*๊ธฐํ ์ ๋ชฉ ํ๋ณด (?)
- ์ํ๋ฒณ๋ง ์ฝ๊ณ ๋ ๋ฌธ์๋ฅผ ๋ถ๋ฅํด๋ด๋ ์ธ๊ณต์ง๋ฅ
- ์ํ๋ฒณ๋ง ๋ณด๊ณ ๋ฌธ์๋ฅผ ๋ถ๋ฅํด๋ด๋ 1์ฐจ์ CNN์ ํ
- ๋จ์ด๊ฐ ์๋, ์ํ๋ฒณ์ผ๋ก! RNN์ด ์๋, CNN์ผ๋ก! ๋ฌธ์ ๋ถ๋ฅํ๊ธฐ
- ๋ฌธ์๋ฅผ ๋ถ๋ฅํด๋ณด์ ๋จ์ด๋ณด๋ค๋ ์ํ๋ฒณ์ผ๋ก! RNN์ด ์๋ CNN์ผ๋ก!
ย
page 2.
2016๋
3๋ช
์ ์ฐ๊ตฌ์ง์ด ๋จ์ด๊ฐ ์๋ ์ํ๋ฒณ์ผ๋ก ๋ฌธ์๋ฅผ ๋ถ๋ฅํ๋ ์ธ๊ณต์ง๋ฅ์ ๊ดํ ๋
ผ๋ฌธ์ ๋ฐํํ๋ค.
ย
page 3.
๋ณธ ๋
ผ๋ฌธ์ ๋ฌธ์ ๋ถ๋ฅ๋ฅผ ์ํด ์๋์ ๊ฐ์ ์๋ก์ด ์ ๊ทผ์ ์๋ํ๋ค.
- ํ ์คํธ์ ํํ ์ฌ์ฉํ๋ RNN์ด ์๋ CNN์ ์ฌ์ฉ
2) ์
๋ ฅ๊ฐ์ ์ต์๋จ์๋ก ๋จ์ด ๋์ ์ํ๋ฒณ์ ์ฌ์ฉ
ย
page 4.
1) 1D CNN (1- Dimensional Convolutional Neural Network)
1์ฐจ์ CNN์ ํํฐ๊ฐ ๋ฐ์ดํฐ๋ฅผ ๋ฐ๋ผ ํ ์ถ์ผ๋ก ์ด๋ํ๊ธฐ ๋๋ฌธ์ ํจ๊ณผ์ ์ผ๋ก ํ
์คํธ ๋ถ์์ ์ํํ ์ ์๋ค.
- CNN: ์ ๋ ฅ๋ฐ์ดํฐ์ ํํฐ๋ฅผ ์ ์ฉํ์ฌ ๋ฐ์ดํฐ์ ํน์ง์ ์ถ์ถํ๋ ๊ธฐ๋ฒ
ย
page 5.
2) ์ํ๋ฒณ์ ๋ฒกํฐํ
๊ธฐ์กด ์ฐ๊ตฌ๋ค์ ๋จ์ด๋ฅผ ์ค์ฌ์ผ๋ก ๋ฒกํฐํ๋ฅผ ์์ผฐ์ง๋ง,
๋ณธ ๋
ผ๋ฌธ์์๋ ๋ rawํ ์์ค์ ์ํ๋ฒณ์ ๋ฒกํฐํ์์ผฐ๋ค.
- ๋ฒกํฐํ : ๋จ์ด๋ฅผ ์ปดํจํฐ๊ฐ ์ดํดํ ์ ์๋ ๋ฒกํฐ๋ก ๋ณํ
ย
page 6.
์ํ๋ฒณ ์์ค์ผ๋ก ๋ฒกํฐํ ๋ ๋ฐ์ดํฐ์ CNN์ ํ์ฉํด ๋ชจ๋ธ์ ํ์ต์์ผ ๋ฌธ์๋ฅผ ๋ถ๋ฅํ๋ค.
ย
page 7.
ํ
์คํธ์ CNN์ ์ ์ฉํ๋ฉด ํต์ฌ, ์๋ฏธ๊ตฌ์กฐ์ ๋ํ ์ง์ ์์ด
์ฝ๊ฐ์ ์์ ์ผ๋ก๋ ์ฌ๋ฌ ์ธ์ด์ ์ ์ฉ๋ ์ ์๋ค.
๋ํ ์คํ์, ์ด๋ชจํฐ์ฝ ๋ฑ์ ๊ฐํ๋ค๋ ์ฅ์ ์ด ์กด์ฌํ๋ค
ย
page 8.
๊ทธ๋ฌ๋ ์ด๋ฌํ ์ฅ์ ์๋ ๋ถ๊ตฌํ๊ณ ํ๊ณ๊ฐ ์กด์ฌํ๋ค.
๋ฐ์ดํฐ์
์ ํฌ๊ธฐ๋ ๋์๋ฌธ์ ๊ตฌ๋ณ ์ฌ๋ถ์ ๋ฐ๋ผ ๋ชจ๋ธ์ ์ฑ๋ฅ์ด ๋ฌ๋ผ์ก๊ธฐ ๋๋ฌธ์,
์คํ์ ํตํด ๋ฐ์ดํฐ์
์ ๊ฐ์ฅ ์ ํฉํ ๋ชจ๋ธ์ ์ฐพ์์ผ ํ๋ค.
ย
page 9.
๊ทธ๋ผ์๋ ์ด ์ฐ๊ตฌ๋ ๋ง์ ์์๋ฅผ ์ง๋๋ค.
์์ฐ์ด์ฒ๋ฆฌ๋ฅผ ์ํด ๋จ์ด ๊ธฐ๋ฐ์ CNN์ ์ฌ์ฉํ๋ ๊ธฐ์กด ๋ฐฉ์์ ๋ฒ์ด๋
์ํ๋ฒณ์ ํตํด ๊ทผ๋ณธ์ ์ธ ์ธ์ด ๊ตฌ์กฐ์ ํน์ง์ ์ถ์ถํ๊ณ ์ ํ ์ต์ด์ ์ฐ๊ตฌ์ด๊ธฐ ๋๋ฌธ์ด๋ค.
ย
page 10.
character cnn์ ๋ํด ๋ ์์๋ณด๊ณ ์ถ๋ค๋ฉด?
๋ ผ๋ฌธ
Word-based ConvNets <Convolutional Neural Networks for Sentence Classification>
CNN in NLP <Character-level Convolutional Networks for Text Classification>
๊ด๋ จ ๊ฐ๋
# NLP ์์ฐ์ด ์ฒ๋ฆฌ
# CNN ํฉ์ฑ๊ณฑ ์ ๊ฒฝ๋ง
# Text Classification ๋ฌธ์ ๋ถ๋ฅ