Investor's wiki

자연어 처리(NLP)

자연어 처리(NLP)

์ž์—ฐ์–ด ์ฒ˜๋ฆฌ(NLP)๋ž€ ๋ฌด์—‡์ž…๋‹ˆ๊นŒ?

์ž์—ฐ์–ด ์ฒ˜๋ฆฌ(NLP)๋Š” ์ธ๊ณต ์ง€๋Šฅ(AI)์˜ ํ•œ ๋ถ„์•ผ๋กœ ์ปดํ“จํ„ฐ๊ฐ€ ๋ฌธ์ž์™€ ๊ตฌ์–ด์˜ ์ธ๊ฐ„ ์–ธ์–ด๋ฅผ ๋ถ„์„ํ•˜๊ณ  ์ดํ•ดํ•  ์ˆ˜ ์žˆ๋„๋ก ํ•ฉ๋‹ˆ๋‹ค. Java๋‚˜ C์™€ ๊ฐ™์€ ํ”„๋กœ๊ทธ๋ž˜๋ฐ์ด๋‚˜ ์ธ๊ณต์–ด๋ฅผ ํ†ตํ•˜์ง€ ์•Š๊ณ  ์‚ฌ์šฉ์ž๊ฐ€ ์ปดํ“จํ„ฐ์™€ ์ž์—ฐ์Šค๋Ÿฌ์šด ๋Œ€ํ™”๋ฅผ ํ•  ์ˆ˜ ์žˆ๋„๋ก ์ž์—ฐ์–ด๋ฅผ ์ƒ์„ฑํ•˜๊ณ  ์ดํ•ดํ•˜๋Š” ์†Œํ”„ํŠธ์›จ์–ด๋ฅผ ๊ตฌ์ถ•ํ•˜๊ธฐ ์œ„ํ•ด ๊ณต์‹ํ™”๋˜์—ˆ์Šต๋‹ˆ๋‹ค.

์ž์—ฐ์–ด ์ฒ˜๋ฆฌ(NLP) ์ดํ•ดํ•˜๊ธฐ

์ž์—ฐ์–ด ์ฒ˜๋ฆฌ(NLP)๋Š” ๊ธฐ์ˆ  ๋ถ€๋ฌธ, ์ฆ‰ ์ธ๊ณต ์ง€๋Šฅ(AI)์„ ์‚ฌ์šฉํ•˜์—ฌ ์„ธ์ƒ์ด ์ž‘๋™ํ•˜๋Š” ๋ฐฉ์‹์„ ๋‹จ์ˆœํ™”ํ•˜๋Š” ๋” ํฐ ์‚ฌ๋ช…์˜ ํ•œ ๋‹จ๊ณ„์ž…๋‹ˆ๋‹ค. ์ ์  ๋” ๊ธฐ์ˆ ์— ์ •ํ†ตํ•œ ์ธ๊ตฌ๊ฐ€ ์„œ๋กœ ๋ฐ ํšŒ์‚ฌ์™€ ์˜จ๋ผ์ธ์œผ๋กœ ์ƒํ˜ธ ์ž‘์šฉํ•˜๋Š” ์ƒˆ๋กœ์šด ๋ฐฉ๋ฒ•์„ ์ฐพ์Œ์— ๋”ฐ๋ผ ๋””์ง€ํ„ธ ์„ธ๊ณ„๋Š” ๋งŽ์€ ํšŒ์‚ฌ์˜ ํŒ๋„๋ฅผ ๋ฐ”๊พธ๋Š” ๊ฒƒ์œผ๋กœ ์ž…์ฆ๋˜์—ˆ์Šต๋‹ˆ๋‹ค.

์†Œ์…œ ๋ฏธ๋””์–ด๋Š” ์ปค๋ฎค๋‹ˆํ‹ฐ์˜ ์˜๋ฏธ๋ฅผ ์žฌ์ •์˜ํ–ˆ์Šต๋‹ˆ๋‹ค. ์•”ํ˜ธ ํ™”ํ ๋Š” ๋””์ง€ํ„ธ ์ง€๋ถˆ ํ‘œ์ค€์„ ๋ณ€๊ฒฝํ–ˆ์Šต๋‹ˆ๋‹ค. ์ „์ž ์ƒ๊ฑฐ๋ž˜๋Š” ํŽธ์˜์„ฑ์ด๋ผ๋Š” ๋‹จ์–ด์˜ ์ƒˆ๋กœ์šด ์˜๋ฏธ๋ฅผ ๋งŒ๋“ค์—ˆ๊ณ  ํด๋ผ์šฐ๋“œ ์Šคํ† ๋ฆฌ์ง€๋Š” ๋Œ€์ค‘์—๊ฒŒ ๋˜ ๋‹ค๋ฅธ ์ˆ˜์ค€์˜ ๋ฐ์ดํ„ฐ ๋ณด์กด์„ ๋„์ž…ํ–ˆ์Šต๋‹ˆ๋‹ค.

AI๋ฅผ ํ†ตํ•ด ๋จธ์‹  ๋Ÿฌ๋‹ ๋ฐ ๋”ฅ ๋Ÿฌ๋‹๊ณผ ๊ฐ™์€ ๋ถ„์•ผ๋Š” ๋ชจ๋“  ๊ฐ€๋Šฅ์„ฑ์˜ ์„ธ๊ณ„์— ๋ˆˆ์„ ๋œจ๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. ๋จธ์‹  ๋Ÿฌ๋‹์€ ๋น… ๋ฐ์ดํ„ฐ ๋ฅผ ์ดํ•ดํ•˜๊ธฐ ์œ„ํ•ด ๋ฐ์ดํ„ฐ ๋ถ„์„์—์„œ ์ ์  ๋” ๋งŽ์ด ์‚ฌ์šฉ๋˜๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. ๋˜ํ•œ ์ฑ—๋ด‡์„ ํ”„๋กœ๊ทธ๋ž˜๋ฐํ•˜์—ฌ ๊ณ ๊ฐ๊ณผ์˜ ์ธ๊ฐ„ ๋Œ€ํ™”๋ฅผ ์‹œ๋ฎฌ๋ ˆ์ด์…˜ํ•˜๋Š” ๋ฐ ์‚ฌ์šฉ๋ฉ๋‹ˆ๋‹ค. ๊ทธ๋Ÿฌ๋‚˜ ์ด๋Ÿฌํ•œ ๊ธฐ๊ณ„ ํ•™์Šต์˜ ์ „๋ฐฉ ์ ์šฉ์€ ์ž์—ฐ์–ด ์ฒ˜๋ฆฌ(NLP)์˜ ์ฆ‰ํฅ์  ์ฒ˜๋ฆฌ ์—†์ด๋Š” ๋ถˆ๊ฐ€๋Šฅํ•ฉ๋‹ˆ๋‹ค.

์ž์—ฐ์–ด ์ฒ˜๋ฆฌ(NLP) ๋‹จ๊ณ„

NLP๋Š” AI์™€ ์ปดํ“จํ„ฐ ์–ธ์–ดํ•™ ๋ฐ ์ปดํ“จํ„ฐ ๊ณผํ•™์„ ๊ฒฐํ•ฉํ•˜์—ฌ ์ธ๊ฐ„ ๋˜๋Š” ์ž์—ฐ์–ด ๋ฐ ์Œ์„ฑ์„ ์ฒ˜๋ฆฌํ•ฉ๋‹ˆ๋‹ค. ํ”„๋กœ์„ธ์Šค๋Š” ์„ธ ๋ถ€๋ถ„์œผ๋กœ ๋‚˜๋ˆŒ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. NLP์˜ ์ฒซ ๋ฒˆ์งธ ๊ณผ์ œ๋Š” ์ปดํ“จํ„ฐ๊ฐ€ ๋ฐ›๋Š” ์ž์—ฐ์–ด๋ฅผ ์ดํ•ดํ•˜๋Š” ๊ฒƒ์ž…๋‹ˆ๋‹ค. ์ปดํ“จํ„ฐ๋Š” ๋‚ด์žฅ๋œ ํ†ต๊ณ„ ๋ชจ๋ธ์„ ์‚ฌ์šฉํ•˜์—ฌ ์ž์—ฐ์–ด๋ฅผ ํ”„๋กœ๊ทธ๋ž˜๋ฐ ์–ธ์–ด๋กœ ๋ณ€ํ™˜ํ•˜๋Š” ์Œ์„ฑ ์ธ์‹ ๋ฃจํ‹ด์„ ์ˆ˜ํ–‰ํ•ฉ๋‹ˆ๋‹ค. ์ตœ๊ทผ์— ๋“ค์€ ์—ฐ์„ค์„ ์ž‘์€ ๋‹จ์œ„๋กœ ๋‚˜๋ˆˆ ๋‹ค์Œ ์ด ๋‹จ์œ„๋ฅผ ์ด์ „ ์—ฐ์„ค์˜ ์ด์ „ ๋‹จ์œ„์™€ ๋น„๊ตํ•˜์—ฌ ์ด๋ฅผ ์ˆ˜ํ–‰ํ•ฉ๋‹ˆ๋‹ค.

ํ…์ŠคํŠธ ํ˜•์‹์˜ ์ถœ๋ ฅ ๋˜๋Š” ๊ฒฐ๊ณผ๋Š” ๊ฐ€์žฅ ๋งŽ์ด ๋งํ•œ ๋‹จ์–ด์™€ ๋ฌธ์žฅ์„ ํ†ต๊ณ„์ ์œผ๋กœ ๊ฒฐ์ •ํ•ฉ๋‹ˆ๋‹ค. ์ด ์ฒซ ๋ฒˆ์งธ ์ž‘์—…์„ ์Œ์„ฑ-ํ…์ŠคํŠธ ํ”„๋กœ์„ธ์Šค๋ผ๊ณ  ํ•ฉ๋‹ˆ๋‹ค.

๋‹ค์Œ ์ž‘์—…์€ ํ’ˆ์‚ฌ(POS) ํƒœ๊น… ๋˜๋Š” ๋‹จ์–ด ๋ฒ”์ฃผ ๋ช…ํ™•ํ™”๋ผ๊ณ  ํ•ฉ๋‹ˆ๋‹ค. ์ด ๊ณผ์ •์€ ๋ฌธ๋ฒ•์  ํ˜•ํƒœ์˜ ๋‹จ์–ด๋ฅผ ๋ช…์‚ฌ, ๋™์‚ฌ, ํ˜•์šฉ์‚ฌ, ๊ณผ๊ฑฐ ์‹œ์ œ ๋“ฑ์œผ๋กœ ๊ธฐ๋ณธ์ ์œผ๋กœ ์‹๋ณ„ํ•ฉ๋‹ˆ๋‹ค. ์ปดํ“จํ„ฐ์— ์ฝ”๋”ฉ๋œ ์‚ฌ์ „ ๊ทœ์น™ ์ง‘ํ•ฉ์„ ์‚ฌ์šฉํ•ฉ๋‹ˆ๋‹ค. ์ด ๋‘ ๊ฐ€์ง€ ๊ณผ์ •์„ ์ดํ•ดํ•˜๊ณ  ๋‚˜๋ฉด ์ปดํ“จํ„ฐ๋Š” ์ด์ œ ๊ทธ ๋ง์˜ ์˜๋ฏธ๋ฅผ ์ดํ•ดํ•  ์ˆ˜ ์žˆ์„ ๊ฒƒ์ž…๋‹ˆ๋‹ค.

NLP๊ฐ€ ์ทจํ•˜๋Š” ์„ธ ๋ฒˆ์งธ ๋‹จ๊ณ„๋Š” ํ…์ŠคํŠธ๋ฅผ ์Œ์„ฑ์œผ๋กœ ๋ณ€ํ™˜ํ•˜๋Š” ๊ฒƒ์ž…๋‹ˆ๋‹ค. ์ด ๋‹จ๊ณ„์—์„œ ์ปดํ“จํ„ฐ ํ”„๋กœ๊ทธ๋ž˜๋ฐ ์–ธ์–ด๋Š” ์‚ฌ์šฉ์ž๋ฅผ ์œ„ํ•œ ๊ฐ€์ฒญ ๋˜๋Š” ํ…์ŠคํŠธ ํ˜•์‹์œผ๋กœ ๋ณ€ํ™˜๋ฉ๋‹ˆ๋‹ค. ์˜ˆ๋ฅผ ๋“ค์–ด ๊ธˆ์œต ๋‰ด์Šค ์ฑ—๋ด‡์€ "์˜ค๋Š˜ Google์€ ์–ด๋•Œ?"์™€ ๊ฐ™์€ ์งˆ๋ฌธ์„ ๋ฐ›์Šต๋‹ˆ๋‹ค. Google ์ฃผ์‹์— ๋Œ€ํ•œ ์˜จ๋ผ์ธ ๊ธˆ์œต ์‚ฌ์ดํŠธ๋ฅผ ์Šค์บ”ํ•˜๊ณ  ๊ฐ€๊ฒฉ ๋ฐ ๊ฑฐ๋ž˜๋Ÿ‰๊ณผ ๊ฐ™์€ ์ •๋ณด๋งŒ ๋‹ต์žฅ์œผ๋กœ ์„ ํƒํ•˜๊ธฐ๋กœ ๊ฒฐ์ •ํ•  ๊ฒƒ์ž…๋‹ˆ๋‹ค.

ํŠน๋ณ„ ๊ณ ๋ ค ์‚ฌํ•ญ

NLP๋Š” ์ธ๊ฐ„์ด ๋‹ค๋ฅธ ์ธ๊ฐ„๊ณผ ์ƒํ˜ธ ์ž‘์šฉํ•˜๊ณ  ์žˆ๋‹ค๊ณ  ๋ฏฟ๊ฒŒ ํ•˜์—ฌ ์ปดํ“จํ„ฐ๋ฅผ ์ง€๋Šฅ์ ์œผ๋กœ ๋งŒ๋“ค๋ ค๊ณ  ํ•ฉ๋‹ˆ๋‹ค. 1950๋…„ ์•จ๋Ÿฐ ํŠœ๋ง(Alan Turing)์ด ์ œ์•ˆํ•œ ํŠœ๋ง ํ…Œ์ŠคํŠธ(Turing test )๋Š” ์ปดํ“จํ„ฐ๊ฐ€ ์‹ค์ œ๋กœ ๊ธฐ๊ณ„์™€ ๋Œ€ํ™”ํ•˜๊ณ  ์žˆ๋‹ค๋Š” ์‚ฌ์‹ค์„ ์ธ๊ฐ„์ด ๋ชจ๋ฅธ ์ฑ„ ์ธ๊ฐ„์ฒ˜๋Ÿผ ์ƒ๊ฐํ•˜๊ณ  ๋Œ€ํ™”ํ•  ์ˆ˜ ์žˆ๋‹ค๋ฉด ์™„์ „ํ•œ ์ง€๋Šฅ์ด ๋  ์ˆ˜ ์žˆ๋‹ค๊ณ  ๋งํ•ฉ๋‹ˆ๋‹ค.

2014๋…„์— ํ•œ ๋Œ€์˜ ์ปดํ“จํ„ฐ๊ฐ€ 13์„ธ ์†Œ๋…„์˜ ํŽ˜๋ฅด์†Œ๋‚˜๋ฅผ ์‚ฌ์šฉํ•˜๋Š” ์ฑ—๋ด‡์ด๋ผ๋Š” ํ…Œ์ŠคํŠธ๋ฅผ ์„ฑ๊ณต์ ์œผ๋กœ ํ†ต๊ณผํ–ˆ์Šต๋‹ˆ๋‹ค. ์ด๊ฒƒ์€ ์ง€๋Šฅํ˜• ๊ธฐ๊ณ„๋ฅผ ๋งŒ๋“œ๋Š” ๊ฒƒ์ด ๋ถˆ๊ฐ€๋Šฅํ•˜๋‹ค๋Š” ๋ง์€ ์•„๋‹ˆ์ง€๋งŒ ์ปดํ“จํ„ฐ๊ฐ€ ์ธ๊ฐ„์ฒ˜๋Ÿผ ์ƒ๊ฐํ•˜๊ฑฐ๋‚˜ ๋Œ€ํ™”ํ•˜๋„๋ก ๋งŒ๋“œ๋Š” ๋ฐ ๋‚ด์žฌ๋œ ์–ด๋ ค์›€์„ ์„ค๋ช…ํ•ฉ๋‹ˆ๋‹ค. ๋‹จ์–ด๋Š” ๋‹ค์–‘ํ•œ ๋งฅ๋ฝ์—์„œ ์‚ฌ์šฉ๋  ์ˆ˜ ์žˆ๊ณ  ๊ธฐ๊ณ„๋Š” ์ธ๊ฐ„์ด ๋‹จ์–ด๋กœ ์—”ํ‹ฐํ‹ฐ๋ฅผ ์ „๋‹ฌํ•˜๊ณ  ์„ค๋ช…ํ•˜๋Š” ์‹ค์ œ ๊ฒฝํ—˜์ด ์—†๊ธฐ ๋•Œ๋ฌธ์— ์„ธ์ƒ์ด ์ปดํ“จํ„ฐ ํ”„๋กœ๊ทธ๋ž˜๋ฐ ์–ธ์–ด๋ฅผ ์™„์ „ํžˆ ์—†์• ๊ธฐ๊นŒ์ง€๋Š” ์‹œ๊ฐ„์ด ์กฐ๊ธˆ ๋” ๊ฑธ๋ฆด ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

##ํ•˜์ด๋ผ์ดํŠธ

  • ์ž์—ฐ์–ด ์ฒ˜๋ฆฌ(NLP)๋Š” ์ปดํ“จํ„ฐ ์•Œ๊ณ ๋ฆฌ์ฆ˜๊ณผ ์ธ๊ณต ์ง€๋Šฅ์„ ์‚ฌ์šฉํ•˜์—ฌ ์ปดํ“จํ„ฐ๊ฐ€ ์ธ๊ฐ„์˜ ์˜์‚ฌ ์†Œํ†ต์„ ์ธ์‹ํ•˜๊ณ  ์‘๋‹ตํ•  ์ˆ˜ ์žˆ๋„๋ก ํ•ฉ๋‹ˆ๋‹ค.

  • ํ˜„์žฌ ๋Œ€๋ถ€๋ถ„์˜ iOS ๋ฐ Android ํ”Œ๋žซํผ์—์„œ ๋ณผ ์ˆ˜ ์žˆ๋Š” ํ…์ŠคํŠธ ์Œ์„ฑ ๋ณ€ํ™˜ ์•ฑ์€ Amazon Echo(Alexa) ๋˜๋Š” Google Home๊ณผ ๊ฐ™์€ ์Šค๋งˆํŠธ ์Šคํ”ผ์ปค์™€ ํ•จ๊ป˜ ์ง€๋‚œ ๋ช‡ ๋…„ ๋™์•ˆ NLP์˜ ์œ ๋น„์ฟผํ„ฐ์Šค ์‚ฌ๋ก€๊ฐ€ ๋˜์—ˆ์Šต๋‹ˆ๋‹ค.

  • ์—ฌ๋Ÿฌ NLP ๋ฐฉ๋ฒ•์ด ์กด์žฌํ•˜์ง€๋งŒ ์ผ๋ฐ˜์ ์œผ๋กœ ์Œ์„ฑ ๋˜๋Š” ํ…์ŠคํŠธ๋ฅผ ๊ฐœ๋ณ„ ํ•˜์œ„ ๋‹จ์œ„๋กœ ๋‚˜๋ˆˆ ๋‹ค์Œ ๊ณผ๊ฑฐ ๊ฒฝํ—˜์„ ๊ธฐ๋ฐ˜์œผ๋กœ ์ด๋Ÿฌํ•œ ๋‹จ์œ„๊ฐ€ ์–ด๋–ป๊ฒŒ ํ•จ๊ป˜ ๋งž๋Š”์ง€ ๋ฐ์ดํ„ฐ๋ฒ ์ด์Šค์™€ ๋น„๊ตํ•ฉ๋‹ˆ๋‹ค.