juooo1117

Word Embeddings 하나의 차원에 표현되었던 각 단어를 연속적인 숫자를 값으로 갖는 벡터 형식으로 표현하는 방식 Word2Vec : 하나의 단어를 표현하는 벡터를 구하기 위해 주변 단어를 활용해서 학습한다. Skip-Gram Model skip gram neural network architecture for Word2Vec 'The'가 입력으로 들어갔을 때, 주변의 단어(output)를 맞추는 것 ⇒ quick Model details - input word를 one-hot vector 로 표현한다. - This vector will have 10,000 components (one for every word in our vocabulary) and we’ll place a “1” in the..