[Review] Attention Is All You Need
기존 sequence 변환 모델은 RNN 또는 CNN 기반의 인코더-디코더 구조를 바탕으로 한다. 최고 성능의 모델들은 여기에 attention mechanism 을 사용하고 있는데, 우리는 RNN과 CNN을 배제한 채 attention mechanism 만을 사용하는 새로운 구조...
최근 포스트
[Level 2]Machine Reading Comprehension
이번주는 새로운 프로젝트 기계독해를 진행하기에 앞서 관련된 강의를 학습하였습니다. 시간이 나면 첫번째 프로젝트에 대한 회고도 작성하고 싶은데 가능할지 모르겠네요.
[Week 7]NLP 기초 프로젝트
문장 유사도 측정 프로젝트를 위한 기초 지식들을 다룹니다.
[Week 6]AI 개발 기초
이번 주부터는 다음주 추석을 끼워서 총 3주(학습 기간 2주) 간 문장 유사도 측정 프로젝트를 진행하게 되었습니다. 해당 기간의 강의로 먼저 AI 개발 기초를 수강하였습니다.
[Week 5]NLP theory
이번주는 Transformer와 Bert에 대해 자세히 공부하였습니다.