귀하는 로그인되어 있지 않습니다. 이대로 편집하면 귀하의 IP 주소가 편집 기록에 남게 됩니다.스팸 방지 검사입니다. 이것을 입력하지 마세요!=== 전이 학습(Transfer Learning) === BERT는 전이 학습 개념을 기반으로 작동한다. 먼저, 대량의 라벨링되지 않은 데이터<ref>예: 위키피디아, BookCorpus 등</ref>를 활용하여 사전 학습을 진행한다. 이 과정에서 모델은 일반적인 언어 이해 능력을 학습한다. 이후, 특정 NLP 작업(예: 문장 분류, 질의 응답, 개체명 인식 등)에 맞게 추가 학습(fine-tuning)을 수행한다. 추가 학습 과정에서는 해당 작업과 관련된 라벨링된 데이터(labeled data)를 사용하여 모델을 최적화한다. 이러한 구조 덕분에 BERT는 다양한 다운스트림 태스크(downstream task)에서 높은 유연성과 성능을 보여준다. 특히, 추가 학습에 필요한 데이터와 컴퓨팅 자원이 비교적 적다는 점에서 효율적이다. 예를 들어, 질의 응답 작업에서는 SQuAD(Stanford Question Answering Dataset)와 같은 데이터셋을 사용하여 모델을 추가 학습시킬 수 있다. 편집 요약 가온 위키에서의 모든 기여는 크리에이티브 커먼즈 저작자표시-동일조건변경허락 라이선스로 배포된다는 점을 유의해 주세요(자세한 내용에 대해서는 가온 위키:저작권 문서를 읽어주세요). 만약 여기에 동의하지 않는다면 문서를 저장하지 말아 주세요. 또한, 직접 작성했거나 퍼블릭 도메인과 같은 자유 문서에서 가져왔다는 것을 보증해야 합니다. 저작권이 있는 내용을 허가 없이 저장하지 마세요! 취소 편집 도움말 (새 창에서 열림)