Bidirectional Encoder Representations from Transformers

제134회 정보관리기술사 1교시 1번 — Transformer 셀프어텐션·멀티헤드·위치인코딩

Transformer 아키텍처의 셀프 어텐션, 멀티헤드 어텐션, 위치 인코딩의 개념과 QKV 계산 원리를 해설합니다.

5일 ago

BERT (Bidirectional Encoder Representations from Transformers)

🔹 BERT란? BERT(Bidirectional Encoder Representations from Transformers)는✅ Google이 개발한 최신 자연어 처리(NLP) 모델이에요. ✅ 문장의 앞뒤를 모두 참고하는 "양방향(Bidirectional)" 모델!…

1년 ago