제134회 정보관리기술사 1교시 1번 — Transformer 셀프어텐션·멀티헤드·위치인코딩
Transformer 아키텍처의 셀프 어텐션, 멀티헤드 어텐션, 위치 인코딩의 개념과 QKV 계산 원리를 해설합니다.
Transformer 아키텍처의 셀프 어텐션, 멀티헤드 어텐션, 위치 인코딩의 개념과 QKV 계산 원리를 해설합니다.
🔹 BERT란? BERT(Bidirectional Encoder Representations from Transformers)는✅ Google이 개발한 최신 자연어 처리(NLP) 모델이에요. ✅ 문장의 앞뒤를 모두 참고하는 “양방향(Bidirectional)” 모델! (GPT는 생성 방향에 특화, BERT는 이해하고 생성하는 양방향 특화 )✅ … Read more