정보보안기사 핵심 토픽, TLS 1.3 핸드셰이크와 전방 비밀성(PFS) 정리

HTTPS가 안전하다는 말은 누구나 알지만, 무엇이 어떻게 안전한지 설명하라고 하면 막히는 경우가 많습니다. 정보보안기사에서는 TLS 핸드셰이크 순서와 키 교환 방식, 전방 비밀성(PFS)이 필기와 실기 모두에서 반복되는 주제입니다. 이번 글에서는 TLS 1.2와 1.3을 비교하며 핵심만 짚어 보겠습니다.

이 글의 구성

• TLS가 해결하는 문제와 핸드셰이크의 큰 흐름
• 1.2와 1.3의 차이
• 전방 비밀성(PFS)이란
• 0-RTT와 세션 재개의 주의점
• openssl로 직접 확인하기와 시험 포인트

핸드셰이크가 하는 일

TLS 핸드셰이크는 세 가지를 해결합니다. 상대가 진짜 서버인지 인증서로 확인하고(인증), 안전하게 공유할 세션키를 만들고(키 교환), 이후 데이터는 그 키로 암호화하고 무결성을 확인합니다. 시험에서는 이 흐름을 ClientHello, ServerHello, 인증서, 키 교환, Finished 순서로 묻는 문제가 자주 나옵니다.

TLS 1.2와 1.3, 무엇이 달라졌나

• 왕복 횟수: 1.2는 전체 핸드셰이크에 보통 2-RTT가 필요하지만 1.3은 1-RTT로 줄었습니다.
• 키 교환: 1.2에는 클라이언트가 만든 비밀값을 서버의 RSA 공개키로 암호화해 보내는 방식(정적 RSA 키 교환)이 있었지만, 1.3은 이를 없애고 (EC)DHE 같은 임시 키 교환만 사용합니다.
• 암호군: 1.3은 AES-GCM, ChaCha20-Poly1305처럼 AEAD 방식만 남겼습니다. 오래된 CBC, RC4, 3DES 같은 선택지는 사라졌습니다.
• 보호 범위: 1.3에서는 서버 인증서 전달 단계부터 암호화되어 엿보기가 더 어렵습니다.
• 폐기된 버전: TLS 1.0과 1.1은 2021년 RFC 8996으로 사용 중단이 공식화됐습니다.

전방 비밀성(PFS)

전방 비밀성은 서버의 장기 개인키가 나중에 유출되더라도 과거에 오간 세션의 내용은 복호화할 수 없는 성질입니다. 세션마다 새로 만든 임시 키쌍으로 세션키를 합의하고 세션이 끝나면 버리기 때문에, 장기 개인키는 인증(서명)에만 쓰이고 세션키 계산에는 관여하지 않습니다.

1.2에서 PFS를 얻으려면 암호군 이름에 ECDHE 또는 DHE가 들어간 것을 선택해야 하고, 1.3에서는 모든 연결이 기본적으로 임시 키 교환을 쓰므로 따로 고민할 필요가 없습니다.

0-RTT와 세션 재개의 주의점

TLS 1.3의 0-RTT(early data)는 이전 연결에서 받은 정보를 이용해 첫 번째 메시지부터 데이터를 보내는 기능으로 속도는 빠르지만 재전송 공격에 취약할 수 있습니다. 그래서 결제처럼 한 번만 실행되어야 하는 요청에는 쓰지 않고, 조회처럼 여러 번 실행해도 안전한(멱등한) 요청에만 허용하도록 설계합니다. 또 세션 티켓을 암호화하는 서버의 장기 키가 유출되면 해당 티켓으로 재개된 세션의 보호가 약해질 수 있으므로 티켓 키를 주기적으로 교체하는 것이 권장됩니다.

openssl로 직접 확인하기

서버가 어떤 버전과 키 교환을 쓰는지는 명령 한 줄로 볼 수 있습니다. 아래 명령은 직접 실행해 출력을 확인한 것입니다.

openssl s_client -connect 서버주소:443 -tls1_3
# 출력 예: New, TLSv1.3, Cipher is TLS_AES_256_GCM_SHA384
#          Server Temp Key: X25519, 253 bits

openssl s_client -connect 서버주소:443 -tls1_2 -cipher 'ECDHE-RSA-AES128-GCM-SHA256'
# 출력 예: New, TLSv1.2, Cipher is ECDHE-RSA-AES128-GCM-SHA256

Server Temp Key 줄이 보이면 임시 키로 키 교환을 했다는 뜻이므로 PFS가 적용된 연결입니다. 서버가 1.3을 지원하지 않으면 두 번째 명령처럼 1.2에서 ECDHE 암호군이 협상되는지 확인합니다.

시험 포인트 3가지

1. 1.3에서 사라진 것: 정적 RSA 키 교환, CBC·RC4·3DES 같은 구형 암호군, 압축 기능. 1.3의 왕복은 1-RTT입니다.
2. PFS의 조건은 임시(ephemeral) 키 교환이며, 인증서의 RSA 키가 있다는 사실만으로 PFS가 되는 것이 아닙니다.
3. 서버 설정 점검 문제에서는 TLS 1.0·1.1 비활성화, PFS 암호군 우선, 인증서 체인과 만료 확인이 정답 후보입니다.

이 글은 학습용 정리이며 실제 시험 범위와 다를 수 있습니다. 최신 출제 범위는 한국인터넷진흥원(KISA) 공식 공지를 확인하세요.