← 목록으로
보안·개인정보
#DNSSEC#캐시포이즈닝#신뢰사슬#RRSIG#DS레코드
최종 업데이트 · 2026-11-14

DNSSEC(DNS Security Extensions, 도메인 네임 시스템 보안 확장)

1. 개요

DNSSEC(DNS Security Extensions)란 DNS 응답 데이터에 공개키 기반 전자서명을 부가하여, 리졸버가 그 응답이 정당한 권한 있는 네임서버에서 나왔고(출처 인증), 전달 과정에서 변조되지 않았으며(무결성), 나아가 존재하지 않는 레코드의 부재까지 증명(인증된 부재)할 수 있게 만든 IETF 표준 확장이다(RFC 4033/4034/4035). 기밀성(암호화)이 아니라 데이터 출처 인증과 무결성을 목표로 한다는 점이 핵심이다.

DNSSEC가 등장한 배경에는 DNS라는 프로토콜이 태생적으로 '받은 응답을 의심 없이 신뢰(trust-by-default)'하도록 설계되었다는 구조적 약점이 있다. DNS는 1983년 설계될 당시 전 세계 호스트 수가 수백 대에 불과하던 환경에서, 질의와 응답을 대부분 평문 UDP 단문으로 주고받고, 응답의 진위를 식별하는 장치라고는 16비트 트랜잭션 ID와 출발지 포트 정도에 그쳤다. 이 낙관적 설계는 이름 해석을 가볍고 빠르게 만들었지만, 공격자가 정당한 네임서버보다 먼저 위조 응답을 리졸버에 밀어 넣어 캐시를 오염시키는 캐시 포이즈닝(cache poisoning)에 무방비였다. 2008년 댄 카민스키가 공개한 공격은 트랜잭션 ID와 포트의 엔트로피가 얼마나 쉽게 추측·소진되는지를 실증하며, 추가 엔트로피(0x20 인코딩, 포트 무작위화) 같은 임시방편만으로는 근본 해결이 어렵다는 사실을 각인시켰다. 즉 DNS 응답을 "누가 서명했는가"로 검증할 수 있는 암호학적 기반이 필요했고, 그 답이 DNSSEC다.

DNSSEC의 필요성은 세 축에서 분명해진다. 첫째는 출처의 진위 확인으로, "받은 응답을 그냥 믿는" 방식을 "권한 있는 존(zone)의 개인키로 서명된 응답만 신뢰"하는 방식으로 바꾼다. 둘째는 변조·위조의 자동 차단으로, 중간자(on-path) 공격이나 오염된 캐시가 끼워 넣은 가짜 IP 주소를 서명 불일치로 걸러 낸다. 셋째는 신뢰 사슬의 연결성으로, 개별 존이 각자 서명하는 데 그치지 않고 루트(.)에서 TLD, 2차 도메인으로 이어지는 하향 위임 구조 전체를 하나의 검증 가능한 체인으로 묶어, 상위가 하위의 공개키를 보증하도록 만든다. 이 세 번째 특성이야말로 DNSSEC를 단순한 "존별 서명"이 아닌 전역 신뢰 인프라로 격상시키는 지점이다.

DNSSEC를 다른 보안 기술과 구별 짓는 본질적 특징은 데이터 자체에 대한 서명, 하향 위임형 신뢰 사슬, 그리고 기밀성이 아닌 인증·무결성 지향으로 요약된다. 전송 구간을 암호화하는 TLS와 달리 데이터 객체(RRset)에 직접 서명하므로 캐시된 응답도 검증되고, 신뢰가 루트에서 리프로 위임을 따라 흐른다는 점에서 수평적 신뢰망과 다르며, 내용을 숨기지 않으므로 뒤에서 다룰 DoT/DoH 같은 전송 암호화 기술과 상호 보완 관계를 이룬다. 이 특징들이 DNSSEC의 강점과, "존 내용 노출(zone walking)"·"키 관리 복잡성" 같은 한계를 동시에 설명하는 열쇠가 된다.

2. DNSSEC 구성요소와 신뢰 사슬 구조

DNSSEC를 이해하는 핵심은 "DNS의 위임 계층을 서명의 신뢰 계층으로 그대로 포갰다"는 구조적 대응이다. 어떤 도메인의 응답이 믿을 만하다는 사실은, 그 응답이 해당 존의 키로 서명되었고(RRSIG), 그 키가 상위 존이 보증했으며(DS), 상위 존의 키도 다시 그 위가 보증하는 식으로 루트까지 끊김 없이 이어진다는 것으로 증명된다. 전체 체계는 "각 존이 자기 데이터를 서명해 게시하는 쪽"과 "리졸버가 루트의 신뢰 앵커에서 출발해 아래로 검증을 내려가는 쪽"으로 나뉜다. 아래 전체 구조도는 레코드 간의 보증 관계(위)와 그것이 위임을 따라 체인을 이루는 모습(아래)을 함께 보여 준다.

flowchart TB
  subgraph REC["존 내부 서명 객체"]
    DNSKEY["DNSKEY: 존의 공개키(KSK·ZSK)"]
    RRSIG["RRSIG: RRset에 대한 전자서명"]
    NSEC["NSEC/NSEC3: 부재 증명 레코드"]
    DNSKEY --> RRSIG
    DNSKEY --> NSEC
  end
  subgraph CHAIN["하향 위임 신뢰 사슬"]
    ROOT["루트(.) KSK = 신뢰 앵커(Trust Anchor)"]
    TLD["TLD(.kr/.com) 존: DNSKEY + DS"]
    SLD["2차 도메인 존: DNSKEY + RRSIG"]
    ROOT -- "DS로 보증" --> TLD
    TLD -- "DS로 보증" --> SLD
    SLD --> RRSIG
  end

가. DNSKEY와 키 분리(KSK/ZSK)

DNSSEC 서명의 출발점은 각 존이 자신의 공개키를 DNSKEY 레코드로 게시한다는 데 있다. 리졸버는 이 공개키로 서명(RRSIG)을 검증한다. 그런데 운영 현실에서는 키를 자주 바꿔야 서명 위조 위험이 줄지만, 자주 바꾸면 상위 존과의 보증 관계(DS)도 매번 갱신해야 하는 딜레마가 생긴다. DNSSEC는 이 긴장을 역할이 다른 두 키로 분리해 해소한다. 하나는 ZSK(Zone Signing Key, 존 서명 키)로, 존 안의 실제 데이터 레코드(A, MX, TXT 등)를 서명하는 '일꾼' 키다. 다른 하나는 KSK(Key Signing Key, 키 서명 키)로, 오직 DNSKEY RRset(즉 ZSK와 KSK 자신)만을 서명하는 '인감' 키다.

이 분리가 주는 실무적 이점은 결정적이다. ZSK는 서명 부하가 크고 노출면이 넓으므로 짧은 주기(수 주~수개월)로 자주 교체하되, 교체해도 상위 존은 전혀 건드릴 필요가 없다. 왜냐하면 상위 존이 보증(DS)하는 대상은 ZSK가 아니라 KSK이기 때문이다. 반대로 KSK는 길고 안전하게(흔히 더 큰 키 크기, 오프라인 보관) 두고 드물게만 롤오버한다. 결국 "자주 바꾸는 키(ZSK)"와 "상위에 등록된 안정적 키(KSK)"를 떼어 놓음으로써, 일상적 키 교체의 유연성과 위임 관계의 안정성을 동시에 얻는다. 규모가 작은 존에서는 둘을 하나로 합친 CSK(Combined Signing Key)를 쓰기도 하는데, 이는 운영 단순성과 롤오버 유연성을 맞바꾼 선택이다.

구체적으로 루트 존의 경우 KSK는 KSK-2017(2017년 생성, 2018년 10월 첫 롤오버로 KSK-2010을 대체)이 사용되며, RSA/SHA-256(알고리즘 번호 8) 2048비트로 운영된다. 리졸버가 신뢰의 출발점으로 삼는 신뢰 앵커(Trust Anchor)가 바로 이 루트 KSK의 공개키이며, 운영체제·리졸버 소프트웨어에 내장되거나 RFC 5011 자동 갱신 절차로 배포된다. 즉 전 세계 DNSSEC 검증의 신뢰는 궁극적으로 이 단 하나의 루트 KSK로 수렴한다. 실제 레코드를 간략히 보면 각 객체가 어떤 정보를 담는지 한눈에 들어온다.

; DNSKEY: 257=KSK(SEP 플래그), 256=ZSK
example.kr.  IN DNSKEY 257 3 13 (ECDSA P-256 공개키...)   ; KSK
example.kr.  IN DNSKEY 256 3 13 (ECDSA P-256 공개키...)   ; ZSK
; RRSIG: 서명대상 A, 알고리즘 13, 유효기간(inception~expiration)
www.example.kr. IN RRSIG A 13 3 3600 20261130000000 20261116000000 ...
; DS: 상위(.kr) 존에 게시되는 하위 KSK의 해시
example.kr.  IN DS 12345 13 2 (SHA-256 다이제스트...)

이 예시에서 DNSKEY의 플래그 257(KSK, SEP 비트)과 256(ZSK), RRSIG의 짧은 유효기간, DS가 상위 존에 놓인다는 사실이 앞서 설명한 구조와 정확히 대응함을 확인할 수 있다.

나. RRSIG와 RRset 서명

DNSSEC에서 실제로 서명되는 단위는 개별 레코드가 아니라 동일한 이름·타입·클래스를 가진 레코드들의 묶음인 RRset이다. 예컨대 www.example.com의 A 레코드가 두 개면 그 둘을 하나의 RRset으로 묶어 함께 서명한다. 이렇게 묶는 이유는, 공격자가 RRset의 일부 레코드만 떼어 내거나 끼워 넣는 조작을 못 하도록 "집합 전체"를 한 번에 봉인하기 위해서다. 이 서명 결과가 RRSIG(Resource Record Signature) 레코드이며, 서명 대상 타입, 사용한 알고리즘·키 태그, 서명 유효기간(inception/expiration), 서명자 이름 등을 함께 담는다.

RRSIG에 유효기간이 명시된다는 점은 DNSSEC의 중요한 설계 결정이다. 일반 TLS 인증서가 발급 후 수개월수년 유효한 것과 달리, RRSIG는 흔히 며칠수 주 단위로 만료되도록 짧게 설정하고 주기적으로 재서명한다. 이는 설령 서명 키가 유출되더라도 위조 서명의 유효 수명을 제한하고, 폐기(revocation)라는 복잡한 메커니즘 없이 "짧은 만료 + 재서명"만으로 신선도를 유지하기 위함이다. 다만 이 선택은 네임서버가 끊임없이 재서명 작업을 수행해야 함을 뜻하고, 운영자가 재서명을 놓쳐 RRSIG가 만료되면 검증 리졸버 입장에서 해당 도메인이 통째로 해석 불능(SERVFAIL)이 되는 대형 장애로 이어진다. 실제로 대규모 서비스 장애의 상당수가 "DNSSEC 서명 만료"에서 비롯되며, 이는 뒤의 고려사항에서 다룰 운영 리스크의 핵심이다.

다. DS 레코드와 위임 연결

서명과 키가 존 안에서 아무리 완비되어도, 상위 존이 하위 존의 키를 보증하지 않으면 신뢰는 섬으로 남는다. 이 끊긴 고리를 잇는 것이 DS(Delegation Signer) 레코드다. DS는 하위 존 KSK의 해시값을 담아 상위 존에 게시되며, 상위 존은 이 DS를 자신의 ZSK로 서명한다. 즉 .com 존 안에 example.com의 DS가 들어 있고 그것이 .com의 서명으로 보증되면, 리졸버는 ".com이 example.com의 이 KSK를 인정한다"는 사실을 암호학적으로 확인할 수 있다.

이 DS 메커니즘 덕분에 DNSSEC는 루트 → TLD → 2차 도메인으로 이어지는 위임의 사슬을 그대로 신뢰의 사슬로 바꾼다. 검증 과정을 거꾸로 보면, 리졸버는 내장된 루트 KSK(신뢰 앵커)로 루트의 DNSKEY를 검증하고, 루트가 게시한 .kr의 DS로 .kr의 KSK를 검증하고, 다시 .kr이 게시한 example.kr의 DS로 그 존의 KSK를 검증하는 식으로 한 칸씩 아래로 신뢰를 전달한다. 중요한 운영적 함의는, 도메인 소유자가 자기 존을 서명하는 것만으로는 부족하고 상위 레지스트리에 DS를 등록(흔히 레지스트라를 통해)해야 비로소 사슬이 완성된다는 점이다. DS 등록 전까지 그 존은 서명돼 있어도 검증 사슬에서 끊긴 'island of security'에 머문다.

라. NSEC/NSEC3와 인증된 부재 증명

DNSSEC의 독특한 과제 하나는 "존재하지 않는다"는 사실도 위조 불가능하게 증명해야 한다는 것이다. 평범한 DNS라면 없는 이름에 그냥 "없음(NXDOMAIN)"을 돌려주면 되지만, 그 "없음" 응답조차 공격자가 위조할 수 있다면 의미가 없다. 그렇다고 "없음"을 즉석에서 서명하려면 개인키가 온라인에 상주해야 해 위험하다. DNSSEC는 이 문제를 NSEC(Next Secure) 레코드로 푼다. NSEC는 존 안의 이름들을 정렬해 놓고 "이름 A 다음은 이름 C"라는 식으로 인접 관계를 미리 서명해 둔다. 질의된 이름 B가 A와 C 사이에 끼어 있는데 NSEC에 등장하지 않으면, 리졸버는 "B는 존재하지 않는다"를 사전 서명된 사실로 확신한다.

그런데 NSEC에는 치명적 부작용이 있다. 인접 이름을 평문으로 다 드러내므로, 공격자가 NSEC 체인을 따라가며 존 안의 모든 이름을 수집(zone walking)할 수 있다. 내부 호스트명이 그대로 노출되는 셈이다. 이를 막기 위해 NSEC3가 도입되었는데, 이름을 평문 대신 해시값으로 정렬해 인접 관계를 서명함으로써 원래 이름을 바로 알아내기 어렵게 만든다. NSEC3는 솔트와 반복 해싱으로 사전 공격을 늦추지만, 뒤의 심화에서 보듯 과도한 반복 횟수는 검증 측 DoS 위험을 낳아 최근 표준은 반복 횟수를 사실상 0으로 권고하는 방향으로 선회했다. 최신 운영에서는 온라인 서명과 결합한 NSEC3 화이트라이(white lies)나 NSEC 'black lies' 기법으로 부재 증명과 성능·프라이버시를 절충하기도 한다.

3. DNSSEC 검증 프로세스

구성요소가 어떻게 맞물려 하나의 검증으로 완결되는지는 리졸버의 동작 순서를 따라가면 분명해진다. 검증 리졸버는 응답에 붙은 RRSIG를 DNSKEY로 검증하되, 그 DNSKEY가 상위의 DS로 보증되는지를 루트의 신뢰 앵커에 도달할 때까지 재귀적으로 확인한다. 아래 상세 흐름도는 www.example.kr 질의가 루트→TLD→권한 존을 거쳐 검증되는 전형적 경로를 보여 준다.

sequenceDiagram
  participant C as 클라이언트(Stub)
  participant R as 검증 리졸버(Validating Resolver)
  participant Root as 루트 네임서버(.)
  participant TLD as TLD 서버(.kr)
  participant Auth as 권한 서버(example.kr)
  C->>R: www.example.kr A 질의(DO=1)
  R->>Root: 루트 DNSKEY/위임 질의
  Root-->>R: .kr NS + DS(.kr) + RRSIG
  Note over R: 내장 루트 KSK로 DS(.kr) 검증
  R->>TLD: example.kr 위임 질의
  TLD-->>R: example.kr DS + RRSIG
  Note over R: .kr DNSKEY로 DS(example.kr) 검증
  R->>Auth: www.example.kr A 질의
  Auth-->>R: A 레코드 + RRSIG
  Note over R: example.kr DNSKEY로 RRSIG 검증 → 사슬 완성
  R-->>C: 검증된 A 응답(AD=1) 또는 SERVFAIL

검증의 출발 신호는 질의에 DO(DNSSEC OK) 비트를 세우는 것이다. 이 비트가 있어야 서버가 RRSIG·DNSKEY 같은 서명 레코드를 함께 돌려준다. 리졸버는 받은 A 레코드의 RRSIG를 권한 존의 ZSK(DNSKEY)로 검증하고, 그 DNSKEY RRset은 KSK의 RRSIG로 검증하며, 그 KSK는 상위가 게시한 DS의 해시와 일치하는지를 확인한다. 이 과정을 위임 단계마다 반복해 루트 KSK까지 끊김 없이 연결되면 응답에 AD(Authenticated Data) 비트를 세워 "검증됨"을 표시한다. 반대로 서명이 없거나(미서명 존), 서명이 깨졌거나, DS가 불일치하거나, RRSIG가 만료되었으면 리졸버는 그 응답을 신뢰할 수 없다고 판단해 SERVFAIL을 돌려준다. 여기서 중요한 뉘앙스는, DNSSEC 검증 실패가 "틀린 IP를 주는 것"이 아니라 "아예 응답을 주지 않는 것"이라는 점이다. 그래서 서명 운영 실수가 곧바로 도메인 전체의 가용성 장애로 전환된다.

한 가지 유의할 구분은 마지막 구간(stub resolver ↔ validating resolver)의 보호다. 대개 검증은 ISP·공용 리졸버 같은 재귀 리졸버가 수행하고, 최종 사용자 단말의 stub은 AD 비트만 신뢰한다. 그런데 이 마지막 구간이 평문이면 여전히 중간자 위조에 노출되므로, 실무에서는 단말-리졸버 사이를 DoT/DoH로 암호화하거나 단말에서 직접 검증하는 구성을 병행한다. 즉 DNSSEC는 "데이터의 진정성"을, 전송 암호화는 "구간의 기밀성·무결성"을 담당하는 상호 보완 관계임을 다시 확인하게 된다.

또한 검증에는 성능과 신선도의 긴장이 숨어 있다. 리졸버는 검증을 마친 응답을 TTL 동안 캐시해 재질의를 줄이지만, RRSIG의 서명 만료가 레코드 TTL보다 먼저 닥치면 캐시된 서명이 만료된 채로 소비될 수 있다. 그래서 운영자는 RRSIG 유효기간을 TTL보다 넉넉히 길게 잡아 '서명 만료 < 캐시 수명' 역전이 일어나지 않도록 설계해야 하며, 이는 재서명 주기·TTL·DS 변경 타이밍을 하나의 정합성 문제로 묶어 관리해야 함을 뜻한다. 검증 리졸버가 신뢰 앵커부터 매번 완전한 사슬을 재구성하지 않도록, 상위 존의 DNSKEY·DS를 공격적 캐싱(aggressive NSEC caching, RFC 8198)으로 재활용해 질의량과 검증 비용을 함께 낮추는 최적화도 실무에서 널리 쓰인다.

4. 비교와 적용 사례

DNSSEC의 위치를 정확히 잡으려면 "무엇을 보호하고 무엇을 보호하지 않는가"를 인접 기술과 대비해 보는 것이 가장 효과적이다. 특히 전송 암호화 기술(DoT/DoH)과 자주 혼동되는데, 둘은 대체재가 아니라 보호 대상이 다른 보완재다. 아래 표는 보호 목표·대상·한계를 기준으로 정리한 것이되, 표 아래 산문에서 "왜 그런 차이가 생기는지"를 설명한다.

구분 DNSSEC DoT/DoH(DNS over TLS/HTTPS) DANE
주 목표 출처 인증·무결성 전송 구간 기밀성·무결성 DNSSEC 기반 인증서 바인딩
보호 대상 DNS 데이터(RRset) 리졸버-단말 구간 TLS 인증서 진위
기밀성 없음(평문 노출) 있음(암호화) 해당 없음
신뢰 근거 루트 KSK 신뢰 앵커 CA PKI(웹) DNSSEC 신뢰 사슬
캐시 응답 보호 가능(데이터 서명) 불가(구간만) 가능

이 차이의 뿌리는 "서명 대상이 데이터냐 구간이냐"에 있다. DoT/DoH는 TLS로 리졸버와 단말 사이를 암호화해 도청과 구간 변조를 막지만, 정작 리졸버가 오염된 캐시나 위조된 상위 응답을 받아 온 경우에는 그 거짓 데이터를 그대로 암호화해 전달할 뿐이다. 반면 DNSSEC는 데이터 객체 자체에 서명이 붙으므로, 몇 단계를 거쳐 캐시된 응답이라도 원 서명자까지 거슬러 검증된다. 그래서 성숙한 구성은 DNSSEC(진정성) + DoT/DoH(기밀성)를 함께 쓴다. 한편 DANE(DNS-based Authentication of Named Entities)는 DNSSEC의 신뢰 사슬 위에 TLS 인증서 지문을 올려, 웹 CA 생태계의 오발급 문제를 DNS로 보완하려는 응용으로, DNSSEC가 다른 보안 체계의 신뢰 앵커로 재사용될 수 있음을 보여 주는 대표 사례다.

적용 현황을 수치로 보면 DNSSEC의 비대칭적 확산이 드러난다. 루트와 대다수 TLD는 이미 서명을 마쳐 상위 인프라는 사실상 완비되었고, 스웨덴(.se)·네덜란드(.nl)·체코(.cz) 등은 2차 도메인 서명률이 높은 편이다. 반면 전 세계 검증 리졸버 비율은 약 30%대, 서명된 2차 도메인 비율은 한 자릿수~10%대에 머물러, "검증할 준비는 됐지만 서명하는 도메인이 적은" 불균형이 오래 지속되고 있다. 국내에서도 .kr/.한국 존은 서명돼 있으나, 일반 기업·기관 도메인의 서명·DS 등록은 아직 제한적이다. 이 완만한 확산의 원인은 뒤의 심화·고려사항에서 다룰 운영 복잡성과 장애 리스크에 상당 부분 기인한다.

확산의 걸림돌 하나였던 DS 등록·갱신의 수작업 부담은 자동화 표준으로 빠르게 완화되는 중이다. 전통적으로 도메인 소유자는 키를 롤오버할 때마다 레지스트라 포털에 새 DS를 손으로 입력해야 했고, 이 절차가 누락·지연되면 사슬이 끊겨 장애가 났다. 이를 해결하기 위해 CDS/CDNSKEY 레코드(RFC 7344/8078)가 도입되었는데, 하위 존이 "내 상위 DS를 이 값으로 바꿔 달라"는 요청을 존 안에 서명된 형태로 게시하면 상위 레지스트리·레지스트라가 이를 주기적으로 읽어 DS를 자동 갱신한다. 실제로 .cz·.ch 등은 CDS 기반 자동 롤오버를 운영해, 사람의 개입 없이도 키 교체가 안전하게 이뤄지는 사례를 만들었다. 이는 DNSSEC의 가장 큰 약점이던 "키 롤오버 운영 리스크"를 프로토콜 수준 자동화로 흡수한 중요한 진전으로, 앞으로의 확산을 가속할 요인으로 꼽힌다.

5. 심화 — 최신 동향과 보안 이슈

DNSSEC는 "다 만들어진 표준"이 아니라 운영·위협 환경에 따라 계속 다듬어지는 기술이다. 최근 가장 큰 사건은 2024년 2월 공개된 KeyTrap 취약점(CVE-2023-50387, CVSS 7.5)이다. 이는 공격자가 의도적으로 다수의 충돌(collision) 키·서명을 담은 악성 존 응답을 꾸며, 검증 리졸버가 유효한 조합을 찾느라 CPU를 폭증시켜 서비스 거부(DoS)에 빠지게 만드는 공격이다. 흥미롭게도 이는 구현 버그가 아니라 "모든 가능한 키로 검증을 시도하라"는 DNSSEC 명세의 관용적 설계 자체에서 비롯되어, BIND·Unbound·Knot 등 주요 리졸버가 거의 동시에 영향을 받았다. 함께 공개된 NSEC3 과다 반복 관련 CVE-2023-50868도 유사한 자원 소모형 위협이다. 벤더들은 2024년 2월 전후로 BIND 9.18.24, Unbound 1.19.1, Knot Resolver 5.7.1 등 완화 패치를 배포했으나, 연구진은 "패치는 영향을 줄일 뿐 근본 설계 철학을 바꾸지 않는 한 완전한 해소는 어렵다"고 지적했다. 이 사건은 DNSSEC처럼 검증 비용을 검증자가 떠안는 구조가 본질적으로 비대칭 DoS에 취약할 수 있음을 환기한 중요한 사례다.

둘째 흐름은 알고리즘의 세대교체다. 초기 DNSSEC는 RSA/SHA-1·RSA/SHA-256을 주로 썼으나, 서명·키 크기가 커 응답이 비대해지고 UDP 단편화(fragmentation)와 증폭(amplification) 공격 표면을 키우는 문제가 있었다. 이에 ECDSA P-256(알고리즘 13)과 EdDSA Ed25519(알고리즘 15) 같은 타원곡선 서명으로의 전환이 권고된다. 같은 보안 강도에서 서명 길이가 짧아 응답 크기·단편화 위험을 크게 줄이기 때문이다. 셋째는 양자내성(PQC) 대비로, 충분히 강력한 양자컴퓨터가 등장하면 RSA·ECDSA 서명이 위협받으므로, DNS 응답 크기 제약 아래에서 쓸 수 있는 경량 양자내성 서명(예: 서명이 비교적 작은 FALCON 계열 등)을 DNSSEC에 적용하려는 IETF 차원의 연구가 진행 중이다. 다만 대다수 PQC 서명은 크기가 커 DNS의 UDP 친화성과 충돌하므로, 크기-보안 트레이드오프가 핵심 난제로 남아 있다.

6. 고려사항 및 시사점

DNSSEC 도입은 기술사 관점에서 "보안 이득 대 운영 리스크"의 균형 설계 문제로 접근해야 한다. 아래 네 가지가 핵심 고려축이다.

첫째, 가용성 리스크 관리가 보안 이득만큼 중요하다. DNSSEC 검증 실패는 잘못된 IP가 아니라 SERVFAIL(해석 불능)로 귀결되므로, RRSIG 만료·키 롤오버 실수·DS 불일치 같은 운영 오류가 곧바로 도메인 전체 장애가 된다. 따라서 자동 재서명·키 롤오버 자동화(예: 자동 서명 네임서버), 만료 임박 모니터링, DS 변경과 리졸버 캐시 TTL의 정합성 관리를 전제 조건으로 설계해야 한다. "서명하지 않는 것"보다 "잘못 서명하는 것"이 더 위험할 수 있다는 역설을 직시해야 한다.

둘째, 전송 암호화와의 역할 분담을 명확히 해야 한다. DNSSEC는 데이터 진정성을, DoT/DoH·DNSCrypt는 구간 기밀성을 담당하므로, 둘 중 하나로 다른 하나를 대체할 수 없다. 특히 단말-리졸버 마지막 구간은 DNSSEC만으로는 평문 노출·위조 위험이 남으므로, DNSSEC 검증 + 암호화 전송 + (가능하면) 단말 측 검증을 계층적으로 조합하는 심층방어가 바람직하다.

셋째, 성능·공격표면 트레이드오프를 고려한 알고리즘·파라미터 선택이 필요하다. RSA 대신 ECDSA/EdDSA를 택해 응답 크기를 줄이면 단편화·증폭 위험과 검증 비용이 동시에 완화된다. NSEC3 반복 횟수는 낮게(0 권고) 두어 KeyTrap류 자원 소모 공격 표면을 줄이고, zone walking이 우려되면 온라인 서명 기반 black/white lies를 검토한다. 즉 DNSSEC는 "켜고 끄는" 이진 선택이 아니라 파라미터 수준의 세밀한 운영 결정을 요구한다.

넷째, 거버넌스와 전환 로드맵 관점이다. 전역 신뢰가 루트 KSK 단일점으로 수렴하므로, IANA의 루트 KSK 롤오버·신뢰 앵커 배포(RFC 5011)에 발맞춘 리졸버 업데이트 체계를 갖춰야 한다. 조직 차원에서는 상위 레지스트리 DS 등록 절차 확보, 레지스트라의 DNSSEC·CDS/CDNSKEY 자동화 지원 여부 확인, PQC 전환을 내다본 알고리즘 민첩성(crypto-agility) 확보를 중장기 과제로 삼아야 한다. 연계 기술인 DANE·RPKI·이메일 인증(DKIM/DMARC)과 함께 "검증 가능한 인터넷 신뢰 인프라"의 한 축으로 DNSSEC를 자리매김하는 것이 바람직하다.

참고자료


한 줄 요약: DNSSEC는 DNS 응답을 공개키로 서명하고 루트에서 하위로 이어지는 DS 신뢰 사슬로 검증해 출처 인증·무결성·부재 증명을 제공하는 확장으로, 전송 암호화(DoT/DoH)와 보완 관계에 있으며 KeyTrap·알고리즘 전환·PQC 등 운영 리스크와 최신 동향을 함께 고려해 도입해야 한다.