Cloudflare, 1.1.1.1에 양자내성 DNSSEC 지원…2,420바이트 서명의 현실

일반적인 무선 라우터와 이더넷 케이블을 담은 양자내성 DNSSEC 주제의 현실적인 사진풍 이미지 1

AI를 활용하여 생성한 이미지입니다.

인터넷 보안 · DNSSEC · 양자내성 암호

DNS 서버를 1.1.1.1로 바꾸면 모든 인터넷 보안 문제가 해결된다고 생각하기 쉽지만, Cloudflare의 이번 발표는 그보다 좁고 기술적인 변화입니다. Cloudflare는 2026년 9월 10일 1.1.1.1 공개 DNS 리졸버에 양자내성 DNSSEC 검증 지원을 추가했다고 발표했습니다. 선택한 알고리즘은 NIST가 표준화한 ML-DSA-44입니다.[1] 이는 리졸버가 해당 서명을 검증할 준비를 시작했다는 뜻이지, 모든 도메인이 즉시 양자내성으로 바뀌었다거나 사용자의 모든 연결이 자동으로 보호된다는 뜻은 아닙니다.

DNSSEC와 리졸버의 역할부터 구분하기

DNS는 도메인 이름을 서버 주소로 바꾸는 체계입니다. DNSSEC는 DNS 응답에 전자서명을 붙여 사용자가 받은 값이 도메인 운영자가 게시한 값과 맞는지 검증하는 기술입니다.[1] 공격자가 DNS 응답을 위조해 다른 서버로 보내려 할 때, 검증에 실패하면 리졸버가 잘못된 답을 걸러낼 수 있습니다.

여기에는 도메인 권한 서버, 등록기관과 부모 영역, 루트까지 이어지는 신뢰 사슬이 필요합니다. 1.1.1.1이 검증 기능을 제공해도 도메인이 필요한 DNSSEC 레코드를 게시하지 않았거나 상위 체인이 준비되지 않았다면 해당 도메인의 양자내성 보호가 완성되는 것은 아닙니다. ‘어떤 DNS를 쓰는가’와 ‘그 도메인이 어떤 서명을 게시하는가’를 별도로 봐야 하는 이유입니다.

왜 양자내성 DNSSEC를 준비하나

현재 DNSSEC에서 사용되는 공개키 암호가 충분히 큰 양자컴퓨터에 의해 언젠가 깨질 가능성이 있다는 우려가 있습니다. 이것은 지금 공격용 양자컴퓨터가 인터넷을 해독하고 있다는 주장과 다릅니다. DNS의 신뢰 사슬은 루트에서 각 도메인까지 이어지고, 오래된 장비와 리졸버가 함께 작동하므로 새 알고리즘을 도입하는 데 시간이 걸립니다.[1] 미리 호환성과 패킷 크기를 확인하려는 접근으로 이해하는 편이 정확합니다.

Cloudflare는 TLS에서 양자내성 암호를 시험해 온 경험을 DNSSEC에도 적용하려고 설명합니다.[1] 그러나 DNS는 작은 UDP 패킷으로 처리되는 경우가 많아 서명 크기가 운영 현실에 직접 영향을 줍니다. 암호가 강해지는 것만으로 끝나는 문제가 아니라, 리졸버와 권한 서버, 중간 장비가 큰 응답을 어떻게 처리할지까지 확인해야 합니다.

2,420바이트 서명이 만드는 현실적인 부담

항목 Cloudflare가 설명한 값 판단할 점
서명 알고리즘 ML-DSA-44 양자내성 DNSSEC 검증에 사용
서명 크기 2,420바이트 작은 UDP 응답보다 커질 수 있음
공개키 크기 1,312바이트 DNSKEY 응답이 커지는 요인
전환 방식 기존 알고리즘과 당분간 공존 호환성과 다운그레이드 경로를 함께 검토

Cloudflare는 일반적으로 권장되는 DNS over UDP 최대 크기 1,400바이트보다 ML-DSA-44 서명 하나가 더 크다고 설명합니다.[1] DNSKEY 응답에는 공개키와 서명 외에도 도메인 이름과 다른 DNSSEC 정보가 들어가므로 실제 응답은 더 커질 수 있습니다. 그 결과 UDP에서 처리되지 못한 응답이 다른 전송 방식으로 넘어가거나, 오래된 장비에서 단편화·실패 문제가 나타날 가능성을 점검해야 합니다. 이 글의 수치만으로 특정 통신망이나 공유기가 반드시 실패한다고 말할 수는 없습니다.

기존 서명과 함께 게시하는 이유

전환 기간에는 기존 알고리즘과 양자내성 서명을 함께 게시하는 방식이 호환성에 도움이 됩니다. 하지만 검증기가 지원하는 약한 경로로 되돌아가는 다운그레이드 문제가 남을 수 있습니다. Cloudflare는 부모 영역의 DS 레코드에 양자내성 알고리즘 정보가 있는지 확인하고, 지원하는 리졸버가 적어도 하나의 양자내성 검증 경로를 요구하는 접근을 설명합니다.[1]

따라서 ‘양자내성 서명을 하나 추가했다’는 사실과 ‘신뢰 사슬 전체가 양자내성 방식으로 강제된다’는 상태는 다릅니다. 도메인 운영자는 알고리즘 목록만 보는 대신 권한 DNS가 어떤 레코드를 제공하는지, 등록기관과 부모 영역이 DS 정보를 처리하는지, 다양한 리졸버에서 응답이 정상적으로 검증되는지를 단계별로 확인해야 합니다.

1.1.1.1 이용자와 도메인 운영자가 할 일

현재 1.1.1.1을 DNS 서버로 사용하고 있다면 일반 사용자가 이번 발표만으로 별도 설정을 바꿀 필요는 없습니다. 도메인이 필요한 DNSSEC 레코드를 게시하면 리졸버가 지원 범위에서 자동으로 검증합니다.[1] 다만 이 기능이 모든 웹 연결의 TLS 암호화나 악성 사이트 차단을 대신하는 것은 아닙니다. DNSSEC 검증, HTTPS 연결, 브라우저 보안은 서로 다른 계층입니다.

도메인을 운영한다면 다음 순서로 준비할 수 있습니다.

  1. 현재 DNSSEC 서명과 DS 레코드가 어느 기관에서 관리되는지 문서화합니다.
  2. 권한 DNS와 등록기관이 ML-DSA-44 관련 기능을 언제 지원하는지 공식 안내를 확인합니다.
  3. 기존 리졸버와 새 기능을 지원하는 리졸버에서 DNSKEY 응답 크기와 검증 결과를 비교합니다.
  4. 대형 응답, TCP 전환, 오래된 방화벽·공유기 같은 예외 경로를 운영 환경에서 점검합니다.
  5. 실패 시 기존 서비스가 계속 작동할지와 롤백 절차를 마련한 뒤 게시 범위를 넓힙니다.

아직 참여 기관, 실제 도메인 적용 비율, 이동통신망과 가정용 공유기에서의 실패율, 완전한 상용화 일정은 발표만으로 확인되지 않습니다. 기술 도입 계획을 바로 서비스 성능 향상이나 모든 사이트의 보호로 바꾸어 읽지 않는 것이 중요합니다.

DNSSEC를 확인할 때 봐야 할 층위

양자내성 DNSSEC를 검토할 때는 네 가지 층위를 나누면 혼동이 줄어듭니다. 첫째는 도메인 운영자가 권한 DNS에 어떤 DNSKEY·서명 레코드를 게시하는지입니다. 둘째는 부모 영역의 DS 레코드가 그 키를 신뢰 사슬에 연결하는지입니다. 셋째는 리졸버가 해당 알고리즘을 이해하고 검증하는지입니다. 넷째는 그 응답이 사용자의 공유기, 방화벽, 통신망을 지나 정상적으로 도착하는지입니다. 한 층위가 준비됐다고 나머지 세 층위가 자동으로 해결되지는 않습니다.

확인 대상 운영자가 물어볼 질문 실패 시 나타날 수 있는 문제
권한 DNS 새 키와 서명을 어떤 방식으로 게시·교체하는가? 서명이 없거나 만료된 응답
부모 영역·등록기관 DS 레코드와 알고리즘 정보를 처리하는가? 신뢰 사슬 단절
리졸버 검증기가 ML-DSA-44 경로를 이해하는가? 검증 실패 또는 기존 경로 의존
전송 장비 큰 DNSKEY 응답과 TCP 전환을 허용하는가? 지연, 타임아웃, 간헐적 조회 실패

도메인 운영자가 점검 결과를 기록할 때는 성공한 조회 한 번보다 실패했을 때의 복구 절차를 함께 남겨야 합니다. 큰 응답이 UDP에서 처리되지 않는 경우 어떤 경로로 전환되는지, 구형 방화벽이 이를 차단하는지, 기존 서명을 철회했을 때 어느 리졸버가 영향을 받는지 확인하세요. 실제 트래픽을 바꾸기 전 테스트 도메인이나 제한된 하위 영역에서 시작하는 방식이 안전합니다.

사용자 입장에서 DNS 변경을 판단하는 기준

일반 사용자가 DNS 서비스를 고를 때는 양자내성이라는 한 가지 표현만으로 결정하지 않는 편이 좋습니다. 현재 네트워크에서 연결이 안정적인지, 가족이나 조직의 필터링 정책과 충돌하지 않는지, 장애가 생겼을 때 원래 설정으로 되돌릴 수 있는지를 함께 확인하세요. DNSSEC 검증은 DNS 응답의 진위를 확인하는 층위이고, 웹사이트의 HTTPS 인증서 검증이나 악성 코드 차단과는 다른 기능입니다. 한 보호 기능이 다른 모든 보안 기능을 대신한다고 생각하면 빈틈이 생깁니다.

휴대전화에서 Private DNS나 VPN을 함께 사용한다면 실제 DNS 경로가 1.1.1.1인지 먼저 확인해야 합니다. 앱이나 VPN이 별도 리졸버를 사용하면 운영체제 설정에 1.1.1.1을 입력해도 모든 조회가 그곳으로 가지 않을 수 있습니다. 관련 설정 충돌을 확인할 때는 안드로이드 Private DNS와 VPN 충돌을 점검하는 법도 참고할 수 있습니다.

자주 묻는 질문

1.1.1.1을 쓰면 내 도메인도 자동으로 양자내성이 되나요?

아닙니다. 리졸버의 검증 지원과 도메인·부모 영역·권한 서버의 서명 게시가 함께 준비돼야 합니다. 리졸버를 바꾸는 것만으로 도메인의 신뢰 사슬이 새 알고리즘으로 바뀌지는 않습니다.[1]

2,420바이트면 모든 DNS 응답이 실패하나요?

그렇게 단정할 수 없습니다. 2,420바이트는 서명 하나의 크기이며, 실제 응답 구성과 전송 경로, 장비 지원에 따라 결과가 달라집니다. DNSKEY 응답의 크기와 TCP 등 대체 경로의 처리를 함께 확인해야 합니다.[1]

일반 사용자가 지금 DNS 설정을 바꿔야 하나요?

발표 하나만으로 급히 바꿀 필요는 없습니다. 현재 리졸버의 DNSSEC 검증과 연결 안정성을 확인하고, 1.1.1.1을 사용할지 여부는 속도·정책·지역 네트워크 환경까지 포함해 판단하세요.

관련 글: 안드로이드 Private DNS와 VPN 충돌을 점검하는 법

Sources

함께 읽을 글