보안

양자 암호화, "만능은 아니지만 보안 강화에 기여"

Doug Drinkwater | CSO 2017.11.13
양자 암호화 기술(Quantum encryption, Quantum cryptography)은 양자 역학의 원리를 적용해 수신자 외에는 그 누구도 해당 메시지를 읽을 수 없도록 암호화 하는 기술을 일컫는다. 양자 암호화 기술은 양자가 지닌 복수 상태라는 특징과, 양자 역학의 불변화 이론(no change theory)을 활용해 송신자 모르게 메시지를 가로채지 못하도록 보호한다.

비밀번호를 활용해 도자기 제조 기술 비밀을 보호한 앗시리아 인들부터 '에니그마'로 군 기밀을 지키려 했던 독일인들에 이르기까지, 암호화는 인류의 역사만큼이나 오래되었다. 그러나 오늘날 암호화된 정보는 그 어느 때보다 더 큰 위협에 직면해 있다. 양자 암호화 기술이 미래의 정보 보호 수단으로 각광받고 있는 것도 이런 이유에서다.

'전통적' 컴퓨터에서 암호화란, 2진법(0과 1)이 시스템을 통해 다른 지점으로 전송되고 이후 대칭(프라이빗) 혹은 비대칭(퍼블릭) 키를 통해 복호화되는 방식으로 이뤄진다. AES(Advanced Encryption Standard)와 같은 대칭 키 암호화 방식이 동일한 키를 이용해 메시지나 파일을 암호화한다면, RSA 등의 비대칭 암호화는 2개의 연결된 키(프라이빗 및 퍼블릭)를 이용해 자료를 보호한다. 이때 퍼블릭 키는 송/수신자 사이에 공유가 이뤄지며, 프라이빗 키는 정보 복호화를 위해 숨겨진 채로 보관된다.

디피-헬먼(Diffie Hellman), RSA, 타원 곡선 암호(ECC)와 같은 퍼블릭 키 암호화 프로토콜들은 유추가 어려운 대형 소수를 활용해 보안 역량을 보장해왔지만, 현재는 그 위협 수준이 높아지고 있다는 지적을 받는 상황이다. 산업 전문가들은 퍼블릭 키 암호화는 중간자 공격, 사이퍼 공격(cipher attacks), 백도어 등과 같은 엔드포인트, 사이드 채널 공격 등 다양한 방식으로 우회가 가능한 것이 사실이라고 지적한다. RSA-1024의 안정성 인증을 철회한 NIS의 발표나 RSA-40963에 대한 사이드 채널 공격 성공 사례 등 역시 퍼블릭 키 암호화의 취약성을 입증하고 있는 상황이다.

이런 우려는 향후 5~20년 내 양자 컴퓨터가 보편화됨에 따라 더욱 커질 것이다. 대형 소수를 보다 빠르게 유추할 수 있게 돼 결국 퍼블릭 키 암호화(비대칭 키)에 의존하는 모든 암호화 커뮤니케이션이 무효화되기 때문이다.

스코틀랜드의 에든버러 네이피어 대학 컴퓨팅 학부 교수인 빌 뷰캐넌은 "양자 컴퓨터는 대칭키를 사용한 암호화 방법(AES, 3DES 등)은 크래킹하지 못하지만, ECC나 RSA와 같은 퍼블릭 암호화 방식은 쉽게 깰 수 있다. 그 동안 이런 암호 크래킹 문제를 키 크기를 증대시킴으로써 해결해 왔기 때문에 RAS나 ECC 등의 셀프 라이프를 확장시킬 때에도 키 크기를 증가하는 방식이 활용될 것으로 기대하고 있다"고 말했다.

그렇다면 과연 양자 암호화가 장기적인 솔루션이 될 수 있을까.

양자 암호화 기술의 정의
양자 암호화 기술은 적어도 이론적으로는 수신자 외에 그 누구도 메시지를 읽을 수 없도록 암호화하는 것이 가능하다. 양자 암호화는 "암호화 작업에 양자 역학적 특성을 활용한 과학"이라고 정의되며 일반인들을 위한 정의는 양자의 복수 상태 특성과 '불변화 이론'을 활용해 송신자 모르게 메시지를 가로채지 못하도록 보호하는 암호화 기술이다.

양자 암호화를 쉽게 설명하면 한 여름 태양 아래 아이스크림을 들고 있는 것과 비슷하다. 아이스크림을 상자에서 꺼내, 태양 아래 들고 서 있으면, 아이스크림의 형태가 바뀌는 것이 가시적으로 목격될 것이다.

2004년 스탠포드 대학의 한 논문은 이를 다음과 같이 설명했다.
"'극도로 큰 숫자(extremely large numbers)' 대신 양자 물리학 법칙과 광자에 의존한 양자 암호화 기술은 설령 해커가 무한한 컴퓨팅 파워를 가지고 있다고 가정하더라도 안전하게 메시지를 보호하며 프라이버시를 보장할 수 있는 최첨단 기술이다."

뷰캐넌은 양자 암호화 기술에서 상당한 시장성을 보고 있다. "양자 암호화 기술을 적용함으로써 SSL, 와이파이 암호화와 같은 기존의 터널링 방식을 대체하고 파이버 네트워크 상에 완전한 엔드 투 엔드 암호화 방식을 정립할 수 있는 기회가 주어질 것이다. 커넥션 전반에 걸쳐 광 케이블이 이용될 경우 물리적 레이어에 보안이 적용되기 때문에 그 외의 레이어 상에 암호화를 적용할 필요가 없어진다"고 설명했다.

양자 암호화의 본질은 양자 키 분배에 있다
서레이대 컴퓨팅학과의 방문 교수 앨런 우드워드는 일반적으로 통용되는 양자 암호화란 양자 키 분배(Quantum Key Distribution, QKD)를 의미한다고 설명했다.

우드워드 교수는 "QKD는 키 교환 문제에 대한 정보 이론적으로 안전한 해결책이다. QKD를 활용해 광자는 미세한 양자 단위로 분배되고, 수평 혹은 수직으로 편광된다. 그리고 이것을 관찰하거나 측정하려 시도하는 경우에는 양자의 상태에 교란이 발생하게 된다. 양자 물리학에서 말하는 '복사 불가 정리'에 기초한 과정이다"고 말했다.

그리고 "수신자는 오류 수준 확인을 통해 전달된 메시지의 교란이 발생했음을 감지하고, 해당 메시지를 신뢰하지 않을 것이다. 덧붙여 수신된 키는 대칭 키 암호화로 변환하는 것 역시 가능하다. QKD는 결론적으로 퍼블릭 키 인프라스트럭처(Public Key Infrastructure, PKI)를 대체하는 과정이다"고 덧붙였다.

뷰캐넌은 QKD가 많은 잠재력을 지니고 있다고 분석했다. 뷰캐넌은 "오늘날의 엔드투엔드 커뮤니케이션 전달은 물리적 차원에서 그 안전성에 문제가 많은 것이 사실이다. 이를테면 와이파이의 경우, 그것의 보안이란 무선 채널을 통해서만 제공되는 것이 고작이다. 커뮤니케이션의 안전을 보장하려면 결국 커뮤니케이션에 VPN이나 SSL 같은 터널링 방식을 덧입혀야 하는 것이다. 반면 양자 암호화에서는 이런 부가적 대상 없이도 엔드투엔드 간 연결의 완전한 안전을 보장할 수 있다"고 설명햇다.

QKD의 적용 사례
우드워드가 지적하듯, 도시바, 쿼비텍(Qubitekk), ID 퀀티크 등의 개발업체는 이미 QKD를 상업적으로 사용하고 있다. 그럼에도 불구하고 QKD는 기존 네트워크 상에서 구동이 가능한 포스트 양자 암호화 기술과는 달리 여전히 높은 비용과 자체적 인프라스트럭처가 필요하다.

중국이 QKD를 시장에 진출시키면서 앞지른 것도 이 부분이다. 올해 초 오스트리아와 중국의 과학자들은 첫 번째 양자 암호화 비디오 콜을 성공시키며 기존의 암호화 방식보다 "최소 100만 배 이상 안전한" 암호화 방식을 탄생시켰다.

이 실험에서 중국 팀은 (양자 물리학 실험 목적으로 발사된) 중국 인공위성 미카이어스(Mikaeus)를 활용했으며 빈에서 베이징까지 1Mbps의 키 레이트(key rate)로 '얽혀진 쌍(engangled pairs)'을 사용했다.

우드워드는 "퍼블릭 키 암호화 사용이 QKD 사용의 충분 조건"이라며 "중국이 QKD에 관심을 갖는 이유도 이것이 물리적으로 안전한 보안 방식으로 NSA나 기타 국가 기관으로부터 정보를 보호할 수 있다고 믿기 때문"이라고 설명했다.

우드워드는 "QKD에는 우회로도, 수학적 트릭도 통하지 않는다. QKD는 물리학의 법칙을 따르며, 이는 수학적 법칙보다 훨씬 단순하다"고 타원 곡선 공격(elliptical curve attack)을 인용하며 말했다.

결국 QKD는 정부 기관은 물론 금융기관 등 고도의 보안을 필요로 하는 기관들에서 사용하게 될 것이라고 예상된다. 우드워드는 "오늘날 QKD 장비를 판매하는 기업들이 다수 있지만 아직까지는 비용이 비싸다. 그러나 앞으로는 점차 비용이 낮아질 것이다. 처음에는 아마도 정부 기관이나 은행 등 고도의 보안이 요구되는 분야에서 사용되는 기술로 시작하게 될 것이다"고 말했다.

다른 양자 암호화 사례로는 다음과 같은 것들이 있다.
- 옥스포드 대학교, 노키아, 그리고 베이 포토닉스(Bay Photonics)는 결제 정보를 암호화해 스마트폰과 PoS 결제 터미널 간에 양자 키를 송수신할 수 있는 시스템을 개발했다. 이 시스템은 동시에 양자 키 전송 중에 발생할 수 있는 해킹 시도를 모니터링하기도 한다.

- 스위스는 지난 2007년 이후 양자 암호화 기술을 활용해 연방 및 지방 선거를 안전하게 온라인으로 치르고 있다. 유권자들의 표는 투표 결과가 전용 광 섬유 라인을 타고 데이터 스토리지 시설로 보내지기 전에 먼저 중앙 투표 관리 스테이션에서 암호화된다. 투표 결과는 양자 암호화 기술을 통해 보호된다. 전 과정 중 가장 취약한 부분은 중앙 투표 관리 스테이션에서 중앙 저장소로 표가 이동하는 때인데, 이 때마저도 투표 데이터를 해킹하는 것은 불가능하다.

- 퀸테센스 랩(Quintessence Labs)이라는 한 기업은 우주에 나가 있는 인공위성 및 비행사들과 지구 사이에 이뤄지는 커뮤니케이션을 안전하게 보호하기 위한 나사의 한 프로젝트에 참여하고 있다.

- QKarD라는 소형 암호화 기기는 스마트 그리드 근로자들이 퍼블릭 데이터 네트워크를 통해 완전히 암호화된 신호를 송신하고 스마트 전력망을 통제할 수 있게 한다.

- 돈 헤이포드는 ID 퀀티크(ID Quantique)와 협력해 바텔 HQ(Battelle HQ)와 워싱턴 DC 사이에 650km 링크를 건설하고 있다. 지난 한 해 동안 바텔 사는 QKD를 이용해 오하이오 주 콜럼버스에 위치한 자사의 네트워크를 보호해 왔다.

현실적 문제, 그리고 국가 기관의 개입
물론 양자 암호화가 정보 보안의 만능 열쇠인 것은 아니다. 우드워드는 양자 암호화의 불안정성에 대한 근거로 시끄럽고 방해 요소가 많은 환경에서의 에러 비율과, QKD에 요구되는 단일 광자 생성의 기술적 어려움을 토로했다. 더불어 광섬유 기반 QKD의 경우 이동 거리 제약으로 추가적 전달자를 필요로 한다는 점 역시 '취약점'이 될 우려가 있다

뷰캐넌은 인프라스트럭처의 측면에서도 엔드투엔드 광대역 섬유가 필요하다는 문제가 존재한다고 덧붙였다. 뷰캐넌은 "여전히 커뮤니케이션 채널의 대부분 엔드포인트는 구리선 기반이며, 완전한 광섬유망이 자리잡기까지는 앞으로도 적잖은 시간이 필요할 것이다. 이런 혼합 환경에서 커뮤니케이션 채널의 물리적 보안이란 결코 완벽한 수준에 도달하는데 한계가 있다"고 설명했다.

더불어 최근 벨의 부등식에서 보안 이슈가 확인되는 등 이론적 차원에서도 고민 지점들이 등장하고 있으며, 정부 간섭에 의한 어려움 역시 하나 둘 부각되고 있다. 정부 간섭에 의한 문제란, 정치인들의 암호화에 대한 이해 부족, 그리고 주요 테크놀로지 기업들에 백도어를 요구하며 엔드투엔드 암호화를 해체하고자 시도하는 정보 기관들의 야심에서 비롯되는 문제들이다.

영국 국립 보안 센터가 최근 QKD를 주제로 발행한 보고서의 놀라운 결론 역시 이런 관점에서 비롯된 것이다. 보고서에서 기관은 "QKD는 근본적으로 일련의 현실적 한계들을 내포하고 있으며, 이로 인해 그것이 지닌 보안 문제, 잠재적 공격 가능성이 검증되지 않은 상황이다. 반대로 포스트 양자 퍼블릭 키 암호화는 미래 양자 컴퓨터의 위협으로부터 실용 커뮤니케이션 시스템을 보다 효율적으로 보호해줄 것으로 보인다"고 결론지었다.

암호화의 하이브리드 미래
우드워드는 "암호화 전문가와 물리학자들 간에 존재하는 약간의 눈치 싸움"에 대해 언급하며 특히 이들이 "절대적 보안"이란 무엇인가에 대해 의견을 달리하고 있다고 지적했다.

우드워드는 이런 관점의 차이로 인해 암호화 전문가들과 물리학자들이 개발하는 암호화 방식이 서로 다르며 이렇게 상이한 방식이 어떻게 하나로 융합될 지는 솔직히 자신도 잘 모르겠다고 말했다.

지난해 NSA는 "양자 저항성 암호화(quantum-resistance encryption)"로의 전환을 계획하기 시작했고, NIST(National Institute for Standards and Technology)는 포스트 양자 알고리즘 관련 작업을 장려하기 위한 대회를 개최하기도 했다. EU 역시 포스트 양자 및 양자 암호화와 관련한 이니셔티브를 진행하고 있으며 구글은 크롬의 뉴 호프(NEw Hope) 시스템을 포스트 양자 래티스(Lattice)에 의지하고 있다.

우드워드는 "내 생각에 미래의 암호화는 이 둘(포스트 양자 암호화 및 QKD)의 조합이 될 가능성이 높다. 인프라스트럭처에는 더 많은 돈을 투자할 수 있지만 엔드포인트에서는 수학적 접근을 취하게 되는 경우 QKD 방식이 더 많이 활용될 것이다"고 말했다. 우드워드는 QKD의 경우 송신자로부터 예를 들어 와츠앱(WhatsApp) 서버까지 ‘여정의 일부분’을 암호화하게 되겠지만, 서버에서부터 수신자에게 도달하는 과정은 포스트 양자 암호화 방식이 정보를 보호하게 될 것이라고 설명했다.

양자 암호 키 분배 기술은 분명 정보 보안 산업에 상당한 기회를 제공해 줄 것이다. 그러나 이런 기술이 일반적으로 도입되며 주류가 되기까지는 아직 시간이 좀 걸릴 것이다. editor@itworld.co.kr
 

회사명 : 한국IDG | 제호: ITWorld | 주소 : 서울시 중구 세종대로 23, 4층 우)04512
| 등록번호 : 서울 아00743 등록발행일자 : 2009년 01월 19일

발행인 : 박형미 | 편집인 : 박재곤 | 청소년보호책임자 : 한정규
| 사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.