IT 관리 / 데이터센터 / 보안

"보안과 가시성" 데이터센터 관리자들이 TLS 1.3을 걱정하는 이유

Josh Fruhlinger | CSO 2018.03.16
웹 트랜젝션을 최대한 안전하게 만드는 암호화를 제공하는 TLS 프로토콜은 절실히 업그레이드가 필요하다. TLS 1.2 버전이 출시된 지는 이미 10년이 지났다. IETF(Internet Engineering Task Force)는 상당 기간 이 표준을 크게 쇄신하려는 노력을 기울였다. 이런 노력은 보안 향상이 목적이며, 여기에는 레가시 암호화 시스템에 대한 지원을 버리는 것도 포함되어 있다.

단, 한 가지 '암초'가 있다. 수많은 대형 금융업체, 헬스케어, 소매산업의 데이터센터 관리자들이 현재 1.3 버전 표준 초안(Draft)을 걱정하고 있다. 이 표준 초안의 키 교환 메카니즘 가운데 하나인 정적 RSA는 기업과 기관 네트워크의 데이터 트래픽을 모니터링하고, 장애와 문제를 해결하기 원하는 관리자에게 아주 중요한 도구다.

ECDO(Enterprise Data Center Operators) 컨소시엄 대표 나리니 엘킨스는 "이것이 자사를 강타할 충격을 알지 못하는 기업들이 많다. 업그레이드를 하면 문제가 발생할 것이다. 시스템이 정지되지만 고치지 못한다. 보안 도구도 무용지물이 된다"고 말했다.

'픽스(fix)'를 개발하려고 시도하고 있지만, 관련 공동체가 어떻게 여기에 도달했는지 되돌아 볼 가치가 있다. 문화가 충돌한 것, 우선순위가 다른 것, 기술 표준이 생산화 단계에 도달하기까지 때론 복잡한 경로를 거친다는 것과 관련이 있다.

현상 유지의 편안함, 그리고 문제점
TLS 프로토콜의 핵심은 통신하는 컴퓨터 시스템이 서로 안전하게 대화할 수 있도록 해주는 일련의 암호화 키 교환 기술이다. 정적 RSA 키 교환이 이 가운데 하나다. 많은 데이터센터 관리자가 네트워크에 제공하는 가시성 때문에 선호했던 기술이다.

엘킨스는 "최근에는 인터넷을 통과하는 트래픽을 암호화 처리한다. 콘텐츠 전달 네트워크가 'NAT'd' 했기 때문에 장애가 있는 세션도 찾을 방법이 없다. 사용자 이름, 사용자가 접속하려는 URL, 장애가 발생한 시간을 알아야 한다. 암호화를 해독할 수 있을 때 패킷에서 이를 확인할 수 있다. 그러나 패킷 암호화를 해독하지 못하면 문제나 장애를 해결할 방법이 없다"고 말했다.

정적 RSA 키 교환의 장점은 이런 암호화 해독을 지원하고, 그것도 '아웃오브밴드(out-of-band)'로 처리할 수 있다는 것이다. 다시 말해, 네트워크 트래픽의 메인 플로우에 위치하지 않은 도구로 패킷을 검사하고 해독할 수 있다. 시스템을 정지시킬 수 있는 레이턴시(지연) 없이 다양한 검사 도구를 활용할 수 있다는 의미다. 게다가 이런 종류의 도구들은 문제만 해결하는 것이 아니다. 고객 경험을 모니터링하고, 침입 및 악성코드를 탐지할 수 있다. 데이터센터 어디에서나 패킷을 추적해 암호화를 해독할 수 있다.

그렇다면 정적 RSA 키 교환을 없애려는 이유가 무엇일까? 유용하지만, 유용한 만큼 안전하지 못하다는 문제가 있기 때문이다. 관리자가 네트워크 모니터링에 사용하는 '아웃오브밴드' 해독 기능이 개방된 인터넷으로 패킷을 스누핑하는 데 악용될 수 있다.

또한 RSA 키 메카니즘에는 로봇 공격(ROBOT attack)과 키 도용(key theft) 같은 취약점도 존재한다. 하지만 프라이빗 키를 인터넷이 아닌 데이터센터 내부에서 사용하면, 해커는 데이터센터에 침입해 패킷과 RSA 프라이빗 키를 모두 훔쳐야 취약점을 악용할 수 있다.

물론 IETF의 'I'는 이 표준 기관이 첫 번째 고려사항이 인터넷이라는 점을 알려준다. 엘킨스는 "IETF는 인터넷을 염두에 두고 TLS를 업데이트하는 노력을 경주하고 있다. 인터넷에서 패킷은 여러 장치를 통과한다. 이런 통과를 안전하게 만들어야 한다. 그러나 여기서 강조하고 싶은 점은 엔터프라이즈 사용사례가 다르다는 것이다"고 설명했다.

엔터프라이즈 사용사례를 '대변'하기 위해, 2017년 8월 EDCO를 구성했다. 이 컨소시엄에는 제조, 보험, 정부, 소매, 금융 분야 등의 기업과 기관들이 참여하고 있다. 엘킨스는 "112페이지의 TLS 1.3 표준 초안 사양을 읽으면서 '뭐라고? RSA를 없앤다고? 아...'라는 혼잣말을 했다"고 말했다.

그녀는 "개발업체가 우리를 대변한다고 생각하는 사람이 많다. 또한 개발업체가 이 문제를 이해하고 있으며, 이런 문제를 해결할 사람과 커뮤니케이션할 것이라고 생각한다. 하지만, 여기에 우리의 미래를 걸어서는 안 된다. 우리 스스로가 참여하고 관여해야 한다. 많은 개발업체가 EDCO에 참여했다"고 말했다.

"보안과 가시성 사이", 표준 모델에 대한 우려
본지는 이 문제에 대한 IETF의 관점을 확인하기 위해, TSL 실무그룹(WG)의 공동 의장을 맡고 있는 sn3rd의 숀 터너와 태블로 소프트웨어(Tableau Software) 시니어 제품 개발 매니저 조셉 살로웨이와 이야기를 나눴다.

터너와 살로웨이는 자신들의 일상 업무와는 별개인 IETF에서 맡고 있는 일은 중립적인 중재자이며, 공동체가 새로운 표준에 합의하도록 돕고 있다고 강조했다. 이 두 사람은 논란이 되고 있는 문제에 대한 생각과 견해를 밝혔다. 그러나 IETF나 실무그룹을 대표한 발언이 아니라 개인 자격으로 말했다는 점을 분명히 밝혔다.

EDCO 관계자에 대해 동의한 한 가지가 있다. 실무그룹 참여자 가운데 상당수는 인터넷에 초점을 맞춰 '아웃오브밴드' 암호화 해독을 생각하고 있다는 것이다.

조셉 살로웨이는 "IETF의 역사를 되돌아보면, 일부는 악의적인 의도를 가진 조직이 트래픽 도청이나 가로채기에 악용할 수 있는 무언가를 심거나, 이런 기능을 구현하는 것을 걱정했다. 이런 사람들은 일부 국가가 국민을 억압하기 위한 목적에서 사용할 수 있는 모니터링 기능이 구현되는 것도 우려했다. 데이터센터는 여기에 해당되지 않는다. 그러나 데이터센터용으로 구현된 기능이 데이터센터를 벗어나는 것에 대한 우려가 있었다"고 말했다.

터너는 이른바 '보안(security)과 가시성(visibility)' 사이 '난투'의 역사는 웹의 역사만큼 오래되었다고 강조했다. 터너는 "개발되고 있는 다른 프로토콜들이 있다. 일부는 이런 것도 암호화해야 한다. 반면 관리를 걱정하는 사람들도 있다. 나는 실무그룹의 의장으로서 이런 대화가 활발해지도록 노력할 뿐이다. 또 합의를 유도하고, 이에 대한 판단을 내리려 시도한다"고 설명했다.

참여자들의 문화적인 충돌
그러나 EDCO 구성원들의 경우 합의에 도달하기까지 어려움이 많다. 무엇보다 IETF 같은 개방형 표준 기구와 기업계는 문화가 크게 다르다. 이런 차이는 참여자부터 시작된다.

이론적으로 누구나 이메일 리스트에 가입해 실무그룹에 가입할 수 있다. 살로웨이는 "IETF에서는 모든 것이 '리스트'로 귀결된다. 그러나 실제로는 '자체 선택' 그룹으로 봐야 한다. 기본적으로 수많은 암호화 전문가들로 구성되어 있다. 필요한 사람들이다. 따라서 이들이 참여한 것을 기쁘게 생각하며 반긴다. 이 가운데 상당수는 브라우저 개발사 소속이다. 학계 연구원들도 있다. 모두 많은 좋은 일을 하고 있다. 그러나 보안에 초점을 맞추는 경향이 있다. 또한 프라이버시를 중시한다. 이런 점에서 지원성에도 동등하게 초점이 맞춰질 필요가 있다. 그렇지 않으면 네트워크가 아주 안전하고 비밀 유지에 강하지만, 정지되거나 느려지는 문제가 발생한다. 패킷을 볼 수 없어 문제를 해결할 수 없기 때문이다"고 설명했다.

엘킨스는 "코드 수준에서 많은 대화가 있다. 일반적인 기업 운영 지원 담당자는 전혀 다른 세계에 살고 있다. 우리는 코드 수준의 세계를 완전히 알지 못한다. 반면 그들은 운영이라는 세계를 완전히 알지 못한다"고 지적했다.

이렇게 서로를 이해하지 못한 것이 자신이 저자세라는 점을 걱정하는 EDCO의 반발을 불러왔다. 본질적으로 아웃오브밴드 암호화 해독이라는 필요성을 없애기 위해 네트워크를 다시 설계하는 것을 의미한다.

엘킨스는 "일부는 변화를 수용해 TLS 사용을 멈추고 IPsec를 사용하라고 말한다. 이는 3~5년이 소요되는 수백 만 달러 프로젝트다. 또는 토폴로지가 틀렸다고 말하는 사람도 있다. 애초에 네트워크 토폴로지가 그런 식으로 구축된 이유가 있다. 상대방이 똑똑하고, 자신이 해야 할 일을 하는 방법을 알고 있다고 가정하고 시작해야 한다"고 강조했다.

뒤늦은 참여
그러나 TLS 1.3 표준 구현 프로세스에 대한 개입이 늦었다는 생각에 이런 반발이 발생한 측면도 있다. 터너는 "RSA가 2003년 발행한 표준 가운데 하나를 보라. 기본적으로 새 애플리케이션에 사용하지 말라고 이야기하고 있다. 즉 이것이 포함된 새로운 프로토콜 버전을 내놓기 어렵다"고 말했다. 실무그룹 메일링 리스트 아카이브를 살펴보면, 표준에서 정적 RSA 키 교환 지원을 중단하는 것에 대한 논의는 2013년부터 시작됐다.

엘킨스는 "'가시성'에 대한 대화는 없었다. 이에 대한 대화를 시도한 때가 있는가? 아마 그쪽에서는 지난 3~4년 동안 우리가 이에 대해 아무런 이야기를 하지 않았다고 타박할 수도 있다. '자해 행위'라고 말할 수도 있다. 그 자리에 없었던 것이 문제다. 그 누구도 없었다. 하지만 TLS 1.3을 이용한 데이터센터 암호화는 지원할 수 없다. 인터넷 트래픽과 사용사례가 다르다. 따라서 다르게 다뤄야 한다"고 강조했다.

'픽스(Fix)'라는 방법
엘킨스는 "RSA에 백지화를 요구하는 것이 아니다"고 말했다. 실제 EDCO는 픽스(Fix)를 제안했다. 지난 해 7월, 프라하에서 열린 IETF 99 컨퍼런스에서 EDCO 구성원으로 구성된 대규모 팀은 데이터센터 운영자가 RSA와 비슷한 방식으로 계속 네트워크 트래픽을 검사할 수 있는 정적 디피 헬먼(Diffie-Hellman) 키 교환 방식을 제안했다.

하지만 진행 상황이 기대만큼 순조롭지 않았다. IETF 참여자 가운데 반대하는 사람들이 있었다. 제안된 픽스의 경우, 클라이언트가 트래픽 검사가 실시되고 있다는 점을 모를 수 있기 때문이다(네트워크에서 명백하지 않은 것이 그 이유다). 엘킨스는 "격렬한 논쟁이 있었다. 그들은 우리 솔루션을 '프라이버시 지향형'으로 바꿀 것을 제안했다"고 말했다.

이런 반대는 클라이언트가 트래픽 검사를 명시적으로 승인할 수 있는 새로운 RHRD 표준 초안의 밑바탕이 되었다. 서버는 클라이언트 동의(승인) 없이 트래픽을 검사할 수 없다. 승인을 하면, 암호 해독 장치가 재사용할 수 있도록 키를 내보내는 프로토콜 익스텐션이 생성된다. 이 표준 초안은 올해 3월 18~23일 런던에서 개최되는 차기 IETF 컨퍼런스에 제시될 예정이다. 

엘킨스에 따르면, 프라하에서 큰 우려사항이 대두됐다. 엘킨스는 "'흠(Hum, 일종의 찬반 표현 방식)'을 했다. 이는 IETF에서 합의 도달에 사용하는 한 방식이다. 참여자들이 제안된 내용에 대해 실제로 '흠' 소리로 찬반을 표현한다. 우리 솔루션이 아닌, 가시성이 필요한 지에 대한 '찬반'이었다. 결과는 50 대 50이었다. 내부 가시성이 필요하다는 의견이 늘고 있다는 의미다. 그러나 위험이 있다. 우리가 3월 제안할 계획인 솔루션에서 찬성 합의를 구성하는 '찬성'을 얻지 못할 경우, TSL 1.3에는 내부 가시성이 누락된다. 이는 네트워크 관리 용이성에 부정적인 영향을 초래할 것이다. 또한 해결책이 나올 때까지 네트워크 성능이 하락하는 문제가 발생할 것이다. 물론 미래의 표준이 초래할 영향을 정확히 예측하기란 아주 힘들다. 그러나 우리 모두는 모든 것이 제대로이기 원한다"고 강조했다.

살로웨이는 이런 문제가 해결될 것으로 낙관하는 편이다. 살로웨이는 "활발히 토론했다. 그러나 당시에는 올바른 접근법에 대한 합의가 형성되지 않았다. 이후에도 대화가 계속되고 있다. 실무그룹은 TLS 1.3을 구현하고, 실무그룹 수준에서 이를 합의하는 데 초점을 맞추고 있다. 그러나 이는 TLS 실무그룹을 넘어선다. 여전히 IETF 내부의 토론 주제다"고 말했다.

향후 전망
EDCO 구성원들은 '해결책'을 애타게 기다리고 있다. 엘킨스는 "분쟁중재자(Troubleshooters)로는 TLS 1.3으로 마이그레이션을 할 수 없다. 애플리케이션이 정지할 것이다. 우리가 용인할 수 없는 수준이다. 제때 문제를 해결하는 능력이 용인할 수 없는 수준으로 손상될 것이다. 따라서 주어진 시간이 얼마든 해결책을 찾아야 하는 상황이다"고 말했다.

살로웨이와 터너는 더 신중한 관점을 갖고 있다. 터너는 "새로운 특징이 있는 새로운 프로토콜 버전이다. 배포, 그리고 이 프로토콜을 위한 도구들이 구현되기까지 시간이 걸린다. 즉, 현실적으로 TLS 1.3이 발행된 이후에도 TLS 1.3과 관련된 추가 문서가 규정될 것이다. 다시 말해, 기본 사양인 TLS 1.3에 대한 RFC가 등장할 것이다. 향후 TLS 1.3을 확대하는 다른 문서가 등장할 수 있다. 개인적으로 별개의 문서가 될 것으로 판단하고 있다. 참고로 현재까지 EDCO가 제안한 2가지는 모두 별도 표준 초안으로 제안됐다. 기본 사용의 일부가 되지 않을 것이라고 말하는 이유가 여기에 있다. 이 가운데 일부는 RFC가 될 것이다. RFC가 되지 않는 문서도 있을 것이다. 일부는 IETF에서 처리되지도 않을 것이다. 예를 들어, 특정 조직이나 컨소시엄이 자신들의 공동체에서 사용하기 원하는 옵션으로 TLS 1.3을 프로파일링 할 수 있다"고 설명했다.

노력은 계속되고 있다. EDCO 제안의 새 버전이 3월 18일 런던에서 시작되는 IETF 101에서 제시될 예정이다. 터너는 "엄청난 관심사가 될 것으로 예상하고 있다. EDCO가 요청한 내용의 기술적인 부분들을 논의하는 단계에 도달하길 희망한다. 현재까지 제안자들은 '이것을 도입할 것입니까?'라고 직설적으로 묻지 않았다. '이런 문제가 있는데, 이것이 우리의 해결책 가운데 하나입니다'고 말했을 뿐이다. 그리고 많은 피드백을 수렴했다. 이번 3월에 나아갈 방향이나 해결책에 대한 결론이 나거나, 도출이 되기를 기대한다"고 말했다.

한편 EDCO는 컨퍼런스 개최 2일 전 IETF와는 별도로 런던에서 독자적인 세미나를 개최해 이 문제와 다른 관련 사항들을 논의할 계획이다.

엘킨스는 런던 세미나에 많은 참여를 호소했다. 그녀는 "프로토콜 사용자들은 통상 표준 관련 컨퍼런스에 참석하지 않는다. 개발자들은 '중요하게 생각하면, 우리와 함께 참여하지 그래?'라고 말할 것이다. 그러나 사용자의 상당수는 참여하는 방법을 모른다. 어쩌면 다른 사람들이 자신의 이익을 대변할 것이라고 잘못 생각하고 있는지 모르겠다. 그러나 결국에는 가용한 표준을 가지고 운영해야 한다. 그러나 표준 생성 프로세스의 일부가 되어야 한다. 그래야 자신들의 운명에 영향력을 발휘하고, 고려해야 할 관점을 제시할 수 있다"고 강조했다.

엘킨스는 이것이 산업계가 유사한 문제에 더 활발히 참여하는 계기로 작용하기 원한다. 그녀는 "다른 표준 기구와 관련해서도 산업계의 참여가 충분하지 않다. EDCO를 결성한 이유가 여기에 있다. 우리는 ICANN, IETF, ETSI 같은 표준 기구가 되어야 한다. 런던에서 일어날 일과 상관없이, 산업계가 이 방향으로 변화하고 있는 것으로 판단된다"고 말했다. editor@itworld.co.kr  

회사명 : 한국IDG | 제호: ITWorld | 주소 : 서울시 중구 세종대로 23, 4층 우)04512
| 등록번호 : 서울 아00743 등록발행일자 : 2009년 01월 19일

발행인 : 박형미 | 편집인 : 박재곤 | 청소년보호책임자 : 한정규
| 사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.