인공지능이 사이버보안 분야에 미칠 '진짜 영향력'

약점 발견과 암호 해독에 AI 활용

그러나, 특히 암호화된 데이터 흐름을 이런 검사로 깊이 파악하는 데는 한계가 있다. 공격자가 어떤 암호화된 패킷이 좋거나 나쁜지 판단할 수 있다면 기저의 암호 알고리즘을 해독할 수 있다. 
더 깊은 질문은 AI가 가장 근본적인 최저 컴퓨터 보안 계층에서 약점을 찾을 수 있는지 여부다. 지금까지 중대한 발표는 없었지만 일각에서는 어떤 것이 효과가 있거나 없을지에 대한 의문과 추측까지 제기하기 시작했다.

더 취약한 점이 있는지에 대한 명확한 답은 없다. AI들이 인간처럼 행동하도록 프로그래밍 되어 있어도 근본적인 구조는 다르다. 대형 모델들은 여러 계층으로 구성된 통계학적 관계의 모음으로서, 규모가 클수록 이점이 있다. 최근의 발전은 단순히 매개변수와 가중치의 숫자를 빠르게 확장하여 이룬 것이 많다.

가장 일반적인 대형 머신러닝 모델 구축 방식의 핵심은 다량의 선형 수학을 사용하여 매우 큰 행렬과 텐서의 연속적인 순서를 연결하는 것이다. 선형성은 피드백 중 일부를 훈련용으로 가능하게 하므로 알고리즘의 필수적인 점이다.

그러나 최고의 암호 알고리즘은 비선형으로 설계되었다. AES 또는 SHA와 같은 알고리즘은 데이터를 S-박스라고 하는 함수 집합에 통과시켜 반복적으로 섞는 방식을 활용한다. 이런 함수는 고도의 비선형으로 신중하게 설계되었으며, 알고리즘 설계자가 충분한 횟수만큼 적용하여 잘 알려진 통계학적 공격에도 안전하게 조치했다는 점이 더 중요하다.

이런 공격 중 일부는 최신 AI와 공통점이 많다. 수십 년 동안 암호 전문가는 대규모로 수집된 통계 자료를 사용하여 암호 알고리즘을 통한 데이터 흐름을 모델링했으며, AI가 훈련 데이터를 모델링하는 것과 유사하다. 과거에는 암호 전문가가 암호 알고리즘에 대한 지식을 사용하여 통계 자료를 조정하는 복잡한 작업을 수행했다.

가장 잘 알려진 예 중 하나는 ‘차분 암호 분석’이라고 자주 불리는 것이다. 아디 샤미르와 엘리 비함이 이를 처음 공개적으로 기술하였다. 그러나, NIST의 데이터 암호화 표준(DES)와 같은 초기 알고리즘의 설계자 중 일부는 그 방식을 파악하여 그에 대항하는 알고리즘을 강화했다고 밝혔다. 차분 암호 분석에 대항하여 강화된 AES와 같은 알고리즘은 유사한 선형 통계 방식을 배포하는 AI로부터의 공격에 견딜 수 있다.

더 깊이 있는 근본적인 문제도 있다. 공개-키 알고리즘 중 다수가 정밀도가 수 천 자리인 숫자들을 활용한다. UCSD의 암호 전문가 나디아 헤닝거는 “세부적인 실행 문제일 뿐이지만 더 깊이 들어갈 수도 있다. 모델은 가중치가 부동소수점으로 표현되며 정확도가 매우 중요하기 때문이다”라고 설명했다.

많은 머신러닝 알고리즘이 정확도를 자주 무시한다. 인간의 언어처럼 엉성하고 속어가 남발되며 문법이 변화무쌍한 부정확한 분야에서는 정확도가 성공에 필요하지 않았기 때문이다. 그러나 암호 분석에는 규격품 도구들이 적합하지 않을 수 있다는 의미일 뿐이며, 일반 알고리즘은 조정하여 사용할 수 있다. 이미 이 주제를 논하는 사람도 많다.
 

더 커진 규모와 상징적 모델로 AI가 큰 위협 될 수도

그러나 어려운 문제는 거대한 규모로 차이가 생길 것인가 하는 것이다. 성능 증가로 AI가 더 영리해 보이게 되었다면, AI가 기존의 차분 알고리즘보다 더 많은 허점을 찾을 수 있는 한계점이 있을지 모른다. 기존의 기법을 사용해 머신러닝 알고리즘을 더욱 효과적으로 지도할 수도 있다.

일부 AI 과학자는 대형언어모델의 강력함을 보다 논리적인 방식 및 형식적인 방법과 결합하는 방법을 상상하고 있다. 자동화된 수학적 개념 추론 메커니즘을 사용하면 단순히 훈련 데이터 내 패턴을 모방하는 것보다 훨씬 더 강력할 수 있다.

‘양자 시대(The Quantum Age)’의 저자인 보안 연구원 심슨 가핑클은 “대형 언어 모델은 실제로 생성하는 것에 대한 상징적 모델이 부족하다. 보안 속성이 내재될 것이라고 가정할 이유는 없지만, 형식적인 방법을 사용하여 보안 취약점을 찾아내는 데는 이미 경험이 많다”라고 설명했다.

AI 연구자는 대형언어모델을 더 나은 상징적 추론과 접목하여 대형언어모델의 성능을 확장하기 위해 노력 중이다. 울프럼 알파(Wolfram Alpha) 개발자 중 한 명인 스티븐 울프럼은 이것이 목표 중 하나라고 설명했다. 울프럼은 “현재 울프럼 언어에는 다양한 종류의 것들에 대한 연산적인 지식이 많이 내장되어 있지만, 완전한 상징적 담론 언어를 위해서는 세상에 대한 일반적인 지식, 예를 들어 ‘개체가 A에서 B로 이동하고 B에서 C로 이동한다면 A에서 C로 이동한 것’과 같은 것에 관한 ‘계산법’도 추가로 내장시켜야 한다”라고 썼다.

공개 키 암호화 분야를 개척한 암호 전문가 휘트필드 디피는 AI를 사용한 이런 접근 방식을 통해 새로운 미개척 수학 분야의 진전을 이룰 수 있다고 생각한다. 인간과는 생각하는 방식이 달라서 가치가 있다. 디피는 “인간이 증명할 수 있는 정리가 많이 발견된 이미 알려진 이론에 대해 머신 수학자들을 테스트하기보다는 인간의 직관이 형편없는 고차원 기하학 분야에서 인간이 찾지 못하는 것을 찾는지 테스트해 보면 어떨까?”라고 말했다.

암호 분석 분야는 아직 테스트되지 않은 다양한 수학 분야 가운데 하나일 뿐이다. 수학 자체가 무한하므로 가능성은 무한하다. 디피는 “대략적으로 말해 AI가 시스템 침투에 기여할 수 있고 그 가치가 비용보다 크다면 사람들은 사용할 것이다”라고 예측했다. 실질적인 문제는 ‘어떻게 할지’가 될 것이다.
editor@itworld.co.kr