2021.08.11

IDG 블로그 | “의도만 좋았다” 애플의 도를 넘은 CSAM 대응

Evan Schuman | Computerworld
최신 소식에 따르면, 애플은 남아도는 역량을 CSAM(Child Sexual Abuse Material)과 싸우는 데 사용하고자 한다. 언제나 그렇듯이, 애플의 의도는 좋고, 원대한 목표로 나아가고자 한다. 그리고는 이런 과유불급으로 사람들이 반대할 이유를 수십 개씩 만들어 낸다. 오랜 속담을 인용하자면, 지옥으로 가는 길은 선의로 포장되어 있고, 이번 경우에는 원 애플 파크 웨이(One Apple Park Way, 애플 본사 주소)에서 시작됐다. 쿠퍼티노는 좋은 아이디어가 끔찍한 처형이 되는 곳인 것 같다.


이번 소동은 지난 주 애플이 CSAM을 방지할 수 있는 뭔가를 할 것이라고 발표하면서 시작됐다. 이때까지는 좋았다. 애플의 전술에는 아이들이 누드 사진이나 기타 성적인 이미지를 다운로드하면 부모에게 알려주는 것도 포함되어 있다. 애플 전술의 기술적인 측면을 자세히 들여다보지 않더라도, 이런 방식이 잘못될 수 있는 가능성은 거의 무한대라는 것을 알 수 있다. 그래서 애플 본사가 인피니티 루프라는 이름을 지었는지도 모른다.

자신의 감정을 잘 모르는 청소년은 자신의 욕구와 생각을 이해하고자 노력할 것이다. 그런데, 이런 청소년의 검색 내용이 즉각 부모와 공유된다면? 청소년이 자신의 감정을 원하는 사람과 원하는 시간에 이야기할 수 있는 권리를 보장하는 방법이 아니지 않은가? 많은 사람이 지적했듯이, 일부 가정에서는 아이들의 이런 행동은 심각한 처벌로 이어질 수 있다. 스마트폰 검색 결과로 아이들의 마음을 알 수 있다고 생각하는 것일까?

부모의 입장에서도 과연 이런 조처가 아이를 위한 옳은 일인지 의심하지 않을 수 없다. 하지만 옳건 그르건, 필자는 애플 엔지니어의 전화는 받고 싶지 않다. 애플 알고리즘의 전화는 더더욱 싫다. 이외에도 프라이버시 침해에 대한 지적은 무수히 많다.

잊지 말아야 할 것이 있다. 정책 상 애플은 일정한 방식으로 지역 법률과 규제를 따른다. 일부 국가는 이 문제를 어떻게 볼 것인지 생각해야 한다. 애플의 문구처럼 이 변화는 “자녀들이 온라인 커뮤니케이션을 잘 이용할 수 있도록 돕는 데 있어서 부모가 좀 더 정보에 근거한 역할을 맡을 수 있도록 해준다. 메시지 앱은 민감한 콘텐츠에 관해 경고하는 데 온디바이스 머신러닝을 사용할 것이다.” 그리고 “추가 예방 조치로, 아동의 안전을 보장하기 위해 이런 콘텐츠를 본다면 부모에게 메시지가 간다는 것을 알려줄 수도 있다.”

하지만 더 나쁜 문제도 있는데, 바로 암호화와 관련된 것이다. 애플의 설명 중 이 부분을 보자. 

“한계점 기밀 공유(threshold secret sharing)라는 또 하나의 기술을 사용해 아이클라우드 포토 계정이 알려진 CSAM 콘텐츠의 한계점을 넘지 않는 한, 애플은 안전 바우처의 콘텐츠를 해석할 수 없다. 임계치는 극히 높은 수준의 정확도를 제공하도록 설정되는데, 특정 계정을 잘못 판단할 가능성은 연간 1조분의 1 이하이다. 이 한계점을 초과할 때만, 암호화 기술이 안전 바우처의 콘텐츠를 해석해 CSAM 이미지와 부합하는지 확인할 수 있다.”

CISO나 사이버 보안 책임자가 질색할 요소는 두 가지이다. 우선, 애플의 시스템은 암호화되기 전의 이미지를 가지고 있다. 이는 암호화를 무력화시키는 것은 아니다. 하지만 사이버 범죄자의 관점에서는 크게 다르지 않다.

둘째는 “한계점을 넘으면”이라는 조건이다. 이제 악당에게 필요한 것은 한계점을 넘었다고 시스템이 생각하도록 만드는 수법뿐이다. 포르노가 중요한 것이 아니다. 이 방법은 스마트폰의 모든 콘텐츠를 볼 수 있는 좋은 백도어가 될 수 있다. 

스마트폰 기반 암호화의 전제는 스마트폰을 실질적으로 절대적인 것에 가깝게 만드는 것이다. 만약 암호화 이전에 액세스하는 것이 허용된다면, 어떤 알고리즘이 일부 기준을 만족하는 것으로 판단하면 암호화를 해제하는 것이 허용된다면, 더 이상 안전하지 않다. 공격자가 모든 데이터에 액세스하는 지도를 그려주는 것과 마찬가지다.

백도어로 봐야 할지도 모른다. 아니라고 하더라도 백도어에 너무 가깝다. editor@itworld.co.kr


2021.08.11

IDG 블로그 | “의도만 좋았다” 애플의 도를 넘은 CSAM 대응

Evan Schuman | Computerworld
최신 소식에 따르면, 애플은 남아도는 역량을 CSAM(Child Sexual Abuse Material)과 싸우는 데 사용하고자 한다. 언제나 그렇듯이, 애플의 의도는 좋고, 원대한 목표로 나아가고자 한다. 그리고는 이런 과유불급으로 사람들이 반대할 이유를 수십 개씩 만들어 낸다. 오랜 속담을 인용하자면, 지옥으로 가는 길은 선의로 포장되어 있고, 이번 경우에는 원 애플 파크 웨이(One Apple Park Way, 애플 본사 주소)에서 시작됐다. 쿠퍼티노는 좋은 아이디어가 끔찍한 처형이 되는 곳인 것 같다.


이번 소동은 지난 주 애플이 CSAM을 방지할 수 있는 뭔가를 할 것이라고 발표하면서 시작됐다. 이때까지는 좋았다. 애플의 전술에는 아이들이 누드 사진이나 기타 성적인 이미지를 다운로드하면 부모에게 알려주는 것도 포함되어 있다. 애플 전술의 기술적인 측면을 자세히 들여다보지 않더라도, 이런 방식이 잘못될 수 있는 가능성은 거의 무한대라는 것을 알 수 있다. 그래서 애플 본사가 인피니티 루프라는 이름을 지었는지도 모른다.

자신의 감정을 잘 모르는 청소년은 자신의 욕구와 생각을 이해하고자 노력할 것이다. 그런데, 이런 청소년의 검색 내용이 즉각 부모와 공유된다면? 청소년이 자신의 감정을 원하는 사람과 원하는 시간에 이야기할 수 있는 권리를 보장하는 방법이 아니지 않은가? 많은 사람이 지적했듯이, 일부 가정에서는 아이들의 이런 행동은 심각한 처벌로 이어질 수 있다. 스마트폰 검색 결과로 아이들의 마음을 알 수 있다고 생각하는 것일까?

부모의 입장에서도 과연 이런 조처가 아이를 위한 옳은 일인지 의심하지 않을 수 없다. 하지만 옳건 그르건, 필자는 애플 엔지니어의 전화는 받고 싶지 않다. 애플 알고리즘의 전화는 더더욱 싫다. 이외에도 프라이버시 침해에 대한 지적은 무수히 많다.

잊지 말아야 할 것이 있다. 정책 상 애플은 일정한 방식으로 지역 법률과 규제를 따른다. 일부 국가는 이 문제를 어떻게 볼 것인지 생각해야 한다. 애플의 문구처럼 이 변화는 “자녀들이 온라인 커뮤니케이션을 잘 이용할 수 있도록 돕는 데 있어서 부모가 좀 더 정보에 근거한 역할을 맡을 수 있도록 해준다. 메시지 앱은 민감한 콘텐츠에 관해 경고하는 데 온디바이스 머신러닝을 사용할 것이다.” 그리고 “추가 예방 조치로, 아동의 안전을 보장하기 위해 이런 콘텐츠를 본다면 부모에게 메시지가 간다는 것을 알려줄 수도 있다.”

하지만 더 나쁜 문제도 있는데, 바로 암호화와 관련된 것이다. 애플의 설명 중 이 부분을 보자. 

“한계점 기밀 공유(threshold secret sharing)라는 또 하나의 기술을 사용해 아이클라우드 포토 계정이 알려진 CSAM 콘텐츠의 한계점을 넘지 않는 한, 애플은 안전 바우처의 콘텐츠를 해석할 수 없다. 임계치는 극히 높은 수준의 정확도를 제공하도록 설정되는데, 특정 계정을 잘못 판단할 가능성은 연간 1조분의 1 이하이다. 이 한계점을 초과할 때만, 암호화 기술이 안전 바우처의 콘텐츠를 해석해 CSAM 이미지와 부합하는지 확인할 수 있다.”

CISO나 사이버 보안 책임자가 질색할 요소는 두 가지이다. 우선, 애플의 시스템은 암호화되기 전의 이미지를 가지고 있다. 이는 암호화를 무력화시키는 것은 아니다. 하지만 사이버 범죄자의 관점에서는 크게 다르지 않다.

둘째는 “한계점을 넘으면”이라는 조건이다. 이제 악당에게 필요한 것은 한계점을 넘었다고 시스템이 생각하도록 만드는 수법뿐이다. 포르노가 중요한 것이 아니다. 이 방법은 스마트폰의 모든 콘텐츠를 볼 수 있는 좋은 백도어가 될 수 있다. 

스마트폰 기반 암호화의 전제는 스마트폰을 실질적으로 절대적인 것에 가깝게 만드는 것이다. 만약 암호화 이전에 액세스하는 것이 허용된다면, 어떤 알고리즘이 일부 기준을 만족하는 것으로 판단하면 암호화를 해제하는 것이 허용된다면, 더 이상 안전하지 않다. 공격자가 모든 데이터에 액세스하는 지도를 그려주는 것과 마찬가지다.

백도어로 봐야 할지도 모른다. 아니라고 하더라도 백도어에 너무 가깝다. editor@itworld.co.kr


X