벡터 유사도 검색이란?
일반적으로 벡터 유사도 검색에는 노래, 이미지, 텍스트 등 원본 객체의 주요 특성을 수집하는 벡터 임베딩(Embedding), 벡터들 사이의 ‘근접성’을 나타내는 거리 메트릭스, 검색 알고리즘, 벡터를 보관하고 인덱스를 통해 벡터 검색을 지원하는 데이터베이스의 4가지 요소가 존재한다.벡터 임베딩이란?
벡터 임베딩은 기본적으로 머신 러닝 및 딥 러닝의 맥락에서 이해한 변수 벡터이다. 변수 가공을 수동으로 수행하거나 모델의 결과값을 사용하여 정의할 수 있다.예를 들어 텍스트 문자열을 신경망, 단어 동시 발생 메트릭에 대한 차원 수 감소, 확률론적 모델, 설명 가능한 지식 베이스 방법, 단어가 나타나는 문맥 측면에서 명시적인 표현을 사용하여 단어 임베딩(변수 벡터)으로 전환할 수 있다. 단어 임베딩을 훈련하고 사용하는 보편적인 모델로는 word2vec(구글), GloVe(스탠포드), ELMo (앨런 인스티튜트/워싱턴대학교), BERT(구글), fastText(페이스북) 등이 있다.
CNN(Convolutional Neural Network) 모델 또는 트랜스포머 모델의 결과값을 수집하여 이미지가 임베드되는 경우가 많다. 이런 모델은 픽셀 패치를 변수로 롤링하여(‘감기’)하고 풀링 레이어(Pooling Layer)를 통해 다운 샘플링 하여 변수 벡터의 차원 수를 자동으로 줄인다.
제품 추천은 제품 설명의 단어 및 문구의 임베딩, 제품 이미지의 임베딩 또는 둘 모두에 기초할 수 있다. 오디오 임베딩은 (스펙트럼을 제공하는) 오디오의 푸리에 변환, 작곡가, 장르, 예술가, 템포, 리듬, 소리 크기에 대한 설명, 스펙트럼과 키워드에 기초할 수도 있다. 이 분야는 빠르게 발전하고 있기 때문에 다양한 영역에 적용할 수 있는 새로운 임베딩 기법이 생겨날 것이다.
거리 메트릭스란?
사람은 일반적으로 2차원 또는 3차원으로 직선의 측면에서 거리를 생각한다. 그러나 벡터 임베딩은 10차원 이상인 경우가 많고 1,000차원 이상인 경우도 드물지 않다. 일반 거리 공식은 헤르만 민코프스키의 이름을 따서 명명했다. 민코프스키는 아인슈타인의 특수 상대성 원리의 시간을 4번째 차원으로 하여 4차원 시공간으로 구성한 것으로 유명하다. 민코프스키 메트릭(또는 거리)은 유클리드 거리(직접 직선)와 맨하탄 거리(도시 구획을 걷는 등 들쭉날쭉한 선)의 일반화이다.L2 거리 또는 L2 법칙으로도 알려져 있는 유클리드 거리는 클러스터 알고리즘에 사용되는 가장 보편적인 메트릭이다. 또 다른 메트릭인 코사인 유사도는 텍스트 처리에 자주 사용되며, 임베딩 벡터의 방향이 중요하지만 그 사이의 거리는 중요하지 않다.
벡터 유사도 검색을 수행할 수 있는 알고리즘은 무엇인가?
일반적으로 KNN(K-Nearest Neighbor) 알고리즘은 벡터 검색 문제에 대한 좋은 답을 제공할 가능성이 있다. 문제는 컴퓨팅 비용(프로세서와 메모리 사용량)이 높다는 점이다.KNN의 대안으로는 ANN(Approximate Nearest Neighbors) 검색 알고리즘과 ANN의 변종인 SPTAG(Space Partition Tree And Graph)가 있다. SPTAG는 마이크로소프트 리서치의 빙이 오픈소스로 공개했다. 페이스북이 오픈소스에 공개한 유사한 ANN의 변종은 페이스북 AI 유사도 검색(파이스, Faiss)이다. 프로덕트 양자화기(Product Quantizer)와 IndexIVFPQ 인덱스는 파이스와 일부 다른 ANN 변종의 속도를 높이는 데 도움이 된다. 앞서 언급했듯이 벡터 데이터베이스는 벡터 인덱스를 구축하여 검색 속도를 개선하는 경우가 많다.
파이스는 10억 벡터 데이터베이스에서 쿼리 문서와 유사한 멀티미디어 문서를 검색하기 위해 개발되었다. 평가를 위해 개발자들은 10억 개의 이미지로 구성된 콜렉션인 Deep1B를 사용했다. 파이스로 벡터 전처리, 데이터베이스 파티셔닝, 벡터 인코딩(제품 양자화)을 사용자 정의하여 데이터세트를 가용 RAM에 맞출 수 있다. 파이스는 CPU와 GPU에 별도로 구현된다. CPU에서는 2ms 안에 10억 개의 이미지 데이터세트에서 40% 리콜 점수를 달성할 수 있다(코어당 초당 200개 쿼리). 파스칼(Pascal) 클래스 엔비디아 GPU에서는 CPU보다 20배 빠른 속도로 검색한다.
SPTAG도 유사한 목적으로 개발되었지만 조금 다른 방법을 사용한다. 빙은 전통적인 키워드 일치와 비교하여 결과를 개선하기 위해 검색 엔진이 인덱싱한 1,500억 개 이상의 데이터 조각을 벡터화했다. 벡터화된 데이터로는 단일 단어, 문자, 웹 페이지 정보, 풀 쿼리, 기타 미디어 등이 있다. SPTAG 개발자는 쿼리 지향적 통합형 인접 그래프 검색을 사용하여 마이크로소프트 리서치 아시아에서 ANN 이전 검색을 기반으로 개발했으며 kd 트리(인덱싱 구축에 유리)와 k 평균 트리(검색 정확도에 유리) 알고리즘을 구현했다. 검색은 여러 개의 무작위 시드로 시작한 후 트리와 그래프에서 반복적으로 계속한다.
파인콘(Pinecone)은 생산 애플리케이션에 벡터 검색을 쉽게 추가할 수 있는 API를 갖춘 완전 관리형 벡터 데이터베이스이다. 파인콘의 유사도 검색 서비스는 분산되어 있고 서버가 없으며 일정하고 일관되며 공유되고 여러 노드에 복제된다. 파인콘은 수십억 개의 벡터 임베딩을 처리할 수 있으며 파이썬(Python) 또는 자바(Java) 애플리케이션과 노트북에서 유사도 검색을 실행할 수 있다.
파인콘은 50ms 미만의 지연 속도와 초당 수십억 개의 항목 및 수천 개의 쿼리를 주장하고 있다. 강화된 AWS 인프라를 기반으로 구동한다. 데이터는 독립된 컨테이너에 저장되고 전송 중 암호화된다.
벡터 검색의 적용 사례
페이스북이 시연한 이미지 검색과 마이크로소프트 빙이 구현한 의미론적 텍스트 검색 외에 벡터 유사도 검색은 여러 사용 사례에 적용할 수 있다. 그 예로 제품 추천, FAQ 답변, 개인화, 오디오 검색, 중복 제거, IT 이벤트 로그의 위협 감지 등을 들 수 있다. editor@itworld.co.kr함께 보면 좋은 콘텐츠
Sponsored
Surfshark
“유료 VPN, 분명한 가치 있다” VPN 선택 가이드
ⓒ Surfshark VPN(가상 사설 네트워크, Virtual Private Network)은 인터넷 사용자에게 개인 정보 보호와 보안을 제공하는 중요한 도구로 널리 인정받고 있다. VPN은 공공 와이파이 환경에서도 데이터를 안전하게 전송할 수 있고, 개인 정보를 보호하는 데 도움을 준다. VPN 서비스의 수요가 증가하는 것도 같은 이유에서다. 동시에 유료와 무료 중 어떤 VPN을 선택해야 할지 많은 관심을 가지고 살펴보는 사용자가 많다. 가장 먼저 사용자의 관심을 끄는 것은 별도의 예산 부담이 없는 무료 VPN이지만, 그만큼의 한계도 있다. 무료 VPN, 정말 괜찮을까? 무료 VPN 서비스는 편리하고 경제적 부담도 없지만 고려할 점이 아예 없는 것은 아니다. 보안 우려 대부분의 무료 VPN 서비스는 유료 서비스에 비해 보안 수준이 낮을 수 있다. 일부 무료 VPN은 사용자 데이터를 수집해 광고주나 서드파티 업체에 판매하는 경우도 있다. 이러한 상황에서 개인 정보가 유출될 우려가 있다. 속도와 대역폭 제한 무료 VPN 서비스는 종종 속도와 대역폭에 제한을 생긴다. 따라서 사용자는 느린 인터넷 속도를 경험할 수 있으며, 높은 대역폭이 필요한 작업을 수행하는 데 제약을 받을 수 있다. 서비스 제한 무료 VPN 서비스는 종종 서버 위치가 적거나 특정 서비스 또는 웹사이트에 액세스하지 못하는 경우가 생긴다. 또한 사용자 수가 늘어나 서버 부하가 증가하면 서비스의 안정성이 저하될 수 있다. 광고 및 추적 위험 일부 무료 VPN은 광고를 삽입하거나 사용자의 온라인 활동을 추적하여 광고주에게 판매할 수 있다. 이 경우 사용자가 광고를 보아야 하거나 개인 정보를 노출해야 할 수도 있다. 제한된 기능 무료 VPN은 유료 버전에 비해 기능이 제한될 수 있다. 예를 들어, 특정 프로토콜이나 고급 보안 기능을 지원하지 않는 경우가 그렇다. 유료 VPN의 필요성 최근 유행하는 로맨스 스캠은 인터넷 사기의 일종으로, 온라인 데이트나 소셜 미디어를 통해 가짜 프로필을 만들어 상대를 속이는 행위다. 이러한 상황에서 VPN은 사용자가 안전한 연결을 유지하고 사기 행위를 방지하는 데 도움이 된다. VPN을 통해 사용자는 상대방의 신원을 확인하고 의심스러운 활동을 감지할 수 있다. 서프샤크 VPN은 구독 요금제 가입 후 7일간의 무료 체험을 제공하고 있다. ⓒ Surfshark 그 외에도 유료 VPN만의 강점을 적극 이용해야 하는 이유는 다음 3가지로 요약할 수 있다. 보안 강화 해외 여행객이 증가함에 따라 공공 와이파이를 사용하는 경우가 늘어나고 있다. 그러나 공공 와이파이는 보안이 취약해 개인 정보를 노출할 위험이 있다. 따라서 VPN을 사용하여 데이터를 암호화하고 개인 정보를 보호하는 것이 중요하다. 서프샤크 VPN은 사용자의 개인 정보를 안전하게 유지하고 해킹을 방지하는 데 유용하다. 개인정보 보호 인터넷 사용자의 검색 기록과 콘텐츠 소비 패턴은 플랫폼에 의해 추적될 수 있다. VPN을 사용하면 사용자의 IP 주소와 로그를 숨길 수 있으며, 개인 정보를 보호할 수 있다. 또한 VPN은 사용자의 위치를 숨기고 인터넷 활동을 익명으로 유지하는 데 도움이 된다. 지역 제한 해제 해외 여행 중에도 한국에서 송금이 필요한 경우가 생길 수 있다. 그러나 IP가 해외 주소이므로 은행 앱에 접근하는 것이 제한될 수 있다. VPN을 사용하면 지역 제한을 해제해 해외에서도 한국 인터넷 서비스를 이용할 수 있다. 따라서 해외에서도 안전하고 편리하게 인터넷을 이용할 수 있다. 빠르고 안전한 유료 VPN, 서프샤크 VPN ⓒ Surfshark 뛰어난 보안 서프샤크 VPN은 강력한 암호화 기술을 사용하여 사용자의 인터넷 연결을 안전하게 보호한다. 이는 사용자의 개인 정보와 데이터를 보호하고 외부 공격으로부터 사용자를 보호하는 데 도움이 된다. 다양한 서버 위치 서프샤크 VPN은 전 세계 곳곳에 여러 서버가 위치하고 있어, 사용자가 지역 제한된 콘텐츠에 액세스할 수 있다. 해외에서도 로컬 콘텐츠에 손쉽게 접근할 수 있음은 물론이다. 속도와 대역폭 서프샤크 VPN은 빠른 속도와 무제한 대역폭을 제공하여 사용자가 원활한 인터넷 경험을 누릴 수 있도록 지원한다. 온라인 게임, 스트리밍, 다운로드 등 대역폭이 필요한 활동에 이상적이다. 다양한 플랫폼 지원 서프샤크 VPN은 다양한 플랫폼 및 디바이스에서 사용할 수 있다. 윈도우, 맥OS, iOS, 안드로이드 등 다양한 운영체제 및 디바이스에서 호환되어 사용자가 어디서나 안전한 인터넷을 즐길 수 있다. 디바이스 무제한 연결 서프샤크 VPN은 무제한 연결을 제공하여 사용자가 필요할 때 언제든지 디바이스의 갯수에 상관없이 VPN을 사용할 수 있다.