2016.01.15

"관대한 야후", 1,100억 건 사용자 행동 데이터 머신러닝 연구용으로 공개

James Niccolai | IDG News Service
머신러닝은 자율 주행 자동차에서 이미지 인지, 온라인 추천 엔진에 이르기까지 모든 종류의 애플리케이션에서 존재감을 드러내고 있다. 그러나 구글이나 페이스북 같은 대규모 업체가 아니라면 머신러닝 프로그램 테스트와 유효화에 필요한 엄청난 양의 현실 데이터 집합을 다루는 것은 무척 어려운 일이다.

야후가 목요일 머신러닝 과학자들을 대상으로 지금까지 중 가장 큰 데이터 집합을 공개했다. 야후 뉴스, 야후 스포츠 등 사이트상에서 익명화된 사용자의 뉴스 피드 상호작용 모음이다. 이번에 공개된 것은 사용자가 뉴스를 클릭한 시간, 뉴스 피드를 본 후의 활동 등을 담은 총 1,100억 건의 기록이며, 용량은 13.5TB, 또는 압축해서 1.5TB다. 야후는 지난 번 공개된 데이터 집합보다 약 10배 더 큰 규모라고 밝혔다. 야후는 지난 해에도 마케팅 업체 크리테오(Criteo)를 통해 1TB 용량에 40억 건의 데이터를 공개한 바 있다.

빨간 박스 안의 야후 뉴스피드에서 이뤄진 사용자 행동 데이터 집합이 공개됐다.

야후는 “데이터는 머신러닝 연구의 생명선과 같다”며, “그러나 진정한 대규모 데이터 집합에 접근하는 것은 대형 업체 소속의 머신러닝 연구자, 데이터 과학자에게만 허락된 특권이었고, 학계 연구자에게는 매우 어려웠다”고 데이터 공개 목적을 밝혔다.

머신러닝은 시간을 두고 문제 해결 능력을 향상하며 ‘배우는’ 일련의 프로그램 과정을 말한다. 가장 초기의 예시는 스팸 메일 추적이었지만, 머신러닝은 이제 이미지 인지, 번역 등 무수히 많은 분야에서 활용되고 있다.

컴퓨터 과학자들은 머신러닝 시스템을 보조하기 위해 모델을 만들고 알고리즘을 작성한다. 그러나 이들 역시 모델을 테스트하고 개선하기 위한 방대한 데이터 집합을 필요로 한다. 야후 개인화 과학 리서치 담당자 수유 라얀은 이 경우 실제 데이터가 아닌 합성한 가상 데이터를 사용할 수도 있지만, 실제 사용자의 무질서하고 예측할 수 없는 온라인 행동을 반영하지 못하는 단점이 있다고 지적했다.

또, “실제 현실 데이터는 무질서하고 많은 난관을 나타내며, 인공 데이터를 만들어낼 때는 고려하기 어려운 부분이다. 실제 행동을 계산에 넣지 않고 만든 알고리즘은 제대로 작동하지 않을 수 있다”고 강조했다.

라얀은 데이터 과학자들이 이번에 공개된 사용자 행동 데이터로 넷플릭스, 아마존 등과 같은 연관 추천 기능이 뛰어난 엔진 설계가 가능하리라고 내다보고 있다. 그러나 동시에 클라우드 공급 업체의 데이터 처리를 도움으로써 정보 검색, 소셜 피드 순위 집계, 심지어 시스템 엔지니어링 등의 분야 발전을 도울 수 있다고 밝혔다.

사용자 데이터 집합은 비영리 목적의 익명 데이터 저장소이자 데이터 공유 프로그램인 야후 랩 웹스코프를 통해 다운로드 받을 수 있다. 야후 뉴스, 스포츠, 금융, 영화, 부동산 분야의 콘텐츠에 대한 사용자 상호작용을 기반으로 하며, 지난 해 4개월 간 2,000만 명 야후 사용자를 대상으로 수집됐다. 상호작용 데이터뿐 아니라, 성별, 연령 등 하위 카테고리의 통계 데이터도 포함하고, 연관된 뉴스 기사의 제목, 요약된 내용, 핵심 문장 등을 함께 공개하고 있어 행동 연구에 매우 유용할 전망이다.

야후는 머신러닝 학계 연구자들이 동등한 여건 하에서 연구할 수 있는 환경을 조성하는 것이 목표라고 밝혔다. 학계 연구자들은 기업 단위 연구자보다 더 자유롭게 장기적인 관점으로 프로젝트를 진행할 수 있는 장점을 지녔으나 실제 데이터를 손에 넣기 어렵다. 라얀은 “야후 등의 기업과 같은 방식으로 학계 연구자들도 문제 해결에 데이터를 활용할 수 있고, 또는 기업체에서 미처 생각하지 못한 방식으로 새로운 문제를 발견할 수도 있다”고 밝혔다. editor@itworld.co.kr  


2016.01.15

"관대한 야후", 1,100억 건 사용자 행동 데이터 머신러닝 연구용으로 공개

James Niccolai | IDG News Service
머신러닝은 자율 주행 자동차에서 이미지 인지, 온라인 추천 엔진에 이르기까지 모든 종류의 애플리케이션에서 존재감을 드러내고 있다. 그러나 구글이나 페이스북 같은 대규모 업체가 아니라면 머신러닝 프로그램 테스트와 유효화에 필요한 엄청난 양의 현실 데이터 집합을 다루는 것은 무척 어려운 일이다.

야후가 목요일 머신러닝 과학자들을 대상으로 지금까지 중 가장 큰 데이터 집합을 공개했다. 야후 뉴스, 야후 스포츠 등 사이트상에서 익명화된 사용자의 뉴스 피드 상호작용 모음이다. 이번에 공개된 것은 사용자가 뉴스를 클릭한 시간, 뉴스 피드를 본 후의 활동 등을 담은 총 1,100억 건의 기록이며, 용량은 13.5TB, 또는 압축해서 1.5TB다. 야후는 지난 번 공개된 데이터 집합보다 약 10배 더 큰 규모라고 밝혔다. 야후는 지난 해에도 마케팅 업체 크리테오(Criteo)를 통해 1TB 용량에 40억 건의 데이터를 공개한 바 있다.

빨간 박스 안의 야후 뉴스피드에서 이뤄진 사용자 행동 데이터 집합이 공개됐다.

야후는 “데이터는 머신러닝 연구의 생명선과 같다”며, “그러나 진정한 대규모 데이터 집합에 접근하는 것은 대형 업체 소속의 머신러닝 연구자, 데이터 과학자에게만 허락된 특권이었고, 학계 연구자에게는 매우 어려웠다”고 데이터 공개 목적을 밝혔다.

머신러닝은 시간을 두고 문제 해결 능력을 향상하며 ‘배우는’ 일련의 프로그램 과정을 말한다. 가장 초기의 예시는 스팸 메일 추적이었지만, 머신러닝은 이제 이미지 인지, 번역 등 무수히 많은 분야에서 활용되고 있다.

컴퓨터 과학자들은 머신러닝 시스템을 보조하기 위해 모델을 만들고 알고리즘을 작성한다. 그러나 이들 역시 모델을 테스트하고 개선하기 위한 방대한 데이터 집합을 필요로 한다. 야후 개인화 과학 리서치 담당자 수유 라얀은 이 경우 실제 데이터가 아닌 합성한 가상 데이터를 사용할 수도 있지만, 실제 사용자의 무질서하고 예측할 수 없는 온라인 행동을 반영하지 못하는 단점이 있다고 지적했다.

또, “실제 현실 데이터는 무질서하고 많은 난관을 나타내며, 인공 데이터를 만들어낼 때는 고려하기 어려운 부분이다. 실제 행동을 계산에 넣지 않고 만든 알고리즘은 제대로 작동하지 않을 수 있다”고 강조했다.

라얀은 데이터 과학자들이 이번에 공개된 사용자 행동 데이터로 넷플릭스, 아마존 등과 같은 연관 추천 기능이 뛰어난 엔진 설계가 가능하리라고 내다보고 있다. 그러나 동시에 클라우드 공급 업체의 데이터 처리를 도움으로써 정보 검색, 소셜 피드 순위 집계, 심지어 시스템 엔지니어링 등의 분야 발전을 도울 수 있다고 밝혔다.

사용자 데이터 집합은 비영리 목적의 익명 데이터 저장소이자 데이터 공유 프로그램인 야후 랩 웹스코프를 통해 다운로드 받을 수 있다. 야후 뉴스, 스포츠, 금융, 영화, 부동산 분야의 콘텐츠에 대한 사용자 상호작용을 기반으로 하며, 지난 해 4개월 간 2,000만 명 야후 사용자를 대상으로 수집됐다. 상호작용 데이터뿐 아니라, 성별, 연령 등 하위 카테고리의 통계 데이터도 포함하고, 연관된 뉴스 기사의 제목, 요약된 내용, 핵심 문장 등을 함께 공개하고 있어 행동 연구에 매우 유용할 전망이다.

야후는 머신러닝 학계 연구자들이 동등한 여건 하에서 연구할 수 있는 환경을 조성하는 것이 목표라고 밝혔다. 학계 연구자들은 기업 단위 연구자보다 더 자유롭게 장기적인 관점으로 프로젝트를 진행할 수 있는 장점을 지녔으나 실제 데이터를 손에 넣기 어렵다. 라얀은 “야후 등의 기업과 같은 방식으로 학계 연구자들도 문제 해결에 데이터를 활용할 수 있고, 또는 기업체에서 미처 생각하지 못한 방식으로 새로운 문제를 발견할 수도 있다”고 밝혔다. editor@itworld.co.kr  


X