넘버스
넘버스
딥페이크
"실수 없는 AI는 없다"…딥페이크·실수·편견은 불가피하지만 통제 가능
챗GPT, 달리2(Dall-E2), 알파코드(AlphaCode) 같은 생성형 AI 개발사가 맹렬한 속도로 성장, 발전하고 있다. 그러나 AI 기술의 착각, 오류 또는 공격적인 응답을 방지하는 것은 거의 불가능에 가깝다. 특히 자연어를 모방...
“클릭 몇 번이면 완성” AI가 만드는 위험한 딥페이크
아스테크니카(ArsTechnica)는 AI 이미지 생성기인 스테이블 디퓨전(Stable Diffusion)과 드림부스(Dreambooth)란 기술을 사용해 딥페이크 이미지를 제작한 과정을 소개했다. AI는 초등학교 교사 존이라는 가상 인물의 소셜 웹 ...
딥페이크
“딥페이크, 10년 안으로 광고 및 미디어에서 널리 사용될 것”
4개 대학 연구팀에 따르면, ‘딥페이크’가 10년 이내에 메인스트림 미디어 및 광고에서 널리 사용될 것이며, 개인화된 광고의 다음 단계를 제공할 수 있을 전망이다. ‘딥페이크 및 AI 생성 광고 시대를 위한 준비: 조작된 광고에 대한 반응을 이해하기...
'딥페이크와 AI가 가져올 변화' 합성 미디어에서 눈을 떼지 마라
앞으로의 10년은 AI가 영상, 소리, 글의 창작을 개선하고 가속화하는 기간이 될 것 같다. 향후 몇 년간 비즈니스에 영향을 미칠 가장 큰 기술 트렌드는 ‘합성 미디어(Synthetic media)’다. 물론 아직은 회의실과 줌 회의에서 거의 언급되...
‘해킹도 ML로 진화 중’ 머신러닝 해킹 수법 9가지
머신러닝 알고리즘은 보안 솔루션을 개선하여 애널리스트가 위협을 분류하고 취약점을 신속하게 해결할 수 있도록 지원한다. 하지만 동시에 해커들이 더 큰 규모의 복잡한 사이버 공격을 가하는 데 악용되기도 한다. 머신러닝과 인공지능...
“게임 체인저인가 범죄 도구인가” 딥페이크 기술의 명암 - IDG Tech Report
과학 기술에는 어두운 이면이 존재한다. 인간의 이미지를 실제와 유사하게 합성하는 ‘딥페이크(Deepfake)’도 이런 논란이 있는 대표적인 기술이다. 가장 널리 알려진 사용례가 가짜 뉴스와 디지털 성범죄 영상 제작일 정도로 딥페이크의 역기능을 우려하는...
숫자로 보는 2022년 사이버보안 동향 9가지
코로나19 팬데믹이 2년째에 접어들었다. 코로나19가 사람의 개인적 일상과 업무의 모든 측면에 영향을 미쳤다 해도 과언이 아니다. 엔터프라이즈 보안 측면에서도 팬데믹은 많은 것을 바꿔 놓았다. 수많은 근무자가 이제 집안의 와이파이를 통...
딥페이크를 이용한 소셜 엔지니어링 및 인증 위협 방법과 대응 방안
딥페이크(Deepfakes) 기술로 인해 기업의 사이버보안 위협이 증가하고 있다. 사이버 범죄자들은 사이버 공격과 사기에 사용할 합성 또는 조작된 디지털 콘텐츠(이미지, 동영상, 오디오, 문자 포함)를 만들기 위해 AI 및 머신러닝에 투자하고 있다. ...
공격자가 현재 사용하는 7가지 소셜 엔지니어링 전술
최근 소셜 엔지니어링 공격이 증가하고 있다. 코로나 19에 대한 두려움, 소득에 대한 우려가 커지면서 절박감, 건강과 복지에 대한 걱정은 범죄자가 공격하기 쉽게 만들었다. 물론 소셜 엔지니어링은 컴퓨터 시스템 자체가 아닌 사용자를 공격해 정보를 빼내거...
딥페이크 비디오의 작동 방법과 위험한 이유
딥페이크(Deepfakes)는 진짜처럼 보이는 가짜 비디오 또는 오디오 기록이다. 한때는 할리우드 특수효과 스튜디오와 CIA 또는 GCHQ의 JTRIG 부서와 같은 프로파간다를 생산하는 정보 기관의 전유물이었지만 이제는 누구나 딥페이크 소프트웨어를 다...
“딥페이크 방지에도 블록체인” 2023년 뉴스의 30%로 확산 전망
블록체인의 잠재력에 대한 기대가 계속 커지면서 기업과 정부는 디지털 ID부터 투표, 공급망 추적까지 다양한 영역으로 파일럿 프로젝트를 확대하고 있다. 하지만 가트너의 하이프사이클에 따르면, 블록체인 이미 환멸 단계에 들어섰다. 기술적 운영적 성숙 이전...
"뛰는 놈 위에 나는 놈" 풍부한 PII 악용해 정교한 가장 공격 가능
각 기업이 계정 점유, 스피어피싱 및 기타 가장(impersonation) 공격에 대한 보호를 강화하게 되자 공격자들은 더 많고 풍부한 개인 식별 정보(Personally Identifiable Information, PII)를 수집하는 방식으로 대응...
마케팅 위협하는 딥페이크, 신뢰성 확보 위한 예방 조치 중요
인공지능 기술을 활용해 기존 인물의 얼굴이나 특정 부위를 영화의 CG처럼 합성한 영상편집물인 딥페이크(Deepfakes)는 정치인에게만 위협이 되는 것이 아니다. 딥페이크가 만들어 내는 가짜 마케팅의 위험성에 주의를 기울여야 한다. 미...
“팩트를 조작한다” 딥페이크의 동작 원리와 위험성
딥페이크(Deepfake)는 실제처럼 보이고 들리는 가짜 동영상 또는 오디오 파일이다. 과거에는 할리웃 특수 효과 스튜디오나 CIA에서나 제작헐 수 있었지만, 지금은 누구든 여가 시간에 딥페이크 소프트웨어를 다운로드하여 진짜처럼 보이는 가짜 동영상을 ...
“짝퉁과의 전쟁” AI가 무기이자 구세주
군비 경쟁이 시작됐다. 짝퉁업자는 그럴싸한 모조품을 만들기 위해 AI를 사용할 것이다. 똑똑한 기업은 역공에 AI를 사용할 것이다. 5,000억 달러. 지난 해 가짜 상품 판매로 모조품 업자들이 벌어들인 대략적인 수익이다. 모든 무역 거래의...
추천기사
