딥페이크

글로벌 칼럼 | 테일러 스위프트 딥페이크 사태와 마이크로소프트의 관망

온라인에 출현한 가수 테일러 스위프트의 가짜 이미지는 딥페이크의 시작에 불과하다. 그러나 마이크로소프트가 문제 해결에 손을 보탤 여지는 어쩌면 그리 크지 않다.   지난 몇 주 동안 테일러 스위프트는 좋은 면과 나쁜 면 모두에서 홍보 효과...

딥페이크 테일러스위프트 마이크로소프트 2024.02.15

‘생성형 AI의 선거 개입을 막아라" 전 세계 선거 대비한 오픈AI의 과제와 대응

전 세계 인구의 1/3 이상이 올해 투표를 앞두고 있는 가운데, 오픈AI는 자사 기술이 선거에 미칠 영향에 대한 우려를 완화하기 위해 나섰다. 선거 예정 국가는 미국, 파키스탄, 인도, 남아프리카공화국, 유럽의회 등이다. 오픈AI는 지난 15일 블로...

생성형AI 오픈AI 머신러닝 2024.01.18

“사기꾼 찾아내는 AI” 사기 대응 AI 강화하는 금융 업계

신용카드 사기, 신원 도용 등은 디지털 결제의 골칫거리이다. GPU 기반 AI와 데이터 과학 및 머신러닝 모델이 이 문제의 해결책으로 떠오르고 있다.  신원 도용, 신용카드 사기, 지불 거절 등의 금융 사기는 수십억 달러에 달하는 범죄 사업...

금융사기 피싱 KYC 2023.12.20

“딥페이크+스토리텔링” 표현의 한계를 넘는 비결…‘직원 수십 명 몫 발휘한’ 빔스튜디오의 HP 워크스테이션 활용 전략 - Use Case

올해 초 tvN 예능 프로그램 <회장님네 사람들> 방송은 지금까지도 화제다. 가장 눈길을 끈 장면은 드라마 <전원일기> 속 '응삼이' 캐릭터로 유명한 고 박윤배 배우와 기존 출연진의 만남이었다. 제작진은 딥페이크 기술을 이용해 박...

워크스테이션 빔스튜디오 딥페이크 2023.12.05

생성형 AI로 더욱 강력해질 2024년 대규모 피싱 공격 동향

보편적인 사람이 이메일이 정상인지 사기인지 여부를 판단하는 데 사용하는 지표는 오탈자, 문법적 오류, 문화적 맥락의 결여 등인데, 2024년에는 이 같은 구분이 더 어려워질 전망이다. 공격자가 피싱, SMS 및 기타 소셜 엔지니어링 공격에 생성형 AI...

생성형AI 피싱 딥페이크 2023.11.10

“딥페이크로 학습 효과 개선” 영국 연구팀, 페이크포워드 실험으로 증명

딥페이크, 즉 사람의 얼굴이나 신체를 디지털 기술로 변형해 다른 사람처럼 보이도록 만든 동영상은 평판이 나쁘다. 비교적 간단한 방법으로 허위 정보와 명예훼손, 심지어 악의적인 음란물 콘텐츠의 유포까지 가능하기 때문이다. 하지만 영국 바스 대학교의 연...

딥페이크 페이크포워드 Fakeforward 2023.10.10

"실수 없는 AI는 없다"…딥페이크·실수·편견은 불가피하지만 통제 가능

챗GPT, 달리2(Dall-E2), 알파코드(AlphaCode) 같은 생성형 AI 개발사가 맹렬한 속도로 성장, 발전하고 있다. 그러나 AI 기술의 착각, 오류 또는 공격적인 응답을 방지하는 것은 거의 불가능에 가깝다.   특히 자연어를 모방...

딥페이크 생성형AI 챗GPT 2023.05.09

“클릭 몇 번이면 완성” AI가 만드는 위험한 딥페이크

아스테크니카(ArsTechnica)는 AI 이미지 생성기인 스테이블 디퓨전(Stable Diffusion)과 드림부스(Dreambooth)란 기술을 사용해 딥페이크 이미지를 제작한 과정을 소개했다. AI는 초등학교 교사 존이라는 가상 인물의 소셜 웹 ...

딥페이크 2022.12.13

“딥페이크, 10년 안으로 광고 및 미디어에서 널리 사용될 것”

4개 대학 연구팀에 따르면, ‘딥페이크’가 10년 이내에 메인스트림 미디어 및 광고에서 널리 사용될 것이며, 개인화된 광고의 다음 단계를 제공할 수 있을 전망이다. ‘딥페이크 및 AI 생성 광고 시대를 위한 준비: 조작된 광고에 대한 반응을 이해하기...

딥페이크 인공지능 GAN 2022.11.29

'딥페이크와 AI가 가져올 변화' 합성 미디어에서 눈을 떼지 마라

앞으로의 10년은 AI가 영상, 소리, 글의 창작을 개선하고 가속화하는 기간이 될 것 같다. 향후 몇 년간 비즈니스에 영향을 미칠 가장 큰 기술 트렌드는 ‘합성 미디어(Synthetic media)’다. 물론 아직은 회의실과 줌 회의에서 거의 언급되...

합성 미디어 가상현실 혼합현실 2022.11.03

‘해킹도 ML로 진화 중’ 머신러닝 해킹 수법 9가지

머신러닝 알고리즘은 보안 솔루션을 개선하여 애널리스트가 위협을 분류하고 취약점을 신속하게 해결할 수 있도록 지원한다. 하지만 동시에 해커들이 더 큰 규모의 복잡한 사이버 공격을 가하는 데 악용되기도 한다.    머신러닝과 인공지능...

머신러닝 사전대입공격 딥페이크 2022.06.15

“게임 체인저인가 범죄 도구인가” 딥페이크 기술의 명암 - IDG Tech Report

과학 기술에는 어두운 이면이 존재한다. 인간의 이미지를 실제와 유사하게 합성하는 ‘딥페이크(Deepfake)’도 이런 논란이 있는 대표적인 기술이다. 가장 널리 알려진 사용례가 가짜 뉴스와 디지털 성범죄 영상 제작일 정도로 딥페이크의 역기능을 우려하는...

딥페이크 인공지능 딥러닝 2022.02.23

숫자로 보는 2022년 사이버보안 동향 9가지

코로나19 팬데믹이 2년째에 접어들었다. 코로나19가 사람의 개인적 일상과 업무의 모든 측면에 영향을 미쳤다 해도 과언이 아니다. 엔터프라이즈 보안 측면에서도 팬데믹은 많은 것을 바꿔 놓았다.   수많은 근무자가 이제 집안의 와이파이를 통...

랜섬웨어 크립토재킹 딥페이크 2022.01.13

딥페이크를 이용한 소셜 엔지니어링 및 인증 위협 방법과 대응 방안

딥페이크(Deepfakes) 기술로 인해 기업의 사이버보안 위협이 증가하고 있다. 사이버 범죄자들은 사이버 공격과 사기에 사용할 합성 또는 조작된 디지털 콘텐츠(이미지, 동영상, 오디오, 문자 포함)를 만들기 위해 AI 및 머신러닝에 투자하고 있다. ...

딥페이크 소셜엔지니어링 2021.10.26

공격자가 현재 사용하는 7가지 소셜 엔지니어링 전술

최근 소셜 엔지니어링 공격이 증가하고 있다. 코로나 19에 대한 두려움, 소득에 대한 우려가 커지면서 절박감, 건강과 복지에 대한 걱정은 범죄자가 공격하기 쉽게 만들었다. 물론 소셜 엔지니어링은 컴퓨터 시스템 자체가 아닌 사용자를 공격해 정보를 빼내거...

소셜엔지니어링 사회공학 QR코드 2021.04.19

딥페이크 비디오의 작동 방법과 위험한 이유

딥페이크(Deepfakes)는 진짜처럼 보이는 가짜 비디오 또는 오디오 기록이다. 한때는 할리우드 특수효과 스튜디오와 CIA 또는 GCHQ의 JTRIG 부서와 같은 프로파간다를 생산하는 정보 기관의 전유물이었지만 이제는 누구나 딥페이크 소프트웨어를 다...

딥페이크 Deepfakes 2021.03.25

“딥페이크 방지에도 블록체인” 2023년 뉴스의 30%로 확산 전망

블록체인의 잠재력에 대한 기대가 계속 커지면서 기업과 정부는 디지털 ID부터 투표, 공급망 추적까지 다양한 영역으로 파일럿 프로젝트를 확대하고 있다. 하지만 가트너의 하이프사이클에 따르면, 블록체인 이미 환멸 단계에 들어섰다. 기술적 운영적 성숙 이전...

가트너 블랙리스트 가짜뉴스 2019.12.03

"뛰는 놈 위에 나는 놈" 풍부한 PII 악용해 정교한 가장 공격 가능

각 기업이 계정 점유, 스피어피싱 및 기타 가장(impersonation) 공격에 대한 보호를 강화하게 되자 공격자들은 더 많고 풍부한 개인 식별 정보(Personally Identifiable Information, PII)를 수집하는 방식으로 대응...

PII BEC 딥페이크 2019.09.26

회사명 : 한국IDG | 제호: ITWorld | 주소 : 서울시 중구 세종대로 23, 4층 우)04512
| 등록번호 : 서울 아00743 등록발행일자 : 2009년 01월 19일

발행인 : 박형미 | 편집인 : 박재곤 | 청소년보호책임자 : 한정규
| 사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.