컬렉션

Google, 개발자가 탐지 방법을 만들 수 있도록 Creepy Deepfake 데이터 세트 출시

Google, 개발자가 탐지 방법을 만들 수 있도록 Creepy Deepfake 데이터 세트 출시

딥 페이크는 사회에 대한 관심이 증가하고 있습니다. 올해는 CEO의 딥 페이크 목소리가 $250,000 회사에서.

이 기술은 정치인들이 실제로 말하지 않은 것을 말하는 기이하고 생생한 클립을 허용합니다. 이것이 대중을 안정시키는 데 어떻게 사용될 수 있는지 상상하는 것은 어렵지 않습니다.

이것이 Google이 연구원들이 탐지 방법을 찾을 수 있도록 딥 페이크 동영상을 공개 한 이유입니다.

관련 : 새로운 DEEPFAKE 소프트웨어는 노래를 부르는 데 하나의 이미지 만 필요합니다.

사회에 해롭다

Google이 새 블로그 게시물에서 지적했듯이 "많은 [딥 페이크 동영상]이 유머러스 할 가능성이 있지만 다른 동영상은 개인과 사회에 해로울 수 있습니다."

"Google은 이러한 문제를 심각하게 생각합니다. 작년에 AI 원칙에 게시 한 것처럼 우리는 피해 및 남용 가능성을 완화하기위한 AI 모범 사례를 개발하기 위해 최선을 다하고 있습니다."

작년에이 회사는 개발자에게 딥 페이크 오디오 클립을 포착 할 수있는 가짜 오디오 감지기를 고안하도록 요구하는 국제적 도전을위한 합성 음성 데이터 세트를 발표했습니다.

이번에는 Jigsaw와 공동으로 Google이 대규모 딥 페이크 동영상 데이터 세트를 출시한다고 발표했습니다. 이 데이터 세트는 Google이 공동 후원하는 이니셔티브 인 뮌헨 공과대학과 나폴리의 새로운 FaceForensics 벤치 마크의 Federico II에 추가되었다고 회사 블로그 게시물에서 밝혔습니다.

어느 것이 진짜입니까?

새로운 데이터는 동의하는 행위자의 도움으로 생성되었습니다. 지난 1 년 동안 Google은 수백 개의 동영상을 녹화하기 위해 배우에게 비용을 지불했습니다. Google이 말했듯이 "결과물 인 실제 동영상과 가짜 동영상은 딥 페이크 감지 노력을 직접 지원하기 위해 만든 우리의 기여를 구성합니다."

동영상의 몇 가지 예를 나란히 놓고 (어떤 동영상이 진짜인지 알 수없는 경우) 아래에서 볼 수 있습니다.

데이터를 FaceForensics 비디오 벤치 마크에 통합하는 작업은 Matthias Niessner 교수, Luisa Verdoliva 교수 및 FaceForensics 팀을 포함한 선도적 인 연구자들의 도움으로 수행되었습니다.

Deepfake 비디오 데이터는 FaceForensics GitHub 페이지에서 무료로 다운로드 할 수 있습니다.


비디오보기: This AI Makes Audio Deepfakes (유월 2021).