AI 얼굴 인식 자료 수집을 피하는 또다른 AI
알레시아, 얼굴 가리는 디지털 마스크 기술 개발
인공지능 기술이 딥페이크 영상에 대항하는 방법
이 기사를 공유합니다
Benjamin Powers
Benjamin Powers 2020년 6월25일 08:00
출처=알레시아 AI
출처=알레시아 AI

합성 미디어 기업 알레시아 AI(Alethea AI)가 얼굴인식 기술을 이용해 사용자의 프라이버시를 보호해주는 디지털 마스크를 개발해 파일럿 테스트에 착수했다.

이번 소식은 IBM, 마이크로소프트, 아마존이 경찰 등 사법 기관에 얼굴인식 기술 판매를 중단하겠다고 발표한 이후 전해졌다.

“AI 알고리듬으로 얼굴을 가려주는 기술을 개발했다. 이 ‘마스크’ 기술을 사용해 프라이버시 보호 수준을 한층 강화할 수 있다.” – 아리프 칸, 알레시아 AI CEO

로스앤젤레스에 위치한 알레시아 AI는 2019년에 라이선스용 아바타 기업으로 탄생했다. 누군가가 어떤 행동을 하거나 말을 하는 것처럼 만들 수 있는 인공지능 영상 조작 기술(딥페이크)이 더 널리 퍼지면서 생겨난 기업이다.

딥페이크 감시 기업 딥트레이스(Deep Trace)의 2019년 보고서에 따르면, 2019년 온라인상에 딥페이크 영상이 1만4천 건 이상 있었고, 850명 이상의 사람들이 영상의 표적이 되었다. 알레시아 AI는 크리에이터가 자신의 아바타를 마케팅 목적으로 사용하도록 해주고자 한다. 사람들이 자신의 딥페이크 영상을 활용해서 돈을 벌 수 있게 해 주는 것이다.

칸은 현재의 얼굴인식 데이터의 확산을 2000년대 초반 냅스터 등 음악 공유 소프트웨어에서 음악 저작권 침해가 폭증했던 때와 비교했다. 클리어뷰 AI(Clearview AI) 같은 기업들은 얼굴 인식 알고리듬을 만들기 위해 대량의 데이터를 수집하고 사용자의 동의 없이 보안 서비스 기업에 판매했다.

클리어뷰 AI는 사법 기관에 판매하려는 목적으로 페이스북, 유튜브, 벤모(Venmo) 등의 웹사이트에서 이미지 수십억개를 긁어모았고, 현재 이로 인해 고소당한 상태다.

“결국은 아이튠즈 같은 레이어를 통해 얼굴과 목소리 정보를 보호해야 할 것이다.” – 아리프 칸

크리에이터가 수수료를 받고 라이선스를 판매하는 방법도 있다. 암호화폐 기업가 알렉스 마스메즈가 아바타 라이선스를 판매하고 있다. 99달러를 내면 200단어 내에서 아바타가 입력된 텍스트를 그대로 말하도록 할 수 있다. 그러나 마스메즈가 먼저 텍스트를 승인해야 한다.

알레시아 AI는 소프트웨어 기업 오아시스 랩스(Oasis Labs)와 협약을 맺고 블록체인을 사용해 생성되는 모든 컨텐츠를 검증한다. 트위터의 계정 인증 표시와 비슷한 형태다.

“딥페이크와 관련해 비관적인 시나리오가 많지만, 사용자가 직접 딥페이크 영상을 승인할 수 있다면 사용자를 보호할 수 있다. 사용자가 영상을 승인하면 영상에 타임 스탬프가 찍히고 퍼블릭 블록체인으로 검증할 수 있다.” – 알렉스 마스메즈, 암호화폐 기업가

이는 딥페이크 라이선스 생성에서 더 나아가 기업이나 개인이 얼굴 데이터를 녹화할 수 없도록 막아줄 수도 있다.

현재 파일럿 테스트 중인 기술은 미리 녹화된 영상을 활용한다. 사용자가 영상을 업로드하고, 어떤 얼굴을 어디에 적용할지 결정하면 알레시아 AI의 알고리듬이 사용자의 얼굴에서 핵심 포인트를 매핑한 다음 그 부분을 (다른 얼굴로) 가려준다. 이 영상은 다시 고객에게 전송된다.

알레시아 AI는 또 줌(Zoom) 같은 실시간 커뮤니케이션에서도 이런 디지털 마스크를 씌우고자 한다. 그러나 칸은 아직 연산력이 부족하다며 향후 몇 년 안에는 그렇게 할 수 있기를 바란다고 말했다.

알레시아 AI는 블록체인 및 AI 인플루언서 크립토 AI 프로핏(Crypto AI Profit)과 협업해 유튜브에 예시 영상을 올렸다.

딥페이크, 목소리 도용 등 여러 조작 기술은 사라지지 않겠지만, 칸은 아직 사용자를 보호할 방법이 있다고 생각한다.

“새롭게 형성되는 환경에서 개인을 보호할 수 있는 프레임워크를 만들어내고 싶다. 재미있는 여정이 될 것이다. 기존 시스템이 개인보다는 기업의 권익을 보존하는 데 초점을 맞췄지만, 아직 전세가 판가름나지는 않았다고 본다.” – 아리프 칸

· This story originally appeared on CoinDesk, the global leader in blockchain news and publisher of the Bitcoin Price Index. view BPI.
· Translated by NewsPeppermint.

제보, 보도자료는 contact@coindeskkorea.com으로 보내주세요.



댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.