동일한 내용을 영문 블로그에서도 확인하실 수 있습니다.

새로운 기술 발전과 더불어 사람들에게 도움이 되는 기회들이 생겨나기도 하지만, 이를 악용하는 또 다른 형태의 문제점 또한 발생합니다. 최근 몇 년간 이미지 생성 기술이 발전하면서, 웹 상에서 성적으로 노골적인 이미지나 동영상이 당사자의 동의 없이 배포되는 사례가 심각하게 증가하고 있습니다.

보통 ‘딥페이크(deepfakes)’라고 불리는 이러한 노골적인 콘텐츠들은 피해자들에게 큰 고통을 줄 수 있습니다. 이에 따라 구글은 오랫동안 관련 정책과 시스템에 투자하여 사람들이 이러한 콘텐츠를 더 잘 관리할 수 있도록 돕고 있습니다.

오늘 구글은 관련 전문가와 피해자들의 의견을 바탕으로 사람들을 더욱 잘 보호하기 위한 몇 가지 중요한 업데이트 사항을 공유합니다. 여기에는 검색에서 딥페이크 콘텐츠를 더 쉽게 삭제할 수 있는 삭제 프로세스 업데이트와 검색 결과에서 이러한 유형의 콘텐츠가 상위에 노출되지 않도록 하는 순위 시스템 업데이트 등이 해당됩니다.

콘텐츠 삭제 방법 개선

구글은 오랫동안 정책에 따라 이용자가 구글 검색에서 동의 없이 제작된 허위 이미지를 삭제 요청할 수 있도록 해 왔습니다. 더 나아가 이제는 이 프로세스를 더 쉽게 처리할 수 있는 시스템을 개발해 사람들이 이 문제를 대규모로 해결할 수 있도록 지원합니다.

누군가 본인이 등장하는 동의되지 않은 노골적인 합성 이미지를 구글 검색 결과에서 발견하고 삭제를 요청하면, 구글 시스템은 해당 이용자와 관련된 유사한 검색에서 모든 노골적인 결과를 필터링합니다. 또한 정책에 따라 검색 결과에서 관련 이미지가 삭제되면 구글 시스템은 해당 이미지의 모든 복제본들도 스캔하여 삭제합니다.

이러한 보호 기능은 기존에 동의 없이 제작된 다른 유형의 이미지 관련 문제를 해결하는데도 우수한 결과를 보여주었으며, 이제 구글은 동일한 기능을 노골적인 허위 이미지에도 적용했습니다. 구글은 자신과 관련된 유사 콘텐츠가 나타날까 우려하는 이용자분들이 조금 더 안심하실 수 있도록 해당 기능들을 고안했습니다.

순위 시스템 개선

매일 온라인상에서는 방대한 양의 콘텐츠가 생성되기 때문에, 유해한 콘텐츠로부터 이용자를 가장 잘 보호하는 방법은 고품질 정보를 검색 결과의 최상단에 배치하는 시스템을 구축하는 것입니다. 이를 염두에 두고, 구글 검색에서 노골적인 허위 콘텐츠의 노출을 더욱 제한하기 위해 순위 시스템을 업데이트 하였습니다.

먼저 구글은 많은 검색 결과에서 딥페이크 콘텐츠의 노출을 낮추는 순위 시스템 업데이트를 실시할 예정입니다. 특정 딥페이크 콘텐츠를 검색하거나 사람 이름을 포함하는 검색어를 입력한 경우, 구글은 관련 뉴스 기사 등 노골적이지 않은 고품질 콘텐츠를 노출할 예정입니다. 올해 구글이 실시한 업데이트를 통해 이러한 유형의 검색어에 대한 노골적인 이미지 결과의 노출은 70% 이상 감소했습니다. 이러한 변화 덕분에 이용자들은 검색 결과에서 동의 없이 제작된 허위 이미지가 포함된 웹페이지가 아닌, 딥페이크가 사회에 미치는 영향에 대한 기사를 읽게 될 것입니다.

또한, 협의 및 합의 하에 제작된 이미지(예: 영화 속 배우의 누드 장면)와 명백한 허위 콘텐츠(예: 해당 장면을 합성한 딥페이크 영상)을 구분해야 할 필요도 있습니다. 검색 엔진이 이러한 차이를 구분하는 것은 쉬운 일은 아닙니다. 그러나, 구글은 합법적인 콘텐츠를 더 잘 노출하고 노골적인 허위 콘텐츠의 순위를 낮추기 위해 지속적으로 개선작업을 진행하고 있습니다.

일반적으로 특정 웹사이트 내에 구글 검색 정책에 따라 삭제 처리된 페이지가 많다면 그 사이트는 고품질 사이트가 아님을 알 수 있습니다. 따라서 구글은 해당 사이트 내의 다른 페이지 순위를 매길 때에도 이 사항을 고려합니다. 즉, 허위 음란물 이미지로 인해 삭제된 횟수가 많은 사이트의 경우, 사이트의 게재 순위를 낮추고 있습니다. 이러한 접근 방식은 다른 유형의 유해 콘텐츠 관리에도 효과적인 결과를 보여주었으며, 구글의 자체 검색 결과 테스트에서도 허위 음란물 콘텐츠를 줄이는데 유용한 방법이 될 것으로 확인되었습니다.

이러한 변경 사항들은 구글 검색의 보호 기능에 대한 주요 업데이트 사항들이며, 근본적으로 이 문제를 해결하기 위해서는 해야 할 일들이 더 많습니다. 결국 이 문제는 검색 엔진 그 이상의 문제이기 때문입니다. 구글은 딥페이크 콘텐츠의 피해자들을 돕기 위해 지속적으로 새로운 솔루션을 개발하고 파트너십에 투자할 것입니다.