"다 같이 힘쓰자" 범블, 디지털 성범죄 근절 위한 자사 AI도구 소스 공개
불특정 다수에게 음란사진 배포하는 '사이버플래시'에 골치···세계 3위 데이팅앱 범블이 나섰다.
(씨넷코리아=이민아 기자) 미국 데이팅앱 범블(Bumble)이 디지털 성범죄를 근절하기 위해 개발한 AI 도구를 업데이트하며 깃허브(GitHub)에 오픈소스로 공개했다. 범블은 틴더의 마케팅 부사장이었던 휘트니 울프 허드가 틴더의 직장내 성희롱과 차별 문제를 제기한 후 퇴사해 2014년 새롭게 설립한 회사로 월평균 이용자 수 전 세계 3위의 데이팅 앱이다.
데이팅 앱 내에서 가장 흔하게 벌어지는 디지털 성범죄의 유형은 대화 중 상대방의 동의 없이 음란 사진을 전송해 불쾌감을 주는 ‘사이버 플래시 (Cyber-Flash)’가 있다.
범블이 2019년 출시한 ‘프라이빗 디텍터(Private Detector)’는 의심스러운 사진을 감지하면 이를 즉시 흐리게 처리하고 수신자에게 해당 이미지를 볼 것인지 묻는 AI 도구로 온·오프라인 테스트 결과 98%의 정확도를 보였다. 덕분에 수신자는 해당 이미지를 볼 것인지 차단할지 선택할 수 있어 당혹스럽고 불쾌한 경험을 미연에 방지할 수 있다. 범블은 프라이빗 디텍터의 최신 버전을 출시하면서 전 세계 더 많은 개발자들이 모두 사용할 수 있도록 오픈 소스로 제공할 뿐만 아니라 별도의 수정 없이 가져다가 바로 적용이 가능하도록 조정했다고 밝혔다.
2018년 조사에 따르면 범블의 여성 회원 1/3은 원치 않는 음란 사진을 전송받은 경험이 있던 것으로 나타났다. 이에 회사는 ‘사이버 플래시’에 대한 법안을 제정하도록 촉구하며 텍사스와 버지니아에 정치적 로비활동을 벌였고 그 결과 2019년 피해자가 발신인에게 최대 3만 달러의 민사상 손해배상을 청구할 수 있도록 허용하는 법적 장치가 마련됐다. 현재는 다른 4개 주에서도 유사한 법률 제정을 추진 중이다.
해당 도구를 오픈소스로 제공하게 된 이유에 대해 범블의 부사장 레이첼 하스는 “인터넷이 여성들에게 더 안전한 장소가 될 수 있도록 돕는 데 우리 제품과 기술을 사용하고 싶다”고 밝혔고 범블의 공공 정책 책임자인 페이튼 아이하메는 “이것을 회사 혼자서 이룰 수는 없다”며 대의를 위한 협조를 요청하고 나섰다.
