유튜브 'AI' 모니터링 활용으로 '혐오영상' 83% 차단해
상태바
유튜브 'AI' 모니터링 활용으로 '혐오영상' 83% 차단해
  • 최현진 기자
  • 승인 2017.10.20 18:41
  • 댓글 0
이 기사를 공유합니다

유튜브

세계 최대 영상 플랫폼 유튜브가 '인공지능'(AI, Artificial Intelligence)을 활용한 '혐오영상 걸러내기'가 성공적으로 안착하고 있다고 밝혔다.

지난 18일 CNN 뉴스 등 외신 매체는 "유튜브가 AI 활용을 통한 테러 및 극단주의 관련 영상의 80% 이상을 차단하고 있다"라고 보도했다.

보도에 따르면 유튜브는 유튜브 서버에 업로드된 영상을 모니터링하는데 머신러닝(기계학습, Machine Learning) 알고리즘을 적용했다. 

그 결과 유튜브는 지난 한 달 동안 극단주의 영상의 약 83%를 적발해 이용자들로부터 차단하는 데 성공한 것으로 전해졌다. 이는 전월 75%였던 것보다 약 8%포인트 상승한 수치다.

유튜브의 알고리즘은 영상 제목, 태그, 이미지, 색, 구성표 등 영상관 관련한 모든 신호를 모니터링 해 '문제'가 있다고 판단하면 사람에게 확인해줄 것을 요청한다. 

실제 사람이 해당 영상 콘텐츠를 확인하고 '혐오영상'인지 아닌지를 최종 판단한다. 

유튜브가 이러한 콘텐츠 식별 기술을 도입한 이유는 극단주의 무장세력 이슬람국가 'IS'가 격렬하게 테러 활동을 벌이고 영상을 유튜브에 업로드하면서 유튜브의 책임론이 불거졌기 때문. 

또한 올해 초 혐오영상에 광고가 송출돼 기업 이미지가 훼손되는 것을 방지하겠다며 글로벌 기업들이 '광고 보이콧'을 선언하면서 유튜브가 더욱 심혈을 기울였다.

당초 유튜브는 영상을 강하게 단속하는 것을 두고 우려의 목소리를 냈었다. 뉴스에서 테러 영상을 보도해 공익적 목적을 달성하듯 유튜브 영상도 그러한 목적으로 사용되는 게 바람직하다는 입장을 내비친 바 있다.

하지만 국제사회가 테러방지 노력에 대한 요구가 강해지면서 입장을 선회했다. 유튜브 운영사 구글의 선임부사장 겸 법률고문 켄트 워커(Kent Walker)는 "더 많은 기술 자원을 투입해 혐오영상을 더 신속하고 확실하게 식별해 차단하겠다"라고 밝혔다.

한편 유튜브의 이같은 움직임에 발맞춰 동종업계 기업들도 '혐오 콘텐츠' 차단에 나서고 있다. 트위처는 30만개에 달하는 테러리스트 트위터 계정을 삭제했으며, 페이스북은 극단주의자 계정 추적 및 삭제 비율을 높이는 자동화 기술에 투자했다고 밝혔다.

최현진 기자 kikiya9@influencernews.kr


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.
주요기사