뉴스 > 국제

유해 영상 거르는 페이스북 AI, "닭싸움과 교통사고도 구분 못 해"

기사입력 2021-10-18 08:47 l 최종수정 2021-10-25 09:05
  • 페이스북 공유하기
  • 트위터 공유하기
  • 카카오스토리 공유하기
1인칭 총격 영상과 세차 장면도 혼동…증오발언은 거의 못 걸러내


세계 최대 소셜미디어 페이스북의 인공지능(AI) 시스템이 부적절한 게시물을 제대로 걸러내지 못한다는 보도가 나왔습니다.

미 언론들은 연일 페이스북과 자회사 인스타그램의 내부 문건들을 입수해 비판 보도를 이어가고 있습니다.

어제(17일) 현지시간 월스트리트저널(WSJ)은 페이스북이 증오 발언(헤이트 스피치)과 과도한 폭력을 포함한 콘텐츠를 신속히 삭제하기 위해 도입한 AI 시스템이 부적절한 게시물을 제대로 걸러내지 못했다고 보도했습니다.

WSJ이 입수한 내부 문건에는 페이스북 AI가 '1인칭 총격' 영상과 헤이트 스피치를 감시하지 못한 것을 비롯해 닭싸움과 교통사고 영상조차 구분하지 못했다는 내용이 담겼습니다.

지난 2018년 페이스북의 한 엔지니어는 잔혹한 교통사고와 투계 영상이 확산 중이라는 점을 파악하고, AI로 해당 영상을 인식해 삭제하는 방안을 추진했습니다.

그러나 몇 주가 걸리도록 AI는 투계장에서 싸우는 닭과 평범한 닭을 구분하지 못한 것으로 전해졌습니다. 엔지니어들은 '딥비전'이라는 정교한 머신러닝 프로그램을 활용해 AI에게 심하게 다친 닭이 나오는 영상을 걸러내도록 학습시켰으나 큰 효과가 없었습니다.

엔지니어들은 심지어 2건의 사례에서 AI가 "분명히 투계 영상들인데 자동차 충돌 영상으로 분류했다"고 보고했습니다.



일부 사례에서는 AI가 페인트볼을 쏘는 서바이벌 게임이나 세차 장면을 1인칭 총격 영상과 혼동한 것으로 보고되기도 했습니다.

증오 발언이 담긴 콘텐츠도 결과는 마찬가지

였습니다. 한 수석 엔지니어는 2019년 작성한 내부 보고서에서 페이스북의 자동화 시스템이 헤이트 스피치 조회 건수의 단 2%만 삭제하는 데 그쳤다고 밝혔습니다.

올해 3월 다른 내부 문건에서도 폭력과 선동 등의 모든 규정 위반 콘텐츠로 대상을 확대하면 AI가 걸러낸 게시물은 0.6%에 불과하다고 보고됐습니다.

[디지털뉴스부]







MBN 종합뉴스 평일용 배너
화제 뉴스
  • 윤 대통령 "전 정권 장관 훌륭한 사람 봤나"…박지원 "논란 인사 자질 떨어져"
  • 외제차 노려 41번 부딪힌 뒤 억대 보험금 챙긴 오토바이맨
  • 윤 정부 에너지 정책 방향 확정…"2030년까지 원전 비중 30% 이상"
  • [데이터루50호] 거리두기 끝났는데도 편의점 활황...심화되는 '런치플레이션'
  • 20대 여성, 퇴근길 가양역 인근서 실종…"일주일 동안 연락두절"
  • [영상] 25t 덤프트럭, SUV 충돌 후에도 '직진'…운전자 사망
오늘의 이슈픽
  • 인기영상
  • 시선집중

스타

핫뉴스

금주의 프로그램
이전 다음
화제영상
더보기
이시각 BEST
뉴스
동영상
주요뉴스
더보기
MBN 인기포토
SNS 관심기사