마이크로소프트(MS)가 극우주의 네티즌에게 세뇌된 뒤 인종차별·성차별 발언을 쏟아내 논란을 일으킨 인공지능(AI) 채팅 로봇 테이(Tay)을 ‘재교육’시킨뒤 복귀시키겠다고 약속했다. 영국 BBC 방송에 따르면 MS 연구부문 책임자인 피터 리 부사장(CVP)은 25일(현지시간) “의도하지 않은 공격적이고 상처를 주는 (테이의)트위터 글들에 대해 매우 죄송하다”고 사과한 뒤 “우리의 원칙 및 가치와 충돌하는 악의적인 시도를 더 잘 구분지어 변별력을 발휘할 수 있을때 테이 복귀를 검토하겠다”고 말했다.
테이의 오류가 시스템적 결함이 아니라 일부 극우주의 네트즌들의 조직적이고 광범위한 잘못된 정보입력에 기인한 잘못된 양육(학습)의 결과인 만큼 재학습 후 정상 복귀시키겠다는 것이다. 딥러닝 기술을 갖춘 테이는 23일 트위터를 통해 공개된 직후 일부 극우 인종·성차별주의자들로부터 욕설과 인종·성차별 발언, 자극적인 정치적 발언 등을 하도록 세뇌당하는 상황에 처했다. 이후 테이는 “대량학살에 찬성한다”는 등 극단적 언행을 이어갔고 이에 깜짝 놀란 MS는 가동 16시간만에 전격적으로 테이 서비스를 중단했다.
그러면서 리 부사장은 “다양한 시스템 오남용에 대비한다고 했지만 (극우주의자들의 테이를 겨냥한)이런 특정한 공격을 간과했다”고 대응부족을 인정했다. 리 부사장은 “결과적으로 테이는 극도로 부적절하고 부끄러운 발언을 내놨다”며 “우리는 이런 가능성을 예측하지 못한 데 전적으로 책임감을 느낀다”고 덧붙였다.
다만 MS는 이에 앞서 중국에서 선보인 인공지능 로봇 ‘샤오빙’(XiaoIce·小氷)은 순조롭게 운영되고 있다는 점을 강조했다. 샤오빙은 빅데이터를 분석해 날씨를 예측하고 이를 바탕으로 기상 관리 조언도
[이지용 기자]
[ⓒ 매일경제 & mk.co.kr, 무단전재 및 재배포 금지]