국제인권단체의 경고…"인간, 킬러로봇 통제권 갖춰라"

스스로 공격목표를 정하는 영화 속 터미네이터와 같은 인공지능(AI) ‘킬러 로봇’이 머지않아 개발될 가능성이 있는 만큼 개발 자체를 원천 봉쇄해야 한다는 주장을 담은 연구보고서가 나왔다. 11일(현지시간) 국제인권단체 휴먼라이츠워치(HRW)와 하버드로스쿨 국제인권클리닉은 공동 작성한 연구보고서를 통해 “각국은 킬러로봇으로 알려진 완전자동무기에 대해 인간이 통제권을 갖도록 해야 한다”며 “타깃을 정하고 공격하는 중요한 기능은 반드시 인간이 통제해야 한다”고 주장했다. 보고서 작성팀장인 보니 도허티 HRW 수석연구원은 “기계는 오랫동안 전쟁 수단이었지만 역사적으로 작동은 인간이 해왔다”며 “인간이 통제권을 포기하고 기계에 생사 결정을 맡기는 것은 실질적인 위협이 될 것”이라고 경고했다. 보고서는 “치명적인 무기를 인간이 통제하도록 규정해놓으면 완전자동무기를 선제적으로 차단하는 효과를 거두게 될 것”이라며 AI 킬러로봇이 만들어지는 것을 사전에 막기 위해 국제공조를 강화해야 한다고 주문했다. 현재 한국, 미국, 중국, 러시아, 영국, 이스라엘 등이 기계에게 보다 더 확대된 자율성을 주는 시스템 개발을 추진중인것으로 알려지고 있다. 이에 앞서 지난해에 스티븐 호킹 박사와 애플 공동창업자 스티브 워즈니악 등이 포함된 1000여명의 과학·기술 전문가들은 공개서한을 통해 “자율성이 부여된 무기는 미래의 칼라시니코프 소총이 될 것”이라며 공동대응을 요구한 바 있다. 칼라시니코프 소총은 개발 이후 전장에서 무수한 인명을 살상한 자동소총의 대명사다.
AI 위협이 현실로 다가오면서 AI통제불능 사태를 막기 위한 국제사회 움직임도 빨라지고 있다. 당장 일본 정부는 이달 29일 일본 다카마쓰시에서 열리는 주요 7개국(G7) 정보통신장관회의에서 AI 연구개발에 대한 국제규칙 제정을 제안하기로 했다고 요미우리가 보도했다. AI가 통제불능사태에 빠질 경우 긴급 정지가 가능하고, 어떤 경우에도 인간의 생명을 위협하지 않도록 개발단계에서부터 철저히 원칙을 정해놓자는 것이다. 일본 정부는 해커가 AI를 장악할 수 없도록 사이버 공격을 차단하는 방안도 내놓을 방침이다.
실제로 미래에는 AI 세상이 될 정도로 인공지능을 장착한 무인기, 무인차에 이어 회계분석까지 인공지능이 적용되고 있다. 아사히신문은 지난해 일본 재계를 뒤흔들었던 도시바 분식회계 사태와 같은 대규모 회계부정을 막기 위해 AI를 적용한 감시시스템이 도입됐다고 전했다. 도시바 회계감사를 맡은 PwC아라타는 1년간 모든 회계장부 데이터를 상세히 분석한 후 조작의혹이 있을 경우, 즉각 회계사를 투입하는 AI감사시스템을 도입하기로 했다. 수천억원이 투입된 AI감사시스템은 회계사가 수작업으로 찾아내기 힘든 회계조작이나 오류를 상세히 찾아낼 수 있을 것으로 기대되고 있다.
[도쿄 = 황형규 특파원]