로봇 반란·무기경쟁 우려하는 인공지능(AI)원칙…내용은 무엇?

로봇 반란·무기경쟁 우려하는 인공지능(AI)원칙…내용은 무엇?

↑ 사진=MBN

과학자 스티븐 호킹과 전기차회사 테슬라의 최고경영자 일론 머스크 등이 서명한 인공지능(artificial intelligence·AI) 기술에 대한 23개 원칙이 나왔습니다.

이른바 '아실로마 AI 원칙'은 미국 캘리포니아의 아실로마에서 열린 AI 콘퍼런스에서 도출됐습니다. 이 콘퍼런스는 AI의 급부상과 함께 제기된 우려에 초점을 맞췄습니다.

AI 연구를 지원하는 비영리단체인 '퓨처 오브 라이프 인스티튜트' 웹사이트에 이번주 공개된 23가지 AI 원칙은 'AI 기반 무기경쟁을 피해야 한다'는 것이나 안전기준 확립 같은 AI의 잠재적 위험에 대처하는 내용을 포함했습니다.

영화 '터미네이터'나 드라마 '웨스트월드'에 나오는 것 같은 지능이 뛰어난 로봇의 반란을 걱정하는 듯한 원칙도 있습니다.

첫번째 원칙은 AI 연구의 목적이 "지시 없는 지능이 아니라 이로운 지능을 만드는 것"이어야 한다는 것입니다.

또 마지막 2가지 원칙은 "반복적으로 스스로 발전하거나 스스로 자기복제해 양과 질을 급격하게 증가시키는 AI 시스템은 엄격한 통제 절차를 따라야 한다"와 "초지능(superintelligence)은 폭넓게 공유된 윤리적 이상에 따라 한 국가나 조직이 아니라 모든 인류의 이익을 위해서만 개발돼야 한다"는 것입니다.

지난달 유럽연합 의회도 비상상황에서 로봇의 작동을 멈출 수 있는 스위치가 있어야 한다는 권고를 포함한 결의안을 채택한 바 있습니다.

이밖에 아실로마 원칙에는 AI로 얻은 경제적 번영은 전 인류를 위해 폭넓게 나눠야 한다는 내용도 있습니다. 또 사생활 보호나 투명성 등에 관한 원칙도 마련됐습니다.

23개 원칙에 서명한 사람은 AI/로봇공학 연구자 816명과 다른 1천200명 등 모두 2천여명입니다.

이세돌을 바둑에서 꺾은 알파고를 개발한 구글 딥마인드의 데미스 하사비스 최고경영자와 인공지능이 인간을 넘어서는 '특이점'(Singuarity)이 2045년에 온다고 한 미래학자 레이 커즈와일 등이 서명에 참여했습니다.

영화 배우이자 감독인 조셉 고든-레빗도 이름을 올렸습니다.

구글과 애플, 페이스북, IBM, 스카이프, 도요타 등 주요 기업 인사들의 이름도 포함됐습니다.

[MBN 뉴스센터 / mbnreporter01@mbn.co.kr]