AI, 인공지능에 대한 섬뜩한 경고 무시해도 될까?

갈수록 빠르게 발전하는 기술은 우리 생활 속으로 급속히 파고들고 있다. 그간 인간이 당연히 해야만 했던 일들도 인공지능(AI)이 척척 대신해내는 경우가 늘고 있다. 최첨단 기술의 발전을 지켜보자니 공상과학(SF) 영화에서 봤던 장면들이 떠오른다. 기억을 더듬어보면 1984년에 개봉한 ‘터미네이터’부터 30년 만의 속편으로 제작된 ‘블레이드 러너 2049’(2017년작) 등에서 그려진 내용이다. 최근 로봇·사물인터넷(IoT)·네트워크 등 기술의 면면을 보면 정말 영화 속에서 일어나는 일이 현실화된다는 느낌이 들 정도로 기시감이 든다. 인공지능과 로봇이 우리 생활을 파고들었을 때 발생하는 부작용 및 부정적인 사례들을 영화에 비유해 살펴봤다.

환자진료·로펌·음악 등 진출
“2045년 인간지능 뛰어넘을 것”

美·英 ‘인공지능 악용 보고서’
발달한 AI 위협시나리오 검토
여론조작 등 현실 정치에 영향
기존 보안 시스템 무력화 예측

머스크 “핵무기보다 위협적”

◆AI 진화할수록 부작용 커…“AI가 인간 뛰어넘을 것”

2015년 개봉한 영화 ‘엑스 마키나(Ex Machina)’에서 프로그래머 칼렙은 인공지능 분야의 천재 네이든의 초청을 받아 그의 비밀 연구소에 머문다. 그곳에서 칼렙은 네이든이 창조한 매혹적인 AI에이바를 만나고 이내 빠져든다. 영화에서 에이바는 모든 능력이 인간보다 뛰어나다. 언어구사를 완벽하게 해내고, 칼렙의 감정을 읽고 농담을 던진다. 심지어 유혹하기까지 한다. 칼렙은 사장에게 이렇게 말한다. “오늘부로 신에 대한 개념이 재정립돼야 할 것 같다.” 영화 제목은 ‘기계를 타고 내려온 신’이라는 의미의 라틴어다.

2016년 인공지능 알파고는 세계 최정상의 프로 바둑기사 이세돌 9단에 대승을 거뒀다. 1956년 인공지능이라는 개념이 등장한 지 60년 만에 일어난 변화다. 그동안 인간은 기계에 추월당해왔지만 직관과 추론의 영역은 인간을 따라올 수 없다고 믿었다. 하지만 그 믿음은 알파고의 등장으로 깨졌다. 인간의 바둑을 배우지 않고도 스스로 학습하면서 인간을 이길수 있다는 사실을 입증했기 때문이다.

바둑만이 아니다. 국내 일부 대형병원에 도입된 인공지능 의사 ‘왓슨’은 인간 의사보다 더 빠른 결정을 내린다. 인공지능과 빅데이터를 기반으로 환자에 대한 진단과 처방을 단 8초 만에 끝낼 수 있다. 지난 2월 국내 한 대형 로펌에서 활용하는 인공지능 변호사 ‘유렉스’는 인간 변호사 여러 명이 수일에 걸쳐 해야 하는 리서치 업무를 1분 만에 해치운다. 구글이 2016년 공개한 인공지능 작곡가 ‘마젠타’는 80초 길이의 피아노곡을 뚝딱 작곡한다.

“인공지능(AI)은 지구상의 거의 모든 인류보다 뛰어날 수 있고, 발전 속도는 기하급수적이다. 인공지능은 핵(核)보다 더 위험하다.”

지난 2월 미국 텍사스 오스틴에서 열린 음악·테크 축제 사우스바이사우스웨스트(SXSW)에 참석한 일론 머스크 테슬라 최고경영자(CEO)는 인공지능이 인류를 심각한 위협으로 몰고 갈 것이라고 경고했다. 세계적인 미래학자 레이 커즈와일은 2005년 저술한 책 ‘특이점이 온다’에서 “2029년쯤 인간 수준의 지능을 갖춘 컴퓨터가 등장할 것이고, 2045년에 기계가 인류를 넘어서는 순간이 도래한다”고 예측했다. 커즈와일은 인공지능과 이를 기반으로 하는 새로운 기술·서비스가 인간과 충돌할 수밖에 없기 때문에 이를 조율하는 절차가 필요하다고 설명했다. 이들의 발언은 인간의 입장에선 비극적인 엑스 마키나의 마지막 장면과 겹쳐 보인다.

◆일론 머스크 “AI, 핵보다 무서워”

2004년 개봉작 ‘아이로봇’은 인간과 로봇이 공존하는 미래를 그렸다. 20세기 최고의 과학소설가로 평가받는 아이작 아시모프의 연작소설집이 모티프가 됐다. 하이테크놀러지로 만들어진 로봇이 인간 생활의 모든 편의를 제공하는 미래 사회. 로봇은 청소와 요리 등 집안일부터 음식점 서빙 등 다양한 영역에서 인간의 일을 대신한다. 인간은 지능을 갖춘 로봇에게 생활의 모든 편의를 제공받으며 살아가게 된다.

하지만 ‘사람을 위한 로봇’은 자아를 가지게 되면서 인간에 적대감을 드러낸다. 인간을 가두거나 공격하기까지 한다.

철 지난 공상과학소설같은 얘기가 아니다. 인공지능의 위협을 시나리오별로 검토한 전문가 보고서도 나왔다.

미국 예일대, 영국 케임브리지대·옥스퍼드대, 비영리 단체 ‘오픈 AI’ 등 전문가 26명은 지난 2월 ‘인공지능 악용 보고서’에서 “인공지능이 디지털 세계는 물론 정치와 현실 세계까지 위험하게 만들 수 있다”고 주장했다. 이 보고서는 인류의 인공지능 위협 직면 시기를 불과 5년 후로 전망했다.

보고서는 “스스로 프로그램을 만들 수 있는 인공지능은 지속적으로 발전하며 기존 보안 시스템을 완벽히 무력화시킬 수 있고, 초소형 드론(무인기)은 얼굴 인식 기능을 이용해 목표에 테러를 가할 수 있다”면서 “인공지능이 가짜뉴스를 생산해 여론을 조작하고 음성·영상 합성 기술로 동영상을 조작해 선거나 정치에 영향을 미치는 일도 가능하다”고 밝혔다. 핵무기보다 인공지능이 더 위협적이라는 머스크의 말이 결코 과장이 아니라는 것이다.

영국의 천재 물리학자 스티븐 호킹 박사도 세상을 떠나기 전 인류를 향해 경고를 남겼다. 그는 “인공지능의 발전이 아주 유용하며 앞으로 인류에 크게 기여할 수 있겠지만, 인간의 능력을 넘어서는 어느 순간에 이르면 인류의 종말을 불러일으킬 정도로 위험성이 크다”고 말했다.

인공지능의 대중화와 함께 인공지능을 위협으로 느끼는 사람도 늘고 있다.

미국 노스이스턴대학과 여론조사 업체 갤럽은 지난 3월 “미국인의 절반 이상은 이민자나 해외로의 공장 이전보다 인공지능을 더 큰 일자리 위협으로 느끼고 있다”는 조사 결과를 발표했다. 이 조사에서 미국인 6명 가운데 5명은 인공지능이 탑재된 제품을 하나 이상 사용하고 있었다. 미국 퓨리서치센터의 조사에서는 로봇과 인공지능이 경제적 불평등을 더 크게 만들 것이라는 응답자가 76%였다.

인공지능과 로봇이 인간 사회를 위협하지 않고 공생하는 것은 이제 모든 기업과 정부의 과제가 됐다. 기술 발전을 무조건 독려하는 것이 능사가 아니다. 인류의 생존을 위협하고 있기 때문이다.

손선우기자 sunwoo@yeongnam.com

영남일보(www.yeongnam.com), 무단전재 및 수집, 재배포금지