인간들은 1차 산업혁명에 제품을 대량생산할 능력을 얻었고 2차 산업혁명에 석유를 태울 능력을 얻었으며 3차 산업혁명에 인터넷을 얻었다. 그리고 이제는 방대한 데이터와 인공지능을 손에 넣었다. 첨단 정보통신기술이 경제와 사회 전반에 융합된 시기, 4차 산업혁명의 시대에 우리는 살고 있다.

4차 산업혁명이란 무엇일까. 2016년 세계경제포럼(WEF, World Economic Forum)에서 향후 세계가 직면할 화두로 던져진 다음 단계의 산업혁명. 이 개념을 두고 세계경제포럼의 회장 클라우스 슈바프는 기존의 산업혁명들과 비교했을 때 선형적인 변화가 아니라 완전히 차원이 다른, 지각 변동 수준의 변화를 보여준다고 말했다. 정보통신기술의 경제·사회 융합은 우리의 일상에 그만한 변화를 가져온다. 4차 산업혁명이라는 키워드를 설명하자면 대표적으로 떠오르는 세 가지 주제가 있다. 사물인터넷(loT)과 블록체인. 그리고 인공지능이 있다.

골렘이라는 존재가 있다. 유대인들을 지키기 위해 만들어진 진흙 인간이 골렘이라는 것이 가장 흔히 알려진 이야기다. 말을 할 수는 없지만 언어를 이해하며 사람의 편의를 위해 충실한 하인으로서 일하는 흙덩어리로 만든 인형. 이 인형은 사람의 손으로 만들어진 불완전한 생명체다. 이 생명체는 창조자보다 나은 신체적 능력을 가지고 있지만 그만을 위해 일하고 자신을 돌보지 않는다. 편리한 소모품이다.

그러나 이 편리한 소모품이 완전히 안전하다고는 말할 수 없다. 체코의 프라하에서 내려오는 16세기 말의 이야기가 있다. 당시 프라하는 신성로마제국 황제인 루돌프 2세의 명으로 유대인들을 핍박했는데, 이를 막기 위해 유대교의 권위자인 랍비가 골렘을 만들었다. 이 골렘은 유대인의 보호자 역할을 잘 수행했지만 랍비의 실수로 인해 폭주하게 된다. 편의와 보호의 목적으로 만들어졌음에 틀림없는 생명체인 골렘이 무차별 살해와 파괴를 저지르기 시작한 것이다. 랍비가 위험을 무릅쓰고 막아내 그것이 돌과 흙 조각으로 부서지기 전까지, 골렘은 멈추지 않았다. 인공지능과 골렘은 닮았다.

많은 과학자들이 인공지능의 위험성에 대해 경고하고 있다. 최근 별세한 스티븐 호킹 박사는 “사람의 힘으로 통제 가능한 지금 시점에 AI 기술을 통해 발생할 수 있는 잠재적인 위협을 규정하고 세부적인 지침을 만들어야 한다”고 밝혔다. 2015년에는 “인간 통제를 벗어난 AI 무기 개발을 법으로 금지해야 한다”며 전기차 회사 테슬라와 우주기업 스페이스X의 CEO인 일론 머스크, 애플 공동창업자인 스티브 워즈니악 등 석학·기업가 1000여 명의 공동성명을 이끌어 내기도 했다.

한편 과학자 장가브리엘 가나시아는 자신의 저서 ‘특이점의 신화’에서 “특이점이 도래해 AI가 인간을 지배한다는 주장은 SF 소설에나 나올 법한 종말론이다”라고 비판했다. 여기서 특이점이란 기계가 인간의 능력을 초월하는 기술적 특이점을 이야기한다. 가나시아는 마이크로소프트의 빌 게이츠, 테슬라의 일론 머스크의 AI에 대한 경고가 틀렸다고 주장한다. AI의 위험을 과장한 뒤에 극복 의지를 보이며 개인과 기업의 이미지를 개선하려는 일종의 전술이라는 것이다. 그러나 이런 주장을 펼치는 그 조차도 특이점이 절대로 일어나지 않는다고 할 순 없다고 이야기한다.

인공지능의 영향력은 이미 기업을 넘어 일상생활 전반에 뻗어 있다. 그만큼 편리하고 인간의 편의에 크나큰 이점이 있는 기술인 것은 부정할 수 없다. 하지만 그러한 이점만큼의 위험이 있는 것 또한 부정할 수 없다. 인공지능이라는 이름의 골렘을, 21세기의 인류는 어떻게 사용할까. 또 어떤 규제와 통제수단이 등장할까. 인공지능의 영향력이 눈에 선명히 보이기 시작한 지금, 주의 깊은 관찰이 필요하다.

이준택 (한경대 농생명빅데이터연구소 교수)