-
“나는 데이터의 노예가 아니라 주인으로 살고 싶다”
인문적 시선으로 재구성하는 데이터와 인공 지능의 현재와 미래
인간의 역사는 관찰의 역사다. 인류는 선사 시대부터 주위의 자연 현상, 그리고 그 속에서 함께 살아가는 동식물의 생활상을 관찰하고 기록해 왔다. 기원전 2만 년 전 라스코 동굴벽화, 수메르인의 쐐기 문자 점토판에서 연인 간에 주고받은 문자, 유튜브의 고양이 영상까지 인간이 있는 곳에 관찰이 있었고, 관찰이 있는 곳에 데이터가 있었다. 그리고 데이터의 기록자이자 주인은 인간이었다.
최근 스마트폰과 사물인터넷의 보급으로 인간은 과거 어느 때보다 강력한 데이터의 힘을 체험하고 있다. 다차원적인 정보 수집이 가능한 빅 데이터 시대에 과거에는 불가능했던 자연에 대한 세밀한 관찰과 예측이 가능해졌다. 또한 인간의 외양, 동작, 표정은 물론 심리와 감정 상태까지 파악할 수 있게 됐다. 여기에 지금까지 미지의 영역으로 남아있던 자연 현상, 사물, 인간 행동의 변화 원리까지 탐구되고 있다. 우리에게 4차 산업혁명으로 불리는 이 흐름은 인공 지능과 알고리즘으로 무장한 인간이 머지않아 신의 반열에 오를 수 있다는 낙관론을 가져왔다.
그러나 아이러니하게도 현실에서 빅 데이터와 알고리즘의 결합은 점차 인간을 소외시키고, 개개인의 일상생활을 현미경처럼 분석해 표적화하는 모습으로 나타나고 있다. 실제로 미국의 일부 주에서는 이미 빅 데이터와 알고리즘을 통해 잠재적 범죄자를 찾아내 사법 판단의 증거로 활용하고 있다. 데이터의 기록자이자 주인공인 인간이 데이터의 표적이 될 것이라는 비관론이 머리를 들고 있다.
지난 30년 동안 우리나라 IT업계의 이론과 정책을 연구하고, 기획한 장석권 한양대 경영학과 교수는 《데이터를 철학하다》에서 빅 데이터 시대에 대한 두려움을 이렇게 표현한다.
2016년 이세돌과 인공 지능 알파고의 바둑 대결에서 알파고가 승리하자 인공 지능에 대한 기대는 한순간에 공포로 바뀌었다. 자율 주행 기능이 있는 차를 시속 200킬로미터의 속도로 직접 몰고 있었는데, 차가 갑자기 내 의지와 상관없이 인공 지능 스스로 판단해 자율 운전 모드로 전환된다면 어떤 기분이 들까? - 본문 중에서
이런 우려는 지나친 기우일까? 그렇지 않다. 기업과 대학에서는 데이터의 해석을 넘어 데이터로부터 ‘실체 그 자체(인공 지능과 가상현실)’를 재구성하려는 시도가 이미 이뤄지고 있다. 사물의 외양, 특성, 반응 메커니즘을 가상화하여 현상을 모의실험(simulation)하고, 인간의 지능을 복제한 인공 지능을 다양한 영역에 특화하여 개발하기 시작했다. 이러한 도전은 사이버 물리 시스템(cyber-physical system), 인더스트리 4.0(industry4.0), 디지털 트윈(digital twin), 알파고(AlphaGo) 등의 간판을 달고 우리 곁에 이미 와 있다.
동물과 기계, 그리고 인간은 무엇이 다른가?
데이터를 모아 실체를 파악하는 것과, 데이터를 모아서 실체를 재구성하는 것은 하늘과 땅 차이만큼이나 다르다. 더욱이 그 데이터가 사물이나 현상에 대한 데이터가 아니라, 우리 인간에 관한 데이터일 때는 더욱 그러하다. 인공 지능이 대중적인 관심을 받기 전까지 우리는 인간의 정체성에 대해 진지하게 고민해 본적이 없었다. 인간의 어떠한 특성이 인간 고유의 정체성을 구성하는지 지금까지 인류가 사유하고 발견한 것들을 새삼 열거하거나 검증할 필요는 없었다. 그런데, 데이터를 모아 인간 지능을 모사한 인공 지능이 출현하자 인간 정체성을 의심하기 시작했다. - 본문 중에서
장석권 교수는 이번 책에서 빅 데이터와 인공 지능에 대한 경제적, 기술적 전망을 제시하지는 않는다. 반대로 데이터 세상에서 살아가야 할 인간에게 초점을 맞추었다. 저자는 빅 데이터, 알고리즘, 인공 지능의 틈바구니 속에 살아가야 할 인간이 데이터를 주체적으로 활용할 수 있는 방법과 시나리오를 다양한 이론과 탄탄한 분석을 통해 모색한다.
먼저 ‘1부 데이터의 탄생’에서는 ‘객관적인 데이터’에 대한 신화를 깨뜨린다. 데이터는 시대에 따라 그 정의와 범위가 달라져 왔으며, 관찰자의 관점과 목적에 따라 데이터의 내용이 바뀌거나, 왜곡될 수 있다는 것이다.
조작하지 않는 한, 데이터는 거짓말을 하지 않는다. 그러나 우리는 우리가 보고 싶어 하는 데이터를 통해 현상을 보려 하기에 그 선택과정에서 커다란 왜곡이 발생한다. 인간은 수억 년의 진화 과정에서 공정성, 형평성, 불편부당성과 같은 형이상학적 가치 이전에 생존에 유리하게 현상을 바라보는 기회주의적 기질을 체화했다. 어찌 보면 데이터를 올곧게 바라보는 것은 인간의 본성이 아닐지도 모른다. 그것은 인간 본성의 한계를 극복하려는 인간 의지의 문제다. - 본문 중에서
저자는 “데이터는 무색무취다. 그러나 우리의 마음은 무념무상이 아니다”라며 데이터를 바라보는 인간의 관점을 강조한다.
데이터는 결코 객관적 개체가 아니며, 관찰자가 주관적으로 바라보고 싶은 세상의 단면일 가능성이 크다. 데이터가 객관적 타당성을 가질 거라고 속단한다면 당신은 데이터의 노예가 될 수밖에 없다. 빅 데이터 시대에 인간은 수동적 입장에서는 이미 수집, 보관된 데이터를 접하고 그로부터 필요한 정보를 습득하면 그뿐이다. 하지만 우리 스스로가 빅 데이터 시대를 주도하고자 한다면 우리 주위에 수집, 보관되고 있는 데이터가 누가 어떠한 관점에서 수집한 것인가를 파악해야 한다. 그래야 주도적 관찰자로서의 주관을 가질 수 있고, 그 관점에서 새로운 데이터를 발굴할 수 있으며, 이를 올바른 가치관에 따라 활용할 수 있다. - 본문 중에서
‘2부 정보의 지도’에서는 이렇게 수집된 데이터를 가치 있는 정보로 재생산해 내는 다양한 방법론(스캐닝, 모니터링, 개관, 연구)을 살펴보고 데이터의 가치도 결국은 인간의 주체성에 의해 결정된다고 말한다. 데이터를 가치 있는 정보로 가공하기 위해서는 ‘내’가 누구이며, 어떤 입장에서, 무엇을 위해 데이터를 활용하려는지 관점과 목적이 분명해야 한다. 아무리 풍부한 빅 데이터도 목적성과 주체성이 결여된 상태라면 가치를 만들어 낼 수 없다. 인공 지능이나 알고리즘이 제 역할을 하려면 결국 인간의 가치판단이 중요하다.
인간은 신을, 인공 지능은 인간을 넘어설 수 있을까?
‘3부 지능의 미래’에서는 신이 내린 인간의 선물로 불려온 지능의 실체를 탐구한다. 인공 지능의 가능성이 피부로 와 닿기 전까지만 하더라도 지능은 인간의 고유한 능력이라는 믿음이 널리 퍼져 있었다. 그러나 책에 소개된 파리지옥 실험에서처럼 넓은 의미의 지능(개체의 삶 안에서 환경의 변화에 적응하고 대처하는 능력)은 인간만의 능력이 아니다.
파리지옥이 수를 셀 줄 안다고 한다. 독일의 라이너 헤드리히 교수팀은 ‘파리지옥이 감각모에 먹잇감이 닿는 횟수에 따라 잎을 닫고 소화 효소를 분비하는 등 다른 반응을 보인다’는 사실을 확인했다. 연구 팀이 실험실에서 확인한 바에 따르면, 이 과정에서 피리지옥은 최소 60까지 자극 횟수를 센다. 연구 팀이 파리지옥에 대해 다양한 실험을 한 결과 “파리지옥은 자극 횟수로 발버둥 치는 먹잇감의 크기, 영양도 등을 파악해 그에 알맞은 행동을 한다”는 결론을 내렸다. 잎을 닫고 소화 효소를 내뿜는 것은 파리지옥으로서는 매우 큰 에너지를 소모하는 일이다. 파리지옥은 벌레를 잡을 때 벌레를 잡아먹어 얻는 에너지보다 더 많은 에너지를 쓰지 않도록 자극에 대한 반응에 최적화된 듯하다. 이 연구가 우리의 흥미를 끄는 것은 파리지옥의 이러한 행위가 매우 ‘지능적’으로 보이기 때문이다. - 본문 중에서
저자는 인간의 지능은 오랜 시간 자연에서 진화의 과정을 거쳐 탄생한 능력이며 인식, 분석, 검증, 추론, 예측, 판단과 의사결정 같은 작동 메커니즘을 갖고 있다고 말한다. 우리 주변에 활용되고 있는 알고리즘들도 인간의 지능 작동 메커니즘을 프로그램화한 것이라고 설명한다.
마지막 4부 ‘지혜의 시대’는 빅 데이터와 인공 지능 기술의 발달과 규제에 따라 펼쳐질 4가지 시나리오를 소개한다. 4가지 시나리오를 간략하게 살펴보면 다음과 같다.
에이 아이, 인간이 되고픈 인공 지능 : 이 시나리오는 인공 지능의 개발이 인간의 지능과 거의 유사하게(특이점 돌파) 발달하지는 못한 상태에서 인공 지능에 대한 규제가 적용되는 경우다. 일명 ‘규제된 지능(regulated intelligence)’으로서 영화 ‘에이 아이(A.I.)’가 그린 것처럼 ‘인간이 되고픈 인공 지능’으로 상징되는 세상이다. 이 세상에서는 인공 지능이 인간 노동력의 대체가 아닌 인력 보완 또는 인력 강화 차원으로 활용된다. 따라서 기계와 인간 간의 갈등은 최소화된다.
이글 아이, 인공 지능이 감시하는 사회 : 특이점은 돌파하지 못한 상태에서 인공 지능의 위험성이나 부작용에 대한 규제는 이루어지지 않는 시나리오다. 일명 ‘방치된 지능(unregulated intelligence)’으로서 영화 〈이글 아이(Eagle Eye)〉가 묘사하는 ‘인공 지능이 감시하는 사회’에 해당한다. 인공 지능이 모든 영역에서 인간의 능력을 초월하지는 못하더라도, 인공 지능 시장 지배력을 강화하고 그로부터 이익 창출과 산업 지배력을 높이고자 글로벌 기업 간 무한 경쟁이 진행된다. 그 결과, 소비자 개개인의 행위와 생각과 의사 결정이 자신도 모르는 사이에 지배적 인공 지능에 의해 조종될 위험에 노출된다.
리미트리스, 증강 휴먼의 등장 : 이 시나리오는 뇌과학과 인공 지능이 상호 상승 결합하면서 특이점을 돌파하고, 그렇게 탄생한 초지능은 생태계의 자정 기능과 제도적 규제에 의해 그 위험과 부작용이 통제되는 경우다. 일명 ‘규제된 초지능(regulated super-intelligence)’으로서 영화 〈리미트리스(Limitless)〉와 유사하게 증강 휴먼(augmented human)이 등장한다. 이 세상에서는 인간 두뇌와 컴퓨터의 연결을 통해 인간의 한계를 극복하려는 여러 노력이 시도될 것이다.
트렌센던스, 신이 된 인공 지능 : 이 시나리오는 인공 지능을 가진 수퍼 컴퓨터가 특이점을 돌파하고, 이를 제어하거나 통제하는 법제도적 장치가 없거나 초지능에 의해 무력화된 경우다. 일명 ‘방치된 초지능(unregulated superintelligence)’으로서 영화 〈트렌센던스(Transcendence)〉가 그리는 세상이다. 이 시나리오의 초지능은 인간과 같은 자의식을 갖게 되고, 모든 능력 면에서 인간을 초월한다. 이 세상의 모습은 초지능의 자의식이 인간을 어떠한 존재로 인지하느냐에 따라 달라진다. 인공 지능의 미래에 관해 가장 초현실적이고 논쟁이 많은 시나리오다.
저자는 위의 4가지 시나리오 중 어느 한 가지라도 현실화되는 데는 넘어야 할 난관이 많다고 말한다. 그러나 데이터에 대한 정확한 이해와 가치 있는 정보를 생산하는 메커니즘, 알고리즘의 근간이 되는 지능에 대한 이해가 없다면 인간의 미래는 밝지 않다고 전망한다.
빅 데이터 시대에 인간이 주인공으로 서기 위해서는 지금이라도 인간 중심의 데이터 담론이 탐구되고 모색되어야 한다고 말한다.
우리가 원하든 원하지 않든 다가올 세상은 현실 공간의 현상, 사물, 인간이 사이버공간의 시뮬레이션, 가상 세계의 ‘또 다른 나’인 디지털 트윈과 상호 작용하는 세상이 될 것이다. 실체와 허상, 진실과 거짓, 원본과 복사본이 뒤섞여 공생하는 미래 공간에서 나를 지켜내려면 나의 주체적 관점과 목적으로 데이터를 활용할 수 있어야 한다. 그래야 데이터가 우리를 자유롭게 하는 도구가 될 것이다.
