01 - 알고리즘 사고의 종언과 인문학
▲ 글. 박승억 교수
숙명여자대학교 기초교양학부
알고리즘은 주어진 문제를 효과적으로 해결하는 절차적 사고과정이다.
더 좋은 알고리즘을 개발하는 일은 분명 중요한 혁신의 과정이지만, 이러한 혁신이 언제까지 계속될 수는 없다.
진정으로 새로운 혁신은 문제 자체를 발견하는 것에서 시작하며, 이는 사회와 인간 삶에 대한 진지한 성찰을 통해 시작된다.
그것은 방법의 문제가 아니라 태도의 문제다.
세 종류의 사람이 있다. 공식을 잘 적용해서 문제를 푸는 사람, 그런 공식을 만들어 낸 사람, 그리고 그런 공식이 만들어지도록 문제를 발견한 사람.
이 셋 중에 누가 가장 혁신적인 사람일까?
얼마 전 애플의 리더, 팀 쿡은 한 대학교 졸업 축사에서 자신들을 낡은 방식으로 세상을 본 실패한 세대로 규정했다.
그리고 이제 막 사회에 진출하는 졸업생들에게 눈을 뜨고 세상을 보라고 격려한다.
아이폰이라는 상징을 통해 21세기 최고의 혁신 그룹이 된 애플의 수장이 자신들의 세대를 ‘실패한 세대’라고 규정한 이유는 무엇일까?
아마도 진정한 혁신이 무엇인지 생각해 보라는 권유였을 것이다.
쥬라기 공원의 알고리즘
학창 시절 수학 시간은 언제나 고약한 시간이었다.
문제가 잘 풀리면 시간 가는 줄 모르지만 그렇지 않을 때는 짜증이 치밀어 오른다.
방정식 문제를 풀면서 인수분해가 잘 안될 때 근의 공식은 얼마나 유용했던가!
인수분해든 근의 공식이든 모두 알고리즘이다.
우리가 수학을 배워야 하는 이유는 세상의 모든 문제가 그런 알고리즘을 갖고 있기 때문이다.
길가에 세워진 무인가판대로부터 암을 진단하는 인공지능 왓슨에 이르기까지 문제를 해결하는 절차적 원리로서 알고리즘은 우리 일상 도처에서 발견된다.
인수분해라는 특별한 알고리즘에 비해 근의 공식이 더 유용했던 이유는 그것이 범용적이었기 때문이다.
마찬가지로 구글이나 IBM은 좀 더 범용적인 인공지능 개발에 사운을 걸고 경쟁 중이다.
말하자면 세상의 혁신을 선도하는 그룹들이 알고리즘의 개발에 총력을 기울이고 있는 셈이다.
그런데 ‘알고리즘 사고의 종언’이라니, 뭔가 마뜩잖은 구석이 있다.
하지만 생각해 보자. 하나의 시스템이 균형을 유지하기 위해서는 치러야 하는 비용들이 있기 마련이다.
만약 세상이 범용 인공지능 덕에 과거에 비해 너무나 살기 편해진다면, 우리는 어떤 식으로든 그 대가를 지불해야만 한다.
우리가 일상의 골치 아픈 문제들을 기계에 떠맡기고 편해지기 위해 지불해야만 하는 대가는 무엇일까?
팀 쿡이 졸업생들에게 ‘눈을 뜨고 새로운 방식으로 세상을 보라’고 말한 것은 알고리즘적 사고방식이 가진 경직성을 조심하라는 경고였다.
1993년에 개봉해서 큰 성공을 거둔 영화 ＜쥬라기 공원＞에는 티라노사우루스나 벨로시랩터와 같은 위험한 공룡들이 나온다.
영화에서 공원 측은 위험한 공룡들의 수를 통제하기 위해 공원 전체를 통제하는 보안시스템을 가동했다.
그 시스템은 공룡들의 숫자를 파악해서 공원이 안전한지를 확인하고 이를 관리자에게 통보해 주도록 설계되었다.
공원 측은 공룡의 숫자가 늘지 않도록 모두 암컷으로 복제해 놓았다.
공룡들의 우리를 감시한 시스템은 잘 작동했고, 관리자에게는 늘 이상 없다고 보고되었다. 하지만 실제로 공룡들의 수는 늘어가고 있었다.
공룡을 복제할 때 사용한 서아프리카 개구리 유전자로 인해 수컷으로 성전환한 공룡이 있었고 그 때문에 자연발생적으로 공룡들이 태어난 것이다.
가장 치명적인 벨로시랩터는 6마리를 복제했지만 그 수가 늘어나도 시스템은 언제나 ‘이상없다’고 보고한다.
관리시스템은 개체수가 6마리 미만으로 떨어지지 않으면 이상 없음을 보고하도록 설계되었기 때문이다.
쥬라기 공원 보안 시스템의 이 치명적인 결함은 어디서 온 것일까?
시스템이 공룡들의 숫자를 세서 보고하게 한 것이 아니라 이상 여부까지 판단하도록 설계한 데 있었다.
시스템 설계자들은 암컷이 수컷으로 성전환을 할 수 있다는 사실 자체를 생각해 보지도 못했을 것이다.
이 도식적 사고와 기계가 스스로 판단하도록 효율성을 높인 것에서 시스템의 치명적인 결함이 만들어졌다.
알고리즘적 사고는 다른 가능성에 대한 생각을 못하게 만든다.
꽤 많은 프로그래머들의 모토는 ‘고장 나지 않았다면 고치지 마라’거나 ‘고치지 않으면 고장 나지 않는다’이다.
알고리즘에 익숙해지기 시작하면 더 이상 생각하지 않는 것이다.
최악은 자신에게 익숙한 알고리즘을 벗어나는 문제는 ‘문제’로 인식하는 것이 아니라 ‘이상한 것들(Anomalies)’로 보기까지 한다는 것이다.
좋은 알고리즘일수록 우리의 생각을 경직시킬 가능성도 커진다.
전 세계가 어떻게 하면 더 좋은 알고리즘을 찾아낼 것인가를 두고 경쟁 중이다.
그 이야기는 전 세계가 어떻게 하면 사람들이 덜 생각하도록 할 것인가를 두고 경쟁 중이라는 이야기도 된다.
혁신! 개선인가, 발명인가?
철학자 화이트헤드(A. N. Whitehead)는 인류 문명사에서 가장 많은 혁신이 일어난 시기 중 하나였던 19세기의 가장 위대한 발명은 ‘발명 방법의 발명’이라고 말한 적이 있다.
발명이 어떤 위대한 천재의 우연한 착상에 의해 일어나는 것이 아니라, 체계적이고 집단적인 노력을 통해 새로운 발명에 성공하는 방법 자체를 고안한 것이다.
화이트헤드는 이러한 발명의 현장이 학자들의 연구실이 아니라 산업 현장의 공장이었다고 말한다.
일반적으로 문제 해결의 방법은 문제를 정의하고, 최적의 해결책을 모색한 뒤, 실행해 보고, 그 성과 여부에 따라 피드백을 거치는 절차적 단계로 이루어진다.
이 문제 해결 과정 자체가 다름 아닌 알고리즘이다.
따라서 화이트헤드에 따르면, 19세기는 문제 해결의 범용적 알고리즘을 찾아낸 시기라고 할 수 있다.
19세기에 과학적 지식이 폭발적으로 성장한 것은 공장에서 문제를 해결하기 위해 적용한 알고리즘이 과학 탐구 일반으로 확산되었기 때문이다.
과학적 분석에 기초해 좀 더 효율적인 알고리즘을 찾아내는 일이 삶의 현장에서 어떤 혁신을 이루었는지는 과학적 경영학의 아버지라 불리는 테일러(F. Taylor)를 통해서 확인할 수 있다.
테일러는 시간관리와 노동 작업 과정의 혁신을 통해 생산성의 혁신을 가져왔다.
그의 책, 「과학적 관리법」에는 길브레스(F. Gilbreth)가 이루어낸 성과가 실려 있는데, 길브레스는 수천 년 동안 사람들이 거의 동일하게 반복해 온벽돌쌓기 작업 과정을 분석했다.
그는 벽돌공들의 군더더기 동작을 제거하고, 좀 더 효율적으로 벽돌을 쌓기 위한 장치들을 고안해서 벽돌쌓기의 생산성을 3배가까이 높일 수 있었다.
그는 벽돌공들이 흔히 열여덟번의 동작을 통해 벽돌을 쌓던 것을 다섯 번의 동작으로까지 줄였다.
이 사례는 일반적으로 ‘혁신’이라는 개념을 통해 우리가 무엇을 생각하는지를 알게 해 준다.
혁신의 한 양상은 분명 기존의 알고리즘보다 더 효율적인 알고리즘을 찾아내는 일이다.
암을 진단하는 프로그램인 왓슨 포 온콜로지의 조상쯤 되는 마이신(MYCIN)을 생각해보자.
이 프로그램은 절차화 된 질문들로 이루어졌는데, 아주 기본적인 의학 상식만을 가진 사람이라면 그 질문들에 차근차근 대답해 감으로써 감염을 일으킨 원인을 확인할 수 있게 해주는 전문가 시스템(Expert System)이다.
비전문가를 전문가로 만들어 주는 시스템인 셈이다.
마이신의 탄생은 그 자체로는 분명 혁신이었지만 만족스럽지는 않았다.
왜냐하면 끊임없이 지식 베이스를 보완해 주어야 하는 등 관리에 손이 많이 가는 프로그램이었기 때문이다.
따라서 다음 혁신은 기계가 스스로 학습하게 하는 것이 되어야 했다.
머신 러닝, 그리고 딥 러닝으로 이어지는 발전의 과정이 그렇다.
마이신이든 기계 학습이든 모두 알고리즘 개발의 산물이다.
이렇게 알고리즘의 혁신이 지속한다면, 마침내 인간의 손을 거의 필요로 하지 않는 알고리즘이 나올지도 모를 일이다.
정작 그런 상황이 된다면 우리는 무엇을 할 수 있을까?
문제가 주어졌을 때, 잘 정의된 알고리즘을 적용해 그 문제를 해결하는 일은 조만간 기계가 인간을 뛰어 넘게 될 것이다.
그러면, 단순하고 자잘한 일은 기계에 맡기고 우리는 그런 알고리즘 자체를 개발하는 일을 하면 될까?
그런데 새로운 알고리즘을 개발하려면 무언가가 선행되어야만 한다.
즉, 문제가 주어져야 한다. 다시 말해 문제가 주어지지 않으면 알고리즘을 개발하는 일은 시작조차 할 수 없다.
길브레스의 진짜 혁신은 그가 기존의 벽돌쌓기 알고리즘을 더 좋은 알고리즘으로 개선한 데 있는 것이 아니라 수천 년 동안 벽돌공들이 전승해 온 알고리즘에 문제가 있다는 사실을 깨달은 데 있다.
당연한 것을 당연하다고 생각해 버리면 문제는 보이지 않는다. 팀 쿡이 말한 눈을 떠야 하는 이유가 여기에 있다.
19세기 이후 우리는 끊임없이 알고리즘을 개선해 왔다. 이런 개선은 언제까지 계속될 수 있을까?
세상을 바꾸는 새로운 혁신에는 수확체감의 법칙이 적용되지 않을까?
더 이상 혁신하면 그 혁신을 통해 얻는 이익보다 투입되는 비용이 더 많아지는 시기, 즉 알고리즘을 효율화하는 작업 자체가 한계 생산성에 이르지는 않을까?
리씽크 로보틱스(Rethinkg Robotics)의 창업자인 로드니 브룩스는 지난해 MIT 테크놀로지 리뷰에 흥미로운 이야기를 내놓은 적이 있다.
그는 2002년에 400달러짜리 아이팟의 용량이 10GB였는데, 그로부터 5년이 지난 2007년에는 용량이 160GB로 늘었다고 말한다.
이른바 무어의 법칙처럼 해마다 두 배씩 늘어난 결과이다. 브룩스는 그로부터 10여 년이 지난 지금은 어떤지를 묻는다.
법칙대로라면 최소한 16만 GB는 되어야 할 테지만 현실은 256GB일 뿐이다.
브룩스는 세상의 발전 속도가 사람들이 막연히 생각하듯 무한히 가속해 나가지는 않는다고 말한다, 아마도 그 말의 숨겨진 뜻은 이럴 것이다.
혁신은 필요의 함수라는 것. 우리나라와 중국의 사례가 잘 보여주듯이 후진국에서 선진국으로 발전해 나가는 나라들이 따라잡기 효과를 누릴 때 경제 성장률은 놀라울 정도다.
그러나 선진국으로 진입해 가기 시작하면 경제 성장률은 뚝뚝 떨어지고 마침내 저성장이 자리를 잡는다.
혁신의 과정도 마찬가지다. 더 좋은 알고리즘을 찾는 일은 세상의 수많은 문제를 컴퓨터를 활용해 처리할 수 있게 번역하고 절차화 하는 작업이다.
이런 일이 무한히 계속될 수는 없다. 일정 수준을 넘어서면 정체되기 마련이다.
흔히 사람들은 혁신을 멈추면 위기가 온다고 말한다. 이 위기를 돌파하는 방법은 개선을 통한 혁신이 아니라 완전히 ‘새로운’ 혁신이 등장하는 것뿐이다.
그 혁신은 새로운 문제, 혹은 새로운 필요를 찾아내는 일에 달렸다.
코페르니쿠스와 인문학
물론 아직까지 우리 세대에게 필요한 혁신은 기존의 알고리즘을 개선하는 일이다.
그러나 그것만이 전부는 아니며 조만간 그런 혁신은 더 이상 혁신이 아닌 시기가 될 것이다.
따라서 우리가 좀 더 중요하게 생각해야 하는 것은 세상을 새로운 시각으로 보는 일, 이제까지 문제라고 생각하지 않았던 것을 제대로 된 문제로 정의할 수 있는 새로운 사고방식이다.
코페르니쿠스가 지구가 서 있는 것이 아니라 태양이 서 있는 것이라고 생각을 바꾼 일을 우리가 ‘혁명’이라고 부르는 이유는 기존의 판단 기준으로는 설명할 수 없었기 때문이다.
혁명적인 시선은 우리가 당연하다고 믿는것들을 전복시킨다.
그렇게 하면 문제였던 것이 문제가 아닌 것으로, 또 문제가 아니었던 것이 문제로 바뀌게 된다.
새로운 문제를 찾아내면, 비로소 그 문제를 해결하기 위한 알고리즘을 개발하고, 그렇게 개발된 알고리즘을 개선해 나가는 작업이 시작된다.
문제자체를 찾아내는 일, 이것이 우리, 혹은 가까운 미래세대가 직면하게 될 가장 중요한 과제가 될 것이다.
차시 코지르코프(Cassie Kozyrkov) 구글 최고의사 결정과학자(CDS)인 하버드 비즈니스 리뷰(HBR)에 실린 기고문에서 중요한 의사결정을 할 때는 데이터에 목을 매기 전에 의사결정을 위한 맥락을 생각해야 한다고 강조한다.
의사결정의 사회적 맥락이 제대로 구성되어 있지 않은 한 문제를 제대로 정의할 수도 없고 좋은 솔루션을 찾을 수 없기 때문이다.
코지르코프는 의사결정의 맥락을 짜는 일이 그토록 중요한데도 불구하고 정작 대학의 공학 교육에서는 잘 가르쳐지지 않는다고 한탄한다.
공학도들은 쉴 새 없이 쏟아지는 과제를 해결하기 위해 애를 쓴다.
그 과제의 의미가 무엇이고, 또 왜 그런 과제를 수행하는지를 성찰할 시간도 별로 없다.
어떻게든 자신이 알고 있거나 쉽게 구할 수 있는 해법을 찾아 제한된 시간 안에 결과물을 내야 한다.
하긴 암기하고 따라 해 봐야 할 것들은 얼마나 많은가! 학생들에게 가장 어려운 문제는 잘 정의되지 않은 문제들이다.
그것은 아직 문제라고 할 수 없기 때문에 알고리즘을 적용하기가 어렵기 때문이다.
하지만 이렇게 잘 정의되지 않은 문제라고는 할지언정 문제가 아예 없어서 문제를 만들어 내야 하는 것 보다야 훨씬 낫다.
문제를 스스로 찾아내야 하는 상황이면 그저 멘붕일 뿐이다. 혁명적인 혁신은 언감생심이다.
알고리즘을 만들어 내고 적용하는 공학적 사고방식은 문제가 주어지는 것에서 시작한다.
문제 자체를 찾아내는 것은 다른 방식의 사유를 요구한다. 공학적 시선에서 찾아진 문제들도 있지만 그것들은 대개 알고리즘대로 했는데 안 풀리는 문제들이다.
따라서 공학적인 시선에서 포착된 문제들은 사람들로 하여금 오류나 버그를 제거하는 과정에 주의를 기울이도록 만든다.
반면 아직 알고리즘 자체를 생각해 내지 못한 새로운 문제들은 코페르니쿠스와 같이 새로운 시선에서 보아야만 한다.
그 새로운 시선은 공학적 사고방식의 바깥, 즉 삶의 현장에 있다.
뉴커먼의 증기 기관을 개량한 소년 험프리 포터가 기관의 작동 밸브를 수동에서 반자동으로 바꿀 수 있었던 것은 ‘좀 더 놀고 싶어서’였다.
새로운 문제를 찾을 수 있게 해 주는 필요는 언제나 삶의 현장에서 온다.
만약 우리의 과제가 말 그대로 새로운 혁신이라면, 그 과제를 풀기 위한 실마리는 틀림없이 삶의 현장에 감추어져 있다.
삶의 현장을 들여다보고 반성하고 새롭게 의미부여 하는 일을 우리는 ‘인문학적’이라고 부른다.
인문학적 탐구는 공대생들이 가장 싫어하는 문제, 즉 답이 없는 문제에 대해 이런 해석과 저런 해석, 끊임없이 새로운 해석을 내놓는 것이다.
그렇게 새로운 해석들이 계속해서 나올 수 있는 이유는 삶의 현장이 끊임없이 변하고 있기 때문이다.
이 유연성은 ‘고장나지 않으면 고치지 않는다’라는 격언과는 반대 방향의 움직임이다.
새로운 문제를 찾아내기 위해서는 삶의 문제를 고민하고 그 가운데서 새로운 가치를 보아야 한다.
무엇이 우리를 ‘더 좋은’ 삶으로 이끌고, 무엇이 ‘더 훌륭한’ 삶을 살게 하는지를 고민하는 것, 그 새로운 가치는 알고리즘적 사유로는 잡히지 않는다.
인문학적 사유의 역할이 여기에 있다. 인문학적 사유의 특징은 방법이 아니라 태도에 있기 때문이다.
알고리즘은 그물과 같다. 그 그물 자체가 잡을 수 있는 어종을 결정한다. 새로운 물고기를 잡으려면 새로운 그물이 필요한데, 그 새로운 그물은 새로운 물고기가 어떤 종류냐에 따라 결정된다.
문제를 푸는 수단이 아니라, 그런 수단을 결정하게 하는 문제 자체를 찾는 일, 그것은 알고리즘 사고로부터 자유로워질 때 비로소 보인다.
알고리즘은 그다음 일이다.