먼저 온 미래

🔖 책갈피

17 내가 이해할 수 없는 일에 헌신하는 것은 괴롭다. 둘 중 어떤 상황에서건 나는 문학과 건강한 관계를 맺을 수 없고, 문학으로부터 소외된다.

25 나는 바둑계에 미래가 먼저 왔다고 생각한다. 2016년부터 몇 년간 바둑계에서 벌어진 일들이 앞으로 여러 업계에서 벌어질 것이다. 사람들이 거기에 어떤 가치가 있다고 믿으며 수십 년의 시간을 들여 헌신한 일ㅇ르 더 잘해내는 인공지능이 어느 순간 갑자기 등장하는 것. 그 인공지능이 싼 가격에 보급되는 것. 그 인공지능과의 ‘공존’을 강요당하는 것. 인공지능이 만드는 새로운 질서를 따라야 하는 것. 당신이 알던 개념을 인공지능이 재정의하고, 당신은 그것을 다시 배워야 하는 것.

58 전보다 더 견고한 성에 답답하게 갇혀버린 느낌이에요. 바둑이 싫어진 건 아니고, 바둑을 좀 잃어버린 기분이에요. 내 마음대로 생각하고 내가 그릴 수 있는 그림을 뺏겨버린 느낌. - 이하진 4단

62 긍지와 관련된 문제다. 사람은 의미 있는 일을 자신이 잘해내고 있다고 믿을 때 긍지를 얻는다. 나는 다른 직업에서도 인공지능으로 인해 긍지를 잃을 사람이 많아지리라 생각한다. 인공지능은 우리 예상보다 훨씬 넓은 영역에서 어떤 일의 의미와 인간의 유능함을 납작하게 짓눌러 버릴 것이다.

77 바둑계에서 이런 현상을 아쉬워하거나 비판하는 목소리는 어렵지 않게 들을 수 있다. 그러나 AI를 거부하고 ‘인간의 바둑’이 무엇을 뜻하는지 논의조차 제대로 되지 않았다. 실은 ‘인간의 바둑’이 무엇을 뜻하는지 논의조차 제대로 되지 않았다. 이유는 간단하다. 프로기사들은 그런 논의를 할 시간에 AI 포석을 공부해야 했기 때문이다.

78 ‘우리가 앞으로 나아갈 방향은 무엇인가’ 그런 생각, 그런 고민 하지 않아요. 그냥 ‘더 공부해야지, 더 나아져야지’ 다 지금 그렇게 가고 있어요. AI에 대해서는 그냥 그 존재를 인정했고, 얼마만큼 내가 AI를 따라 둬서 수준이 높아질 것인가 하는 생각이죠. 다들 그렇게 생각하고 있는 것 같아요. 어차피 경쟁은 사람이랑 하니까요. 그냥 ‘내가 AI를 더 습득해서, 더 발전해서 저 사람을 이겨야 되겠다’ 뭐 이런 식이죠. AI에 대해서는 그 엄청난 경지를 봤기 때문에 그거는 그냥 받아들였고요.

79 인공지능은 모든 분야에서 게임 체인저가 된다. 인공지능이 등장하면 그 분야의 규칙 자체가 바뀌며, 그때부터 해야 하는 고민은 ‘이 인공지능을 어떻게 활용할 것인가’가 된다. 어쨌든 경쟁은 다른 사람과 하는 거니까.

102 나는 다른 업계에서도 같은 일이 벌어지리라 생각한다. 인공지능과 같은 강력한 신기술은 기존의 권력관계를 뒤흔든다. 만약 그것이 기득권의 힘을 약화시키고 주변부에 있던 그룹에게 기회를 제공한다면, 그 새로운 기술은 적어도 특정 집단으로부터는 열렬한 환영을 받을 것이다.

(…) 여기에 중요한 시사점이 있다. 어떤 업계에서 일하는 사람들, 그리고 그곳에서 일하려는 사람들이 다 함께, 한 목소리로 인공지능을 거부하는 일은 아마도 벌어지지 않으리라는 것이다. 그 업계에 일단 인공지능이 도입되어 영향을 미친 뒤에는 말이다.

110 그들이 결정할 수 있는 영역 바깥에서, 그들의 의지와 관계없이 거대한 환경 변화가 일어났기 때문이다. 그 변화를 일으킨 인간도 딱히 제비를 혐오하거나 비둘기를 선호하지 않았다. 새로운 환경이 그저 우연히도 제비에게는 불리했고 비둘기에게는 유리했다.

‘AI-환경’도 그러할 것이다. 개발자들의 의도와 무관하게, AI-환경은 어떤 사람들에게는 불리하고 어떤 사람들에게는 유리할 것이다. 하지만 우리는 현시점에서 구체적으로 누가 유리하고 누가 불리할지 예측할 수 없다.

127 인간은 그런 개념어와 비유에 기대어 세계를 파악한다. 언어는 도구다. 그 도구에 기대지 않는 인공지능이 언어라는 도구에 기대야만 하는 인간들보다 더 훌륭하게 과제들을 수행할 때, 언어에는 균열이 생긴다. 우리는 ‘그 말이 무슨 뜻이냐’를 비로소 제대로 묻게 된다.

131 인간은 이런 식으로 수많은 사물을 의인화하고, 상상의 감정이나 성격을 만들어 거기에 자신의 마음을 이입한다.

133 그런데 5년 동안 이 방식을 개발하면서 느낀 게 뭐냐 하면, 우리가 애매모호하게 알고 있는 것들이 정말 많구나 하는 점이었습니다. 적당히 편의적인 정의를 내려서 적당히 쓰고 있는 것들이 엄청 많아요.

174 하우절은 같은 책에서 “많은 이들이 경제적 인센티브는 뿌리칠 수 있지만 문화적, 집단적 인센티브는 더 뿌리치기 힘들다”라고도 적었다. 예술가들을 움직이는 인센티브에는 경제적 보상도 있지만, 그들은 뭔가 고상한 것, 의미 있는 것, 자신만이 만들 수 있는 것을 만들어 낸다고 인정받는 것에도 강하게 끌린다. 새로운 기술이 그 인정 욕구를 위협할 때 예술가들은 예술을 재정의해야 한다는 강렬한 충동에 휩싸인다. (’저런 건 예술이 아니야!’). 그리고 도덕심리학자 조너선 하이트가 지적했듯이, 인간의 감정은 코끼리이며 이성은 자기가 그 코끼리를 조종하고 있다고 믿는 기수에 불과하다. 코끼리가 방향을 정하고 기수는 그 방향을 합리화한다(’저런 건 이러저러한 이유로 예술이 아니야!’)

187 그러나 결국은 사람들이 인식을 바꿀 것이다. 어떤 기술은 사람들의 현실 인식을 바꾸고, 새로운 인식을 지닌 후손들은 과거의 인식을 낯설고 우스꽝스럽게 여기게 된다. 그러면 옛 토템은 하나둘 무너진다. 그 토템이 보호하던 가치도 흔들리거나 무너진다.

188 어떤 기술은 사람들의 인식과 행동에 영향을 미친다. 그런 기술은 사람들이 서로 관계 맺는 방식과 다른 사람의 성취를 평가하는 기준을 바꾸고, 공동체에 새로운 금기과 규칙을 만든다. 그 규칙들은 새로운 제도와 질서가 되고, 그 질서에 따라 새로운 계급과 문화를 지닌 새로운 사회구조가 탄생한다.

197 과학철학자로서 그의 주요 업적 중 하나는 ‘암묵지(暗默知, tacit knowledge)’라는 개념을 제시한 것이다. 암묵지란 언어로 표현하기 어려운, 경험으로 익힌 지식이다. (…) 이때 매뉴얼로 정리한 글을 형식지(形式知, explicit knowledge) 혹은 명시지(明示知)라고 한다.

202 ‘새로운 일자리는 계속 생길 것’ㅇ라고 말할 때, 일자리란 정확히 무엇을 의미하는 걸까? 사회적 가치와 자긍심의 원천인가, 아니면 내가 계좌로 상당한 돈을 꾸준히 입금받는 어떤 이유를 말하는가?

203 그렇기 때문에 그런 분야에서 인간 전문가의 지식은 쉽게 복제되지 않고, 희소성이 있다. 뛰어난 변호사, 뛰어난 경영인이 높은 연봉을 받는 것, 뛰어난 임상의가 수술실에서 권위를 얻는 것은 그들이 지닌 암묵지 때문이다. 그 암묵지는 많은 인간 전문가에게 단순히 그들이 보유한 지식 상품이 아니라, 자기효능감과 자부심, 자존감의 근원이기도 하다.

그런 이들에게서는 현장 업무에 대한 애착, 매일의 작업을 일종의 수련으로 여기는 자세, 더 나아가 자기 직업을 삶과 동일시하는 경향 등이 나타난다.

204 동시에 그들은 자신들의 창작 노하우가 형식지가 아니라 암묵지라는 사실을 얼마간 즐기는 듯 보이며, 그 사실에 경외감을 품고 있는 것 같기도 하다. 자신이 어떤 일에 대단한 정신적 에너지를 들여 남들보다 나은 결과물을 내지만 어떻게 그렇게 하는 건지 제대로 설명할 수 없을 때, 그 과정은 영적 체험처럼 느껴진다.

224 결과물의 질이 뛰어나더라도 내가 주체가 아니라 보조 인력이라고 느낀다면 나는 ‘내 일의 주인’이라는 생각을 더 이상 할 수 없게 된다. (…) 거대한 의미의 흐름에 참여한다고 느끼지도 못할 것이고, 거기에 헌신할 수 있겠다는 믿음도 잃어버린다.

225 나는 AI 시대가 공허의 시대가 될지도 모르겠다고 상상한다. 평범한 인간들이 가치를 잃어버리고, 가치로부터 소외되는.

233 따라서 어떤 일의 의미가 훼손되면 재미도 변할 수 있다. (…) 다른 가치들의 부족이나 결여, 감소를 지적받고 ‘난 재미있어’라고 논쟁을 끝내려는 살마은 자신이 재미 외의 다른 가치에는 별로 신경 쓰지 않음을, 자신이 얄팍한 인간임을 폭로할 뿐이다.

234 사람들이 어떤 일에 능숙해지면서 다른 차원의 재미를 느끼는 것은 일방향이다. 실력이 나아지면서 새로운 재미를 느끼는 것이지, 예전의 재미를 느끼기 위해 일부러 자기 실력을 퇴보시키는 사람은 없고 설사 그런 시도를 한들 예전의 재미를 느낄 수도 없다. 그런 재미에는 처음 발견하는 감각에 대한 즐거움과 성취감, 앞으로도 그렇게 계속 발전하리라는 기대가 섞여 있기 때문이다.

243 서사는 인물의 감정 없이 성립하지 않는다. 희극이든 비극이든 주인공은 역경을 겪으며, 그 역경을 겪는 동안 두려움, 불안, 좌절감 같은 감정들을 느낀다.

248 “시니어 기사들은 실수가 잦아요. 정상급 기사들에 비하면 수준도 떨어지고요. 그런데 사람들은 그렇게 실수하는 모습을 좋아하거든요. 완벽하게 두는 바둑이 아니라 스토리가 있는 바둑을 좋아하는 거죠. “

281 우리 인간이 비록 불완전하지만 그 속에서 성장해 가는 낭만이 있었는데, 알파고 이 자식 이후에는 뭔가 서늘해져 버렸네요. 기술이 발전하면서 많은 사람이 몸은 편해지는데 영혼은 시드는 것 같고, 지금의 바둑도 별반 다르지 않은 듯해서 의견을 번복합니다. - 하호정 4단

286 무언가를 마신다는 행위, 물건을 구매한다는 행위, 다른 사람과 연결된다는 행위 자체를 바꾸겠다는 식으로 움직인다. 빅테크 기업들은 우리가 알던 개념을 바꾸고 있으며, 그들 스스로가 하나의 개념이 된다. 그들은 우리가 아는 세계를 이루고 유지하는 근본 개념을 파괴하면서 새로운 수익 모델을 만들어낸다.

298 어떤 고통은 삶에서 제거해야 하는 얼룩이 아니다. 그 고통은 삶의 일부이며, 우리 삶은 순백이 아니다. 순백이어서도 안 된다. 이 점을 커즈와일은 이해하지 못하는 것 같다.

299 그에게, 우리에게 필요한 것은 외로움을 견디는 힘이다. 외로움을 견디는 힘을 가진 사람은 외로움을 통해 성장하고 건강해진다. 외로움을 견디는 힘을 지닌 사람은 보다 좋은 삶을 살 수 있고, 외로움을 견디는 힘을 모르는 사람은 좋은 삶을 살지 못한다. 사실 좋은 삶을 살려면 어느 정도의 외로움이 꼭 필요하다. (…) 외로움을 견디는 힘이 있는 사람만이 외로움을 달래기 위해 다른 사람이나 사물에 의존하는 태도를 버릴 수 있다. 우리는 그 힘을 배워야 하고, 아이들에게 가르쳐야 한다. 그런데 우리는 지금 그런 공부를 하지 않고 있다.

304 우리는 과학기술이 가치중립적이라는 헛소리를 경계해야 한다. 과학기술은 물질세계뿐 아니라 정신세계 깊은 곳까지 힘을 미치는 강력한 권력이다.

312 하나는 앞서 적은 것처럼 기술이 “결함 없는 세상”을 추구할 때, 그래서 “기계적 진보의 경향”이 “재앙이나 고통이나 어려움을 제거”하고, 그로 인해 인간이 “자신을 용감하고 강인하게 만들려고 애쓰는” 활동을 포기해 “걸어다니는 위”가 될 가능성이었다.

323 불확실성은 커다란 스트레스다. 때로는 확실한 불행이 차라리 낫다는 생각마저 든다. 사람들은 불확실성을 줄이기 위해 기꺼이 지갑을 열고, 그렇기 때문에 데이터 예측분석 기술은 계속해서 투자를 받아 점점 정교해질 것이다. 많은 사람이 데이터 예측분석 기술의 고객이 되리라는 사실 자체가 데이터 예측분석에서 하나의 변수가 될 것이다.

우리는 절박하게 미래를 예측하고 싶어 하면서도 놀라울 정도로 자기 자신이 만들어 내는 데이터를 분석할 줄 모르는 존재이기도 하다.

324 나는 불확실성 역시 소중한 가치임을 우리가 너무 뒤늦게 깨닫게 되는 게 아닐까 우려한다. 사람은 불확실한 상태에서만 결단할 수 있다. 그리고 결단을 통해서만 성장하고 운명에 맞설 수 있다. 모든 정보를 아는 상태에서 최적의 해답을 고르는 것은 결단이 아니라 인지능력 테스트다.

328 요나스는 “미리 예견된 인간의 왜곡이 비로소 우리로 하여금 이러한 왜곡으로부터 보전해야 할 인간의 개념을 찾아낼 수 있도록 도와주는 것이다”라고 썼다. 내 생각에는 SF소설이야말로 그런 작업을 잘할 수 있는 도구다. 그런 면에서 『1984』와 『멋진 신세계』는 아주 성공적인 STS SF다.

329 가치가 기술을 이끌지 못하고 기술이 가치를 앞설 때 실현될 악몽들, 우리는 기술에 대한 가치의 통제를 주장한다.