어느날 미래가 도착했다

🔖 책갈피

여는 글 | 아주 오래된 미래

7 이 기술은 한없이 인간을 닮아 있었다. 삶의 가능성을 확장하고 풍요롭게 만들 수도 있었지만, 손쉽게 파괴할 수도 있었다. 인간이 가진 ‘욕망’과 ‘의도’를 증폭시키는 기술이라는 점에서 그랬다. 인간인 우리가 어떤 욕망을 품고, 어떤 의도를 가졌는지에 따라 이 기술은 무엇이든 될 수 있었다.

상실과 애도: 슬픔과 고통에 어떻게 대처할 것인가?

32 어쩌면 죽음을 준비하며 자신의 디지털 인격체를 만드는 일은 ‘안녕‘이란 말 대신 오래도록 기억되길 원하는 이야기를 선별하는 과정인지도 모른다. 자신의 죽음 이후에도 전달되길 원하는 것을 자신의 인생에서 골라내는 일인지도 모른다. 이것은 기존에는 없던 죽음을 준비하는 방식이다.

38 사용자 입장에서는 답답한 경험이다. 이는 선을 넘지 않기 위한 서비스의 고민이 담긴 산출물일 수 있지만, 모든 서비스가 이 지점을 깊이 고민하진 않는다. (…) 이것은 기술의 문제가 아니다. 기술은 이미 우리에게 가능하다고 답했다. 이제 이것은 인간의 문제이자 선택의 문제가 되었다. 우리가 답해야 하는 질문이다.

존재와 기억: 언제까지, 어떤 모습으로 존재하고 싶은가?

53 다만 사람들이 던의 로봇과 대화하고 감동한다면 그것은 발전된 기술 때문이 아닐 것이다. 매일 고통 속에 살면서도 끝까지 포기하지 않고 하루하루 자신의 삶을 충실하게 살며, 죽는 순간까지도 같은 병을 겪는 환자들을 생각했던 그의 마음 때문일 것이따. 자신의 모든 것을 녹여 새롭게 신체를 재구성하는 힘든 변태의 시간을 견디고 나비가 되어 날아오른 그의 날갯짓 때문일 것이다.

65 그들이 포에버 프로젝트에 참여한 이유는 자신들이 겪은 역사가 반복되지 않길 원했기 때문이었다. 그들은 자신들의 죽음 이후에도 사람들이 자신들의 디지털 클론과 이야기를 나누며 끔찍했던 역사를 생생하게 기억하길 바랐다. 그렇게 그들의 목소리가 잊히지 않고 다음 세대에도 전달되길 원했다.

72 우리가 우리를 닮은 존재를 디지털로 재현한다 해도 그 존재가 저절로 오래도록 기억되는 것도 아니다. 모든 존재는 관계 속에서만 존재할 수 있기 때문이다. 존재하지만 아무도 찾지 않는 존재를 잊기 쉽듯, 디지털상에 존재하는 나도 누군가에게 인식되고 이름이 불릴 때 비로소 존재할 수 있다. 그렇기 때문에 누군가에게 오래도록 기억되고 싶다면 나를 닮은 존재를 만들어내기 전에 나에게 어떤 이야기가 있는지 생각해야 한다. 수많은 기억과 추억 속에서 오래도록 기억되고 싶은 이야기를 찾아내야 한다. 그러기 위해서는 영원히 간직하고 싶은 추억이 필요하다. 잊고 싶지 않은 오늘이 필요하다.

존재와 사라짐을 생각한다. 오랫동안 기억되는 것과 자연스럽게 잊히는 것을 생각한다. 변치 않고 오래도록 남는 것도 좋지만, 녹고 썩고 부스러져 사라지는 것도 애틋하다. 변치 않는 것도 아름답지만, 소멸하는 것이 만들어내는 순간의 형상도 마음에 남는다. 오래도록 기억될 단단한 이야기도 좋지만, 흙으로 돌아갈 부드러운 이야기도 좋다. 사라진다고 해서 모두 잊히는 건 아니므로, 존재한다고 해서 영원히 기억되는 것은 아니므로.

대화와 관계: 누구와 관계 맺고 대화할 것인가?

104 돌봄을 주고받는 사람 사이에 발생하는 신뢰와 믿음, 연민과 애정 등 눈에 보이지 않는 것들까지 포함한다. 살아 있는 존재의 유한함을 확인하고 서로의 약함을 인정해 가는 과정이기도 하다. 서로를 변화시키는 과정이자 성장하고 연대하는 과정이다.

106 개별적인 경험과 기억이 ‘양’을 고유한 ‘양’으로 만들기 때문이다. 인간인 우리의 삶도 그처럼 사소하지만 사소하지 않은 하루하루가 쌓여 만들어진다. 그렇게 하루하루 쌓인 기억이 모여 ‘나’가 된다. 그렇게 고유한 기억과 경험을 가진 존재를 단순한 도구로만 볼 수 있을까? 나와 오랜 시간 대화하고, 같은 시공간과 경험을 공유한 존재를 단순한 수단으로만 생각할 수 있을까?

107 관계의 그물망에 들어온 대상이 무엇이든 그를 도구와 수단이 아닌 ‘목적‘으로 대하고, 우리의 관계 속에 들어온 모든 존재를 귀하게 여기고 아끼는 마음인지도 모른다.

믿음과 신뢰: 무엇을 믿고, 믿지 않을 것인가?

127 사람들은 온라인상에서 진짜 정보만 공유하지도 않는다. 온라인상에서 진실을 공유하는 것보다 자신의 욕망과 의견, 가치에 일치하는 ‘자신만의 현실‘을 구축하는 것이 더 중요하기 때문이다. 사람들이 온라인에서 콘텐츠를 소비하고 공유할 때 지닛ㄹ은 우선순위가 아니다. 그것이 나의 믿음과 가치에 일치하는지가 더 중요하다. 공유하고자 하는 정보가 자신의 정체성과 사회적 지위, 신념을 강화할 때 그 정본는 기꺼이 우리에게 채택되고 공유된다. 이익과 수익을 보장할 때도 마찬가지다. 허위조작정보가 끊임없이 쉽게 확산되는 이유다.

128 정보의 사실 여부가 불확실한 상황에서 자신이 믿고 싶지 않은 정보를 가짜로 생각할 수 있다는 의미다. 자신이 본 모든 것을 가짜라고 의심할 수도 있다.

• 유럽연합의 디지털서비스법 Digital Service Act
  • 초대형 온라인 플랫폼 VLOP
  • 초대형 온라인 검색 엔진 VLOSE

134 비판적 사고는 ’근거를 기반으로 판단하는 사고‘다. 어떤 새로운 정보나 지식, 주장을 접했을 때 일방적으로 받아들이는 것이 아니라 그것이 옳은지 그른지 근거를 기반으로 따지고 판단하는 자세다. 출처가 어디인지, 근거가 무엇인지, 언제 만들어졌는지 확인하고, 누가 만들었고, 왜 만들었는지 따져보는 일이다. 제대로 된 비판적 사고를 갖추기 위해선 누가 이익을 보고, 손해를 보는지 추적함으로써 교묘하게 숨겨져 있는 편향을 파헤치고 자신의 선입견을 확인해보는 데까지 이르러야 한다. 하지만 이러한 비판적 사고 역량은 하루아침에 만들어지지 않는다. 지속적인 교육과 훈련을 통해 모든 사안에 적용할 만한 반사적인 행동으로 체화되어야 한다. 머리로 아는 이론이 아니라 몸으로 행하는 실천이 필요하다.

추천과 선택: 정말 당신이 선택한 것인가?

144 그러면서 선택의 과정은 생략되고 소비의 과정만 남는다.

158 하지만 확실한 것은 우리의 심리를 이용해 우리의 선택에 영향을 미치려는 사람들이 있다는 사실이다. 우리의 욕망과 두려움, 분노 같은 내밀한 요소들을 자극해 우리의 선택과 행동에 영향을 미치려는 살마들이 존재한다는 사실이다. 우리의 행동을 ’수집’하고, ‘분석‘하고, ’분류‘하고 ’예측’하는 것을 넘어 우리의 행동을 ‘유도’하고, ‘통제’하고, ‘조종‘하려는 존재가 있다는 사실이다.

166 “고통의 파도에 저항하기 위해서 무기를 들기는 쉽다. 하지만 누가 편리함과 즐거움에 저항하기 위해 무기를 들려 할까?” - 1985년 일 포스트먼

166 하지만 모든 사람이 진실을 원하진 않는다. 영화 속 등장인물 중 하나인 사이퍼는 빨간 약을 먹은 후 세계의 진실을 알게 되었지만, 진실을 알기 전으로 돌아가길 원한다. 어두운 현실보다 가상세계가 더 즐겁고 편리하기 때문이다. 결국 그는 위험한 매트릭스 바깥의 현실이 아닌, 편안하고 안온하게 쾌락을 즐길 수 있는 매트릭스 안으로 돌아가길 선택한다. 우리가 원하는 삶의 방향은 어느 쪽일까? 수많은 부작용을 알면서도 인공지능 기술이 제공하는 편리함과 즐거움을 거부하지 않고 있는 지금, 어쩌면 우리는 진실을 알고도 매트릭스 속으로 돌아가기로 한 사이퍼가 되기를 선택한 것인지도 모른다.

위임과 책임: 어디까지 맡기고, 누가 책임질 것인가?

181 인간이 차별적 의도로 시스템을 설계하지 않았더라도, 현실이 편향되어 있고 현실을 반영한 데이터가 편향되어 있다면, 인공지능 스스로 차별을 발견해 학습할 수도 있다는 사실을 알려준 사례였다.

(…) 인공지능이 문제를 해결하는 방식에서 기인하는 문제가 한가지 더 있다. 한 사람에 대한 평가나 예측이 그 사람 고유의 행동이나 특성이 아닌 그 사람과 비슷한 속성을 가진 사람들의 과거 행동에 따라 평가되고 예측된다는 점이다.

고용과 일: 일의 미래는 어떻게 될 것인가?

• 기술의 변화가 일자리에 미치는 영향
  1. 생산효과
  2. 대체효과
  3. 보완효과

230-231 기술적으로 가능하다고 해서 그것을 무조건 수용할 필요는 없다는 사실이다. 인공지능의 기술적 가능 여부와 별개로 그 능력을 어떻게 사용할지 결정하는 것은 온전히 인간의 일이다. 기업과 고용주가 우리에게 그것을 강요한다고 해서 우리가 그것을 우리의 일터에 고스란히 받아들일 필요는 없다. 우리가 기억해야 할 사실은 인공지능 ’기술’이 우리의 일자리를 빼앗는 것이 아니라, 그 기술을 활용하기로 결정한 ‘인간‘이 우리의 일자리를 빼앗는다는 사실이다. 그렇기 때문에 우리가 경계해야 할 것은 기술의 발전이 아니라 기술을 이윤 추구의 도구로만 사용하려는 인간의 욕망이다.

기술에 대해서도 마찬가지다. 기술의 발전을 경계하고 걱저안 할 것이 아니라, 인공지능 기술이 현재 내가 하는 일에 구체적으로 어떤 영향을 미칠지 미리 인지하고 대비하는 일이 필요하다. 인공지능이 무엇을 할 수 있을지가 아니라, 우리가 인공지능을 활용해 무엇을 할 수 있을지 고민해야 한다. 자신의 전체 업무 과정에서 어느 부분에 인공지능이 도입될 수 있는지 미리 알아보고, 어떤 일에 인공지능의 도움을 받고 어떤 일에는 인공지능이 개입하지 못하게 할 것인지 결정해야 한다. (…) 인공지능 기술에 대한 구체적 이해를 바탕으로 우리가 주도권을 갖고 인공지능 기술을 우리의 업무와 일자리에 어떻게 적용할지 제안해야 한다.

232 그렇기에 우리가 지금 해야 할 것은 얼마나 많은 일자리가 없어질지 ’예측하는 일‘이 아니라 인간답게 살 수 있는 미래를 ’만드는 일‘이다. 어떻게 하면 더 인간답게 일할 수 있는지, 더 인간다운 일자리를 만들 수 있는지 논의하고, 연대하고, 견제하는 일이다. 우리의 손으로 일의 미래를 결정할 수 있는 마지막 순간이 얼마 남지 않았다.

배움과 교육: 무엇을 배우고, 어떻게 학습해야 하는가?

245 사회심리학자이자 하버드대 교수인 테레사 아마빌레는 창의성이 발현되기 위한 세가지 요소로 ’지식과 경험, 창의적 사고, 내적 동기‘를 꼽는다. 어떤 과제를 수행할 때 내적 동기가 충만한 상태에서 지식과 경험읕 갖추고 창의적으로 사고하면 창의적 성과가 나올 수 있다는 주장이다. 그의 주장에 따르면 창의성이 발현되기 위해서는 먼저 지식과 경험이 필요하다. 창의성은 무에서 유를 창조하는 능력이 아니기 때문이다. 오히려 기존의 것을 다르게 보는 능력에 가깝다.

245 휘기, 쪼개기, 섞기로 원형을 비틀어 본래의 모습에서 벗어나거나, 전체를 부분으로 해체하거나, 두가지 이상의 재료를 섞어 ‘새롭고‘ ’독창적‘인 것을 만들어내는 것이었다. 하지만 무언가를 비틀거나, 쪼개거나, 섞기 위해서는 비틀고, 쪼개고, 섞기 위한 재료가 필요하다. 그 재로에 해당하는 것이 지식과 경험이다. 무엇이든 물어보면 대답해주는 인공지능 시대에도 꾸준히 학습과 경험을 통해 지식을 축적해야 하는 이유다.

247 창의성은 노력과 학습을 통해 키울 수 있는 능력이다. 창의성의 재료가 되는 지식과 경험을 꾸준히 쌓고 창의적 사고를 통해 창의성을 향상할 수 있다. 다만 단기간에 쌓을 수 있는 역량은 아니다. 어떻게 보면 ’결과‘보다는 ’과정‘에 가깝다. ’존재하는 역량‘이라기보다는 ’실행하는 역량‘에 가깝다. 스스로 학습과 연습을 통해 키울 수 있지만 강제로 키우기는 어려운 역량이다. 하나의 ’기술‘이라기보다는 삶을 대하는 ’방법‘과 ’태도‘에 가깝다.

• 미국 철학회, 비판적 사고
  • 해석, 분석, 평가, 추론, 설명, 자기 규제

254 비판적 사고에서 중요한 것은 그 기술의 발현 여부이지, 그 기술의 보유 여부가 아니기 때문이다.

255 창의성, 비판적 사고, 의사소통 능력, 협업 능력, 회복탄력성, 적응력, 자율성, 사회성, 책임감, 학습력, 공감 능력, 자기반성 능력 등 모두 경험에 의해 형성되고 학습을 통해 습득할 수 있는 능력이다. 하지만 단기간에 형성되는 능력은 아니다. 능력을 포함해 태도, 가치, 흥미, 동기, 지식을 아우르는 개념이다. 하나의 기술이라기보다는 타인과 자신, 공동체를 대하는 방법과 태도에 가깝다. 삶을 살아가는 방방식에 가깝다.

257 이 모든 것이 가리키는 지점은 명확하다. ’나에 대한 앎’이다. 내가 어떤 사람인지 아는 것이 중요해졌다. 내가 어떤 것에 가치를 느끼는지, 어떤 것에 의미를 부여하는 사람인지 묻는 일이 필요해졌다. 어떤 것이 나를 움직이게 하고, 어떤 것이 나를 행복하게 하는지 알 필요가 생겼다. (…) 하지만 이제는 상황이 달라졌다. 배움의 주체인 ‘나‘를 아는 일이 중요해졌다. 여기에는 내가 속해 있는 종인 ‘인간‘을 이해하는 것도 포함된 동물과 기계와 달리 인간만이 가지고 있는 특징과 가치가 무엇인지, 좋은 삶이 무엇인지 정의하는 일이 필요해졌다. 나로부터 시작해 외부 세계로 향하는 배움이 중요해졌다.

생산과 윤리: 무엇을 하고, 하지 않아야 하는가?

276 이러한 이유로 대다수의 인공지능 윤리 가이드할인은 ’인간의 존엄성‘ ’사회의 공공선’ ’기술의 합목적성’이라는 세가지 원칙을 강조한다. 인공지능을 개발하고 사용하는 데 있어 인간의 생명은 물론 정신적, 신체적 건강에 해가 되지 않는 범위에서 개발해 사용해야 하고, 가능한 한 많은 사람의 ‘안녕’과 ‘행복’이라는 가치를 위해 사용되어야 한다는 점을 기본으로 둔다. 인류의 삶과 번영을 위해 인공지능을 개발하고 활용해야 한다는 점을 강조한다.

• 2020년 한국 정부 부처 ‘사람 중심의 인공지능 윤리 기준’의 3대 기본 원칙

287 결국 딥페이크도 ‘기술‘의 문제가 아닌 ’사람‘의 문제, ’윤리‘의 문제다.

죽음과 삶: 언제까지, 어떻게 살 것인가?

305 ‘다름’을 불완전함과 장애로 정의하고, 이를 개선하고 배제해야 할 대상으로 보는 시선이다. 우리가 개선하고 향상해야 할 대상은 우리의 생물학적 육체와 정신이 아니라 우리가 사회에 부여하는 가치와 사회 시스템이 될 수도 있다.