AI블루
🔖 책갈피
1 기술이 앞질러 간 길을 따라가야 할 때
33 “무언가를 손쉽게 때우면 무언가가 둔해지는 법. 편리와 안이는 달라. 녹스는 건 한순간이지만, 다시 연마하려면 오랜 시간이 걸린다네.”
2 알파고부터 챗GPT까지
52 인터페이스를 개발할 때 최대한 다양한 방식으로 조작할 수 있는 방향이 필요한 이유다. 가능한 많은 사람이 시간과 자원을 아끼고 편안한 삶을 누릴 수 있게 하는 데 기술이 직접 영향을 끼치는 것이다. 나는 내가 만드는 서비스가 누군가의 생활을 더 안락하게 바꾼다는 것에 매력을 느꼈다.
58 제품을 만들 때는 보통 이 제품이 소비자에게 주는 가치가 무엇인지 기획하고, 그 가치를 전달하려면 어떤 기능이 필요한지 정의하고, 그 기능을 구현하려면 어떤 기술이 필요한지 찾아가는 순서를 거친다. 그러나 AI산업은 이를 역순으로 시행한다. 새로운 기술이 먼저 나온 뒤에 그 기술을 적용할 수 있는 분야와 과제를 찾는다.
챗GPT가 일으킨 AI 하이프는 이러한 AI 분야의 특수성을 극명하게 보여주었다. 챗GPT가 나오자 사회 전체가 생성형 AI 기술을 모든 분야에 접목하려고 움직이는 것처럼 보였다. 풀고 싶은 문제에 대한 답을 찾는 것이 아니라, AI 기술이 풀 수 있는 문제를 찾아서 기업들이 움직였다. 이 과정에서 빠르게 최신의 AI 모델을 개발하기 위한 기술력 향상에만 집중한 나머지, 실제 AI 서비스를 이용하는 사람들에 대한 연구나 구체적으로 사람들을 만족시킬 수 있는 기획과 사용성에 대한 고려는 아직 제대로 이루어지지 못하는 것으로 보인다.
62 대부분의 사람에게는 새로운 기술이 필요한 것이 아니라 일상의 문제를 해결해줄 수 있는 적정 기술이 필요하다.
62 즉 단순히 최첨단을 달리는 것을 뛰어넘어서 기술의 쓰임과 필요를 모두 고려해야 비로소 예술의 경지에 이를 수 있다.
79 이처럼 비대해지는 모델의 크기는 아주 극소수의 플레이어만 이 게임에서 살아남을 수 있도록 하는 장치가 된다. 실패에 대한 비용이 커질수록 도전이 어려워지고, 도전이 어려워지면 당연히 창의적인 해결책이 나오기는 어렵다.
87 “저는 기술이 발전함에 따라 사회에 미칠 수 있는 영향을 고려하면서 기술이 발전되어야 한다고 생각해요. 그래서 제가 했던 연구 중에도 AI 모델의 위험성을 평가하는 연구들이 많이 있고요. 지금 유행하는 생성형 AI, 그러니까 달리나 GPT류를 기준으로 말씀드리자면 그 모델에서 나오는 결과물에 대한 여러 가지 문제가 있을 수 있어요. 이런 기술이 무료 또는 염가에 풀리면서 사람들의 접근성이 좋아졌어요. 그런데 이를 활용하는데 고려해야 하는 법적, 학문 윤리적인 이슈가 많은데 이에 대한 고려가 충분히 된 상태에서 서비스가 나오는 게 맞았다고 생각해요.”
91 이와 같이 전투적인 속도는 이 AI 생태계 안에서 영향을 주고받는 사람들에게서 사유할 시간을 소거한다. 속도에 맞추기 위해서 달리다 보면 이 변화에 대해서 어떤 입장을 취해야 하는 것인지 어떤 방향성이 옳은지 그른지 판단할 에너지를 빼앗긴다. 윤리적인 판단뿐 아니랄, 기술적 적합성 측면에서도 그렇다.
93 챗GPT가 우리 사회의 아나볼릭 스테로이드가 되는 게 아닐까 하는 의심을 품었기 때문이다. 아나볼릭 스테로이드는 호르몬이다. 즉 신체 전반에 여러 작용을 일으키는 신호 전달 물질이다. 완전히 통제가 불가능하다는 뜻이다. 근육 증상을 원한다고 해서 딱 원하는 효과만 보도록 정밀하게 사용하는 것이 불가능하다. 현재의 생성형 AI 기술 또한 이 기술의 영향력은 아직 다 밝혀지지 않았다.
3 AI를 쫓아가는 IT
111 “어떤 것이 대체되었다기보다는 새로운 업무 방식이 생겨났다는 쪽에 가까운 것 같아요. 선택지각 하나 더 늘었다는 정도?”
태이에게도 같은 것을 물었고, 비슷한 답변을 들었다.
“우리가 활용할 수 있는 재료가 많아져서 반갑다는 느낌이에요.”
133 이들은 기술보다 기술 너머에 문제가 있다고 인식한다. 그것은 대체로 커버넌스, 기술을 결정하는 힘에 관한 논의다. 누가 어떤 기술에 투자할지 결정하는지, 그리고 그 누군가가 기술의 쓰임새와 그 사용처를 어떻게 제안하는지. 어떤 기술이 있을 때 그 기술 자체를 금지하기보다 기술에 ‘관한‘ 결정권이 더 많은 사람에게, 더 폭넓게 주어져야 한다고 보는 것이다. 기술 그 자체에 대해서는 긍정하는 셈이다.
4 창작의 경계, 내가 창작자다 말할 수 있는 자는 누구인가
147 그림을 그리지 않았는데도 그림이 있는 것. 창작이라는 지난한 과정을 없애고 결과물만을 ’생성’하기 때문이다.
152 그러나 물론 창작에 들어가는 일손을 덜 수 있는 방안이 과연 기술뿐인지에 대해서도 분명하게 논의되어야 한다. 어쩌면 만화를 소비하는 속도, 창작에 대한 이윤을 배분하는 방식 등 복잡한 문제들은 건너뛰고 과롤에 대한 문제를 가장 ‘빨리‘ 해결할 수 있는 방안이 AI이기 때문에 그 길을 택하는 건 아닌지 말이다.
159 사람들은 그렇지 않거든요. 다들 자기만의 취향, 그러니까 툭 튀어나온 부분들이 있고요. 그렇게 툭 튀어나온 건 AI로 만들기 어렵죠. 그게 주류나 대세는 아니더라도, 그 ’툭 튀어나온‘ 예술을 좋아하는 사람들이 꽤 많다는 걸 알아요. 어쨌든 전 예술을 하는 사람이니까, 결과만이 아니라 예술 창작의 모든 과정을 통틀어 볼 수 있는 ‘예술적 성취’가 존재한다곡 믿거든요.
나향은 ‘극리는 과정’ 그 자체를 탐구하고 연구하고 몰입함으로써 느끼는 즐거움이 있다고 답했고, 연정 역시 창작의 과정을 전체적으로 통틀어 자신의 예술적 성취라고 말했다. (…)
결과물을 두고 이것이 어떤 예술성을 담고 있는지 논의하는 게 아니라, 어떤 고민과 과정 속에서 이 작품이 탄생했는지를 살피고 그 고민을 우리의 시대 안에 받아들여 어떻게 의미화할 수 있는지, 그 모든 과정이 예술이 아닐까? 어쩌면 작가의 창작뿐만 아니라 독자들이 예술 작품을 수용하고 예술가와 소통하는 그 과정까지도.
5 어쩌면 오래된 미래
167 이러한 상황 속에서 AI는 오히려 기존에 산적한 문제를 기시화하고 동시에 가속화하는 트리거인 건 아닐까. 이미 과잉이었던 시장은 더 크게 부풀리고, 결핍되어 있던 시장은 더 쪼그라들게 만드는.
167 “더 효율적으로 일한다는 것이 곧 실제로 쉴 수 있다는 것을 의미하는지는 불분명하다.”
171 사람들은 기술이 발전해서 노동량이 줄어든다고 생각하겠죠? 사실 안 보이는 곳으로 감춰진 건데도요.
173-174 앞서 살펴본 것처럼 러다이트 운동은 반기술주의적 캠페인이 아니라 반자본주의적 운동이다. 기술 그 자체에 반대한 것이 아니라 기술의 방향이 자본주의를 향하고 있음에 깃발을 든 역사적 사건인 셈이다. 그러나 우리는 그로부터 200년이 지난 지금에도 AI라는 기술 앞에서 언제나 찬성과 반대, 두 가지 선택지만을 놓아둔 것은 아닌가 하는 생각이 든다. 기술 발전을 따라갈 것인가, 거부할 것인가.
이 질문에서 벗어나 기술의 방향성과 목적, 적정성 등 여러 지표를 손에 쥐어야 한다. 실제 우리가 그러한 지표를 의식하지 못하고 있다하더라도, 지금까지 인류는 그렇게 기술을 ‘취사 선택’해왔다. 모든 기술이 뛰어나다고 해서 무조건 받아들였던 것은 아니다.
175사람들은 ‘혁신적인’ 기술을 따라간 것이 아니라 ’필요한’ 기술을 택했다. 사람이 기술을 따라가야 하는 게 아니라 기술이 사람을 따라간다. 그러나 여기에서 조금 더 파고 들어야 할 질문이 있다. 기술은 ‘어떤 사람‘의 ‘어떤 필요‘를 따라가고 있는가?
190 우리는 종종 기술은 사용자가 어떤 목적으로 어떻게 쓰는가에 따라 방향성이 결정된다고 생각한다. 하지만 기술은 그 기획과 개발 단계에서 이미 큰틀에서의 방향성이 결정되어 있다. 물론 그렇다 하더라도 대다수의 사용자에게 그러한 방향성을 설득시키지 못하면 금세 폐기되곤 하지만, 그 과정을 뛰어넘어 생존한 기술은 이윽고 사용자를 설득할 뿐 아니라 바꾸기까지 한다. 처음에는 일상과 일터를, 그 후엔 사회를. 심지어 기후까지도.
6 우리가 우리의 미래
198 딥러닝 알고리즘의 장점은 많은 데이터 속에서 패턴을 찾아내서 스스로 학습할 수 있는 능력이다. 그런데 이런 능력이 제대로 발휘되려면 문제를 섬세하고 정확하게 정의해야 한다. 그렇지 않으면 모델은 설계자의 의도와 다른 답을 내놓는다. 그 답이 창의적이고, 아예 새로운 관점에서 문제를 타개할 묘수일 수도 있지만 대부분 실패한 작업이 된다.
200 실제 AI를 개발하는 입장에서는 어느 상황에서도 벗어나지 않는 추상적인 원칙이 필요한 것이 아니라, 구체적인 상황을 설정하고 각각의 경우에 바른 해결책을 주는 가이드라인이 필요하다. 현실에서 일어날 수 있는 문제를 가능한 한 많이 시뮬레이션해보고 각각의 상황을 어떻게 대응할지 세밀하게 정해야 한다. 집요하고 상세한 문제 파악이 필요한 것이다.
203-204 AI 개발진은 극단의 상황을 상저어하면서 거기에 얽매이기보다는 실제로 일어날 수 있는 상황을 설정하고 아예 트롤리 딜레마에 놓이지 않을 방법을 찾아내야 한다. 극적인 위기의 순간을 상정하고 미래를 대비하는 것은 중요하지만 현실적으로 개발을 하는 데는 전체적으로 인공지능 모델이 활용되는 구체적인 시퀀스를 상상하고 설계해야 한다. 그것은 레퍼런스가 없다. 오롯이 개발진이 찾아나가야 하는 영역이다.
210 그는 오픈AI의 ’오픈’은 기술 자체를 공개하는 것이 아니라 기술의 효용을 모든 사람이 나누겠다는 의미라고 적었다.
217 AI 기술이 다음 차원으로 도약하려면 고유성을 가진 데이터를 확보하는 것이 필수적이다. 그러려면 어떻게 창작자의 기여를 측정하고, 정당한 보상을 지불할 수 있는가에 대한 방법론에 대한 연구와 개발이 필요하다. 이를 위한 시작은 창작자의 권리를 존중하고 눈을 맞추는 것부터일 것이다.
220 모든 반복 업무가 개선의 대상인 건 아니다. 모든 걸 자동화할 수도 없고, 그럴 필요도 없다. 기술은 왜 늘 모든 것을 대체해야 하는가? 그리고 어째서 계속 ’새로운 기술’을 추구하는가? 지금 이미 있는 기술을 응용하여 필요한 곳에 필요한 만큼만 적용하는 건 안 될까?
220 다시 말해 우리가 상상하는 미래의 모습을 달성하기 위해 완전히 새로운 기술이 필요한 건 아니며, 문제 의식의 방향만 바꾸면 우리가 지금 보유한 기술로도 충분히 달성할 수 있으리라는 이야기다.
225 전에는 막연한 그림자를 마주하는 기분이었다면, 지금은 실체가 낱낱이 드러난 기계를 상대하는 것 같달까. 여전히 막막하고 거대해 보이긴 하지만 우린 이 기술을 안다. 그것만으로도 어쩐지 힘이 생긴다.
226 기술을 만들어내는 건 어디까지나 사람 아닌가. 우리는 늘 기술을 자연적인 재해처럼 혹은 느닷없이 떨어진 기적처럼 여기지만 그 기술들은 인류가 스스로 쌓아온 발판이다. 그렇다면 우리가 다시금 결정할 수도 있을 것이다. 우리는 어떤 기술을 만들고 추구할지에 따라 사회도 차차 바뀌어갈 테다. AI뿐만 아니라 AI 이후 또 다른 기술이 등장하더라도, 우리가 그 흐름들을 끈기있게 응시해야 하는 이유다.
228 AI를 개발하는 과정에서 가장 중요한 것은 기술로 풀어낼 문제가 무엇인지 촘촘히 정의하는 것이다. 문제가 무엇인지 정확히 이해하고 있어야 해결할 수 있는 답을 찾을 수 있기 때문이다.
(…) 만고불변의 진리나 누구에게나 적용되는 옳은 답은 없다. 80억 넘는 사람 모두에게 최선인 미래는 없을 것이다. 지금 맞는 답이 미래에도 맞으리라는 보장도 없다. 그럼에도 문제를 직시하고 바른 답을 찾으려 노력하는 시도는 언제나 옳다. 답을 상상해내는 힘이 결국 스스로 믿는 바람직한 방향을 현실화하는 원동력이 되기 때문이다.
229 이제 미래를 예측하는 것보다 상상한 미래를 실현하는 것이 중요한 시점이 다가온다. 소수가 인공지능을 독점해 사회가 양극화되는 디스토피아적 미래에 동의할 수 없다면 각자 어떤 미래가 자신에게 이로울지 고민해보아야 할 것이다. 그리고 그런 고민을 나누고 대화하는 과정에서 분명 이 사회가 더 좋은 답을 찾아갈 거라고 믿는다.