이해할 수 없는 것을 사용하기

“당신은, 당신이 이해하지 못하는 물건을 사용할 수 있나요?”

아마도 이 이야기를 듣는 대부분은 필자를 정신이 이상한 사람이라고 취급지도 모르겠습니다. 제가 봐도 “도를 아십니까”급 화두 같네요. 한 번 더 풀어서 설명해 보겠습니다.

“우리들 중 스마트폰의 작동 원리 전체(반도체, 전지 등 하드웨어의 제조 및 작동 제어 원리, 블루투스 통신 모듈에서부터 소프트웨어 구동, 그리고 단말 노드와 AP와의 통신 방식까지)를 이해하는 사람은 몇이나 될까요?”

이런 능력을 갖추신 분이 세상에 몇이나 될까요? 삼성전자 IM 사업본부 사원들은 답을 알고 있을까요? LG전자 MC 사업부 전 직원에게 물어볼까요? 아니면 애플에 다니는 실리콘밸리 엔지니어는 어떨까요? 확답하긴 어렵겠지만, 기본적인 작동 원리가 아닌 현대 스마트폰 제조 방식을 전량 이해하고 사용하는 인류는 극히 드물 것입니다.

이제 스마트폰이 아닌 것을 생각해 봅시다. 인류는 이를 닦습니다. 그러나 치약이 어떻게 만들어지는 전 과정을 이해하는 인류는 소수일 것입니다. 그럼에도 우리는 백 퍼센트 이해하지 못하는 도구를 사용하여 신체를 관리합니다.

어떻게 이런 일이 가능할까요? 이에 대해선 그럴싸한 많은 답을 생각해 낼 수 있을 것입니다. 한 번 고민해 보시겠나요? 우리는 어떻게 이해하지 못하는 물건을 마음놓고 사용하고 있을까요?

필자는 ‘우리가 서로를 신뢰하고 있기 때문’이라 하겠습니다. 물론, 신뢰가 모자란 기업도 물건을 만들곤 합니다. 그러나 이런 때를 대비해서 기업과 각종 정부 부처가 서로를 감시하고 있고, 최종적으로 물건이 소비자에게 전해질 때엔 최소한의 신뢰라도 검증 받은 형태일 것 입니다. 필자는 신뢰가 우리네 안방에 100% 이해하지 못 하는 물건들로 가득 차게 된 방식이라 주장합니다[주1].

그렇지만 오늘날 ‘신뢰 주체’는 다소 추상화되어 있습니다. 우리는 치약을 만든 최초의 인물이 누구인지, 그리고 오늘 우리 집에 있는 치약을 만든 연구진이 누구인지 알 수 없습니다. 결국 치약에 대한 신뢰란 기업이 대표로 등장하는 형식으로 가리워져 있으며, 우리는 치약이 기업에 속한 사람(들)이 양심 또는 그에 상응하는 어떤 것을 걸고 만들었겠거니 짐작할 뿐 입니다.

신뢰 주체는 현대인이 되는가 하면, 세상을 떠난 이의 업적일 수 있습니다. (앞서 말했듯, “그 사람이 누구인지 모릅니다”) 그렇기에 신뢰물로부터 피해가 발생했을 때 보상을 요구할 수 있는 주체는 그것을 대리로 구현한 곳에 있습니다(일반적으로 이곳을 기업이라 부릅니다). 소비자는 신뢰물에 대한 피해를 만든 곳에 배상 요청 할 수 있으며, 국가는 <소비자 피해 보상 규정>을 통해 소피자가 입은 피해를 사회적 통용 한도 안에서 보장합니다. 따라서 기업이 생산물을 이해하고, 통제하는 것은 소비자에게 발생할 수도 있는 원치 않는 재산과 인적 피해를 막기 위해서 반드시 필요합니다. 이러한 신뢰 기반 위에서 소비자는 물건의 제작 과정과 범위를 전량 이해하고 사용할 필요가 없습니다.

그러나 오늘날 상황은 조금 다릅니다. 현재 기업이 만드는 생산물 중, 이해/통제 산정이 어려운 물건들이 속속 등장하고 있기 때문입니다. 가령, 인공지능은 데이터 과학자가 설계한 학습 모델-시험 모델입니다. 데이터 과학자는 학습 모델을 설계하고, 시험 모델을 통과하며 기계를 학습시킵니다. 이때 신경망이 어떤 원리로 학습하는가에 대한 지침은 존재하지만 ‘어떤 인공지능’이, ‘왜’ 만들어지는가는 장담하며 해석할 수 없습니다. 예를 들어, 개와 고양이를 구분하는 인공지능을 설계할 수는 있어도, 그 인공지능의 모델 내부가 왜 그렇게 구성되는지, 같은 성능을 내는 다른 모델의 내부가 현재 모델과 왜 완전히 일치하지 않는가를 확정적으로 설명할 순 없습니다[주2][주3].

결국 생산 물량 전체를 이해/통제하던 과거 ‘신뢰 위임’ 시절과는 달리, 정보화 사회는 신뢰의 경계를 흐릿하게 문지릅니다.

이제 서두에 던졌던 질문을 다시 한 번 바꾸어 불러 봅니다.

“당신은, 인공지능이 임의로 만든 물건을 믿고 사용할 수 있나요? 그것을 만든 기업은 해당 기술 전체를 이해하고 있다고 장담 할 수 없는데도요.”

이번 질문은 어떤가요?

표면적으로 생각해보면 달라질 것은 없습니다. 과거에도 우리는 ‘누가’ 이것을 만들었는지 몰랐고, 그저 우리와 같은 종류의 어떤 인간이 만들었음을 짐작할 뿐 이었습니다. 기계가 만든 물건인들, 사람이 만든 물건인들, 우리가 대상을 이해하지 못한다는 건 달라지지 않아요. 결국 누가 생산의 주체인지 특정하지 못 합니다. 심지어 해당 기술을 이해하지 못하기 때문에 기업에 신뢰를 위임하는 것 마저도 다를 것이 없습니다.

그렇지만 우리는 인공지능 시대를 두려워합니다. 인공합성물을 두려워합니다. 만약 그것이 주체할 수 없는 곳으로부터의 침략을 우려한 것이라면 이해할 수 있습니다. 그러나 두려움의 근원이 ‘잘 모르기 때문’이라면 걱정을 내려놓아도 좋을 것 같습니다. 우리는 (전문가들이 옆에 있던 시절에도) 원래 잘 몰랐으니까요.

인류는 위임하기 위해서 근거를 찾아다닙니다. 새로운 것을 시도하는 근간은 믿음이 있기 때문입니다. 인공지능이 미심쩍으신 분은 보이콧을 해도 좋습니다. 그러나 당신이 사용하지 않는다고 하여 기계가 만든 물건이 안 나오는 일은 없을 것 같습니다. 호기심은 언제나 금하려는 의지보다 강했기 때문입니다. 결국 인류가 이해할 수 없는 산출물은 언젠가 여러분 앞에 등장할 것입니다.

이제는 다른 것을 고민해야 할 때 일지도 모릅니다. 인공지능 시대의 산업은 기존의 산업 혁명 등장과는 형태가 다릅니다. 과거 인류의 모든 혁명에는 인구증가와 직업증가, 경제 증가가 함께 따라왔습니다. 농업에서 공업으로 패러다임이 바뀌었을 때, 사라진 직업보다 발생한 직업이 많았고, 인류는 줄기보다 증가했습니다.

그렇지만 정보 혁명(인공지능 시대)은 다릅니다. 작년 미국에선 신규 일자리수가 급격히 줄었습니다[주4]. 부와 인구는 증가세도 줄었지만 둘은 여전히 상승중입니다. 이것은 비둘기집의 원리에 의해 누군가는 일자리가 줄거나, 한 자리를 놓고 둘을 앉혀 급여가 반으로 쪼개어질 수도 있음을 시사합니다.

기본소득(Universal Basic Income)이 대두되는 것은 어쩌면 자연스러운 흐름일지 모릅니다. 기존의 체제가 부양하지 못하는 인구가 점점 늘어가고 있고, 이들의 가난을 세금으로 메꾸기에는 설득력이 떨어지기 때문입니다.

예상컨데 이번 세대는 생각보다 많이 가난해질 것 입니다. 우리는 과도기 인류입니다. 지금의 가난이 다음 세대에겐 아무일도 아닐지 몰라도, 우리는 이해관계자 입니다. 고민을 시작해야 합니다. 다음 체계 또는 다른 해결 방식에 대한 고민이 없이는 과도기 체제의 빈부격차를 감당하기 어려울 것 입니다. 이것은 갈수록 심해질 것이고, 부는 극소수에게 집중될 것 입니다.

이해하지 못하는 것을 사용하는 것은 (어쩌면) 큰 걱정이 아닐지도 모릅니다. 진짜 문제가 이미 턱밑까지 도달해 있을지도 모릅니다. 커즈와일의 인류 진화론은 장밋빛이지만, 과도기 인류의 미래가 장밋빛인가는 누구도 보장한 적이 없음을 이야기하고 싶습니다[주5].

이 모든게 음모론 아니냐고요? 네. 그럴지도 모르죠. 누가 알겠어요.

Fin.


[주1] 우리가 서로 불신하기 때문에 감시자 체제가 발생한 게 아니냐구요? 훌륭한 질문입니다. 만약 당신의 논리를 따른다면, 인류는 물물교환 시기부터 난항을 겪었을 것 이라고 주장하겠습니다. 감시는 물물 교환에 필요한 최소한의 과정에서 한 단계를 추가된 것이기 때문입니다. 우리는 새로운 관계를 신뢰하기 위해 물건을 잘 이해한다고 알려진 믿을만한 관계를 끌어들입니다.

[주2] <<ImageNet Classification with Deep Convolutional Networks>>, Alex Krizhevsky, 33,850회 인용

[주3] 해석하기 어려운 인공지능 신경망에 대한 내용은 <<What’s hidden in the hidden layers?>>에서 참조, DS Touretzky, 168회 인용

[주4] <<기계의 부상 – 오늘날 자동화는 왜 이전과 다른가>>, https://www.youtube.com/watch?v=WSKi8HfcxEk 또는, 잡레스 리커버리(Jobless Recovery, 고용이 증가하지 않는 경기 회복), https://en.wikipedia.org/wiki/Jobless_recovery 참조

[주5] 그는 “기계-인간이 문명에서 파생될 것이라고 보며, 이것을 여전히 인간이라 규정해야 한다” 또한 “기계-인간 문명이 다음 스탭의 진화다”고 말한다, 레이 커즈와일 <<
The Law of Accelerating Returns >>으로 부터 발췌, http://www.kurzweilai.net/the-law-of-accelerating-returns

표지에 사용한 그림은 인공지능이 만든 항공기 칸막이 분리망으로 인간이 만든 것보다 튼튼하고 재료는 1/3 이 사용됐다. <<The incredible inventions of intuitive AI>>에서 캡쳐, Ted Talks, https://www.ted.com/talks/maurice_conti_the_incredible_inventions_of_intuitive_ai#t-277090

광고
소고

장미라는 이름을 바꾸어 불러도 향기는 그대로 남는다

답글 남기기

아래 항목을 채우거나 오른쪽 아이콘 중 하나를 클릭하여 로그 인 하세요:

WordPress.com 로고

WordPress.com의 계정을 사용하여 댓글을 남깁니다. 로그아웃 /  변경 )

Google photo

Google의 계정을 사용하여 댓글을 남깁니다. 로그아웃 /  변경 )

Twitter 사진

Twitter의 계정을 사용하여 댓글을 남깁니다. 로그아웃 /  변경 )

Facebook 사진

Facebook의 계정을 사용하여 댓글을 남깁니다. 로그아웃 /  변경 )

%s에 연결하는 중