6호 - Product-ability

『펨텍톡(FEM TECH TALK)』은 기술 문화를 다양한 관점에서 살펴보고 이를 현재의 이슈와 연결해 보는 기술 비평 진(Zine)을 지향합니다.

이번 호의 주제어는 ‘Product-ability’입니다. 생산성(productivity) 또는 생산력은 투입된 자원 대비 부가가치의 산출량을 뜻하는 개념이지만, 흔히 사용하는 각종 애플리케이션도 같은 이름 아래 묶여 사용자가 더 효율적으로 기능하게 해줍니다. 이 능률의 성질을 살펴보면 생산성이란 단어는 상품력으로 대체되어도 무리가 없을 듯합니다. 이어지는 글들은 만물이 효용으로 일축되는 이 착취적인 질서에 맞서는 자세를 탐색하고 있습니다.

뜻밖에도 시금치 이야기로 시작하는 김화용의 글은 구체적인 생산의 현장들로 독자들을 이끌어 방방곡곡을 비행하듯 누비며 시간과 공간의 값이 어떻게 매겨지고 있는지 되짚습니다. 셈에 따라 밀려나는 이들이 누구인지 질문하고, 미래를 다시 쓰기를 분명하게 제안합니다. 이 쉽지 않은 도전을 마주하는 이들의 양상은 다양합니다. 뭍과 물결이라는 배경이 다시 등장하는 Agnieszka Wodzińska의 글은 틱톡에서 번진 오피스 세이렌이라는 시각적 밈에 주목하고, 이들의 노래를 사무실과 컴퓨터가 강요하는 덧없는 노동을 향한 미학적 항의로 풀이합니다.

이번 호 편집자 전유진의 기술 에세이는 대량 생산되는 매끈한 공산품이 가장하는 내구성과 효용이란 얼마나 헐거운 개념인지를 환기합니다. 생활 속 심상을 공학 개념과 결합하여 소개해 온 저자는 상품의 수명이라는 속임수를 돌파하는 독특한 회로를 소개합니다. 이렇듯 기술이라는 단어에 내재된 경제성은 대개 좀 더 교묘합니다. ‘누스코프 선언(The Nooscope Manifested)’으로 알려져 있는 Matteo Pasquinelli의 미번역된 저서를 상세히 해설한 고아침의 리뷰는, 알고리즘과 AI 문화에 대한 고찰을 돕는 데에 충분한 안내서가 될 것입니다.

매호 소개하는 CCC의 이번 챕터 또한 ‘Computers’입니다. 컴퓨터가 가전으로 자리 잡은 시점으로부터 그리 머지않은 과거에, 이 말은 본디 계산을 하는 사람을 가리켰습니다. 더 빠르고 저렴한 방식을 추구하며 혁신을 거듭한 기계 컴퓨터 각각은 어떤 결말을 맞고 있는지 돌아보기를 권합니다. 마지막 순서인 십자말풀이 ‘스피드 업’에서는 모두를 추동하고 좌절시키는 한편 점차 가속되는 노동의 트랙 위에서 어느새 각자 익숙해졌을 단어들을 담았습니다. 여느 때보다 조금은 수월한 문제 풀이가 되리라 예상하니 독자 여러분의 맞장구가 있기를 기대해 봅니다.

재작년 창간된 『펨텍톡』은 이번 호를 끝으로 잠시 휴식을 맞습니다. 기술과 효율은 때로 같은 뜻으로 쓰일 만큼 가까운 단어입니다. 이들의 연계를 돌파할 기술과 저항은 언제나 편집부의 관심사였습니다. 펨텍톡의 여정 중 이따금 전해져온 독자 여러분의 감상은 편집부에게 즐거운 원동력이었습니다. 다시 인사드릴 날을 기약하며, 독자 여러분의 너른 관심과 참여를 기다립니다.

목차

1. 그 누구도 뒤에 남겨두고 가지 않을 것이다 - 김화용

2. 노트북을 빠뜨려라 : 오피스 세이렌, 재택근무, 거부의 미학 - Agnieszka Wodzińska

3. (에세이) 편리의 역설 - 전유진

4. (리뷰) 알고리즘은 노동을 모방한다: 『주인의 눈: 인공지능의 사회사』에 관한 메모 - 고아침

5. (연재) Critically Conscious Computing : Computers - Amy J. Ko

6. (십자말풀이) 스피드 업

4

알고리즘은 노동을 모방한다: 『주인의 눈: 인공지능의 사회사』에 관한 메모¹

고아침

모든 노동은 논리적이다

AI 분야에는 ‘모라벡의 역설(Moravec’s paradox)’이라는 표현이 있다. 인간에게 쉬워 보이는 일(걸어 다니거나 물건을 집어 들고 내려놓기 등)은 자동화하기 어렵고, 통상적 관점에서 어려워 보이는 일(바둑, 글쓰기 등)이 비교적 자동화하기 쉬운 현상을 가리킨다. 자율주행을 생각해 보자. 2017년이면 완전자율주행을 구현하겠노라고 공언하던 Elon Musk는 수차례 자신의 예측을 수정한 끝에 ‘범용 자율주행은 어려운 문제’라고 한 발 물러서야 했다.

트럭 운전기사를 육체노동자가 아닌 지식노동자로 분류하는 사람은 드물 것이다. 하지만 운전 노동을 자동화하려는 자율주행 연구는 이같은 육체노동이 순전히 육체적이지 않고, 인지적이고 협력적인 속성 또한 갖는다는 교훈을 남겼다. 운전은 신체적 기술과 인지 능력뿐만 아니라 습관과 훈련으로 형성되는 문제해결 속도를 요하며, 지역마다 다른 법적 요건과 문화적 규범을 준수해야 하는 사회적 행위다. Pasquinelli는 이같은 운전의 ‘재발견’을 두고 AI 연구 덕분에 트럭 운전기사가 지식인 대열에 올랐다며, 육체노동을 자동화하려다 우리가 얻게 된 씁쓸한 정치적 교훈이라 말한다. 육체노동에도 고도의 지능이 필요하다. 나아가, 모든 노동은 언제나 인지적 노동이었다.

자율주행 차량을 구현하려는 기획에는 여러 문제가 있지만, 적어도 그 기획 덕에 한 가지 진실이 드러났다. 운전은 단지 ‘기계적’인 과업이 아니다. 운전이라는 능력이 알고리즘 모델로 번역될 수 있다면, 그것은 운전이 논리적 활동이기 때문이다. 궁극적으로, 모든 노동은 논리적 노동이다(All labour is logic).

사회적 알고리즘: AI가 모방하는 것은 뇌가 아니라 노동이다

AI란 무엇인가? 지배적인 시각에 따르면 AI는 ‘지능이라는 문제에 대한 답을 찾기’ 위한 여정이다. 그 해답은 이른바 비밀스러운 정신의 작동 방식이나 복잡한 신경망과 같은 뇌의 생리학에서 찾게 될지어다. 나는 반대로, AI의 내부 코드는 생물학적 지능의 모방을 통해서가 아니라 노동과 사회관계로서의 지능에 의해 구성된다고 이 책에서 주장한다. — 『주인의 눈』(Matteo Pasquinelli)

일상적으로 우리가 AI(인공지능)를 이야기할 때, AI는 일종의 마법 상자처럼 간주된다. 특히 요즘의 생성형 AI 시스템이 그렇다. 명령어를 적어 넣으면 이미지, 텍스트 등 결과물이 짠 튀어나오는 이 도구는 컴퓨터 과학자, 공학자들이 인간 지능을 모방하여 만들어낸 것으로 흔히 인식된다. Matteo Pasquinelli는 『주인의 눈』에서 이런 관점의 오류를 지적한다. AI는 흔히 생각하는 것처럼 뇌나 마음의 작동을 본뜬 것이 아니라, 아주 사회적인 과정을 자동화한 결과다.

AI는 개인적·집단적 행동을 통해 빅데이터 형식으로 표출된 지식을 포획, 알고리즘의 형식으로 표현하고 다양한 작업을 자동화하는 기획이다. AI가 담고 있는 것은 ‘지능’보다 ‘집단 지성’에 가깝고, 그런 의미에서 Pasquinelli는 AI를 ‘우리의 평범함(mediocrity)을 보여주는 강력한 사진’이라 표현한다. 방대한 데이터로 훈련시켜야 AI를 구현할 수 있다는 걸 고려하면 AI가 생물학적 지능보다 사회적 지식에 기반한다는 점은 얼핏 자명한 사실 같지만, 이는 좀처럼 드러나지 않는다. 오히려 AI는 흔히 인간 지능에 대한 가치중립적 탐구나 보편적인 수학적 성취로 제시된다. Pasquinelli가 이 책에서 하는 작업은 이데올로기적으로 작동하는 이러한 인식에 대항해, AI를 지방화(provincialize)²하는 것 즉 다양한 문명과 문화 기술의 역사 속에 AI를 위치시키는 것이다. ‘인공지능’이라는 표현에 결부된 인간성, 의인화의 색안경을 벗겨내기 위해 ‘통계 학습’ 등 다른 표현으로 교체할 필요성도 제기한다.

아그니짜야나는 약 3천 년 전인 인도 베다 시대부터 거행되어 오고 있는 힌두교 의식으로, 현존하는 가장 오래된 종교 의례다. 신자들은 도면에 따라 정해진 수의 벽돌로 복잡한 불의 제단을 쌓아 올린다. 단계별 지침은 구전 만트라로 전수되었는데 이 만트라는 벽돌을 옮기는 반복적 행동의 수행뿐만 아니라 기하학적 형상을 재현하기 위해 미분방정식과 같은 기법을 담고 있었다. 종교의식으로 구현된 정교한 알고리즘인 셈이다. Pasquinelli는 아그니짜야나를 ‘사회적 알고리즘’의 사례로 제시하며, 바로 이 사회적 알고리즘의 역사 속에 AI의 자리를 부여한다.

Pasquinelli는 ‘알고리즘’ 개념에 흔히 결부되는 보편성을 해체하고 역사와 문화적 맥락에 기반한 알고리즘 개념을 제시한다. 컴퓨터 과학에서 알고리즘은 시작과 끝, 입력과 출력을 갖는 단계별 절차이자 입력되는 데이터의 내용과는 독립적으로 작동하는 과정으로 정의되곤 한다. 이러한 기술적 정의가 위장하는 ‘중립성’ 대신, Pasquinelli는 알고리즘의 경제적·사회적 근원을 감안하는 유물론적 비평을 요청하고 이를 통해 알고리즘을 정치적으로 독해하고자 한다. 알고리즘은 서구 컴퓨터 과학에 고유한 것도 아니고, 온전히 독립적인 정신적 구성물도 아니다. 알고리즘은 마음과 도구의 상호작용을 통해 세계를 변화시키고, 주로 경제적·사회적 문제를 해결하고자 등장했다. 태초의 알고리즘은 노동이다.

자동화는 분업으로부터 태어난다

『주인의 눈』의 부제는 “인공지능의 사회사(A Social History of Artificial Intelligence)”다. 이 책의 핵심 명제는 오늘날 논의되는 컴퓨터 알고리즘을 구성하는 속성이나 그 설계 방식이 바로 노동 분업에 의존한다는 데 있다. 산업기계가 노동 분업을 모방하여 발명되었듯, 이른바 ‘지적’인 기계 역시 노동의 집단적 분업을 모방하여 만들어졌다. 딥러닝 등 최근의 AI 알고리즘은 빅데이터와 디지털 네트워크라는 사회관계와 이 맥락에서 재편된 노동 형태를 바탕으로 대두되었다. 알고리즘을 구축하는 과정에서 디지털 플랫폼이 매개하는 무수한 미시적 노동이 동원되고, 그 집단적 데이터가 모인 사회적 결과물이 알고리즘이다. 즉 알고리즘은 사회관계가 물질화하고 자동화한 형태로 이해할 수 있다. 기술 발전 방식에 관한 이러한 인식을 Pasquinelli는 “노동 자동화론”³이라 부른다.

18세기 프랑스 지적조사를 위해 방대한 분량의 로그표를 계산하는 과업을 맡게 된 수학자 Gaspard de Prony는 Adam Smith로부터 영감을 받아 로그값 계산에 분업을 적용했다. 복잡한 계산을 세 단계로 쪼개어, 관리를 맡은 수학자들이 계산 기법과 대상을 지정하면 수십 명의 계산원이 단순 연산을 수행하는 사회적 알고리즘이었다. 몇 년 뒤 Charles Babbage는 차분기관 설계에 이와 비슷한 분업 방식을 적용, 현대 컴퓨터의 원형을 개발한다. 생산관계의 구조(분업)가 생산수단(기계)의 설계 방식 자체에 기입된 사례다. 차분기관처럼, 기계의 설계가 기존의 노동 분업 도식을 모방하고 대체한다는 것이 Babbage의 통찰(‘노동 기계론’)이다.

‘지능 기계’가 분업의 설계도를 따라 만들어진다는 것은 (식민주의 세계관과 산업화 시기 계급 분화를 물려받은) 컴퓨터 과학의 설립 과정에서도 확인된다. Alan Turing이 구상한 ‘자동 계산 기관’은 ‘주인’과 ‘하인’ 그리고 ‘계집’의 역할을 구분하는 위계를 상정하는데, 주인은 명령을 내리고 하인은 계산을 기계적으로 수행하는 팔다리의 역할을 맡으며 계집은 값을 읽고 펀치카드에 기입하는 감각기관의 역할을 맡는다.

Turing의 비전에서 이 시스템은 궁극적으로 직접 필요한 명령을 결정하고 계산을 수행하게끔 발전하여 주인과 하인, 계집 모두를 대체하게 된다. 하지만 오늘날 AI 시스템 구축에 있어 데이터 노동을 제공하는 남반구 ‘유령 노동자’의 존재가 필수 불가결하다는 점은 Turing의 비전의 오류를 드러낸다. 역설적으로 이 구도에서 현재 AI 기술로 인해 대체되고 있는 것은 주인 즉 관리직 쪽이다. 하인의 노동은 언제나 필요할 것이되, 그 역할은 시야에서 지워진다.⁴ 완전한 자동화, 완전한 인공지능의 꿈은 중립적인 비전이 아니다. 이 비전에서 자유롭고 자율적인 (백인) 주체를 가능케 하는 것은 노예, 프롤레타리아 계급, 여성과 이들의 보이지 않는 노동이다.

Pasquinelli는 수학적 성취의 연속으로 묘사되는 기술 결정론적인 AI의 역사를 배격한다. ‘지능’을 자처하며 실제로는 불평등, 젠더·인종 편향, 새로운 지식 추출주의를 강화하는 알고리즘을 비판적으로 검토하는 비판적 AI 연구의 연장선에 이 책을 놓는다. 그러면서도 AI의 사회적 영향을 다루는 기존의 비판적 연구 경향의 한계를 지적하는데, AI가 추출하고 상품화하는 바로 그 ‘지능’이 집단지성과 노동에서 온다는 점을 상대적으로 등한시한다는 것이다.⁵ 이런 맹점을 지닌 역사 서술에서는 기술이 국가기관과 기술기업에 의해 만들어져 ‘위로부터’ 주어지는, 특권적 지위를 누리게 된다. 이에 반해 Pasquinelli는 AI가 누리는, 집단지성의 유일한 ‘주인’이라는 패권적 지위에 도전할 것을 촉구하며 다음을 주장한다.

1. 사회적 지능은 AI 구축에 있어 중심적 역할을 수행한다.
2. 사회적 지능은 AI 알고리즘의 설계 방식 자체를 좌우한다.

측정하면 대체할 수 있다: 노동의 측정과 분업의 양극화

Babbage는 노동에 관한 두 가지 중요한 원리를 포착하였는데, 그중 하나는 위의 노동 기계론이다. 다른 하나인 노동 계산의 원리(Babbage의 원리)는 작업을 작은 규모로 분업함으로써 생산에 필요한 노동의 정확한 양을 측정하고 구매할 수 있다는 내용이다. 고임금 노동자에게는 숙련 작업만 할당하고, 비숙련 작업은 저임금 노동자에게 할당하여 비용을 절감하는 원리다. 여기서 Babbage는 분업이 기계를 설계하는 원칙일 뿐 아니라 생산 비용을 측정하기 위해서도 중요하다는 사실에 주목했다. 이 두 원리에 의거해 산업기계는 단지 노동을 증강시키는 수단일 뿐 아니라 노동을 측정하는 도구이자 기준 역할을 한다. 마찬가지로 컴퓨터 역시 정신노동을 자동화하는 수단인 동시에 그 비용을 측정하는 기준으로서 등장한다.

Pasquinelli는 산업화의 등장에 관한 Gilbert Simondon의 논의를 빌어 다음을 지적한다. 산업기계는 에너지원(原)과 정보원의 분화에 따라 태어났다. 손 도구를 사용하는 장인의 동작에서는 에너지와 정보가 하나로 합쳐져 있지만, 산업기계에서는 자연으로부터 온 에너지를 공장 분업의 형식으로 통제한다. 이러한 분화는 에너지와 정보의 추상화를 용이하게 만들고, 이때 추상적이라는 말은 계산하기 쉽고 따라서 분할, 통제, 최적화하기 적합하다는 뜻을 갖는다.

산업화 시대에는 분업을 관리하는 것이 공장장(master, 주인)의 일이었다. 분업과 관리감독은 산업기계 이전에도 작업장, 식민지 노동 현장 등에서 발달되어 오며, 자본주의적 노동 착취의 기반을 다졌다. 쪼개서 관리되는 것은 작업만이 아니었다. 신체 활동 또한 합리주의적 세계관에 기반해 기계적으로 분석하고 마침내 기계로 대체되었는데, 대표적으로 테일러주의가 이와 같은 접근을 극대화했다. 노동자의 동작 하나하나를 감시하기 위해 카메라 시스템을 도입하고 관리자는 일종의 영화감독이 되어 생산성을 측정하고 최적화하였다. 손과 도구의 움직임 패턴, 노동자의 미묘한 노하우는 이같은 분석을 거쳐 점차 기계장치로 변환되었다. 산업기계의 발명은 그러므로 어떤 천재 공학자 개인보다도, 집단적인 노동의 도식을 모방한 덕에 이루어진 것이다.

분업과 기계화는 사회 전방위적으로 이루어지는 과정이다. Karl Marx의 정치경제 분석에서도 이미 ‘주인’은 특정 개인이 아니라 “과학, 거대한 자연의 힘, 기계 시스템에 체화된 사회적 노동”으로 구성된 권력으로 상정된다. 산업화 시기의 분업 이후 ‘주인의 눈’은 통계학, 전 세계적 자본의 운용 등 새로운 통제 기술로 이어진다. 21세기 들어 노동 관리 기법은 사회 전체를 ‘디지털 공장’으로 만들었으며, 이는 검색엔진, 온라인 지도, 메신저, SNS, 플랫폼 노동, 모빌리티, 나아가 이 모든 것을 자동화하는 AI 알고리즘의 형태를 띤다. AI는 디지털 사회를 한층 중앙집권화하며 사회 분업을 조장하는 과정이다.

19세기 정치경제와 오늘날의 맥락에서 중요한 차이점은 달라진 노동의 형태다. 지금은 사회관계 자체가 생산성을 갖는 시대다. 플랫폼을 통해 누적되는 데이터와 AI 알고리즘은 우리 움직임을 추적하여 사회관계의 스냅샷을 만들어내고, 여기에서 가치가 만들어진다. 이때 AI는 ‘주인의 눈’이 되어, (소셜) 정보 인프라를 해석해 내는 역할을 한다. 산업화 시대에 걸맞은 격언이 ‘체계화(organise)하여 기계화(mechanise)하라’라면, 오늘날은 ‘수식화(formulise)하여 자동화(automate)하라’가 될 수 있을 것이다.

산업화 시대의 기계 도입은 기계를 조작하는 것 외에 별다른 역할이 없는 노동자를 만들어냈다. 이른바 숙련 노동과 비숙련 노동으로의 분화다. 현재의 AI도 마찬가지로, 자동화하기 쉬운 노동자와 자동화하기 어려운 노동자의 양극화를 만들어낸다. 빅테크 기업의 대량 해고 사태에서도 확인되는 현상이다. 다만 이때 노동자를 통째로 대체한다기보다는, 일상에서의 작은 과업(microtask) 예컨대 짧은 텍스트를 번역하거나 하나의 도안을 만들어내는 일 등을 대체하게 된다. 또 앞서 언급했듯이 AI는 노동뿐만 아니라 관리를 자동화한다. 즉 관리직을 대체하고, 근로자는 긱 워커 내지 불안정 노동자의 형태로 늘어난다. 노동을 조직화하는 중앙화 장치(apparatus)에 종속된 우리는 모두 AI의 보철(prosthesis)이 되어 간다. 결과적으로 노동 시장에 대한 AI의 영향은 노동자의 완전한 대체가 아니라 작은 과업의 대체라는 형식으로 이루어지고, 이로 인해 우리는 더 많은 성과를 요구받고 더 많이 일하게 되리라는 것이 Pasquinelli의 전망이다.

사이버네틱스와 연결주의 AI의 역사

『주인의 눈』은 노동 - 규칙(논리) - 자동화(신기술)의 관계를 다룬다. 노동 과정 → 논리 절차 → 기술 인공물로의 이행은 매끄럽게 이루어지는 경우가 드물며, 비논리와 실험으로 점철되어 있다. 책 제목의 표현 “주인의 눈”은 정치경제적 비유일 뿐만 아니라 기술적 비유이기도 한데, 현재 AI 패러다임인 딥러닝의 기원이 (‘논리’나 ‘인지’가 아니라) ‘인식’ 노동을 자동화하려는 시도, 즉 시각 패턴 인식에서 출발했다는 점을 가리킨다.

딥러닝의 기원은 Frank Rosenblatt이 1957년 발명한 ‘퍼셉트론’으로 거슬러 올라간다. 흔히 AI 연구 역사의 출발점으로 1956년 다트머스 워크숍을 언급하지만 해당 학술대회는 이른바 기호주의 AI에 치중했고, 퍼셉트론과 같은 연결주의 AI는 오히려 배척했다.⁶ 전자가 연역 논리에 기반해 세계를 재현하고자 하는 접근이라면, 후자는 귀납 논리에 기반해 세계의 경험을 근사치 모형으로 구현하고자 하는 접근이다. Pasquinelli는 후자의 역사, 특히 1940-60년대 미국 사이버네틱스 동인 집단에서 연결주의가 부상한 과정에 주목한다.

사이버네틱스는 기존 사회의 기술적 구성 방식을 뇌와 자연에 투사했다. 예컨대 전신망이 19세기에 신경중추의 비유로서 활용되다가 20세기에는 신경망 및 튜링머신을 형식화하는 데 사용된 것처럼 말이다. 사이버네틱스는 모든 유기체가 정보를 매개로 하여 환경과 피드백 관계를 맺으며 내적 자율규제(자기제어)라는 기본 행동 기제를 공유한다고 주장했다. Pasquinelli는 이처럼 기계와 유기체가 같은 방식으로 조직화한다는 명제를 비판한다. 자연 질서의 조직화 개념을 기술 질서에 이식하거나 그 반대 방향으로 적용하는 것은 불가능할 뿐만 아니라, 기계를 유기체처럼 설계할 수 있다는 접근이 오히려 기술 시스템의 사회적 기원(앞서 언급한 사회관계의 모방)을 은폐한다는 것이다.

알고리즘은 자연이 아니라 사회 질서에 속한다. Pasquinelli의 중요한 지적 하나는 알고리즘이 (자원, 시간, 공간 등을 절약하도록 요구하는) 경제 논리를 따른다는 것이다. 기계라는 개념의 핵심에 경제 논리가 있는 것과 마찬가지다. 이 내재적 경제 논리는 예컨대 컴퓨터 과학의 알고리즘 정의에서는 누락되지만 효율적으로 문제를 해결해야 하는 알고리즘에 있어 자원 절약은 매우 중요한 속성이며 이는 사회·경제적 작용과 밀접하다.

신자유주의 경제학의 대표적 인물인 Friedrich Hayek는 시장의 자율적이고 즉흥적 질서를 강조하고, 국가의 체계적인 경제 설계에 반대하는 접근을 내세웠다. Pasquinelli는 이같은 신자유주의 경제이론과 Hayek의 저술 『감각적 질서』에 드러난 연결주의 마음이론이 20세기 중반 사이버네틱스 분야와 상호작용한 과정을 묘사하며, 냉전 이후 시기 사상에서 마음-시장-기계를 각각 이론화하는 데 경제적 합리성 개념이 미친 영향을 그려낸다. (Hayek는 연결주의 마음을 시장과 끊임없이 거래하는 주식 자본에 비유한다.) 신경생리학, 심리학, 컴퓨터과학, 경제학을 오가는 Hayek의 연결주의는 케인스주의식 국가개입이나 사회주의 계획경제의 대항마로서 등장했는데, 당시 소련의 군사적 위협에 맞서기 위해 설계된 분산제어 통신망인 아파넷(ARPANET, 인터넷의 전신)과 흡사한 이 구도에서 기술과 경제의 또 다른 관계성의 층위를 읽을 수 있다.⁷

Rosenblatt이 발명한 퍼셉트론(인공신경망 알고리즘)은 이미지 인식 문제를 해결하기 위해 고안되었다. 흔히 패턴 인식이라고 표현하는 이 문제는 (육체노동이나 정신노동과도 다른) 시각 노동을 자동화하는 기획으로 이해할 수 있다. 다시 말해 ‘이미지를 인식한다’라는 지적 과업의 해결책은, 이미지를 각 픽셀에 해당하는 수치, 나아가 컴퓨터로 연산 가능한 이진수로 변환하여 적응형 알고리즘을 적용하는 방식으로 제시된다. 지능의 문제를 추상적인 정보처리 작업으로 환원하는 이같은 접근은 챗지피티와 같은 오늘날의 AI 시스템까지 이어진다.

인공신경망은 생물학적 신경망을 모사했다는 주장과 달리 실제 수학적 구현 방식에 있어서는 다차원 분석에 주로 의존했는데, 다차원 분석은 19세기 말 심리측정학·우생학 분야에서 만들어진 통계 기법이다. 이 관계에 주목한 Pasquinelli는 퍼셉트론의 발명을, 이미지 인식이라는 인간의 지적 속성을 자동화하고 측정하기 위한 방식으로 통계 심리학의 기법이 도입되는 순간으로 규정한다.

한때 서구에서 영향력을 발휘하던 골상학(두개골을 측정하여 지능, 성격 등 인간 정신의 속성을 점치고자 한 유사 과학)이 실패한 지점에서, 그 뒤를 이어 심리측정학이 등장했다. 심리측정학 역시 인간 지능을 측정할 수 있다고 보았고, 다만 두개골의 크기나 모양 대신 설문 등 사회과학적 기법을 적용하였다. 심리측정학은 인간 지능이나 사회를 지나치게 편협하고 환원주의적으로 규정한다는 비판을 꾸준히 받아왔는데, 초기 심리측정학의 대표적 산출물로는 IQ 검사가 있다.

심리측정학에서 출발한 통계 기법이 1950년대 컴퓨터 과학에 이식되는 과정은 최초의 인공신경망 기술이 자동화한 대상이 논리적 사유가 아니라, 인지 활동을 수치화하여 지능을 측정하고 그에 따라 사회적 위계를 조직화하고자 했던 통계 기법이란 점을 보여준다. 이렇게 보았을 때 오늘날의 AI 기술은 인간의 정신과 지능에 대한 편협한 인식이자 근본적으로 인종주의적, 우생학적인 기획에 기반하고 있다.⁸ 그러나 이러한 역사적 맥락은 (인간 정신의 풍부한 맥락이 IQ로의 환원 과정에서 소거되는 것처럼) 알고리즘의 작용을 거치며 소거되고, 오히려 알고리즘은 자연법칙과도 같은 수학적 기법의 발견을 통해 구현되는 중립적 도구처럼 제시된다.

AI의 ‘주인’은 누구인가?

AI는 노동 자동화를 추구할 뿐만 아니라, 자동화를 통해 육체·정신 노동의 사회적 위계를 제시한다. AI 시스템이 재생산하는 각종 편향은 기술적 결함이라기보다는 자본주의 맥락에서 자동화가 갖는 내재적 차별적 속성이다. AI 편향은 사회적 억압을 증폭할 뿐만 아니라, 노동과 지식의 위계를 도입하여 숙련·비숙련 노동의 양극화를 심화한다.

빅데이터와 그것을 해석해 내는 AI 알고리즘은 문화에 대한 사적 독점화 현상으로 이해할 수 있다. 사회적으로 발현된 우리의 심신, 즉 집단 지성은 AI를 통해 기계화하고 독점 통제화한다. 이 책에서 제시하는 노동 자동화론은 이러한 기술적 독점을 분석하는 원리인 동시에, 새로운 지식생산의 형식과 발명 문화를 추구하는 사회적 자율성의 실천적 원리다.

집단 지성의 물질화이자 노동의 자동화로서 AI를 규정하는 Pasquinelli의 노동 자동화론이 알고리즘 층위에 집중한다면, 데이터 층위에서 정치경제적 비판을 제기해 온 기존의 논의와 이 책을 함께 독해해 보아도 좋을 것 같다. 예컨대 Mathias Risse는 『AI 시대의 정치이론』⁹에서 Rawls의 공적 이성 개념을 활용하여 정치철학을 AI와 빅데이터 환경에 맞게 갱신하고자 하며 이 과정에서 데이터를 둘러싼 ‘인식적 권리’를 내세운다. 특히 집단 인식 객체 즉 데이터 패턴(집단에 대한 앎)에 기여함으로써 집단적으로 드러나는 행위자가 가져야 할 권리를 논의하는데, 이는 Pasquinelli가 언급하듯 사회적 관계 자체가 가치를 생산하는 플랫폼 자본주의와 그 관계의 독점 통제화로서의 AI라는 구도에서 노동자-시민의 대응에 관한 시사점을 던진다.

이 글을 쓰는 2025년 1월 말, 중국 스타트업 딥시크가 오픈에이아이 등 미국 기업의 AI 모델과 유사한 성능을 보이는 모델을 수십-수백 배 저렴한 비용으로 구현했다고 알려지며 증시에서 엔비디아가 17% 폭락, 시총 5,890억 달러가 사라졌다. 이 사건을 놓고 미-중 기술 군비 경쟁이나 생성형 AI 산업의 향방, 딥시크 창업자 및 핵심 기술자의 배경 스토리, 오픈에이아이의 Sam Altman 측 입장 등에 관해 호사가들의 분석과 전망이 쏟아지고 있지만, 기업과 국가 간 패권 경쟁이나 공학자 개인의 서사에 대한 관심 속에서 AI 기술의 근원적 작용에 관한 논의는 찾아보기 힘들다. 알고리즘의 사회성에 관한 Pasquinelli의 분석·개입과 같은 작업이 시급히 요청되는 시점이다.

글쓴이 : 고아침
인공지능을 둘러싼 기술정치와 윤리, 데이터 정의, 비판적 기술 실천에 관심을 갖고, 디지털 기술에 대한 선망과 환멸 사이에서 양가성을 조율하며 시민으로 잘 살고자 한다. ｢🦜AI 윤리 레터｣(ai-ethics.kr)에서 운영진 겸 필진을, 사회적협동조합 빠띠(parti.coop)에서 공익데이터 부문 활동가를 맡고 있다. https://scalarvectortensor.net/