본 펠로우십 프로젝트는 인공지능 기술의 발전과 사회적 적용이라는 배경을 염두에 두고, 시민 기술 리터러시를 증진시키는 것을 목표로 자료 수집, 인터뷰 등을 통해 차후의 커뮤니티 활동(뉴스레터 발행, 교육 등)을 준비하는 작업이었다. 여기서 제안되는 활동의 기저에는 인공지능 등 기술이 어떻게 활용되는지뿐만 아니라 어떻게, 누구에 의해서 만들어지고 정의되는지에 관한 관심이 깔려있다. 학문 분과로 따지면 과학기술학적 사고에 바탕을 둔 접근이다. 과학기술학적 접근이 제안하는 중요한 관점의 전환은, 과학기술의 현재나 역사를 당연하거나 자연스럽게 받아들이지 않고 의문시하는 데 있다. 즉 현재의 과학기술이 필연적이고 객관적인 진보와 발전의 결과로 그렇게 된 것이 아니라, 정치역사적 맥락과 물질적 조건 안에서 여러 우연이 작용하여 만들어진 결과라는 인식이다. 이러한 관점은 과학기술학의 슬로건이라고 불리기도 하는 '다를 수도 있다'(It could be otherwise)라는 표현으로 요약된다. (Wajcman 150. "Feminist theories of technology", Cambridge Journal of Economics 2010, 34, 143–152)
여기서 다를 수도 있다는 표현의 대상이 되는 것은 인공지능 기술의 '불가피성'을 피력하는 일련의 접근들이다. 기술 업계, 각국 정부, 언론 등에 힘입어 적극적으로 성장하고 있는 인공지능과 데이터 기술은 흔히 '혁신'이라는 이름 아래 시민과 분야 전문가로부터 사기업으로의 권력 이동을 감추곤 한다. 이 과정에서 플랫폼 노동, 감시 경제, 자동화된 (즉 민간 영역에 외주를 준) 사법 보조 시스템, 금융/복지/교육 등 사회적 영역에서의 불투명한 의사결정 체제 등 다양한 방식으로 시민의 주체성이 침해될 위험이 있다. 나아가 시민의 사회적 참여 능력을 제한하고, 대신 소비자 내지 기술의 수동적 대상으로서의 역할만 더욱 강조될 우려가 있다.
위의 과정에 일조하는 것으로 AI 기술의 성능과 적용 분야가 급증하면서 흔히 접할 수 있게 된, 인공지능이 곧 미래이고 우리는 여기에 대비해야 한다는 서사를 꼽을 수 있다. 대중적으로 접하기 쉬운 서사에서는 마치 사회영역과 기술영역이 별개의 것이고, 사회가 기술 발전이라는 불가피한 힘에 의해 어쩔 수 없이 변화하는 것처럼 묘사되곤 한다. 그러나 이는 인과관계를 호도하는 프레이밍이다. 기술의 사용과 발전은 정치적이고 사회적인 활동이다. 인공지능이 큰 사회적 파급력을 지닌 기술인 것은 분명하지만, 이러한 기술 진보가 마치 자연의 순리를 따르듯이 거스를 수 없는 방식으로 진행되는 것은 아니다. 그런 의미에서 성장과 적응 중심의 패러다임은, 특정한 방향의 변화를 불가피하고 유일한 변화로 프레이밍하는 자본중심 성장주의의 함정이라고 볼 수 있다. 본 프로젝트는 현재의 코스와 다른 미래를 상상하고, 구체화하기 위한 전략을 수립하고자 한다.
기술 교육 또한 정치적, 사회적 맥락을 고려해야 하는 것은 마찬가지다. 예를 들어 2019년 말 대한민국 정부에서 발표한 <인공지능 국가전략>은 국제 갈등, 경기 하강, 인구 고령화, 식량 부족 등 경제사회적 문제를 해결하기 위한 열쇠로 인공지능 기술을 제시하고 있다. (대한민국 정부 6. 2019. 12. 17, http://www.korea.kr/news/pressReleaseView.do?newsId=156366736) 그와 함께 "세계 최고의 AI 인재 양성 및 전 국민 AI 교육"을 과제 삼아 소프트웨어 및 인공지능 중심으로 학교 교육체계를 개편하여 "모든 국민이 디지털 리터러시를 함양"할 수 있도록 한다는 접근을 제안하고 있다. 윤리와 사회복지 등의 이슈가 언급되기는 하지만 주된 방점은 "AI 반도체 경쟁력 세계 1위"나 "전 국민 AI교육체계 구축" 등의 목표에 찍혀 있다. 한편 네이버가 커넥트재단과 함께 운영하는 온라인 강좌 플랫폼에서 소프트웨어 개발과 인공지능 실습 강좌를 제공하는 등 산업계에서도 AI 인력 양성에 적극적인 모습을 볼 수 있다.
하지만 "기업이 수익을 낼 수 있도록 지원"하고 "인공지능 활용, 일등 국민이 될 것"을 목표로 하는 기술 교육은 어떤 미래를 전제로 한 계획이며, 어떤 종류의 상상력을 허락하는가? (<대통령 인공지능 기본구상>) 임태훈은 <무엇을 배울 것인가?>에서 다음과 같이 지적한다. "전통적 문자해독 능력에서 디지털 리터러시에 이르기까지, 산업 생태계의 격변기마다 국가적 기획으로 새로운 앎과 배움의 과제가 장려 또는 강제됐다. '리터러시(literacy)'는 언어를 매개로 앎과 무지를 가늠하는 공통 범주이면서, 국가와 자본이 노동자에게 주문하는 인지노동의 목록이기도 하다. [중략] 지금 우리 사회는 어린 세대에게 미래의 일자리를 미끼로 디지털 리터리시[sic] 학습을 강요하고 있다. [중략] 하지만 이렇게 배우고 익힌 디지털 리터러시는 정보통신 산업에 회수될 인적 자원 수준으로 제한될 가능성이 다분하다. [중략] 오늘날의 디지털 테크놀로지는 디지털 신자유주의의 수익 모델에 철저히 구속돼 있다." (임태훈, <디지털 중세기를 탈출하기 - 디지털 비평>에서 발췌. 이영준, 임태훈, 홍성욱. 시민을 위한 테크놀로지 가이드 - 더 나은 미래로 향하는 기술비평. 서울: 반비, 2017. 91-93)
다시 말해 산업 증진을 전제로 하는 기술 교육은 노동력 양성의 틀 안에 있으며, 우리가 어떤 기술을 만들고 사용해야 할지에 관한 비판적 시각을 담보해주기 어렵다. 아울러 앞서의 지적을 반복하자면, "AI로 인한 문명사적 변화" 같은 표현은 불확실한 기술사의 흐름을, 마치 불가피하며 거대한 흐름인 것처럼 포장하는 경향이 있다. 특정하며 단일한 미래에 대비하는 것만큼이나 중요한, 혹은 그것보다 더 중요한 것은 다양한 미래를 상상하는 일이며 이들 미래를 현실로 만들기 위한 전략을 수립하기 위해 노력하는 것이다.
한편 AI 기술을 비판적으로 생각하고자 하는 담론이 없는 것은 아니지만, 대중적 수준의 논의는 인간 대 인공지능의 이분법적 구도로 이루어지는 경우가 많다. 흔히 볼 수 있는 사례는 '인공지능이 [직업군 X]를 대체할 것인가?' 혹은 '인공지능이 [실력 Y]를 가질 수 있을까?' 식의 질문이다. 이러한 서사는 인공지능 기술을 인간과 대립되는, 혹은 인간 활동과 독립적으로 존재하는 어떤 것인 양 표현한다는 점에서 문제적이다. 인공지능은 기본적으로 누군가가 작성한 컴퓨터 프로그램이며, 프로그램을 작성한 사람, 그 사람이 속한 회사 등의 조직, 사회문화적 및 정치적 맥락 등의 영향 없이 자연발생하는 것이 아니다. 달리 말하자면 인공지능을 논의할 때 그것이 만들어지고 배포되는 사회적 과정을 함께 고려해야 한다.
소위 불가피한 기술적 변화라는 것을 비판적으로 생각하는 데 유용한 도구 하나는 기술이 어떻게 권력을 이동시키는지 질문하는 것이다 (Ria Kalluri, https://twitter.com/math_rachel/status/1204172587770744833). 노동과 자동화, 법 집행, 복지와 돌봄 등에 다가온다고 하는 변화는 권력을 기존의 권력자에게 더욱 집중시키는 방향인가, 아니면 더 많은 사람에게 권력을 나눠주고 불평등을 완화하는 방향인가? 본 프로젝트의 문제의식 중 하나는 인공지능 기술이 사회 권력을 사기업 쪽으로 과도하게 이동시키고 있다는 것이다.
인공지능 기반의 자동화는 아마존 메커니컬 턱스 등 마이크로노동 플랫폼으로 조달하는 저렴한 노동력에 의존한다. 한편 노동권, 실업보조, 보건복지 등 사회안전망은 갈 수록 위태롭고 비정규직화되는 노동시장의 영향으로 불안정해지고 있다. 이에 더해 서구, 특히 영미권에서 생산된 기술과 담론이 비서구권에 기술식민주의적으로 적용되는 지정학적 불균형이 기존의 역사적 불균형을 재생산한다. 한편 시민 개인과 공동체는 이들 기술 도입의 의사결정에 참여하고 비판적으로 개입하는 데 어려움을 겪고 있으며, 그 이유 중 하나는 인공지능 기술에 대한 정보 부족이다. AI가 가능케 하는 놀라운 혁신이나, 비현실적 로봇 반란 시나리오 등은 접하기 쉬운 반면, 실제 인공지능이 어떻게 작동하고 그 사회적 의미가 무엇인지에 관한 논의는 상대적으로 적고 그나마도 학계 등에 머무르는 실태다.
앞서 말한 서사가 갖는 문제점은 단지 표현이 부정확하다는 사소한 차원이기보다, 인공지능 기술을 구현하고 도입하는 주체로서의 기술자, 기업, 정부 등의 역할을 은폐한다는 데 있다. 기술이 만들어지는 과정을 빼놓고 주어진 것으로서의 기술에 관해 논의할 때 기술은 속을 들여다볼 수 없는 블랙박스가 되고 기술 비판은 사후적 반응에 그친다는 점에서, 위의 이분법적 관점은 한계를 지닌다. 다시 말하면 어디서 갑자기 생겨난 기술이 아니라, 사회경제적 시스템으로서의 인공지능을 다룰 필요가 있다. 그리고 후자의 접근을 위해서는 일정 수준의 기술 리터러시가 필요하며, 이와 같은 비판적 인공지능 리터러시를 증진하는 것을 목표로 한다. 구체적으로는 감시, 젠더, 노동, 자본, 복지와 재분배 등 다양한 사회 영역과 AI기술을 연결짓고자 한다.
예컨대 AI가 인간의 직업을 대체할지에 대한 논의는, 기술 도입의 주체인 기업들이 AI라는 자동화 기술을 활용해 노동자의 권익을 약화시키는 데 성공할 것인지라는 좀 더 구체적인 질문으로 재정의되어야 한다. 특히 AI가 저절로 작동하는 것이 아니라 컨텐츠 모더레이션, 데이터 레이블링 등 노동력이 싼 국가로 외주화되고 비가시화된 데이터 노동에 크게 의존한다는 점에서 AI문제는 지역적이면서 국제적인 문제다. (cf. automation charade) 이러한 기술 도입의 사회적 비용을 누가 어떻게 부담할 것인지, AI기술의 수혜를 입는 이들과 AI기술을 유지관리하기 위해 저임금으로 착취당하는 이들 사이의 연대는 어떻게 가능한지를 질문하고, 그리고 그에 앞서 같은 기술을 어떻게 더 많은 사람의 권익을 위하여 사용할 수 있을 것인지 함께 상상하고 실현시킬 필요가 있다. 아울러 개인과 커뮤니티의 리터러시 함양에 더해, 기술과 기술 교육이 사회구조 차원의 문제라는 점을 부각할 필요 또한 있다. 앞서의 글에서 임태훈은 다음과 같이 주문한다.
"제도권 교육 바깥에서 자본과 테크놀로지 그리고 우리 삶의 관계를 면밀히 이해하고 대안적 삶의 실천을 이끌어낼 기술 리터러시와 이를 교육할 페다고지를 창안해야 한다. 기업과 국가가 주문하는 방식과는 다른 리터러시의 기획은 어디에서 찾을 수 있을까? 한 사람이라도 더 많은 이들이 더불어 행복할 수 있는 공생(共生)의 기술을 디지털 테크놀로지에서 끌어올릴 수 있을까?" (97)
이는 물론 이야기하는 것보다 실천하기가 훨씬 어려운 일이다. 펠로우 본인 역시 기술 리터러시에 관심을 가지고 공공미술의 맥락에서 운영된 메이커스페이스 <만들자 연구실>, 비전공자를 위한 인공지능 학습자료인 <비평적 기계학습> 등 꾸준히 활동을 이어왔다. 이 과정에서 꾸준히 중요했던 것은 사람들이 기술을 창의적이고 비판적으로 사용하여 본인의 목소리를 낼 수 있도록 하는 것, 즉 기술 사용자의 주체성을 강화하는 일이었다.
그러나 동시에 이러한 활동이 참여자 및 주변 관찰자들에게 자기계발 혹은 입시 및 취업에 도움이 되는 지식이라는 신자유주의적 맥락에서 받아들여지기도 했다. 이렇듯 상이한 관점의 충돌은 펠로우 본인 또한 내적으로 경험한 것으로, 프로젝트를 진행하고 기술을 습득함에 따라 IT업계 진출 가능성을 헤아려보고 있는 자신을 발견하기도 했다. 엇갈리는 이들 맥락의 존재를 부정하기보다는, 자본주의 사회에서 살고 있는 우리의 현실을 직시하면서도 기술 학습을 통한 시민성 고양을 추구하는 복합적 접근이 요청된다.
위의 생각을 발전시키는 데 아야프 활동이 귀중한 발판을 마련해주었다. 아야프 사업에 지원하며 아시아, 청년, 기술이라는 키워드와 연구, 액티비즘이라는 활동방식을 출발점으로 두고 생각을 전개했다. 아야프 웹사이트와 소개글에서 인상적으로 본 키워드는 다음과 같다.
연구의 정당성 / 필요성 경험적 지식 생산을 위한 다양한 접근 소통과 확산
개방성, 지적 탐구심, 공유, 커뮤니티 기여 학습, 재창조, 성장 콜라보레이션/콜렉티브, 집단 지성, 실행 역량 공정함, 신뢰와 연대, 배려와 존중. 펠로우십을 통해 얻은 경험과 성과가 공동의 활동과 기여를 통해 형성되었음을 인식하고, 개인의 것이 아니라 공동의 자산으로 여깁니다. 용기, 스스로에 대한 성찰적 질문을 던지고, 새로운 패러다임, 변화 추구 상호의존성 및 전체성, 사회적 맥락과 구조를 파악하는 것이 중요함을 인식