당신의 수치심이 그들의 돈과 권력이 된다 극단적 갈등과 분열된 사회에서 약자는 어떻게 만들어지고 소비되는가 마트에서 넘어진 뚱뚱한 여성을 촬영한 숏폼 영상, 해외여행을 한 번도 가지 않았다는 뜻의 ‘개근거지’라는 신조어가 유행하는 교실, ‘참교육’이라며 행해지는 사이버 린치 등, 우리는 혐오가 횡행하는 시대를 살아가고 있다. 피해자는 어떻게 타깃팅될까? 외모, 피부색, 가난 등 다양한 수치심이 혐오라는 이름으로 확산하고 퍼져나가는 이유는 무엇일까? 수치심을 통해 이득을 얻는 이들은 누구일까? 갈등과 분열이 깊어진 사회가 회복될 수는 있을까? 20여 년간 월스트리트와 IT업계에서 알고리즘을 설계하고 빅데이터를 연구한 수학자 캐시 오닐은 『대량살상수학무기』를 통해 공정하고 객관적이라고 알려진 빅데이터와 알고리즘이 사실은 편향적이며 취약계층에 불이익을 준다는 것을 밝혀냈다. 그녀는 이제 한발 더 나아가 『셰임 머신』에서 플랫폼과 알고리즘을 통해 외모, 가난, 젠더, 피부색, 정치적 입장 등 다방면에 걸쳐 왜곡된 수치심이 구조화되고 이를 정치적, 상업적으로 활용하는 시스템, 수치심 머신을 고발한다. 그리고 수치심 머신을 역이용해 혐오와 불신으로 분열된 사회를 치유할 해법을 제시한다.

캐시 오닐( 저자)

Cathy O’neil UC버클리를 졸업하고 1999년 하버드대학교에서 수학박사학위를 받았다. 매사추세츠공과대학교(MIT)에서 박사후과정을 거쳐 버나드 칼리지 수학과 종신교수로 재직했다. 2007년 학계를 떠나 월스트리트에서 헤지펀드 디이 쇼(D.E. Shaw)의 퀀트가 되었고 2000년대 금융계의 호황과 붕괴를 겪는다. 이후 IT 업계에서 데이터과학자로서 금융상품의 위험도와 소비자 구매 패턴 등을 예측하는 수학 모형을 개발했다. 상업, 금융, 교육 분야에서 알고리즘을 설계한 오닐은 공정하고 객관적이라고 알려진 빅데이터와 알고리즘이 사실은 편향적이며 취약계층에 불이익을 준다는 것을 깨닫는다. 이를 엮은 『대량살상 수학무기』는 빅데이터와 알고리즘에 대한 맹신을 깨는 데 공헌했다. 이 책은 80주 이상 아마존 베스트셀러에 머물렀고, 오일러 도서상을 수상, 전미 도서상 파이널 리스트에 오르는 등 인기를 모았다. 어린 시절부터 뚱뚱함이 콤플렉스였던 그녀는 날씬해야 한다는 사회적 압력과 그러지 못한 자신의 간극에 의한 수치심을 오랫동안 체감해왔다. 체중 감량 실패를 수없이 반복하며 다이어트 업계가 사람들을 상업적으로 이용한다고 자각했다. 이후 알고리즘의 차별 문제를 탐구하며 비만뿐만 아니라 빈곤, 중독자 등 취약계층의 삶이 어떻게 플랫폼을 통해 조직적으로 소비되고 조롱당하는지 목격했다. 그 비난이 자신의 비만을 대하는 시선과 놀랍도록 흡사하며, 그들 또한 암울한 삶의 쳇바퀴에서 벗어나지 못한다는 걸 알게 된 그녀는 사회 균열의 근원에 잘못된 수치심이 있고 이를 알고리즘이 극대화한다는 것을 깨달았다. 이러한 경험을 토대로 쓴 『셰임 머신』은 사회를 계급화하고 통제하는 도구로써 수치심과 디지털 플랫폼, 알고리즘의 상관관계를 파헤치며 이를 어떻게 극복할지 실마리를 제시한다. 정서적 격차가 점점 커지는 시대에 그녀의 날카로운 분석은 전 세계 독자들에게 크게 회자되고 있다. 현재 오닐은 알고리즘을 감사하고 위험성을 측정하는 기업, ORCAA를 설립해 빅데이터와 알고리즘의 명암을 추적하면서, 사회에 미치는 실존적 위협에 대해 꾸준히 목소리를 내고 있다.

김선영( 역자)

서론: 존중이 사라진 사회, 혐오가 먹고사는 법

1부 수치심은 돈이 된다

1. 비만: 뚱뚱하다는 죄
인생의 첫 좌절 경험이 주는 것
비만에 관한 편견
다이어트를 한 번만 하는 사람은 없다
불행 포르노를 즐기는 사람들
점점 어려지는 다이어터 연령

2. 약물 중독: 낙인찍기와 책임 회피
마약과의 전쟁과 희생양
공감의 부재로 벌어진 마녀사냥
낙인찍기에서 벗어나는 건 왜 개인의 몫인가
질병으로 먹고사는 기업들
제약회사의 대국민 사기극
갱생 불가라는 낙인, 버려진 중독자들
공공연한 인권 유린 치료

3. 빈곤: 복지제도에 빌붙는 존재들
빈곤층은 게으르다는 서사
만연하고 당연한 밑바닥 혐오
가난 구제 정책의 명암
누구를 위한 고용센터인가
가난한 유전자는 없다

4. 외모: 코르셋을 권하는 사회
원초적 두려움을 자극한 광고
인플루언서 산업이 커지는 이유
젊음을 향한 열망과 노화 혐오
존엄성 회복으로 수치심 산업에 맞선다

2부 혐오는 어디서 시작하고 확산되는가

5. 사이버 불링: ‘좋아요’, ‘공유하기’가 낳은 마녀사냥
SNS 사진 한 장의 파급력
내 타임라인은 세상의 전부가 아니다
SNS에 개인정보가 박제된다는 것
소셜 미디어라는 시험대가 낳은 과시욕

6. 차별: 인종과 성 지향성 인식의 변화
구시대적 사고를 향한 정의 구현
온라인 사상검증의 모순
백인의 인지부조화
인종차별은 어떻게 합리화되는가
누군가에겐 나도 악플러다
특권층의 피해의식
표현의 자유 아래 이뤄진 배척

7. 인셀: 피해의식과 폭력성의 발현
인셀의 탄생
허무주의가 낳은 피해망상
선동가는 결속력을 강화한다
이탈자가 생기면 광신도가 늘어난다
히키코모리 현상
해로운 커뮤니티에 빠지는 이유

3부 정의감은 어떻게 무기가 되는가

8. 공공 에티켓: 팬데믹과 마스크
에티켓을 강제하는 것은 정당한가
하지 않을 자유를 뛰어넘는 마스크 대란
공공장소 흡연에 관한 시대의 흐름
백신 개발에 이용된 사회적 약자
사회적 공포 조장이 백신 거부를 낳았다

9. 권력과 저항: 촛불집회, 미투 운동, 부당해고
시민의 죽음이 불러온 촛불집회
식민지 국민의 저항운동 전략
사회를 바꾸는 것은 강한 목소리다
무해한 학생이 벌인 시위의 파급력
전 세계에서 일어난 미투 운동의 시작
자기 자리를 위협당한다고 느끼는 남성들
거대 기업이 부당해고를 하는 방법

10. 자아존중감 극복의 굴레
건강보다 체중감량에 더 반응하는 사람들
수치심은 극복할 수 있는 문제인가
수치심을 다스리는 법

결론: 누구에게 책임을 물어야 하는가
미주