대량살상 수학무기, 캐시 오닐

  빅데이터는 불평등을 확산하고 민주주의를 위협할 수 있으며, 저자는 이를 대량살상 수학무기(WMD)라 명명한다. 공정성과 효율성을 보장해 줄 것이라는 기대와 달리 WMD는 여러 방면에서 인간보다 더 심한 편견의 결과를 낳고 이로 인한 희생자는 대부분 빈곤층이다. 저자는 WMD를 견제하기 위해 법률적 감사와 불공정한 모형은 폐기하고 긍정적인 피드백 루프를 구축할 것을 노력해야 한다고 주장한다.   
  

  빅데이터를 이용한 알고리즘은 공정해 보이는 모형이라 하더라도 이면에 개발자의 목표와 이념이 반영되기 마련이다. 선한 의도를 갖고 할지라도 인간의 편견, 오해, 편향성은 코드화 되는데 이 모형들은 진입장벽이 높고 공개되지 않기 때문에 개인이 이를 반박하기가 쉽지 않다. 또한 치명적인 피드백 루프를 확대 재생산하는 특징 때문에 악순환에 일조하게 된다. 이 위험성을 인식한 저자는 WMD라는 용어를 쓰며 금융, 대학, 선동도구 등 WMD에 의해 희생되는 사례들을 보여준다. WMD는 불투명성, 불공정성, 확장성 이라는 세 가지 특징에 의해 심각한 피해를 만든다. 이들은 현실을 반영하여 수정하기 보다는 오히려 모형이 원하는 현실을 창조함으로써 그 틀의 표준화로 인해 발생되는 부작용과 소외 계층을 만들어 내어 빈부격차에 일조한다. 
  

  WMD의 희생자의 절대 다수는 빈곤층이다. 인간보다 공정하기 위해 만들어진 수학 모형은 의도가 어떠하든 이미 빈부 격차에 따라 나뉘어진 미국 사회 때문에 그것 역시 차별적 선별을 하게 된다. WMD의 심각성은 효율성이란 이름으로 자행되는 차별이다. 공정성을 위해선 효율성을 희생해야 하지만 범죄예측모형과 재범위험성모형과 같이 공정성을 필히 지켜야 하는 모형에서도 효율성을 선택하여 가난을 범죄의 덫으로 몰아넣고 있다. 또한 잘못 세워진 오류 통계를 무분별하게 모형으로 사용함으로써 억울한 희생자들이 생기고만다. 인성적성검사는 입사 후 직무 수행 능력에 연관성이 턱없이 부족함에도 여러 채용에서 쓰인다거나 신용평가점수와 e점수와 같이 개인에게 매겨진 등급은 그 자체가 여러 분야에 확산되어 대리데이터로 쓰이면서 점수가 낮은 이들은 기회를 얻지 못한다. 모형은 게다가 개인이 아닌 사는 지역과 같은 주변 사람들을 근거로 차별 순번을 나누어 불공정한 평가를 내리기도 한다. WMD는 탐욕스러운 기업과 만나면 더욱 심각한 결과를 낳는다. 빈곤층의 절실함을 이용하여 그들에게 비싼 영리대학 입학을 권하거나 회사의 노동력 비용 감소를 위해 저임금노동자들의 근무 시간을 분 단위로 빡빡하게, 유동적인 근무 일정을 강제함으로써 그들의 삶을 피폐하게 만든다. 
  

  WMD는 효율성과 공정성을 약속하지만 가난한 사람을 더 힘들게 하며 이러한 모형은 다른 사람의 삶을 어떻게 파괴하는지 보여주지 않는다. 그러므로 WMD의 특성을 경계하면 피해를 최소화 할 수 있다. 불투명적인 모형을 공개적으로 할 것, 불공정한 모형은 법률로 감사 시스템을 구축하고 불공정한 모형일 경우엔 폐기 할 것 등이 이에 해당한다. 모형을 만드는 이들도 윤리 지침을 지키듯 자신의 모형의 오남용과 잘못 해석될 가능성에 대해 염두해야 하며, 이익보다 공정성을 우선시 하여 WMD를 다뤄야 한다. 알고리즘을 유용하게 이용할 방법은 공익 모형을 만드는 것과 인간의 눈으로 파악하지 못한 패턴을 알고리즘이 찾아 보안하는 것 등이 있다. 수학 모형은 잘 다루면 건설적인 방향으로 사용할 수 있다. 
  

  다양한 사례들은 빅데이터가 우리 사회의 불평등을 얼마나 확대 시킬 수 있는지 보여준다. <모두가 거짓말을 한다> 라는 책에서 빅데이터가 기존의 한계를 넘어서는 대안으로서 새로운 과학의 힘과 유용성을 보여줬지만 빅데이터를 이용하는 의도가 어떠하든 입을 수 있는 피해 사실에 대해선 짧막하게 언급한 것이 아쉬웠던 부분을 이 책이 보안해 주었다. 앞으로도 빅데이터에 관한 정보를 접하게 될 때 이 양쪽 측면에서 모두 바라보며 접근해야 할 것이다.