페미니즘 인공지능 NoSmoking

페미니즘 인공지능 
메러디스 브루서드 지음, 고현석 옮김/이음


센스 넘치는 원제는 ‘인공무지능Artificial Unintelligence’이다. 부제 또한 명확해서 ‘컴퓨터는 어떻게 세상을 오해하는가How Computers Misunderstand the World’ 혹은 ‘컴퓨터가 세상을 오해하는 법’ 되겠다. 저 유명한 ‘Hello, world!’의 월드일 텐데, 1978년 C 프로그래밍 언어로부터 세상에 말을 걸더니 이제 세상을 ‘오해’하는 컴퓨터가 된 지경이다. 지경이라고 썼지만, 데이터를 먹이 삼아 세상을, 우리를 해석하거나 흉내 내는 놀라운 컴퓨터다. 그러나 ‘지능을 가진 컴퓨터라고 명명되었지만, 실제로는 지능적이지 않은 컴퓨터가 존재하는 현실을 직시하는 것이 우리의 목표다.’(071) 전지전능한 무언가가 컴퓨터 안에서 생겨나고 있다는 SF식 강인공지능은 현실에 존재하지 않는다. 컴퓨테이셔널 저널리즘 전문가가 풀어놓는 컴퓨터와 데이터, 테크놀로지 비판서다.


알고리즘에 숨어 있을 제작자의 무의식적 편견을 주의하자는 취지다. 저 편견에는 소수자, 사회적 약자, 외국인, 여성 혐오 등이 포함될 것이다. 프로그래머도 사람이기에, 즉 ‘항수가 아닌 변수’(323)이기에 컴퓨터가, 나아가서는 데이터 저널리즘과 테크놀로지가 늘 공정한 정답을 준다고 믿어서는 안 된다. 타이타닉 호 침몰 당시의 사망자를 분석한 경우나 범죄 위험성 평가 알고리즘 사례를 들면서 조목조목 설명한다. 알고리즘에 고려해 넣지 못한 변수는 늘 존재하며 특히 사람을 취급할 때 더하다. 구조적인 불평등이나 현실의 차별이 오히려 더 강화된다는 느낌까지 든다. 그럴 때마다 역시, 현실 사회가 공정하고 평등해야 인공지능도 좋아지겠거니 하게 된다.


이건 초기의 테크놀로지 전도사들이 약속했던 더 나은 세상의 모습이 아니다. 인간들이 항상 일으키는 문제들로 가득한, 이전과 똑같은 세상이다. 그런데 이런 문제가 코드와 데이터 안에 숨겨져 있어서, 찾아내고 공론화하기가 어려웠다.
이제 접근 방식을 확실히 바꿔야 한다. 테크놀로지를 맹목적으로 숭배하는 태도를 버려야 한다. 알고리즘을 감시하고, 불평등한 지점이 있는지 주시하고, 테크놀로지 업계 내부의 편견을 줄여 그 편견이 컴퓨터 시스템에 개입되지 않도록 해야 한다. (340-341)


컴퓨터 전문가 저자답게(SF작가와 다르게) 뜬구름 잡지 않고 매우 현실적이다. 직접 겪었던 해커톤 일화와 자율주행 자동차 사례도 유익하다. 자율주행 자동차는 실현이 아직도 요원한 듯싶다. 기술적 측면 뿐 아니라 안전과 윤리문제가 결코 풀리지 않을 과제로 보인다. 인공지능 개발의 (흑)역사 또한 틈틈이 들려준다. 히피 분위기와 닿아 있는 초창기 민스키 그룹의 기조가 지금까지도 개발자들에게 이어지는 모양새다. 테크놀로지 기업 CEO들의 법 따위 나몰랑하는 태도나 사내 성차별, 마약복용 같은 거. 가끔 등장하는 코딩 예시는 예쁜 무늬... 아니, 분명 반가워하는 독자도 있을 듯싶다. 내가 프랑스어 만나면 반가워하듯이. 두어 군데 코딩 장벽을 쳐놓으니 왠지 더 멋져 보인다. 나머지는 깨알 정보들이 가득한 가운데, 펜실베이니아 대학 내 무어 엔지니어링 스쿨을 방문하는 끝맺음도 인상적이다. 바로, 최초의 컴퓨터 에니악ENIAC이 전시되어 있는 곳이다. 아서 클라크와 큐브릭의 <2001 스페이스 오디세이> 속 HAL 9000 둥근 눈이 에니악에서 따온 것이란다. 나도 언젠가 보고 싶구나, 에니악... 아차, 보면 되지.

이건가 보다. 출처는 Wikipedia. 끝.


유리벽 뒤에 있는 에니악은 작아 보였다. 원래의 에니악은 지하실 하나를 다 차지했다. 그중 일부만 전시돼 있었다. 진공관 한 줄이 바닥에 놓여 있었는데, 마치 미니 전구처럼 보였다. (…) 현실의 삶을 수학으로 전환하는 것은 마법처럼 놀라운 일이지만, 방정식의 바탕에 있는 인간적인 부분은 처리하기에 ‘불편하다’는 이유로 무시되는 경우가 너무 많다. 인간은 불편한 요소가 아니다. 인간이 핵심이다. 인간이야말로 모든 테크놀로지가 향해야 하는 가치다. 그리고 인간 중 특정한 일부가 아닌, 인간 모두가 테크놀로지의 발전과 적용 과정에서 고려되어야 한다. 테크놀로지는 공공의 이익이 되어야 한다. (347-350)



민스키 선생을 같이 읽으려 했으나 <마음의 사회>는 너무 큰데다 노잼필이; 사진만 함께 찍히고 슥 퇴장하심.



핑백

  • 술집에서 문득 본 진실 : 2019년의 책 2019-12-31 12:11:17 #

    ... 이래야 해, 가 아니라 하고 싶은 이야기를 했는데 SF야, 입니다. 부디 이야기 계속해주시기를. 축하합니다.2. 올해의 교양과학은 매러디스 브루서드의 &lt;페미니즘 인공지능&gt;입니다. 코딩 예시를 보고 주눅들 필요 없습니다. 두어 군데 분홍색 코딩 빼고 나머지는 쉽게 읽힙니다. 과학기술은 SF와 다릅니다. SF를 좋아하 ... more

덧글

  • 타마 2019/11/26 08:55 # 답글

    제목 번역이 좀 뜬금없는 느낌이...
    페미니즘 = 무지능 요런 연결고리인건지...
    아니면 페미니즘이 무의식적 편견을 하고 있다는 걸 이용한 건지...
  • 에르고숨 2019/11/26 19:03 #

    원제가 멋지긴 하지만 ‘페미니즘 인공지능’이 그렇게까지 뜬금없진 않아요. 인공지능과 테크놀로지 산업 쪽 굳건한 호모소셜을 생각해보면 여혐편견이나 성비, 성차별에 대한 지적이 의미 있는 페미질이라고 봅니다.
댓글 입력 영역