알고리즘에 맡길 수 없는 것

짧은 이메일 한 통. 그게 전부였다. 아마존 플렉스를 통해 4년 동안 아마존 상품을 배송했던 스티븐 노르만딘은 어느 날 알고리즘에 의한 해고 통보를 받았다. 인공지능(AI)의 평가 점수와 ‘계약이 중단되었습니다’라는 메시지만 있었다. 스티븐의 토로에 따르면 AI는 문이 잠겨 있는 아파트에 상품을 배송하라고 지시했고, 그가 아파트에 들어가지 못하자 업무 미수행으로 평가했다. 그는 관리자와 이야기를 나눌 수 없었고, 자신의 해고에 대해 어떤 설명도 들을 수 없었다. 그의 황망한 경험은 오늘날 세계 곳곳에서 현실이 되고 있다.

30대 간호사 애슐리는 시프트키(ShiftKey)라는 앱을 통해 병원과 요양원에서 일한다. 미국에서는 간호 노동의 일부가 플랫폼화돼 있어서 병원이 간호인력이 부족할 때마다 8시간, 12시간 단위로 간호사를 호출한다. 애슐리는 지난 2년간 시프트키 앱을 통해 일했지만. 일감이 어떻게 배정되며 근무 일정이 어떻게 정해지는지를 전혀 알지 못한다. 앱은 사람마다 다른 일감을 보여주고 심지어 수당도 다르게 제시한다. 같은 날 같은 시간, 같은 병원에서 일하는 간호사 두 명이 서로 다른 수당을 받는 일도 벌어진다. 노동자의 수당과 근무시간은 알고리즘에 의해 책정되며 그 결정 과정은 블랙박스처럼 꼭꼭 숨겨져 있다.

2023년 미국인 데렉 모블리는 HR 플랫폼인 워크데이(Workday)를 상대로 고용연령차별금지법 소송을 제기했다. AI 추천 시스템을 활용한 대기업 채용에서 그를 포함한 40세 이상 지원자가 지속적으로 자동 탈락했기 때문이다. 40세 이상 중장년, 장애인, 소수인종 지원자도 이 소송에 합류했다. 데렉은 “워크데이의 시스템을 이용해 100개가 넘는 일자리에 지원했지만 매번 AI 필터에 막혀 1~2시간 내 자동 탈락 통보를 받았고 면접 한 번 못 봤다”고 진술했다.

미국의 한 업체는 샌프란시스코 일대의 고용주들에게 1만개의 공개 온라인 소스를 뒤져서 폭력 또는 불법 약물에 관한 언급을 찾아내 구직자를 필터링하는 AI 서비스를 제안했다. 더 놀라운 사례도 있다. 사무직 노동자의 사내 이메일을 AI로 검색해서 불만족 또는 번아웃 징후를 찾아내는 업체가 있는가 하면, ‘감정 AI와 대화 AI’로 콜센터 노동자들의 목소리를 분석해서 관리자들에게 실시간으로 정보를 제공하는 업체도 있다. 이런 기술은 직장에서 관리자를 넘어 감시자 역할을 하는 ‘보스웨어(bossware)’로 통칭된다. 최근 발표에 따르면 미국에만 500가지가 넘는 직장 감시 소프트웨어가 있다.

해고와 감시가 자동으로 이뤄지는데 책임은 아무도 지지 않는 현실. 이러한 현실을 묵과할 수 없다는 공감대가 만들어지면서 지난 6월, 미국 캘리포니아주 상원이 로봇 상사 금지법(No Robo Bosses Act)을 가결했다. 발의부터 통과까지 모든 과정에 노동계, 시민사회, 기업, 법률 전문가 등 다양한 이해당사자가 참여했다. 10월부터 이 법이 시행되면 회사의 채용, 평가, 해고 등 인사 결정에 AI 알고리즘이 활용되는 경우 반드시 인간이 최종 책임을 져야 한다. 또 사업주는 자동화된 인사 평가와 해고가 이뤄지는 과정을 노동자에게 설명할 수 있어야 한다. 불공정하거나 차별적인 판단에 대한 이의 제기권과 정정 절차도 법적으로 보장해야 한다. 이 법은 ‘고용 관계’인 경우에 국한되지 않으며 배달앱이나 택시앱에서 명목상 독립계약자로 일하는 사람에게도 적용된다.

실리콘밸리의 테크기업과 HR 스타트업, 경영자단체, 자유시장파 경제학자 등은 이 법에 반대하고 나섰다. 반대의 명분은 혁신과 효율이었다. 캘리포니아 상공회의소 등은 “자동화에 제동이 걸리면 경쟁력이 저하된다”는 성명을 발표했다. AI로 채용과 노무관리를 효율화하고 있는데 그 과정을 매번 인간이 심사한다면 인사팀의 일이 폭주하고 비효율이 발생할 것이라고도 했다. 글로벌 HR 기업이 다른 주로 옮겨갈 거라는 협박도 빠지지 않았다.

캘리포니아주 노동계와 시민사회는 이들의 주장에 다음과 같이 재반박했다. “이 법은 AI 활용 자체를 막는 것이 아니다. 인간적 책임과 설명, 투명성이라는 최소한의 장치를 두자는 것이다.” 또 시민사회는 채용과 해고가 노동자의 생계와 사회적 존엄이 걸린 결정이라는 점을 강조했다.

미국에서는 캘리포니아주 외에도 콜로라도주, 일리노이주, 뉴욕시 등에서 AI 인사 시스템 사용을 규제하는 법이 만들어졌고, 유럽과 캐나다 등에서도 유사한 법제도가 마련되고 있다. 기술 혁신이 진정 인간을 위한 것이라면, 노동자의 삶 전체를 뒤흔드는 결정을 알고리즘에게 맡겨서는 안 된다.

안진이 the삶 대표 (livewithall@naver.com)