새해가 되고 인공지능(AI) 챗봇 ‘이루다’에 대한 보도가 화제가 됐다. 이루다의 페르소나가 20세 ‘여대생’으로 설정된 사회문화적 쟁점이나 개인정보 비식별화 문제와는 별도로, ‘이루다 쇼크’의 핵심은 남녀 간 대화 데이터 100억건을 미리 학습했는데도 서비스 시작 20여일 만에 성별에 따른 편견과 소수자에 대한 혐오 정서를 여과 없이 학습해서 드러냈다는 점이다. 그리고 이루다는 운영을 중단했지만, AI에 의한 채용은 지금도 이뤄지고 있고 앞으로 더욱 확대할 전망이다.

관련 업계에 따르면 지난해 채용 과정에 AI 면접을 새로 도입한 곳만 약 130개사로, 지난해 11월 현재 모두 430개사에 달한다. AI 면접은 통상적으로 약 1시간 동안 화면 및 마이크 테스트, 기초 질문, 성향 체크, 전략게임, 심층 질문 순서로 진행된다. 면접관에 의한 편견과 부정의 소지를 없애면서 비대면 면접을 가능케 하기 때문에 선호되고 있지만 취업준비생들 입장에서는 기준을 알 수 없다는 비판이 나온다(2020년 11월14일 동아일보).

문제는 공공영역 역시 AI에 의한 채용을 시행 중이고 그 구체적인 알고리즘을 아무도 알 수 없다는 점이다. 문재인 정부는 ‘디지털 뉴딜’의 일환으로 데이터·네트워크·AI 같은 소위 ‘DNA’ 생태계 강화를 정책과제로 삼아 왔다. 현재 13개 공공기관ㆍ공기업이 AI 채용을 시행하는 것에 대해 진보네트워크센터는 관련 자료를 정보공개청구했으나 AI를 외주업체가 운영한다는 이유로 정보공개부존재 회신을 받았다. 결국 진보넷은 민변 디지털정보위, 정보인권연구소와 함께 지난해 10월 정보공개 거부처분 취소소송을 제기했다.

우선 AI 면접시 AI가 피면접자의 영상을 분석해 평가할 경우 이는 명백히 채용절차의 공정화에 관한 법률(채용절차법) 위반이다. 채용절차법 4조의3 1호는 구직자 본인의 용모·체중 같은 신체적 조건을 ‘직무의 수행에 필요하지 아니한’ 정보로 보고 이를 수집하는 것을 금지하고 있다. 이는 당초 채용절차에 자의적 요소가 개입되는 불공정을 방지하기 위한 취지인데(오정미 변호사, 2020), 불공정을 줄인다고 도입한 AI가 눈 마주침·눈 깜빡임·표정에 의한 긴장 여부·외모적 호감도를 평가하는 것은 법 취지에 정면으로 위배된다. 심지어 방언(사투리) 역시도 상대적 소수일 경우 AI가 이를 부정적인 요소로 학습했다면 불리한 평가를 받을 수 있다.

더욱 본질적인 문제는 역시 AI 알고리즘의 복잡성과 학습 정보의 왜곡·편향성에 있다. AI 알고리즘은 고객, 즉 위 경우 채용분석 도급인이 통제하지도 분석하지도 못한다. 또한 AI의 편향은 인간의 편향·데이터 표본 편향·특정 정보 누락의 편향·고의적 편향·숨겨진 편향 등으로 인해 발현할 수 있다. 입력 데이터가 많을수록 편향이 해소된다는 보장도 없다. ‘이루다’는 100억건이나 대화데이터를 학습했는데도 이용자들의 고의적 혐오발언까지 학습한 것으로 보인다. 현재 공공기관들이 창사 이후 임직원 데이터를 모조리 학습시킨다 해도 지금까지의 사회적 편향에 따른 불공정성을 그대로 학습시키는 결과밖에 되지 않는다.

통제하지도 못하고 편향을 검증하지도 못하는 AI에 의한 채용은 과연 공정한가. AI의 편향이 사후적으로 기적적으로 드러날 경우 사용자는 이에 대해 책임을 질 수 있을까. 30명 이상 사업장(공무원 제외)에 모두 적용되는 채용절차법에 더해 ‘공기업·준정부기관의 경영에 관한 지침’ 9조는 ‘공정하고 투명’한 인사운영 원칙을 규정하고 있다. 15조는 직원의 채용절차와 방법 등에 관한 사항을 ‘사전에 규정’하고 공개하도록 하고 있다. 변경할 경우 인사위원회 등의 심의·의결을 거쳐 다시 공고해야 함을 명시하고 있다. 통제하거나 분석하지 못하는 AI 알고리즘에 의한 면접 결과가 과연 인사위원회의 ‘심의’ 대상이 될 수 있는지 의문이고, 이것이 과연 공공기관에게 요구되는 책임성에 부합하는지도 의문이다.

채용비리로 촉발한 공정성에 대한 사회적 요구는 장기적으로는 사회 구성원의 권리 보장과 신뢰 향상에 기여할 것이라고 믿는다. 그러나 공정성을 위해 도입된 AI가 채용을 넘어 인사·성과관리 전반으로 확산될 경우, 그 평가가 ‘정당한 이유’가 있다거나 사업상 필요성이 소명됐다고 인정될 수 있을까. 노동계가 지금, 또는 가까운 미래에 어떠한 방식으로든 상대하게 될 과제다.