호주 AI 채용 시스템의 차별 위험성 제기
호주의 연구원이 AI 채용 시스템에 사용되는 데이터가 호주의 인구 통계를 제대로 반영하지 못하고 있다고 지적하며, 이러한 시스템이 특정 후보자에게 차별을 가할 위험이 있다고 경고했습니다. 연구에 따르면, AI 면접관과의 상호작용에서 발음이나 장애로 인해 차별받을 수 있다는 우려가 제기되고 있습니다.
AI 채용 시스템의 증가와 데이터 편향 가능성
최근 몇 년간 AI를 활용한 채용 방법이 확산되고 있습니다. 국제 조사에 따르면, 2025년에는 72%의 기업이 채용에서 AI를 사용하게 될 것으로 예상됩니다. 그러나 호주 내 AI 사용율은 약 30%로 추산되지만, 앞으로 5년 내 증가할 것으로 보고 있습니다.
AI 데이터 세트의 문제점
멜버른 대학교의 나탈리 셰어드 박사는 AI 모델이 학습된 데이터 세트가 제한적이며, 미국 데이터에 편중되어 있어 차별을 유발할 가능성이 있다고 설명했습니다. 셰어드 박사의 연구 중 한 AI 시스템 회사는 채용 데이터 중 호주와 뉴질랜드에서 온 데이터는 6%에 불과하다고 밝혔습니다.
비영어권 화자에 대한 오류
비영어권 화자나 발음에 영향을 받는 장애가 있는 지원자는 AI 시스템에서 그들의 발언이 정확히 전사되지 않을 수 있으며, 이로 인해 낮은 평가를 받을 위험이 있습니다. 셰어드 박사는 AI 시스템에서 비영어권 화자를 대상으로 한 오류율이 미국 영어 화자에 비해 높은 수준이라며 문제를 지적했습니다.
AI 채용 시스템의 불투명성
셰어드 박사는 AI 채용 시스템에 대한 투명성이 부족하다고 비판하며, 기술을 통해 이루어진 결정에 대해 피드백을 받기 어려운 상황이라고 전했습니다. 이에 따라 지원자들은 더욱 어려운 상황에 놓일 수 있다고 경고했습니다.
AI 기반 차별 방지법 필요성
아직 AI 차별 사례가 호주 법원에 이르지 않았지만, 정부는 AI 사용을 규제하는 법안을 고려해야 한다고 셰어드 박사는 덧붙였습니다. 2022년, 호주 정부는 AI 기반 자동 선발 기술로 인해 몇 가지 인사 결정이 뒤집힌 사건을 밝혔습니다. 이러한 사례는 AI가 항상 가장 적합한 후보를 선정하지는 않는다는 것을 보여주는 예시입니다.
따라서, AI 기술이 포함된 채용 과정은 더 철저한 법적 규제와 함께 차별 방지를 위한 제도적 조치가 필요합니다.
출처 : 원문 보러가기
