AI가 준 학점, 가난한 학생을 차별했다

영국, 고교졸업반에 인공지능시스템으로 학점 부여
공립고 학생엔 불리, 사립고 학생엔 유리
"빌어먹을 알고리즘" 항의 이어지자 학점 취소
AI가 '기존 데이터의 편향' 확대하는 현상 나타나
"학점 인플레 막기 위한 정치적 선택" 비판도

영국의 고교생과 교사들이 지난 15일(현지시각) 런던 교육부 청사 앞에서 인공지능에 의한 학점 혼란 사태에 항의하며 가빈 윌리엄슨 장관의 사퇴를 요구하고 있다. 로이터 연합뉴스

코로나19 사태로 정식 시험을 치르지 못한 탓에 알고리즘에 의해 학점을 부여받은 영국 고교 졸업반 학생들 사이에서 비명이 터져나오고 있다.

평소 교육 환경이 좋은 부유한 학생들은 예상보다 좋은 학점을 받은 반면, 교육 환경이 좋지 않은 가난한 가정의 학생에게는 낮은 학점이 주어졌기 때문이다. 인공지능이 불평등을 강화한다는 우려가 현실로 드러났다는 지적이 나온다.

영국 잉글랜드·웨일스·북아일랜드 3개 자치정부 지역의 고교 졸업반 30여만명은 졸업시험에 해당되는 ‘에이(A)-레벨 시험’을 치르지 못했다. 이번 여름 예정됐던 이 시험이 코로나19 사태로 취소되자, 시험을 주관하는 영국 정부 당국이 ‘직접센터학업모델’이라는 알고리즘에 의해 학생들의 학점을 부여한 것이다. 영국 정부는 “기존 데이터에 근거해 학생들에게 적합한 학점을 부여한다”고 자신해왔다.

알고리즘에 의한 학점 부여 결과가 나온 지난 13일 학생들 사이에서는 탄식과 비명이 터져나왔다. 필립(18·가명)은 대학에서 법학을 공부하려던 꿈을 포기해야 할 처지에 놓였다. 런던 서부에 있는 필립의 학교 교사들은 그가 A학점 2개와 B학점 1개를 받을 것이라고 예측했다. 이 정도 점수면 엑스터대학교 법학부 입학이 보장될 것으로 봤다. 하지만 알고리즘이 필립에게 준 학점은 B학점 1개와 C학점 2개였다. 그가 원하던 엑스터대 법학부 입학은 거절됐다. 필립은 “내 주변의 모든 사람들이 비슷한 상황”이라고 분통을 터뜨렸다.

잉글랜드 지역에서 나온 학점의 40%가 교사들이 애초 예측한 학점보다도 낮아졌다. 특히, 공립학교 학생들이 이 알고리즘 시스템에 의해 큰 불이익을 받았다. 반면, 부유층이 다니는 사립학교들은 혜택을 봤다.

성적이 공개된 다음날부터 10대 학생들은 교육부 앞에서 항의 시위를 벌였다. 학생들은 온라인으로 자신들의 분노와 의제를 공유하고, 교육부 앞에서 “빌어먹을 알고리즘”이라는 구호를 외쳤다. 학생들의 시위가 계속되고 언론에서도 부정적 보도가 잇따르자, 가빈 윌리엄슨 교육부 장관은 “학생들은 이 알고리즘 모델로 받은 학점 대신에 교사들이 예측한 학점을 받을 수 있다”고 발표했다. 엑스터대 법학부 입학이 거절됐던 필립은 정부 발표 뒤, 엑스터대에 다시 문의해봤다. 대학 당국도 엄청난 혼란에 빠진 상태였으나, 입학 전형을 다시 하겠다고 약속했다.

문제의 알고리즘은 학생들의 전년도 성적 패턴 및 교사가 예측한 학점, 교사가 매긴 학생들 사이의 순위에 입각해 학점을 부여한다. 아울러 소속 학교의 역대 학업능력을 고려하는데, 이는 부유층이 다니는 사립학교 소속 학생들에게 결정적으로 유리한 요소다.

옥스퍼드대학교 컴퓨터공학과의 헬레나 웹 선임연구원은 “정부는 지난해와 비슷한 학업결과를 도출한다고 주장한다”며 “이는 전국적인 차원에서는 공정하다고 주장할 수 있으나, 개인별로는 공정함을 완전히 상실한 것”이라고 지적했다. 그는 “이 알고리즘은 학교들의 학업 능력 개선을 반영하지 못할뿐더러, 일관되게 더 높은 학점을 보이는 유명 사립학교보다는 공립학교에 더 나쁜 영향을 미칠 것이 분명하다”고 말했다.

디지털 정보 남용 방지 단체인 ‘폭스글러브’의 창립자인 코리 크라이더는 미국 <시엔엔>(CNN)에 “영국의 A-레벨 시험은 빙산의 일각”이라며 알고리즘은 사용된 원자료에서 발견된 편향을 복제한다고 지적했다. 하지만 그는 알고리즘 기술에 책임을 돌릴 일이 아니다고 경고했다. 그는 “기술적인 문제라고 말하는 어떤 사람도 거짓말을 하는 것”이라며 “영국 고교 학점 사태는 학점 인플레를 막기 위한 정치적인 선택이었지, 기술적인 문제가 아니었다”고 지적했다.

알고리즘에 의한 편향 확대 사례는 미국에서도 나타났다. 미국 캘리포니아 산타크루즈 시당국은 지난 6월 분석소프트웨어를 이용한 순찰지역 예측을 중단했다. 이 프로그램이 비백인 주민들을 차별한다는 이유였다. 저스틴 커밍스 시장은 <로이터> 통신과 회견에서 “우리 공동체에서 비백인 주민들을 겨냥할 수 있는 기술이었다”며 “우리에게는 필요없는 기술이었다”고 말했다.

정의길 선임기자 Egil@hani.co.kr

▶더불어 행복한 세상을 만드는 언론, 한겨레 구독하세요!
▶네이버 채널 한겨레21 구독▶2005년 이전 <한겨레> 기사 보기

[ⓒ한겨레신문 : 무단전재 및 재배포 금지]