AI가 대학 신입생을 선발한다면?

전형과정에 오류 속출…형평성 면에서 취약

"인공지능은 우리의 거울…약점은 더 두드러져"

미국의 많은 대학들이 자체 개발한 인공지능 (AI)으로 학생들이 제출한 자료의 문법, 맞춤법 등을 평가하거나 표절 여부를 확인하고 있다. 최근 들어서는 이런 AI의 역할이 대입 전형 원서 검토로까지 확대되는 추세인데, 무엇보다 공정해야 할 대입 전형에서 AI의 오류가 발견되면서 과연 대입 전형에 AI를 사용해도 되는 지 논란이 일고 있다.

지난해 텍사스 주립대 오스틴 캠퍼스는 ‘그레이드’라는 이름의 프로그램을 이용해 입학 지원서를 걸러냈다. 그레이드 덕분에 제출된 모든 입학원서를 검토하는데 걸리는 시간은 사람이 하나하나 원서를 읽던 때에 비해 74 퍼센트나 단축됐다.

그러나 이런 파격적인 효율에도 불구하고 이 대학은 그레이드를 입학전형에 사용하는 것을 중단했다.  그레이드가 이미 합격했던 학생들의 원서와 비슷한 원서 위주로 골라 뽑아 형평성에 문제가 제기된 것이다. 

입학처에 한 번 제출된 적이 있는 자료들을 기억하는 AI의 알고리즘때문인데, 다른 대학 AI의 경우 텍사스 주립대의 그레이드와는 반대로 이미 제출된 합격생의 원서와 비슷하단 이유로 표절 낙인을 찍어 불합격을 준 경우도 있었다.

뉴욕대학교에서 ‘기계 선입견과 알고리즘’ 등을 연구 중인 라시다 리처드슨(Rashida Richardson)은 대학 입시 전용 인공지능을 개발한 유명 회사들이 "합격생들을 고르는 데 있어 가장 중요한 형평성을 아직 확보하지 못했다”고 말했다.

입학관들의 주관적인 편견을 배제하자는 것이 인공지능 프로그램의 주요 취지임에도 불구하고, AI는 그간의 경험을 통해 학습된 알고리즘을 통해 원서를 분석하기 때문에 편견 면에서 인간과 마찬가지로 한계를 넘어설 수 없다는 것이다.

AI가 등장하기 전 오랜 세월에 걸쳐 대학들이 직접 찾아가 입학 설명회를 연 곳 중엔 부유층들이 주로 거주하는 백인 위주의 지역이 많았고 그 결과 그 지역 출신 합격자가 많았기 때문에, 합격생들의 원서를 기억하고 있는 AI는 자동적으로 중산층 백인 학생들의 쓴 원서와 비슷한 원서를 채택하는 결과로 이어지는 한계가 있는 것이다.

표절 검색을 위해 많은 대학들이 사용하는 프로그램 턴잇인(TURNITIN)의 수석 이사인 에릭 왕 (Eric Wang)은 “AI는 결국 우리 자신이다. 우리의 거울이며, 때로는 우리보다 더 과장된(오류를 범할수 있다)”고 말했다.

미국 워싱턴주 = 신나라 글로벌 리포터 allenshin810@gmail.com

■ 필자 소개

휘트워스 대학 재학 

전 대한민국 청소년의회 청소년 기자단