경기도의회 이채명 의원(더불어민주당, 안양6)이 공공 인공지능(AI) 정책을 평가할 때, 전체 평균 정확도보다 특정 집단에서 오류가 집중하여 발생하는지를 살펴야 한다고 밝혔다.
이 의원은 지난 3일, 경기도여성비전센터에서 열린 「2026년 양성평등주간 기념 제8차 경기GPS(Gender Policy Seminar)」에서 “AI가 누구의 데이터를 학습하고 누구를 판단하는지를 묻는 것이 성인지 AI 정책의 출발점”이라고 말했다.
이 의원은 “AI는 현실에서 생산된 데이터를 학습하는 만큼 기존 사회의 성별 격차와 불평등, 편향이 데이터와 알고리즘에 반영될 수 있다”라고 지적했다.
도의회의 AI 사업ㆍ예산 심사 기준도 달라져야 한다고 했다. 사업비와 구축 기간, 이용자 수뿐 아니라 학습 데이터의 대표성과 성별ㆍ연령ㆍ장애ㆍ지역ㆍ소득 등 교차집단별 오류 발생 비율도 확인해야 한다는 것이다.
이 의원은 “전체 평균 정확도만 봐서는 부족하다”라며, “중요한 것은 AI가 누구에게 더 많이 틀리는지를 확인하는 것”이라고 말했다.
성별ㆍ교차집단별 데이터를 구축할 행정 기반도 필요하다고 했다. 이 의원은 “자료가 없다는 답변에 그칠 것이 아니라 관련 데이터를 구축하고 관리할 수 있도록 예산과 행정 체계를 마련해야 한다”라고 밝혔다.
이 의원은 공공조달 단계부터 성인지 기준을 반영해야 한다는 주장도 내놨다. AI 사업 제안요청서와 사업자 평가, 계약조건 등에 성별분리 데이터 구축 여부와 집단별 오류 발생 비율, 알고리즘 편향 점검 결과, 편향 발생 시 수정 절차와 책임 주체 지정 등을 포함해야 한다는 설명이다.
자료: 경기도의회 / 원문: 경기도의회 보도자료
