학교 교육 현장에서 생성형 인공지능(AI)을 활용한 수행평가의 공정성을 확보하고 명확한 활용 기준을 마련한다. 

서울특별시의회 김형재 시의원(국민의힘, 강남2)은 '서울시교육청 인공지능 교육 지원 조례 일부개정조례안'을 지난 9일 대표발의했다.

최근 생성형 AI 기술이 급격히 확산되면서 학생들의 학습과 과제 수행에 AI 활용이 일상화되고 있다. 그러나 지난 1월 모 고등학교에서 발생한 ‘집단 AI 부정행위’ 사례처럼, 명확한 AI 활용 가이드라인 부재로 인한 평가의 공정성 훼손과 학습 성취도 왜곡에 대한 우려가 끊이지 않고 있다.

금번 개정안 핵심은 기존 '서울시교육청 인공지능 교육 지원 조례' 제9조(인공지능윤리 지침)에 ‘수행평가 시 인공지능 활용 기준’을 신설하는 것이다. 교육감이 수립하는 AI 윤리 지침에 수행평가 시 AI를 어디까지, 어떻게 활용할 수 있는지에 대한 구체적인 내용을 포함하도록 법적 근거를 마련하려는 취지다. 

해당 조례 제9조는 "교육감은 교육 현장에서의 인공지능 활용이 교육적 목적의 범위에서 이루어질 수 있도록 다음 각 호의 사항을 포함한 지침을 수립하여 학생, 학부모, 교직원 등에게 안내하여야 한다"고 명시하고 있다. 현 조례의 경우 1. 사람의 생명, 신체적·정신적 건강, 재산, 권리 등 보호 2. 개인정보 및 사생활 보호 3. 허위 조작 정보 등 생성 및 유포 방지 4. 명예훼손 및 혐오 표현 방지 5. 생성형 인공지능에 대한 과도한 의존 및 오남용 방지 6. 그 밖에 교육감이 인공지능윤리를 준수하기 위하여 필요하다고 인정하는 사항을 인공지능윤리 지침에 포함하도록 규정하고 있다.

김형재 시의원은 "그동안 학교 현장에서는 학생들이 AI를 활용한 결과물을 그대로 제출하거나 출처를 밝히지 않는 등의 행위가 부정행위인지에 대해 혼선이 있었다"며, "금번 개정안이 통과되면, 서울시교육청은 학교 현장에 AI 활용 가능 범위, 출처 표기 방법, 무단 사용 시 조치 사항 등을 포함한 세부 지침을 안내해야 할 것이다"라고 말했다.

또한 AI는 교육의 보조 수단으로서 무한한 가능성을 가지고 있지만, 이를 무분별하게 사용할 경우 학생들의 사고력 저하와 평가의 불공정성을 초래할 수 있다며, "특히 성적과 직결되는 수행평가에서 ‘AI 대필’과 같은 부정행위를 사전에 방지하고, 교사가 학생의 역량을 신뢰성 있게 평가할 수 있는 환경을 조성하는 것이 시급하다"고 밝혔다.