조성철 울산시의원, AI 윤리교육 강화 조례 발의

딥페이크·개인정보 침해 예방 초점
AI 정보 오류·편향성 판단 교육
제269회 정례회서 교육위 심사 예정

조성철 울산시의원.

울산지역 학교에서 생성형 인공지능(AI)의 오류와 편향성을 판단하고 개인정보·저작권 침해를 예방하는 교육을 강화하는 방안이 조례 개정안에 담겼다. AI를 학습에 이용하는 능력뿐 아니라 잘못된 정보와 기술 오용에 대처하는 교육까지 다루겠다는 것이다.

울산시의회 교육위원회 소속 조성철 의원이 대표발의한 '울산광역시교육청 생성형 인공지능 활용 교육 지원 조례 일부개정조례안'은 기존의 기술 활용 중심 교육에 책임 있는 사용 원칙을 더하는 내용을 담고 있다.

개정안은 학생들이 AI로 만들어진 자료를 그대로 받아들이지 않고 사실 여부와 편향 가능성을 스스로 살펴보도록 하는 데 무게를 뒀다. 과제나 학습자료에 인공지능이 생성한 내용을 사용할 때 출처를 밝히는 등 학문적 정직성에 관한 교육도 포함했다.

딥페이크를 비롯한 허위·조작 콘텐츠의 위험성을 알리고, 이를 제작하거나 퍼뜨리는 행위에 따르는 책임을 다루도록 했다. 개인정보와 저작권 침해를 막기 위한 교육감의 예방 대책 마련 책임을 강화하는 내용도 담겼다.

학교에서 참고할 수 있는 사용 지침을 개발해 보급하는 방안 역시 제시됐다. 이를 위해 개정안에는 생성형 AI의 윤리적 사용에 관한 개념과 기본 원칙을 새롭게 규정하는 내용이 포함됐다.

조 의원은 생성형 AI가 학습과 창작에 활용되는 만큼 학생들이 기술의 편리함과 함께 한계도 이해해야 한다는 입장이다. 특히 AI가 제시한 답변을 비판적으로 살피고 다른 사람의 권리를 존중하는 태도를 익히는 것이 중요하다고 강조했다.

이번 개정안은 오는 11월 2일 시작되는 제269회 울산시의회 제2차 정례회에 상정돼 교육위원회 심사를 받을 예정이다. 아직 조례 개정이 확정된 단계는 아니다.

울산=김성욱 기자