부산대, AI 위험 검증할 인권·안전 연구거점 추진

공학·법학·사회과학 공동 참여
기업·공공기관 AI 위험 평가 구상
국내 환경 맞춘 안전 기준 개발

지난 19일 부산대학교 IT관에서 열린 '제2회 AX 인권·안전 포럼'에서 참석자들이 인공지능 전환 시대의 인권과 안전 문제를 논의한 뒤 기념촬영을 하고 있다. (사진=부산대 제공)

인공지능(AI)의 판단 오류와 인권 침해 가능성을 기술적 성능뿐 아니라 사회적 책임의 관점에서 살피기 위한 연구거점 설립이 부산대학교에서 추진된다. 공학과 인문사회 분야 연구자들이 함께 국내 실정에 맞는 AI 안전 기준을 마련하겠다는 구상이다.

부산대는 'AX 인권·안전 연구센터(가칭)' 설립을 추진한다고 21일 밝혔다. 아직 설립이 완료된 단계는 아니며, 앞으로 연구와 정책 자문, 교육 기능 등을 단계적으로 갖출 계획이다.

센터가 추진할 주요 업무는 기업과 공공기관의 AI 도입 과정에서 발생할 수 있는 인권·안전 문제를 사전에 살피는 것이다. 기술을 도입하거나 구매하고 실제 사용하는 과정에서 위험을 평가하고 개선 방향을 제시하는 방식이다.

국내 언어와 제도, 이용 환경을 반영하되 취약계층에 미칠 위험을 중점적으로 살피는 AI 안전성 평가 기준도 개발할 예정이다.

이 같은 논의는 지난 19일 부산대 IT관에서 열린 '제2회 AX 인권·안전 포럼: 사회적 얼라인먼트를 위한 과제'에서 구체화됐다.

포럼에는 부산대 정보컴퓨터공학부와 국방기술연구센터, 사회조사연구센터, SSK 느린 재난 연구팀, 한국AI보안협회가 참여했다.

발표자들은 공공부문의 AI 활용이 늘어날수록 판단 과정의 설명 책임과 시민의 이의 제기 권리가 중요해진다는 점을 짚었다.

백범석 경희대 법학전문대학원 교수는 행정기관이 AI를 사용하더라도 판단의 근거를 설명하고 잘못된 결과를 바로잡을 책임은 국가에 있다고 강조했다.

서현수 한국교원대 교육정책대학원 교수는 선거 과정의 딥페이크와 거대 기술기업에 집중되는 영향력 등을 민주주의의 위험요인으로 제시했다. 이에 대응하려면 시민의 참여 기회와 알고리즘의 투명성을 높여야 한다고 설명했다.

AI 모델의 안전성을 평가한 시험 결과도 발표됐다.

손준영 부산대 정보컴퓨터공학부 교수는 660개 평가 문항으로 상용 및 공개 가중치 AI 모델을 시험한 결과, 위해성이 있는 답변이 20~40% 확인됐다고 밝혔다. 이는 발표자가 제시한 시험 결과로, 모든 AI 모델의 일반적인 위험 비율을 뜻하는 수치는 아니다.

주윤정 부산대 사회학과 교수는 기술이 빠르게 확산하는 만큼 피해가 발생한 뒤 수습하는 방식만으로는 한계가 있다며, 개발 초기부터 사회적 영향을 검토해야 한다고 강조했다.

김정구 한국AI보안협회장 겸 부산대 정보컴퓨터공학부 교수도 사람의 감독 능력을 높이고 기술 분야와 사회과학 분야가 함께 책임 있는 AI 체계를 설계해야 한다는 입장을 밝혔다.

부산대는 앞으로 연구센터 설립을 통해 AI가 노동·교육·민주주의 등에 미치는 영향을 분석하고, 공공기관과 기업에 필요한 정책 자문과 실무교육을 제공하는 방안을 추진할 계획이다.

동남권 대학과 연구기관, 시민사회 및 산업계와의 연계도 구상하고 있다. 국내 연구 결과를 국제적인 AI 규범 논의와 연결하는 방안 역시 장기 과제로 제시됐다.

부산=김성욱 기자