포스텍, 틀린 단서 스스로 고치는 이미지 분할 기술 개발

추가 학습 없이 AI 성능 높이는 'PR-MaGIC'

김원화 포스텍 교수 (사진= 포스텍 제공)

최근 포스텍 연구진이 AI 스스로 자신이 받은 단서를 점검하고 틀렸으면 고쳐가는 이미지 분할 기술을 개발했다.

이 연구는 컴퓨터비전 분야 권위 있는 국제 학회인 'CVPR 2026'에서 구두 발표 논문으로 선정되며 우수성을 인정받았다.

'이미지 분할'이란 사진이나 영상 속에서 원하는 물체가 있는 부분만 정확히 오려내는 기술이다. 자율주행차가 보행자와 차량을 구분할 때, 의료 AI가 CT나 MRI 영상에서 병변 부위를 찾아낼 때, 사진 편집 앱에서 배경을 지우고 인물만 남길 때 모두 이 기술이 쓰인다.

최근에는 사람이 사진 위에 점 하나만 찍거나 상자를 그려주면, AI가 그 힌트를 보고 물체 전체 영역을 알아서 찾아주는 기술이 발전했다. 이 방식의 대표주자가 바로 'SAM(Segment Anything Model)'이다.

문제는 AI에게 주어지는 힌트가 항상 정확하지는 않다는 점이다. 예를 들어 한 사진 속 코끼리를 참고삼아 다른 사진 속 코끼리를 찾으라고 시켰을 때, 두 사진 촬영 각도나 배경이 다르면 AI는 엉뚱하게 코끼리 주변 배경을 선택하거나 코끼리 일부분만 찾아내는 실수를 저지른다.

연구팀은 처음 받은 힌트를 그대로 믿는 대신 AI가 스스로 검증하고 다시 고쳐 쓰는 방법을 개발했다. 기술의 이름은 'PR-MaGIC(Prompt Refinement Via Mask Decoder Gradient Flow For In-Context Segmentation)'으로 기존 이미지 분할 AI가 가진 지식을 활용해 처음 만들어진 힌트를 자동으로 개선한다.

기존 방식이 "이 위치를 참고하면 된다"라는 정보를 그대로 사용했다면, PR-MaGIC은 "이 힌트가 정말로 내가 원하는 물체를 가리키고 있나?"를 다시 확인하는 셈이다.

탐정이 제보를 그대로 믿지 않고 현장 단서를 재차 확인하며 사건을 풀어가듯, PR-MaGIC도 힌트의 위치를 반복해서 조정해 나간다. 이 과정을 거치면 작은 점 하나에 불과했던 정보가 점점 물체 전체 영역으로 넓어지고, 그 결과 더 정확한 윤곽선과 세부 부분까지 찾아낼 수 있다.

이 기술의 가장 큰 장점은 기존 AI를 처음부터 다시 훈련할 필요가 없다는 점이다. 새로운 데이터를 잔뜩 모으고 막대한 컴퓨팅 자원을 들여 AI를 재교육하는 대신, 이미 학습이 끝난 모델에 약간의 추가 계산만 더해주면 성능이 올라간다.

연구팀은 여러 공개 이미지 데이터로 PR-MaGIC 성능을 검증했고, 다양한 환경에서 기존 방법보다 더 높은 정확도와 안정성을 확인했다.

또한 이 기술은 기존 이미지 분할 모델에 쉽게 결합할 수 있어 정확한 물체 인식이 중요한 의료 영상 분석, 자율주행, 로봇 등 여러 분야에서 활용될 것으로 기대된다.

연구를 이끈 김원화 교수는 "사전 학습된 AI 모델을 다시 훈련하지 않고 적은 추가 계산만으로 성능을 높일 수 있다는 점에서 높은 평가를 받아 CVPR 구두 발표 논문으로 선정됐다"며 "AI를 활용하는 데 드는 시간과 비용을 줄이고, 기존 AI 기술이 쓰일 수 있는 범위를 넓히는 데 기여할 것"이라고 말했다.

논문 제1저자인 이민재 씨는 "기존 이미지 분할 모델에 쉽게 적용할 수 있는 PR-MaGIC은 의료 영상, 자율주행, 로봇 등 높은 정확도의 객체 인식이 필요한 다양한 분야에서 AI의 신뢰성을 높이는 데 활용될 수 있을 것"이라고 전했다.


포항=김규동 기자