전주대학교 인공지능학과

1. 제목 : 시각화 오토인코더를 사용한 학습된 심층신경망의 잠재공간 조작 시스템  

4. 주요내용 :

최근에 생성모델, 특히 ChatGPT와 DALLE-3과 같은 생성모델들은 사회에 큰 영향을 미치며, 이러한 모델들의 잠재공간을 정교하게 조작하고 이해하는 기술이 중요해지고 있다. 본 논문에서는 학습된 생성모델의 잠재공간을 시각화하여 조작하는 새로운 방법인 “시각화 오토인코더” 방법을 제안한다. 심층신경망 모델에 대해 제안된 시각화 오토인코더 방법으로 관심있는 샘플을 생성, 변환 과정을 시각화할 수 있음을 확인하였다. 

아래는 숫자 이미지를 학습한 후 잠재공간에서 관심있는 이미지 2개 사이의 공간을 제안하는 방법으로 들여다본 결과이다.

현재 인공지능은 모델의 과정이 일명 "Black box"로 불리며 해석하기 어렵다는 의견이 있다. 이 방법을 사용하면 시각적으로 잠재공간을 탐색할 수 있어 모델을 이해하는데 중요한 툴로써 잠재력이 있다.