비전 트랜스포머의 정규화 장치 및 방법

초록

비전 트랜스포머의 어텐션 맵과 합성곱 신경망의 활성화 맵 간의 학습 가능한 어텐션 링크를 이용한 비전 트랜스포머의 정규화 장치 및 방법이 개시된다. 일 실시예에 따른 비전 트랜스포머의 정규화 방법은 비전 트랜스포머(Vision Transformer)를 통하여 입력 이미지 데이터로부터 하나 이상의 어텐션 맵(attention map)을 생성하는 어텐션 맵 생성 단계; 합성곱 신경망(Convolutional neural network, CNN)을 통하여 입력 이미지 데이터로부터 하나 이상의 활성화 맵(activation map)을 생성하는 활성화 맵 생성 단계; 및 하나 이상의 어텐션 맵 및 하나 이상의 활성화 맵에 기초하여 생성된 손실함수를 이용하여 비전 트랜스포머를 정규화하는 정규화 단계를 포함할 수 있다.