딥러닝2 Virtual Class Enhanced Discriminative Embedding Learning. NIPS. 2018. Virtual Softmax 1. Method 이 논문에서 제안하는 Virtual Softmax는 Softmax에서 파생된 classifier입니다. 먼저 Softmax의 수식은 아래와 같습니다. $$ \frac{\mathcal{e}^{W^{T}_{y_i}X_i}}{\sum^C_{j=1}\mathcal{e}^{W^{T}_{y_j}X_i}} $$ Softmax는 수식에서 볼 수 있듯이 weight와 입력의 feature의 inner product \(Wx\)를 기반으로 연산됩니다. 학습 중에는 \( W^T_{y_i}X_i > \max_{j \in c, j \neq y_i}(W^T_jX_i)\)를 충족하도록 penalty를 부여함으로써 입력이 올바른 class로 분류되도록 합니다. 하지만, Softmax는 .. 2021. 7. 28. HRN: A Holistic Approach to One Class Learning. NIPS. 2020 HRN: H-Regularization with 2-Norm instance level normalization 1. Background 1.1 One-Class Learning \( \mathcal{X} \)를 모든 data라고 하자. 이 때, \( X\subseteq \mathcal{X} \)는 특정 class에 속한 모든 instance들의 집합이라고 하자. One-class learning에서는 training dataset \( T \subseteq X \)이 주어진 상황에서 one-class classifier \( f(x) : \mathcal{X} \rightarrow \{ 0, 1 \} \)를 학습하고자 한다. 여기서 \( f(x)=1 \)는 \( x \in X \)인 경우이고, 관측한 c.. 2021. 7. 26. 이전 1 다음
