[BoostCamp AI Tech / P Stage 2] Day53 - Project Day 13

P Stage 2 : Project Day 13

---

Day 13 list

1. VASP PyTorch 모델 개발

---

VASP PyTorch 모델 개발

• 지난번에 발표한 VASP 논문의 PyTorch 구현으로 코드를 개발했음
• 구현은 했으나 완전히 제대로된 코드라고 보기는 어려워서 더 수정을 진행할 필요가 있어보임
• 특이한점음 nn.Linear 1개로 구성된 NEASE 모델의 Recall 성능이 상당히 좋다는 점
• 구현 깃허브

구현 review

• FLVAE 모델이 Focal loss를 사용한 ELBO를 loss로 활용하는데 이 과정에서 사용되는 수식적 구현이 조금 의아한 것이 있음
• 이활석님께서 VAE에 대해 설명하신 강의가 유튜브에 있는데 참고해서 수식적인 공부랑 VAE 공부를 자세히 할 필요가 있을듯
• NEASE는 구현상에 큰 문제가 없는데 논문에서 NEASE와 FLVAE가 각각의 loss로 학습하는 것으로 보이는데 일단 이걸 어떻게 병렬적으로 학습하는가?
• 그리고 과연 Hadamard Product가 진짜 의미가 있을까?라는 의문
• 최종 output에 대한 loss는 어떻게 학습해야하는가?