Paper Study Graph
점 하나가 읽은 논문 한 편이고, 주제가 가까운 논문끼리 모여 있습니다. 점에 마우스를 올리면 논문 정보를, 클릭하면 원문을 볼 수 있습니다.
Unlearning & Continual Learning
Continual Unlearning
- Which Concepts to Forget and How to Refuse? Decomposing Concepts for Continual Unlearning in Large Vision-Language Models
CVPR 2026
지울 대상을 시각·텍스트 개념으로 분해하고 개념별 거부 전문가로 응답
- The Forgetting-Retention Dilemma: Certified Unlearning Theory in Continual Learning
ICML 2026
Continual Learning 중의 unlearning을 하나의 초과 위험 목표로 보고 인증 가능한 방법을 제시
- Adaptive Localization of Knowledge Negation for Continual LLM Unlearning
ICML 2025 · Poster
task vector의 gradient를 마스킹하고 요청마다 망각 강도를 조절
- On Large Language Model Continual Unlearning
ICLR 2025
요청마다 직교 LoRA를 두고 추론 시 OOD 탐지기로 불러오는 Continual LLM Unlearning
- Locality-Aware Continual Unlearning for Diffusion Models
arXiv 2025
T2I diffusion에서 개념을 순차적으로 지우면서 의미상 가까운 개념을 보호
Machine Unlearning
- Distillation Robustifies Unlearning
NeurIPS 2025 · Spotlight
지운 지식이 쉽게 되살아남을 보이고, 증류로 망각을 견고하게 만듦
- Balancing Forget Quality and Model Utility: A Reverse KL-Divergence Knowledge Distillation Approach for Better Unlearning in LLMs
NAACL 2025
Reverse KL 증류로 토큰 분포에서 지울 대상의 성분만 제거
- UnDIAL: Self-Distillation with Adjusted Logits for Robust Unlearning in Large Language Models
NAACL 2025
조정된 logit으로 자기 증류해 불안정한 gradient ascent 없이 타깃 토큰을 낮춤
Continual Learning
- Orthogonal Subspace Learning for Language Model Continual Learning
EMNLP 2023
새 태스크를 이전 태스크와 직교하는 LoRA 부분공간에서 학습
- InfLoRA: Interference-Free Low-Rank Adaptation for Continual Learning
CVPR 2024
새 태스크가 이전 태스크와 간섭하지 않도록 LoRA 부분공간을 설계
- Select and Distill: Selective Dual-Teacher Knowledge Transfer for Continual Learning on Vision-Language Models
ECCV 2024
원본 모델과 직전 모델 중 교사를 골라 증류해 Vision-Language 모델의 망각을 줄임
Efficient Adaptation
PEFT
- DoRA: Weight-Decomposed Low-Rank Adaptation
ICML 2024 · Oral
가중치를 크기와 방향으로 나누고 방향을 LoRA로 학습
- DiaBlo: Diagonal Blocks Are Sufficient For Finetuning
ICLR 2026
low-rank 어댑터 대신 가중치 행렬의 대각 블록만 학습
Reliability
Confidence Calibration
- A Stitch in Time Saves Nine: A Train-Time Regularizing Loss for Improved Neural Network Calibration
CVPR 2022
모든 클래스에서 신뢰도와 정확도를 맞추는 학습 시 정규화 손실
- On Calibration of Modern Neural Networks
ICML 2017
현대 신경망의 과신 문제를 보이고 temperature scaling으로 보정
- Measuring Calibration in Deep Learning
CVPR Workshops 2019
ECE의 한계를 분석하고 더 나은 calibration 지표를 제안
Foundation Models
CV
- Deep Residual Learning for Image Recognition
CVPR 2016 · Best Paper
잔차 연결로 아주 깊은 신경망도 성능 저하 없이 학습되게 함
- Rich Feature Hierarchies for Accurate Object Detection and Semantic Segmentation
CVPR 2014
영역 제안을 CNN 특징으로 분류해 객체를 탐지
- You Only Look Once: Unified, Real-Time Object Detection
CVPR 2016
탐지를 하나의 회귀 문제로 풀어 실시간으로 객체를 탐지
- An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale
ICLR 2021 · Oral
이미지를 패치로 나눠 순수 Transformer로 분류
- Generative Adversarial Networks
NeurIPS 2014
생성자와 판별자를 경쟁시켜 데이터 분포를 학습
- NeRF: Representing Scenes as Neural Radiance Fields for View Synthesis
ECCV 2020 · Oral, Best Paper HM
장면을 신경 방사장으로 표현해 새로운 시점의 이미지를 합성
NLP
- Attention Is All You Need
NeurIPS 2017
순환 구조 없이 self-attention만으로 시퀀스를 모델링
- BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding
NAACL 2019
Masked LM으로 양방향 Transformer 인코더를 사전학습