빛예닮특강 - 논문읽는법

1. 제목 & 저자

제목을 통해 해당 논문이 어떤 내용을 담고 있을지 상상해 보는 것이 좋음.

• 예를들어 Show, Attend and Tell: Neural Image Caption Generation with Visual Attention 해당 논문의 제목만 보고 ‘’아 이 논문은 Image Caption에 대한 논문이겠구나. 오 근데 시각적인 Attention을 이용했네?’ ‘Attention이 뭐지? 그냥 읽을까?’ ‘조금 찾아보고 읽을까?’ ‘아 이건 완벽하게 공부하고 다시 읽자’ 와 같이 모르는 용어가 나타났을 때 어떻게 대처할지 등 논문을 읽을 방향성을 잡을 수 있다.
• 멘토님은 아주 조오오오금 (사전지식 정도만) 서치하고 읽는다고 하심

또한 제목과 더불어 저자를 보면 논문의 신뢰성을 대략적으로 추정할 수 있음.

• ex) 조경현교수님: RNN의 축을 그으셨던 대가가 참여했으니 이 논문의 수식이나 피쳐들에는 오류가 없겠구나!
• 신뢰성이 중요한 이유 중 하나: 매우 유명한 GAN 논문에는 수식의 오류가 있었음. 즉, 저자를 보고 의심할 수 있는 능력이 있어야 함.

2. Abstract

2. Abstract

최대한 꼼꼼하게 읽자. Abstract 부분은 논문에서 가장 처음으로 읽게 되는 파트다. 해당 파트를 읽고 이 논문을 계속 읽을지 말지 판단할 수 있기 때문이다.

• ‘Abstract만 읽었는데 재밌네’ -> 논문을 읽어봐야겠다!
• ‘이거 Abstract 너무 어려운데..?’ 혹은 ‘하나도 이해 못하겠다..’ -> 읽지 않는 편이 좋음.

3. Instruction

Abstract를 읽고 논문을 계속 읽는 것으로 결정하였다면, 다음은 Instruction을 읽자. 논문이 나타난 이유나 해당 논문에서 이야기하고 싶은 내용을 파악할 수 있음.

다만 Instruction 파트가 너무 길 경우에는 다짜고짜 읽지 말고 우선 논문 전체의 Figure을 쭉 훑는다. Figure를 보면 해당 논문에서 이야기하고자 하는 모델이 어떤 모델일지 대략적으로 알아낼 수 있다.

또한 Figure를 보면서 해당 논문이 어떤 내용에 대해서 다루는 것일지 예측해보자. 계속해서 뒤에 나올 내용에 대한 예측의 중요성에 대해 언급을 하시는데, 예측이 맞는지 틀린지에 대한 여부로 본인이 논문에 임하는 자세를 수정하거나 자신감을 얻을 수 있음. (예측이 맞다면, 아 내가 논문을 잘 읽고 있구나. 반대로 틀렸다면, 아 조금 더 신경써서 읽어봐야겠다.)

Instruction을 읽으면 해당 논문을 가볍게 읽을지 딥하게 읽을 지 결정할 수 있다.

3-1. Light 하게 읽기

별 거 없다. 짧게 훑어보고 말자.

3-2. Deep 하게 읽기

논문을 신경써서 읽어야겠다고 다짐했다면, 다음으로 봐야할 부분은 Model 파트이다. 모델 구조를 먼저 보자. 최근에 나오는 논문들은 SOTA를 달성한 모델들의 특징이 비슷하게 나타나있는 경우가 많은데, 예를들어 모델 구조에 Encoder가 포함되어 있다면, 쌍으로 Decoder가 등장할 것임을 예측할 수 있다.

여기부터는 Figure 혹은 글을 보고 이해가 되지 않는 부분이 생길 수 있는데 딥하게 읽기로 결정했으니 논문을 반복해서 읽으면서 이해하도록 노력해야한다. 그럼에도 이해하지 못했다? 그럼 또 읽어라.

이렇게 쭉 읽어나가면 된다!