[공부log 24.12.25] 연말 회고, 대학원생 졸업 주제, 데잇걸즈 네트워킹 모임 등의 근황

가끔 이렇게 노란색만 들어있는 하리보 있음..

 
 
약 3개월만에 쓰는 블로그 일상글..껄껄..
안쓰다보니까 계속 안쓰게 되는 듯하다
사실 몇 번 임시저장 했는데 그래놓고도 안써서 날라간듯..
((임시 저장이 아니라 그냥 저장하다가 증발..))
 
 
근 3개월간의 내용을 휘리릭 정리해보고 연말 회고를 하고자 한다
 
 
 
 

---

 
 
 

1. 대학원 졸업 주제

10월 초쯤부터 결국 눈독 들이고 있었던 졸업 주제를 시작하게 되었다.
졸업 주제를 시작하려고 시작한 것이 아닌 그냥 연구하다가 이게 졸업 주제가 되었다.
 
3학기 시작할 즈음부터 졸업 주제 LLM 해야지라는 생각 정도만 했었는데 연구를 하다보니 이게 졸업 주제가 되었다.
 
졸업주제까지 오게 된 스토리가 있는데
일단 원래 한 학회에 낼 목적으로 실험을 하고 있는 연구가 있었다 (=이상탐지 쪽)
결론적으로는 너무나 결과가 무의미해서 애초에 아이디어가 무의미하다는 것을 알게되었었다
 
그 즈음에 공모전을 하려고 하고 있었고 그 과정에서 멀티모달 아키텍처인 LLaVA를 처음 접하게 되었다.
 
 
 
 

9월말 일상글 발췌

 
당시 LLaVA를 어떻게 쓰나해서 github에 LLaVA를 전체적으로 검색하다가 LLaVA 활용 예시를 많이 알게되었고
이를 연구실에 관련 주제를 하는 언니에게 공유했었다.
언니도 내가 원래 목표하던 학회에 관심을 가지고 있었는데 그 학회의 일정이 연기되었다는 이야기를 해줬다.
((그 연기는 심지어 두 번째 연기였다. 밥 먹듯이 일정이 밀리는 해외 학회들..))
하지만 이 쯤엔 이미 나는 연구를 폐기하기로 결정한 상태였어서.. 아쉽다라는 생각을 하다가..
1분정도 고민 후 바로 다시 언니한테 전화를 걸어서 차라리 언니 주제로 공동 연구를 하자고 했다
 
그렇게.. 우리는 8일만에 모든 실험과 작성을 마치고 학회에 냈다.
이미 언니가 틀은 잡아놨었고 내가 아키텍처를 구현해봤기 때문에 빠르게 구현을 할 수 있었던 덕이지만
정말 그 8일은..다시 생각해도 아찔..
 
학회 결과는 11월 말에 나왔는데 결론적으로는 3명 중 2명은 accept 을 줬지만 떨어짐
((그냥 학회는 참.. 케바케 운이긴 하다))
공동 연구한 언니가 이 주제로 졸업 주제를 작성하기도 했고 해서 석사 심사 준비 + 재투고를 목표로 바로 고도화 연구를 했고 
결과 12월 중순에 새로운 해외 학회에 고도화 내용을 투고했다.
 
마지막에 디테일한 부분을 마저 수정했으면 좋았을 것 같긴 하지만,,, 일단 투고를 했고..
정 안된다 싶으면 해외 저널로 돌릴 예정이다.
그래도 지금까지 연구 중에는 가장  재미있고 트렌드한 주제라 기대가 되긴 하다
 
그래서 결론적으로는 이 연구를 고도화 해서 졸업주제로 낼 예정이다.
어느정도 고도화 포인트도 있고 큰 틀은 잡혀 있는 상태여서 큰 부담이 있지는 않은 상태..
취업만 하면 되겠다~
 
 
 
 
 
 
 
 
 

노트북 꾸미기 처음 해봄 너무 이쁨 ㅎㅎ / 투명 스티커 발라서 나중에 뜯기 편하게 함

 

2. GPU 서버와 OPENAI

요즘 가장 어디에 돈을 많이 쓰냐 하면 GPU 서버랑 openai api 아닐까 싶다...
이것이 대학원생...?
 
앞에 나온 8일만에 모든 실험을 어떻게 다 했냐 하면 "캐충"을 했다
ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ
요즘 랩실에서 많이 쓰는 표현인데 현질을 통해 해결하는 것
 
LLM 연구이다보니 학습하는데에도 자원 (GPU, 시간)이 많이 들고, 추론에도 시간이 많이 든다
특히 LLM 연구는 베이스라인 추론을 많이 하기 때문에 자원은 항상 부족..
8일만에 다 하기 위해서는 절대적으로 자원이 부족했고 GPU 서버를 대여하는 방안을 선택했다
 
코랩, GPU 노트북, GCP/AWS, 국내 GPU 서버 대여, 해외 GPU 서버 대여 등을 알아봤고
결론적으로는 해외 GPU 서버 대여해주는 서비스인 VAST.AI 를 사용하기도 했다
연구하다가 VAST AI 사용해서 학습했다라는 내용을 봤었고 알아봄
가장 저렴하고 사용하기도 쉽다
 
근데 단점은 덮어두고 쓰다보면 거지꼴을 못 면함
그래서 최대한 가지고 있는 자원으로 하고 정 안되면 황금 카드를 꺼낸다...
 
 
그리고 OPENAI API 도 정말 많이 쓴다
추론용으로도 많이 쓰고 공모전 나갔을 때 데이터 생성용으로도 정말 많이 쓰고
수업 주제로도 사용했기에... 진짜 많이 쓴다..
 
 
 
 
 
 
 
 
 

3. 중요하지만 급하지 않은 것

12월 초부터 뭐 현재까지도.. 연말, 연초 모임을 많이 가지고 있다
 
그 중 하나가 데잇걸즈 네트워킹 모임이였는데
삶에 대해서 생각해볼 수 있는 자리였다
 
대학원생은 너무너무 현생이 바빠서 내가 무엇을 위해 사는지, 내가 원하는게 뭔지 이런 고찰을 할 수 없다
이 삶이 다가 아니란 것도 알지만 그럼에도 불구하고 너무 바쁘니까 생존하면서만 살아나가는 것이다
네트워킹 모임에 나가고 연말 모임을 나가면서
그래 원래 이런 생각을 하고 보통의 사람들은 이런 삶을 살지 라는 생각을 하게되는 시간들이였다.
 
네트워킹 모임에서는 몇몇 분들이 발표 세션을 해주셨다. 
그 중 인상 깊었던 것은 자신의 삶에 대해 정체성과 미션을 명확하게 생각하면서 살아나가시는 분들이 많다는 것이다.
그냥 현재를 대강 살아나가는 것이 아닌 스스로에 대한 이해를 바탕으로 사는게 참 중요한데
내가 그걸 안하고 있는게 아닌가 싶었다
 
20대 중반에 첫 취업을 하면서 단순히 졸업과 취업을 완료했다 해서 삶이 끝나는게 아닌 것을 많이 느꼈다.
급급하게 살아서 빨리 취준을 끝내고 싶었는데 막상 끝내고 난 뒤에야 내가 뭘 원했지 라는 생각을 하게 된 것이였다.
요즘에도 너무 삶이 힘들다보니 그냥 졸업만 빨리 했으면 좋겠고 얼른 취준을 해서 여유롭게 살고 싶다는 생각을 자주 하는데 바쁘지만 틈틈히 고찰을 하며 살아야겠다고 생각했다.
 
 

아이젠하워 매트릭스

 
그리고 또 크게 인상깊었던 부분이 "중요하지만 급하지 않은 것"에 대한 짧은 이야기이다.
이 내용이 발표 주제는 아니였고 발표 이후 질문시간에 나온 말이였는데
일이 너무 많은데 일 관리를 어떻게 하냐라는 내용이였다
답변 해주시는 분은 아이젠하워 매트릭스를 생각해 결정한다고 말씀하셨다
 
중요도와 급한 정도를 바탕으로 일의 순서를 결정하는 방법론인데
나도 저 매트릭스 바탕으로 일을 결정하는 편인데...
저 매트릭스를 사용하게 되면 중요하지만 급하지 않은 일은 계속 밀린다라는 단점이 있다고 말씀하셨다.
나는 그냥 순간순간 일을 끝내고 아무 생각없었는데 그 말을 듣는 순간 헉.. 했다
정말 맞는말..
 
항상 저 매트릭스를 생각하면 결국 중요하고 급한 일을 한 다음에는 중요하지 않지만 급한일을 하게 되고
결국 중요하지만 급하지 않은 일은 증발해버린다
스케줄을 짜도 그 스케줄을 급한 일들이 밀어버리기 때문에...
 
 
 
 
 

 
최근에 체험형 인턴 면접을 하나 보게되었는데 이론 질문을 왕창 받았다
이론 공부에 대해 중요하다고 생각하면서도 항상 연구나 프로젝트의 급함이 더 커서 미루어왔다.
면접을 보고 나니 다시 한 번 중요하다라고 깨닫...
 
저 중요한 일을 하기 위해 대학원에 왔는데 한 학기가 남았는데에도 신경을 많이 못쓰고 있는 자신을 보면서 눈물...
 
일단 그래서 매주하는 LLM스터디에서 조금씩 공부하고 있다
급한 프로젝트가 끝났고 종강도 했으니 진짜 이론공부 하겠다..
저 매트릭스를 뿌실 수 있는게 아니니까.. 급한 일을 줄이는 것에 신경을 써야겠다
그래야 연구가 아닌 공부를 하는데...
 
 
 
 
 
 
 
 

요즘 너무 재밌게 본 풍향고 지석진이 너무 좋아

4. 동아리 한 학기 끝남

한 학기동안 참여했던 동아리가 4주간의 방학에 돌입했다
좀 허전한데 좀 좋아
ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ
 
이제 신입 기수를 뽑는다. 모집 홍보글도 올림~
https://uni-datastudy.tistory.com/92

BOAZ 24기 신입기수 모집 소식 (+엔지니어링 파트 23기 대학원생 후기글)

 
 
다음학기 동아리는 프로젝트하는 ADV 세션이라 좀 신경을 써야하지 않을까하는데
기대되고 걱정되고 그렇다
 
그래도 너무 만족스러웠던 동아리이다.
왜냐면 최근에 수업에서 구현할 때 도커 써서 의존성 이슈 싹 해결해서.. 뿌듯 그 자체..
역시 아는만큼 할 수 있는 이 IT 분야란...
 
 
 
 
 

 

5. 여튼 계획은...

일단 또 급한거 먼저 하고...ㅋㅋㅋㅋㅋㅋㅋㅋㅋ 아 진짜 나는..ㅠㅠㅠ
지금 국내 저널 논문 하나 쓰고 있는데 금요일에는 낼 거임. 이 내용은 투고하고 다시 쓸 수 있으면 쓰도록 하겠음
그리고 포폴 정리할거임. 포폴 기깔나게 정리하고 여기에 올리겠음 진짜..
기깔난 아이디어 있는데 해보자구..
그리고 이론공부도 하고 책도 좀 보고 코테 공부도 하고 진짜...
 
to be continued....