찬우의 딥러닝

근황미국 생활 2년차가 끝났다. 앞으로 3년만 더 하면 졸업할 수 있다. 최근 생각나는 것을 적어본다.지도교수지난 학기에 co-advising 을 받기 위해 노력했지만, 잘 되지 않았다. 오히려 좋은 기회라고 생각하고 있다. 현재 지도 교수와는 잘 맞지만, 응용 분야의 교수님과도 co-advise 받고 싶었다. 둘의 시너지 (이론 (소셜이론 / 게임이론 / 머신러닝이론) + 응용 (로봇 / 머신러닝) )이 나는 기대가 (아직도) 된다. 그러나 이미 2년차라 교수님들이 부담스러워했다. 사실 당연한 일이다. 같이 일도 안 해본 (1년차가 아닌) 사람을 어떻게 믿고 co-advise 를 해줄 수 있는가... 오히려 올바른 교수님을 찾아갔다고 보는 게 맞을 것 같다. 그 랩 미팅에 계속 나가고 있으며, 열심히 ..

1. 2개의 논문을 뉴립스에 공동 1 저자로 제출 완료했다. 첫 번째는 https://arxiv.org/abs/2305.06628 로 function value minimization과 gradient value minimization의 duality를 증명하는 논문이다. 2년간 내가 가지고 있던 질문을 https://sites.google.com/snu.ac.kr/jaeyeonkim 과 함께 해결하였다. 인턴임에도 불구하고 매우 뛰어난 아이디어와 끈기에 놀랐다. 이 친구가 내가 막혀있던 (무려 2년간!!) 부분을 뚫었다고 해도 과언이 아니다. 앞으로 계속 일을 같이 하고 싶은 친구라서, 많은 논문들과 아이디어를 공유하려고 노력 중이다 ㅎㅎ 이 논문은 ICML Duality workshop에서 oral을..

에 되었다. https://engineering.mit.edu/students/graduate-student-fellowships/ MIT School of Engineering | » Graduate Student Fellowships The MIT School of Engineering has a number fellowship opportunities for current graduate students. Students are encouraged to reach out to their academic officers or academic administrators for information regarding applying to specific fellowships. Abdul engineeri..

이번에 친구가 같이 해보자고 해서 Quantum Hackathon을 참가하게 되었다. 퀀텀에 대해서 아무것도 모르다가 첨 제안이 온 이후부터 열심히 보기 시작했다. Shor Algorithm 등등을 첨 익혔을 때 소름 돋았다. 퀀텀 이론으로 정말 ml theory의 지평을 열 수 있을 것 같았다. 실제로 해커톤에 참가하면서 많은 것을 느꼈다. 1. 퀀텀 컴퓨팅은 아직 멀었다. IBM 의 퀀텀 컴퓨터를 이용했다. X gate (대충 180도 회전)을 2n개 적용한 quantum circuit이 실제 device 내에서 다시 원상태로 돌아오지 않고 180도가 돌아있었다. 나도 돌아버릴 뻔했다. 퀀텀 서킷이 조금만 깊어도 잘 안된다는 뜻이다. 2. 이론적으로 너무 재밌다 미친 알고리즘들이 많다. 넘 간단한 아..

이번 반기에 제일 열심히 한 것 같다. 정말 시야가 많이 늘었다. DL Theory (Tengyu Ma), Causality (Pearl), RL Theory book (AJKS), Geometric Deep Learning, GNN 페이퍼 수십 개, RL Theory paper 수십 개, Game Theory, Information Theory, Multi-agent RL 페이퍼 여러 개, Algorithmic Game Theory, ML with optimization... 이외에도 여러 주제들을 ML Theory Korea 그룹에서 다뤘다. 앞으로 미국 나가면 많이 못 다룰거 같은데, 뒤에 있는 사람들이 잘 이 좋은 것들을 이어주면 좋겠다. 여기서 여러 가지 연구를 같이 세미나 한 사람들이랑 시작했..