EURO LLVM Developers’ Meeting 2023
올해 5월 EURO LLVM Developers’ Meeting(이하 euroLLVM)에 발표자로 참석하게 되어 학회 참석기를 작성해보았습니다.
euroLLVM은 LLVM Foundation 에서 주최하는 국제 학회로, 오픈소스 컴파일러 프레임워크인 LLVM과 LLVM 관련 프로젝트들의 개발자와 사용자들이 모여 발표하고 네트워킹하는 자리입니다.
올해는 5월 10일부터 11일 이틀동안 스코틀랜드의 글래스고(Glasgow)에서 학회가 열렸습니다. 학회만큼 멋진 도시여서 포스팅 말미에 글래스고에 대해서도 간단히 소개하려고 합니다.
학회 참석 전
ML2에서는 컴파일 최적화와 관련된 연구를 진행해 왔었는데요, 최적화 과정을 디버깅하기 위해 Control Flow Graph를 interactive하게 비교할 수 있는 웹앱을 개발해 오픈소스로 공개하게 되었습니다. 이렇게 만들어진 LLVM-FLOW에 대한 내용을 euroLLVM에 제출하였고 리뷰 과정을 거쳐 Lightning Talk로 accept되었습니다! 👏
발표자로 확정된 후 발표 준비부터 학회를 즐기기 위한 다양한 준비들을 하였는데 성공적이였던 준비물 하나를 소개합니다.
바로 usb! 학회장에서 만나게된 분들에게 명함과 함께 전달할만한 선물로 ML2소개를 각인한 카드형 usb를 준비해갔습니다. 부피가 크지 않아 가지고 다니기도 편했고, 무엇보다도 받으신 분들이 좋아해 주신 아이템이라 학회 참석 예정이신 분들에게도 추천드립니다.
학회 참석
학회는 글래스고의 Double Tree by Hilton Hotel 에서 진행되었습니다.
1층 로비를 따라 들어가면 중앙 홀과 3개의 컨퍼런스룸이 준비되어 있고, 이곳에서 다양한 세션이 이틀동안 진행되었습니다. 모든 세션은 대면으로 이루어지기 때문에 참석자들이 많았습니다.
올해 학회에서 가장 많이 언급되고 많은 사람들이 관심있어한 것은 단연 ‘MLIR’ 이였습니다.
MLIR은 Multi-Level Intermediate Representation의 약자로 다양한 컴파일러 및 도구에서 사용할 수 있는 범용 언어 중간 표현입니다. 여러 언어 및 하드웨어 타겟에 대한 최적화를 가능하게 하는 추상화를 제공하고, 특히나 텐서 연산을 포함한 다차원 데이터의 표현과 최적화에 효과적입니다. (참조 : https://mlir.llvm.org/)
Tensorflow, Pytorch 등 딥러닝 프레임워크에서 MLIR을 활용해 그래프 컴파일과 최적화를 통해 성능을 향상시키고 다양한 하드웨어 및 실행 환경에서 모델을 효율적으로 실행할 수 있습니다. 또한 얼마 전에 공개된 AI 개발자를 위한 언어인 Mojo도 MLIR을 기반으로 하고 있어 관심있게 살펴볼만한 주제라고 생각됩니다.
머신러닝/딥러닝과 연관된 발표들도 있어 그 중 몇 가지를 소개합니다.
- ML-on-CPU: should vectorization happen in the LLVM backend or higher up the stack?
- Tensor Evolution - An ML Graph Optimization Technique
- Cost Modelling for Register Allocation and Beyond
- Buddy Compiler: An MLIR-based Compilation Framework for Deep Learning Co-design
- ML-LLVM-Tools: Towards Seamless Integration of Machine Learning in Compiler Optimizations
머신러닝 컴파일 스택 중 하나인 TVM과 LLVM의 상호작용을 다룬 내용, 컴파일 최적화 과정에서 휴리스틱하게 이루어지는 register allocation 부분을 머신러닝을 이용해 효율성을 높인 연구, MLIR과 RISC-V를 기반으로 한 딥러닝 인퍼런스 프로세스 설계에 관한 이야기 등 컴파일과 머신러닝이 결합한 흥미로운 주제들이 많았습니다. 발표 영상은 추후 LLVM 공식 유튜브에 올라온다고 하니 찾아보셔도 좋을 것 같습니다.
저는 학회 이튿날 Lightning Talk세션에서 ’Spot the Difference with LLVM-FLOW: an open-source interactive visualization tool for comparing IR CFGs’ 란 주제로 발표하였습니다. 아래 사진들은 발표 당시 모습인데요, 자세한 발표 내용은 📌 LLVM-FLOW 페이지에 포스팅 해두었습니다!
학회에서 참석자들을 위해 준비한 식사와 기념품도 인상깊었습니다. 오전8시부터 오후6시까지 진행되다보니 아침과 점심이 모두 제공되었습니다. 식사 시간 동안에도 라운드 테이블에 둘러앉아 테이블에서 다양한 사람들을 만날 수 있었고, 쉬는 시간에도 항상 음료와 다과가 준비되어 있어 언제든 사람들과 이야기 나누며 당을 충전할 수 있었습니다. LLVM로고가 새겨진 티셔츠와 스티커, 물병과 같은 기념품도 판매하고 있었는데 인기가 많아 줄서서 구매할 정도였습니다.
TVM, MLIR 등 머신러닝과 연관된 주제들도 접할 수 있어서 흥미로웠고, 무엇보다 LLVM 커뮤니티에 대한 사람들의 애정이 느껴져 좋은 시간이였습니다.
학회 참석 후
5월 글래스고는 해가 늦게 지기때문에 항상 밝은 도시의 모습을 볼 수 있었습니다.
학회가 끝난 뒤에 날씨도 맑아 글래스고 대학교(University of Glasgow)를 방문해 보았습니다.
글래스고 대학교는 1451년에 개교한 유서깊은 학교로 Adam Smith, James Watt 등 역사적인 인물들이 지냈던 곳이라 방문 전부터 기대가 컸습니다. 곳곳에 저명한 학자들의 이름을 딴 장소들을 만날 수 있었고 역사에 걸맞게 고풍스러운 건축물들이 많아 걸어다니기만 해도 즐거웠습니다.
글래스고 대학뿐 아니라 도시 곳곳마다 다양한 건축양식을 볼 수 있다는 것이 글래스고의 큰 매력이였습니다. 또한 위스키 증류소, 축구 경기장, 미술관 등 볼거리와 즐길거리가 많은 도시라 여행지로도 추천드립니다.
좋은 기회로 euroLLVM2023에 참석하게 되고 그 경험을 공유할 수 있어서 기쁘게 생각합니다.
앞으로도 좋은 연구와 포스팅으로 찾아뵙겠습니다 : )
