Compute Library Engineer(인턴)
Technology
1개월 전
직무 설명
주요 업무
- vLLM 또는 PyTorch 기반 LLM 모델을 분석하여, 당사 Domain Specific Language(DSL)로 필요한 가속 커널 작성
- Edge 디바이스 하드웨어 특성(메모리 계층, 연산 유닛 구조 등)을 고려한 커널 성능 최적화
- 당사 DSL 커널과 PyTorch(ATen operator) 연동 설계 및 구현
- 커널 정확도 검증, 벤치마크 설계 및 성능 분석
- Python에 대한 이해 및 숙련도
- PyTorch 또는 주요 딥러닝 프레임워크 사용 경험
- 행렬 연산, attention 등 LLM 핵심 연산에 대한 이해
- 컴퓨터 아키텍처 기초(캐시, 메모리 대역폭, 파이프라이닝 등)에 대한 이해
- Edge/임베디드 환경의 메모리 및 연산 제약을 고려한 모델 최적화 경험
- Triton, TVMScript, Pallas 등 IR로 lowering되는 커널 DSL 활용 경험
- CUDA, ROCm 등 GPU 커널 최적화 경험(루프 언롤링, 타일링, 벡터화 등)
- vLLM, HuggingFace Transformers 등 LLM serving/inference 프레임워크 코드 분석 경험
- PyTorch custom extension(ATen op, torch.library) 개발 경험
채용 절차
서류 전형 ▶ 인터뷰 ▶ 최종 합격
- 채용 전형은 진행 상황에 따라 변경될 수 있으며, 변경 시 사전 안내 드립니다.
기타 안내
[Office]
- 강남 뱅뱅사거리 위치
- 음료/커피/스낵 지원
- 유연근무제
- 자유로운 연차 사용
- 라운지, 안마의자 등 휴식 공간
[Welfare]
- 교육 및 도서 지원
[Culture]
- 전사 올핸즈 미팅(월 1회)
- 전사 워크샵 (년 1회, 국내/해외)
- 동호회/스터디 지원
- 회식비 지원
이 직무에 관심이 있으신가요?