문맥 (context)
국내 연구진이 인공지능(AI) 딥러닝 모델을 처리에 필수인 기계학습 시스템 성능을 끌어올리는 성과를 거뒀다.\n\n한국과학기술원(KAIST)은 김민수 전산학부 교수팀이 기계학습 시스템 성능을 대폭 높일 수 있는 세계 최고 수준 행렬 연산자 융합 기술(FuseME)을 개발했다고 20일 밝혔다.\n\n보통 딥러닝 모델은 행렬 곱셈, 행렬 합, 행렬 집계 등 '행렬 연산자'로 구성된 '방향성 비순환 그래프(DAG) 질의 계획'으로 표현된다. 수많은 컴퓨터로 구성된 클러스터로 처리한다. 모델과 데이터 규모가 커지면 처리에 실패하거나 시간이 오래 걸린다.\n\n연구팀은 DAG 질의 계획의 행렬 연산자로부터 생성되는 중간 데이터에 주목했다. 이들을 메모리에 저장하거나 다른 컴퓨터로 전송하는 것이 문제 원인임에 착안, 행렬 연산자들을 하나의 연산자로 융합하는 기술로 문제를 해결했다. 이를 통해 중간 데이터 저장이나 전송이 이뤄지지 않게 했다.\n\n지금까지 기계학습 시스템들은 낮은 수준의 연산자 융합 기술만을 사용해 성능이 별로 개선되지 않거나, 처리 실패 등을 겪었다. 연구팀의 FuseME 기술은 DAG 질의 계획에서 어떤 연산자끼리 융합하는 것이 더 유리한지 판별해 그룹으로 묶고 클러스터 사양, 네트워크 통신 속도, 입력 데이터 크기 등을 고려한다. 이론상 최적 성능을 내는 'CFO 연산자'를 융합한다. \n \n \nFuseME 기술을 구글 텐서플로우나 IBM 시스템DS와 비교 평가한 결과, 딥러닝 모델 처리 속도는 최대 8.8배 향상되는 것으로 나타났다. 기존 처리할 수 없는 더 큰 규모 모델 및 데이터 처리에도 성공했다. 또 CFO 융합 연산자는 종래 최고 수준 융합 연산자와 비교해 처리 속도를 최대 238배 향상시키고, 네트워크 통신 비용을 최대 64배 감소시켰다.\n\n연구팀은 이미 지난 2019년에 초대규모 행렬 곱 연산에 대해 종래 세계 최고 기술이었던 IBM 시스템ML, 슈퍼컴퓨팅 분야 스칼라팩(ScaLAPACK) 대비 성능과 처리 규모를 훨씬 향상시킨 DistME 기술을 개발한 바 있다. 이번 FuseME 기술은 연산자 융합이 가능하도록 DistME를 한층 더 발전시킨 것으로, 해당 분야를 세계 최고 수준 기술력을 바탕으로 지속적으로 선도하는 쾌거를 보여줬다.\n\n교신저자 김민수 교수는 “개발 기술은 딥러닝 등 기계학습 모델 처리 규모와 성능을 획기적으로 높일 수 있어 산업적 측면에서 파급 효과가 매우 클 것으로 기대한다”고 말했다.\n\n이번 연구에는 김 교수 제자이자 그래파이(GraphAI) 스타트업 공동 창업자인 한동형 박사가 제1 저자로 참여했다. 지난 16일 미국 필라델피아에서 열린 데이터베이스 분야 최고 국제학술대회 'ACM SIGMOD'에서 연구 내용을 발표했다.\n\n한편, 이번 연구는 한국연구재단 선도연구센터 사업 및 중견연구자 지원사업, 과기정통부 정보통신기획평가원(IITP) 소프트웨어(SW)스타랩 사업 지원을 받아 수행됐다.\n\n김영준기자 kyj85@etnews.com
지시문 (instruction)
주어진 원문을 읽고 필요한 정보를 파악하여, 원문에 근거해 질문에 답하라.
질문 (question)
KAIST 김민수 교수팀이 개발한 FuseME 기술을 구글 텐서플로우나 IBM 시스템DS와 비교했을 때 나타난 성능 향상 수치와 처리 능력의 변화는 어떠한가?
추론 과정 (compact_reasoning)
-
1과제 해석
task_interpretationFuseME 기술의 성능을 구글 텐서플로우 및 IBM 시스템DS와 비교한 구체적인 결과(속도 향상 및 처리 규모)를 확인해야 한다.
- FuseME 기술을 구글 텐서플로우나 IBM 시스템DS와 비교 평가한 결과
-
2정보 추출
information_extraction비교 평가 결과에 해당하는 속도 향상 배수와 처리 가능 범위에 대한 정보를 추출한다.
- 딥러닝 모델 처리 속도는 최대 8.8배 향상되는 것으로 나타났다. 기존 처리할 수 없는 더 큰 규모 모델 및 데이터 처리에도 성공했다.
-
3근거 선택
evidence_selection질문에서 요구하는 비교 대상(구글, IBM)과 직접 연결된 수치 및 성과를 선별한다.
- 딥러닝 모델 처리 속도는 최대 8.8배 향상되는 것으로 나타났다. 기존 처리할 수 없는 더 큰 규모 모델 및 데이터 처리에도 성공했다.
-
4논리 통합
logical_integration속도 향상 수치(최대 8.8배)와 처리 능력의 확장(기존에 불가능했던 대규모 모델/데이터 처리 성공)을 결합한다.
-
5결론 도출
conclusion_formulation비교 대상 대비 속도는 최대 8.8배 빨라졌으며, 기존에는 불가능했던 더 큰 규모의 모델과 데이터도 처리할 수 있게 되었음을 도출한다.
- 딥러닝 모델 처리 속도는 최대 8.8배 향상되는 것으로 나타났다. 기존 처리할 수 없는 더 큰 규모 모델 및 데이터 처리에도 성공했다.
-
6답변 생성
answer_generation추출된 정보를 바탕으로 질문에 대한 완성된 문장 형태의 답변을 작성한다.
- 최대 8.8배 향상
- 기존 처리할 수 없는 더 큰 규모 모델 및 데이터 처리에도 성공
최종 답변 (final_answer)
FuseME 기술을 구글 텐서플로우나 IBM 시스템DS와 비교 평가한 결과, 딥러닝 모델 처리 속도는 최대 8.8배 향상되었으며, 기존에는 처리할 수 없었던 더 큰 규모의 모델 및 데이터 처리에도 성공했다.
핵심 해석 (core_interpretation)
KAIST 연구팀이 개발한 FuseME 기술은 기존 시스템 대비 딥러닝 모델 처리 속도를 최대 8.8배 향상시키고 더 큰 규모의 모델과 데이터를 처리하는 능력을 보여주었다.