고가 인프라·고속네트워크 없어도 대단위 AI 학습 가능!

KAIST 한동수 교수 연구팀이 '스텔라트레인(StellaTrain)'이라는 분산 학습 프레임워크를 개발했다.

이 기술은 고성능 H100에 비해 10~20배 저렴한 소비자용 GPU를 활용해, 고속의 전용 네트워크 대신 대역폭이 수백에서 수천 배 낮은 일반 인터넷 환경에서도 효율적인 분산 학습을 가능하게 한다.

 

연구 결과, 스텔라트레인 기술을 사용하면 기존의 데이터 병렬 학습에 비해 최대 104배 빠른 성능을 낼 수 있는 것으로 나타났다.

이번 연구가 대규모 AI 모델 학습을 누구나 쉽게 접근할 수 있게 하는 데 큰 기여를 할 것으로 보인다.

 

 

- 출처 : https://www.aitimes.kr/news/articleView.html?idxno=32239