일론 머스크, AI 챗봇 ‘그록 3’ 출시 예고 – 세계 최대 GPU 훈련 모델의 성능은?

(사진=셔터스톡) 출처 : AI타임스(https://www.aitimes.com)

그록 3, AI 업계의 새로운 기대작

일론 머스크가 인공지능(AI) 챗봇 ‘그록 3(Grok 3)’의 공식 출시를 예고하며, AI 업계의 이목이 집중되고 있습니다. 머스크는 2024년 1월 6일(현지시간) X(구 트위터)를 통해 직접 “곧 그록 3를 출시할 것”이라고 발표했습니다.

이 소식은 최근 테크크런치가 “그록 3의 2024년 출시가 연기되었다”고 보도한 것에 대한 직접적인 반박으로 보입니다.

 

그록 3의 특징 – 세계 최대 GPU 투입

그록 3는 xAI의 데이터센터에서 10만 개의 NVIDIA H100 GPU를 사용하여 훈련되었습니다. 이는 세계에서 가장 대규모의 GPU 훈련 인프라 중 하나로, 기존 그록 2에 비해 10배 더 많은 컴퓨팅 파워가 투입되었습니다.

머스크는 그록 3가 xAI의 슈퍼컴퓨터 ‘콜로서스(Colossus)’에서 학습되었으며, 특히 데이터와 컴퓨팅 파워의 압도적인 투입량을 강조했습니다.

 

스케일링 법칙과 그록 3의 도전

AI 모델의 성능은 일반적으로 스케일링 법칙(Scaling Law)에 따라 컴퓨팅 파워와 데이터 양에 비례해 향상됩니다. 그러나 최근 AI 연구에서는 사전 학습 데이터와 컴퓨팅 파워만으로는 성능 향상에 한계가 있다는 의견이 대두되고 있습니다.

그록 3가 10만 개의 GPU를 사용하고도 충분한 성능을 보이지 않는다면, 스케일링 법칙의 한계가 드러날 가능성이 있습니다.

이미지를 누르면 X로 연결됩니다.

그록 3의 경쟁 모델 – 오픈AI와 구글 제미나이 2.0

그록 3의 출시는 오픈AI의 GPT-4와 구글의 제미나이 2.0과 직접적으로 비교될 것으로 예상됩니다.

• 오픈AI의 GPT-4: 2023년 출시 이후 최고 수준의 언어 이해 및 생성 능력을 제공하는 모델.
• 구글 제미나이 2.0: 멀티모달 AI로, 텍스트, 이미지, 영상까지 다룰 수 있는 차세대 모델.

그록 3가 이러한 선두주자들과 성능 경쟁에서 얼마나 강점을 보일지가 핵심입니다.

 

차세대 AI 모델 개발 – 콜로서스의 확장

머스크는 그록 3 출시 이후, 콜로서스 슈퍼컴퓨터의 GPU를 10배 이상 확장할 계획을 발표했습니다. 즉, 현재 10만 개 수준에서 100만 개 이상의 GPU를 보유한 세계 최대 AI 훈련 인프라를 구축하겠다는 포부입니다.

 

결론 – 그록 3의 미래와 AI 업계의 변화

그록 3는 세계 최대 GPU 훈련 인프라를 통해 탄생한 AI 모델로, AI 기술의 한계를 다시 한번 시험할 전망입니다. 오픈AI와 구글의 선두주자들과의 경쟁에서 얼마나 우위를 점할 수 있을지 귀추가 주목됩니다.

머스크의 발표처럼 그록 3가 기대를 뛰어넘는 성능을 보인다면, AI 기술 경쟁은 더욱 가속화될 것입니다.

 

출처

• 출처: AI타임스