출처 : SONOW
Meta가 공개한 소형 언어 모델 'CWM(Code World Model)'은 파이썬 코드 실행을 시뮬레이션하며 작동하는 코드 생성·추론 전용 모델이다. 단순 예측이 아니라 코드의 작동 원리를 이해하며 생성하는 방식으로, Math-500과 AIME 2024 등에서 높은 성능을 보였다.
CWM, 파이썬 코드 실행을 시뮬레이션하는 새로운 접근
CWM(Code World Model)은 기존의 코드 생성 모델들과 근본적으로 다른 접근 방식을 취한다. 대부분의 AI 코드 생성 모델은 통계적 패턴 매칭을 통해 코드를 생성하지만, CWM은 파이썬 인터프리터의 작동 방식을 내부적으로 시뮬레이션한다. 즉, 코드를 생성할 때 해당 코드가 실행되면 어떤 결과가 나올지를 단계별로 추론하며 작성한다. 예를 들어 반복문을 작성할 때 각 반복 단계에서 변수의 값이 어떻게 변하는지, 조건문의 분기가 어떻게 결정되는지를 내부적으로 시뮬레이션하면서 코드를 생성한다. 이러한 접근은 더 정확하고 논리적으로 일관된 코드를 만들어낸다.
Math-500과 AIME 2024에서 우수한 성능 입증
CWM은 수학 문제 해결과 알고리즘 구현에서 특히 뛰어난 성능을 보였다. Math-500 벤치마크는 복잡한 수학 문제를 코드로 해결하는 능력을 평가하는 테스트로, CWM은 기존 모델들보다 높은 정확도를 기록했다. AIME(American Invitational Mathematics Examination) 2024 문제들에서도 우수한 결과를 보여, 고등 수학 문제를 코드로 변환하고 정확히 해결하는 능력을 입증했다. 특히 복잡한 논리적 추론이 필요한 문제에서 CWM의 장점이 두드러졌다. 코드의 작동 원리를 이해하며 생성하기 때문에, 단순히 비슷한 코드를 복사하는 것이 아니라 문제의 본질을 파악하고 적절한 알고리즘을 설계할 수 있다.
소형 모델로 높은 효율성, 교육 및 개발 도구로 활용 기대
CWM의 또 다른 장점은 소형 언어 모델이라는 점이다. GPT-4나 Claude 3.5 같은 대형 모델에 비해 파라미터 수가 적지만, 코드 생성과 추론에서는 경쟁력 있는 성능을 보인다. 이는 제한된 컴퓨팅 자원으로도 효과적인 코드 생성이 가능함을 의미한다. Meta는 CWM을 프로그래밍 교육 도구로 활용할 수 있을 것으로 기대하고 있다. 학생들이 코드를 작성할 때 CWM이 각 단계에서 어떤 일이 일어나는지 설명하고, 오류를 발견하면 그 원인을 논리적으로 설명할 수 있기 때문이다. 또한 개발자들의 코드 리뷰와 디버깅을 돕는 도구로도 활용될 수 있어, AI 코딩 어시스턴트 시장에서 새로운 가능성을 열 것으로 전망된다.