오픈 웨이트 모델의 역습, AI 스택의 권력 이동

"최고 모델과 오픈 모델의 격차는 이제 6개월이 아니라 6주다." 한 AI 인프라 기업 CTO의 말이다. 과장이 섞여 있지만 방향은 정확하다. 그리고 이 방향이 산업 전체의 수익 구조를 다시 쓰고 있다.

모델은 상품(Commodity)이 되는가

프론티어 모델 개발사들의 딜레마는 명확하다. 수천억을 들여 만든 모델의 핵심 능력이 1년 안에 오픈 웨이트 모델로 복제된다. 지식의 특성상 유출은 막을 수 없고, 증류(Distillation) 기법은 점점 정교해진다.

기술의 역사에서 상품화(Commoditization)를 이긴 것은 언제나 그 위에 쌓인 생태계였다. 리눅스가 아니라 AWS가 돈을 벌었듯이.

이것이 모델 개발사들이 앞다투어 에이전트 제품과 구독 서비스를 내놓는 이유다. 모델 API 마진이 무너지기 전에, 애플리케이션 레이어에서 방어선을 구축해야 하기 때문이다.

기업 시장의 계산법

기업 고객의 선택지는 흥미롭게 갈리고 있다. 규제 산업과 데이터 민감 기업은 오픈 웨이트 모델의 자체 호스팅으로, 속도가 중요한 기업은 프론티어 모델 API로.

비용 계산도 단순하지 않다. 오픈 모델은 라이선스가 무료지만 운영 인력과 인프라가 비싸다. 총소유비용(TCO)으로 보면 중간 규모 기업에게는 여전히 API가 저렴한 경우가 많다.

진짜 승부처는 데이터 플라이휠

결국 지속 가능한 해자는 모델 그 자체가 아니라, 제품에서 흘러나오는 사용 데이터와 피드백 루프다. 사용자가 많은 제품이 더 좋은 모델을 만들고, 더 좋은 모델이 다시 사용자를 모으는 구조.

AI 스택의 권력은 아래(인프라)에서 위(애플리케이션)로 이동 중이다. 다음 승자는 가장 똑똑한 모델을 가진 회사가 아니라, 가장 강한 플라이휠을 돌리는 회사일 것이다.