소프트뱅크와 인텔 등은 2017년 설립된 AI 칩 스타트업 삼바노바(Sambanova)에 10억 달러를 투자했다. 삼바노바는 9월 4세대 SN40L프로세서를 출시했다. 이칩에는 1,020억 개 이상의 트랜지스터가 들어있다. 최대 638테라플롭스(TFlops)컴퓨팅 속도를 제공한다. AI와 관련된 데이터 흐름을 효율적으로 처리할 수 있도록 새로운 3계층 메모리 시스템도 갖췄다. 삼바노바는 AI 모델 크기가 커지면서 데이터 이동이 성능에 영향을 미친다고 설명했다. 메모리가 AI 칩의 주요 차별요소가 된다는 뜻이다.

또 다른 스타트업 디-매트릭스(d-Matrix)는 GPT(Generative Pre-Trained Transformer) 배포를 지원하는 칩을 개발하고 있다. 디-매트릭스는 9월 시리즈B 라운드에서 삼성, 미래에셋, 마이크로소프트와 미국의 스타트업 자문기업 플레이그라운드 글로벌(Playg round Global) 등에서 1억 1천만 달러를 투자받았다. 앞서 SK하이닉스가 투자를 진행한 바도 있다.

2019년 설립된 디-매트릭스는 챗GPT와 같은 AI 애플리케이션을 지원하는 최적화 칩을 설계한다. 특히 AI 컴퓨터 코드가 더 효율적으로 실행될 수 있도록 하드디스크가 아닌 메인 메모리를 활용하는 ‘디지털 인메모리 컴퓨팅’을 도입해 활용 중이다. 이 기술은 필요한 데이터를 처리할 때 에너지를 더 적게 사용토록 한다.

디-매트릭스는 올해 주로 평가용 칩을 구매하는 고객으로부터 1천만 달러의 매출을 올릴 것으로 예상한다. 2년 후에는 연간 7천만~7,500만 달러의 매출을 올릴 전망이다.

텐스토렌트(Tenstorrent)는 2016년 설립된 AI 칩 스타트업이다. 삼성과 현대 등이 3억 3,500만 달러를 투자했다. 기업가치는 10억 달러로 추산된다. 이 회사는 삼성전자와 생산 협력을 체결했다.

한국 스타트업 리벨리온(Rebellions)도 경쟁에 참여했다. 박성현 칩 설계 엔지니어가 지난 2020년 설립한 리벨리온은 포브스 선정 가장 빠르게 성장하고 있는 스타트업 중 하나다. 인공지능 모델 학습을 기반으로 모델을 통한 추론에 최적화된 시스템 반도체를 설계한다.

리벨리온은 데이터센터용 AI 반도체 ‘아톰(Atom)’을 개발했다. 아톰은 현재 KT의 AI 전략 핵심인 신경망 처리장치(NPU) 인프라를 담당하고 있다. 리벨리온은 창업 2년 만에 글로벌 수준의 AI반도체를 출시했고, 지난해 620억원의 시리즈A 투자를 유치하며 누적 투자금 1,120억원을 달성했다.

챗GPT를 개발한 오픈AI도 자체GPU 제작을 검토하고 있는 것으로 알려졌다. 오픈AI는 관련 제조사 인수를 위해 기업 실사 단계까지 진행한 것으로 전해진다. 물론 오픈AI가 인수를 포함, 맞춤형 칩에 대한 계획을 실제 진행하더라도 개발되기까지는 수년이 걸릴 가능성이 높다. 직접 제작을 추진하는지도 아직 결정되지 않았다. AI 칩은 높은 기술력이 필요해 연간 비용이 수억 달러에 이를 수 있는 막대한 투자가 필요하지만, 성공이 보장되지는 않는다. 마이크로소프트가 11월 15일 이그나이트에서 자체 칩을 발표한 상황에서 오픈AI까지 칩을 설계할지는 미지수다.