2022년 말, 시장의 판도를 뒤흔든 OpenAI의 GPT-3.5가 출시된 이후, 2025년까지는 AI가 투자를 좌우하는 몇 년이라고 해도 과언이 아닐 것입니다.
현재 투자자들에게 AI 버블론은 초유의 관심사일 것입니다. 많은 투자자가 2000년 닷컴 버블과 유사하다고 하는데, 제가 생각하는 AI에 대해 간략하게 정리해 보겠습니다.
LLM의 기술적 해자는 존재하지 않는다
2022년 말, 세상에 엄청난 기술을 발표한 것처럼 느껴졌던 OpenAI의 LLM은 단 몇 달도 되지 않아 다른 회사들이 비슷하거나 더 우수한 AI 모델을 개발하여 배포하기 시작했습니다. OpenAI가 새로운 모델을 공개하면, 다른 회사들이 더 우수한 모델을 내놓는 식으로 기술 경쟁이 이어졌습니다.
문제는 중국의 Deepseek나 다른 생소한 업체들의 LLM마저 우수한 수준의 AI를 출시했다는 것입니다. 과연 LLM에 기술적 우위란 존재할까요? 지금까지는 아닌 것 같습니다.
초기 시장 선점 효과를 톡톡히 누린 OpenAI는 큰 점유율과 브랜드 파워를 얻을 수 있었습니다. 그러나 2025년부터 점차 시장을 다른 업체에 빼앗기고 있습니다. 특히 엔터프라이즈 LLM API 점유율의 경우, OpenAI의 점유율이 2023년 50%대에서 2025년 중반 25%까지 점유율이 급락했다는 시장 조사 결과도 있습니다.
물론 점유율을 더 빼앗길지, 아니면 시장을 독점한 채 유지할지는 아직 알 수 없는 듯합니다. (일반 LLM시장) 하지만 일반 사용자들은 압도적인 기술적 우위가 없다면 결국 사용성이 편한 방향으로 움직이지 않을까요? 상당히 예측하기 어려운 시장입니다.
돈을 잘 버는 회사들과 그렇지 않은 회사들
과거 닷컴 버블 때와는 다르게, AI 기반 회사들은 돈을 매우 잘 벌고 있습니다. 그러나 이들이 돈을 잘 버는 구조를 면밀히 살펴볼 필요가 있습니다. 개인적으로 AI 생태계에 큰 취약점이 있다고 생각합니다.
기존에 돈을 잘 벌던 회사 - 마이크로소프트, 구글, 메타 등
해당 회사들의 특징은 큰 규모의 적자를 감당할 수 있는 사업 구조를 가지고 있다는 것입니다. 또한 기존 사업부에 AI 기술을 접목해 소비자에게 어필하는 방향으로 시장을 개척했습니다. 그렇기 때문에 대규모 GPU를 발주할 수 있었고, 많은 자본을 지출해도 순이익이 감소하는 등의 영향을 받지 않았습니다. 기존 사업이 너무 탄탄하기 때문입니다. (FCF로 봐도 빅테크 기업은 가격 정책을 바꾸는 등의 조치를 통해 CAPEX를 완벽하게 충당하는 모습을 보여줍니다.)
인프라 구축 관련 회사 - 엔비디아, 반도체, 전력망 인프라 등
지금까지의 AI 관련 기업들 중 가장 큰 승자는 결국 골드러시 시절의 광부들이 아닌, 곡괭이와 청바지를 만들던 기초적인 인프라 구축 관련 회사였습니다. AI에 대한 수요 증가로 인해 엔비디아의 GPU 발주량이 크게 늘어나면서, 자연스럽게 반도체와 전력망 인프라 사업에 대한 수요도 크게 증가했습니다.
적자 회사 - OpenAI, 신생 AI기업들
현재 AI 생태계에서 가장 중요하지만 어려운 부분은 바로 적자 회사들입니다. 모든 기업은 이윤을 남겨야 미래를 보장할 수 있습니다. 미래에 확실한 비전이 있다면 큰 자금을 조달받아 적자 폭을 줄여나갈 수도 있습니다.
적자 기업은 AI 시장에서 수익을 창출해야 하는 최전방에 서 있는 기업입니다. 소비자와 직접 맞닿아 있기 때문입니다. 그러나 OpenAI는 2024년에 50억 달러의 적자를 기록했습니다. 올해 매출은 140억 달러를 넘을 것으로 예상되지만 적자 규모는 더 커져서 100억 달러를 넘을 것으로 전망됩니다. 빠른 시일 내에 적자 폭을 줄일 만한 요소는 보이지 않습니다. 물론 제가 AI 전문가가 아니라서 빠른 수익화의 방향성을 읽지 못하는 것일 수도 있습니다.
다른 AI 회사들도 마찬가지입니다. 의료 진단 AI 회사, 마케팅, 금융 등 다양한 분야의 AI 회사들이 대부분 엄청난 적자를 감수하며 외부 자본으로 사업을 유지하고 있습니다.
정상적인 시장 생태계에서는 최종 소비자로부터 수익이 발생하여 수요가 증가하고, 그 수요에 맞춰 인프라가 확장되는 것이 가장 이상적입니다. 그러나 현재 구조에서 가장 큰 문제는 소수의 빅테크 기업이 가진 돈이 AI 업체와 인프라 업체 사이에서 순환하고 있다는 점입니다.
소비자로부터 벌어들인 돈으로는 이 규모를 감당할 수 없기 때문에 미래 비전을 보고 들어온 외부 자금이나 기존 거대 테크 기업들로부터 받는 자금으로 AI 생태계가 유지되고 있다고 볼 수 있습니다.
포춘지는 이 순환 투자 구조를 좀 더 과격한 표현으로 폰지 사기에 빗대어 설명했는데, AI 투자자라면 특히 한 번 읽어볼 만한 글인 듯합니다.
https://fortune.com/2025/09/28/nvidia-openai-circular-financing-ai-bubble/
저는 OpenAI가 막대한 투자를 위해 급하게 뛰어다니는 것이 매우 불안합니다. 실제 수익화는 불분명하고 막대한 손해를 줄이기 위해 급하게 소방차를 구하고 있으나 화산 폭발을 막는다고 소방차를 끌어다 쓰는 격이 될 수도 있어 보입니다. 적자를 줄이기 위해 샘 알트만은 어떤 자본 배치 계획을 가지고 있을까요?
지속 가능한 생태계인가?
현재 AI 생태계가 지속 가능한가라는 질문은 AI 관련 투자자라면 꼭 해야 하는 질문입니다. 수익화가 빠른 시일 내에 가능하며, 수익화 규모가 현재 수준의 자본 지출을 충당하고도 남을 만큼 큰지 여부에 대한 인사이트가 필요합니다.
개인적인 의견으로는 현재까지 본 AI 시장으로 판단하기에 아직까지는 모르겠다는 생각이 듭니다. 3가지 이유를 조심스럽게 제시하며, 저는 기술 관련 인사이트가 매우 적다는 점을 덧붙이고 싶습니다. 제가 하는 말이 크게 틀릴 가능성이 높습니다.
1. 할루시네이션
현재 LLM 모델은 어떤 방법으로든 할루시네이션을 피할 수 없습니다. 초창기 LLM 관련 논문을 보면 학습 데이터셋의 크기가 늘어나면 할루시네이션 확률이 줄어든다는 연구 결과가 있었습니다. 그러나 최근 2025년 AI 연구 결과를 보면 이상하게도 파라미터가 일정 수준 이상이 되면 오히려 할루시네이션이 늘어나는 현상이 나타납니다.
현재 LLM 모델에서는 할루시네이션을 피할 수 없으며, 해당 리스크를 감수하고도 사용 가능성이 확실한 산업에서만 활용할 수 있을 것으로 보입니다.
예를 들어, 초창기에 AI를 사용한 드라이브스루 주문을 받는 프로젝트는 상당한 오답률로 인해 대부분 종료되었고, 다시 사람으로 대체되었습니다.
미국에서 AI 콜센터가 도입되었으나 해결되는 문제는 거의 없어서 대부분의 사람들이 불만족했다는 조사 결과도 있습니다.
얼마 전 호주 정부가 딜로이트에 보고서를 의뢰했고, 딜로이트는 AI를 적극적으로 사용하여 보고서를 작성했습니다. 그러나 보고서에 명시된 자료 중 허위 자료가 각주와 참고문헌으로 제시되었고, 참고문헌 141개 중 14개에서 오류가 발견되었다는 기사가 있었습니다.
현재 사용성을 고려할 때, 할루시네이션에도 불구하고 업무량이 크게 줄어들고 AI를 효율적으로 사용할 수 있는 직종에 효과적일 수 있다고 생각됩니다. 현재 AI 모델의 한계는 분명히 있습니다. 모델 붕괴 문제도 있고, 장기 추론과 복잡한 계획 능력이 부족하다는 문제점도 있습니다. 투자자라면 이러한 문제점을 직시해야 합니다.
(물론 좀 더 깊게 파본다면… 할루시네이션을 감수해서라도 업무량이 줄어드는 것이 과연 좋은 장점인가 하는 생각도 듭니다. 요즘 뉴스에서 화제인 바이브 코딩이 미래에 대세가 될 수 있을까요? 아닐 수도 있다는 생각이 듭니다. 그만큼 미래를 예측하기 어려운 시장이라는 데 틀림이 없습니다.)
2. 확장성이 부족하다 (현재까지는…)
다른 문제점은 인터넷 혁명처럼 확실한 확장성이 부족하다는 것입니다. 현재까지는 말이죠. 물론 제가 상상하지 못한 그 어떤 아이디어 기업이 불쑥 나올 수도 있으나, 현재까지는 개념조차 보이지 않습니다.
인터넷은 비대면 쇼핑, 초개인화 영상 시청, 택시 호출, 쉽고 빠른 정보 접근을 가능하게 했습니다. 인터넷은 그 모든 가능성이 열려 있었고, 그것들을 실현시키며 거대한 인터넷 생태계를 만들어냈습니다. 그리고 소비자들이 흔쾌히 지갑을 열게 만들면서 생태계의 선순환을 이끌어냈습니다.
닷컴 버블 당시 꿈꿨던 공상들은 언젠가는 실현될 기술이라는 기대감으로 버블이 형성되었습니다. 그리고 닷컴 버블이 터진 지 10년 만에 대부분의 아이디어가 상용화되었습니다. 우리가 생각하는 AI의 확장성은 인터넷 정도인가요? 우리는 인터넷에 준하는 공상을 하고 있나요? 그 상상은 이른 시일 내에 실현 가능성이 있을까요?
근본적인 질문으로 돌아와서 AI가 결국 소비자들(기업 및 개인)에게 어필할 수 있는 생태계를 만들어내는 데 성공할 수 있을까요? 그 규모가 지금의 투자 규모를 정당화할 수 있을까요? 그리고 수익화 시점은 언제일까요?
아마존은 2001년 첫 흑자 전환에 성공하며 인터넷 성공 신화를 썼습니다. 그러나 아직까지 제게는 아마존과 같은 선순환을 이끌 만한 AI 아이디어가 보이지 않습니다. 전부 대화형 아이디어에서 벗어나지 못하고 확장성이 없어 보입니다. 물론 대화형 AI 시장이 엄청난 잠재력을 가지고 있을 수도 있겠지만요. 예를 들어, 초개인화 비서가 현실이 될 수도 있겠지만 현재의 LLM 수준으로는 아직 멀지 않았을까요? 스마트폰이 등장하기 전에는 PDA(personal digital assistant)가 있었지만, 진정한 모바일 시대는 스마트폰으로 시작되었죠. 현재 모델의 LLM이 PDA일 가능성이 높아 보입니다.
3. 의문점
인터넷 버블 당시, 필요 전력을 계산하고 실제로 필요한 인터넷 케이블의 길이를 계산하는 등, 엄청난 인프라 전환이 필요할 것으로 기대에 부풀었습니다. 실제로 전력 소비량이 꾸준히 증가했고, 통신 타워 등 상당히 큰 인프라 구축이 필요했던 것도 맞습니다. 그러나 그 당시 간과했던 문제점이 두 가지 있습니다.
1) 소비자는 생각보다 느리게 기술에 대응합니다. 마법같이 편한 기술도 급격하게 보급되는 물건이 있는가 하면, 다수의 소비자가 받아들이기까지 엄청난 시간이 걸리는 기술도 있습니다. AI 기술과 그로 인해 파생되는 애플리케이션이 어느 정도 속도로 받아들여지는지 생각해 보아야 합니다. 2) 기술의 발전 방향성은 항상 빠르고 효율적으로 발전해 왔습니다. 컴퓨터 보급 초창기에는 기술과 가격 문제로 인해 빠른 공급이 어렵다고 판단했으나, 효율적인 시장은 기술의 효율화를 이루어냈습니다. 더 작고, 더 성능이 좋고, 더 저렴한 컴퓨터를 만들어냈습니다. AI의 현재 모습이 미래의 모습이라고 가정할 수는 없습니다. 지금과 같은 대규모 연산이 미래에도 필수적일까요? 저는 모르겠습니다.
이런 의문점에 대한 명확한 인사이트가 있다면 저에게도 알려주시기 바랍니다. 저는 이런 문제에 대한 답을 가지고 있지 못합니다. 현재 모델의 LLM은 제가 보기에는 아직 선순환 생태계를 만들어낼 확률이 낮을 수도 있다는 생각이 머릿속에서 떠나지 않습니다.
저는 AI 전문가도 아니고, AI에 대한 특별한 통찰력을 가지고 있지도 않습니다. 그저 현재의 시장 동향을 파악하는 정도로 만족하고 있습니다. 그러나 제 능력으로는 5~10년 후 AI 기업의 흐름을 예측하기 어렵습니다. 제 무지로 인해 투자를 하지 못할 이유는 충분해 보입니다.