세 줄 요약

• 대규모 언어 모델(LLM)은 다음 토큰을 확률적으로 예측하는 자기회귀 구조를 사용하며, 생성 단계가 길어질수록 미세한 오류가 누적되는 결함이 있다.
• 텍스트 데이터에만 의존하는 방식은 물리 세계의 인과관계를 이해하는 '세계 모델'을 형성하지 못해 복잡한 추론과 장기 계획 수립에 한계를 보인다.
• 사용자는 모델의 출력을 검증 없이 수용하기보다 긴 추론 과정의 정확도를 모니터링하고, 물리적 이해가 필요한 분야에는 대안적 아키텍처 도입을 검토해야 한다.

예: 가상 공간 속 인물이 투명한 유리잔을 탁자 아래로 밀어낸다. 인물은 유리잔이 바닥에 부딪혀 산산조각 날 것이라고 말하지만 정작 유리잔은 허공에 멈춰 있거나 흔적 없이 사라진다. 시스템이 단어 사이의 통계적 관계는 파악하나 중력이나 충격 같은 물리 법칙을 계산하지 못하기 때문이다.

인공지능이 많은 단어를 매끄럽게 생성하면서도 간단한 물리 법칙 앞에서 한계를 보이는 현상이 관찰되고 있습니다. 현재의 LLM이 인간 수준의 지능에 도달할 수 있는지에 대한 의구심은 기술 업계의 주요 화두입니다. 얀 르쿤 메타 수석 AI 과학자를 포함한 비판론자들은 지금의 방식으로는 실제 세상을 이해하는 '세계 모델(World Model)'에 도달하기 어렵다고 분석합니다.

현황

자기회귀 생성 방식에서 발생하는 확률적 붕괴는 인공지능 아키텍처의 주요 약점으로 지목됩니다. 얀 르쿤은 2022년 6월 발표한 논문 'A Path Towards Autonomous Machine Intelligence(Version 0.9.2)'에서 이 문제를 설명했습니다. LLM이 하나의 토큰을 생성할 때 발생하는 작은 오류를 $e$라고 하면, $n$개의 토큰을 생성할 때 전체 결과가 정확할 확률은 $P(correct) = (1-e)^n$으로 감소합니다. 문장이 길어지고 추론 단계가 복잡해질수록 모델이 정답에서 벗어날 가능성이 커진다는 의미입니다.

이러한 구조적 특성은 LLM이 방대한 텍스트를 학습했음에도 실제 세계의 작동 방식을 배우지 못했다는 비판으로 이어집니다. 텍스트는 인간이 세상을 묘사한 결과물일 뿐 세상 그 자체는 아닙니다. 인간과 동물이 적은 데이터로도 중력이나 물체의 영속성 같은 물리 법칙을 습득하는 것과 달리, LLM은 수조 개의 토큰을 학습하고도 물리적 사실을 공간적으로 이해하는 데 어려움을 겪습니다.

업계에서는 모델 크기를 키우는 '스케일링 법칙'에 집중해 왔으나, 최근에는 이미지와 비디오 데이터를 활용한 멀티모달 학습으로 논의가 확장되고 있습니다. 비디오 생성 모델이 물리 법칙을 재현하기 시작하면서 이것이 진정한 세계 모델로 진화할 수 있을지가 쟁점입니다. 얀 르쿤은 픽셀 단위의 예측이 아닌 추상화된 공간에서의 예측 모델인 JEPA(Joint-Embedding Predictive Architecture)의 필요성을 제기하며 기존 방식과 차별화된 접근을 강조하고 있습니다.

분석

LLM의 한계를 바라보는 시각은 두 갈래로 나뉩니다. 현재의 트랜스포머 구조와 자기회귀 방식이 '통계적 앵무새'에 머물러 있으며, 추론과 계획이라는 고등 지능으로 가는 길에 한계가 있다는 시각이 그중 하나입니다. 이 주장에 따르면 현재의 LLM은 데이터를 추가 투입해도 상식을 갖춘 자율 지능체가 되기 어렵습니다. 이는 AI 서비스가 자율주행이나 로봇 공학 등 복잡한 프로젝트 관리로 확장될 때 병목 현상을 초래할 수 있습니다.

반면 LLM의 범용성을 지지하는 측은 '창발적 능력'에 주목합니다. 모델 규모가 커지면 학습하지 않은 논리 전개 방식을 스스로 습득한다는 논리입니다. 하지만 이 역시 오류 누적의 문제를 완전히 해결하지는 못합니다. 긴 추론이 필요한 수학적 증명이나 소프트웨어 설계 과정에서 모델이 중반 이후 논리를 잃고 잘못된 코드를 생성하는 현상은 이러한 구조적 결함에서 비롯됩니다.

결국 핵심은 데이터의 차원에 있습니다. 언어는 추상화된 신호이지만 물리 세계는 연속적이며 정보 밀도가 높습니다. 텍스트로 자전거 타는 법을 설명할 수 있어도 실제 자전거를 탈 수 없는 것과 유사합니다. 따라서 향후 기술 경쟁의 승부처는 텍스트의 범위를 넘어 물리적 인과관계를 예측하고 수정할 수 있는 내부 '세계 모델'을 아키텍처 수준에서 구현하는 것에 달려 있습니다.

실전 적용

의사결정자와 개발자는 현재 LLM의 추론 능력을 과신하지 않아야 합니다. 장기적인 계획 수립이나 엄밀한 논리가 필요한 프로젝트에 LLM을 활용할 때는 전략적인 접근이 요구됩니다.

단기적으로는 오류 누적을 제어하는 워크플로우 설계가 필요합니다. 한 번에 긴 답변을 요구하기보다 단계를 세분화하고 각 단계마다 검증 과정을 포함하는 구조적 보완이 이루어져야 합니다. 물리적 상호작용이 중요한 서비스에서는 텍스트 기반 모델 외에 시각적 이해와 예측에 특화된 모델 아키텍처를 결합하는 하이브리드 전략을 검토할 수 있습니다.

오늘 바로 할 일:

• 현재 운영 중인 AI 시스템에서 출력물의 길이가 길어질 때 정확도가 어떻게 변화하는지 구간별로 점검한다.
• 다섯 단계 이상의 논리적 과정이 필요한 작업은 단일 요청을 중단하고 각 단계의 결과를 검증하는 파이프라인을 구축한다.
• 텍스트 생성 모델 외에 비디오 예측이나 공간 지각 능력을 갖춘 연구 모델의 기술 백서를 분석하여 향후 개발 계획에 반영한다.

FAQ

Q: 자기회귀 방식의 오류 누적이 구체적으로 어떤 문제를 일으킵니까? A: LLM은 이전 단어를 바탕으로 다음 단어를 선택합니다. 첫 문장에서 미세한 논리 오류가 발생하면 다음 문장은 그 잘못된 전제를 바탕으로 작성됩니다. 단계가 반복될수록 초기 오류가 증폭되어 결과적으로 사실과 다른 환각 현상이 발생하게 됩니다.

Q: 멀티모달 학습을 진행하면 세계 모델이 구축됩니까? A: 이미지와 텍스트를 연결하는 것만으로는 인과관계를 배우기 어렵습니다. 단순히 다음 상황을 예측하는 것을 넘어 시스템이 내부적으로 세계의 상태를 시뮬레이션하고 자신의 행동이 미칠 영향을 계산하는 별도의 구조가 아키텍처에 포함되어야 합니다.

Q: JEPA 아키텍처는 기존 LLM과 무엇이 다릅니까? A: 기존 모델이 픽셀이나 단어 하나하나를 복원하며 학습한다면, JEPA는 불필요한 세부 사항은 무시하고 핵심 개념 위주로 학습합니다. 이를 통해 효율적으로 세계의 구조를 파악하고 다음 상황을 예측하는 것을 목표로 합니다.

결론

LLM은 강력한 언어 도구이지만 세계 모델의 부재는 지능의 고도화 과정에서 해결해야 할 과제입니다. 텍스트라는 창을 통해서만 세상을 파악하는 방식으로는 물리적 공간을 이해하고 자율적인 계획을 세우는 지능에 도달하기 어렵습니다.

앞으로는 단순한 토큰 예측을 넘어 물리 법칙을 내면화하고 오류를 스스로 교정할 수 있는 아키텍처가 중요해질 것입니다. 기술 개발자와 기업은 현재 모델의 통계적 한계를 인식하고 언어 너머의 실제 세계를 이해하려는 기술적 시도에 주목해야 합니다.

참고 자료

• 🏛️ A Path Towards Autonomous Machine Intelligence Version 0.9.2, 2022-06-27