새벽 세 시, 한 스타트업의 개발팀이 자체 학습시킨 소형 언어 모델의 벤치마크 결과를 확인하며 환호합니다. 거대 AI 기업의 API를 통해 생성한 고품질 합성 데이터를 학습에 활용해 성능을 비약적으로 끌어올린 직후입니다. 하지만 기쁨도 잠시, 법무 검토 단계에서 제동이 걸립니다. 이들이 활용한 데이터의 이용 약관에는 '출력물을 경쟁 모델 개발에 활용하는 행위'를 명시적으로 금지하는 조항이 숨어 있었기 때문입니다.

예: 한 소프트웨어 기업이 기존 서비스의 성능을 개선하기 위해 외부 모델의 답변 데이터를 수집하여 자신들의 독자적인 언어 모델을 훈련시켰습니다. 그러나 해당 데이터 제공사로부터 약관 위반 통보를 받고 개발 중이던 모델의 배포를 전면 중단했습니다.

AI 업계의 '데이터 쇄국정책'이 노골화되고 있습니다. 기술 선점 기업들은 자신들의 모델이 내뱉는 결과물이 경쟁자의 자양분이 되는 것을 막기 위해 이용 약관(Terms of Use)이라는 강력한 빗장을 걸어 잠그는 추세입니다. 이는 단순한 저작권 논의를 넘어, 후발 주자들이 지식 증류(Knowledge Distillation)를 통해 격차를 줄이려는 시도를 원천 차단하는 전략적 장벽으로 작용하고 있습니다.

세 줄 요약

• 무슨 변화인가? OpenAI, Microsoft, Meta 등 주요 AI 기업들이 자사 모델의 출력 데이터를 활용해 경쟁 관계에 있는 AI 모델을 개발, 학습, 개선하는 행위를 이용 약관을 통해 엄격히 금지하고 있습니다.
• 왜 중요한가? 고성능 모델의 출력을 학습 데이터로 재활용하는 '지식 증류' 방식은 효율적인 모델 개발의 핵심이지만, 이를 무분별하게 사용할 경우 플랫폼 퇴출이나 법적 소송 등 비즈니스 연속성을 위협하는 리스크가 발생합니다.
• 독자는 뭘 하면 되나? 모델 학습에 합성 데이터나 외부 API 출력물을 포함하기 전, 해당 모델의 라이선스 내 '경쟁 모델 개발 금지' 조항의 범위와 '파생 모델' 정의를 법무팀과 함께 전수 조사하십시오.

현황: 촘촘해진 약관의 그물망

주요 AI 기업들의 서비스 약관은 공통적으로 '경쟁 방지'를 핵심 가치로 내세웁니다. OpenAI의 이용 약관(Terms of Use) 내 'Restrictions' 항목은 서비스의 출력물(Output)을 사용해 OpenAI의 제품 및 서비스와 경쟁하는 인공지능 모델을 개발하는 행위를 명시적으로 금지하고 있습니다. 다만, 데이터를 단순히 분류하거나 조직화하기 위한 용도의 모델(임베딩, 분류기 등) 개발은 해당 모델을 제3자에게 배포하거나 상업적으로 이용하지 않는다는 전제하에 허용됩니다. 또한, OpenAI가 공식적으로 제공하는 미세 조정(Fine-tuning) 기능을 통한 성능 개선은 약관 위반에 해당하지 않습니다.

Microsoft Azure OpenAI 서비스 역시 유사한 기조를 유지합니다. 고객의 입력 및 출력 데이터가 기본 모델의 학습에 활용되지는 않지만, 서비스 출력을 사용하여 Azure OpenAI와 경쟁하는 생성형 AI 모델을 개발하거나 학습시키는 행위는 엄격히 제한됩니다. 특히 오남용 모니터링을 위해 데이터를 최대 30일간 보관하는 정책을 시행 중이며, 보안이 중요한 기업을 위해 승인 시 '데이터 미보관(Zero Data Retention)' 옵션을 별도로 제공하는 등 관리를 강화하고 있습니다.

공개 가중치(Open Weights) 모델 진영도 예외는 아닙니다. Llama 3.1 Community License에 따르면, 이전 버전과 달리 해당 모델의 출력물이나 결과를 다른 대규모 언어 모델을 개선하는 용도로 사용하는 것이 허용됩니다. Google의 Gemma 라이선스는 출력물(Outputs)을 경쟁 모델 개발에 사용하는 것을 금지하고 있으나, 출력물로 학습된 모델을 '모델 파생물(Model Derivatives)'로 명시적으로 규정하여 동일한 라이선스 적용을 강제하는 방식은 취하지 않고 있습니다.

분석: 지식의 독점인가, 정당한 방어인가

이러한 규제는 기술적 해자(Moat)를 유지하려는 선두 기업들의 생존 전략입니다. 고성능 모델을 구축하기 위해 투입된 천문학적인 컴퓨팅 자원과 정제된 데이터의 가치를 보호하겠다는 논리입니다. 만약 후발 주자가 저렴한 API 비용만 지불하고 고성능 모델의 논리 체계를 그대로 복제(Distillation)해낼 수 있다면, 선행 투자자의 상업적 이익은 치명상을 입게 됩니다.

하지만 비판적인 시각도 존재합니다. 이러한 약관이 AI 기술의 민주화를 저해하고 폐쇄적인 생태계를 고착화한다는 우려입니다. 특히 '경쟁 모델'에 대한 정의가 모호하다는 점이 문제입니다. 특정 도메인에 특화된 소형 모델(SLM)이 거대 모델의 출력을 일부 학습했을 때, 이를 거대 모델과의 '경쟁'으로 볼 것인지에 대한 해석은 기업마다 다를 수 있습니다.

또한, Apache 2.0 라이선스를 채택한 일부 모델(예: Mistral 7B 초기 버전 등)은 이러한 출력물 활용 제한 규정이 상대적으로 느슨하거나 포함되지 않은 경우가 있어, 개발자들은 어떤 모델을 베이스로 삼느냐에 따라 법적 리스크의 크기가 달라지는 복잡한 상황에 놓여 있습니다. 지식 증류 행위 자체가 국가별로 '공정 이용(Fair Use)'에 해당하는지에 대한 법적 해석이 정립되지 않았다는 점도 불확실성을 키우는 요소입니다.

실전 적용: 리스크 없는 모델 개발 전략

개발자와 기업 의사결정자는 성능 향상이라는 단기적 이익보다 법적 안정성을 우선순위에 두어야 합니다. 외부 모델의 데이터를 학습 파이프라인에 태우는 순간, 그 모델의 라이선스 종속성이 발생하기 때문입니다.

오늘 바로 할 일:

• 현재 학습 데이터셋에 포함된 합성 데이터(Synthetic Data)의 원천 모델이 무엇인지 전수 조사하여 목록화한다.
• 사용 중인 API 서비스의 약관에서 'Restrictions' 또는 'Prohibited Use' 섹션을 찾아 '경쟁 모델(Compete/Competitive)' 관련 문구를 확인한다.
• 데이터 분류나 임베딩 생성 등 '허용된 예외 사항'에 해당하는 작업인지 기술적 검증을 실시한다.

FAQ

Q: 타사 모델의 답변을 그대로 쓰지 않고, 이를 가공하거나 요약해서 학습시키면 괜찮나요? A: 약관은 대개 '출력물 또는 그 결과물(Results)'의 활용을 포괄적으로 제한합니다. 단순 가공이나 요약 역시 해당 모델의 지적 능력을 복제하는 행위로 간주될 가능성이 크며, 특히 Llama 3.1과 같은 라이선스는 '개선(Improve)' 목적으로 사용하는 것 자체를 금지하고 있어 주의가 필요합니다.

Q: 내부 테스트용으로만 모델을 개발하는 경우에도 위반인가요? A: OpenAI의 경우 데이터를 분류하거나 조직화하기 위한 내부용 모델 개발은 상업적 배포가 없다면 허용하는 예외 조항을 두고 있습니다. 그러나 '경쟁 모델' 개발을 목적으로 한다면 내부용이라 할지라도 약관 위반 소지가 있으므로, 사용 중인 특정 서비스의 'Permitted Exception' 범위를 반드시 확인해야 합니다.

Q: 오픈 소스 모델은 무조건 자유롭게 출력물을 써도 되나요? A: 아닙니다. '오픈 소스'와 '공개 가중치' 모델은 다릅니다. Llama나 Gemma 같은 모델은 공개되어 있지만 고유의 커뮤니티 라이선스를 따르며, 여기에는 타 모델 개선 금지 조항이 명시되어 있습니다. 반면 Apache 2.0 라이선스를 사용하는 완전한 오픈 소스 모델의 경우 상대적으로 제약이 적을 수 있으나, 이 역시 개별 라이선스 문구를 직접 확인해야 합니다.

결론

LLM 시장의 경쟁이 격화됨에 따라 데이터 활용에 대한 규제는 더욱 정교해지고 있습니다. 이제 '어떤 데이터를 확보하느냐' 못지않게 '그 데이터가 법적으로 깨끗한가'가 모델의 생존을 결정짓는 핵심 지표가 되었습니다.

앞으로 주목할 점은 이러한 약관의 유효성을 다투는 실제 판례의 등장 여부입니다. 지식 증류를 통한 학습이 기술적 진보를 위한 정당한 연구 행위인지, 아니면 타인의 지적 자산을 침해하는 부정 경쟁 행위인지에 대한 법적 경계선이 명확해지기 전까지는 보수적인 접근이 필수적입니다. 자사만의 고유한 데이터(Proprietary Data) 확보와 규제에서 자유로운 진정한 의미의 오픈 소스 모델 활용 비중을 높이는 전략이 필요한 시점입니다.

참고 자료

• 🛡️ Terms of use - OpenAI
• 🛡️ OpenAI Services Agreement
• 🛡️ OpenAI Terms of Use
• 🛡️ Llama 3.1 Community License Agreement
• 🛡️ llama3.1 license restrictions - Hugging Face