잠재교란이 왜곡하는 posterior
잠재교란이 베이지안 인과발견 posterior를 흐림이 아닌 가짜 edge 선호로 왜곡할 수 있음을 짚는다.
2일 전 올라온 arXiv 논문 하나가 베이지안 인과발견에 대한 익숙한 기대를 건드린다. 데이터가 늘면 posterior uncertainty가 줄고 구조가 더 또렷해질 것이라는 기대다. 이 논문이 다루는 핵심은 더 불편하다. 잠재교란이 있으면 posterior는 단지 흐려지는 데서 그치지 않는다. confounded pair 사이의 가짜 edge를 더 선호하는 쪽으로 기울 수 있다.
세 줄 요약
- 이 글의 핵심은 잠재교란이 있을 때 베이지안 인과구조 탐색의 posterior가 단순한 비식별 문제를 넘어서, 가짜 인과 edge를 선호하는 방향으로 왜곡될 수 있다는 점이다.
- 이 점이 중요한 이유는 “posterior가 있으니 불확실성까지 반영했다”는 해석이 숨은 변수 가정이 깨지는 순간 위험해질 수 있기 때문이다. 표본 수가 커질수록 그 가짜 edge를 선호하는 임계값이 낮아진다는 스니펫은, 더 많은 데이터가 항상 더 안전하다고 보기 어렵다는 경고다.
- 독자는 posterior 상위 DAG를 바로 채택하지 말고, 잠재교란을 허용하는 대안과 함께 비교해야 한다. confounded pair 후보에 대한 민감도 점검도 별도 단계로 넣어야 한다.
현황
베이지안 인과발견은 DAG, 즉 방향성 비순환 그래프 위에 posterior를 두고 구조적 불확실성을 다루는 접근으로 쓰인다. 하나의 정답 구조만 내놓는 대신, 어떤 구조가 얼마나 그럴듯한지 확률적으로 비교할 수 있다. 문제는 이 장점이 잠재교란 앞에서 그대로 유지되지 않을 수 있다는 점이다.
이번 arXiv 논문 제목은 How Does Bayesian Causal Discovery Fail? Characterising Structural Consequences in Linear Gaussian Networks under Latent Confounding이다. 원문 발췌에 따르면 저자들은 잠재교란 아래에서 posterior가 DAG들 위에서 어떻게 반응하는지 분석한다. 조사 결과에 포함된 스니펫은 한 걸음 더 나간다. 일정한 correlation threshold를 넘으면 score function이 교란된 두 변수 사이의 spurious edge를 선호하고, 이 threshold는 sample size가 커질수록 내려간다고 적시한다.
이 지점이 중요한 이유는 “데이터를 더 모으면 해결된다”는 실무 감각과 충돌하기 때문이다. 여기서는 더 많은 데이터가 잘못된 구조 선호를 약화시키지 않을 수 있다. 오히려 더 쉽게 선택하게 만들 수 있다. 검색 결과상 정량 비교는 확인되지 않았지만, 적어도 논문의 핵심 메시지는 posterior가 단지 넓게 퍼지는 정도가 아니라 구조적으로 비뚤어질 수 있다는 데 있다.
잠재교란에 강건한 대안으로는 기존 문헌에서 RFCI 계열 접근이 거론된다. 조사 결과에 따르면 RFCI나 bootstrap RFCI, 즉 BRFCI는 잠재변수가 있을 때 causal graph를 직접 DAG 하나로 고정하기보다 ancestral graph 복원과 edge 확률 보정에 초점을 둔다. 다만 이번 기준 논문이 이런 대안을 직접 비교하거나 특정 절차를 권고하는지는 검색 결과만으로는 판단하기 어렵다.
분석
이 논문이 던지는 질문은 베이지안 방법의 실패가 “불확실성 증가”인지, 아니면 “잘못된 확신”인지다. 후자라면 문제의 성격이 다르다. posterior를 보는 사용자는 보통 “모델이 자신 없어한다” 혹은 “모델이 이 구조를 강하게 지지한다”라고 읽는다. 그런데 숨은 공통 원인이 있으면 그 강한 지지가 실제로는 직접 인과를 향한 오판일 수 있다. 불확실성을 수치화했다는 사실만으로는 신뢰의 근거가 충분하지 않을 수 있다는 뜻이다.
AI 응용으로 가져오면 함의도 있다. 표현학습, 강화학습, 과학 ML에서도 인과적 구조나 방향성을 posterior나 score로 읽어내려는 시도가 많다. 이 논문의 수학적 결과를 그대로 일반화할 수는 없다. 다만 연결고리는 있다. 잠재변수가 spurious relationship를 만들고 posterior mode를 진실에서 밀어낼 수 있다면, 응용 시스템에서도 “uncertainty-aware”라는 라벨만으로는 부족하다. 잠재교란 가정을 따로 점검하지 않으면, 정책 선택이든 과학 가설 우선순위든 잘못된 edge 하나에 끌릴 수 있다.
한계도 있다. 이번 논문은 제목과 발췌 기준으로 선형 가우시안 네트워크를 다룬다. 비선형, 비가우시안, 시계열, 개입 데이터까지 같은 왜곡 패턴이 유지되는지는 여기서 바로 말하기 어렵다. 또 조사 결과에는 특정 구현체의 성능 열화 폭, 특정 sampler나 score의 민감도 차이, 실무용 교정 절차의 상세 권고가 들어 있지 않다. 그래서 이 논문은 “바로 대체하라”보다는 “지금 쓰는 posterior 해석 습관을 의심하라”에 가깝다.
실전 적용
실무에서 위험한 장면은 이렇다. posterior 상위 DAG 몇 개를 보고 “이 edge는 반복해서 나온다. 그러니 개입 후보로 삼자”라고 넘어가는 경우다. 잠재교란이 있으면 그 반복성 자체가 함정일 수 있다. 특히 관측 데이터만 있고, 숨은 공통 원인을 배제할 도메인 지식이 약할수록 그렇다.
예: 사용자 행동 로그에서 두 변수 사이 edge가 posterior 상위 구조에 계속 등장한다고 하자. 이를 곧바로 제품 개입 변수로 채택하면, 실제로는 공통 원인 하나가 만든 상관을 직접 인과로 착각할 수 있다. 그 상태에서 A/B 테스트나 정책 최적화를 설계하면 비용은 늘고 해석은 꼬일 수 있다.
오늘 바로 할 일 체크리스트 3개
- posterior 상위 DAG의 핵심 edge마다 “숨은 공통 원인이 있으면 이 edge가 사라지는가”를 묻는 민감도 리뷰 항목을 추가하라.
- DAG 하나만 내놓는 파이프라인이라면 RFCI 계열처럼 잠재교란을 허용하는 대안 결과와 최소 한 번은 나란히 비교하라.
- 표본 수가 커질수록 더 확신해도 되는지 자동으로 가정하지 말고, confounded pair 후보에서 score가 과도하게 집중되는지 별도 진단 로그를 남겨라.
FAQ
Q. 베이지안 인과발견은 불확실성을 주니까 더 안전한 것 아닌가요?
꼭 그렇지는 않습니다. 이 논문의 핵심은 잠재교란이 있을 때 posterior가 단순히 넓어지는 것이 아니라, 가짜 edge를 선호하는 방향으로 왜곡될 수 있다는 점입니다. 즉, 불확실성 추정이 있다는 사실만으로 안전하다고 보기는 어렵습니다.
Q. 데이터만 더 모으면 이 문제를 줄일 수 있나요?
검색 결과의 스니펫 기준으로는 오히려 조심해야 합니다. 저자들은 가짜 edge를 선호하게 만드는 임계 correlation threshold가 sample size가 커질수록 낮아진다고 설명합니다. 더 많은 데이터가 항상 더 나은 구조 복원으로 이어진다고 가정하면 위험합니다.
Q. 그럼 DAG 기반 베이지안 방법을 버려야 하나요?
그렇게 볼 필요는 없습니다. 다만 posterior 상위 구조를 그대로 채택하는 사용 방식은 다시 검토해야 합니다. 잠재교란을 허용하는 방법과의 비교, 도메인 지식 기반 검토, 민감도 분석을 함께 붙이는 쪽이 현실적입니다.
결론
베이지안 인과발견의 약점은 “숨은 변수가 있으면 식별이 어렵다”에서 끝나지 않는다. 이번 논문이 겨누는 지점은 그보다 깊다. posterior 자체가 잘못된 방향으로 정렬될 수 있다면, 우리가 믿어온 불확실성의 언어도 다시 읽어야 한다. 다음 단계는 간단하다. 더 많은 데이터를 모으기 전에, 지금의 posterior가 무엇을 전제하고 있는지부터 점검해야 한다.
다음으로 읽기
참고 자료
- An assessment of the calibration of causal relationships learned using RFCI and bootstrapping - dbmi.pitt.edu
- Bayesian Estimation of Causal Direction in Acyclic Structural Equation Models with Individual-specific Confounder Variables and Non-Gaussian Distributions - jmlr.csail.mit.edu
- CMU-CLeaR Group - cmu.edu
- arxiv.org - arxiv.org
업데이트 받기
주간 요약과 중요한 업데이트만 모아서 보내드려요.
오류를 발견했나요? 정정/오류 제보로 알려주시면 검토 후 업데이트에 반영할게요.