GoAnt를 읽을 때의 실무적 결론은 간단하다. 알파 팩터 탐색이 “가장 높은 점수의 신호 하나”를 찾는 문제가 아니라면, 품질-다양성 탐색을 검토할 만하다. 특히 비용 기준을 통과하고, 서로 덜 겹치는 신호 묶음을 같은 예산 안에서 확보하는 문제가 핵심일 때 그렇다. 반대로 이미 명확한 단일 목적함수와 충분한 사후 검증 체계가 있고, 후보 중복이 병목이 아니라면 GoAnt가 곧바로 필요한 해법이라고 보기는 어렵다.

이 논문의 가치는 금융 팩터 논문이라는 점보다, 자동 프로그램 탐색에서 흔한 두 실패 모드를 직접 다룬다는 데 있다. 첫째, 탐색기가 예측 프록시에 과적합해 실행 비용 이후 약해지는 후보를 낸다. 둘째, 여러 에이전트를 써도 비슷한 프로그램군을 반복 탐색한다. GoAnt는 이 둘을 “더 많은 에이전트”가 아니라 “좋은 후보를 행동적으로 다른 칸에 보존하는 방식”으로 다룬다.

무엇이 개선됐나: 평균 점수가 아니라 ‘쓸 만하고 덜 겹치는 산출량’

GoAnt가 보고한 핵심 지표는 유효수익률과 품질가중 유효수익률이다. 여기서 초점은 단순히 최고 점수 후보가 아니다. 공통 평가 기록에서 고품질이면서 상호 비중복인 팩터가 얼마나 나왔는지가 핵심이다. 논문에 따르면 가격-거래량 설정과 호가창 설정에서 품질가중 유효수익률은 각각 41.8과 47.6으로 보고됐다. 이는 논문이 가장 강한 비교 대상으로 제시한 베이스라인보다 각각 57%, 97% 높다.

이 수치를 “GoAnt가 더 높은 백테스트 수익률을 보장한다”로 읽어서는 안 된다. 더 좁게 해석해야 한다. 같은 평가 예산에서, 논문이 정의한 품질·중복성 기준을 통과하는 후보 묶음을 더 많이, 또는 더 높은 품질로 확보했다는 주장이다. 실무 의사결정에서는 이 차이가 중요하다. 리서치 조직이 실제로 소비하는 산출물은 대개 최고 점수 하나가 아니다. 포트폴리오 구성, 리스크 필터, 운영 제약을 거치며 살아남을 후보군이다.

따라서 GoAnt류 접근의 비교 대상은 “내가 지금 쓰는 탐색기가 최고 점수를 얼마나 올리나”가 아니다. “같은 계산 예산에서 서로 다른 실패 양상을 가진 후보를 얼마나 남기나”를 봐야 한다.

실행비용 견고성은 어디까지 믿을 수 있나

논문은 실행비용을 탐색 목적함수로 직접 최적화했다기보다, 비용 장벽과 실행 게이트를 통과한 신호만 인정한다. 그런 뒤 탐색에 쓰지 않은 후행 고정 구간에서 같은 팩터 집합의 품질 유지율을 본다. 논문에 보고된 유지율은 가격-거래량 설정에서 0.64, 호가창 설정에서 0.67이다. 또한 실제 A주식 시장 미시구조 데이터와 호가창 스냅샷을 썼다는 점에서, 단순 일별 가격 데이터 백테스트보다 시장 구조를 더 많이 반영한 검증에 가깝다.

다만 해석에는 한계가 있다. 검색된 근거만으로는 라이브 주문집행, 실제 체결, 브로커나 거래소별 주문 라우팅 검증까지 확인할 수 없다. 비용모형의 세부 산식이나 시장충격 추정 방식도 충분히 확인되지 않았다. 그러므로 이 결과는 “실거래에서 재현된다”가 아니라 “실행비용을 무시한 프록시 탐색보다 더 까다로운 필터를 통과하도록 설계됐다”로 읽는 편이 안전하다.

실무 적용에서는 유지율 자체보다 절차가 더 중요하다. 탐색 중 점수를 올리는 지표와, 탐색 후 통과해야 하는 비용·안정성·중복성 게이트를 분리해야 한다. 그렇지 않으면 멀티에이전트 탐색은 더 빠른 발견기가 아니라 더 빠른 과적합기가 될 수 있다.

왜 ‘다양성’이 장식이 아닌가

품질-다양성 탐색의 기본 아이디어는 후보마다 적합도 값과 행동 서술자를 함께 보는 것이다. 행동 공간을 여러 니치로 나누고, 각 니치에서 점수가 높은 후보를 보존한다. GoAnt의 금융 문제에서는 이 원리가 중복 팩터군 반복 탐색을 줄이는 장치로 쓰인다.

이 메커니즘은 단순 앙상블과 다르다. 앙상블은 나중에 후보를 모아 다양성을 평가할 수 있다. 반면 품질-다양성 탐색은 탐색 과정 자체에서 “다른 종류의 좋은 후보”가 사라지지 않게 한다. 최고 점수 후보 주변으로 탐색 압력이 몰리는 것을 줄이고, 서로 다른 행동 특성을 가진 후보에도 예산이 배정되게 한다.

대가도 있다. 행동 다양성의 정의가 틀리면 탐색은 쓸모없는 차이를 보존한다. 금융에서는 팩터의 행동적 중복성을 어떻게 정의하느냐가 결과 해석을 좌우한다. 도구 사용 에이전트나 프로그램 합성으로 옮길 때도 마찬가지다. 도구 조합, 호출 궤적, 프로그램 구조, 피처 중복성 같은 요소가 행동 서술자가 될 수 있다. 그러나 GoAnt가 그 영역에서 성능 향상을 보였다는 실증은 확인되지 않았다.

의사결정 규칙

GoAnt식 접근을 도입할 조건은 세 가지다.

첫째, 현재 탐색 산출물이 비슷한 후보군으로 몰리는 문제가 실제 병목이어야 한다. 단순히 후보가 적은 문제가 아니어야 한다. 서로 다른 듯 보이지만 같은 데이터 패턴이나 같은 거래 가정에 의존하는 후보가 반복되는 문제여야 한다.

둘째, “좋음”과 “다름”을 분리해 측정할 수 있어야 한다. 품질 지표는 실행 가능성, 정확성, 비용 통과 여부처럼 사후 사용성과 연결돼야 한다. 다양성 지표는 사람이 보기 좋은 분류가 아니라, 최종 의사결정에서 중복을 줄이는 기준이어야 한다.

셋째, 탐색에 쓰지 않은 고정 구간 또는 별도 과제로 잠긴 후보 집합을 재생 평가해야 한다. GoAnt 논문도 유지율을 통해 이 부분을 본다. 내부 적용에서도 탐색 중 최고점 갱신보다, 잠근 후보 묶음이 후행 평가에서 얼마나 남는지를 채택 기준으로 삼아야 한다.

따라서 이 논문에서 가져갈 결정은 “GoAnt를 그대로 쓰자”가 아니다. 더 정확한 결정은 이렇다. 프로그램 탐색 시스템의 실패가 프록시 과적합과 후보 중복으로 나타나고 있다면, 다음 실험은 더 큰 모델이나 더 많은 에이전트가 아니라 품질-다양성 목적을 넣은 동예산 비교여야 한다. 평가지표는 최고점이 아니라 고품질·비중복 후보의 산출량과 잠긴 후보의 표본외 유지율로 잡아야 한다.

다음으로 읽기

• BioSync 도입 판단의 핵심
• REFINE로 보는 환자별 코드 표현
• LLM 추론 SWA의 역할과 한계
• 샌더스·카사르 AI 금지 법안의 실무적 의미
• CKD 선별에 LLM을 쓰기 전 확인할 것

참고 자료

• Evolving the Behavior of Machines: From Micro to Macroevolution - pmc.ncbi.nlm.nih.gov
• Searching for Software Diversity - personal.utdallas.edu
• arxiv.org - arxiv.org
• GoAnt: Quality-Diversity Multi-Agent Search for Alpha Factor Discovery in Market Microstructure Data - arxiv.org
• DIVE: Scaling Diversity in Agentic Task Synthesis for Generalizable Tool Use - arxiv.org