HyperANFIS 도입 전 확인할 점

HyperANFIS를 지금 의사결정에 쓰려면 이렇게 보는 편이 안전하다. “규칙 기반 설명이 필요한 표형 분류 문제에서 기존 ANFIS의 성능 부족이 병목이라면 검토할 만하다. 다만 설명가능성이 실제로 더 좋아졌다고 보고 도입해서는 안 된다.” 이 연구에서 확인된 범위는 쌍곡공간을 쓰는 ANFIS가 다섯 개 분류 데이터셋에서 기존 ANFIS보다 높은 예측 성능을 냈다는 점이다. 아직 확인되지 않은 부분은 그 규칙을 사람이 더 잘 이해한다는 증거다.

무엇을 바꾼 연구인가

ANFIS는 신경망식 학습과 퍼지 추론을 결합한 모델이다. 장점은 명시적인 IF-THEN 퍼지 규칙을 만들 수 있다는 점이다. 예컨대 입력 조건이 어떤 퍼지집합에 속하면 특정 결론으로 이어지는 규칙 구조를 유지한다. 그래서 “왜 이런 예측을 했는가”를 모델 바깥에서 따로 구성하는 방식보다 내부 구조를 설명과 연결하기 쉽다.

HyperANFIS의 문제의식은 기존 ANFIS가 규칙의 전건부와 추론을 주로 유클리드 공간에서 구성한다는 데 있다. 논문은 이 점이 표현력과 예측 성능을 제한한다고 보고, 규칙 원형 학습, 규칙 활성화, 결과 집계를 쌍곡공간에서 수행하는 Hyperbolic ANFIS를 제안한다. 동시에 기존 ANFIS의 퍼지 의미론, 핵심 구조, IF-THEN 규칙 생성 능력은 유지한다고 주장한다.

핵심은 “규칙을 버리고 블랙박스로 간다”가 아니다. “규칙 구조는 유지하되, 규칙이 놓이는 기하학적 공간을 바꾼다”는 것이다. 따라서 HyperANFIS는 설명가능 AI 논의에서 흥미로운 위치에 있다. 해석 가능한 형식을 유지하려는 모델군 안에서 성능을 높이려는 시도이기 때문이다.

성능 신호는 있다

제공된 결과에 따르면 HyperANFIS는 Spambase, Car, Zoo, WDBC, NSL-KDD 다섯 개 분류 데이터셋에서 기존 ANFIS보다 Accuracy, Macro-F1, Recall이 모두 높았다. 표의 개별 결과에서도 모든 데이터셋·지표 조합에서 HyperANFIS가 ANFIS보다 높은 값을 기록했다.

평균 개선폭은 Accuracy 0.0473, Macro-F1 0.0706, Recall 0.0638로 보고됐다. Zoo에서는 Accuracy 11.11%p, Macro-F1 13.11%p, Recall 0.1071%p 개선이 보고됐다. WDBC에서는 각각 7.02%p, 7.76%p, 0.0877%p 개선이 보고됐다.

이 결과는 “ANFIS를 쓰고 싶은데 성능 때문에 포기했던” 상황에서 실험 후보로 올릴 근거가 된다. 이메일 스팸, 차량 수용성 평가, 동물 분류, 유방암 진단, 네트워크 침입 탐지처럼 표형 분류 문제에서 비교가 이뤄졌다는 점도 적용 범위를 가늠하는 데 도움이 된다. 다만 이는 제공된 연구 범위 안의 비교다. 동료심사 출판 여부는 확인되지 않았다. 다른 모델군과의 폭넓은 경쟁력까지 판단하기에는 근거가 부족하다.

해석가능성은 ‘형식 유지’와 ‘이해 가능’으로 나눠 봐야 한다

HyperANFIS 논의에서 오해하기 쉬운 지점은 “IF-THEN 규칙이 있으니 곧 설명가능하다”는 결론이다. 이 결론은 빠르다.

기존 퍼지 시스템 연구에서도 퍼지 IF-THEN 규칙 형식이 있다는 사실만으로 규칙 베이스의 투명성과 이해 가능성이 보장되지는 않는다고 지적해 왔다. 규칙이 너무 많거나, 서로 중복되거나, 퍼지집합이 과도하게 겹치면 문제가 생길 수 있다. 언어적 분할을 사람이 구분하기 어려운 경우도 있다. 이때 형식은 설명처럼 보여도 사용자는 이해하지 못할 수 있다.

따라서 HyperANFIS의 해석가능성 주장은 두 층으로 나눠야 한다.

첫째, 구조적 해석가능성이다. HyperANFIS는 기존 ANFIS의 퍼지 의미론과 IF-THEN 규칙 생성 능력을 보존한다고 보고됐다. 이 점은 사후 설명 생성 방식보다 유리한 출발점이다. 예측 근거가 모델 내부 규칙 구조와 직접 연결될 수 있기 때문이다.

둘째, 인간 이해용이성이다. 이 부분은 별도로 검증돼야 한다. 제공된 근거만으로는 HyperANFIS의 규칙을 실제 사용자가 기존 ANFIS 규칙보다 더 쉽게 이해했다는 사용자 평가를 확인할 수 없다. 쌍곡기하가 규칙 표현력을 높일 수 있다는 주장과, 그 결과물이 사람에게 더 명료하다는 주장은 다르다.

LLM 설명이나 뉴로심볼릭 AI와 같은 물건은 아니다

HyperANFIS를 LLM 기반 설명가능성 기법과 비교하면 차이가 있다. LLM이 모델의 예측 뒤에 설명문을 생성하는 방식에서는 설명이 원래 모델의 내부 의사결정과 얼마나 충실히 연결되는지가 쟁점이 된다. 반면 HyperANFIS는 명시적 퍼지 규칙을 내부 구조로 유지한다. 그래서 규칙 수준에서 예측 근거를 제시할 수 있다는 장점이 있다.

하지만 이 장점은 적용 범위의 제약과 함께 봐야 한다. 제공된 근거만으로는 HyperANFIS가 대규모 언어·멀티모달 과제에서 확장성을 보였다고 말할 수 없다. 또 LLM 설명기법보다 설명 충실성이 우월하다고 결론 내릴 수도 없다.

뉴로심볼릭 AI와도 일부 문제의식을 공유한다. 데이터 기반 학습과 규칙 해석성을 결합하려는 점에서는 닮았다. 그러나 외부 지식베이스를 통합하거나, 형식 논리 추론을 수행하거나, 결과를 검증·제어하는 기능까지 제공하는지는 확인되지 않았다. 그러므로 HyperANFIS를 넓은 의미의 해석 가능한 학습 모델로 볼 수는 있다. 하지만 지식 추론 시스템으로 확대 해석하면 근거를 벗어난다.

실무 판단 규칙

HyperANFIS를 검토할 만한 경우는 좁다. 표형 분류 문제이고, 이해관계자에게 규칙 기반 설명을 제시해야 하며, 기존 ANFIS의 성능이 부족했던 경우다. 이때는 기존 ANFIS와 같은 데이터 분할·같은 지표로 비교해야 한다. Accuracy뿐 아니라 Macro-F1과 Recall도 함께 봐야 한다. 제공된 연구에서도 세 지표 모두에서 개선이 보고됐기 때문이다.

반대로 다음 조건이면 보류하는 편이 낫다. 설명의 목표가 “규칙 형식 출력”이 아니라 “비전문가가 실제로 납득하고 검토할 수 있는 설명”이라면 별도 평가가 필요하다. 규칙 수, 규칙 중복, 퍼지집합 중첩, 언어적 라벨의 구분 가능성을 확인해야 한다. HyperANFIS 논문 결과만으로 이 부분을 통과했다고 볼 수 없다.

제품 의사결정에서는 이렇게 정리할 수 있다. HyperANFIS는 ANFIS의 성능 한계를 줄이려는 후보 모델이다. 설명가능성 문제를 끝내는 해법은 아니다. 도입 판단의 1차 기준은 기존 ANFIS 대비 재현 가능한 성능 개선이다. 2차 기준은 사람이 읽을 수 있는 규칙 품질이다. 둘 중 하나만 충족하면 연구 검토 단계에 머물러야 한다.

Aionda