AI 편익과 위험의 계산법
AI의 성장 편익과 실존적 위험을 같은 경제학적 프레임에서 비교해야 한다는 쟁점을 짚는다.
AI가 생활수준을 크게 끌어올릴 수 있다면, 그 대가로 우리는 어느 정도의 위험까지 감수할 수 있을까? 이 질문이 불편한 이유는 기술 낙관론과 재난 위험론을 따로 말하던 습관을 깨기 때문이다. 스탠퍼드 경제학자 채드 존스는 자신의 연구 범위를 “the economics of artificial intelligence, growth, and existential risk”라고 적고 있다. 앤트로픽 인스티튜트는 강력한 AI의 “radical upsides”와 “notable risks”를 함께 다룬다고 밝힌다. 핵심은 단순하다. AI의 편익과 위험은 서로 다른 진영의 구호가 아니라, 같은 계산식 안에서 비교할 수 있는 대상이다.
세 줄 요약
- 이 글의 핵심 쟁점은 AI의 생산성·성장 효과와 실존적 위험을 하나의 경제학적 프레임으로 함께 다룰 수 있느냐는 문제다.
- 이 문제가 중요한 이유는 위험 수치 하나가 보편적 진실이 아니라 효용 함수와 확률 가정의 산물일 수 있어서, 정책과 투자 판단이 숫자 해석에 따라 달라질 수 있기 때문이다.
- 독자는 AI 위험 담론을 볼 때 숫자 자체보다 먼저 가정을 확인해야 한다. 조직 안에서는 편익·위험을 분리 보고하지 말고 같은 의사결정 문서에서 비교해야 한다.
현황
채드 존스의 공식 스탠퍼드 GSB 프로필은 그를 경제학 교수이자 SIEPR 시니어 펠로로 소개한다. 같은 프로필은 그의 현재 연구를 “population and economic growth”와 “the economics of artificial intelligence, growth, and existential risk”로 설명한다. 여기서 중요한 것은 표현의 구조다. AI, 성장, 실존적 위험이 따로 떨어진 주제가 아니라 하나의 연구 묶음으로 제시된다. 성장론과 안전론을 연결하는 틀이 공식 소개 문구에 들어 있다.
앤트로픽 인스티튜트의 공식 설명도 비슷한 구성을 쓴다. 이 조직은 강력한 AI 시스템의 결과를 이해하고 형성하는 곳이라고 자신을 소개한다. 또 과학, 안보, 경제발전, 인간 행위성에서의 “radical upsides”와 동시에 “notable risks”를 언급한다. 연구 영역도 네 갈래로 정리한다. “AI, jobs, and the economy”, “Threats and resilience”, “How AI systems behave in the wild”, “AI research and development”다. 경제 효과와 위협 대응이 같은 연구 지도 위에 놓여 있다.
다리오 아모데이와 앤트로픽의 공식 메시지도 이 이중 프레임을 반복한다. 규제 관련 공식 글은 AI가 과학 진보를 가속하고 의료 치료를 열며 경제를 키울 잠재력이 있다고 말한다. 이어서 그 능력과 함께 중대한 위험도 따른다고 적는다. 다른 공식 글은 frontier AI가 사회에 큰 편익을 가져올 잠재력을 강조한다. 동시에 catastrophic risks를 줄이기 위한 위험 거버넌스 프레임워크를 설명한다. 편익과 위험을 같은 문단, 같은 문장에서 함께 다루는 방식이다. 이는 균형을 맞추는 수사라기보다 정책 언어의 구성에 가깝다.
여기서 한 가지는 분명히 구분해야 한다. 이번 조사 결과만으로는 채드 존스의 NBER 워킹페이퍼에 나온 구체적 계산식, 로그 효용 가정, 이른바 ‘3분의 1 위험’ 수치 자체를 직접 확인할 수 없었다. 따라서 그 숫자를 보편적 결론처럼 반복하면 안 된다. 지금 확인되는 사실은 더 기본적인 층위에 있다. 존스는 AI·성장·실존적 위험을 함께 연구한다고 밝히고 있다. 앤트로픽은 급진적 업사이드와 전례 없는 위험을 동시에 다루는 기관 구조를 공개적으로 채택하고 있다.
분석
이 프레임이 중요한 이유는 AI 논쟁의 단위를 바꾸기 때문이다. 사람들은 보통 “AI가 생산성을 올리니 밀어야 한다”와 “AI가 위험하니 멈춰야 한다”를 두 문장으로 말한다. 경제학은 둘을 한 문장으로 바꾸려 한다. 미래 생활수준이 얼마나 높아질지, 그 편익이 얼마나 넓게 퍼질지, 재앙적 손실의 가능성을 어떻게 반영할지를 같은 선택 문제에 넣는다. 이렇게 보면 ‘위험을 줄이면 혁신이 늦어진다’ 같은 상투어보다 더 구체적인 질문이 나온다. 어떤 편익을 얻기 위해 어떤 종류의 위험을 떠안는가, 그리고 그 교환비율을 누가 정하는가가 핵심이다.
동시에 이 접근은 오해를 부르기 쉽다. 첫째, 위험 수치는 자연상수가 아니다. 특정 효용 함수, 특정 확률 경로, 특정 시간 시계열을 넣었을 때 나오는 결과일 수 있다. 둘째, 편익도 총량만 보면 안 된다. 경제가 커져도 고용 충격, 권력 집중, 국가 간 격차가 커지면 후생은 다르게 느껴질 수 있다. 셋째, 실존적 위험은 저확률·초대형 손실이어서 숫자 하나가 주는 수사적 힘이 커질 수 있다. 그래서 ‘위험이 크다’는 주장과 ‘그래서 당장 어떤 규칙이 필요한가’는 분리해서 읽어야 한다. 경제학적 계산은 판단을 돕는 도구다. 도덕적 책임을 대신하지는 않는다.
실전 적용
독자가 지금 얻어야 할 실전 포인트는 하나다. AI 위험 담론을 볼 때, 숫자보다 먼저 식의 구조를 보라는 것이다. 누군가 AI가 큰 번영을 가져온다고 말하면 그 번영이 누구에게, 어떤 경로로, 어떤 기간에 도달하는지 물어야 한다. 반대로 누군가 재앙 확률을 제시하면 그 수치가 경험적 추정인지, 시나리오 가정인지, 효용 계산의 결과인지부터 구분해야 한다. 같은 숫자라도 의미는 달라질 수 있다.
조직 차원에서도 적용할 수 있다. 전략팀은 AI 도입안의 생산성 개선과 안전 리스크를 별도 문서로 올리기 쉽다. 그러면 마지막 회의에서 누군가 감으로 고르게 된다. 더 나은 방식은 같은 문서에 편익, 실패 모드, 완화 비용, 책임 소재를 같이 넣는 것이다. 앤트로픽 인스티튜트가 경제, 위협, 현장 행동, 연구개발을 한 지도 위에 놓는 이유도 여기에 가깝다. 의사결정은 원래 함께 묶어서 해야 한다.
오늘 바로 할 일 체크리스트 3개
- AI 관련 숫자를 인용하기 전에 그 숫자가 관측치인지, 가정 기반 계산치인지 출처 문장으로 확인하라.
- 사내 AI 도입 검토서에 생산성 기대와 안전 리스크를 각각 한 문단으로 나누지 말고 같은 표 안에 넣어 비교하라.
- 경영진 보고 때 “얼마나 좋아지나” 다음 슬라이드에 “어떤 실패를 감수하나”를 바로 붙여 순서를 고정하라.
FAQ
Q. 채드 존스가 앤트로픽에서 맡는 정확한 직함이 확인됐나?
이번 조사 결과에서 공식 자료로 확인된 것은 그의 스탠퍼드 소속과 연구 범위입니다. 앤트로픽 인스티튜트 관련 공식 자료만으로는 그의 구체적 직함이나 직책까지는 확인되지 않았습니다.
Q. ‘3분의 1 위험’ 같은 숫자는 그대로 믿어도 되나?
그대로 받아들이면 곤란합니다. 이번 조사 결과만으로는 해당 수치의 원문 계산식과 전제가 직접 확인되지 않았습니다. 이런 숫자는 보통 특정 효용 가정과 확률 가정 위에서 나올 수 있으므로, 숫자보다 먼저 전제를 확인해야 합니다.
Q. 왜 앤트로픽은 편익과 위험을 계속 같이 말하나?
공식 글을 보면 그 이유를 알 수 있습니다. 앤트로픽은 AI가 과학, 의료, 경제에 큰 편익을 줄 수 있다고 말합니다. 동시에 바로 그 강력한 능력 때문에 catastrophic risks에 대한 거버넌스가 필요하다고 설명합니다. 즉 편익을 말할수록 위험 관리도 함께 설계해야 한다는 논리입니다.
결론
AI 시대의 쟁점은 낙관론과 비관론 중 하나를 고르는 일이 아니다. 성장의 약속과 재난의 가능성을 같은 계산판 위에 올려야 한다. 그리고 그 숫자가 어떤 가정에서 나왔는지 끝까지 따져 물어야 한다.
다음으로 읽기
참고 자료
업데이트 받기
주간 요약과 중요한 업데이트만 모아서 보내드려요.
오류를 발견했나요? 정정/오류 제보로 알려주시면 검토 후 업데이트에 반영할게요.