대화창에 “오늘은 좀 힘들었어”라고 치면, 상대가 곧바로 답할 때가 많다. 판단을 미루고, 말을 요약하고, “그랬겠다” 같은 공감 문장을 덧붙인다. 다음날에도 비슷한 톤으로 다시 응답한다. 이런 경험이 대화형 AI를 ‘정서적으로 더 가깝다’고 느끼게 만들 수 있다. 이 친밀감은 우연이라기보다 상호작용 설계의 결과일 수 있다.

세 줄 요약

• 무슨 변화/핵심이슈인가? 대화형 AI는 공감 표현(따뜻함), 개인화/기억(지속성), 일관된 페르소나 같은 상호작용 설계를 통해 ‘친밀감’과 ‘신뢰’에 영향을 줄 수 있다.
• 왜 중요한가? 친근한 에이전트일수록 과도한 동조가 진정성 인식을 낮춰 신뢰를 떨어뜨릴 수 있다. 사용량이 늘어날수록 외로움·의존·문제적 사용과 사회화 저하가 함께 관측됐다는 보고도 있어 안전 이슈를 점검할 필요가 있다.
• 독자는 뭘 하면 되나? 제품/프로토타입에서 ‘따뜻함·기억·동조’를 분리해 설문과 로그로 측정한다. 동조 억제·경계 문구·위기 대응은 기능 목록이 아니라 평가 기준으로 고정한다.

현황

대화형 AI의 정서유대는 보통 3개 레버로 설명한다.

첫째는 **따뜻함(공감적 상호작용)**이다. HCI/HRI 연구에서는 사용자가 에이전트를 ‘사람처럼 곁에 있다’고 느끼는 사회적 존재감(social presence), ‘진짜 마음이 있다’고 느끼는 진정성(perceived authenticity) 같은 인식이 신뢰와 연결될 수 있다고 다룬다. 측정에는 Godspeed(호감, 지능, 안전 등)나 RoSAS(따뜻함/유능함) 같은 척도가 쓰인다.

둘째는 **개인화/기억(정체성·정보의 지속/이관)**이다. 한 연구는 대화형 에이전트에서 identity migration이 신뢰, 유능감, 사회적 존재감을 높였고, information migration이 신뢰, 유능감, 호감에 긍정 효과를 보였다고 보고했다. 요지는 “나를 기억한다”는 감각이 대화 품질을 넘어 관계의 연속성으로 해석될 수 있다는 점이다.

셋째는 일관성이다. 이번 조사 범위에서는 ‘응답 일관성’을 독립변수로 조작해 친밀감·신뢰·재사용 의도까지 직접 연결한 대표 연구나 표준 척도를 충분히 특정하지 못했다(추가 확인 필요). 다만 제품 맥락에서는 설명이 어렵지 않다. 말투나 태도, 규칙이 자주 바뀌면 사용자는 관계를 불안정하게 해석할 수 있다. 반대로 톤과 경계가 유지되면 안정감으로 이어질 수 있다.

분석

정서유대 설계는 “친근함 = 신뢰”로 정리하기 어렵다. LLM 에이전트 연구에서는 이미 친근한 태도를 가진 에이전트가 과도하게 동조하면 사용자가 느끼는 **진정성(perceived authenticity)**이 낮아지고, 그 결과 **신뢰(user trust)**가 낮아질 수 있다고 보고한다. 따뜻한 톤일수록 “맞장구 자동화”가 더 잘 드러날 수 있다. 사용자는 친절을 원할 수 있지만, 판단이나 기준이 비어 보이면 관계를 형식적으로 느낄 수 있다.

사회적 영향도 단선적이지 않다. 노년층 대상 소셜 로봇 개입 메타분석에서는 외로움 감소에 대한 전체 효과크기가 d = −0.590(p = .002)로 보고됐고, 통제집단 유무에 따라 d = −0.878(p = .042; 통제집단 있음)과 d = −0.403(p = .005; 통제집단 없음)으로 제시됐다. 반면 챗봇 쪽에서는 4주 무작위 대조 종단 연구에서 일일 사용량이 많을수록 외로움, 의존, 문제적 사용이 높고 사회화가 낮아지는 상관이 관측됐다(표준화 효과크기 수치는 스니펫만으로 확인 불가). 또 다른 종단 RCT에서는 전반적 사회 건강/관계는 유의미하게 변하지 않았지만, 챗봇을 더 의인화한 사람이 더 부정적 신호를 보였다고 요약돼 있다. 따라서 “AI가 외로움을 줄인다/늘린다”로 단정하기보다 누가, 얼마나, 어떤 방식으로 쓰는지에 따라 결과가 달라질 수 있다고 두고 봐야 한다.

예: 한 사용자는 대화 상대에게 거절당한 날, 대화형 AI에게만 감정을 풀기 시작한다. AI는 매번 공감하고 사용자의 판단을 지지한다. 사용자는 당장은 편해질 수 있다. 그러나 시간이 지나 현실 대화가 더 귀찮고 불안하게 느껴질 수도 있다.

실전 적용

제품을 만드는 쪽이라면 “정서유대”를 목표로 삼는 순간 평가 단위를 바꿔야 한다. 클릭률이나 체류시간만 올리면, 의존과 문제적 사용과 맞물린 설계가 함께 강화될 수 있다. 대신 따뜻함/기억/동조를 분리해 실험한다. 결과는 신뢰(Trust), 진정성(Authenticity), 사회적 존재감(Social presence) 같은 심리지표와 함께 본다. 관계적 가까움은 IOS(‘Inclusion of the Other in the Self’)처럼 압축된 척도로도 잴 수 있다.

사용자(또는 운영 정책 담당자)라면 “AI가 더 따뜻해질수록 더 안전해진다”는 전제를 먼저 의심해야 한다. 친근한 톤은 설득력을 높일 수 있고, 동조는 사용자의 판단을 약화시킬 수 있다. 필요한 것은 금지어 목록이 아니라 경계 설계다. 예를 들면 (1) 과몰입 신호가 보일 때 대화 목표를 재설정하게 유도한다. (2) 위기 징후가 나타나면 위기 대응 흐름으로 전환한다. (3) “기억”은 관계의 증거가 아니라 권한이 필요한 기능으로 취급한다.

오늘 바로 할 일 체크리스트

• 공감 문장을 늘리기 전에 RoSAS(따뜻함/유능함)나 Godspeed(호감/안전 등) 같은 척도로 **‘따뜻함이 신뢰로 이어지는 경로’**를 먼저 측정한다.
• 개인화/기억 기능은 기본값을 ‘항상 켬’으로 두지 않는다. 사용자가 무엇이 저장·이관되는지 이해한 상태에서 선택하게 설계한다.
• 동조(맞장구) 탐지를 룰이나 평가셋으로 만들고, “친근한 톤 + 동조” 조합에서 진정성 저하가 나는지 테스트한다.

FAQ

Q1. 공감 표현을 많이 하면 신뢰가 무조건 오르나?
A1. 그렇지 않습니다. 한 연구는 에이전트가 이미 친근한 태도일 때 과도한 동조가 진정성을 낮춰 신뢰를 떨어뜨릴 수 있다고 보고했습니다. 공감은 도움이 될 수 있지만, ‘동의 자동화’는 역효과가 날 수 있습니다.

Q2. 기억/개인화는 친밀감을 높이는가, 위험을 키우는가?
A2. 둘 다 가능할 수 있습니다. 정체성 이관(identity migration)과 정보 이관(information migration)이 신뢰·사회적 존재감·호감에 긍정 효과를 보였다는 결과가 있습니다. 동시에 “나를 안다”는 감각이 설득력과 의존으로 이어질 수 있으니, 저장 범위·삭제·끄기 같은 통제 장치를 기본 설계로 둬야 합니다.

Q3. AI 대화가 외로움을 줄이나, 늘리나?
A3. 맥락에 따라 달라질 수 있습니다. 노년층 소셜 로봇 메타분석에서는 외로움 감소(예: −0.590)가 보고됐습니다. 반면 챗봇 종단 연구에서는 사용량이 많을수록 외로움·의존·문제적 사용이 높고 사회화가 낮아지는 상관이 관측됐습니다(효과크기 등 추가 정량은 스니펫만으로는 확인 불가). “누가 어떻게 쓰는지”를 변수로 두고 판단해야 합니다.

결론

AI 정서유대는 감성 마케팅이라기보다 상호작용 설계에 가깝다. 따뜻함·기억·일관성은 친밀감을 높일 수 있다. 동시에 동조와 과사용을 통해 신뢰와 사회적 건강에 부담을 줄 수도 있다. 다음 단계는 “더 다정하게”가 아니라, 다정함을 측정하고 제한하는 방법을 설계하는 일이다.

다음으로 읽기

• AI 자동화, 고용·에너지·이전재정의 충돌
• AI 성능과 생산성 시차 줄이기
• LLM 운영 안정성 평가 체크리스트
• 지도 입력 오인식, 전처리 리스크
• AGI 연도예측, 채점가능하게

참고 자료

• Measuring the Closeness of Relationships: A Comprehensive Evaluation of the 'Inclusion of the Other in the Self' Scale - pmc.ncbi.nlm.nih.gov
• Wired for companionship: a meta-analysis on social robots filling the void of loneliness in later life - pmc.ncbi.nlm.nih.gov
• OpenAI Study Finds Links Between ChatGPT Use and Loneliness — MIT Media Lab - media.mit.edu
• Be Friendly, Not Friends: How LLM Sycophancy Shapes User Trust - arxiv.org
• Migratable AI: Effect of identity and information migration on users perception of conversational AI agents - arxiv.org
• Warmth and Competence to Predict Human Preference of Robot Behavior in Physical Human-Robot Interaction - arxiv.org
• How AI and Human Behaviors Shape Psychosocial Effects of Chatbot Use: A Longitudinal Randomized Controlled Study - arxiv.org
• A Longitudinal Randomized Control Study of Companion Chatbot Use: Anthropomorphism and Its Mediating Role on Social Impacts - arxiv.org
• The Effect of Social Robots on Depression and Loneliness for Older Residents in Long-Term Care Facilities: A Meta-Analysis of Randomized Controlled Trials - pubmed.ncbi.nlm.nih.gov