커뮤니티2026년 3월 8일2026-03-083분Verified
커스텀 지침 페르소나가 흔들리는 이유
Model Spec의 체인 오브 커맨드와 정책 충돌로 페르소나·사고 규칙이 흔들린다. 우선순위·예외·fallback으로 재현성을 높인다.
출처2026년 3월 7일2026-03-074분Verified
불확실성으로 로봇 권한 조절
딥러닝 인지 불확실성을 자율성 게이팅 신호로 써 반자율·텔레옵을 전환하는 SPIRIT 접근.
커뮤니티2026년 3월 4일2026-03-044분Verified
대화형 AI의 친밀감 설계와 신뢰
공감·기억·일관성 설계가 친밀감과 신뢰에 미치는 영향과 안전 평가 기준을 정리합니다.
커뮤니티2026년 3월 1일2026-03-014분Verified
프롬프트 작은 변화가 로봇 안전을 흔드는 이유
언어 지시의 미세 변화가 로봇 행동에 증폭돼 사고로 이어질 수 있음을 분석.
커뮤니티2026년 3월 1일2026-03-015분Verified
전장형 통합 AI의 실패 모드 검증
전장형 통합 AI는 성능보다 오탐·미탐, 불확실성, 폐루프 실패 전파 검증이 핵심이다.
커뮤니티2026년 2월 25일2026-02-254분Verified
모델 출력 변동, 스냅샷으로 추적하라
같은 모델 별칭도 스냅샷·안전동작·샘플링 설정에 따라 출력이 달라진다. 재현·로그로 원인 분리.
커뮤니티2026년 2월 16일2026-02-164분Verified
관계시험 프롬프트와 AI 경계 설정
AI 대화의 관계시험에 대응하는 거절·경계 설정을 규칙과 평가로 고정하는 방법.
뉴스2026년 1월 27일2026-01-272분Verified
xAI Grok 법적 조사와 AI 안전 표준의 의무화
xAI Grok의 부적절한 이미지 생성 혐의에 따른 캘리포니아와 EU의 법적 조사와 AI 안전 표준 의무화 동향을 살펴봅니다.