커뮤니티2026년 7월 18일2026-07-183분Verified
LLM 거절 성향의 차이
모델별 거절 임계값과 맥락 해석 차이가 과도한 거절과 응답 품질에 미치는 영향을 짚는다.
커뮤니티2026년 7월 6일2026-07-063분Verified
에이전트형 LLM 운영 원칙
에이전트형 LLM의 화면 제어와 장기 문맥 시대, 성능보다 권한·승인·안전 설계가 중요하다.
커뮤니티2026년 7월 6일2026-07-063분Verified
요리 휴머노이드의 승부처
가정용 요리 휴머노이드는 외형보다 성공률·시간·안전성·비용으로 평가해야 한다.
출처2026년 7월 4일2026-07-043분Verified
오픈웨이트 안전의 새 기준
오픈웨이트 LLM 안전성은 출시 성능뿐 아니라 저비용 파인튜닝 후 약화 가능성까지 함께 봐야 한다.
출처2026년 6월 12일2026-06-124분Verified
실드 RL의 설계 분석 전환
shielded RL을 런타임 차단기가 아닌 설계 단계 구조 분석 도구로 재해석한 논의를 정리한다.
커뮤니티2026년 3월 8일2026-03-083분Verified
커스텀 지침 페르소나가 흔들리는 이유
Model Spec의 체인 오브 커맨드와 정책 충돌로 페르소나·사고 규칙이 흔들린다. 우선순위·예외·fallback으로 재현성을 높인다.
출처2026년 3월 7일2026-03-074분Verified
불확실성으로 로봇 권한 조절
딥러닝 인지 불확실성을 자율성 게이팅 신호로 써 반자율·텔레옵을 전환하는 SPIRIT 접근.
커뮤니티2026년 3월 4일2026-03-044분Verified
대화형 AI의 친밀감 설계와 신뢰
공감·기억·일관성 설계가 친밀감과 신뢰에 미치는 영향과 안전 평가 기준을 정리합니다.
커뮤니티2026년 3월 1일2026-03-014분Verified
프롬프트 작은 변화가 로봇 안전을 흔드는 이유
언어 지시의 미세 변화가 로봇 행동에 증폭돼 사고로 이어질 수 있음을 분석.
커뮤니티2026년 3월 1일2026-03-015분Verified
전장형 통합 AI의 실패 모드 검증
전장형 통합 AI는 성능보다 오탐·미탐, 불확실성, 폐루프 실패 전파 검증이 핵심이다.
커뮤니티2026년 2월 25일2026-02-254분Verified
모델 출력 변동, 스냅샷으로 추적하라
같은 모델 별칭도 스냅샷·안전동작·샘플링 설정에 따라 출력이 달라진다. 재현·로그로 원인 분리.
커뮤니티2026년 2월 16일2026-02-164분Verified
관계시험 프롬프트와 AI 경계 설정
AI 대화의 관계시험에 대응하는 거절·경계 설정을 규칙과 평가로 고정하는 방법.
뉴스2026년 1월 27일2026-01-272분Verified
xAI Grok 법적 조사와 AI 안전 표준의 의무화
xAI Grok의 부적절한 이미지 생성 혐의에 따른 캘리포니아와 EU의 법적 조사와 AI 안전 표준 의무화 동향을 살펴봅니다.