AI와 페르미 역설, L의 의미
AI 종말론보다 드레이크 방정식의 L과 관측 한계로 페르미 역설을 해석하는 글.
범용 인공지능/초지능을 둘러싼 연구와 논쟁, 그리고 신호들.
허브 콘텐츠는 점진적으로 업데이트됩니다.
AI 종말론보다 드레이크 방정식의 L과 관측 한계로 페르미 역설을 해석하는 글.
Apertus의 쟁점은 성능보다 공개 범위와 배포 통제다. 오픈 모델과 주권형 AI의 조건을 짚는다.
무료 청소·요리 대가로 집안 데이터를 모으는 실험과 로봇 학습의 프라이버시 쟁점을 짚는다.
코드 생성 LLM의 보안성은 맥락에 따라 달라질 수 있어 조달·평가·공급망 점검이 필요하다.
AI 연구 자동화의 비용 절감 사례와 노동시장 노출 통계를 함께 보며 대체와 재편을 구분한다.
JustDiag가 LLM RCA를 증거·대안·모순·불확실성이 남는 감사 가능한 진단으로 바꾸는 의미를 짚는다.
중국산 LLM의 경쟁력은 발언보다 벤치마크와 독립 평가, 비용 효율을 함께 봐야 드러난다.
단일 에이전트 한계를 넘어, 신뢰·권한·평판·감사를 갖춘 분산 협업 구조를 짚는다.
EurekAgent는 프롬프트보다 권한·아티팩트·예산·승인 지점 설계가 핵심임을 보여준다.
shielded RL을 런타임 차단기가 아닌 설계 단계 구조 분석 도구로 재해석한 논의를 정리한다.
AI 통제 상실의 모호한 정의를 짚고, 목표 설정·감사·중단·되돌리기 중심의 운영 질문으로 재구성한다.
TadA-Bench는 단백질 AI를 예측 점수보다 실험 선택과 순서 결정 능력으로 다시 평가하자고 제안한다.
550km 궤도 자율 AI를 위한 Constitutional AI 검증 프레임워크의 가능성과 한계를 짚는다.
기계적 해석가능성의 핵심 쟁점이 해석 자체보다 감사·재현 가능한 검증 규칙에 있음을 짚는다.
국가 소득과 언어 환경에 따라 생성형 AI의 교육·활용 목적이 어떻게 달라지는지 짚는다.
AI가 가사·장문 원문 재현을 막고, 사용자 제공 텍스트 변환은 허용하는 이유를 짚는다.
부분 관측 강화학습에서 선형 순환 메모리가 HMM belief 추정처럼 작동할 수 있다는 관점을 짚는다.
AI 문명 가설과 페르미 역설을 기술서명 탐지 한계, 폐열·전파 관측 상한으로 짚는다.
AI 도입의 핵심은 고용보다 분배다. 임금 감소와 자본소득 집중 가능성을 함께 점검해야 한다.
AI 기본 지원은 현금보다 크레딧·바우처로 먼저 설계될 가능성과 그 한계를 짚는다.
규제 QA에서 답변 정확도보다 규칙별 출처 귀속과 인용 폐쇄의 중요성을 짚는다.
PRO-CUA는 브라우저 에이전트를 trajectory 보상 대신 단계별 process reward로 학습시키는 구조를 제안한다.
개인 구독과 API의 과금·계약 구조 차이와 AI 한도 재판매의 정책·보안 리스크를 짚는다.
K-12 글쓰기에서 LLM을 교사·학생·모델 협업과 통제 기준으로 설계하는 연구를 짚는다.