반응형 RLHF문제점1 AI 의 거짓말, 오픈 AI 수학적으로 밝히다 AI 의 거짓말, 오픈AI 수학적으로 밝히다 1. AI의 거짓말 문제와 연구 배경 생성형 인공지능은 인간과 유사한 대화를 나누고 다양한 작업을 지원하는 기술로 빠르게 확산되고 있습니다. 그러나 사용자 경험에서 가장 자주 지적되는 문제 중 하나는 AI의 거짓말 혹은 환각(Hallucination) 입니다. AI가 자신감 있게 틀린 정보를 제공하거나, 사실과 다른 내용을 꾸며내는 현상은 사용자 신뢰를 크게 떨어뜨립니다. 최근 오픈AI 연구진은 이러한 현상이 단순한 데이터 부족이나 알고리즘의 결함 때문이 아니라, 훈련과 평가 방식 자체에 내재된 구조적 문제라는 점을 수학적으로 밝혔습니다. 이 연구는 AI 신뢰성 논의에 중요한 전환점을 제시합니다. 2. AI 환각의 정의와 원인 AI 환각은 모델이 실제 근거가 .. 2025. 9. 14. 이전 1 다음 반응형
