AI가 같은 말 무한반복하는 '둠 루프', 리퀴드 AI 안티둠으로 90% 줄인다
작은 AI 모델이 같은 문장을 끝없이 반복하는 '둠 루프' 문제를 겨냥한 오픈소스 해법 안티둠(Antidoom). 무엇이고 왜 생기며 어떻게 줄이는지 핵심만 정리했습니다.
AI가 같은 문장을 끝없이 반복하다 멈추지 못하는 ‘둠 루프(doom loop)’ 문제를, 리퀴드 AI가 2026년 7월 7일 공개한 오픈소스 학습 기법 ‘안티둠(Antidoom)‘으로 최대 90% 안팎까지 줄였다고 밝혔습니다. 작은 AI를 로컬에서 돌려 본 사람이라면 한 번쯤 겪는 그 ‘무한반복 먹통’ 현상이 왜 생기고 어떻게 잡는지 정리했습니다.
챗봇이나 소형 AI 모델에 질문했더니 어느 순간부터 같은 말만 계속 되풀이하며 답이 끝나지 않은 경험, 낯설지 않을 겁니다. 최근 이 고질적 문제를 정면으로 겨냥한 기술이 나오면서 관심이 커지고 있습니다.
둠 루프가 뭐길래
둠 루프는 AI 모델이 한 구간의 문장을 내놓은 뒤, 그 구간을 계속 되풀이하며 출력을 멈추지 못하는 현상입니다. 출력이 끊기지 않고 이어져 ‘문맥 창(모델이 한 번에 처리할 수 있는 글자 분량)‘을 다 써 버릴 때까지 같은 말이 반복됩니다.
특징을 정리하면 이렇습니다.
| 항목 | 내용 |
|---|---|
| 증상 | 같은 문장·구절을 무한 반복, 출력이 멈추지 않음 |
| 취약한 조건 | 크기가 작은 추론 모델일수록 더 잘 발생 |
| 악화 요인 | 어려운 문제로 긴 사고 과정(추론)을 거칠 때 |
| 결과 | 문맥 창 소진 → 사실상 답을 못 냄 |
특히 성능을 아끼려 크기를 줄인 ‘소형 추론 모델’이나 개인 PC에서 돌리는 로컬 AI에서 두드러지기 때문에, 로컬 AI 사용자층에서 반가워하는 소식입니다.
왜 같은 말을 반복할까
원인은 모델이 다음 단어를 고르는 방식에 있습니다. AI는 매 순간 ‘다음에 올 확률이 높은 단어’를 고르는데, 학습 과정에서 특정 단어가 과도하게 자주 등장하면 그 단어가 유난히 잘 뽑히게 됩니다. 리퀴드 AI는 이를 ‘과도하게 학습된 토큰(단어 조각)‘과 불확실성이 겹칠 때 생기는 문제로 설명합니다.
추론 모델에서는 “잠깐(Wait)”, “다른 방법으로(Alternatively)” 같은 자기점검·전환 표현이 이런 고빈도 단어에 해당합니다. 모델이 확신이 없을 때 이런 표현으로 되돌아가고, 그 지점에서 같은 흐름이 반복되며 루프에 빠지는 구조입니다.
안티둠은 어떻게 고치나
안티둠의 핵심은 ‘루프가 시작되는 바로 그 한 글자를 콕 집어 고친다’는 발상입니다. 정식 명칭은 최종 토큰 선호 최적화(FTPO, Final Token Preference Optimization)입니다.
- 루프가 시작되는 정확한 지점의 토큰을 식별
- 그 한 위치에서 더 자연스러운 대안을 선택하도록 학습
- 나머지 확률 분포는 거의 건드리지 않아 모델 성능 훼손 최소화
즉 모델 전체를 흔들지 않고 문제 지점만 미세하게 교정하는 방식이라, 반복은 줄이면서 원래 실력은 지키는 게 목표입니다. 리퀴드 AI에 따르면 학습 과정(파이프라인)은 몇 시간 안에 끝나고, 전체 코드는 오픈소스로 공개돼 깃허브에서 받을 수 있습니다.
실제로 얼마나 줄었나
리퀴드 AI가 공개한 자체 실험 결과는 다음과 같습니다. 수치는 특정 모델·조건 기준이라는 점을 감안해서 보면 됩니다.
| 모델 | 적용 전 반복 발생률 | 적용 후 |
|---|---|---|
| LFM2.5-2.6B (초기 체크포인트) | 10.2% | 1.4% |
| Qwen3.5-4B (그리디 샘플링) | 22.9% | 1% |
두 경우 모두 반복 발생률이 크게 떨어졌고, 평가 점수도 함께 올랐다고 밝혔습니다. 다만 이는 회사가 제시한 결과이므로, 정확한 조건과 최신 수치는 공식 블로그와 깃허브 저장소에서 직접 확인하는 것이 안전합니다.
이게 왜 의미가 있나
- 로컬·소형 AI의 실사용성: 작은 모델일수록 취약한 문제라, 개인 PC에서 AI를 돌리는 사람에게 체감 개선이 큽니다.
- 오픈소스 공개: 특정 회사만 쓰는 기술이 아니라 누구나 가져다 적용할 수 있어 확산 가능성이 높습니다.
- 성능을 지키는 접근: 모델을 통째로 재학습하지 않고 문제 지점만 손보는 방식이라 비용·시간 부담이 낮습니다.
정리 — 핵심 체크리스트
- 둠 루프 = AI가 같은 말을 무한반복하며 멈추지 못하는 현상, 작은 추론 모델일수록 잘 발생
- 원인 = 과도하게 학습된 단어 + 불확실성 → “잠깐” 같은 전환 표현에서 루프 시작
- 안티둠(FTPO) = 루프 시작 토큰 한 곳만 콕 집어 교정, 나머지는 그대로 둠
- 효과 = 리퀴드 AI 자체 실험서 반복률 10~20%대 → 1%대로 감소(모델·조건별 상이)
- 공개일·형태 = 2026년 7월 7일, 오픈소스로 공개(코드 깃허브 제공)
- 정확한 수치·적용법은 리퀴드 AI 공식 블로그·깃허브 저장소에서 확인
작은 AI를 실제로 쓰는 환경이 늘어나는 만큼, ‘무한반복 먹통’을 구조로 잡으려는 이런 시도는 앞으로 더 주목할 만합니다.
Sources:
자주 묻는 질문
둠 루프가 정확히 뭔가요?
AI 모델이 한 구절을 내놓은 뒤 그 구절을 계속 되풀이하며 출력을 멈추지 못하는 현상입니다. '문맥 창(모델이 한 번에 다룰 수 있는 글자 분량)'을 다 쓸 때까지 같은 말이 반복돼 실질적으로 답을 못 내는 상태가 됩니다.
안티둠을 쓰면 반복이 완전히 사라지나요?
완전히 없어지는 건 아닙니다. 리퀴드 AI가 공개한 자료 기준으로는 반복 발생률을 크게 낮추는 수준입니다. 한 모델은 22.9%에서 1%로, 다른 모델은 10.2%에서 1.4%로 줄었다고 밝혔습니다. 수치는 모델·조건마다 달라 공식 발표를 확인하는 게 정확합니다.
일반 사용자도 안티둠을 써야 하나요?
일반 사용자가 직접 적용할 기술은 아닙니다. 모델을 만들거나 미세조정(파인튜닝)하는 개발자용 학습 기법으로, 코드가 오픈소스로 공개돼 있습니다. 일반 사용자는 이 기법이 적용된 모델을 쓰면서 반복 오류가 줄어드는 효과를 간접적으로 누리게 됩니다.