검토한 사이트 중 절반가량에 llms.txt 파일이 존재합니다. 총 59개를 분석했습니다
요약
llms.txt는 웹사이트 루트에 위치하여 LLM에게 사이트의 중요 페이지 지도를 제공하는 제안 컨벤션입니다. 분석 결과, 조사된 웹사이트 중 약 47%가 이 파일을 가지고 있었으며, 이는 개발자 및 AI 코딩 도구/에이전트들이 활용하고 있음을 보여줍니다. 다만, 파일 내용 자체는 설명(description) 부분이 부족한 경향을 보였습니다.
핵심 포인트
- llms.txt는 LLM에게 사이트 구조를 안내하는 새로운 컨벤션입니다.
- AI 코딩 도구와 에이전트가 이 파일을 활용하고 있습니다.
- 파일의 가치는 링크 목록보다 페이지에 대한 '설명' 메모에 달려있습니다.
- SEO 플러그인들이 이 파일 생성에 관여하며, 그 방식은 다양합니다.
llms.txt는 제안된 컨벤션입니다. 이는 웹사이트 루트 디렉터리에 위치하는 Markdown 파일로, 언어 모델(LLM)에게 해당 사이트의 중요 페이지를 간결하게 정리한 지도를 제공합니다. 아무도 이를 지원할 의무는 없으며, 저희가 아는 한 어떤 AI 검색 엔진도 이 파일을 읽는다고 문서화하고 있지는 않습니다. 개발자가 웹사이트를 지정하는 AI 코딩 도구와 에이전트는 이 파일을 읽고 있으며, SEO 플러그인들은 이제 단일 설정으로 이를 생성합니다.
저희는 해당 파일을 확인하는 무료 SEO 감사 도구를 운영하기 때문에 분석할 샘플을 확보했습니다. 2026년 8월 25일부터 10월 8일까지 감사를 진행한 123개 웹사이트 중, 10월 8일에 각각 가져왔을 때 실제로 llms.txt를 제공하는 사이트는 58개였습니다. 이는 예상보다 훨씬 높은 47%에 달합니다.
우선 주의사항입니다. 이들은 소유자가 SEO 감사를 실행하기로 선택한 사이트들이므로, 이미 SEO에 관심이 많은 사람들에게 치우쳐 있으며, 123개라는 샘플 크기는 작다는 점을 염두에 두셔야 합니다. 이를 '웹 전체의 비율'이라기보다는 '파일들의 모습'으로 읽어주시기 바랍니다.
10월 10일에는 이 파일들을 다시 다운로드(총 59개가 존재)하여 제대로 분석했습니다. 첫 번째 놀라움은 그중 3분의 1이 실제로는 별도의 파일이 아니었다는 것입니다.
59개 중 20개는 세 가지 템플릿에서 유래했습니다
20개의 파일은 세 가지 템플릿의 복사본이었으며, 각각은 유사한 구조를 가진 일련의 소규모 웹 도구 사이트(대부분 AI 도구)에 반복되어 사용되었습니다. 여덟 개는 하나의 레이아웃을 공유했고 열 개는 다른 레이아웃을 공유했으며, 두 개가 세 번째 레이아웃과 일치했습니다.
두 가지 큰 템플릿은 그 자체로 흥미롭습니다. 하나는
llmstxt.org의 사양은 사이트 이름으로 된 H1(필수 항목), > blockquote 요약 블록, 그리고 - [이름](url): 이 페이지가 무엇인지 형식으로 작성된 H2 섹션 링크를 요구합니다. ## Optional 섹션은 모델이 컨텍스트가 부족할 때 건너뛸 수 있는 링크들을 표시하는 곳입니다.
| 39개의 일회성 파일 | |
|---|---|
#로 시작하는 H1 | 34개 (87%) |
| ... | |
H1로 시작하지 않는 다섯 개 중 네 개는 플러그인 주석 줄("Generated by All in One SEO…", "Generated by Rank Math SEO…")으로 시작하고, 하나는 요약부터 바로 건너뜁니다. 39개 파일 모두 text/plain 형식으로 제공됩니다. |
약점은 설명입니다
llms.txt가 가치 있는 이유는 각 링크 뒤에 붙는 짧은 메모 덕분입니다. 이 메모는 페이지를 가져오지 않고도 모델에게 해당 페이지가 무엇을 다루는지 알려줍니다. 바로 이 부분에서 파일들이 부족합니다.
39개 중 37개가 링크 목록을 가지고 있습니다. 그중 17개는 모든 링크를 설명하고, 11개는 아무것도 설명하지 않습니다. 이들은 단순히 페이지 제목과 URL의 나열일 뿐이며, 이는 사이트맵(sitemap)이 이미 제공하는 정보입니다. 나머지 9개는 일부만 설명합니다.
플러그인들이 작성한 내용
39개의 파일 중 11개(28%)가 SEO 플러그인이 생성했음을 명시하고 있습니다: Yoast (6개), All in One SEO (3개), 그리고 Rank Math (2개)입니다. 이들은 상당히 다릅니다:
- Yoast의 경우: 작고 깔끔했습니다. 7개에서 34개의 링크, 하나의 요약 줄, H2 섹션으로 구성되어 있었습니다. 6개 중 5개는 아예 링크 설명이 없었고, 나머지 하나는 34개 링크 중 5개를 설명했습니다.
- Rank Math의 경우: 거의 모든 링크를 설명했습니다.
- All in One SEO의 경우: 양 극단을 모두 다루었습니다. 37개 링크로 구성된 파일과 각각 천 개 이상의 페이지(1.2 MB 및 286 KB)를 나열한 두 개의 파일이 있었습니다.
핵심 아이디어는 선별된 짧은 목록이어야 하므로, 크기가 중요합니다. 중앙값 파일은 19개의 링크를 가졌고 (중간 절반은 대략 14개에서 52개), 용량은 5 KB 미만이었습니다. 가장 큰 파일은 6,000개가 넘는 링크와 2 MB 이상이었습니다.
만약 이 기능을 플러그인에 적용한다면, 파일을 한 번 열어보세요. 중요한 페이지마다 문장 하나를 추가하는 것은 몇 분밖에 걸리지 않으며, 단순한 링크 나열을 모델이 사용할 수 있는 형태로 바꿀 수 있습니다.
죽은 링크 (Dead links)
각 파일마다 최대 20개의 동일 사이트 링크를 확인했으며, 총 37개 파일에서 554개의 링크가 발견되었습니다. 이 중 네 개의 파일은 404 오류를 반환하는 페이지로 연결되었고, 전체적으로 23개의 깨진(dead) 링크가 있었습니다. 특히 두 파일에서는 확인된 링크 대부분이 깨져 있었습니다 (각각 20개 중 13개, 8개). 이는 리디자인 후에 한 번 작성하고 잊어버린 파일들처럼 보입니다.
다음 명령어로 직접 확인할 수 있습니다:
curl -s https://example.com/llms.txt | grep -oE ']\(https?://[^)]+\)' | tr -d '()]' | while read -r u; do printf '%s %s\n' "$(curl -sL -o /dev/null -w '%{http_code}' "$u")" "$u"; done | grep -v '^200'
출력이 없다는 것은 모든 링크가 200 코드를 받았다는 의미입니다. 또는 주소를 저희 llms.txt 검증기에 붙여넣어 구조와 링크를 확인해 보세요.
마크다운(Markdown)으로 연결하는 곳은 없음
이 제안은 또한 유용한 페이지 각각의 내용을 동일한 URL에 .md 확장자를 추가하여 클린 마크다운 사본을 게시하고, 해당 파일로 연결할 것을 제안합니다. 분석한 59개 파일 중 단 하나도 .md URL로 연결하는 곳은 없었습니다. 이는 아이디어 중 모델(탐색 메뉴나 스크립트를 거칠 필요가 없는)에게 가장 직접적으로 겨냥된 부분이며, 이 샘플에서는 아직 아무도 시도하지 않은 것 같습니다.
좋은 최소한의 파일
# Example Co
> Example Co는 프리랜서를 위한 인보이싱 소프트웨어를 만듭니다. 이 파일은 제품, 가격 책정 및 API를 설명하는 페이지 목록을 담고 있습니다.
...
각각 실제 문장이 포함된 20개의 링크가 아무런 내용 없는 1,000개보다 더 효과적입니다.
우리가 얻을 수 있는 것들
- 이 샘플에서는 파일 자체가 존재하는 것이 흔합니다. 하지만 유용한 파일을 가진 경우는 그렇지 않습니다.
- 만약 플러그인이 귀하의 파일을 작성했다면, 그것을 읽고 설명을 추가하세요.
- 리디자인 후에는 링크를 다시 확인하세요.
- 여기서 검색 트래픽을 기대하지 마세요. AI 답변에 인용되는 것은 페이지 자체에서 나옵니다.
저희는 llms.txt가 무엇이며 어떻게 작성해야 하는지에 대한 더 긴 가이드를 작성했으며, 감사한 모든 사이트(현재 150개 이상)에서 공통적으로 발견되는 문제점들을 연구 페이지에 매주 업데이트하여 게시하고 있습니다.
계수 방법. 사이트: 2026년 8월 25일부터 10월 8일까지 감사한 각 사이트에 대한 최신 완전 감사 결과이며, 자체 사이트 및 크롤링이 차단되거나 중단된 감사는 제외했습니다. 실제 파일로 간주되는 조건은 /llms.txt가 HTML이 아닌 본문으로 200을 반환하는 것이었습니다. 존재 여부는 10월 8일에 확인했고, 내용은 10월 10일에 읽었습니다. 템플릿화된 파일들은 동일한 H2 섹션 레이아웃별로 그룹화했습니다. 링크 검사: 파일당 첫 20개의 고유한 같은 사이트 링크를 HEAD 후 GET으로 수행했으며, 오직 404와 410만 데드(dead)로 간주했습니다 (403, 429 및 타임아웃은 제외). 플러그인 출처는 파일 자체의
AI 자동 생성 콘텐츠
본 콘텐츠는 Dev.to AI tag의 원문을 AI가 자동으로 요약·번역·분석한 것입니다. 원 저작권은 원저작자에게 있으며, 정확한 내용은 반드시 원문을 확인해 주세요.
원문 바로가기