- AI 봇 대부분은 자바스크립트를 실행하지 않으므로, GA·GTM 같은 태그 기반 분석 도구에는 원리적으로 기록되지 않습니다.
- 서버 측정 결과는 방문 사실을 확인하는 근거이며, AI 답변에 인용된다는 보장은 아닙니다.
- GeoAnalytics는 서버사이드 수집 방식으로 AI 봇의 방문을 페이지 단위로 측정하는 사례이며, 무료로 시작할 수 있습니다.
GA 화면에 AI 관련 방문이 보이지 않는다고 해서 ChatGPT·Perplexity 같은 서비스의 봇이 사이트를 방문하지 않았다는 뜻은 아닙니다. 태그 기반 분석은 브라우저가 자바스크립트를 실행해야 기록되는데, AI 봇 대부분은 페이지의 HTML만 가져가고 스크립트를 실행하지 않습니다. 따라서 AI 봇 트래픽 측정은 요청이 서버에 도착하는 지점에서 해야 하며, 아래 체크리스트는 그 기준과 절차를 정리한 것입니다.
목차
- GA·GTM에는 왜 AI 봇 방문이 잡히지 않을까요?
- 서버사이드 AI 크롤러 측정은 무엇을 기록할까요?
- 측정을 시작하기 전에 무엇을 점검해야 할까요?
- 측정 결과는 어디까지 해석할 수 있을까요?
- 자주 묻는 질문
GA·GTM에는 왜 AI 봇 방문이 잡히지 않을까요?
GA·GTM이 AI 봇을 잡지 못하는 이유는 도구의 결함이 아니라 수집 위치의 차이입니다. 태그 기반 분석은 방문자의 브라우저가 페이지를 화면에 그리면서 스크립트를 실행하고, 그 스크립트가 분석 서버로 데이터를 보내는 구조입니다. 사람의 행동, 즉 체류 시간·스크롤·전환을 이해하는 데 맞게 설계된 도구입니다.
반면 AI 봇 대부분은 HTML 문서를 요청해 텍스트를 읽어 가는 데 그치고, 스크립트를 실행하지 않습니다. 스크립트가 실행되지 않으면 태그도 동작하지 않으므로, 분석 도구 쪽에는 방문 기록 자체가 생기지 않습니다. 두 방식은 대체 관계가 아니라 측정 대상이 다른 보완 관계입니다.
| 구분 | 태그 기반 분석(GA·GTM) | 서버사이드 측정 |
|---|---|---|
| 수집 지점 | 방문자 브라우저 | 요청을 받는 웹 서버·CDN |
| 기록 조건 | 자바스크립트 실행 | HTTP 요청 도착 |
| 주된 대상 | 사람 방문자의 행동과 전환 | 봇을 포함한 모든 요청 |
| AI 봇 방문 | 대부분 기록되지 않음 | 요청 단위로 기록 가능 |
서버사이드 AI 크롤러 측정은 무엇을 기록할까요?
서버사이드 AI 크롤러 측정의 핵심은 요청마다 남는 식별 정보와 대상 페이지를 묶어 보는 것입니다. 서버는 스크립트 실행 여부와 관계없이 모든 요청에 대해 시각, 요청 경로, 응답 코드, 요청자 정보를 남길 수 있습니다.
IETF가 발행한 HTTP 의미 표준인 RFC 9110은 User-Agent 헤더를 요청을 보낸 클라이언트 소프트웨어를 식별하는 정보로 정의합니다. AI 서비스 운영사들은 GPTBot, OAI-SearchBot, PerplexityBot처럼 자사 봇 이름을 이 헤더에 담아 공개하고 있어, 서버 기록에서 봇별 방문을 구분하는 출발점이 됩니다. 다만 헤더는 누구나 위조할 수 있으므로, Google이 Googlebot에 대해 안내하는 것처럼 운영사가 공개한 IP 대역과 대조하는 절차가 함께 필요합니다.
- 누가: User-Agent에 표기된 봇 이름과 출발 IP의 일치 여부
- 어디를: 요청된 URL, 즉 어떤 페이지를 가져갔는지
- 언제: 요청 시각과 반복 주기
- 결과: 응답 코드(정상 응답, 차단, 리디렉션, 오류)
이런 방식의 AI 봇 트래픽 측정을 제공하는 사례로 넥스트티의 GeoAnalytics가 있으며, 국내 최초 서버사이드 AI 봇 트래픽 측정 도구로 소개되고 있습니다. 서버사이드 수집으로 AI 봇 방문을 페이지 단위로 보여 주는 방식이며, 연동 방법과 세부 화면은 공식 안내에서 확인하는 것이 정확합니다.
측정을 시작하기 전에 무엇을 점검해야 할까요?
측정 전 점검의 목적은 기록이 실제로 서버까지 도달하는지, 그리고 그 기록을 안전하게 다룰 수 있는지를 확인하는 것입니다. 아래 표의 순서대로 점검하면 누락과 오판을 줄일 수 있습니다.
| 순서 | 점검 항목 | 확인 기준 |
|---|---|---|
| 1 | CDN·캐시 계층 | 캐시에서 응답된 요청이 원본 서버 기록에서 빠지지 않는지 |
| 2 | 방화벽·봇 차단 설정 | 보안 규칙이 AI 봇을 의도와 다르게 차단하고 있지 않은지 |
| 3 | robots.txt 내용 | 허용·차단 의도가 봇 이름별로 명확히 적혀 있는지 |
| 4 | 봇 식별 규칙 | User-Agent와 공개 IP 대역을 함께 대조하는지 |
| 5 | 렌더링 방식 | 핵심 본문이 스크립트 없이도 HTML에 들어 있는지 |
| 6 | 로그 보관·접근 권한 | 보관 기간과 열람자를 정해 두었는지 |
5번 항목은 측정과 별개로 중요합니다. 본문을 자바스크립트로만 불러오는 페이지는 봇이 요청을 보내도 빈 껍데기만 가져갈 수 있으므로, 방문 기록이 있어도 내용이 전달되었다고 보기 어렵습니다.
로그 관리 체계는 미국 국립표준기술연구소(NIST)의 컴퓨터 보안 로그 관리 지침(SP 800-92)을 참고해 정리할 수 있습니다.
또한 서버 기록에는 사람 방문자의 IP 주소가 함께 남습니다. 개인정보 보호법은 다른 정보와 쉽게 결합해 특정 개인을 알아볼 수 있는 정보도 개인정보로 정의하므로, 봇 분석 목적이라도 사람 방문 기록의 보관 범위와 기간을 정해 두는 편이 안전합니다.
측정 결과는 어디까지 해석할 수 있을까요?
서버 측정이 알려 주는 것은 어떤 봇이 언제 어떤 페이지를 가져갔는지에 대한 사실이며, 그 페이지가 AI 답변에 인용되었는지까지 증명하지는 않습니다. 수집은 인용의 전제 조건일 수 있지만 충분조건은 아닙니다. 답변 생성 단계에서 어떤 출처를 고를지는 각 AI 서비스의 판단에 달려 있습니다.
robots.txt 해석에도 같은 원칙이 적용됩니다. IETF의 RFC 9309는 robots.txt 규약(Robots Exclusion Protocol)을 표준화하면서, 이 규약이 크롤러에게 준수를 요청하는 방식일 뿐 접근 권한을 통제하는 수단은 아니라고 밝히고 있습니다. 따라서 차단 규칙을 적어 두었더라도 실제 요청이 멈췄는지는 서버 기록으로 확인해야 합니다.
- 말할 수 있는 것: 특정 봇의 방문 여부, 방문한 페이지, 방문 빈도의 변화, 차단 설정의 실제 반영 여부
- 말할 수 없는 것: 인용 여부, 답변 속 서술 내용, 방문이 매출로 이어진 정도
- 함께 볼 것: 수집 신호와 AI 답변 속 인용 결과를 나란히 놓고 비교하는 별도 관측
수집 신호와 인용 결과를 한 흐름으로 묶어 보는 지표를 GEO Signal처럼 부르기도 하는데, 이때도 두 데이터는 관측 경로가 다르다는 점을 리포트에 구분해 적어 두는 것이 바람직합니다. 방문이 늘었다는 사실을 노출 증가로 바로 연결하지 않는 것이 해석의 기본 원칙입니다.
자주 묻는 질문
GA에 AI 유입 리퍼러가 일부 보이는데, 이것으로 충분하지 않습니까?
GA에 보이는 AI 리퍼러는 사람이 AI 답변 속 링크를 눌러 들어온 방문입니다. 봇이 페이지를 가져간 수집 기록과는 다른 데이터이므로, 수집 여부는 서버사이드 측정으로 따로 확인해야 합니다.
서버 로그만 있으면 별도 도구 없이도 AI 크롤러 측정이 가능합니까?
원본 로그를 직접 분석해도 측정할 수 있습니다. 다만 봇 이름 목록 갱신, IP 대역 대조, CDN 캐시 누락 보정 같은 작업을 지속적으로 해야 하므로, 운영 인력과 기술 역량에 따라 직접 분석과 전용 도구 중에서 고르는 것이 현실적입니다.
AI 봇 방문이 많아지면 AI 답변에 더 자주 인용되나요?
방문 증가는 콘텐츠가 수집되고 있다는 신호일 뿐, 인용을 보장하지 않습니다. 인용 여부는 실제 AI 답변을 관측해 별도로 확인해야 하며, 두 데이터를 함께 볼 때 원인을 더 정확하게 추정할 수 있습니다.