SEO테크니컬업데이트 2026.04.28

구글봇

별칭구글 크롤러

한 줄 정의

구글이 검색 색인을 만들기 위해 운영하는 공식 웹 크롤러로, robots.txt와 User-Agent 규칙으로 접근을 통제합니다.

자세히 알아보기

Googlebot은 구글 검색 색인의 출발점이 되는 크롤러입니다. 모바일 우선 색인이 기본이 된 이후에는 'Googlebot Smartphone'이 메인 크롤러 역할을 하고, 데스크톱 봇은 보조로 쓰입니다.

실무에서는 두 가지를 자주 챙깁니다. robots.txt에서 의도와 다르게 차단된 경로가 없는지, 그리고 자바스크립트로 렌더되는 콘텐츠가 Googlebot에게 정상적으로 보이는지입니다. 후자는 GSC의 'URL 검사' 도구로 직접 확인하는 게 가장 빠릅니다.

Googlebot 외에도 구글은 Google-Extended·Googlebot-News·AdsBot 등 용도별로 분리된 크롤러를 함께 운영합니다. AI 학습 통제 등 특정 용도를 분리하려면 봇 식별자를 정확히 구분해 정책을 짜야 합니다.

출처

관련 용어

우리 브랜드는 AI 답변에 어떻게 등장하고 있을까요?

Villion은 ChatGPT·Perplexity·AI Overview에서 브랜드 인용 현황을 진단하고, 인용률과 언급 점유율을 끌어올리는 작업을 자동화합니다.

무료 진단 받기