Hogyan elemezd a szerver naplóit a keresőrobotok viselkedésének megértéséhez?

Tudd meg, hogyan elemezd a szerver naplóit, hogy megértsd a keresőrobotok viselkedését, a crawl budget elosztását és a botforgalmat.

Piszkozat

A keresőrobotok állandóan látogatják az oldaladat. Oldalakat járnak be, linkeket követnek, és frissítéseket keresnek. Ezt a tevékenységet viszont nem látod a Google Search Console-ban. Csak a szerver naplóiban láthatod. A szerver naplói minden kérést rögzítenek: melyik robot kérte, melyik oldalt járta be, mennyi ideig tartott, és milyen válaszkódot kapott. A naplóelemzés megmutatja, hogyan bánnak valójában a keresőmotorok az oldaladdal.

Mik azok a szerver naplók?

A szerver naplói a webszerveredhez érkező összes kérés feljegyzései. Minden sor egy kérést jelent. A napló megmutatja a látogató IP-címét, mit kért, mikor kérte, milyen válaszkódot adott a szerver, és mennyi adatot küldött.

Minden tárhelyszolgáltató vezet szerver naplókat. A tárhely vezérlőpultján vagy FTP-n keresztül érheted el őket. A gyakori naplóformátumok a webszerverek hozzáférési naplói. A legtöbb tárhelyszolgáltató lehetővé teszi a naplók letöltését elemzéshez.

A naplófájlok hatalmasak lehetnek. Egy forgalmas oldal naponta gigabájtnyi naplót termel. Az elemzésükhöz eszközök kellenek. Nem tudsz kézzel átolvasni milliónyi naplóbejegyzést.

A keresőrobotok user-agentjeinek megértése

Minden robot egy user-agent karakterlánccal azonosítja magát. A Googlebot a Google robotja. Más keresőmotoroknak saját robotjaik vannak.

A naplókat user-agent szerint szűrheted, hogy csak az adott robotoktól érkező kéréseket lásd. Ebből látod, milyen gyakran járja be az egyes keresőmotor az oldaladat.

Vigyázz a hamis user-agentekre. A rosszindulatúak keresőmotornak tettetik magukat. Az a user-agent, amelyik azt mondja, hogy „Googlebot", lehet, hogy nem is az. Ellenőrizd az IP-címet. A valódi Googlebot IP-címeit a Google közzéteszi.

Mit tanulhatsz a naplókból?

Bejárási gyakoriság: milyen gyakran járja be az oldaladat az egyes keresőmotor? Naponta? Hetente? Naponta többször? A bejárási gyakoriság azt jelzi, mennyire értékeli a Google az oldaladat.

Bejárási minták: mely oldalakat látogatja a robot? A fontos oldalakat gyakrabban járja be? Időt pazarol a lényegtelen oldalakra? Ez megmutatja a crawl budget elosztását.

Válaszkódok: az oldalak 200-at (siker) vagy hibát adnak? Sok 4xx vagy 5xx hiba problémát jelez.

Bejárási sebesség: mennyi időt tölt a robot a bejárással? A gyors bejárás azt jelzi, hogy az oldalak gyorsan töltődnek. A lassú bejárás teljesítményproblémákat jelez.

Robotok viselkedése: követik a robotok a robots.txt fájlt? Tiszteletben tartják a nofollow értéket? Bejárják a képeket és a CSS-t? Ez megmutatja, helyes-e a technikai beállításod.

Hogyan elemezd a naplókat?

Töltsd le a naplókat. Menj a tárhely vezérlőpultjára, keresd meg a naplók részt, és töltsd le a hozzáférési naplókat arra az időszakra, amelyet elemezni szeretnél.

Használj naplóelemző eszközöket. A naplófájl-elemzők fel tudják dolgozni a naplókat, és kinyerik belőlük a lényeget. Ezek az eszközök szűrnek user-agent, IP-cím, válaszkód és más szempontok szerint.

Szűrj a keresőrobotokra. A keresőrobotok kéréseire figyelj. Szűrd ki a hétköznapi látogatói forgalmat. Így elkülönítheted a robotok viselkedését.

Elemezd a mintákat. Nézd meg a bejárási gyakoriság trendjeit. Nőnek vagy csökkennek a bejárások? Emelkedik a hibaarány? Megfelelnek a bejárási minták az elvárásaidnak?

Gyakori megállapítások a naplóelemzésből

A lényegtelen oldalakat többet járják be, mint a fontosakat. Ez oldalstruktúra-problémára utal. A fontos oldalakat gyakrabban kell bejárni. A fontos oldalak előtérbe helyezéséhez használd a robots.txt fájlt vagy a belső linkelést.

Magas hibaarány. Sok 4xx vagy 5xx válasz törött oldalakat vagy szerverproblémákat jelez. Javítsd a hibákat, hogy javuljon a bejárhatóság.

Alacsony bejárási gyakoriság. Ha a keresőmotorok ritkán járják be az oldaladat, az alacsony tekintélyre vagy gyenge tartalomminőségre utalhat. Javítsd a tartalmat és a backlinkeket, hogy több bejárást vonzz.

A robotok blokkolt oldalakat járnak be. Ha a robots.txt blokkol oldalakat, de a robotok mégis kérik őket, a robotok figyelmen kívül hagyják a tiltó szabályaidat. Ez általában ártalmatlan.

A naplóelemzés korlátai

A naplóelemzés a szerveredhez érkező kéréseket mutatja, de nem a keresőrobotok teljes tevékenységét. Egyes keresőmotorok gyorsítótárat használnak. Lehet, hogy nem járják be minden alkalommal az összes URL-t. A gyorsítótárból történő bejárások nem jelennek meg a naplókban.

A naplóelemzés nem mutatja az indexelési döntéseket. Az, hogy egy oldalt bejártak, nem jelenti azt, hogy indexelték is. A keresőmotorok folyton bejárnak és eldobnak oldalakat.

A nagy naplófájlokat nehéz kezelni. Egy forgalmas oldal hatalmas naplókat termel. Gigabájtnyi adat elemzéséhez erős eszközök és szakértelem kell.

A naplóadatok technikaiak. Ismerni kell hozzá a HTTP-válaszokat, a user-agent karakterláncokat és a szerver működését. Nem kezdőbarát.

Gyakori kérdések

Hol találom a szerver naplóimat?

A tárhelyszolgáltatódnál vannak a szerver naplók. Jelentkezz be a tárhely vezérlőpultjára, és keress egy Naplók vagy Statisztikák nevű részt. A legtöbb szolgáltató lehetővé teszi a nyers naplók letöltését. Néhány naplómegtekintőt is kínál. Ha nem találod, fordulj a tárhelyszolgáltatódhoz. A WEMASY weboldalépítőjével ezt közvetlenül a weboldaladon beállíthatod.

Meddig nyúlnak vissza a szerver naplók?

Ez tárhelyenként más. Néhány szolgáltató 30 napig tartja meg a naplókat, mások 90 napig. A nagyvállalati tárhelyek akár évekig is megtarthatják. Nézd meg a tárhelyed dokumentációját. Ha régi naplókra van szükséged, töltsd le és archiváld őket rendszeresen.

Magam elemezzem a naplókat, vagy bérelek valakit?

A legtöbb oldalnak elég a Google Search Console. A naplóelemzés haladó és technikai. Csak akkor használj naplókat, ha a GSC nem adja meg a szükséges válaszokat. Ha naplóelemzést végzel, használj erre szakosodott naplófájl-elemzőt. Ha nincs hozzá szakértelmed, bérelj SEO-tanácsadót.

Észlelhetek naplókkal rossz botokat?

Igen. A naplók minden kérést mutatnak, a rossz botokét is. Keress szokatlan user-agent karakterláncokat, magas kérésszámot vagy értelmetlen bejárási mintákat. A rossz botok gyakran sokkal gyorsabban járják be az oldaladat, mint a jogos robotok. Letilthatod őket a robots.txt fájllal vagy a tűzfaladdal.

Segít a naplók elemzése javítani a helyezésemet?

Közvetve. A naplóelemzés segít megérteni a bejárási problémákat, az oldalstruktúra hibáit és a teljesítmény szűk keresztmetszeteit. Ezek javítása jobbá teszi az oldalt a robotoknak és a látogatóknak is, ami javíthatja a helyezést. De a naplók diagnosztikai eszközök, nem rangsorolási tényezők.

Mi a különbség a naplók és a Search Console adatai között?

A naplók minden szerverhez érkező kérést megmutatnak. A Search Console azt mutatja, mit tett a Google ezekkel a kérésekkel (indexelt, elutasított stb.). A naplók nyers adatok. A Search Console a Google értelmezése az adatokról. Használd együtt a kettőt a teljes képhez.

Használd ki azonnal
a saját weboldaladon.

Kezdd ingyen a WEMASY-vel, és építsd fel az oldaladat pár perc alatt.