robots.txtஐப் பெற, கிராலர் குழுக்களைப் பாகுபடுத்தவும், தளவரைபட வழிகாட்டுதல்களைக் கண்டறியவும் மற்றும் இணைக்கப்பட்ட தளவரைபட XML கோப்புகளைச் சரிபார்க்கவும் இணையதள URL ஐ உள்ளிடவும்.
முக்கியமான போட்கள் ரூட் பாதையில் வலம் வர முடியுமா என்பதை பகுப்பாய்வி சரிபார்க்கிறது, தளவரைபட URLகளை எண்ணுகிறது, நகல் அல்லது வெளிப்புற URLகளைக் கண்டறிந்து, தளவரைபட உள்ளீடுகளுக்கான மாதிரி உடைந்த-இணைப்புச் சரிபார்ப்பைச் செய்கிறது.