بهطور پیشفرض، Screaming Frog طوری تنظیم شده است که تمام تصاویر، JavaScript ،CSS و فایلهای flash که اسپایدرِ فراگ با آنها مواجه میشود را کراول کند. اما برای تهیه لیست تمام صفحات سایت با اسکریمینگ فراگ فقط به حالت HTML نیاز دارید. بنابراین باید تیک گزینههای Check Images، Check CSS، Check JavaScript و Check SWF را در منوی Spider Configuration بردارید.

بدین ترتیب لیستی از تمام صفحاتی که در سایت شما لینکهای داخلی دارند،مشاهده خواهید کرد. پس از اتمام کراول، به تب Internal بروید و نتایج خود را با استفاده از فیلتر HTML مرتب کنید. روی Export کلیک کنید. لیست کامل را در فرمت xls یا CSV دریافت کنید.

نکته برای حرفهایها:
اگر مکررا از این تنظیمات کراول استفاده میکنید، Screaming Frog به شما این امکان را میدهد که تنظیماتتان را ذخیره کنید:

بدست آوردن لیست تمام صفحات در یک سابدایرکتوری خاص
علاوه بر لغو انتخاب گزینههای Check Images ،Check CSS ،Check JavaScript و Check SWF، تیک گزینه Check Links Outside Folder را نیز در تنظیمات Spider Configuration بردارید. بعد از اتمام کراول، لیستی از تمام صفحات در سابدایرکتوری شروع، در اختیار خواهید داشت. (به شرطی که صفحات یتیم نباشند).