User-agent: *
Crawl-delay: 10
#General directories
Disallow: /downloads/
Disallow: /temp/
Disallow: /mydocs/
Disallow: /grammex/
Disallow: /surf/
#Tutkijaklubi specific robots.txt
# Directories
Disallow: /tutkijaklubi/database/
Disallow: /tutkijaklubi/includes/
Disallow: /tutkijaklubi/misc/
Disallow: /tutkijaklubi/modules/
Disallow: /tutkijaklubi/sites/
Disallow: /tutkijaklubi/themes/
Disallow: /tutkijaklubi/scripts/
Disallow: /tutkijaklubi/updates/
Disallow: /tutkijaklubi/profiles/
# Node directory to eliminate duplicate content detection
Disallow: /tutkijaklubi/node/
Disallow: /tutkijaklubi/user/
# Files
Disallow: /tutkijaklubi/xmlrpc.php
Disallow: /tutkijaklubi/cron.php
Disallow: /tutkijaklubi/update.php
Disallow: /tutkijaklubi/install.php
Disallow: /tutkijaklubi/INSTALL.txt
Disallow: /tutkijaklubi/INSTALL.mysql.txt
Disallow: /tutkijaklubi/INSTALL.pgsql.txt
Disallow: /tutkijaklubi/CHANGELOG.txt
Disallow: /tutkijaklubi/MAINTAINERS.txt
Disallow: /tutkijaklubi/LICENSE.txt
Disallow: /tutkijaklubi/UPGRADE.txt
# Paths (clean URLs)
Disallow: /tutkijaklubi/admin/
Disallow: /tutkijaklubi/comment/reply/
Disallow: /tutkijaklubi/contact/
Disallow: /tutkijaklubi/logout/
Disallow: /tutkijaklubi/node/add/
Disallow: /tutkijaklubi/search/
Disallow: /tutkijaklubi/user/register/
Disallow: /tutkijaklubi/user/password/
Disallow: /tutkijaklubi/user/login/
# Paths (no clean URLs)
Disallow: /tutkijaklubi/?q=admin/
Disallow: /tutkijaklubi/?q=comment/reply/
Disallow: /tutkijaklubi/?q=contact/
Disallow: /tutkijaklubi/?q=logout/
Disallow: /tutkijaklubi/?q=node/add/
Disallow: /tutkijaklubi/?q=search/
Disallow: /tutkijaklubi/?q=user/password/
Disallow: /tutkijaklubi/?q=user/register/
Disallow: /tutkijaklubi/?q=user/login/