{"id":5071,"date":"2016-03-03T16:25:32","date_gmt":"2016-03-03T14:25:32","guid":{"rendered":"https:\/\/www.stradiji.com\/?p=5071"},"modified":"2026-03-13T01:47:03","modified_gmt":"2026-03-12T22:47:03","slug":"robots-txt-nedir-nasil-olusturulur","status":"publish","type":"post","link":"https:\/\/www.stradiji.com\/tr\/robots-txt-nedir-nasil-olusturulur\/","title":{"rendered":"Robots.txt Dosyas\u0131 Nedir ve Nas\u0131l Olu\u015fturulur?"},"content":{"rendered":"<p><a ref=\"magnificPopup\" href=\"https:\/\/www.stradiji.com\/wp-content\/uploads\/2016\/03\/googlebot-e1457015236975.png\" target=\"_blank\" rel=\"attachment noopener wp-att-5073 noreferrer\"><img decoding=\"async\" class=\"aligncenter wp-image-5073 size-full lazyload\" data-src=\"https:\/\/www.stradiji.com\/wp-content\/uploads\/2016\/03\/googlebot-e1457015236975.png\" alt=\"googlebot-robots.txt\" width=\"500\" height=\"272\" data-srcset=\"https:\/\/stradiji.wpenginepowered.com\/wp-content\/uploads\/2016\/03\/googlebot-e1457015236975.png 500w, https:\/\/stradiji.wpenginepowered.com\/wp-content\/uploads\/2016\/03\/googlebot-e1457015236975-300x163.png 300w\" data-sizes=\"(max-width: 500px) 100vw, 500px\" src=\"data:image\/svg+xml;base64,PHN2ZyB3aWR0aD0iMSIgaGVpZ2h0PSIxIiB4bWxucz0iaHR0cDovL3d3dy53My5vcmcvMjAwMC9zdmciPjwvc3ZnPg==\" style=\"--smush-placeholder-width: 500px; --smush-placeholder-aspect-ratio: 500\/272;\" \/><\/a><\/p>\n<p>\u0130\u015fte Robots.txt dosyas\u0131 bu ama\u00e7 i\u00e7in kullanabilece\u011finiz y\u00f6ntemlerden birisidir. Yanl\u0131\u015f olu\u015fturulan bir Robots.txt dosyas\u0131 sitenizin \u00f6nemli b\u00f6l\u00fcmlerinin arama motorlar\u0131n\u0131n eri\u015fimine kapanmas\u0131 anlam\u0131na gelebilir. SEO a\u00e7\u0131s\u0131ndan optimum Robots.txt dosyas\u0131 nas\u0131l haz\u0131rlan\u0131r? Nelere dikkat edilmelidir? Gelin hep birlikte inceleyelim.<!--more--><\/p>\n<h2>Robots.txt Nedir?<\/h2>\n<p><strong>Robots.txt<\/strong>, arama motoru yaz\u0131l\u0131mlar\u0131na sitenizin hangi b\u00f6l\u00fcmlerini dizine ekleyebilece\u011fini, hangi dizini taramas\u0131 gerekti\u011fini, hangi arama motoru yaz\u0131l\u0131m\u0131n\u0131n giri\u015f izni oldu\u011funu veya olmad\u0131\u011f\u0131n\u0131 s\u00f6ylemeye yarayan basit bir komut dosyas\u0131d\u0131r. \u00d6r\u00fcmcek olarak da adland\u0131r\u0131labilen Arama motoru yaz\u0131l\u0131mlar\u0131 sitenize geldi\u011finde ilk olarak bu dosyay\u0131 tarar ve dosyadaki komutlara g\u00f6re sitenin izin verilen b\u00f6l\u00fcmlerini dizine ekler.<\/p>\n<p>Basit\u00e7e a\u00e7\u0131klamak gerekirse Robots.txt sitenizin\u00a0s\u0131n\u0131r kap\u0131lar\u0131n\u0131 kontrol etmeye benzer. Arama motoru robotlar\u0131n\u0131n hangi s\u0131n\u0131r kap\u0131lar\u0131ndan girebilece\u011fini, hangilerinden giremeyece\u011fini, hangi arama motoru robotunun giri\u015f izni oldu\u011funu, hangisinin olmad\u0131\u011f\u0131n\u0131 belirlemenizi sa\u011flar. Robots.txt dosyas\u0131 ve i\u00e7erdi\u011fi komutlar do\u011fru \u015fekilde haz\u0131rland\u0131ysa, arama motoru robotlar\u0131 bu kurallara uyar ve sitenizi verdi\u011finiz komutlar do\u011frultusunda tarar. Bu i\u015flem <a href=\"https:\/\/www.robotstxt.org\/orig.html\" target=\"_blank\" rel=\"noopener noreferrer\">Robotlar\u0131 Engelleme Standard\u0131<\/a>\u00a0(veya Robot Engelleme Protokol\u00fc) olarak adland\u0131r\u0131l\u0131r.<\/p>\n<p>Robots.txt dosyas\u0131, her Web sitesinde mutlaka olmas\u0131 gereken bir dosyad\u0131r ve do\u011fru \u015fekilde haz\u0131rlanm\u0131\u015f olmas\u0131 gerekmektedir. Do\u011fru komutlar kullan\u0131larak haz\u0131rlanmam\u0131\u015f bir Robots.txt dosyas\u0131 arama motorlar\u0131 taraf\u0131ndan dikkate al\u0131nmaz ve taranmas\u0131n\u0131 istemedi\u011finiz dizinler de taranabilir. Bu y\u00fczden kendisi k\u00fc\u00e7\u00fck ama etkisi b\u00fcy\u00fck olan bu dosyan\u0131n do\u011fru \u015fekilde haz\u0131rlanm\u0131\u015f olmas\u0131 gerekmektedir.<\/p>\n<p><a href=\"https:\/\/www.stradiji.com\/yeni-baslayanlar-icin-semrush-rehberi\/\" target=\"_blank\" rel=\"noopener noreferrer\"><img decoding=\"async\" class=\"aligncenter wp-image-6328 size-full lazyload\" data-src=\"https:\/\/www.stradiji.com\/wp-content\/uploads\/2016\/03\/banner-ara-reklam-semrush.jpg\" alt=\"yeni ba\u015flayanlar i\u00e7in semrush rehberi\" width=\"823\" height=\"75\" data-srcset=\"https:\/\/stradiji.wpenginepowered.com\/wp-content\/uploads\/2016\/03\/banner-ara-reklam-semrush.jpg 823w, https:\/\/stradiji.wpenginepowered.com\/wp-content\/uploads\/2016\/03\/banner-ara-reklam-semrush-300x27.jpg 300w\" data-sizes=\"(max-width: 823px) 100vw, 823px\" src=\"data:image\/svg+xml;base64,PHN2ZyB3aWR0aD0iMSIgaGVpZ2h0PSIxIiB4bWxucz0iaHR0cDovL3d3dy53My5vcmcvMjAwMC9zdmciPjwvc3ZnPg==\" style=\"--smush-placeholder-width: 823px; --smush-placeholder-aspect-ratio: 823\/75;\" \/><\/a><\/p>\n<h3>Robots.txt Dosyas\u0131n\u0131 ve Komutlar\u0131 Anlamak<\/h3>\n<p>Robots.txt dosyas\u0131 belli standartlara uygun\u00a0olarak haz\u0131rlanmal\u0131d\u0131r ve sitenizin k\u00f6k dizinine y\u00fcklenmelidir.\u00a0Robots.txt dosyas\u0131 haz\u0131rlan\u0131rken dikkat edilmesi gereken en \u00f6nemli \u00fc\u00e7\u00a0nokta \u015funlard\u0131r:<\/p>\n<ol>\n<li>Robots.txt dosyas\u0131n\u0131n sitenizin k\u00f6k dizininde bulunuyor olmas\u0131<\/li>\n<li>Robots.txt dosyas\u0131n\u0131n <a href=\"https:\/\/tr.wikipedia.org\/wiki\/UTF-8\" target=\"_blank\" rel=\"noopener noreferrer\">UTF-8<\/a> karakter kodlamas\u0131na uygun \u015fekilde haz\u0131rlanm\u0131\u015f olmas\u0131<\/li>\n<li>Robots.txt dosyas\u0131n\u0131n site URL&#8217;siyle ayn\u0131 formatta olmas\u0131<\/li>\n<\/ol>\n<p>Robots.txt dosyas\u0131n\u0131n sitenizin k\u00f6k dizininde bulunuyor olmas\u0131 bir gerekliliktir ve dosya olu\u015fturulurken herhangi bir alt klas\u00f6rde veya ba\u015fka bir sayfada yer almamas\u0131 gerekmektedir. Robots.txt dosyas\u0131n\u0131n URL&#8217;si mutlaka standart olmal\u0131d\u0131r; \u00f6rne\u011fin:<\/p>\n<p>Do\u011fru: <span style=\"color: #008000;\"><a href=\"https:\/\/www.stradiji.com\/tr\/seo-sozlugu\/https-nedir\/\">https<\/a>:\/\/www.siteadresiniz.com\/robots.txt<\/span><\/p>\n<p>Yanl\u0131\u015f: <span style=\"text-decoration: underline;\"><span style=\"color: #ff0000; text-decoration: underline;\">https:\/\/www.siteadresiniz.com\/main\/robots.txt<\/span><\/span><\/p>\n<p>Robots.txt dosyas\u0131 d\u00fcz metinden olu\u015fmal\u0131 ve UTF-8 karakter kodlamas\u0131 d\u0131\u015f\u0131nda bir karakter kodlamas\u0131 <span style=\"text-decoration: underline;\">kullan\u0131lmamal\u0131d\u0131r<\/span>.\u00a0Robots.txt dosyas\u0131 dinamik ve de\u011fi\u015fken i\u00e7eri\u011fe sahip olabilir, dosyay\u0131 istedi\u011finiz zaman istedi\u011finiz \u015fekilde de\u011fi\u015ftirebilir ve d\u00fczenleyebilirsiniz. Tavsiyemiz, dosyan\u0131n her zaman \u00e7al\u0131\u015f\u0131r durumda olmas\u0131, herhangi bir ama\u00e7la kullan\u0131mdan kald\u0131r\u0131lmamas\u0131 ve gizlenmemesi y\u00f6n\u00fcndedir.<\/p>\n<p>Ayr\u0131ca Robots.txt dosyas\u0131n\u0131n sahip oldu\u011fu URL, sitenizin eri\u015fildi\u011fi URL ile ayn\u0131 olmal\u0131d\u0131r. E\u011fer https protokol\u00fc kullan\u0131yorsan\u0131z, robots.txt dosyas\u0131n\u0131n adresi de https protokol\u00fcne uygun olacak \u015fekilde d\u00fczenlenmelidir. \u00d6rne\u011fin;<\/p>\n<p>Do\u011fru:<br \/>\nSite URL&#8217;si: <span style=\"color: #008000;\">https:\/\/www.siteadresiniz.com\/<\/span><br \/>\nRobots.txt URL&#8217;si: <span style=\"color: #008000;\">https:\/\/www.siteadresiniz.com\/robots.txt<\/span><\/p>\n<p>Yanl\u0131\u015f:<br \/>\nSite URL&#8217;si: <span style=\"color: #ff0000;\">https:\/\/www.siteadresiniz.com\/<\/span><br \/>\nRobots.txt URL&#8217;si: <span style=\"text-decoration: underline;\"><span style=\"color: #ff0000; text-decoration: underline;\">http:\/\/www.siteadresiniz.com\/robots.txt<\/span><\/span><\/p>\n<p>Robots.txt i\u00e7erisinde belirli i\u015flemleri ger\u00e7ekle\u015ftirmek i\u00e7in standartla\u015fm\u0131\u015f komutlar kullan\u0131l\u0131r. Bu komutlar\u00a0temel olarak \u00fc\u00e7 ana ba\u015fl\u0131kta toplanmaktad\u0131r:<\/p>\n<ul>\n<li>Grup komutlar\u0131\n<ul>\n<li>Arama motoru robotu engelleme \/ izin verme<\/li>\n<li>Dizin engelleme \/ izin verme<\/li>\n<li>Sayfa engelleme \/ izin verme<\/li>\n<li>Tarama gecikmesi belirtme<\/li>\n<\/ul>\n<\/li>\n<li>Grup d\u0131\u015f\u0131 komutlar\n<ul>\n<li><a href=\"https:\/\/www.stradiji.com\/tr\/seo-sozlugu\/sitemap-site-haritasi-nedir\/\">Site haritas\u0131<\/a> belirtme<\/li>\n<\/ul>\n<\/li>\n<li>Yorum ve notlar\n<ul>\n<li>Dosyaya ekledi\u011finiz komutlar i\u00e7in yorum ve notlar yazma<\/li>\n<\/ul>\n<\/li>\n<\/ul>\n<h4>Grup Komutlar\u0131<\/h4>\n<p>Grup komutlar\u0131, kesin ve net ifadelerden olu\u015fmal\u0131d\u0131r. Yaz\u0131m hatas\u0131 yap\u0131lm\u0131\u015f veya var olmayan dizin ya da sayfalarla ilgili komutlar dikkate al\u0131nmaz. Komutlarda k\u00fc\u00e7\u00fck &#8211; b\u00fcy\u00fck harf ayr\u0131m\u0131 yap\u0131lmaz ancak komutla belirtilmi\u015f dizin ya da URL&#8217;lerde b\u00fcy\u00fck k\u00fc\u00e7\u00fck harf ve \u00f6zel karakter ayr\u0131m\u0131 yap\u0131lmaktad\u0131r, komuttan sonra belirledi\u011finiz b\u00f6l\u00fcm, dizin veya URL&#8217;nin nas\u0131l isimlendirildi\u011fine g\u00f6re de\u011fi\u015fkenlik g\u00f6sterebilir. Grup komutlar\u0131na \u00f6rnek olarak a\u015fa\u011f\u0131daki komutlar\u0131n\u0131 kullanabiliriz:<\/p>\n<ul>\n<li><strong>User-agent<\/strong>: Kullan\u0131c\u0131 arac\u0131s\u0131 olarak da belirtebilece\u011fimiz bu komut, sitenize hangi arama motoru robotunun gelebilece\u011fini ya da gelemeyece\u011fini belirtmenizi sa\u011flar. \u00d6rne\u011fin arama motorlar\u0131n\u0131n sitenizi\u00a0taramas\u0131n\u0131 istemiyorsan\u0131z, user-agent komutunu kullanabilirsiniz. B\u00f6yle bir ay\u0131r\u0131m yapmak i\u00e7in dizin veya sayfa engelleme \/ izin verme komutunu da kullanman\u0131z gerekmektedir.<\/li>\n<li><strong>Dizin engelleme \/ izin verme<\/strong>: Sitenizdeki belli bir dizinin taranmas\u0131n\u0131 isteyip istemeyece\u011finize g\u00f6re belirleyebilece\u011finiz komut sat\u0131r\u0131n\u0131 olu\u015fturman\u0131z\u0131 sa\u011flar. \u00d6rne\u011fin sitenizde yer alan g\u00f6rsellerin arama motorlar\u0131 taraf\u0131ndan taranmas\u0131n\u0131 istemiyorsan\u0131z, bu komut sat\u0131r\u0131n\u0131 kullanabilirsiniz.<\/li>\n<li><strong>Sayfa engelleme \/ izin verme<\/strong>: Sitenizdeki belli bir sayfan\u0131n taranmas\u0131n\u0131 isteyip istemeyece\u011finize g\u00f6re belirleyebilece\u011finiz komut sat\u0131r\u0131n\u0131 olu\u015fturman\u0131z\u0131 sa\u011flar. \u00d6rne\u011fin sitenizde yer alan spesifik bir sayfan\u0131n arama motorlar\u0131 taraf\u0131ndan taranmas\u0131n\u0131 istemiyorsan\u0131z, bu komut sat\u0131r\u0131n\u0131 kullanabilirsiniz.<\/li>\n<li><strong>Tarama gecikmesi belirtme<\/strong>: Sitenizin belirtti\u011finiz s\u00fcre i\u00e7erisinde taranabildi\u011fi kadar taranmas\u0131n\u0131, bu s\u00fcre d\u0131\u015f\u0131nda kalan sayfalar\u0131n taranmamas\u0131na sebep olan bir komut sat\u0131r\u0131d\u0131r.<\/li>\n<\/ul>\n<p>Komut sat\u0131rlar\u0131n\u0131n kullan\u0131m \u00f6rnekleri:<\/p>\n<p><strong>User-agent<\/strong>: user-agent komutunu kullanarak b\u00fct\u00fcn arama motorlar\u0131n\u0131n\u00a0sitenizi taramas\u0131n\u0131\u00a0engellemek istiyorsan\u0131z\u00a0robots.txt dosyas\u0131n\u0131 a\u015fa\u011f\u0131daki gibi d\u00fczenlemeniz gerekir:<\/p>\n<p><span style=\"color: #008000;\">user-agent:\u00a0*<br \/>\ndisallow: \/<\/span><\/p>\n<p>\u00d6nerilen: T\u00fcm arama motoru robotlar\u0131na izin vermek i\u00e7in, <span style=\"color: #008000;\">user-agent: *<\/span> komut sat\u0131r\u0131n\u0131 tek ba\u015f\u0131na kullan\u0131n.<\/p>\n<p><strong>Dizin Engelleme \/ izin verme<\/strong>: allow ya da disallow komutlar\u0131n\u0131 kullanarak sitenizdeki belirli dizinlere eri\u015fim izni verebilir ya da s\u0131n\u0131rlama koyabilirsiniz. Bu b\u00f6l\u00fcmde yapaca\u011f\u0131n\u0131z de\u011fi\u015fiklik sadece arama motoru robotuna \u00f6zeldir. Kullan\u0131c\u0131lar komut verdi\u011finiz dizine eri\u015fmeye devam edebileceklerdir. \u00d6rne\u011fin:<\/p>\n<p><span style=\"color: #008000;\">user-agent: *<\/span><br \/>\n<span style=\"color: #008000;\">disallow: \/ozel\/<\/span><\/p>\n<p>Yukar\u0131daki komut sat\u0131r\u0131n\u0131 kulland\u0131\u011f\u0131n\u0131zda, arama motoru robotu sitenizdeki <span style=\"color: #008000;\">https:\/\/www.siteadresiniz.com\/ozel\/<\/span> URL&#8217;sine sahip olan &#8220;ozel&#8221; dizinini taramayacak ve bu dizinin i\u00e7inde yer alan sayfalar\u0131 dizine eklemeyecektir.<\/p>\n<p><strong>Sayfa Engelleme \/ izin verme:\u00a0<\/strong>allow ya da disallow komutlar\u0131n\u0131 kullanarak sitenizdeki belirli sayfalara eri\u015fim izni verebilir ya da s\u0131n\u0131rlama koyabilirsiniz. Bu b\u00f6l\u00fcmde yapaca\u011f\u0131n\u0131z de\u011fi\u015fiklik sadece arama motoru robotuna \u00f6zeldir. Kullan\u0131c\u0131lar komut verdi\u011finiz sayfaya eri\u015fmeye devam edebileceklerdir. \u00d6rne\u011fin:<\/p>\n<p><span style=\"color: #008000;\">user-agent: *<\/span><br \/>\n<span style=\"color: #008000;\">disallow: \/ozel-belgeler.html\/<\/span><\/p>\n<p>Yukar\u0131daki komut sat\u0131r\u0131 da, sadece <span style=\"color: #008000;\">https:\/\/www.siteadresiniz.com\/ozel-belgeler.html<\/span> adresinde yer alan i\u00e7eri\u011fin taranmas\u0131n\u0131 ve dizine eklenmesini engelleyecektir. Dizin ve URL aras\u0131ndaki ayr\u0131m\u0131 yapmak bu a\u00e7\u0131dan \u00f6nemlidir.<\/p>\n<p><strong>Tarama Gecikmesi Belirtme<\/strong>:\u00a0Crawl-delay komutunu kullanarak, arama motoru robotunun tarama i\u00e7in harcayaca\u011f\u0131 zaman\u0131 s\u0131n\u0131rland\u0131rabilirsiniz. Bu komut genelde s\u0131kl\u0131kla sunucu hatas\u0131 ya\u015fanan ya da \u00e7ok y\u00fcksek ziyaret\u00e7i trafi\u011fi y\u00fcz\u00fcnden zaman zaman ge\u00e7ici olarak hizmet vermeme ihtimali olan siteler i\u00e7in kullan\u0131\u015fl\u0131d\u0131r. Bu ama\u00e7lar d\u0131\u015f\u0131nda <strong>kullan\u0131lmamas\u0131n\u0131<\/strong> tavsiye ederiz. \u00d6rne\u011fin belirli bir arama motoru robotunun sitenize geldi\u011finde sadece 2 dakika boyunca sitenizi taramas\u0131n\u0131 istiyorsan\u0131z, \u015f\u00f6yle bir komut kullanabilirsiniz:<\/p>\n<p><span style=\"color: #008000;\">user-agent: yandexbot<\/span><br \/>\n<span style=\"color: #008000;\">crawl-delay: 2<\/span><\/p>\n<p>Yukar\u0131daki komut sat\u0131r\u0131nda, yandexbot&#8217;un 2 dakika i\u00e7inde tarad\u0131\u011f\u0131 kadar sayfay\u0131 taramas\u0131, 2 dakika bittikten sonra kalan dizin ve sayfalar\u0131 taramadan siteyi terk etmesi gerekti\u011fi belirtilmi\u015ftir.<\/p>\n<h4>Grup D\u0131\u015f\u0131 Komutlar<\/h4>\n<p>Grup d\u0131\u015f\u0131 komutlar, sitemap.xml dosyas\u0131n\u0131n yerini belirtmek i\u00e7in kullan\u0131labilir. Kullan\u0131m\u0131 olduk\u00e7a basit olup, sadece <strong>sitemap.xml<\/strong> dosyas\u0131n\u0131n URL&#8217;sinin do\u011fru \u015fekilde yaz\u0131lm\u0131\u015f olmas\u0131 gerekmektedir. Sitemap.xml dosyas\u0131, sitenizin taranmas\u0131 konusunda arama motoru robotlar\u0131na en \u00f6nemli bilgileri verece\u011fi i\u00e7in, mutlaka kullan\u0131lmal\u0131d\u0131r. Arama motoru robotu sitenizi tararken ilk olarak robots.txt dosyas\u0131na g\u00f6z atmaktad\u0131r ve bu dosyada ve sitede sitemap.xml dosyas\u0131na dair herhangi bir i\u00e7erik bulunmamas\u0131 bir dezavantaj yaratabilir. \u00d6rne\u011fin:<\/p>\n<p><span style=\"color: #008000;\">user-agent: *<\/span><br \/>\n<span style=\"color: #008000;\">Sitemap: https:\/\/www.siteadresiniz.com\/sitemap.xml<\/span><\/p>\n<h4>Yorum ve Notlar<\/h4>\n<p>Robots.txt dosyas\u0131 i\u00e7erisine, kendinize, site y\u00f6neticisine, tasar\u0131mc\u0131ya veya kullan\u0131c\u0131ya hitap eden, arama motoru robotlar\u0131n\u0131n dikkate almad\u0131\u011f\u0131 notlar b\u0131rakabilirsiniz. Bunun i\u00e7in # karakterini kullanman\u0131z gerekmektedir. \u00d6rne\u011fin:<\/p>\n<p><span style=\"color: #008000;\"># Not: Tasar\u0131m dizini 1 hafta sonra robot eri\u015fimine a\u00e7\u0131lacak.<\/span><br \/>\n<span style=\"color: #008000;\">user-agent: *<\/span><br \/>\n<span style=\"color: #008000;\">Disallow: \/tasarim\/<br \/>\nDisallow: \/dosyalar\/ # Bu dizin,\u00a0kopyalama bittikten sonra eri\u015fime a\u00e7\u0131lacak.<\/span><\/p>\n<p>Bu \u00f6rnekte # karakterinden sonra yaz\u0131l\u0131 olanlar arama motoru robotlar\u0131 taraf\u0131ndan dikkate al\u0131nmaz.<\/p>\n<h3>Robots.txt Dosyas\u0131nda Kullan\u0131labilen \u00d6zel\u00a0Komutlar<\/h3>\n<p>Robots.txt dosyas\u0131na ekleyece\u011finiz \u00f6zel komutlarla, belli bir karakteri i\u00e7eren ya da belli bir URL uzant\u0131s\u0131n\u0131 i\u00e7eren sayfalar\u0131 b\u00fct\u00fcn\u00fcyle arama motoru robotlar\u0131nn\u0131n eri\u015fimine kapatabilirsiniz. \u00d6rne\u011fin;<\/p>\n<p><span style=\"color: #008000;\">user-agent: *<\/span><br \/>\n<span style=\"color: #008000;\">Disallow: \/*?<\/span><\/p>\n<p>Yukar\u0131daki \u00f6rnekte, URL i\u00e7erisinde soru i\u015fareti (?) olan t\u00fcm URL&#8217;ler arama motoru robotlar\u0131n\u0131n eri\u015fimine kapat\u0131lm\u0131\u015f durumdad\u0131r. Yukar\u0131daki \u00f6rnekten hari\u00e7 olarak soru i\u015fareti yerine farkl\u0131 karakterler de kullanabilirsiniz.<\/p>\n<p><span style=\"color: #008000;\">User-agent: Googlebot<\/span><br \/>\n<span style=\"color: #008000;\">Disallow: \/*.asp$<\/span><\/p>\n<p>Yukar\u0131daki \u00f6rnekte, dolar i\u015fareti ($) kullanarak sitemizde URL uzant\u0131s\u0131 .asp olan t\u00fcm sayfalar\u0131 arama motoru robotlar\u0131n\u0131n eri\u015fimine kapatm\u0131\u015f olduk. Yani, <span style=\"color: #008000;\">https:\/\/www.siteadresiniz.com\/iletisim\/iletisim-formu-deneme.asp<\/span> benzeri URL&#8217;ler b\u00fct\u00fcn olarak arama motoru robotlar\u0131n\u0131n eri\u015fimine kapat\u0131lm\u0131\u015f olur.<\/p>\n<p><img decoding=\"async\" class=\"aligncenter wp-image-5072 lazyload\" data-src=\"https:\/\/www.stradiji.com\/wp-content\/uploads\/2016\/03\/robots-txt.png\" alt=\"robots-txt\" width=\"500\" height=\"208\" data-srcset=\"https:\/\/stradiji.wpenginepowered.com\/wp-content\/uploads\/2016\/03\/robots-txt.png 840w, https:\/\/stradiji.wpenginepowered.com\/wp-content\/uploads\/2016\/03\/robots-txt-300x125.png 300w\" data-sizes=\"(max-width: 500px) 100vw, 500px\" src=\"data:image\/svg+xml;base64,PHN2ZyB3aWR0aD0iMSIgaGVpZ2h0PSIxIiB4bWxucz0iaHR0cDovL3d3dy53My5vcmcvMjAwMC9zdmciPjwvc3ZnPg==\" style=\"--smush-placeholder-width: 500px; --smush-placeholder-aspect-ratio: 500\/208;\" \/><\/p>\n<h3>Robots.txt Kullan\u0131m Ama\u00e7lar\u0131<\/h3>\n<p>Yukar\u0131da da bahsetti\u011fimiz gibi, Robots.txt dosyas\u0131 farkl\u0131 ama\u00e7lar i\u00e7in kullan\u0131labilir. Sadece arama motoru robotlar\u0131n\u0131n sitenizin hangi b\u00f6l\u00fcmlerini ziyaret edip etmeyece\u011fini belirtmeniz d\u0131\u015f\u0131nda, sitenizin yap\u0131m a\u015famas\u0131nda, tasar\u0131m de\u011fi\u015fikli\u011fi \u00e7al\u0131\u015fmas\u0131nda ya da genel bak\u0131mda oldu\u011fu zamanlarda da kullan\u0131lmas\u0131 m\u00fcmk\u00fcnd\u00fcr. Sitenizi yeni kurduysan\u0131z ve tasar\u0131m \u00e7al\u0131\u015fmalar\u0131 devam ediyorsa veya mevcut tasar\u0131m\u0131n\u0131z\u0131 de\u011fi\u015ftiriyorsan\u0131z ve arama motorlar\u0131n\u0131n eri\u015fimini engellemek istiyorsan\u0131z robots.txt dosyas\u0131n\u0131 kullanabilirsiniz. \u00c7al\u0131\u015fmalar\u0131n\u0131z tamamland\u0131\u011f\u0131nda dosyay\u0131 d\u00fczenleyip sitenizi arama motorlar\u0131n\u0131n eri\u015fimine tekrar a\u00e7may\u0131 <strong>unutmay\u0131n<\/strong>.<\/p>\n<p>Daha \u00f6nce taranm\u0131\u015f ve indekslenmi\u015f sayfalar\u0131n Robots.txt ile engellenmesi m\u00fcmk\u00fcn de\u011fildir. \u00d6rne\u011fin daha \u00f6nce Google dizinlerine eklenmi\u015f bir sayfan\u0131n arama sonu\u00e7lar\u0131ndaki a\u00e7\u0131klamas\u0131 \u015f\u00f6yledir:<\/p>\n<p><em>&#8220;Bu sitenin robots.txt dosyas\u0131 oldu\u011fundan, bu sonu\u00e7 i\u00e7in bir a\u00e7\u0131klama bulunmamaktad\u0131r.Daha fazla bilgi edinin&#8221;<\/em><\/p>\n<p>Arama motoru kullan\u0131c\u0131n\u0131n yapt\u0131\u011f\u0131 aramayla e\u015fle\u015fen ve daha \u00f6nce dizine eklenmi\u015f bir sayfay\u0131 arama sonu\u00e7lar\u0131nda g\u00f6sterdi\u011finde, sayfa robots.txt ile engellenmi\u015fse sayfa a\u00e7\u0131klamas\u0131 yerine yukar\u0131daki a\u00e7\u0131klamay\u0131 eklemektedir. Robots.txt dosyas\u0131 dizine eklenmi\u015f bir sayfan\u0131n ya da dizinin arama motoru dizinlerinden \u00e7\u0131karmak i\u00e7in <strong>kullan\u0131lmaz<\/strong>.<\/p>\n<p><strong>\u00d6nemli:<\/strong> Robots.txt dosyas\u0131n\u0131 kullanarak engelledi\u011finiz bir dizinde yer alan sayfa veya sayfalar\u0131n\u0131z hala arama motoru robotlar\u0131 taraf\u0131ndan dizine ekleniyor veya arama sonu\u00e7lar\u0131nda \u00e7\u0131k\u0131yorsa, bunun sebebi o sayfalar\u0131n farkl\u0131 Web sitelerinden link alm\u0131\u015f olmas\u0131 olabilir. Bu durumda sayfan\u0131n izlenmesini robots.txt dosyas\u0131n\u0131 kullanarak <strong>engelleyemezsiniz<\/strong>. Bunun yerine robots.txt dosyas\u0131nda o dizini veya sayfay\u0131 <strong>engellemeye son verip<\/strong>, taranmas\u0131n\u0131\u00a0istemedi\u011finiz dizin ve sayfalar\u0131n\u0131zda <a href=\"https:\/\/support.google.com\/webmasters\/answer\/93710\" target=\"_blank\" rel=\"noopener noreferrer\">noindex meta etiketini<\/a> kullanman\u0131z gerekmektedir.<\/p>\n<h3>Robots.Txt Kullan\u0131m \u00d6rnekleri:<\/h3>\n<p>A\u015fa\u011f\u0131da \u00f6rne\u011fini verece\u011fimiz birka\u00e7 komutla, robots.txt dosyas\u0131n\u0131n nas\u0131l kullan\u0131laca\u011f\u0131n\u0131 daha iyi anlamaya \u00e7al\u0131\u015fal\u0131m:<\/p>\n<p><span style=\"color: #008000;\">User-agent: *<\/span><br \/>\n<span style=\"color: #008000;\">Disallow: \/ozel\/<\/span><br \/>\n<span style=\"color: #008000;\">Allow: \/ozel\/ozel-degil.html<\/span><\/p>\n<p>Yukar\u0131daki \u00f6rnekte, &#8220;ozel&#8221; dizinini eri\u015fime kapatt\u0131k ancak &#8220;ozel degil&#8221; sayfas\u0131na eri\u015fim izni verdik. Bu durumda arama motoru robotu &#8220;ozel&#8221; dizinini taram\u0131yor ancak &#8220;ozel&#8221; dizini i\u00e7inde yer alan &#8220;ozel-degil.html&#8221; sayfas\u0131n\u0131 tarayabiliyor.<\/p>\n<p><span style=\"color: #008000;\">User-agent: googlebot<\/span><br \/>\n<span style=\"color: #008000;\">Disallow: \/ozel\/<\/span><br \/>\n<span style=\"color: #008000;\">User-agent: *<\/span><br \/>\n<span style=\"color: #008000;\">Disallow: \/<\/span><\/p>\n<p>Yukar\u0131daki \u00f6rnekte, sadece Google Bot&#8217;un &#8220;ozel&#8221; dizinine eri\u015fimini engelliyoruz, Googlebot d\u0131\u015f\u0131ndaki\u00a0di\u011fer\u00a0t\u00fcm arama motoru robotlar\u0131n\u0131n sitenin tamam\u0131na eri\u015fimini engellemi\u015f oluyoruz.<\/p>\n<p><span style=\"color: #008000;\">User-agent: googlebot<\/span><br \/>\n<span style=\"color: #008000;\">Disallow: \/ozel\/<\/span><br \/>\n<span style=\"color: #008000;\">User-agent: googlebot-images<\/span><br \/>\n<span style=\"color: #008000;\">Disallow: \/ozel\/<\/span><br \/>\n<span style=\"color: #008000;\">Disallow: \/tasarim\/<\/span><\/p>\n<p>Yukar\u0131daki \u00f6rnekte, Google Bot&#8217;un &#8220;ozel&#8221; dizinine eri\u015fimini engellerken, Google G\u00f6rsel Bot&#8217;un &#8220;ozel&#8221; ve &#8220;tasarim&#8221; dizinlerine eri\u015fimini engellemi\u015f oluyoruz.<\/p>\n<p><strong>Not:<\/strong> Yukar\u0131da yer alan komutlar\u0131 kullan\u0131rken \u00e7ok dikkatli olman\u0131z\u0131 tavsiye ederiz. Robots.txt dosyan\u0131z\u0131n d\u00fczg\u00fcn \u00e7al\u0131\u015f\u0131p \u00e7al\u0131\u015fmad\u0131\u011f\u0131n\u0131 test etmek i\u00e7in <a href=\"https:\/\/www.google.com\/webmasters\/tools\/robots-testing-tool?hl=tr\" target=\"_blank\" rel=\"noopener noreferrer\">Google Search Console Robots.txt test arac\u0131<\/a>n\u0131 kullanabilirsiniz. Detayl\u0131 bilgi i\u00e7in Google&#8217;\u0131n <a href=\"https:\/\/developers.google.com\/webmasters\/control-crawl-index\/docs\/robots_txt\" target=\"_blank\" rel=\"noopener noreferrer\">robots.txt Spesifikasyonlar\u0131<\/a> rehber\u00a0sayfas\u0131na bakabilirsiniz. Ayr\u0131ca Google&#8217;\u0131n tavsiyesini de g\u00f6ze alarak sitenizdeki baz\u0131 b\u00f6l\u00fcmleri arama motoru robotlar\u0131n\u0131n eri\u015fimine a\u00e7man\u0131z\u0131 tavsiye ederiz. Bilgi i\u00e7in:\u00a0<a href=\"https:\/\/www.stradiji.com\/google-css-ve-js-dosyalarinizi-google-botlarinin-erisimine-acin\/\" target=\"_blank\" rel=\"noopener noreferrer\">CSS ve JS Dosyalar\u0131n\u0131z\u0131 Google Botlar\u0131n\u0131n Eri\u015fimine A\u00e7\u0131n!<\/a><\/p>\n<h2>Son S\u00f6z<\/h2>\n<p>Web sitenizi yeni kuruyorsan\u0131z ya da var olan tasar\u0131m\u0131n\u0131z\u0131 de\u011fi\u015ftirmek istiyorsan\u0131z, sitenizin ilk ihtiyac\u0131 olan \u015fey, bir Robots.txt dosyas\u0131d\u0131r. Ancak daha da \u00f6nemlisi, bir s\u00fcredir yay\u0131mda olan Web sitenizin bir Robots.txt dosyas\u0131 yoksa, hemen bir Robots.txt dosyas\u0131 olu\u015fturman\u0131z gerekti\u011fidir. Samimiyetle s\u00f6yleyebiliriz ki, SEO projesini y\u00fcr\u00fctt\u00fc\u011f\u00fcm\u00fcz\u00a0Web sitelerinin\u00a0yar\u0131s\u0131ndan fazlas\u0131 Robots.txt dosyas\u0131na sahip de\u011fildi ve bu durum b\u00fcy\u00fck bir dezavantaj yarat\u0131yordu.\u00a0Ancak hemen m\u00fcdahele ederek standartlara uygun bir robots.txt dosyas\u0131 olu\u015fturabilir ve dezavantajlar\u0131 ortadan kald\u0131rabilirsiniz.<\/p>\n<p>Robots.txt dosyas\u0131 bir SEO projesinin teknik k\u0131sm\u0131n\u0131 olu\u015fturuyor olsa da \u00e7ok \u00f6nemli bir noktadad\u0131r ve yeteri kadar \u00f6nem g\u00f6sterilmeyi hak etmektedir. Arama motoru robotlar\u0131 sitenize geldiklerinde ilk olarak Robots.txt dosyas\u0131na bakmakta ve dosyada yer alan y\u00f6nergeleri takip etmektedirler. E\u011fer herhangi bir Robots.txt dosyas\u0131 yoksa, noindex etiketi olmayan sayfalar taranmaktad\u0131r. Ancak \u00e7ok say\u0131da sayfaya ve klas\u00f6re noindex etiketini tek tek yerle\u015ftirmek olduk\u00e7a zahmetli olaca\u011f\u0131ndan, bir Robots.txt dosyas\u0131 olu\u015fturarak zaman kazanabilir ve sitenizin istedi\u011finiz gibi arama motoru dizinlerine eklenmesini sa\u011flayabilirsiniz.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Arama motoru botlar\u0131n\u0131n asli g\u00f6revi bir Web sitesinin sayfalar\u0131n\u0131 taramak ve ar\u015fivlemektir. Kimi zaman Web sitenizin \u00f6nemli bilgiler i\u00e7eren baz\u0131 b\u00f6l\u00fcmlerini arama motoru botlar\u0131n\u0131n eri\u015fimine kapatmak istersiniz.<\/p>\n","protected":false},"author":3,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[5],"tags":[736,737,739,741,743,366,744,745,746],"class_list":["post-5071","post","type-post","status-publish","format-standard","hentry","category-arama-motoru-optimizasyonu","tag-arama-motoru-robotu","tag-dizin-engelleme","tag-dizine-ekleme","tag-google-bot","tag-robot-engelleme-standardi","tag-robots-txt","tag-sayfa-engelleme","tag-site-tarama","tag-yandex-bot"],"_links":{"self":[{"href":"https:\/\/www.stradiji.com\/tr\/wp-json\/wp\/v2\/posts\/5071","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.stradiji.com\/tr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.stradiji.com\/tr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.stradiji.com\/tr\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/www.stradiji.com\/tr\/wp-json\/wp\/v2\/comments?post=5071"}],"version-history":[{"count":0,"href":"https:\/\/www.stradiji.com\/tr\/wp-json\/wp\/v2\/posts\/5071\/revisions"}],"wp:attachment":[{"href":"https:\/\/www.stradiji.com\/tr\/wp-json\/wp\/v2\/media?parent=5071"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.stradiji.com\/tr\/wp-json\/wp\/v2\/categories?post=5071"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.stradiji.com\/tr\/wp-json\/wp\/v2\/tags?post=5071"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}