Robots.txt: відмінності між версіями

[неперевірена версія][неперевірена версія]
Вилучено вміст Додано вміст
Рядок 4:
Стандарт був запропонований Мартіном Костером
при роботі на Nexor 
в лютому 1994 року. [[Чарльз Штросс|Чарльз Стросс]] стверджує, що це він спровокував Костера до створення ідеї robots.txt після того, як він написав некоректно працючий веб-оглядач, що викликало випадкову [[DoS-атака|відмову в обслуговуванні]] атак на сервер Костера.
 
Він швидко став стандартом де-факто , якому нинішні іта майбутні пошукові роботи повинні слідувати; більшість виконала, у тому числі в пошукових системах, таких як [[WebCrawler]], [[Lycos]] та [[AltaVista]].
 
== References ==