Được biết đến chính thức với tên gọi "robots.txt", đây là một tệp văn bản hướng dẫn trình thu thập thông tin trên web (robot hoặc bot) hạn chế quyền truy cập vào các trang web và thư mục cụ thể.
Được biết đến chính thức với tên gọi "robots.txt", đây là một tệp văn bản hướng dẫn trình thu thập thông tin trên web (robot hoặc bot) hạn chế quyền truy cập vào các trang web và thư mục cụ thể.