MCP-серверСообщество

AI Crawler Checker — Robots.txt Policy for Six Bots

Check declared robots.txt permissions for six AI crawlers at URL paths

Описание на языке оригинала

io.github.kriton-dev · ↓ 0 установок

Установка

Добавьте конфиг в настройки клиента. Значения в <угловых скобках> замените своими.

claude_desktop_config.json

{
  "mcpServers": {
    "ai-crawler-access-check": {
      "command": "npx",
      "args": [
        "-y",
        "mcp-remote",
        "https://mcp.apify.com/?tools=hermeskd/ai-crawler-access-check",
        "--header",
        "Authorization:<Authorization>"
      ]
    }
  }
}

Или одной командой — CLI допишет конфиг выбранного клиента:

CLI

npx ai-point add io.github.kriton-dev/ai-crawler-access-check

Инструменты

Список инструментов появится, когда у сервера будет sandbox или его заполнит редакция.

Сообщить о проблеме ↗ (Откроется GitHub в новой вкладке)