Menurut Cloudflare, raksasa infrastruktur tersebut baru-baru ini mengumumkan bahwa semua perusahaan AI harus memisahkan perayap mesin pencari dari perayap pelatihan AI paling lambat 15 September 2026, atau akan diblokir sepenuhnya. Cloudflare, yang mengelola sekitar 20% lalu lintas web global, mengutip data yang menunjukkan bahwa lalu lintas bot otomatis telah melampaui lalu lintas manusia pada paruh pertama tahun 2026—sebuah titik balik yang diprediksi analis industri akan terjadi satu tahun kemudian.
Google menghadapi dampak paling signifikan karena pangsa pasar pencariannya sebesar 90%, karena saat ini menggunakan Googlebot untuk pengindeksan dan pelatihan model Gemini-nya. Perusahaan harus memilih antara kehilangan akses ke 20% halaman yang diindeks atau memisahkan perayapnya dan berisiko kekurangan data pelatihan AI. Sebaliknya, OpenAI telah memisahkan GPTBot untuk pengumpulan data pelatihan dan ChatGPT-User untuk kueri web waktu nyata.