【紧急】禁止国内搜索引擎访问自己网站，防止AI窃取你的劳动成果

myboss

这年头，openAI人工智能的兴起，什么GPTBot、百度文心一言、Kimi、阿里云天工AI、豆包、清华大学智谱清言、讯飞星火、腾讯混元....
他们都在训练大模型，投喂给这些人工智能人类的知识，这些知识哪里来？
通过爬虫，没事来你的网站，收集你的数据，却不收录你网站，更别提给流量了！
原本属于你的流量都给别人了！
只有那些谷歌搜索、必应搜索等国外搜索，公正些！
国内，还是建议用户采用 “必应”

只允许谷歌搜索、必应搜索爬虫的robots

1. 
   
2. User-Agent: Googlebot
   
3. Allow: /
   
4. Disallow:
   
5. User-Agent: bingbot
   
6. Allow: /
   
7. Disallow:
   
8. 
   
9. User-Agent: *
   
10. Disallow: /
    
11. 自定义区
    

DZ论坛能用的robots


知乎的robots文件分析解读：
腾讯、搜狗、百度对知乎都有投资，所以，只保留了百度、搜狗。
北京智者天下科技有限公司为什么这样做？还不是怕AI，保护自己的利益！
中小微企业、个人站长该怎么办？
学知乎，把所有搜索引擎都屏蔽了，只保留给流量的搜索引擎。
建议只保留必应，Google，剩下的搜索引擎不公正，捧他们也没啥用。
3和Q大战，说明什么？
国内都是明着、暗里斗争的！
有没有觉得，你是暗里斗争的牺牲品？
明着意思是打着收录优秀网站的幌子，其实就是间接打压其他人。
不收录，能省搜索引擎的服务器资源，还有巨大的利益，把流量都引导自己家的网站，什么知道、什么百科、什么贴吧等，
看看谷歌作为搜索一哥，从不搞这些花花肠子，把自家服务置顶，更是没有谷歌知道、谷歌百科等侵犯站长利益的网站。
必应搜索也是，为什么他们都那么公正，是因为国外反竞争法很严格。
国内没指望了，那些3、百等公司都是跟上面有合作的，兼职红客， 负责防御工作，要不怎么跟美国斗网络？
缺人才，滴哄着来，狠了，就跑美国了！

以下是知乎的robots文件：

1. User-agent: Baiduspider-news
   
2. Disallow: /appview/
   
3. Disallow: /login
   
4. Disallow: /logout
   
5. Disallow: /resetpassword
   
6. Disallow: /terms
   
7. Disallow: /search
   
8. Allow: /search-special
   
9. Disallow: /notifications
   
10. Disallow: /settings
    
11. Disallow: /inbox
    
12. Disallow: /admin_inbox
    
13. Disallow: /*?guide*
    
14. 
    
15. User-agent: Baiduspider
    
16. Disallow: /appview/
    
17. Disallow: /login
    
18. Disallow: /logout
    
19. Disallow: /resetpassword
    
20. Disallow: /terms
    
21. Disallow: /search
    
22. Allow: /search-special
    
23. Disallow: /notifications
    
24. Disallow: /settings
    
25. Disallow: /inbox
    
26. Disallow: /admin_inbox
    
27. Disallow: /*?guide*
    
28. 
    
29. User-agent: Baiduspider-render
    
30. Disallow: /appview/
    
31. Disallow: /login
    
32. Disallow: /logout
    
33. Disallow: /resetpassword
    
34. Disallow: /terms
    
35. Disallow: /search
    
36. Allow: /search-special
    
37. Disallow: /notifications
    
38. Disallow: /settings
    
39. Disallow: /inbox
    
40. Disallow: /admin_inbox
    
41. Disallow: /*?guide*
    
42. 
    
43. User-agent: Baiduspider-image
    
44. Disallow: /appview/
    
45. Disallow: /login
    
46. Disallow: /logout
    
47. Disallow: /resetpassword
    
48. Disallow: /terms
    
49. Disallow: /search
    
50. Allow: /search-special
    
51. Disallow: /notifications
    
52. Disallow: /settings
    
53. Disallow: /inbox
    
54. Disallow: /admin_inbox
    
55. Disallow: /*?guide*
    
56. 
    
57. User-agent: Sogou web spider
    
58. Disallow: /appview/
    
59. Disallow: /login
    
60. Disallow: /logout
    
61. Disallow: /resetpassword
    
62. Disallow: /terms
    
63. Disallow: /search
    
64. Allow: /tardis/sogou/
    
65. Disallow: /notifications
    
66. Disallow: /settings
    
67. Disallow: /inbox
    
68. Disallow: /admin_inbox
    
69. Disallow: /*?guide*
    
70. 
    
71. User-Agent: *
    
72. Disallow: /
    

淘宝更加严格，直接屏蔽了所有搜索引擎。现
在是前后端分离，爬虫根本无法爬内容，只能爬到标题。

国内搜索引擎再有市场，不给你流量也白扯！
有奶才是娘，我反正只留下了谷歌、必应。

搜索, 你的, 必应, 爬虫, 网站

qdkj

实在是坑啊

myboss

坑有的是整的中小微企业都不愿意建自己公司的官方网站了，建设网站就是不收录，首页都不收录在百这边至少滴熬3年以上，它才可能收录。收录也是排名很低，给用户展示权重高的大网站（包括跟他合作的、爱企查、知道等），你的网站滴翻2页才能看到，而且能看到一个网站首页，已经是万幸了。

必应、谷歌搜索，一搜你就排在前面，就好像他们知道你这个是官方网站一样。
难道百不知道吗？
用户想找的是官方网站，他们就故意排后面，交3千每年就能企业认证，就排到前面。

以下主体，免费做企业认证。
主体适用对象：（1）政府机关、事业单位、医院、殡仪馆、学校、博物馆、景区等公立机构。（2）央企、国企、世界500强和中国500强（500强企业名单，以上一年度《财富》杂志发布的名单为准）等知名企业。
中小微企业，滴交钱。哈哈。
谷歌是只要建站，就很快收录网站首页，内页也有很多收录的。用户搜索，就把该给你的流量给予。百是截取各个中小微企业的流量，给别人。

huyuzhe

66666666666666666支持

qdkj

我有个企业站，未备案，一年了收录个首页，已经放弃了，作为内部信息发布平台用

myboss

未备案，更不容易被收录了必须滴备案的。
企业站，最少也滴每年花点SEO的钱，起码2千元起交3千每年，百就把你该得流量，给你，但是前提还是滴备案

qdkj

不想搞，反正也不会有线上客户，被米拓搞怕了

myboss

没流量，哪里来客户？
米拓怎么搞你了？

qdkj

米拓的事你不知道啊，批量起诉侵权啊

myboss

版权不算搞算自己没有遵守授权协议。
出来混，都滴交点学费的。
用dz就没有版权纠纷允许商业化运营