[issue36207] robotsparser deny all with some rules

2021-01-28 Thread jeanotlapin

jeanotlapin  added the comment:

Il semblerait que le script continue d'afficher des erreurs et rencontre des 
bugs. Preuve en est puisque j'ai testé sur ce site d'auto hypnose 
https://www.lautohypnose.com/ en vain...

------
nosy: +jeanotlapin

___
Python tracker 
<https://bugs.python.org/issue36207>
___
___
Python-bugs-list mailing list
Unsubscribe: 
https://mail.python.org/mailman/options/python-bugs-list/archive%40mail-archive.com



[issue36207] robotsparser deny all with some rules

2020-09-18 Thread jeanotlapin

jeanotlapin  added the comment:

Bonjour,

j'ai rencontré le même soucis. J'ai essayé de le faire fonctionner en vain. 
J'ai tenté de faire crawler par les robots la page de notre agence de 
communication à Montpellier 
https://www.monagencedecommunication.com/agence/montpellier/ mais cela n'a pas 
visiblement pas marché...

--
nosy: +jeanotlapin

___
Python tracker 
<https://bugs.python.org/issue36207>
___
___
Python-bugs-list mailing list
Unsubscribe: 
https://mail.python.org/mailman/options/python-bugs-list/archive%40mail-archive.com