15 aug 16:08
15 procent van de AI-fetchers in Europa haalt geblokkeerde pagina's op
Ongeveer 15 procent van de herkende AI-fetchers in Europa haalde pagina's op die sites in robots.txt hadden verboden, meet TollBit. Drie bots kwamen op bijna de helft van de sites die hen noemden alsnog binnen.