duncan.parkes
b790456e5b
Add scraper for Crawley from Andre.
před 15 roky
duncan.parkes
6a2ed311a4
Add Wychavon scraper from Thomas.
před 15 roky
duncan.parkes
55b14a2b71
This is a big refactor of the scrapers.
The database table which says which scrapers are where will now be filled in automatically,
which should result in rather less in the way of manual editing errors.
I've also redone the python PublicAccess scraper and set all the PublicAccess sites to use
it (removing the PHP PublicAccess scrapers).
před 16 roky
duncan.parkes
df32136695
Add Thomas' scraper for Solihull.
před 16 roky
duncan.parkes
df565a5098
Add scraper for Weymouth and Portland.
před 16 roky
duncan.parkes
8eaa83b4cf
Add scraper for Mendip.
Make display method on a planningapplication work out the postcode if it isn't set.
před 16 roky
duncan.parkes
42d99b3e7f
Add scraper for Broxtowe.
před 16 roky
duncan.parkes
81851a73b4
Add scraper for Calderdale.
před 16 roky
duncan.parkes
1cd560ace6
Add scraper for the Cairngorms National Park.
před 16 roky
duncan.parkes
09ca7050c3
Add scraper for Leicestershire County Council.
před 16 roky
duncan.parkes
74b3bedb63
Add scraper for Lichfield. Remove another unused import.
před 16 roky
duncan.parkes
e39114078f
Add parser for Kirklees. Get rid of some unnecessary imports.
před 16 roky
duncan.parkes
15fca1a280
Add python parser for West Dorset, and remove the non-working perl one.
před 16 roky
duncan.parkes
53d0b25f78
Add scraper for Gosport.
Factor out CookieAddingHTTPRedirectHandler.
před 16 roky
duncan.parkes
92e757b8dd
Add scraper for Eastbourne. The info and comment links won't work since they require you to have a cookie. If you go
back to them once you have the cookie, you're fine...
před 16 roky
duncan.parkes
2f155cbc6f
Add scraper for Exmoor. Fix name of Herefordshire.
před 16 roky
duncan.parkes
d92f3bb6fd
Add scraper for Herefordshire.
Alter PlanningUtils to CDATA everything, scrapping the xmlquote function.
před 16 roky
duncan.parkes
0bfe5dace9
Add scraper for Hastings. Sadly, no decent info urls again. Had to use the search page. The real info url is only
accessible with a referer.
před 16 roky
duncan.parkes
33a1ee02ab
Add Hampshire scraper.
před 16 roky
duncan.parkes
1510528a8a
Adding scraper for Halton.
Also adding the pycurl scraper for Westminster, just in case it is useful to remind us how to do stuff later.
před 16 roky
duncan.parkes
5b5b8c9ac5
Add scraper for Westminster.
před 16 roky
duncan.parkes
54190fe977
Adding scraper for Harrow.
The info url situation here is not really good enough.
All we get is a page with the last 7 days apps on it with no info urls.
I'm using that page as the info url for the moment, but it will obviously
be no use after seven days...
před 16 roky
duncan.parkes
98f49f172f
Add scraper for Hounslow.
před 16 roky
duncan.parkes
cbf14b5169
Add scraper for Kingston upon Thames.
před 16 roky
duncan.parkes
bcf26d0e43
Add scraper for Birmingham.
před 16 roky
duncan.parkes
fed099cffb
Add Berwick scraper.
před 16 roky
duncan.parkes
fb7ba977ae
Add Carmarthenshire scraper.
před 16 roky
duncan.parkes
193f2a6cac
Add scraper for Brent.
před 16 roky
duncan.parkes
968b5c5040
Add Aberdeenshire parser.
před 16 roky
duncan.parkes
5df7fe27c8
Add scraper for Amber Valley. This was a really irritating one. There is no way to link to individual info pages, so
have had to give the search url in all the info urls. Comment url works fine for each app.
před 16 roky
pcc03
825ac7d147
North Ayrshire, Redbridge: added
před 16 roky
duncan.parkes
6a1fc76ae2
Use the SwiftLG parser for Enfield.
před 16 roky
duncan.parkes
de05835fed
Add perl scraper from Peter for Newport.
Add scrapers for Merton and Conwy (PlanningExplorer)
před 16 roky
duncan.parkes
9a3b38c325
Add Peter's scrapers for Highland, Glasgow, and Brentwood.
před 16 roky
duncan.parkes
d754878ea3
Add Shropshire, North Yorkshire and South Northamptonshire.
před 16 roky
duncan.parkes
442f48ab30
Add Medway scraper.
před 16 roky
duncan.parkes
90b529635f
add scraper for Maldon.
This site is absolutely rubbish:
1) It's impossible to link to the info page - needs a cookie. I've put a link to the search page for the moment.
2) Many applications have no description. I've put the text "Description Missing" when this happens.
před 16 roky
duncan.parkes
c5690efa2d
Add scraper for Flintshire. I've included the OSGB x,y coordinates in the hope that we can start using these where
we don't have postcodes.
před 16 roky
duncan.parkes
66bb2955a8
Add Forest of Dean and Fife parsers.
před 16 roky
duncan.parkes
e77d590281
Add Kensington and Chelsea Scraper.
před 16 roky
duncan.parkes
03084bd2db
Add scraper for Shetland Islands.
Encode all output as UTF-8.
před 16 roky
duncan.parkes
8d823ca649
Add scraper for Barnsley.
před 16 roky
duncan.parkes
6df0966d11
Add Scraper for the Isle of Wight.
před 16 roky
duncan.parkes
836421fd75
Working scrapers for 8 Ocella sites.
před 16 roky
duncan.parkes
0354409450
Set up planet scraper. This get's us 5 new councils (though one, Tewkesbury, has no postcodes)
před 16 roky
duncan.parkes
f03d37985f
Use the python scraper for North Hertfordshire.
před 17 roky
duncan.parkes
3ba69e0a68
Add scraper for the WAM sites (apart from Westminster, which is a bit different).
před 17 roky
duncan.parkes
7de43fab21
Add SouthSomerset, Christchurch and West Dorset.
We still need to sort out comment urls here.
před 17 roky
duncan.parkes
b5d2f1aa68
Add Dacorum scraper.
před 17 roky
duncan.parkes
906d385695
Add scrapers for the SwiftLG sites (apart from Daventry which is not responding today).
We already have scrapers for Islington and East Herts, but I'm adding the new ones as well - we can then see if we
get the same results :-)
před 17 roky