Parcourir la source

use postcode from address when no postcode is available in publicaccess

parser
add currently failing surrey heath parser
import/raw
duncan.parkes il y a 17 ans
Parent
révision
99357123fb
100 fichiers modifiés avec 44 ajouts et 4 suppressions
  1. +11
    -3
      trunk/cgi-bin/AcolnetParser.py
  2. +0
    -0
      trunk/cgi-bin/Allerdale.cgi
  3. +0
    -0
      trunk/cgi-bin/Alnwick.cgi
  4. +0
    -0
      trunk/cgi-bin/Angus.cgi
  5. +0
    -0
      trunk/cgi-bin/Aylesbury Vale.cgi
  6. +0
    -0
      trunk/cgi-bin/Babergh.cgi
  7. +0
    -0
      trunk/cgi-bin/Barrow.cgi
  8. +0
    -0
      trunk/cgi-bin/Basildon.cgi
  9. +0
    -0
      trunk/cgi-bin/Basingstoke and Deane.cgi
  10. +0
    -0
      trunk/cgi-bin/Bassetlaw.cgi
  11. +0
    -0
      trunk/cgi-bin/Bath.cgi
  12. +0
    -0
      trunk/cgi-bin/Bexley.cgi
  13. +0
    -0
      trunk/cgi-bin/Blaby.cgi
  14. +0
    -0
      trunk/cgi-bin/Bolsover.cgi
  15. +0
    -0
      trunk/cgi-bin/Bridgnorth.cgi
  16. +0
    -0
      trunk/cgi-bin/Bristol.cgi
  17. +0
    -0
      trunk/cgi-bin/Buckinghamshire.cgi
  18. +0
    -0
      trunk/cgi-bin/Bury.cgi
  19. +0
    -0
      trunk/cgi-bin/Carlisle.cgi
  20. +0
    -0
      trunk/cgi-bin/Chelmsford.cgi
  21. +0
    -0
      trunk/cgi-bin/Cherwell.cgi
  22. +0
    -0
      trunk/cgi-bin/Chorley.cgi
  23. +0
    -0
      trunk/cgi-bin/City of London.cgi
  24. +0
    -0
      trunk/cgi-bin/Cornwall.cgi
  25. +0
    -0
      trunk/cgi-bin/Coventry.cgi
  26. +0
    -0
      trunk/cgi-bin/Croydon.cgi
  27. +0
    -0
      trunk/cgi-bin/Denbighshire.cgi
  28. +0
    -0
      trunk/cgi-bin/Derby.cgi
  29. +0
    -0
      trunk/cgi-bin/Doncaster.cgi
  30. +0
    -0
      trunk/cgi-bin/Dundee.cgi
  31. +0
    -0
      trunk/cgi-bin/Durham.cgi
  32. +0
    -0
      trunk/cgi-bin/Ealing.cgi
  33. +0
    -0
      trunk/cgi-bin/Easington.cgi
  34. +0
    -0
      trunk/cgi-bin/East Devon.cgi
  35. +0
    -0
      trunk/cgi-bin/East Dorset.cgi
  36. +0
    -0
      trunk/cgi-bin/East Lindsey.cgi
  37. +0
    -0
      trunk/cgi-bin/Edinburgh.cgi
  38. +0
    -0
      trunk/cgi-bin/Epsom and Ewell.cgi
  39. +0
    -0
      trunk/cgi-bin/Fenland.cgi
  40. +0
    -0
      trunk/cgi-bin/Fylde.cgi
  41. +0
    -0
      trunk/cgi-bin/Gateshead.cgi
  42. +0
    -0
      trunk/cgi-bin/Gedling.cgi
  43. +0
    -0
      trunk/cgi-bin/Gloucestershire.cgi
  44. +0
    -0
      trunk/cgi-bin/Gravesham.cgi
  45. +0
    -0
      trunk/cgi-bin/Hammersmith and Fulham.cgi
  46. +0
    -0
      trunk/cgi-bin/Haringey.cgi
  47. +0
    -0
      trunk/cgi-bin/Harlow.cgi
  48. +0
    -0
      trunk/cgi-bin/Harrogate.cgi
  49. +0
    -0
      trunk/cgi-bin/Hart.cgi
  50. +0
    -0
      trunk/cgi-bin/Hartlepool.cgi
  51. +0
    -0
      trunk/cgi-bin/Hertsmere.cgi
  52. +0
    -0
      trunk/cgi-bin/High Peak.cgi
  53. +0
    -0
      trunk/cgi-bin/Huntingdonshire.cgi
  54. +0
    -0
      trunk/cgi-bin/Kerrier.cgi
  55. +0
    -0
      trunk/cgi-bin/Knowsley.cgi
  56. +0
    -0
      trunk/cgi-bin/Lancaster.cgi
  57. +0
    -0
      trunk/cgi-bin/Lewisham.cgi
  58. +0
    -0
      trunk/cgi-bin/Luton.cgi
  59. +0
    -0
      trunk/cgi-bin/Malvern Hills.cgi
  60. +0
    -0
      trunk/cgi-bin/Manchester.cgi
  61. +0
    -0
      trunk/cgi-bin/Mid Devon.cgi
  62. +0
    -0
      trunk/cgi-bin/Milton Keynes.cgi
  63. +0
    -0
      trunk/cgi-bin/NW Leicestershire.cgi
  64. +0
    -0
      trunk/cgi-bin/New Forest.cgi
  65. +0
    -0
      trunk/cgi-bin/Newcastle-under-Lyme.cgi
  66. +0
    -0
      trunk/cgi-bin/Newcastle.cgi
  67. +0
    -0
      trunk/cgi-bin/Newham.cgi
  68. +0
    -0
      trunk/cgi-bin/North Hertfordshire.cgi
  69. +0
    -0
      trunk/cgi-bin/North Tyneside.cgi
  70. +0
    -0
      trunk/cgi-bin/North Warwickshire.cgi
  71. +0
    -0
      trunk/cgi-bin/North Wiltshire.cgi
  72. +0
    -0
      trunk/cgi-bin/Northumberland.cgi
  73. +0
    -0
      trunk/cgi-bin/Oadby and Wigston.cgi
  74. +0
    -0
      trunk/cgi-bin/Oldham.cgi
  75. +0
    -0
      trunk/cgi-bin/Oswestry.cgi
  76. +0
    -0
      trunk/cgi-bin/Peterborough.cgi
  77. +0
    -0
      trunk/cgi-bin/Portsmouth.cgi
  78. +4
    -1
      trunk/cgi-bin/PublicAccess.py
  79. +0
    -0
      trunk/cgi-bin/Redditch.cgi
  80. +0
    -0
      trunk/cgi-bin/Renfrewshire.cgi
  81. +0
    -0
      trunk/cgi-bin/Rushmoor.cgi
  82. +0
    -0
      trunk/cgi-bin/Scarborough.cgi
  83. +0
    -0
      trunk/cgi-bin/Selby.cgi
  84. +0
    -0
      trunk/cgi-bin/Sevenoaks.cgi
  85. +0
    -0
      trunk/cgi-bin/South Bedfordshire.cgi
  86. +0
    -0
      trunk/cgi-bin/South Bucks.cgi
  87. +0
    -0
      trunk/cgi-bin/South Ribble.cgi
  88. +0
    -0
      trunk/cgi-bin/South Staffordshire.cgi
  89. +0
    -0
      trunk/cgi-bin/SouthOxfordshire.cgi
  90. +0
    -0
      trunk/cgi-bin/Southampton.cgi
  91. +0
    -0
      trunk/cgi-bin/Spelthorne.cgi
  92. +0
    -0
      trunk/cgi-bin/St Helens.cgi
  93. +0
    -0
      trunk/cgi-bin/Stevenage.cgi
  94. +0
    -0
      trunk/cgi-bin/Stirling.cgi
  95. +0
    -0
      trunk/cgi-bin/Stockton-On-Tees.cgi
  96. +0
    -0
      trunk/cgi-bin/Stratford.cgi
  97. +0
    -0
      trunk/cgi-bin/Suffolk Coastal.cgi
  98. +0
    -0
      trunk/cgi-bin/Sunderland.cgi
  99. +29
    -0
      trunk/cgi-bin/Surrey Heath.cgi
  100. +0
    -0
      trunk/cgi-bin/Teignbridge.cgi

+ 11
- 3
trunk/cgi-bin/AcolnetParser.py Voir le fichier

@@ -159,8 +159,8 @@ class AcolnetParser(HTMLParser.HTMLParser):
search_form_response = urllib2.urlopen(self.base_url)
search_form_contents = search_form_response.read()

#outfile = open("tmpfile", "w")
#outfile.write(search_form_contents)
outfile = open("tmpfile", "w")
outfile.write(search_form_contents)

# This sometimes causes a problem in HTMLParser, so let's just get the link
# out with a regex...
@@ -410,6 +410,14 @@ class SuffolkCoastalParser(AcolnetParser):
proposal_tr = 5

comments_email_address = "d.c.admin@suffolkcoastal.gov.uk"

class SurreyHeathParser(AcolnetParser):
case_number_tr = 1 # this one can be got by the td class attribute
reg_date_tr = 2
location_tr = 4
proposal_tr = 5

comments_email_address = "development-control@surreyheath.gov.uk"
if __name__ == '__main__':
day = 15
@@ -425,7 +433,7 @@ if __name__ == '__main__':
# canterbury
# results as columns of one table

parser = OldhamParser("Oldham", "Oldham", "http://planning.oldham.gov.uk/planning//acolnetcgi.gov?ACTION=UNWRAP&RIPNAME=Root.pgesearch")
parser = SurreyHeathParser("Surrey Heath", "Surrey Heath", "https://www.public.surreyheath-online.gov.uk/whalecom60b1ef305f59f921/whalecom0/Scripts/PlanningPagesOnline/acolnetcgi.gov?ACTION=UNWRAP&RIPNAME=Root.pgesearch")
print parser.getResults(day, month, year)

+ 0
- 0
trunk/cgi-bin/Allerdale.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Alnwick.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Angus.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Aylesbury Vale.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Babergh.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Barrow.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Basildon.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Basingstoke and Deane.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Bassetlaw.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Bath.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Bexley.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Blaby.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Bolsover.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Bridgnorth.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Bristol.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Buckinghamshire.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Bury.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Carlisle.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Chelmsford.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Cherwell.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Chorley.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/City of London.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Cornwall.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Coventry.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Croydon.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Denbighshire.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Derby.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Doncaster.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Dundee.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Durham.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Ealing.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Easington.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/East Devon.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/East Dorset.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/East Lindsey.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Edinburgh.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Epsom and Ewell.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Fenland.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Fylde.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Gateshead.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Gedling.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Gloucestershire.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Gravesham.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Hammersmith and Fulham.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Haringey.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Harlow.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Harrogate.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Hart.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Hartlepool.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Hertsmere.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/High Peak.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Huntingdonshire.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Kerrier.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Knowsley.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Lancaster.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Lewisham.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Luton.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Malvern Hills.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Manchester.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Mid Devon.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Milton Keynes.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/NW Leicestershire.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/New Forest.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Newcastle-under-Lyme.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Newcastle.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Newham.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/North Hertfordshire.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/North Tyneside.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/North Warwickshire.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/North Wiltshire.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Northumberland.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Oadby and Wigston.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Oldham.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Oswestry.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Peterborough.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Portsmouth.cgi Voir le fichier


+ 4
- 1
trunk/cgi-bin/PublicAccess.py Voir le fichier

@@ -10,7 +10,7 @@ import cookielib
cookie_jar = cookielib.CookieJar()


from PlanningUtils import fixNewlines, PlanningAuthorityResults, PlanningApplication
from PlanningUtils import fixNewlines, getPostcodeFromText, PlanningAuthorityResults, PlanningApplication


search_form_url_end = "DcApplication/application_searchform.aspx"
@@ -167,6 +167,9 @@ class PublicAccessParser(HTMLParser.HTMLParser):
# one found on the property page
if property_file_parser.postcode is not None:
self._current_application.postcode = property_file_parser.postcode
else:
# If there is no postcode in here, then we'll have to make do with regexing one out of the address.
self._current_application.postcode = getPostcodeFromText(self._current_application.address)

# There is no need for us to look at any more attributes.
break


+ 0
- 0
trunk/cgi-bin/Redditch.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Renfrewshire.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Rushmoor.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Scarborough.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Selby.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Sevenoaks.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/South Bedfordshire.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/South Bucks.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/South Ribble.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/South Staffordshire.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/SouthOxfordshire.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Southampton.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Spelthorne.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/St Helens.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Stevenage.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Stirling.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Stockton-On-Tees.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Stratford.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Suffolk Coastal.cgi Voir le fichier


+ 0
- 0
trunk/cgi-bin/Sunderland.cgi Voir le fichier


+ 29
- 0
trunk/cgi-bin/Surrey Heath.cgi Voir le fichier

@@ -0,0 +1,29 @@
#!/usr/local/bin/python

# This is the parser for Surrey Heath Borough Council.
# it is generated from the file CGITemplate

import cgi
import cgitb
#cgitb.enable(display=0, logdir="/tmp")


form = cgi.FieldStorage()
day = form.getfirst('day')
month = form.getfirst('month')
year = form.getfirst('year')


authority_name = "Surrey Heath Borough Council"
authority_short_name = "Surrey Heath"
base_url = "https://www.public.surreyheath-online.gov.uk/whalecom60b1ef305f59f921/whalecom0/Scripts/PlanningPagesOnline/acolnetcgi.gov?ACTION=UNWRAP&RIPNAME=Root.pgesearch"

import AcolnetParser

parser = AcolnetParser.SurreyHeathParser(authority_name, authority_short_name, base_url)

xml = parser.getResults(day, month, year)

print "Content-Type: text/xml" # XML is following
print
print xml # print the xml

+ 0
- 0
trunk/cgi-bin/Teignbridge.cgi Voir le fichier


Certains fichiers n'ont pas été affichés car il y a eu trop de fichiers modifiés dans ce diff

Chargement…
Annuler
Enregistrer