pythonScrapy爬蟲代碼怎么寫

import scrapy

class demo(scrapy.Spider):  # 需要繼承scrapy.Spider類   name = "demo"  # 定義蜘蛛名

def start_requests(self):  # 由此方法通過下面鏈接爬取頁面
    # 定義爬取的鏈接    urls = [        'http://lab.scrapyd.cn/page/1/',        'http://lab.scrapyd.cn/page/2/',    ]    for url in urls:        yield scrapy.Request(url=url, callback=self.parse)  # 爬取到的頁面如何處理？提交給parse方法處理

def parse(self, response):    '''    start_requests已經(jīng)爬取到頁面，那如何提取我們想要的內(nèi)容呢？那就可以在這個(gè)方法里面定義。    這里的話，并木有定義，只是簡單的把頁面做了一個(gè)保存，并沒有涉及提取我們想要的數(shù)據(jù)，后面會慢慢說到    也就是用xpath、正則、或是css進(jìn)行相應(yīng)提取，這個(gè)例子就是讓你看看scrapy運(yùn)行的流程：    1、定義鏈接；    2、通過鏈接爬?。ㄏ螺d）頁面；    3、定義規(guī)則，然后提取數(shù)據(jù)；    '''
    page = response.url.split("/")[-2]  # 根據(jù)上面的鏈接提取分頁,如：/page/1/，提取到的就是：1    filename = 'demo-%s.html' % page  # 拼接文件名，如果是第一頁，最終文件名便是：mingyan-1.html    with open(filename, 'wb') as f:  # python文件操作，不多說了；        f.write(response.body)  # 剛才下載的頁面去哪里了？response.body就代表了剛才下載的頁面！    self.log('保存文件: %s' % filename)  # 打個(gè)日志