第4期(总第229期)2023年8月山西电子技术网络技术收稿日期:2022-12-22基金项目:第二批国家级职业教育教师教学创新团队课题研究项目和双高专业群“1+X证书”制度探索与实践研究课题(YB2021120303)ꎮ作者简介:李红(1994 ̄)ꎬ女ꎬ山西临汾人ꎬ助教ꎬ工学硕士ꎬ研究方向:大数据技术ꎮ文章编号:1674 ̄4578(2023)04 ̄0051 ̄03基于Scrapy的太原二手房爬虫的设计与实现∗李红(山西职业技术学院ꎬ山西太原030006)摘要:随着经济的快速发展ꎬ人们买房获取数据信息越来越便利ꎬ但网络的海量数据也给人们快速摘取有用信息带来了很大的困难ꎬ同样太原二手房数据量也很庞大ꎮ利用Scrapy框架快速高效的爬取太原链家二手房数据ꎬ并对数据完成处理和存储ꎬ为买房人群提供有用信息数据参考ꎮ关键词:Scrapy框架ꎻ太原二手房数据ꎻ爬虫中图分类号:TN919文献标识码:ADesignandImplementationofSecondHandHouseCrawlerinTaiyuanBasedonScrapyLiHong(ShanxiPolytechnicCollegeꎬTaiyuanShanxi030006ꎬChina)Abstract:Withtherapiddevelopmentofeconomyꎬitismoreandmoreconvenientforpeopletoobtaindatain ̄formationforbuyingahouseꎬbutthemassivedataontheInternetalsobringsgreatdifficultiesforpeopletoquicklyextractusefulinformation.SimilarlyꎬTaiyuanhasahugeamountofsecond ̄handhousedata.InthispaperꎬitusestheScrapyframeworktoquicklyandefficientlycrawlthesecond ̄handhousedataofTaiyuanChainHomeꎬcompletetheprocessingandstorageofthedataꎬandprovideusefulinformationanddatareferenceforpeoplewhobuyhouses.Keyw...