要用Python编写网络爬虫，您需要使用一些库，如requests（用于发送HTTP请求）和BeautifulSoup（用于解析HTML文档）。以下是一个简单的网络爬虫示例，用于抓取网站上的标题和链接：
- 首先，确保安装了所需的库。在命令行中运行以下命令：
pip install requests beautifulsoup4
- 创建一个名为
web_crawler.py的Python文件，并在其中编写以下代码：
import requests
from bs4 import BeautifulSoup
def get_page(url):
response = requests.get(url)
if response.status_code == 200:
return response.text
else:
print(f"Error: Unable to fetch the page. Status code: {response.status_code}")
return None
def parse_page(html):
soup = BeautifulSoup(html, 'html.parser')
titles = soup.find_all('h2') # 根据网页结构选择合适的标签
links = soup.find_all('a')
for title, link in zip(titles, links):
print(title.get_text(), link['href'])
def main():
url = input("Enter the URL of the website you want to crawl: ")
html = get_page(url)
if html:
parse_page(html)
if __name__ == "__main__":
main()
- 运行网络爬虫：
python web_crawler.py
- 输入要抓取的网站URL，然后按Enter键。网络爬虫将抓取页面上的标题和链接。
注意：这个示例仅适用于具有特定HTML结构的网站。要使其适用于其他网站，您需要根据目标网站的HTML结构更改parse_page函数中的标签。您可以通过检查网页的源代码并找到所需的标签和属性来实现这一点。
版权声明：本文内容由互联网用户自发贡献，该文观点仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容，请发送邮件至 55@qq.com 举报，一经查实，本站将立刻删除。转转请注明出处：https://www.szhjjp.com/n/1201698.html
