“2021年11月”存档文章有34

重构

将代码划分成一系列完成具体工作的函数。 这样的过程被称为重构。重构让你代码更清晰、更易于理解、更易扩展。

Python 实例化

实例化:创建一个类的实例,类的具体对象。例如:class ProcessConnection: def __init__(self): logger_name = 'crawler' self._logger_write_file = logger_config.LoggingConfig().init_logging(logger_name) def in...

如何判断一个 IP 是爬虫

如果你查看服务器日志,看到密密麻麻的 IP 地址,你一眼可以看出来那些 IP 是爬虫,那些 IP 是正常的爬虫,就像这样:在这密密麻麻的日志里面,我们不仅要分辨出真正的爬虫 IP ,同时也要分辨出伪造的爬虫 IP,实属不易。如果查看服务器日志,我们可以先通过 User-agent 大致判断出是爬虫还是正常用户,例如:Mozilla/5.0 (compatible; SemrushBot/7~bl;...

爬虫进行 IP 识别

通过查询 IP 识别爬虫74.6.168.229 这是一个 IPv4 地址,一个 IP 地址存在有很多信息,例如:这个 IP 地址是一个美国纽约的 IP 地址,他属于 Oath Holdings Inc. 公司,同时他也是一个爬虫的 IP。等等,他是一个爬虫的 IP ,你怎么看出来的?我们可以通过 IP 反查,可以看到这个 IP 的 Hostname 是:g1026.crawl.yahoo.net...

IPv6 私有地址

在互联网的地址架构中,专用网络是指遵守RFC 1918(IPV4)和RFC 4193(IPV6)规范,使用专用IP地址空间的网络。私有IP无法直接连接互联网,需要使用网络地址转换(Network Address Translator,NAT)或者代理服务器 (proxy server)来实现。与公网IP相比,私有IP是免费的,同时节省了IP地址资源,适合在局域网使用。IPv6 的私有 IP 定义在...

Access denied; you need (at least one of) the SUPER privilege(s) for this operation

今天在做迁移的时候,导入到 RDS 中出现了如下错误:ERROR 1227 (42000) at line 18: Access denied; you need (at least one of) the SUPER privilege(s) for this operation出现问题的原因:RDS 提供的 MySQL 服务器不允许 DEFINER 其他用户使用语法(以我的经验)。解决方案:您...

mysqldump: Couldn't execute 'SELECT COLUMN_NAME,

最近在使用 mysqldump 做数据迁移的时候出现了如下错误:Warning: A partial dump from a server that has GTIDs will by default include the GTIDs of all transactions, even those that changed suppressed parts of the database. If...

如何更改 MySQL 用户密码

在本教程中,我们将向您展示如何更改 MySQL 用户密码。这些说明应该适用于任何现代 Linux 发行版,例如 Ubuntu 18.04 和 CentOS 7。先决条件 根据您在系统上运行的 MySQL 或 MariaDB 服务器版本,您将需要使用不同的命令来更改用户密码。您可以通过发出以下命令来找到您的数据库服务器版本:mysql --version如果您的系统中安装了 MySQL,输出将如下所...