Python视频学习(十四、Redis)

版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/qq_30162859/article/details/85019607

0. Redis基本介绍

  • NoSQL的世界中没有一种通用的语言,每种nosql数据库都有自己的api和语法,以及擅长的业务场景
  • NoSQL中的产品种类相当多:
    • Mongodb
    • Redis
    • Hbase hadoop
    • Cassandra hadoop

NoSQL和SQL数据库的比较:

  • 适用场景不同:sql数据库适合用于关系特别复杂的数据查询场景,nosql反之
  • “事务”特性的支持:sql对事务的支持非常完善,而nosql基本不支持事务
    两者在不断地取长补短,呈现融合趋势

Redis简介

  • Redis是一个开源的使用ANSI C语言编写、支持网络、可基于内存亦可持久化的日志型、Key-Value数据库,并提供多种语言的API。从2010年3月15日起,Redis的开发工作由VMware主持。从2013年5月开始,Redis的开发由Pivotal赞助。
  • Redis是 NoSQL技术阵营中的一员,它通过多种键值数据类型来适应不同场景下的存储需求,借助一些高层级的接口使用其可以胜任,如缓存、队列系统的不同角色

Redis特性:

Redis 与其他 key - value 缓存产品有以下三个特点:

  • Redis支持数据的持久化,可以将内存中的数据保存在磁盘中,重启的时候可以再次加载进行使用。
  • Redis不仅仅支持简单的key-value类型的数据,同时还提供list,set,zset,hash等数据结构的存储。
  • Redis支持数据的备份,即master-slave模式的数据备份

Redis 优势

  • 性能极高 – Redis能读的速度是110000次/s,写的速度是81000次/s 。
  • 丰富的数据类型 – Redis支持二进制案例的 Strings, Lists, Hashes, Sets 及 Ordered Sets 数据类型操作。
  • 原子 – Redis的所有操作都是原子性的,同时Redis还支持对几个操作全并后的原子性执行。
  • 丰富的特性 – Redis还支持 publish/subscribe, 通知, key 过期等等特性。

Redis应用场景

  • 用来做缓存(ehcache/memcached)——redis的所有数据是放在内存中的(内存数据库)
  • 可以在某些特定应用场景下替代传统数据库——比如社交类的应用
  • 在一些大型系统中,巧妙地实现一些特定的功能:session共享、购物车
  • 只要你有丰富的想象力,redis可以用在可以给你无限的惊喜…….

1. 安装和配置

1.1 下载安装Redis

官网地址

$ wget http://download.redis.io/releases/redis-5.0.3.tar.gz
$ tar xzf redis-5.0.3.tar.gz
$ sudo mv  redis-5.0.3 /usr/local
$ cd /usr/local/redis-5.0.3
$ sudo make test
$ sudo make install

在这里插入图片描述

根据README.md中的说法,make install安装之后,可以在src目录下运行

./redis-server /path/to/redis.conf   # 运行server,并且制定配置文件
或者
% ./redis-server --port 9999 --replicaof 127.0.0.1 6379   # 不用配置文件,直接指定参数
% ./redis-server /etc/redis/6379.conf --loglevel debug

但是make install只会安装二进制文件,并不会配置init 脚本或者配置文件到合适的位置。为了创建一个开发环境,Redis提供了

% cd utils
% ./install_server.sh

这个脚本会询问所有情况,并且配置各种deamon服务和配置文件目录、log目录等等

之后就会有一个服务,名称叫做redis_端口号的,启动即可

遇到的问题

  1. 没有cc
sudo apt install gcc
  1. jemalloc错误
make[1]: Entering directory '/home/yyfyifan/Downloads/redis-5.0.3/src'
    CC Makefile.dep
    CC adlist.o
In file included from adlist.c:34:0:
zmalloc.h:50:10: fatal error: jemalloc/jemalloc.h: No such file or directory
 #include <jemalloc/jemalloc.h>
          ^~~~~~~~~~~~~~~~~~~~~
compilation terminated.
Makefile:248: recipe for target 'adlist.o' failed
make[1]: *** [adlist.o] Error 1
make[1]: Leaving directory '/home/yyfyifan/Downloads/redis-5.0.3/src'
Makefile:6: recipe for target 'test' failed
make: *** [test] Error 2

解决方式:

make MALLOC=libc
  1. tcl版本
You need tcl 8.5 or newer in order to run the Redis test

解决方式:

sudo apt install tcl

或者(下面这个我试了,失败了)

wget http://downloads.sourceforge.net/tcl/tcl8.6.1-src.tar.gz
sudo tar xzvf tcl8.6.1-src.tar.gz  -C /usr/local/
cd  /usr/local/tcl8.6.1/unix/
sudo ./configure
sudo make
sudo make install 
--------------------- 
原文:https://blog.csdn.net/luyee2010/article/details/18766911 

1.2 配置信息

sudo vi /etc/redis/redis.conf
  • 绑定ip:如果需要远程访问,可将此⾏注释,或绑定⼀个真实ip
    bind 127.0.0.1

  • 端⼝,默认为6379
    port 6379

  • 是否以守护进程运⾏
    daemonize yes

    • 如果以守护进程运⾏,则不会在命令⾏阻塞,类似于服务
    • 如果以⾮守护进程运⾏,则当前终端被阻塞
    • 设置为yes表示守护进程,设置为no表示⾮守护进程
  • 数据⽂件
    dbfilename dump.rdb

  • 数据⽂件存储路径
    dir /var/lib/redis

  • ⽇志⽂件
    logfile /var/log/redis/redis-server.log

  • 数据库,默认有16个
    database 16

  • 主从复制,类似于双机备份。
    slaveof

1.3 连接服务器

redis-cli  # 默认是连接到本地的6379端口,可以指定参数

运行测试命令:

PING
> PONG

数据库没有名称,默认有16个,通过0-15来标识,连接redis默认选择第一个数据库,即0号数据库

SELECT N # 切换到n号数据库

2. 数据操作

官网API

2.1 数据类型

redis是key-value的数据结构,每条数据都是⼀个键值对。

键是字符串,而值有5种类型:

  • 字符串string
  • 哈希hash(相当于字典)
  • 列表list(每个元素都是字符串)
  • 集合set(每个元素都是字符串)
  • 有序集合zset(每个元素都是字符串)
    在这里插入图片描述

2.2 字符串类型

字符串类型是Redis中最为基础的数据存储类型,它在Redis中是二进制安全的,这便意味着该类型可以接受任何格式的数据,如JPEG图像数据或Json对象描述信息等。在Redis中字符串类型的Value最多可以容纳的数据长度是512M

命令 说明 例子
set key value 设置键值对 set iname itcast
set key value EX 秒数 设置键值对的时候设置过期时间 set abc haha EX 5
setex key seconds value 设置键、值及过期时间,以秒为单位 setex aa 3 aa
mset key1 value1 key2 value2 ... 设置多个键值 mset a1 python a2 java a3 c
append key value 往已有的键对应值中追加字符串 append 'a1' 'haha'
get key 根据键获取值 get 'name'
mget key1 key2 ... 获取多个值 mget a1 a2 a3

2.3 键命令

命令 说明 例子
keys pattern 查看所有符合pattern的键,支持通配符 keys *
exists 键 查看这个键存在不存在,返回1代表存在 exists a1
type 键 查看这个键对应值的类型 type a
del key1 key2.. 删除对应的键和值 del a1 a2 a3
expire key seconds 设置键对应的过期时间,如果没有设置,则一直存在 expire a1 3
ttl key 查看剩余存活时间 ttl b2

2.4 hash类型

hash⽤于存储对象,对象的结构为属性、值,值的类型为string

添加修改命令 说明 例子
hset key field value 创建键值对,并且设置hash的单个属性和值 hset user name itheima(设置键 user的属性name为itheima)
hmset key field1 value1 field2 value2 ... 创建键值对,并且设置多个属性 hmset u2 name itcast age 11
获取命令 说明 例子
hkeys key 获取指定key对应的所有fields hkeys u2
hget key field 获取指定键的指定field对应的value hget u2 name
hmget key field1 field2 ... 获取指定键的多个指定field对应的value hget u2 name age
hvals key 直接获取该key的hash中所有fields的value hvals u2
删除命令 说明 例子
del key 删除键
hdel key field1 field2 ... 删除field和对应的value hdel u2 age

如果出现MISCONF Redis is configured to save RDB snapshots, but is currently not able to persist on disk. Commands that may modify the data set are disabled. Please check Redis logs for details about the error.错误。
那么运行config set stop-writes-on-bgsave-error no 命令后,关闭配置项stop-writes-on-bgsave-error解决该问题

2.5 list类型

列表的元素类型为string
按照插⼊顺序排序

插入命令 说明 例子
lpush key value1 value2 ... 从列表的左侧插入数据 lpush a1 0 1
rpush key value1 value2 .. 从列表的右侧插入数据 rpush a1 0 1
linsert key before或after 现有元素 新元素 在指定元素的前或后插⼊新元素 linsert a1 before b 3 在列表元素b的前面插入3
获取命令 说明 例子
lrange key start stop 返回列表⾥指定范围内的元素 lrange a1 0 -1
  • start、stop为元素的下标索引
  • 索引从左侧开始,第⼀个元素为0
  • 索引可以是负数,表示从尾部开始计数,如-1表示最后⼀个元素
设置命令 说明 例子
lset key index value 设置 index索引位置的值,索引从0开始,可以为负数 lset a 1 z
删除命令 说明 例子
lrem key count value 从某个方向开始,删除count个value
如果count=0, 则删除所有出现的value
如果count>0,那么从左开始数count个删除;
如果count<0, 那么从右开始数-count个删除

2.6 set类型

元素为string类型
元素具有唯⼀性,不重复
说明:对于集合没有修改操作

添加命令 说明
sadd key member1 member2 .. 向key中添加集合值
获取命令 说明
smembers key 返回所有的元素,无序,不保证和添加顺序一致
删除命令 说明
srem key member1 ... 删除key集合中的指定元素

2.7 zset类型——有序集合

sorted set,有序集合
元素为string类型
元素具有唯⼀性,不重复
每个元素都会关联⼀个double类型的score,表示权重,通过权重将元素从⼩到⼤排序
说明:没有修改操作

添加命令 说明 例子
zadd key score1 member1 score2 member2 .. 向key中添加权重和值 zadd a4 4 lisi 5 wangwu 6 zhaoliu 3 zhangsan
获取命令 说明
zrange key start stop 返回索引范围内的值
zrangebyscore key min max 返回score在min~max之间的值
zscore key member 获取member的score
删除命令 说明
zrem key member1 member2 .. 删除key集合中的指定元素
zremrangebyscore key min max 删除score在min~max之间的元素

3. Python交互redis

3.1 安装

Python的redis库

pip install redis

3.2 使用

from redis import StrictRedis
sr = StrictRedis(host='localhost', port=6379, db=0)  
# 可以简写为  sr = StrictRedis(),相当于本地的
# 根据不同的类型,拥有不同的实例⽅法可以调⽤,与前⾯学的redis命令对应,⽅法需要的参数与命令的参数⼀致

例子:

from redis import *
if __name__=="__main__":
    try:
        #创建StrictRedis对象,与redis服务器建⽴连接
        sr=StrictRedis()
        #添加键name,值为itheima,  成功返回True,否则False
        result=sr.set('name','itheima')
        print(result)
        #输出键的值,如果键不存在则返回None
        result = sr.get('name')
        
		# 删除键,返回删除成功的个数
        result = sr.delete('name')
		print(result) # 1
		# 获取所有的键,不传参数代表 keys *
        result=sr.keys()

    except Exception as e:
        print(e)

3.3 Djangon中用Redis保存Session

之前django的session默认是存在的数据库里面一张session表中,我们也可以把session存储在redis里面,访问速度更快。

  1. 安装包:
pip install django-redis-sessions

  1. 配置使用Redis来放置Session信息

settings.py中,最下面添加这些

SESSION_ENGINE = 'redis_sessions.session'  # 固定的
SESSION_REDIS_HOST = 'localhost'   # Redis数据库 ip
SESSION_REDIS_PORT = 6379  # Redis端口
SESSION_REDIS_DB = 2    # 第几个数据库
SESSION_REDIS_PASSWORD = ''   # 没有就空
SESSION_REDIS_PREFIX = 'session'      # 保存在Redis中的key的前缀
  1. 测试
  def session_set(request):
      request.session['name']='itheima'
      return HttpResponse('ok')


  def session_get(request):
      name=request.session['name']
      return HttpResponse(name)

4. Redis配置主从

  • ⼀个master可以拥有多个slave⼀个slave⼜可以拥有多个slave,如此下去,形成了强⼤的多级服务器集群架构
  • master用来写数据,slave用来读数据,经统计:网站的读写比率是10:1
  • 通过主从配置可以实现读写分离

新版本的Redis, slave这个词改成了 replica

在这里插入图片描述

配置主从

步骤:

  1. 配置主的ip和port
  2. 启动主,并且指定配置文件
  3. 配置从的ip和port
  4. 配置从的replicaof用来指定主实例的位置
  5. 启动从,并且指定从的配置文件

主实例配置:

  1. bind和port
bind 192.168.26.128
port 6379
  1. 不要配置 replicaof

  2. 启动服务

redis-server /path/to/config

从实例配置

  1. 设置port——不要和主的相同
bind 192.168.26.128
port 6380
  1. 配置replicaof指向主实例
replicaof 192.168.26.128 6379
  1. 启动实例并且指定这个配置文件
redis-server /path/to/slaveconfig

测试主从

redis-cli -h IP  info  # 查看所有该redis信息(包括主从关系)
redis-cli -h IP  info  REPLICATION    # 查看主从关系

在主实例上连接,创建新的内容,在从服务器上查看

不能写入从,从只能用来读取

5. Redis集群

  • 如果同时的访问量过大(1000w),主服务肯定就会挂掉,数据服务就挂掉了或者发生自然灾难。
  • 集群相当于是网络中的多台节点互相连接,并以单一系统的模式加以管理。一个客户与集群相互作用时,集群像是一个独立的服务器。集群配置是用于提高可用性和可缩放性。

在这里插入图片描述

  • Redis集群有2类:软件层面和硬件层面
    • 软件层面:只有一台电脑,在这一台电脑上启动了多个redis服务。
      在这里插入图片描述
    • 硬件层面:存在多台实体的电脑,每台电脑上都启动了一个redis或者多个redis服务。
      在这里插入图片描述

5.1 搭建Redis集群

参考资料:
redis集群搭建
Python

在2台机器上启动6个服务

现在使用2个机器,每个机器上面运行3个redis服务来搭建集群。

  • 第一台机器IP为172.16.179.130, 分别创建3个配置文件:
# 7000.conf
port 7000
bind 172.16.179.130
daemonize yes
pidfile 7000.pid
cluster-enabled yes
cluster-config-file 7000_node.conf
cluster-node-timeout 15000
appendonly yes
# 7001.conf
port 7001
bind 172.16.179.130
daemonize yes
pidfile 7001.pid
cluster-enabled yes
cluster-config-file 7001_node.conf
cluster-node-timeout 15000
appendonly yes
# 7002.conf
port 7002
bind 172.16.179.130
daemonize yes
pidfile 7002.pid
cluster-enabled yes
cluster-config-file 7002_node.conf
cluster-node-timeout 15000
appendonly yes

总结:三个⽂件的配置区别在port、pidfile、cluster-config-file三项

然后启动三个服务:

redis-server 7000.conf
redis-server 7001.conf
redis-server 7002.conf
  • 第二台机器IP为172.16.179.131,也分别创建3个配置文件并且启动服务:
# 7003.conf
port 7003
bind 172.16.179.131
daemonize yes
pidfile 7003.pid
cluster-enabled yes
cluster-config-file 7003_node.conf
cluster-node-timeout 15000
appendonly yes
# 7004.conf
port 7004
bind 172.16.179.131
daemonize yes
pidfile 7004.pid
cluster-enabled yes
cluster-config-file 7004_node.conf
cluster-node-timeout 15000
appendonly yes
# 7005.conf
port 7005 
bind 172.16.179.131
daemonize yes
pidfile 7005.pid
cluster-enabled yes
cluster-config-file 7005_node.conf
cluster-node-timeout 15000
appendonly yes
redis-server 7003.conf
redis-server 7004.conf
redis-server 7005.conf

创建集群

redis的安装包中包含了redis-trib.rb,⽤于创建集群

6个服务最后会成为3个节点,每个节点都是一个主一个从。 每个主/从节点会分配到一个 槽的区间, redis集群存储内容是存储在16384 个slot中,所以会把这些槽分配给各个节点,每个节点保存一部分。

具体步骤省略,因为我尝试的安装redis之后找不到这个命令

5.2 数据验证

连接上任何一个地址,然后写入数据,它会根据写入的key来自动跳转到对应的主node上,然后写入。

在哪个服务器上写数据:CRC16

  • redis cluster在设计的时候,就考虑到了去中⼼化,去中间件,也就是说,集群中 的每个节点都是平等的关系,都是对等的,每个节点都保存各⾃的数据和整个集 群的状态。每个节点都和其他所有节点连接,⽽且这些连接保持活跃,这样就保 证了我们只需要连接集群中的任意⼀个节点,就可以获取到其他节点的数据
  • Redis集群没有并使⽤传统的⼀致性哈希来分配数据,⽽是采⽤另外⼀种叫做**哈希 槽 (hash slot)**的⽅式来分配的。redis cluster 默认分配了 16384 个slot,当我们 set⼀个key 时,会⽤CRC16算法来取模得到所属的slot,然后将这个key 分到哈 希槽区间的节点上,具体算法就是:CRC16(key) % 16384。所以我们在测试的 时候看到set 和 get 的时候,直接跳转到了7000端⼝的节点
  • Redis 集群会把数据存在⼀个 master 节点,然后在这个 master 和其对应的salve 之间进⾏数据同步。当读取数据时,也根据⼀致性哈希算法到对应的 master 节 点获取数据。只有当⼀个master 挂掉之后,才会启动⼀个对应的 salve 节点,充 当 master
  • 需要注意的是:必须要3个或以上的主节点,否则在创建集群时会失败,并且当存 活的主节点数⼩于总节点数的⼀半时,整个集群就⽆法提供服务了

5.3 Python和Redis集群的交互

安装包

pip install redis-py-cluster

示例代码:

from rediscluster import StrictRedisCluster
if __name__ == '__main__':
  try:
      # 构建所有的节点,Redis会使⽤CRC16算法,将键和值写到某个节点上
      startup_nodes = [
          {'host': '192.168.26.128', 'port': '7000'},
          {'host': '192.168.26.130', 'port': '7003'},
          {'host': '192.168.26.128', 'port': '7001'},
      ]
      # 构建StrictRedisCluster对象
      src=StrictRedisCluster(startup_nodes=startup_nodes,decode_responses=True)
      # 设置键为name、值为itheima的数据
      result=src.set('name','itheima')
      print(result)
      # 获取键为name
      name = src.get('name')
      print(name)
  except Exception as e:
      print(e)

猜你喜欢

转载自blog.csdn.net/qq_30162859/article/details/85019607