0%

是一个框架和分布式处理引擎,用于对无界和有界数据流进行状态计算

lambda架构
Lambda架构

Read more »

Distcp 跨集群同步

1. 使用方法及原理

1
2
hadoop distcp srcPath tarPath
会把srcPath和tarPath下的所有目录、文件信息放入到 _distcp_src_files 和 _distcp_dst_files 两个临时文件中,具体文件内容的拷贝工作交给多个map任务,会导致一个问题,就是文件过多那么map任务数就会很多,每个datanode有一个上限,极少数情况下可能会超过上限,导致数据文件拷贝不全。

org.apache.hadoop.tools.DistCp 类中会解析 srcPath tarPath ,将之前的临时文件先删除,然后一个含有随机数的临时文件夹路径

Read more »

缓存穿透、缓存击穿、缓存雪崩

参考网址1
参考网址2
参考网址3

1. 缓存穿透

含义:当查询Redis中没有的数据时,该查询会下沉到数据库层,同时数据库层也没有该数据,当这种情况大量出现或被恶意攻击时,接口的访问全部透过Redis访问数据库,而数据库中也没有这些数据,我们称这种现象为”缓存穿透”。缓存穿透会穿透Redis的保护,提升底层数据库的负载压力,同时这类穿透查询没有数据返回也造成了网络和计算资源的浪费。

Read more »

Lombok

参考网址

在类上使用注解 @Data,会在编译时自动添加 Setter-Getter 方法。

有一个需要避免踩坑的地方:属性名前两个字母都需要小写,前两个字母如果是小写大写会出现问题!
解决:

  1. 修改属性名字,让第二个字母小写,或者说是规定所有的属性的前两个字母必须小写
  2. 如果数据库已经设计好,并且前后端接口对接好了,不想修改,那就专门为这种特殊的属性使用idea生成get-set方法复制代码
Read more »