Flink(暂时) Posted on 2020-10-20 Edited on 2020-11-12 In Flink Views: Valine: Symbols count in article: 17k Reading time ≈ 15 mins. Flink是一个框架和分布式处理引擎,用于对无界和有界数据流进行状态计算 lambda架构 Read more »
Distcp 跨集群同步 Posted on 2020-10-09 Edited on 2020-11-10 In Hadoop , Hive Views: Valine: Symbols count in article: 4.1k Reading time ≈ 4 mins. Distcp 跨集群同步1. 使用方法及原理12hadoop distcp srcPath tarPath会把srcPath和tarPath下的所有目录、文件信息放入到 _distcp_src_files 和 _distcp_dst_files 两个临时文件中,具体文件内容的拷贝工作交给多个map任务,会导致一个问题,就是文件过多那么map任务数就会很多,每个datanode有一个上限,极少数情况下可能会超过上限,导致数据文件拷贝不全。 org.apache.hadoop.tools.DistCp 类中会解析 srcPath tarPath ,将之前的临时文件先删除,然后一个含有随机数的临时文件夹路径 Read more »
缓存穿透、缓存击穿、缓存雪崩 Posted on 2020-10-20 Edited on 2020-11-08 In Redis Views: Valine: Symbols count in article: 1.9k Reading time ≈ 2 mins. 缓存穿透、缓存击穿、缓存雪崩参考网址1参考网址2参考网址3 1. 缓存穿透含义:当查询Redis中没有的数据时,该查询会下沉到数据库层,同时数据库层也没有该数据,当这种情况大量出现或被恶意攻击时,接口的访问全部透过Redis访问数据库,而数据库中也没有这些数据,我们称这种现象为”缓存穿透”。缓存穿透会穿透Redis的保护,提升底层数据库的负载压力,同时这类穿透查询没有数据返回也造成了网络和计算资源的浪费。 Read more »
Lombok Posted on 2020-11-07 In Spring , Spring Boot Views: Valine: Symbols count in article: 3.6k Reading time ≈ 3 mins. Lombok参考网址 在类上使用注解 @Data,会在编译时自动添加 Setter-Getter 方法。 有一个需要避免踩坑的地方:属性名前两个字母都需要小写,前两个字母如果是小写大写会出现问题!解决: 修改属性名字,让第二个字母小写,或者说是规定所有的属性的前两个字母必须小写 如果数据库已经设计好,并且前后端接口对接好了,不想修改,那就专门为这种特殊的属性使用idea生成get-set方法复制代码 Read more »
二分查找 Posted on 2020-11-04 Edited on 2020-11-06 In Algorithm , BinarySearch Views: Valine: Symbols count in article: 3.5k Reading time ≈ 3 mins. 二分查找参考网址1 参考网址2 适合场景: 寻找一个数 寻找左侧边界 寻找右侧边界 最大的一个前提是:需要在单调区间内 Read more »