'Kafka的架构维度整理' Kafka Kafka 架构维度整体架构 分区概念 批次消费 1234567891011121314151.消息默认保留的天数:7天2.默认开启异步自动提交,间隔时间5秒3.Consumer默认拉取条数限制:500条,一次poll会取多个分区的数据4.生产者携带key的分区策略默认使用Hash分区器5....
'Kafka的监控' Kafka Kafka监控eagle下载地址 12345678910111213141516#1.修改kfaka启动命令[root@localhost bin]# vi kafka-server-start.sh#原内容:if [ "x$KAFKA_HEAP_OPTS" = "x" ]; then exp...
'Kafka API' Kafka Kafka APIProducer APIKafka 的 Producer 发送消息采用的是异步发送的方式。在消息发送的过程中,涉及到了两个线程——main 线程和 Sender 线程,以及一个线程共享变量——RecordAccumulator(相当于缓冲区)。main 线程将消息发送给 Re...
'Kafka的索引机制' Kafka Kafka的索引机制索引存储机制 Kafka的索引存储机制是什么? 一个Topic分为多个Partition,一个Partition分为多个Segment。 每个Segment对应三个文件:偏移量索引文件、时间戳索引文件、消息存储文件 为什么要采用这种分片和索引的机制? 由于生产者生产的...
'Kafka的架构布局' Kafka Kafka工作流程 Kafka 中消息是以 topic 进行分类的,生产者生产消息,消费者消费消息,都是面向 topic的。 topic 是逻辑上的概念,而 partition 是物理上的概念,每个 partition 对应于一个 log 文件,该 log 文件中存储的就是 producer ...
'Kafka的基本概念和安装' Kafka Kafka基本概念 在0.9之前的版本中,offset存放在ZK中,在0.9之后的版本中,存放在kafka cluster中,原因是因为消费者本身就需要和kafka集群打交道,而没必要频繁地和ZK进行通信。 在ZK中,会产生一个Controller的节点,存储kafka集训相关的信息,最先启动...
'JDK1.8 HashMap和ConcurrentHashMap 源码和实现' HashMap HashMap的源码和分析JDK1.8HashMap AVL树: 在计算机科学中,AVL树是最先发明的自平衡二叉查找树。在AVL树中任何节点的两个子树的高度最大差别为1,所以它也被称为高度平衡树。增加和删除可能需要通过一次或多次树旋转来重新平衡这个树。 特点: 1.本身首先是一棵二叉搜索树。 ...
'JDK1.7 HashMap和ConcurrentHashMap 源码和实现' HashMap HashMap的源码和分析JDK1.7HashMap 问题:JDK1.7中,HashMap是通过什么原理实现的呢? 答案:数组+链表 问题:什么叫哈希碰撞(哈希冲突)? 不同的键值通过哈希函数运算得到相同的哈希值,解决哈希冲突的方式有开放寻址法和链表法,ThreadLocalMap由于其元素个...
'分布式文件系统 FastDFS' FastDFS 分布式文件系统介绍FastDFS是一个开源的轻量级分布式文件系统,它对文件进行管理,功能包括:文件存储、文件同步、文件访问(文件上传、文件下载)等,解决了大容量存储和负载均衡的问题。特别适合以文件为载体的在线服务,如相册网站、视频网站等等。 FastDFS为互联网量身定制,充分考虑了冗余备份、...
'分布式事务' Transaction 分布式事务 面试题:在一台机器中,db本地事务如何保证? 锁、redo、undo TM - 事务协调者 定义全局事务的范围:开始全局事务、提交或回滚全局事务。 RM - 资源管理器 管理分支事务处理的资源,与TM交谈以注册分支事务和报告分支事务的状态,并驱动分支事务提交或回滚。 二阶段提交 ...