apacheflink零基础系列教程(flink脱离hadoop使用)

Apache Flink中如何使用RocksDB状态后端？针对这个问题，本文详细介绍了相应的分析和解决方法，希望能帮助更多想要解决这个问题的小伙伴找到更简单易行的方法。

流处理应用程序通常是有状态的，因此“记住”已处理事件中的信息，并使用它来影响进一步的事件处理。在Flink中，存储的信息，即状态，被本地存储在配置的状态后端。为了防止发生故障时数据丢失，状态后端会定期将其内容的快照保存到预配置的持久存储中。RocksDB状态后端(rocksbstatefender)是Flink中三个内置状态后端之一。这篇博文将引导您了解使用RocksDB管理应用程序状态的好处，解释何时以及如何使用它，并澄清一些常见的误解。

Flink中的状态

为了更好地了解Flink中的状态和状态后端，区分飞行状态(in-flight state)和状态快照(state snapshots).飞行状态很重要，也称为工作状态，是Flink作业正在处理的状态。它总是本地存储在内存中(可能会溢出到磁盘)，并且在作业失败时可能会丢失，而不会影响作业的可恢复性。状态快照，即检查点和保存点，存储在远程持久存储中，用于在作业失败时恢复本地状态。生产部署的适当状态后端取决于可扩展性、吞吐量和延迟要求。

00-1010认为RocksDB是分布式数据库，需要在集群上运行，由专门的管理员管理，这是一个常见的误解。RocksDB是一个可嵌入的持久键值存储，用于快速存储。它通过Java本地接口(JNI)与Flink交互。下图显示了RocksDB在Flink集群节点中的位置。以下各节将详细解释。

00-1010使用RocksDB作为状态后端所需的一切都捆绑在Apache Flink发行版中，包括本机共享库：

$ jar-tvf lib/flink-dist _ 2.12-1 . 12 . 0 . jar | grep librocksdbjni-linux64

895334 WEDNOV 27 02:27:06 CET 2019 libRocksDBjni-linux64 . so正在运行，rocksdb嵌入到TaskManager进程中。它在本机线程中运行，并处理本地文件。例如，如果您在Flink集群中有一个配置了RocksDBStateBendback的作业，您将看到类似于下面的内容，其中32513是TaskManager进程标识。

$ ps -T -p 32513 | grep -i rocksdb

32513 32633 ?00:00:00 rock sdb : low 0

32513 32634 ?0:00:00 Rocks DB :高0注意：此命令仅适用于Linux。对于其他操作系统，请参考其文档。

00-1010除了rocksdbstatefender之外，Flink还有另外两个内置的状态后端：MemoryStateBackend和fsstatefender。它们是基于堆的，因为运行状态存储在JVM堆中。目前，让我们忽略内存后端，因为它只在本地开发和调试,使用，不在生产中。

使用rocksdbstatefender，运行状态首先写入堆外/本地内存，然后在达到配置的阈值时刷新到本地磁盘。这意味着RocksDBStateBackend可以支持大于总配置堆容量的状态。可以存储在RocksDBStateBackend中的状态量仅受整个集群中可用磁盘空间的限制。此外，由于RocksDBStateBackend不使用JVM堆来存储运行状态，因此不受JVM垃圾收集的影响，因此具有可预测的延迟。

除了完整、独立的状态快照之外，RocksDBStateBackend还支持增量检查点作为性能调整选项。增量检查点仅存储自上次完成检查点以来发生的更改。与执行完整快照相比，这大大减少了检查点时间。RocksDBStateBendback是目前唯一支持增量检查点的状态后端。

在以下情况下，RocksDB是一个不错的选择：

作业的状态超出了本地内存的容量(例如，长窗口、大密钥状态)；

>

否则，如果应用程序的状态很小或需要很低的延迟，则应该考虑FsStateBackend。根据经验，RocksDBStateBackend比基于堆的状态后端慢几倍，因为它将键值对存储为序列化的字节。这意味着任何状态访问（读/写）都需要经过一个跨JNI边界的反序列化/序列化过程，这比直接使用堆上的状态表示更昂贵。好处是，对于相同数量的状态，与相应的堆上表示法相比，它的内存占用率较低。

如何使用RocksDBStateBackend

RocksDB完全嵌入到TaskManager进程中，并完全由TaskManager进程管理。RocksDBStateBackend可以在集群级别配置为整个集群的默认值，也可以在作业级别配置为单个作业的默认值。作业级配置优先于集群级配置。

集群级别

在conf/flink-conf.yaml中添加以下配置:

state.backend: rocksdb
state.backend.incremental: true
state.checkpoints.dir: hdfs:///flink-checkpoints # location to store checkpoints

作业级别

创建StreamExecutionEnvironment后，将以下内容添加到作业的代码中：

# 'env' is the created StreamExecutionEnvironment
# 'true' is to enable incremental checkpointing
env.setStateBackend(new RocksDBStateBackend("hdfs:///fink-checkpoints", true));  

注意：除了HDFS之外，如果在FLINK_HOME/plugins下添加了相应的依赖项，那么还可以使用其他本地或基于云的对象存储。

最佳实践和高级配置

我们希望这个概述能帮助您更好地理解RocksDB在Flink中的作用，以及如何使用RocksDBStateBackend成功地运行作业。最后，我们将探讨一些最佳实践和一些参考点，以便进一步进行故障诊断和性能调优。

状态在RocksDB中的位置

如前所述，RocksDBStateBackend 中的运行中状态会溢出到磁盘上的文件。这些文件位于Flink配置指定的state.backend.rocksdb.localdir目录下。因为磁盘性能直接影响RocksDB的性能，所以建议将此目录放在本地磁盘上。不鼓励将其配置到基于网络的远程位置，如NFS或HDFS，因为写入远程磁盘通常比较慢。高可用性也不是飞行状态(in-flight state)的要求。如果需要高磁盘吞吐量，则首选本地SSD磁盘。

状态快照将持久化到远程持久存储。在状态快照期间，TaskManager会对飞行中的状态(in-flight state)进行快照并远程存储。将状态快照传输到远程存储完全由TaskManager本身处理，而不需要状态后端的参与。所以，state.checkpoints.dir 目录或者您在代码中为特定作业设置的参数可以是不同的位置，如本地HDFS集群或基于云的对象存储，如Amazon S3、Azure Blob Storage、Google cloud Storage、Alibaba OSS等。

RocksDB故障诊断

要检查RocksDB在生产中的行为，应该查找名为LOG的RocksDB日志文件。默认情况下，此日志文件与数据文件位于同一目录中，即Flink配置指定的目录state.backend.rocksdb.localdir。启用时，RocksDB统计信息也会记录在那里，以帮助诊断潜在的问题。有关更多信息，请查看RocksDB Wiki中的Troubleshooting Guide。如果你对RocksDB行为趋势感兴趣，可以考虑为你的Flink作业启用RocksDB本机指标。

注意：从Flink1.10开始，通过将日志级别设置为HEADER，RocksDB日志记录被有效地禁用。要启用它，请查看How to get RocksDB’s LOG file back for advanced troubleshooting。

警告：在Flink中启用RocksDB的原生指标可能会对您的工作产生负面影响。

从Flink 1.10开始，Flink默认将RocksDB的内存分配配置为每个任务槽的托管内存(managed memory)量。改善内存相关性能问题的主要机制是通过Flink配置taskmanager.memory.managed.size或taskmanager.memory.managed.fraction增加Flink的托管内存。对于更细粒度的控制，应该首先通过设置state.backend.rocksdb.memory.managed为false，然后从以下Flink配置开始：state.backend.rocksdb.block.cache-size（与RocksDB中的块大小相对应），state.backend.rocksdb.writebuffer.size（与RocksDB中的write_buffer_size相对应），以及state.backend.rocksdb.writebuffer.count（对应于RocksDB中的最大写入缓冲区数）。有关更多详细信息，请查看这篇关于如何在Flink中管理RocksDB内存大小的文章和RocksDB内存使用Wiki页面。

在RocksDB中写入或覆盖数据时，RocksDB线程在后台管理从内存到本地磁盘的刷新和数据压缩。在多核CPU的机器上，应该通过设置Flink配置state.backend.rocksdb.thread.num（对应于RocksDB中的max_background_jobs）来增加后台刷新和压缩的并行性。对于生产设置来说，默认配置通常太小。如果你的工作经常从RocksDB读取内容，那么应该考虑启用布隆过滤器。

对于其他RocksDBStateBackend配置，请查看Flink文档Advanced RocksDB State Backends Options。有关进一步的调优，请查看RocksDB Wiki中的RocksDB Tuning Guide。

RocksDB状态后端（即RocksDBStateBackend）是Flink中捆绑的三种状态后端之一，在配置流应用程序时是一个很好的选择。它使可扩展的应用程序能够保持高达数TB的状态，并保证exactly-once。如果Flink作业的状态太大，无法放入JVM堆中，或者你对增量检查点很感兴趣，或者希望有可预测的延迟，那么应该使用RocksDBStateBackend。由于RocksDB作为本机线程嵌入到TaskManager进程中，并且可以处理本地磁盘上的文件，RocksDBStateBackend支持开箱即用，无需更多设置和管理任何外部系统或进程。

关于如何在Apache Flink中使用RocksDB状态后端问题的解答就分享到这里了，希望