SpringCloud微服务实战——搭建企业级开发框架(三十八):搭建ELK日志采集与分析系统

作者&投稿:孟泊 (若有异议请与网页底部的电邮联系)
~


搭建企业级开发框架:构建ELK日志采集与分析系统(实践篇三十八)


在微服务架构中,日志分析系统是性能监控和问题定位的基石。Elasticsearch(存储)、Logstash(处理)和Kibana(展示)组成的ELK堆栈,配合Kafka处理高并发场景下的日志增长,Filebeat作为高效日志采集器,使得整个系统无缝协作。我们推荐使用以下版本:Elasticsearch 8.0.0, Logstash 8.0.0, Kibana 8.0.0, Filebeat 8.0.0, 和 Kafka 3.1.0。



  1. 安装集群基础


    • 在CentOS7服务器172.16.20.220-222上,将软件包安装至/usr/local。

    • 推荐使用脚本或SSH多会话批量安装。


  2. 部署Elasticsearch集群


    1. 安装Java 8,配置环境变量。

    2. 解压Elasticsearch 8.0.0到/usr/local,使用非root用户elasticsearch运行。

    3. 设置数据和日志路径,并赋予elasticsearch用户权限。

    4. 创建SSL证书(仅在一台服务器上执行,然后复制至其他服务器)。

    5. 配置集群相关参数,如端口、JVM参数、资源限制,以及更改Elasticsearch用户密码。


  3. 配置Kafka集群


    • 安装Kafka 3.1.0,配置数据和日志目录,以及Zookeeper参数。

    • 启动服务,创建主题,验证集群状态。

    • 生产者和消费者配置,进行消息验证。


  4. 集成Filebeat与Logstash


    • 解压Filebeat,配置Kafka作为输出,调整filebeat.yml文件。

    • 启动Logstash,监控Kafka输入并存储到Elasticsearch。


  5. 设置Kibana界面


    • 下载并配置Kibana 8.0.0,设置访问权限和Elasticsearch连接。

    • 创建默认数据视图,进行日志查询和分析。


    所有配置完成后,可通过Elasticsearch Head界面(http://172.16.20.220:9100/)验证数据,以及Kibana(http://172.16.20.220:5601/)进行实时监控和日志分析。


    附加资源链接

    • Gitee: GitEgg

    • GitHub: GitEgg






如何使用Spring Cloud
Spring Cloud项目的既定目标在于为Spring开发人员提供一整套易于使用的工具集,从而保证其轻松构建起自己需要的分布式系统方案。为了实现这一目标,Spring Cloud以Netflix OSS堆栈为基础将大量实现堆栈加以整合并打包。这些堆栈而后可以通过大家所熟知的各类基于注释的配置工具、Java配置工具以及基于模板的编程工具...

SpringCloud入门简述
微服务,是一个小型的服务,也是一种设计理念,将一个大型繁杂的系统拆分为多个小型的服务,进行独立部署,这些服务在独立进程中运行,通过特定的协议进行通信 优点:缺点:在服务通信性能上RPC更强,但是Rest更为灵活 SpringCloud是基于SpringBoot实现的微服务框架,为开发人员提供了很多快速构建分布式系统中...

Spring Cloud 常用组件梳理
整个支付订单的业务流程结束 一、Spring cloud组件 1、Spring Cloud核心组件:Eureka 注册中心 2、Spring Cloud核心组件:Feign  调用 3、Spring Cloud核心组件:Ribbon 负载均衡 4、Spring Cloud核心组件:Hystrix 熔断器 错误降级 防止雪崩 5、Spring Cloud核心组件:Zuul 网关 各端请求 统一处理...

什么是微服务架构?主流的微服务如何实现?
简单地说,微服务架构就是以业务域或业务功能为边界,将一个大而全的应用拆分为可以独立开发,独立部署,独立测试,独立运行的一组小的应用,并且使用轻量级,通用的机制在这组应用间进行通信。主流的微服务包括:1、SpringCloud Spring Cloud , 来自Spring,具有Spring 社区的强大支撑,还有Netflix强大的...

Spring Cloud入门系列-前期准备
在写这一系列的文章之前,觉得很有必要阐述一下什么是Spring Cloud。不像Spring(Spring Framework),大体上能够理解为它是一个管理bean的容器。也不想SpringBoot,可以理解为它是加强版的Spring,集成了SSM和其它一些框架,并且大量支持和推荐注解开发。但是对于Spring Cloud,它是一个微服务架构的框架,...

dubbo和eureka的区别
1、初始定位不同:SpringCloud定位为微服务架构下的一站式解决方案;Dubbo 是 SOA 时代的产物,它的关注点主要在于服务的调用和治理。2、生态环境不同:SpringCloud依托于Spring平台,具备更加完善的生态体系;而Dubbo一开始只是做RPC远程调用,生态相对匮乏,现在逐渐丰富起来。3、调用方式:SpringCloud是...

SpringCloud
微服务的优点:1易于开发和维护,只需要关注每个服务的单独业务即可,不需要关心其他 2启动较快 3局部修改容易部署 4技术栈不受限 5按需伸缩 微服务的缺点:1运维成本较高 3分布式复杂 4接口调整成本高 SpringCloud 的特点:1约定优于配置 2开箱即用、快速启动 3适用于各种环境 4轻量级的组件,比如 服务...

SpringCloud—网关简述
API网关的出现的原因是微服务架构的出现,不同的微服务一般有不同的网络地址,而外部客户端可能需要调用多个服务的接口才能完成完成一个业务需求,如果让客户端直接与各个微服务通信,会出现以下的问题。以上的问题可以借助API网关来解决。API网关是介于客户端和服务器端之间的中间层,所有的外部请求都会先经过...

springboot和springcloud哪个先学
springboot。是springcloud的基础,先学习springboot后学习springCloud,pringBoot框架和SpringCloud框架比较,市场上使用Spring底层的基本是使用SpringBoot或者SpringCloud,他们均集成了spring。

spring cloud 服务注册、发现了解
spring cloud定义了以下几个类用于服务的注册、发现操作 以上的类是Spring cloud定义的模型,任何服务注册中心想与Spring Cloud进行整合都需要实现上面的接口扩展对应的实体类。例如:eureka、nacos等服务注册中心,下面看下nacos的实现方式 nacos对于以上模型的实现类如下:在Spring-cloud-starter-alibaba-naco...

淳化县17696134495: Spring Cloud微服务实战 - 搜狗百科
罗旺甲磺: Spring Cloud介绍 Spring Cloud是一个基于Spring Boot实现的云应用开发工具,它为基于JVM的云应用开发中的配置管理、服务发现、断路器、智能路由、微代理、控制总线、全局锁、决策竞选、分布式会话和集群状态管理等操作提供了一种简...

淳化县17696134495: 如何使用Spring Cloud -
罗旺甲磺: 使用Spring Cloud构建实际的微服务架构.基本概念:使用Docker进行集成测试混合持久化微服务架构服务发现API网关Docker使用Docker对每一个服务进行构建和部署.使用Docker Compose在一个开发机上进行端到端的集成测试....

淳化县17696134495: 如何调用spring cloud微服务 -
罗旺甲磺: spring-cloud调用服务有两种方式,一种是百Ribbon+RestTemplate, 另外一种是Feign.Ribbon是一个基于度HTTP和TCP客户端的负载均衡器,其实版feign也使用了ribbon, 只要使用@FeignClient时,权ribbon就会自动使用.

淳化县17696134495: spring cloud Feign调用指定服务中的某个实例,怎么做 -
罗旺甲磺: :spring cloud主要有以下特点:1. 是一套完整的分布式系统解决方案,它的子项目涵盖了所有实现布式系统所需要的基础软件设施2. 基于spring boot, 使得开发部署极其简单(加依赖,加注解,就能运行了)要说dubbo,算是spring cloud的一个子集好了,

淳化县17696134495: spring cloud,基于什么实现 -
罗旺甲磺: Spring Cloud的子项目,大致可分成两类,一类是对现有成熟框架”Spring Boot化”的封装和抽象,也是数量最多的项目;第二类是开发了一部分分布式系统的基础设施的实现,如Spring Cloud Stream扮演的就是kafka, ActiveMQ这样的角色....

淳化县17696134495: spring cloud 微服务从设计原则上来讲,实体类是抽离出来进行共享还是保持独立 -
罗旺甲磺: 好问题.抽离出来共享的优点就是不用担心接口在调用的时候出现,因为实体类不一致导致的无法解析,导致接口调用失败.可是反过来又会造成,如果其中一个接口有需要修改,而另外一个接口同时依赖,但不需修改,怎么办?保持独立的话,每次修改可以都可以根据实际情况确定各自的修改方式.但如果没有同时修改则可能造成调用失败.所以,各有优点,但既然是微服务,解耦合,个人觉得,解耦合解的越彻底越好.

淳化县17696134495: springcloud怎么注册同一个服务多个实例 -
罗旺甲磺: springcloud怎么注册同一个服务多个实例 一个流程图包括:1. 表示相应操作的框;2. 带箭头的流程线;3. 框内外必要的文字说明.2.4.3 三种基本结构和改进的流程图1. 顺序结构:2. 选择结构:3. 循环结构 三种基本结构的共同特点:? 只有一个入口;? 只有一个出口;? 结构内的每一部分都有机会被执行到;? 结构内不存在“死循环”.2.4.4 用N-S流程图表示算法1973年美国学者提出了一种新型流程图:N-S流程图.

淳化县17696134495: 如何做一个优秀的微服务访问安全设计方案 -
罗旺甲磺: 我们首先从传统单体应用架构下的访问安全设计说起,然后,分析下现代微服务架构下,访问安全涉及的原则,接着,来看下目前常用的几种,微服务架构下的访问安全设计方案.最后,重点看下Spring Cloud微服务架构下,是如何解决访问安全这个问题的.

淳化县17696134495: spring boot 只能做微服务吗 -
罗旺甲磺: 它是 springcloud的前提,springcloud才是真正做微服务的框架,springboot是做微服务的入门级框架.但是也可以做电商之类的大型项目.

本站内容来自于网友发表,不代表本站立场,仅表示其个人看法,不对其真实性、正确性、有效性作任何的担保
相关事宜请发邮件给我们
© 星空见康网