Amazon S3 作为 日志源
对于 Amazon S3,日志通既可以连续提取指定 S3 位置中的日志或执行一次性提取。您还可以根据 S3 前缀过滤日志或使用自定义日志配置解析日志。
本文将指导您如何从 S3桶提取日志,并创建日志管道。
创建日志管道(OpenSearch Engine)
请确认您已经完成
创建日志分析管道
-
登录日志通控制台。
-
在左侧边栏中的 日志分析管道 下,选择应用日志。
-
单击 创建日志管道。
-
单击 S3桶 作为日志源, 并选择 下一步。
-
选择存储日志的 S3 桶,并按照你的实际需求输入 前缀过滤器(可选)。
-
根据您的需求选择 导入模式。如果您想持续地摄取日志,请选择 持续加载;如果您只需要摄取日志一次,请选择 一次性加载。
-
如果您的日志文件已压缩,请指定 压缩格式。
您已为日志分析管道创建日志源。 现在您可以使用 Amazon S3 作为日志源对日志分析管道进行进一步配置。
-
选择之前设置中创建的日志配置,点击 下一步 。如果您没有从下拉列表中找到所需的日志配置,请选择 创建新的, 并参考 日志配置。
-
在 索引名称 中小写指定。
-
选择 下一步。
-
在 指定OpenSearch域 部分,为 Amazon OpenSearch域 选择一个已导入的域。
-
在 日志生命周期 部分,输入天数以管理Amazon OpenSearch Service索引生命周期。与OpenSearch一起的中央化日志将为这个管道自动创建关联的 索引状态管理(ISM) 政策。
-
在 日志处理器设置 中,选择 日志处理器类型,并根据需要配置 Lambda 并发数,然后 下一步。
-
如果需要,请启用 警报 并选择一个现有的SNS主题。如果您选择 创建一个新的SNS主题,请为新的SNS主题提供一个名称和电子邮件地址。
-
如果需要,请添加标签。
-
选择 创建。
-
等待应用程序管道转变为“活动”状态。
创建日志管道(Light Engine)
创建日志分析管道
-
登录日志通控制台。
-
在左侧边栏中的 日志分析管道 下,选择应用日志。
-
单击 创建日志管道。
-
单击 S3桶 作为日志源, 选择Light Engine,并选择 下一步。
-
选择存储日志的 S3 桶,并按照你的实际需求输入 前缀过滤器(可选)。
-
根据您的需求选择 导入模式。如果您想持续地摄取日志,请选择 持续加载。
您已为日志分析管道创建日志源。 现在您可以使用 Amazon S3 作为日志源对日志分析管道进行进一步配置。
-
选择之前设置中创建的日志配置,点击 下一步 。如果您没有从下拉列表中找到所需的日志配置,请选择 创建新的, 并参考 日志配置。
-
在 指定 Light Engine 配置 部分,如果您要摄取关联的模板化 Grafana 仪表板,请为 样例看板 选择 是。
-
你可以选择一个Grafana,如果需要导入一个新的Grafana,可以跳转到Grafana进行配置。
-
选择一个S3桶存放分区后的日志。并且定义一个用于存放日志表的名称。
-
日志处理频率,默认为5分钟,最小时间处理频率为1分钟。
-
在 日志生命周期 部分,输入管理 日志合并时间 和 日志归档时间。我们为你提供了默认值,你可以根据你的业务需求来进行调整。
-
Lambda会作为Light Engine的默认日志处理器,选择下一步。
-
如果需要,开启应用告警,并按需添加标签。
-
选择创建。
-
等待应用程序管道转变为“活动”状态。