FireLens で rewrite_tag による複数ターゲットへのログの振り分け

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70

{
    "family": "test-firelens",
    "taskRoleArn": "arn:aws:iam::xxxxxxxxxxxx:role/taskRole_with_FireLens",
    "executionRoleArn": "arn:aws:iam::xxxxxxxxxxxx:role/ecsTaskExecutionRole_with_FireLens",
    "cpu": "256",
    "memory": "256",
    "networkMode": "bridge",
    "requiresCompatibilities": [
        "EC2"
    ],
    "containerDefinitions": [
        {
            "name": "nginx",
            "image": "xxxxxxxxxxxx.dkr.ecr.us-east-1.amazonaws.com/my-nginx:latest",
            "cpu": 128,
            "memoryReservation": 128,
            "portMappings": [
                {
                    "containerPort": 80,
                    "protocol": "tcp"
                }
            ],
            "essential": true,
            "environment" : [
                { "name" : "APPVER", "value" : "1.7" },
                { "name" : "ENV", "value" : "dev" }
            ],
            "healthCheck": {
                "command": [ "CMD-SHELL", "echo 'Hello' || exit 1" ]
            },
            "logConfiguration": {
                "logDriver":"awsfirelens"
            },
            "dependsOn": [
                {
                    "containerName": "log-router",
                    "condition": "HEALTHY"
                }
            ]
        },
        {
            "name": "log-router",
            "image": "906394416424.dkr.ecr.us-east-1.amazonaws.com/aws-for-fluent-bit:latest",
            "essential": true,
            "environment" : [
                { "name" : "APPVER", "value" : "1.5" },
                { "name" : "ENV", "value" : "dev" }
            ],
            "healthCheck": {
                "command": [ "CMD-SHELL", "echo 'Hello' || exit 1" ]
            },
            "logConfiguration": {
                "logDriver": "awslogs",
                "options": {
                    "awslogs-group": "/ecs/test-firelens",
                    "awslogs-region": "us-east-1",
                    "awslogs-stream-prefix": "log-router",
                    "awslogs-create-group": "true"
                }
            },
            "firelensConfiguration": {
                "type": "fluentbit",
                "options": {
                    "config-file-type": "s3",
                    "config-file-value": "arn:aws:s3:::my-bucket/test-firelens.conf"
                }
            }
        }
    ]
}

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26

{
    "Version": "2012-10-17",
    "Statement": [
        {
            "Effect": "Allow",
            "Action": "firehose:PutRecordBatch",
            "Resource": "*"
        },
        {
            "Effect": "Allow",
            "Action": [
                "logs:CreateLogGroup",
                "logs:CreateLogStream",
                "logs:PutLogEvents"
            ],
            "Resource": [
                "arn:aws:logs:us-east-1:xxxxxxxxxxxx:log-group:/ecs/test-firelens:log-stream:*"
            ]
        },
        {
            "Effect": "Allow",
            "Action": "es:*",
            "Resource": "*"
        }
    ]
}

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22

{
    "Version": "2012-10-17",
    "Statement": [
        {
            "Effect": "Allow",
            "Action": "firehose:PutRecordBatch",
            "Resource": "*"
        },
        {
            "Effect": "Allow",
            "Action": "s3:GetObject",
            "Resource": [
                "arn:aws:s3:::my-bucket/test-firelens.conf"
            ]
        },
        {
            "Effect": "Allow",
            "Action": "s3:GetBucketLocation",
            "Resource": "arn:aws:s3:::my-bucket"
        }
    ]
}

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96

[SERVICE]
    Flush 1
    Log_Level info

#
# ログの振り分けとは関係ないのですが、modify を使って log_router コンテナに
# 設定された環境変数を `ENV` という名前で追加してみます
#
[FILTER]
    Name modify
    Match *
    Add ENV ${ENV}

#
# Nginx のアクセスログの ALB からのヘルスチェックにマッチするログについては
# "healthcheck.<year>" というタグに書き換えます
#  ・ <year> : アクセスログから取得した年
# （西暦年に意味はないのですが、マッチさせた文字をタグに指定できる例として設定してみました）
#
[FILTER]
    Name          rewrite_tag
    Match         ^nginx-firelens-.*
    Rule          $log \[\d{2}\/(\w+)\/(\d{4})\:\d{2}\:\d{2}\:\d{2}\s\+\d{4}\].*(ELB-HealthChecker\/2\.0) healthcheck.$2 false

#
# Nginx のアクセスログもしくはエラーログに `4xx`、や `5xx`、`error` の文字があれば
# "error.<Container ID>" というタグに書き換えます
# ・<Container ID> : ECS から渡されてくるコンテナ ID
#
[FILTER]
    Name          rewrite_tag
    Match         ^nginx-firelens-.*
    Rule          $log (error|\s4\d{2}\s|\s5\d{2}\s) error.$container_id false

#
# CloudWatch Logs への出力
# `Match` にあるように、タグが `error.*` であるログを CloudWatch に出力するようにしてみます。
# アスタリスクがワイルドカードとして使えます
# 正規表現を使いたい場合は `Match_Regex` を使います。
#
# `log_key` を指定すると JSON 中のどのキーをログとして出力するか指定できます
# 指定しない場合は JSON が全て出力されます
#
# ログストリームは `log_stream_prefix + タグ` となるようで、今回の例だと以下のようになります。
# "nginx-error-1.5.xxxxxxxxxxxx"#
#
[OUTPUT]
    Name cloudwatch
    Match error.*
    log_key log
    region us-east-1
    log_group_name /ecs/test-firelens
    log_stream_prefix nginx-
    auto_create_group false

#
# Kinesis Firehose への出力
# ストリーム名が firelens である firehose に全てのログ（｀Match` が *）を転送
#
[OUTPUT]
    Name firehose
    Match *
    region us-east-1
    delivery_stream firelens

#
# Elasticsearch への出力
# `Match_Rexex` で指定しているタグは `コンテナ名 + firelens-*` であり、デフォルトのタグになります
# つまりはどちらの rewrite_tag FILTER にもマッチしなかったログが Elasticsearch に転送されます
#
# `Logstash_〜` のあたりを設定してあげることで、Elasticsearch の index を日付に応じて分割できたりもします
# この時の時刻は Fluent Bit が受け取った時の時刻（ログ発生時刻ではない）になる点が注意です
#
[OUTPUT]
    Name es
    Match_Regex ^nginx-firelens-.*
    Host vpc-xxxxx-xxxxxxxxxx.us-east-1.es.amazonaws.com
    Port  443
    Type doc
    AWS_Auth On
    AWS_Region us-east-1
    tls On
    Generate_ID On
    Logstash_Format On
    Logstash_Prefix firelens
    Logstash_DateFormat %Y-%m
    Include_Tag_Key On
    # デバッグ用
    #Trace_Output On

#
# デバッグ用に標準出力（すなわち Fluent Bit の標準出力なので CloudWatch Logs へ出力）する場合
#
#[OUTPUT]
#    Name stdout
#    Match *