サーバーレスのコールドスタート問題と対策

// AWS Lambda でのコールドスタート検出
let isFirstInvocation = true;

export const handler = async (event) => {
    const startTime = Date.now();
    const coldStart = isFirstInvocation;
    isFirstInvocation = false;

    // 処理...
    const result = await processEvent(event);

    const duration = Date.now() - startTime;
    console.log(JSON.stringify({
        coldStart,
        duration,
        memoryUsed: process.memoryUsage().heapUsed
    }));

    return result;
};

# Python Lambda での計測
import time
import json

_cold_start = True
_init_start = time.time()

def lambda_handler(event, context):
    global _cold_start
    handler_start = time.time()

    is_cold = _cold_start
    _cold_start = False

    # 処理...
    result = process_event(event)

    print(json.dumps({
        "cold_start": is_cold,
        "init_duration_ms": (handler_start - _init_start) * 1000 if is_cold else 0,
        "handler_duration_ms": (time.time() - handler_start) * 1000
    }))

    return result

# ❌ 避ける: 使わないものまでインポート
import pandas as pd
import numpy as np
import sklearn
import tensorflow as tf

# ✅ 推奨: 必要なものだけインポート
from sklearn.preprocessing import StandardScaler
# または遅延インポート
def handler(event, context):
    import numpy as np  # ハンドラー内で必要なときにインポート

// ❌ 全モジュールを読み込む
const { S3Client, GetObjectCommand, PutObjectCommand, DeleteObjectCommand } = require('@aws-sdk/client-s3');

// ✅ 使うものだけ
const { S3Client, GetObjectCommand } = require('@aws-sdk/client-s3');

// ✅ ESM + Tree-shaking（バンドラーで未使用コードを削除）
import { GetObjectCommand } from '@aws-sdk/client-s3';

import boto3
import json

# ❌ ハンドラー内で毎回初期化
def handler(event, context):
    client = boto3.client('s3')  # 毎リクエスト初期化
    # ...

# ✅ ハンドラー外（コンテナ起動時に一度だけ実行）
client = boto3.client('s3')
config = json.loads(open('config.json').read())

def handler(event, context):
    # client と config は再利用される
    response = client.get_object(Bucket='my-bucket', Key='data.json')
    # ...

// ✅ Node.js: モジュールレベルで初期化
import { DynamoDBClient } from "@aws-sdk/client-dynamodb";
import { DynamoDBDocumentClient } from "@aws-sdk/lib-dynamodb";

// ハンドラー外でクライアントを初期化（ウォーム時は再利用）
const dynamodb = DynamoDBDocumentClient.from(new DynamoDBClient({}));

export const handler = async (event) => {
    // dynamodb を再利用
};

# serverless.yml
functions:
  api:
    handler: src/handler.main
    provisionedConcurrency: 5  # 常に5インスタンス待機

# AWS EventBridge で5分ごとにウォームアップ
Resources:
  WarmupRule:
    Type: AWS::Events::Rule
    Properties:
      ScheduleExpression: "rate(5 minutes)"
      Targets:
        - Arn: !GetAtt MyFunction.Arn
          Input: '{"warmup": true}'

def handler(event, context):
    # ウォームアップリクエストは即座に返す
    if event.get('warmup'):
        return {'statusCode': 200, 'body': 'warm'}

    # 通常の処理...

# AWS Lambda on Rust (cargo-lambda)
cargo lambda build --release
cargo lambda deploy my-function

// Cloudflare Workers（エッジで実行）
export default {
    async fetch(request, env) {
        // コールドスタートほぼなし
        return new Response('Hello from the edge!');
    }
};

import os
from anthropic import Anthropic

# ハンドラー外で初期化（再利用）
client = Anthropic(api_key=os.environ["ANTHROPIC_API_KEY"])

def handler(event, context):
    if event.get('warmup'):
        return {'statusCode': 200}

    message = client.messages.create(
        model="claude-opus-4-6",
        max_tokens=1024,
        messages=[{"role": "user", "content": event['prompt']}]
    )
    return {
        'statusCode': 200,
        'body': message.content[0].text
    }