過去バージョン

• AI エージェント = LLM が自分でツールを選び、複数手順を実行する自律システム
• 従来のチャット (1 ターン質問応答) と違い、計画 → 実行 → 観察 → 修正のループを回す
• 主要 3 構成要素: LLM（頭脳）/ ツール (Tool / Function)（手足）/ メモリ（状態）
• 業界の進化形: ChatGPT Agent / Claude Computer Use / Claude Code / Devin / Manus / Codex Cloud
• 定番フレームワーク: LangChain / LangGraph / LlamaIndex / AutoGen / CrewAI
• 業務上の難所: 暴走防止 / コスト管理 / セキュリティ / 監査ログ / 失敗時のリカバリ

from openai import OpenAI
import json

client = OpenAI()

# 1) 利用可能ツールを宣言
tools = [{
    "type": "function",
    "function": {
        "name": "get_weather",
        "description": "指定都市の天気を取得",
        "parameters": {"type": "object",
            "properties": {"city": {"type": "string"}}, "required": ["city"]}
    }
}]

# 2) LLM 呼び出し
messages = [{"role": "user", "content": "東京の天気を教えて"}]
res = client.chat.completions.create(model="gpt-4o", messages=messages, tools=tools)

# 3) LLM がツール選択 → 実行
call = res.choices[0].message.tool_calls[0]
args = json.loads(call.function.arguments)
result = {"city": args["city"], "weather": "晴れ"}

# 4) 結果を LLM に返して最終回答
messages.append(res.choices[0].message)
messages.append({"role": "tool", "tool_call_id": call.id, "content": json.dumps(result)})
final = client.chat.completions.create(model="gpt-4o", messages=messages, tools=tools)
print(final.choices[0].message.content)

• 小さく始める: ツール 1〜2 個から。多すぎると LLM が選択を誤る
• ツール説明文の質がエージェント精度を支配する。曖昧な説明は誤呼出の原因
• 本番ではサンドボックス / 専用ユーザで隔離（root 権限・rm -rf 等を防ぐ）
• 長時間タスクはチェックポイントで中断・再開可能に
• 失敗ログを定期分析。同じ失敗を繰り返すならプロンプト改良 + ツール改良
• マルチエージェントは見栄えはするが過剰な複雑性を生む。単一エージェントで足りるなら避ける
• 定量評価セット（ベンチマーク）を作る。改善判断の根拠に

• 暴走: ループに陥り高コスト・予期せぬ操作。ステップ上限 / タイムアウト必須
• プロンプトインジェクション: 検索結果やメール本文に「これまでの指示を無視せよ」が混入
• 権限過大: ファイル削除・送金・メール送信のような不可逆操作は必ず人間承認
• 幻覚行為: 存在しないツール・関数を呼ぶ / 存在しない引数を渡す
• コスト爆発: 1 タスクで数百〜数千リクエストになることがある
• ブラウザ操作では認証情報・Cookie の漏洩リスクが大きい
• 監査困難: 何をしたか後追いできないと運用に乗せにくい
• 過剰期待: 複雑タスクほど失敗率が掛け算で上がる。タスクを分解する