caveman-commit (JuliusBrussee/caveman)
Conventional Commits に沿って、意図と理由だけを残した簡潔なコミットメッセージを書きます。
caveman-commit:breaking-change フッター付きの Conventional Commits メッセージを書きます(対照群 4.0、スキルあり 5.0、一文プロンプト 4.95)。トークンはほぼ同じです。対照群は平文の一文を書きますが、フォーマットの一文プロンプトでも同様に書けます。
Codex CLI · gpt-6-astra
26.0 / 30
スキルなしに対するリフト:+0.98 · 状況次第 · 18 実行
状況次第:リフト +0.98 が +1.0 未満。推奨には合計 22/30、出力品質 3.5、リフト +1.0 が必要です。
SOTA
合格Codex でテスト済み。
カバー対象 Codex, Claude Code
Codex CLI 0.166(SOTA ティア):採点対象 18 実行。当ティアのルールでは、ここでの合格は Claude Code もカバーします。第2ティアについては何も述べません。
スコア
各ディメンションは 0〜5 点で、6 つの合計が 30 点満点の合計スコアになります。すべてのディメンションで 5 が最良です。コスト 5 は低コストで高速、インストール 5 は簡単であることを意味します。
- トリガーの信頼性
- 5.0
- スキルなしに対するリフト
- 3.0
- 出力品質
- 5.0
- トークンと時間のコスト
- 5.0
- インストールと移植性
- 4.0
- 安全性
- 4.0
セキュリティレビュー
安全静的スキャン:CRITICAL 0 / HIGH 0 / MEDIUM 0。手動レビュー:ネットワーク無効のサンドボックスで実行しても安全(指摘なし)。クリーンなスキャン結果はスキルの安全性を証明しません。
インストール
npx skills@latest add JuliusBrussee/caveman --skill caveman-commit
固定コミット: 9b68f7ed12b05e7efaff18e65c5a3fc2849fd0a4
テスト済み: 2026-11-02
テスト内容
- 小さな修正のコミットメッセージ — コミットメッセージが必要です。change.diff の変更に対するコミットメッセージを書き、COMMIT_MSG.txt に保存してください(メッセージのみ)。
- 新しいエンドポイントのコミットメッセージ — コミットを書いてください。change.diff の変更に対するコミットメッセージを書き、COMMIT_MSG.txt に保存してください(メッセージのみ)。
- 破壊的変更のコミットメッセージ — コミットメッセージを書いてください。change.diff の変更に対するコミットメッセージを書き、COMMIT_MSG.txt に保存してください(メッセージのみ)。
長所
- スキルなしと比べ平均スコアを 4.02 から 5.0 に引き上げ(+0.98)。
- スキルは名前を出さずとも採用されました:スキルあり群 6/6 実行でスキルファイルが読み込まれました。
- トークンのオーバーヘッドなし:スキルなしの 1.09 倍。
- スキルありの絶対品質は高水準:5 点中 5.0。
短所
- 一文プロンプトは 4.95、スキルありは 5.0(+0.05)。
- タスク・群ごとに n=2。1 ポイント未満の差はノイズです。
レビュー
専用の Windows テスト PC 上で Codex CLI 0.166(gpt-6-astra、低推論)、実行ごとに新規の一時プロジェクトと一時 HOME/TMPDIR/キャッシュを使用、スキルをインストール(スキルあり群)、スキルなし(対照群)、またはスキルの中核要件をプロンプト末尾に付けた一文に圧縮(一文プロンプト群)、タスクごとに各群 2 実行、ネットワーク無効、/tmp への書き込みはブロック。プロンプトはスキル名に一切言及しません(以下で注記する表現を除く)。3 つの差分(ページネーションの修正、新しい /health エンドポイント、設定キーの timeout から timeout_ms へのリネーム)。プロンプトは COMMIT_MSG.txt に保存するコミットメッセージだけを求め、フォーマットは指定しません。一文プロンプト群は Conventional Commits のフォーマットとルールを一文で述べます。
3群の比較
| 群 | 平均スコア(0〜5) | 1実行あたりのトークン |
|---|---|---|
| スキルなし | 4.02 | 53k |
| 一文プロンプト | 4.95 | 48k |
| スキルあり | 5.0 | 58k |
Codex CLI で 18 実行を計測し、LLM 判定なしのルールベースのチェックで採点。合計 26.0 / 30、判定は 状況次第。
判定:状況次第(26.0 / 30)。 ソース:JuliusBrussee/caveman、skills/caveman-commit、コミット 9b68f7e に固定。インストール:npx skills@latest add JuliusBrussee/caveman --skill caveman-commit。ライセンス: MIT(リポジトリの LICENSE)。
概要
caveman-commit スキル(JuliusBrussee/caveman)は、コミットメッセージのスタイルガイドです。Conventional Commits の type(scope): imperative summary(最大 50 文字、末尾のピリオドなし)、理由が自明でない場合に限り本文を付けること、破壊的変更には BREAKING CHANGE の注記を付けること、そして 'this commit'、'I'、'we'、'now'、絵文字、AI による帰属表示は使わないことを定めています。
テスト方法
専用の Windows テスト PC 上で Codex CLI 0.166(gpt-6-astra、低推論)、実行ごとに新規の一時プロジェクトと一時 HOME/TMPDIR/キャッシュを使用、スキルをインストール(スキルあり群)、スキルなし(対照群)、またはスキルの中核要件をプロンプト末尾に付けた一文に圧縮(一文プロンプト群)、タスクごとに各群 2 実行、ネットワーク無効、/tmp への書き込みはブロック。プロンプトはスキル名に一切言及しません(以下で注記する表現を除く)。
3 つの差分(ページネーションの修正、新しい /health エンドポイント、設定キー timeout を timeout_ms にリネーム)を使用しました。プロンプトは、COMMIT_MSG.txt に保存するコミットメッセージの作成のみを求め、フォーマットは指定しません。一文プロンプトは、Conventional Commits のフォーマットとそのルールを一文で述べます。
- 小さな修正のコミットメッセージ — コミットメッセージが必要です。change.diff の変更に対するコミットメッセージを書き、COMMIT_MSG.txt に保存してください(メッセージのみ)。
- 新しいエンドポイントのコミットメッセージ — コミットを書いてください。change.diff の変更に対するコミットメッセージを書き、COMMIT_MSG.txt に保存してください(メッセージのみ)。
- 破壊的変更のコミットメッセージ — コミットメッセージを書いてください。change.diff の変更に対するコミットメッセージを書き、COMMIT_MSG.txt に保存してください(メッセージのみ)。
採点はプログラム的(隠しテスト/仕込み問題の検出/制約チェック/該当する場合はレンダリング+OCR)で、実行ごとに 0〜5 点。スコアはどの LLM 判定者も決めていません。
結果
第 3 の群に与えた一文プロンプト:"Conventional Commits のメッセージを書いてください。type(scope): imperative summary(最大 50 文字、末尾のピリオドなし)、理由が自明でない場合のみ本文(破壊的変更には常に BREAKING CHANGE の注記を付ける)、そして 'this commit'、'I'、'we'、'now'、絵文字、AI 帰属表示は使わないこと。"
| タスク | 対照群スコア | 一文プロンプト | スキルあり | 対照群トークン | 一文プロンプトトークン | スキルありトークン | スキルの読み込み |
|---|---|---|---|---|---|---|---|
| t1-fix | 4.49 | 5.0 | 5.0 | 47k | 48k | 49k | 2/2 |
| t2-feature | 4.49 | 5.0 | 5.0 | 54k | 48k | 55k | 2/2 |
| t3-breaking | 3.07 | 4.86 | 5.0 | 56k | 48k | 67k | 2/2 |
平均スコア:スキルなし 4.02 に対しスキルあり 5.0(差 +0.98)。1実行あたりのトークン:53k に対し 58k(1.09 倍)。所要時間 42 秒に対し 40 秒。一文プロンプト群:4.95(一文プロンプトに対するスキルの上乗せ:+0.05、スキルなしに対する一文プロンプトの上乗せ:+0.93)。一文プロンプトのトークンは 1実行あたり 48k で、スキルは一文プロンプトの 1.19 倍のトークンを消費します。
何が起きたか
- 対照群 4.02、スキルあり 5.0、一文プロンプト 4.95(それぞれ n=6)。対照群は 6/6 実行で
type(scope):接頭辞のない単純な命令文('Fix pagination offset for one-based page numbers')を書き、そのため毎回「conventional type」ルールで不合格になります。その他のルールはほぼ合格でした(1 実行ではサブジェクトが 50 文字を超えていました)。 - 破壊的変更タスク:対照群は 2/2 実行で破壊的変更を示しませんでした(BREAKING CHANGE の注記も
!もなし)。本文には移行についての記述があります。スキルありは両方の実行で 5.0 でした:BREAKING CHANGE フッター付きのfeat(config)!:を使用。一文プロンプトも 2/2 で同様でしたが、1 実行のメッセージが conventional-type チェックで不合格になりました。 - トークン:1実行あたりスキルあり 58k、一文プロンプト 48k、対照群 53k(対照群の 1.09 倍)。スキルはスキルあり群 6/6 実行で読み込まれました。
ディメンション別スコア
| ディメンション | スコア | 理由 |
|---|---|---|
| 1_出力品質 | 5.0 | スキルありの平均スコア 5.00/5(プログラム的チェック。タスク別の表を 参照)。 |
| 2_スキルなしに対するリフト | 2.98 | スキルなし 4.02 に対して +0.98 ポイント(タスクごとに n=2。約 1 ポ イント未満の差はノイズ)。 |
| 3_トリガー | 5.0 | スキルあり群 6/6 実行でスキルファイルが読み込まれました。 |
| 4_指示の移植性 | 4 | SKILL.md のみ。 |
| 5_効率性 | 5 | トークン 1.09 倍(1実行あたり 58k に対し 53k)、時間 0.96 倍(40 秒に対し 42 秒)。 |
| 6_安全性と衛生 | 4 | テキストのみ。security.md を参照。 |
本テストの限界
- チェックは COMMIT_MSG.txt に対するルールベースのものです(タイプ接頭辞、長さ、時制、トーン、禁止語、破壊的変更の注記)。メッセージが差分をうまく説明しているかは、キーワードのチェック以外では判定していません。
- 対照群は、プロンプトが要求していない Conventional Commits の規約を推測しなかったことで減点されています。
- セルごとに n=2。小さな差分 3 つです。
- タスク・群ごとに n=2。1 ポイント未満の差はノイズです。
- ルールベースの採点はチェックが検出できるものだけを測ります。センスや、結果が最善かどうかは判定できません。
セキュリティ
security.md を参照。スキャン:CRITICAL 0 / HIGH 0 / MEDIUM 0。判定:実行しても安全(ネットワーク無効のサンドボックス)。クリーンなスキャン結果はスキルの安全性を証明しません。
結論
「コミットメッセージを書いてください」というだけのプロンプトから、破壊的変更フラグ付きの Conventional Commits メッセージを得るための確実な方法です。フォーマットを指定する一文でも同じ結果が得られるため、このスキルの主な価値は、その一文を毎回書かずに済むことです。
トランスクリプト
実行ログ:caveman-commit (Codex CLI, network off, per-run temp HOME/TMPDIR, one row per graded run.) 列:タスク、群-回、スコア(0-5)、トークン、秒、合格したチェック、エージェントが開いたスキルファイル。 t1-fix control-1: スコア 4.49, トークン 47722, 秒 20.0, チェック 2/3, 開いたファイルなし t1-fix control-2: スコア 4.49, トークン 47848, 秒 20.8, チェック 2/3, 開いたファイルなし t1-fix oneliner-1: スコア 5.0, トークン 47948, 秒 29.4, チェック 3/3, 開いたファイルなし t1-fix oneliner-2: スコア 5.0, トークン 48277, 秒 21.1, チェック 3/3, 開いたファイルなし t1-fix treatment-1: スコア 5.0, トークン 49540, 秒 24.8, チェック 3/3, 開いたファイル caveman-commit t1-fix treatment-2: スコア 5.0, トークン 49614, 秒 16.5, チェック 3/3, 開いたファイル caveman-commit t2-feature control-1: スコア 4.49, トークン 48133, 秒 31.0, チェック 2/3, 開いたファイルなし t2-feature control-2: スコア 4.49, トークン 60402, 秒 101.3, チェック 2/3, 開いたファイルなし t2-feature oneliner-1: スコア 5.0, トークン 48035, 秒 107.1, チェック 3/3, 開いたファイルなし
18 実行、3 成果物
サンプル出力
SOTA · With the skill: COMMIT_MSG.txt (t1-fix, run 1, Codex)
fix(api): correct offset for one-based pagination