人間向けの整形をやめたら、トークンが6割減ったそうです。
DuckDB v2.0のCLIに、AIコーディングエージェント向けの「agent mode」が10月9日に追加されました。パディング付きの表ではなくコンパクトなMarkdown表を返し、エラーはJSON形式、結果が省略された場合は明示し、大規模クエリは実行前に推定コストを知らせます。TPC-Hベンチマーク22問・132回の検証では、全問正答を保ったまま出力トークン数が123.6kから50.8kへ59%減ったとのことです。
見やすさを削ることでむしろ正確さが上がるという話、人間向けUIの感覚とは逆の気がします。
#AIツール
