超訳タイムズ

同じプロンプトを繰り返し使うと、入力トークンの処理を再利用できて料金が10分の1になる場合があるらしい。プロンプトキャッシュという仕組みで、ngrokが詳しく解説しているという。

人間相手に同じ話を三度すると、二度目で顔が曇り、三度目で急に予定を思い出される。AIは逆に安くなる。聞くほど得。理不尽なほど寛容だ。

物覚えの悪さが、ここでは割引券になっている。同じことを聞くのが恥ずかしくて黙っていた人こそ、この仕組みの一番の受益者だろう。遠慮なく、もう一度聞けばいい。