GPT-4 TurboでコンテキストウィンドウとRecallの関係を調査した方がいる

GPT-4のリコール性能は、73Kトークンを超えると低下し始める

低いリコール性能は、リコールされるファクトが文書の深さ7％～50％の間に配置された場合に相関する

ファクトが文書の先頭にある場合、コンテキストの長さに関係なくリコールされる。