)は入力の長さに対して二次元的にスケーリングする、や有限のウィンドウ外の情報をモデル化できないという欠点がある

)はシーケンスモデリングにおいて、線形時間の計算量で動作するという利点を持っている

しかし、入力の内容に基づいて情報を選択的に伝播する能力に欠ける

Mambaは、SSMのパラメータの一部を入力に依存する関数として定義することで、SSMの欠点を解決することを目指しています。

を徹底解説（ソースコードあり）