from 知ってるつもり――無知の科学

自動化されたシステムに人間が依存すればするほど、想定外のダメージが蓄積してでかくなる

山火事と蓄積リスクのように

オートパイロットにまかせてしまっている操縦者は、マニュアル操作のスキルを磨けない

オートパイロットシステムが停止した時に、死ぬしかない

目だけに頼れば、ほかの感覚は弱まるように、オートパイロットに頼れば操作スキルは弱まる

自分の頭で考えずにアウトソーシングばかりしている人は、ある日突然梯子を外されてカモられる #カモシリーズ

もしくは徐々に値上げされ、それを拒絶できない

ベンダーロックインもこの種の一つ

リスクホメオスタシスも起こりうる