「能書きを垂れる」は2つの意味を含んでいます。
1つめは(語源となった薬の能効など)自分の優れた点を話して宣伝をすること。
2つめはそうしたことを長々と話し続けることです。
今回の場合、お話しされたのは事実だけなので、1つめには該当しませんが、母親がその話を長く感じたのなら2つめに該当し、「能書きを垂れるな」というのは間違っていない言い方になるかと思います。
なお、経験しているとは思いますが、母親に対して「その言葉の使い方は間違っている」等と反論しても良い結果は得られません。
母親が求めるのは静寂であり、言語の正確性ではないのです。
適当にあしらって勉強場所を移す、弟の成績が落ちるのと五月蠅いのどちらが良いか選択を迫るなど、方法を変えた方が良いと思います。