Если я все правильно оценил, то исходя из графика от пика спады 30-60 дБ на октаву. Откуда в аналоговой части системы могут быть такие спады? Что может давать такие резонансы?
ИМХО или это какой-то цифровой глюк (ЦАП или ещё что-то - я в радиотехнике не силен

), или погрешность эксперимента (лажа с генератором шума, с записью, с анализатором и т. п.)