Вы произнесли правильное слово: ЦЕЛЬ.
Вот из нее и следует "должное".
А ЦЕЛЬ - это свойство человека. И цели разные у разных людей.
Да, мораль можно вывести из "целей", но это не снимает проблему.

"В таком случае, единственно остающаяся опция (для материалиста) - что мораль не может быть объяснена никак."

ИМХО, объяснение морали лежит в русле "объяснения сознания".
Наука еще далека от этого.
Хотя сборник под редакцией Хофштадтера и Деннета "Глаз Разума" - явно стОит прочесть.