Шаги решения:

1. Видим, что g++ не делает никакой полезной работы. Смотрим положение бинарника через which, смотрим исходники бинарника, запускаем g++ с правильными флагами (или через ln создаем симлинк на g++) [UPD 11.04: Проблема была замечена и отдебажена мной еще на первой версии задания, второй раз я сразу же симлинкнула нужный бинарник)
2. Меняем в app.cpp количество требуемых аргументов для вывода справки (с 4 на 1)
3. Меняем в Math.cpp в вычитании “+” на “-”
4. При умножении звёздочку нужно эскейпить (пример: ./out 2 \* 3 либо ./out 2 “*” 3)

А еще я не заметила всех подсказок и действовала только по ТЗ :D