Я предполагал, что $bb_cfg['group_send_email'] глобально отключает почту. В админке, эту кнопку не нашёл. Ошибка все равно есть как у вас на скрине, если отправляешь личное сообщение на сайте, при условии что $bb_cfg['group_send_email'] = false.
Да, такая ошибка быть и должна, ибо не настроен SMTP. В тех местах где можно отключить отправку не трогая глобальную настройку ($bb_cfg['emailer']), там в принципе не будет происходить отправка, а там где отправка не отключается, то будет ошибка
Эта настройка ($bb_cfg['group_send_email'] через конфиг файл) распространяется только на отправку ЛС связанных с группами (вступил, приняли заявку и прочее)