Подскажите, как сделать, чтобы незарегистрированные могли слать сообщения но при этом им нужно было ввести код с картинки? В админке такого не нашел, может мод какой есть?

мне бы тоже хотелось узнать

если версия форума 3.7.х, то нужно разрешить группе гостей постить в разделах (права групп + права в разделе)
и в настройках "отделения людей от роботов", выставить проверку изображением или рекапчей
но будьте готовы к тому, что спам боты уже обходят и то и другое, не с первого раза, но все же...