Только что просмотрел все исходные коды, которые открылись после удаления пароля с файла solver.xlam
Нету там алгоритма. Он спрятан где-то глубже

Для получения результата вызывается
X++:
answer = Application.Run("[" & ThisWorkbook.Name & "]Excel4Functions!SolveCall")
где
ThisWorkbook.Name = SOLVER.XLAM.
Кстати, пока просматривал код, наткнулся на смешной код, достойный темы
The Daily Axapta WTF:
X++:
If Left(Application.OperatingSystem, 1) = "W" Then
helpfile = "xladdin.chm"
Else
helpfile = ":MS EXCEL HELP"
End If
Application.OperatingSystem вернуло в моем случае Windows (32-bit) NT 5.1 или что-то в этом роде

Точно индусы писали