Этот параметр (увеличение адресного пространства для памяти процесса) есть в настройках самого OpenRails. См. скриншот [версия OR X 3068]
P.S. Правда я не проверял, как работает OR после включения этого параметра (увеличивается ли потребление памяти и на сколько). Но думаю, что это работает так же, как и установка флага прямо в .exe через сторонние утилиты.