Годом образования издательства «Большая Энциклопедия» считается 1925-й. Однако сама идея издания “Большой Советской энциклопедии» (БСЭ) впервые возникла в Госиздате в 1923 году по инициативе академика Отто Юльевича Шмидта. В инициативную группу вошли также М.Н.Покровский, Н.Л.Мещеряков, В.Я.Брюсов, проф. В.Ф.Каган, К.С. Кузьминский и др.

К началу 1924 года инициативная группа проделала значительную работу по определению плана и типа издания. Согласно решению Политбюро о выпуске энциклопедии от 17 апреля 1924 года Отто Юльевич Шмидт назначался главным редактором «Большой Советской энциклопедии», принимал на себя ответственность за ее содержание, подбор авторов, организацию редакций и проч. Предполагалось создать издание в 20-25 томах.

В 1925 году специально для подготовки и издания «БСЭ» в соответствии с постановлениями ЦК ВКП(б) и ЦИК СССР было учреждено акционерное общество «Государственное научное издательство "Большая Советская Энциклопедия».

Параллельно с «БСЭ» начался выпуск универсальных энциклопедических словарей, крупнейших отраслевых энциклопедий довоенного времени, ряда энциклопедических справочников, а также нескольких томов первых в стране региональных энциклопедий.

К написанию статей, научному руководству и редактированию с самого начала привлекались крупнейшие ученые страны, и это стало обычной практикой на все дальнейшие годы. Первое издание БСЭ готовилось при непосредственном руководстве и участии Н. И. Бухарина и других видных партийных деятелей, многие из которых позднее были «развенчаны» и репрессированы.