Борис Гаврилович Шпитальный родился 7 августа 1902 года в Ростове-на-Дону в семье механика. В 1908 году он переехал в Москву, где окончил Комиссаровское техническое училище.
В 1919 году Борис Гаврилович начал свою карьеру в качестве помощника машиниста на Северной железной дороге, а в 1921–1922 годах занимал должность механика на Мытищинском вагоностроительном заводе.
В 1930 году Шпитальный и Комарицкий разработали первый опытный образец авиационного пулемёта собственной конструкции. 11 октября 1932 года Реввоенсовет СССР утвердил результаты полигонных испытаний этого пулемёта и принял его на вооружение под названием ШКАС.
В 1934 году Борис Гаврилович был назначен начальником и главным конструктором опытного конструкторского бюро ОКБ-15, расположенного в Туле.
В 1940 году Шпитальный принял участие в конкурсе на новый пистолет-пулемет для Красной Армии. В результате этого конкурса на вооружение был принят пистолет-пулемет Шпагина ППШ-41.
Во время Великой Отечественной войны Борис Гаврилович вместе с конструкторским бюро был эвакуирован в город Куйбышев, где занимался разработкой 57-мм авиационной автоматической пушки Ш-57 и 37-мм авиационной мотор-пушки.
В 1953 году ОКБ-15 было закрыто, и доктор технических наук, профессор Борис Гаврилович Шпитальный перешёл на преподавательскую работу.
За выдающиеся заслуги в создании новых образцов вооружения Борис Гаврилович был удостоен звания Героя Социалистического Труда, дважды становился лауреатом Государственной премии СССР, а также был награждён двумя орденами Ленина, орденом Суворова III степени, двумя орденами Трудового Красного Знамени, орденом Красной Звезды и многочисленными медалями.