Никита!

Ищите нужный шрифт среди таких, которые специально созданы для набора больших текстов. Я бы смотрела в первую очередь переходные антиквы с крупным очком и открытыми формами знаков.

Например, Чартер или Свифт:

А ещё я бы смотрела на шрифты Типотека. Шрифты Грета и Федра отлично выдерживают большие объёмы текста.

Для научно-технической литературы необязательно искать только переходные антиквы. Можно попробовать и старостильные антиквы. Например, аналог Бембо — Альдин 401:

А можно попробовать и статичную антикву, например, Казимир:

Бюросериф тоже выдерживает большие тексты:

В всех этих шрифтах есть базовый набор математических символов, которые часто встречаются в научно-технической литературе. А в Бюросерифе помимо базового набора символов есть гречица для математических задач и составные скобки:

Но важно помнить, что всё всегда зависит от конкретной задачи. Даже если шрифт рассчитан для больших текстов и подходит по составу знаков, не факт, что он будет работать в именно вашей ситуации. Всегда примеряйте шрифты в конкретной вёрстке.