Это и есть пробелы. Такие же как между словами.

Чтобы убедиться в этом, возьмём два инлайн-блока, поставим рядом и поиграем размером шрифта:

<!-- index.html -->;
<div class="menu">;
  <a class="menu-item">;</a>
  <a class="menu-item">;</a>
</div>

/* style.css */
.menu {
  font-size: 20px;
}

.menu-item {
  display: inline-block;
  width: 200px;
  height: 50px;
  background: #7da578;
}

Дело в том, что инлайновые элементы с точки зрения браузера — обычные слова. Поэтому если между ними есть пробел или пробельный символ (в нашем случае перенос), то браузер и нарисует между ними пробел.

Чтобы разобраться с этим, можно просто уменьшить размер кегля до нуля, а потом восстановить необходимый у элементов меню:

<!-- index.html -->
<div class="menu">
  <a class="menu-item">Новое</a>
  <a class="menu-item">Фото</a>
  <a class="menu-item">Видео</a>
</div>

/* style.css */
.menu {
  font-size: 0;
}

.menu-item {
  font-size: 20px;
  display: inline-block;
  padding: .5em;
  background: #7da578;
}

Это не всегда удобно, особенно если по всему проекту кегли задаются относительно родителя. В таком случае от пробела можно избавиться в самой разметке, поставив теги вплотную:

<!-- index.html -->
<div class="menu">
  <a class="menu-item">Новое
  </a><a class="menu-item">Фото
  </a><a class="menu-item">Видео</a>
</div>

Или поставив между ними комментарий:

<!-- index.html -->
<div class="menu">
  <a class="menu-item">Новое</a><!--
  --><a class="menu-item">Фото</a><!--
  --><a class="menu-item">Видео</a>
</div>

Также можно победить пробел вашим способом, с помощью отрицательного отступа:

/* style.css */
.menu-item {
  margin-left: -4px;
}

Или с помощью подгонки расстояния между словами:

/* style.css */
.menu {
  word-spacing: -4px;
}

.menu-item {
  word-spacing: 0;
}

Минус последних двух решений в том, что нужно знать размер пробела. А он может отличаться у разных шрифтов и при разных размерах кегля.

Наконец, лучший способ — сверстать с помощью флексбокса:

/* style.css */
.menu {
  display: flex;
  justify-content: flex-start;
}

Этот способ избавит вас от вышеописанных проблем и добавит гибкости. Например, вы сможете легко распределить элементы меню как вам захочется:

А также изменить направление и порядок, что может пригодиться при адаптации меню для мобильных устройств:

• Подробнее о флексбоксах:
• Совет Василия Половнёва
• A Complete Guide to Flexbox
• Flexbox Froggy