Перейти к содержанию

Search space

3.11 Пространство поиска: оценка числа топологий

Пространство поиска — ориентированные ациклические графы с ограничениями глубины и ширины. Для грубой оценки рассмотрим граф с \(n\) вершинами (включая вход и выход).

Нижняя оценка числа DAG на \(n\) помеченных вершинах (без ограничений): \(2^{\binom{n}{2}}\).

Дефолт библиотеки — без капа (10**9). Исторические study 05–16 часто гоняли с max_hidden_layers=5, max_neurons_per_layer=4:

  • Тогда максимум 20 скрытых вершин → до 22 вершин total.
  • Число рёбер между слоями ограничено.
  • Практическое пространство при тех капах: порядка \(10^{10}\)–\(10^{15}\) топологий.

NEAT исследует это пространство инкрементально: начинает с минимальных топологий и постепенно наращивает сложность, что снижает риск попасть в область неработоспособных архитектур.