Основная теорема о повторяемости: анализ рекурсивных алгоритмов с примерами кода

Основная теорема о повторении — это алгоритмический метод, используемый для анализа временной сложности рекурсивных алгоритмов. Он обеспечивает основу для решения рекуррентных отношений, возникающих в алгоритмах «разделяй и властвуй». Основная теорема особенно полезна для определения временной сложности алгоритмов, которую можно выразить в форме:

T(n) = a * T(n/b) + f(n)

Где:

  • T(n) представляет временную сложность алгоритма для заданного входного размера n.
  • a — количество подзадач, созданных на каждом рекурсивном шаге.
  • n/b представляет размер каждой подзадачи.
  • f(n) представляет временную сложность любой работы, выполняемой вне рекурсивных вызовов.

Основная теорема обеспечивает решение рекуррентных отношений упомянутой выше формы на основе трех случаев:

Случай 1: Если f(n) = O(n^c) для некоторой константы c

Случай 2: Если f(n) = Θ(n^c log^k n) для некоторых констант c ≥ 0 и k ≥ 0, и если af(n/b) ≤ c f(n) для достаточно большого n, то временная сложность равна T(n) = Θ(n^clog^(k+1) n).

Случай 3: Если f(n) = Ω(n^c) для некоторой константы c >log_b(a), если a f(n/b) ≤ f(n) для достаточно большого n и если существуют константа ε >0 и константа k <1 такие, что af(n/b) ≥ ε * f(n) для достаточно большого n, то временная сложность равна T(n) = Θ (f(n)).

Теперь давайте приведем несколько примеров кода, иллюстрирующих использование основной теоремы:

Пример 1. Сортировка слиянием
Сортировка слиянием — это классический алгоритм сортировки, основанный на парадигме «разделяй и властвуй». Вот пример реализации на Python:

def merge_sort(arr):
    if len(arr) <= 1:
        return arr
    mid = len(arr) // 2
    left = merge_sort(arr[:mid])
    right = merge_sort(arr[mid:])
    return merge(left, right)
def merge(left, right):
    merged = []
    i, j = 0, 0
    while i < len(left) and j < len(right):
        if left[i] < right[j]:
            merged.append(left[i])
            i += 1
        else:
            merged.append(right[j])
            j += 1
    merged.extend(left[i:])
    merged.extend(right[j:])
    return merged

Временную сложность сортировки слиянием можно проанализировать с помощью основной теоремы. В этом случае у нас есть a = 2 (поскольку мы делим массив на два подмассива), b = 2 (поскольку каждый подмассив имеет половину размера исходного массива) и f(n) = O(n) (поскольку слияние подмассивы занимают линейное время). Следовательно, согласно основной теореме, временная сложность сортировки слиянием равна T(n) = Θ(n log n).

Пример 2: двоичный поиск
Двоичный поиск — это алгоритм поиска, который работает с отсортированными массивами путем многократного деления интервала поиска пополам. Вот пример реализации на Python:

def binary_search(arr, target):
    low = 0
    high = len(arr) - 1
    while low <= high:
        mid = (low + high) // 2
        if arr[mid] == target:
            return mid
        elif arr[mid] < target:
            low = mid + 1
        else:
            high = mid - 1
    return -1

Временную сложность двоичного поиска также можно проанализировать с помощью основной теоремы. В этом случае мы имеем a = 1 (поскольку мы делим интервал поиска на две половины), b = 2 (поскольку мы рассматриваем средний элемент) и f(n) = O(1) (поскольку каждое сравнение занимает постоянное время ). Согласно основной теореме, временная сложность двоичного поиска равна T(n) = Θ(log n).