Notația Big O

Fie f o funcție cu valori reale sau complexe și g o funcție cu valori reale, ambele fiind definite pe unele submulțimi nemărginite ale mulțimii numerelor reale pozitive, astfel încât g(x) să fie strict pozitivă pentru toate valorile suficient de mari ale lui x.^[4] Se scrie

${\displaystyle f(x)=O(g(x)){\text{ când }}x\to \infty }$

dacă și numai dacă pentru toate valorile suficient de mari ale lui x, valoarea absolută a lui f(x) este cel mult un multiplu constant pozitiv al lui g(x). Adică, f(x) = O(g(x)) dacă și numai dacă există un număr real pozitiv M și un număr real x₀ astfel încât

${\displaystyle |f(x)|\leq \;Mg(x){\text{ pentru orice }}x\geq x_{0}.}$

În multe contexte, ipoteza că suntem interesați de viteza de creștere când variabila x tinde la infinit este lăsată nestabilită, și se scrie mai simplu că

${\displaystyle f(x)=O(g(x)).}$

Notația poate fi folosită și pentru a descrie comportamentul lui f în preajma unui număr real a (adesea, a = 0): se spune

${\displaystyle f(x)=O(g(x)){\text{ când }}x\to a}$

dacă și numai dacă există numere pozitive δ și M astfel încât

${\displaystyle |f(x)|\leq \;Mg(x){\text{ când }}0<|x-a|<\delta .}$

Întrucât g(x) este aleasă în așa fel încât să fie nenulă, pentru valori ale lui x suficient de apropiate^⁠(d) de a, ambele aceste definiții pot fi unificate folosind limita superioară^⁠(d):

${\displaystyle f(x)=O(g(x)){\text{ când }}x\to a}$

dacă și numai dacă

${\displaystyle \limsup _{x\to a}\left|{\frac {f(x)}{g(x)}}\right|<\infty .}$

În uzul tipic, definiția oficială a notației O nu este folosită direct; mai degrabă, notația O pentru o funcție f se deduce din următoarele reguli de simplificare:

• Dacă f(x) este o sumă de câțiva termeni, dacă există unul cu cea mai mare viteză de creștere, el poate fi păstrat și toți ceilalți omiși.
• Dacă f(x) este un produs al mai multor factori, orice constantă (termen din produs care nu depinde de x) poate fi omisă.

De exemplu, fie f(x) = 6x⁴ - 2x³ + 5 și se presupune că se dorește simplificarea acestei funcții, folosind notația O, pentru a descrie viteza de creștere a acesteia când x tinde la infinit. Această funcție este suma a trei termeni: 6x⁴, -2x³ și 5. Din cei trei termeni, cel cu cea mai mare viteză de creștere este cel cu cel mai mare exponent în funcție de x, și anume 6x⁴. Acum se poate aplica a doua regulă: 6x⁴ este un produs de 6 și x⁴ în care primul factor nu depinde de x. Omiterea acestui factor are ca rezultat forma simplificată x⁴. Astfel, spunem că f(x) este un „big-O” al lui (x⁴). Matematic, putem scrie f(x) = O(x⁴). Se poate confirma acest calcul folosind definiția formală: fie f(x) = 6x⁴ - 2x³ + 5 și g(x) = x⁴. Aplicând definiția formală de mai sus, afirmația că f(x) = O(x⁴) este echivalentă cu dezvoltarea sa,

${\displaystyle |f(x)|\leq \;Mx^{4}}$

pentru un x₀ și un M aleși adecvat și pentru orice x > x₀. Pentru a demonstra acest lucru, fie x₀ = 1 și M = 13. Atunci, pentru orice x > x₀:

${\displaystyle {\begin{aligned}|6x^{4}-2x^{3}+5|&\leq 6x^{4}+|2x^{3}|+5\\&\leq 6x^{4}+2x^{4}+5x^{4}\\&=13x^{4}\end{aligned}}}$

așa că

${\displaystyle |6x^{4}-2x^{3}+5|\leq 13\,x^{4}.}$

Notația Big O are două domenii principale de aplicare:

• în matematică , este utilizată în mod obișnuit pentru a descrie cât de aproape este o serie finită aproximând o anumită funcție, în special în cazul unei serii Taylor trunchiate sau al unei dezvoltări asimptotice^⁠(d)
• în domeniul informaticii, este utilă în analiza algoritmilor

În ambele aplicații, funcția g(x) care apare în cadrul lui O (...) este de obicei aleasă așa încât să fie cât mai simplă posibil, omițând factori constanți și termeni de ordin inferior.

Există două utilizări formale apropiate, dar cu totul diferite, ale acestei notații:

• asimptotica infinită
• asimptotica infinitezimală.

Distincția aceasta există doar în practică, nu și în principiu — definiția formală pentru „big O” este aceeași pentru ambele cazuri, cu limite diferite pentru argumentul funcției.

Asimptotica infinită

Notația Big O este utilă atunci când se analizează eficiența algoritmilor^⁠(d). De exemplu, timpul (sau numărul de pași) necesar pentru a rezolva o problemă de dimensiune n poate fi găsit a fi T(n) = 4n² - 2n + 2. Când n crește foarte mult, termenul n² ajunge să domine, astfel încât toți ceilalți termeni pot fi neglijați, de exemplu, atunci când n = 500, termenul 4n² este de 1000 de ori mai mare ca termenul 2n. Ignorarea acestuia din urmă ar avea un efect neglijabil asupra valorii expresiei pentru cele mai multe scopuri. Mai mult, coeficienții devin irelevanți dacă comparăm cu oricare alt ordin al expresiei, cum ar fi o expresie care conține un termen n³ sau n⁴. Chiar dacă T(n) = 1.000.000 n², dacă U(n) = n³, acesta din urmă îl va depăși întotdeauna pe primul când n crește mai mare decât 1.000.000 (T(1.000.000) = 1.000.000³ = U(1.000.000)). În plus, numărul de pași depinde de detaliile modelului mașinii pe care rulează algoritmul, dar diferite tipuri de mașini variază de obicei doar printr-un factor constant în numărul de pași necesari pentru executarea unui algoritm. Deci, notația Big O surprinde ceea ce rămâne: se scrie fie

${\displaystyle \ T(n)=O(n^{2})}$

fie

${\displaystyle T(n)\in O(n^{2})}$

și se spune că algoritmul are complexitate de ordinul lui n². Egalul nu mai reprezintă aici egalitate în sensul matematic normal, ci mai degrabă un „este“ mai popular, astfel încât a doua expresie este uneori considerată mai precisă (a se vedea discuția de mai jos despre semnul egal) în timp ce prima este considerată de unii ca un abuz de notație^⁠(d).^[5]

Asimptotica infinitezimală

Big O poate fi folosită și pentru a descrie termenul de eroare într-o aproximare a unei funcții matematice. Termenii cei mai semnificativi sunt scriși explicit, iar termenii cel mai puțin semnificativi sunt rezumați într-un singur termen Big O. Considerăm, de exemplu, seria exponențială^⁠(d) și două expresii ale acesteia care sunt valabile atunci când x este mic:

${\displaystyle {\begin{aligned}e^{x}&=1+x+{\frac {x^{2}}{2!}}+{\frac {x^{3}}{3!}}+{\frac {x^{4}}{4!}}+\dotsb &{\text{oricare ar fi }}x\\&=1+x+{\frac {x^{2}}{2}}+O(x^{3})&{\text{când }}x\to 0\\&=1+x+O(x^{2})&{\text{când }}x\to 0\\\end{aligned}}}$

Cea de a doua expresie (cea cu O(x³)) înseamnă că valoarea absolută a erorii e^x - (1 + x²/2) este de cel mult o constantă înmulțită cu | x³ | când x este suficient de aproape de 0.

Dacă funcția f poate fi scrisă ca o sumă finită a altor funcții, atunci cea mai rapidă creștere determină ordinul lui f(n). De exemplu,

${\displaystyle f(n)=9\log n+5(\log n)^{4}+3n^{2}+2n^{3}=O(n^{3})\qquad {\text{când }}n\to \infty .}$

În special, dacă o funcție poate fi legată de un polinom în n, atunci când n tinde spre infinit, se pot ignora termenii de grad mai mic ai polinomului. De asemenea, mulțimile O(n^c) și O(cⁿ) sunt foarte diferiți. Dacă c este mai mare decât unu, atunci acesta crește mult mai repede. O funcție care crește mai repede decât n^c pentru oricare c se numește superpolinomială. Una care crește mai lent decât orice funcție exponențială de forma cⁿ se numește subexponențială. Un algoritm poate necesita timp atât superpolimonial cât și subexponențial; printre astfel de exemple se numără algoritmii cei mai rapizi cunoscuți pentru factorizarea numerelor întregi și funcția n^{log n}.

Se poate ignora orice putere a lui n din interiorul logaritmilor. Mulțimea O (log n) este exact același cu O (log n^c). Logaritmii diferă numai printr-un factor constant (întrucât log n^c = c log n) și astfel notația Big O ignoră termenul. Similar, logaritmii cu diferite baze constante sunt echivalenți. Pe de altă parte, exponențialele cu baze diferite nu sunt de același ordin. De exemplu, 2ⁿ nu este același lucru cu 3ⁿ.

Schimbarea unităților poate sau nu poate afecta ordinul algoritmului rezultat. Modificarea unităților este echivalentă cu înmulțirea variabilei corespunzătoare cu o constantă oriunde apare. De exemplu, dacă un algoritm rulează în timp de ordinul lui n², înlocuirea n cu cn înseamnă că algoritmul rulează în timp de ordinul lui c²n², iar notația Big O ignoră constanta c². Aceasta se poate scrie ca c²n² = O(n²). Dacă, totuși, un algoritm rulează în timp de ordinul lui 2ⁿ, înlocuirea lui n cu cn dă timp de ordinul 2^cn = (2^c)ⁿ. Aceasta nu este echivalentă cu 2ⁿ în general. Schimbarea variabilelor poate afecta, de asemenea, ordinul algoritmului rezultat. De exemplu, dacă timpul de execuție al algoritmului este O(n) atunci când este măsurat în termeni de număr n de cifre al unui număr de intrare x, timpul său de execuție este O(log x) ca funcție de numărul de intrare x însuși, deoarece n = O(log x).

Produsul

${\displaystyle f_{1}=O(g_{1}){\text{ and }}f_{2}=O(g_{2})\,\Rightarrow f_{1}f_{2}=O(g_{1}g_{2})}$

${\displaystyle f\cdot O(g)=O(fg)}$

Suma

${\displaystyle f_{1}=O(g_{1}){\text{ și }}f_{2}=O(g_{2})\,\Rightarrow f_{1}+f_{2}=O(max(g_{1},g_{2}))}$

Aceasta înseamnă că ${\displaystyle f_{1}=O(g){\text{ și }}f_{2}=O(g)\Rightarrow f_{1}+f_{2}\in O(g)}$ , ceea ce înseamnă că ${\displaystyle O(g)}$ este un con convex.

Înmulțirea cu o constantă

Fie k o constantă. Atunci:

${\displaystyle \ O(|k|g)=O(g)}$ dacă k este nenul.

${\displaystyle f=O(g)\Rightarrow kf=O(g).}$

Big O (și little o, Ω, etc.) pot fi utilizate și cu mai multe variabile. Pentru a defini Big O în mod formal pentru mai multe variabile, se presupune că f și g sunt două funcții definite pe o anumită submulțime a lui ${\displaystyle \mathbb {R} ^{n}}$ . Se spune că

${\displaystyle f({\vec {x}}){\text{ este }}O(g({\vec {x}})){\text{ când }}{\vec {x}}\to \infty }$

dacă și numai dacă ^[6]

${\displaystyle \exists M\,\exists C>0{\text{ astfel încât pentru orice }}{\vec {x}}{\text{ with }}x_{i}\geq M{\text{ pentru orice }}i,|f({\vec {x}})|\leq C|g({\vec {x}})|.}$

În mod echivalent, condiția ${\displaystyle x_{i}\geq M}$ pentru unii ${\displaystyle i}$ poate fi înlocuită cu condiția ${\displaystyle \|{\vec {x}}\|_{\infty }\geq M}$ , unde cu ${\displaystyle \|{\vec {x}}\|_{\infty }}$ se notează norma Cebîșev^⁠(d). De exemplu, afirmația

${\displaystyle f(n,m)=n^{2}+m^{3}+O(n+m){\text{ când }}n,m\to \infty }$

spune că există constantele C și M astfel încât

${\displaystyle \forall \|(n,m)\|_{\infty }\geq M:|g(n,m)|\leq C|n+m|,}$

unde g(n, m) se definește ca

${\displaystyle f(n,m)=n^{2}+m^{3}+g(n,m).}$

Această definiție permite ca toate componentele lui ${\displaystyle {\vec {x}}}$ să crească până la infinit. În special, afirmația

${\displaystyle f(n,m)=O(n^{m}){\text{ când }}n,m\to \infty }$

(de exemplu, ${\displaystyle \exists C\,\exists M\,\forall n\,\forall m\dots }$ ) este destul de diferită de

${\displaystyle \forall m\colon f(n,m)=O(n^{m}){\text{ când }}n\to \infty }$

(de exemplu, ${\displaystyle \forall m\,\exists C\,\exists M\,\forall n\dots }$ ).

Sub această definiție, submulțimea pe care este definită o funcție este semnificativă atunci când se generalizează afirmațiile de la contextul univariabilă la cel multivariabilă. De exemplu, dacă ${\displaystyle f(n,m)=1}$ și ${\displaystyle g(n,m)=n}$ , atunci ${\displaystyle f(n,m)=O(g(n,m))}$ dacă se restrâng f și g la ${\displaystyle [1,\infty )^{2}}$ , dar nu dacă acestea sunt definite pe ${\displaystyle [0,\infty )^{2}}$ .

Aceasta nu este singura generalizare a notației Big O la funcții multivariabilă, dar în practică există o oarecare inconsistență în alegerea definiției.^[7]

Semnul egal

Afirmația f(x) este O(g(x)), așa cum este definită mai sus, se scrie de obicei ca f(x) = O(g(x)). Unii consideră că acest lucru este un abuz de notație^⁠(d), deoarece utilizarea semnului egal ar putea fi înșelătoare, deoarece sugerează o simetrie, pe care această afirmație nu o are. După cum spune de Bruijn^⁠(d), este adevărat că O(x) = O(x²), dar nu și că O(x²) = O(x).^[8] Knuth denumește astfel de afirmații „egalități unidirecționale”, deoarece dacă s-ar inversa cele două părți, „am putea deduce lucruri ridicole cum ar fi n = n² din identitățile n = O(n²)și n² = O(n²).” ^[9]

Din aceste motive, ar fi mai precis să folosim notația mulțimilor^⁠(d) și să scriem f(x) ∈ O(g(x)), considerând O(g(x)) ca clasă a tuturor funcțiilor h(x) astfel încât | h(x) | ≤ C | g(x) | pentru o constantă C.^[9] Cu toate acestea, utilizarea semnului egal este obișnuită. Knuth a subliniat că „matematicienii folosesc în mod obișnuit semnul = așa cum folosesc cuvântul «este» în limba engleză: Aristotel este un om, dar un om nu este neapărat Aristotel.”^[10]

Alți operatori aritmetici

Notația Big O poate fi utilizată și în combinație cu alți operatori aritmetici în ecuații mai complicate. De exemplu, cu h(x) + O(f(x)) se notează colecția de funcții având creșterea h(x) plus o parte a cărei creștere este limitată la f(x). Prin urmare,

${\displaystyle g(x)=h(x)+O(f(x))}$

exprimă același lucru ca și

${\displaystyle g(x)-h(x)=O(f(x))\,.}$

Exemplu

Să presupunem că se dezvoltă un algoritm care să funcționeze pe o mulțime de n elemente. Dezvoltatorii săi sunt interesați să găsească o funcție T(n) care să exprime cât timp va dura rularea algoritmului (în unele măsurători arbitrare ale timpului) în termeni de număr de elemente din mulțimea de intrare. Algoritmul funcționează apelând mai întâi o subrutină pentru sortarea elementelor din mulțime și efectuarea propriilor operații. Sortarea are o complexitate în timp cunoscută de O(n²), iar după executarea subrutinei algoritmul trebuie să mai ruleze încă 55n³ + 2n + 10 pași înainte de a se termina. Astfel, complexitatea în timp a algoritmului poate fi exprimată ca T(n) = 55 n³ + O(n²). Aici termenii 2n + 10 sunt subsumați în cadrul lui O(n²) cu creștere mai rapidă. Din nou, această utilizare ignoră o parte din semnificația formală a simbolului „=”, dar permite utilizarea notației Big O ca un substitut convenabil.

Utilizări multiple

În utilizarea mai complicată, O (...) poate să apară în diferite locuri într-o ecuație, chiar și de mai multe ori pe fiecare parte. De exemplu, următoarele sunt valabile pentru ${\displaystyle n\to \infty }$ :

${\displaystyle (n+1)^{2}=n^{2}+O(n)}$

${\displaystyle (n+O(n^{1/2}))(n+O(\log n))^{2}=n^{3}+O(n^{5/2})}$

${\displaystyle n^{O(1)}=O(e^{n}).}$

Semnificația acestor afirmații este următoarea: pentru orice funcție care satisface fiecare O (...) din partea stângă, există câteva funcții care satisfac fiecare O (...) din partea dreaptă, astfel încât substituind toate aceste funcții, ecuația face ca cele două părți să fie egale. De exemplu, a treia ecuație de mai sus înseamnă: „Pentru orice funcție f(n) = O(1), există o funcție g(n) = O(eⁿ) astfel încât n^f(n) = g(n).” În ceea ce privește „notația mulțimilor” de mai sus, înțelesul este că clasa de funcții reprezentată de partea stângă este o submulțime a clasei de funcții reprezentate de partea dreaptă. În această utilizare, „=” este un simbol formal care, spre deosebire de utilizarea obișnuită a lui „=”, nu este o relație simetrică^⁠(d). Astfel, de exemplu, n^O(1) = O(eⁿ) nu implică și afirmația falsă O(eⁿ) = n^O(1)

Scriere

Big O constă doar dintr-un „O” majuscul. Spre deosebire de notațiile cu nume grecești Bachmann-Landau, nu are nevoie de un simbol special. Cu toate acestea, variantele caligrafice frecvent utilizate, cum ar fi ${\displaystyle {\mathcal {O}}}$ , sunt disponibile în sistemele LaTeX și în sisteme de fonturi derivate.^[11]

Mai jos sunt enumerate clase de funcții care se întâlnesc frecvent când se analizează timpul de funcționare al unui algoritm. În fiecare caz, c este o constantă pozitivă și n crește fără limitări. Funcțiile cu o creștere mai lentă sunt în general enumerate mai întâi.

Notație	Nume	Exemple
${\displaystyle O(1)}$	constantă	Determinarea dacă un număr binar este par sau impar; Calculul lui ${\displaystyle (-1)^{n}}$ ; Utilizarea unei tabele de corespondență⁠(d) de dimensiuni constante
${\displaystyle O(\log \log n)}$	dublu logaritmică	Numărul de comparații folosit pentru a găsi un element folosind căutarea prin interpolare⁠(d) într-un tabel sortat de valori uniform distribuite
${\displaystyle O(\log n)}$	logaritmică	Găsirea unui element într-un tablou sortat cu căutare binară sau cu un arbore⁠(d) de căutare echilibrat, precum și toate operațiile pe un heap binomial⁠(d)
${\displaystyle O((\log n)^{c})}$ ${\displaystyle \scriptstyle c>1}$	polilogaritmică	Ordonarea lanțurilor de matrice poate fi rezolvată în timp polilogaritmic pe o mașină cu acces aleator paralel.
${\displaystyle O(n^{c})}$ ${\displaystyle \scriptstyle 0<c<1}$	putere fracționară	Căutarea într-un arbore k-d⁠(d)
${\displaystyle O(n)}$	liniară	Găsirea unui element într-o listă neordonată sau într-un tablou neordonat; adunarea a doi întregi pe n biți prin sumatoare cu transport.
${\displaystyle O(n\log ^{*}n)}$	n Logaritm iterat n	Efectuarea de triangulări ale unui poligon simplu folosind algoritmul lui Seidel, sau algoritmul union–find. ${\displaystyle \log ^{*}(n)={\begin{cases}0,&{\text{if }}n\leq 1\\1+\log ^{*}(\log n),&{\text{if }}n>1\end{cases}}}$
${\displaystyle O(n\log n)=O(\log n!)}$	linearitmică, logliniară, sau cvasiliniară	Efecturea unei transformări Fourier rapide⁠(d); Cea mai rapidă sortare cu comparație⁠(d); heapsort⁠(d) and merge sort
${\displaystyle O(n^{2})}$	pătratică	Înmulțirea a două numere cu n cifre printr-un algoritm simplu; algoritmi de sortare simpli, cum ar fi bubble sort⁠(d), selection sort⁠(d) și insertion sort⁠(d); limita (în cel mai rău caz) a unor algoritmi de regulă mai rapizi, ca quicksort, shellsort⁠(d), și tree sort⁠(d)
${\displaystyle O(n^{c})}$	polinomială sau algebrică	Parsarea unor gramatici cu arbori adjuncți⁠(d); cuplajul⁠(d) maxim pentru grafuri bipartite; găsirea determinantului prin descompunere LU⁠(d)
${\displaystyle L_{n}[\alpha ,c]=e^{(c+o(1))(\ln n)^{\alpha }(\ln \ln n)^{1-\alpha }}}$ ${\displaystyle \scriptstyle 0<\alpha <1}$	Notația L⁠(d) sausubexponențială	Factorizarea unui număr folosind ciurul pătratic⁠(d) sau ciurul algebric⁠(d)
${\displaystyle O(c^{n})}$ ${\displaystyle \scriptstyle c>1}$	exponențtială	Găsirea soluției (exacte) a problemei comis-voiajorului folosind programare dinamică⁠(d); aflarea dacă două afirmații logice sunt echivalente folosind căutarea cu forță brută⁠(d)
${\displaystyle O(n!)}$	factorială	Rezolvarea problemei comis-voiajorului prin căutarea cu forță brută; generarea tuturor permutațiilor nerestricționate ale unei mulțimi parțial ordonate⁠(d); găsirea determinantului prin dezvoltare Laplace; enumerarea tuturor partițiilor unei mulțimi⁠(d)

Afirmația ${\displaystyle f(n)=O(n!)}$ este uneori relaxată la ${\displaystyle f(n)=O\left(n^{n}\right)}$ pentru a obține formule mai simple pentru complexitatea asimptotică. Pentru orice k > 0 și c > 0, ${\displaystyle O(n^{c}(\log n)^{k})}$ este o submulțime a lui ${\displaystyle O(n^{c+\varepsilon })}$ pentru orice ${\displaystyle \varepsilon >0}$ , deci poate fi considerat ca un polinom de grad mai mare.

Big O este cea mai frecvent folosită notație asimptotică pentru compararea funcțiilor. Împreună cu alte notații asociate, ea formează familia notațiilor Bachmann-Landau.

Notația Little-o

Intuitiv, afirmația „f(x) este o(g(x))” (a se citi f(x) este little-o de g(x) înseamnă că g(x) crește mult mai rapid decât f(x). Fie f ca înainte o funcție cu valori reale sau complexe și g o funcție cu valori reale, ambele fiind definite pe unele submulțimi nemărginite ale numerelor reale pozitive, astfel încât g(x) să fie strict pozitivă pentru toate valorile suficient de mari ale lui x. Se scrie

${\displaystyle f(x)=o(g(x)){\text{ as }}x\to \infty }$

dacă pentru orice constantă pozitivă ε există o constantă N astfel încât

${\displaystyle |f(x)|\leq \varepsilon g(x)\qquad {\text{ for all }}x\geq N~.}$ ^[12]

De exemplu, avem

${\displaystyle 2x=o(x^{2})}$ și ${\displaystyle 1/x=o(1).}$

Diferența dintre definiția anterioară pentru notația big-O și definiția aceasta a lui little-o este că, în timp ce prima trebuie să fie adevărată pentru cel puțin o constantă M, aceasta din urmă trebuie să fie valabilă pentru orice constantă pozitivă ε , oricât de mică ar fi.^[5] În acest fel, notația little-o face o afirmație mai puternică decât notația big-O corespunzătoare: orice funcție care este little-o a lui g este de asemenea big O al lui g, dar nu orice funcție care este big-O al lui g este și little-o de g. De exemplu, ${\displaystyle 2x^{2}=O(x^{2})}$ dar ${\displaystyle 2x^{2}\neq o(x^{2}).}$

Deoarece g(x) este nenul, sau cel puțin devine nenul dincolo de un anumit punct, relația f(x) = o(g(x)) este echivalentă cu

${\displaystyle \lim _{x\to \infty }{\frac {f(x)}{g(x)}}=0}$ (și așa a definit, de fapt, Landau ^[12] notația little-o).

Little-o respectă o serie de operații aritmetice. De exemplu,

dacă c este o constantă nenulă și ${\displaystyle f=o(g)}$ atunci ${\displaystyle c\cdot f=o(g)}$ , și

dacă ${\displaystyle f=o(F)}$ și ${\displaystyle g=o(G)}$ atunci ${\displaystyle f\cdot g=o(F\cdot G).}$

De asemenea, ea satisface o relație de tranzitivitate:

dacă ${\displaystyle f=o(g)}$ și ${\displaystyle g=o(h)}$ atunci ${\displaystyle f=o(h).}$

Notația Big Omega

Există două definiții foarte răspândite și incompatibile ale afirmației

${\displaystyle f(x)=\Omega (g(x))\ (x\rightarrow a),}$

unde a este un număr real, ∞ sau -∞, unde f și g sunt funcții reale definite într-o vecinătate a lui a și unde g este pozitivă în această vecinătate.

Prima (cronologic) este folosită în teoria analitică a numerelor^⁠(d), iar cealaltă în teoria complexității. Când se întâlnesc cele două subiecte, această situație este generatoare de confuzie.

Definiția Hardy-Littlewood

În 1914, G.H. Hardy^⁠(d) și John Edensor Littlewood^⁠(d) au introdus noul simbol ${\displaystyle \Omega }$ ,^[13] care este definit după cum urmează:

${\displaystyle f(x)=\Omega (g(x))\ (x\rightarrow \infty )\;\Leftrightarrow \;\limsup _{x\to \infty }\left|{\frac {f(x)}{g(x)}}\right|>0.}$

Prin urmare ${\displaystyle f(x)=\Omega (g(x))}$ este negarea lui ${\displaystyle f(x)=o(g(x))}$ .

În 1916, aceiași autori au introdus cele două noi simboluri ${\displaystyle \Omega _{R}}$ și ${\displaystyle \Omega _{L}}$ , definite astfel:^[14]

${\displaystyle f(x)=\Omega _{R}(g(x))\ (x\rightarrow \infty )\;\Leftrightarrow \;\limsup _{x\to \infty }{\frac {f(x)}{g(x)}}>0}$ ;

${\displaystyle f(x)=\Omega _{L}(g(x))\ (x\rightarrow \infty )\;\Leftrightarrow \;\liminf _{x\to \infty }{\frac {f(x)}{g(x)}}<0.}$

Aceste simboluri au fost folosite de Edmund Landau^⁠(d), cu aceleași semnificații, în 1924.^[15] După Landau, notațiile nu au fost niciodată folosite din nou exact așa; ${\displaystyle \Omega _{R}}$ a devenit ${\displaystyle \Omega _{+}}$ și ${\displaystyle \Omega _{L}}$ a devenit ${\displaystyle \Omega _{-}}$ .

Aceste trei simboluri ${\displaystyle \Omega ,\Omega _{+},\Omega _{-}}$ , precum și ${\displaystyle f(x)=\Omega _{\pm }(g(x))}$ (ceea ce înseamnă că sunt satisfăcute ambele relații${\displaystyle f(x)=\Omega _{+}(g(x))}$ și ${\displaystyle f(x)=\Omega _{-}(g(x))}$ ), sunt acum utilizate în prezent în teoria analitică a numerelor^⁠(d).^{[16] [17]}

Exemple simple

Avem

${\displaystyle \sin x=\Omega (1)\ (x\rightarrow \infty ),}$

și mai precis

${\displaystyle \sin x=\Omega _{\pm }(1)\ (x\rightarrow \infty ).}$

Avem

${\displaystyle \sin x+1=\Omega (1)\ (x\rightarrow \infty ),}$

și mai precis

${\displaystyle \sin x+1=\Omega _{+}(1)\ (x\rightarrow \infty );}$

dar

${\displaystyle \sin x+1\not =\Omega _{-}(1)\ (x\rightarrow \infty ).}$

Definiția Knuth

În 1976, Donald Knuth a publicat o lucrare pentru a justifica utilizarea simbolului ${\displaystyle \Omega }$ pentru a descrie o proprietate mai puternică. Knuth a scris: „Pentru toate aplicațiile pe care le-am văzut până acum în domeniul informaticii, o cerință mai puternică [...] este mult mai potrivită”. El a definit

${\displaystyle f(x)=\Omega (g(x))\Leftrightarrow g(x)=O(f(x))}$

cu comentariul: „Deși am schimbat definiția dată de Hardy și a Littlewood pentru ${\displaystyle \Omega }$ , mă simt justificat în acest sens, deoarece definiția lor nu este deloc folosită pe scară largă și pentru că există și alte modalități de a spune ceea ce vor ei să spună în cazurile relativ rare în care se aplică definiția lor.”^[18]

Familia de notații Bachmann-Landau

Notația	Nume[18]	Descriere	Definiție formală	Limit Definition[19][20][21][18][13]
${\displaystyle f(n)=o(g(n))}$	Small O; Small Oh	f este dominată de g asimptotic	${\displaystyle \forall k>0\;\exists n_{0}\;\forall n>n_{0}\;|f(n)|<k\cdot g(n)}$	${\displaystyle \lim _{n\to \infty }{\frac {f(n)}{g(n)}}=0}$
${\displaystyle f(n)=O(g(n))}$	Big O; Big Oh; Big Omicron	${\displaystyle |f|}$ este mărginită superior de g (până la un factor constant) asimptotic	${\displaystyle \exists k>0\;\exists n_{0}\;\forall n>n_{0}\;|f(n)|\leq k\cdot g(n)}$	${\displaystyle \limsup _{n\to \infty }{\frac {\left|f(n)\right|}{g(n)}}<\infty }$
${\displaystyle f(n)=\Theta (g(n))}$	Big Theta	f este mărginită atât superior cât și inferior de g asimptotic	${\displaystyle \exists k_{1}>0\;\exists k_{2}>0\;\exists n_{0}\;\forall n>n_{0}}$ ${\displaystyle k_{1}\cdot g(n)\leq f(n)\leq k_{2}\cdot g(n)}$	${\displaystyle f(n)=O(g(n))}$ și ${\displaystyle f(n)=\Omega (g(n))}$ (versiunea Knuth)
${\displaystyle f(n)\sim g(n)}$	De ordinul lui	f este egal cu g asimptotic	${\displaystyle \forall \varepsilon >0\;\exists n_{0}\;\forall n>n_{0}\;\left|{f(n) \over g(n)}-1\right|<\varepsilon }$	${\displaystyle \lim _{n\to \infty }{f(n) \over g(n)}=1}$
${\displaystyle f(n)=\Omega (g(n))}$	Big Omega în teoria numerelor (Hardy–Littlewood)	${\displaystyle |f|}$ nu este dominată de g asimptotic	${\displaystyle \exists k>0\;\forall n_{0}\;\exists n>n_{0}\;|f(n)|\geq k\cdot g(n)}$	${\displaystyle \limsup _{n\to \infty }\left|{\frac {f(n)}{g(n)}}\right|>0}$
${\displaystyle f(n)=\Omega (g(n))}$	Big Omega în teoria complexității (Knuth)	f este mărginit inferior de g asimptotic	${\displaystyle \exists k>0\;\exists n_{0}\;\forall n>n_{0}\;f(n)\geq k\cdot g(n)}$	${\displaystyle \liminf _{n\to \infty }{\frac {f(n)}{g(n)}}>0}$
${\displaystyle f(n)=\omega (g(n))}$	Small Omega	f domină g asimptotic	${\displaystyle \forall k>0\;\exists n_{0}\;\forall n>n_{0}\ |f(n)|>k\cdot |g(n)|}$	${\displaystyle \lim _{n\to \infty }\left|{\frac {f(n)}{g(n)}}\right|=\infty }$

Definițiile limitelor presupun ${\displaystyle g(n)\neq 0}$ pentru n suficient de mare. Tabelul este (parțial) sortat de la cel mai mic la cel mai mare, în sensul că o, O, Θ, ~, Ω (versiunea lui Knuth), ω pe funcții corespund cu <, ≤, ≈, =, ≥, > pe dreapta reală^[21] (versiunea Hardy-Littlewood a lui Ω nu corespunde însă unei astfel de descrieri).

Informatica folosește Big O, big Theta Θ, little o, omega ω și notația Big Omega Ω a lui Knuth.^[22] Teoria analitică a numerelor utilizează adesea big O, small o, Big Omega Ω a lui Hardy-Littlewood (cu sau fără indicele +, - sau ±) și notațiile ${\displaystyle \sim }$ .^[16] Notația small omega ω nu este utilizată la fel de des în analiză.^[23]

Utilizarea în informatică

În mod informal, în special în domeniul informaticii, notația big O poate fi folosită oarecum diferit pentru a descrie o legătură asimptotică strânsă acolo unde notația Theta Θ ar putea fi mai potrivită într-un anumit context. De exemplu, atunci când se analizează o funcție T(n) = 73n³ + 22n² + 58, toate afirmațiile următoare sunt în general acceptabile, dar limite mai stricte (cum ar fi numerele 2 și 3 de mai jos) sunt de obicei preferate în locul limitelor mai relaxate (cum ar fi numărul 1 de mai jos).

1. T(n) = O(n¹⁰⁰)
2. T(n) = O(n³)
3. T(n) = Θ(n³)

Afirmațiile echivalente în română sunt:

1. T(n) crește asymptotic nu mai repede decât n¹⁰⁰
2. T(n) crește asymptotic nu mai repede decât n³
3. T(n) crește asimptotic la fel de repede ca n³.

Deci, în timp ce toate cele trei afirmații sunt adevărate, în fiecare din ele există progresiv mai multe informații. În unele domenii, cu toate acestea, notația Big O (numărul 2 din listele de mai sus) ar fi folosită mai frecvent decât notația Big Theta (punctele 3 din listele de mai sus). De exemplu, dacă T(n) reprezintă timpul de funcționare a algoritmului nou dezvoltat pentru dimensiunea de intrare n, inventatorii și utilizatorii algoritmului ar putea fi mai înclinați să pună o limită asimptotică superioară timpului cât va dura funcționarea lui, fără a face vreo afirmație explicită despre limita inferioară asimptotică.

Alte notații

În cartea lor Introducere în algoritmi^⁠(d), Cormen^⁠(d), Leiserson^⁠(d), Rivest și Stein^⁠(d) iau în considerare mulțimea funcțiilor f care satisfac

${\displaystyle f(n)=O(g(n))\ (n\rightarrow \infty ).}$

Într-o notație corectă, această mulțime poate fi, de exemplu, numită O(g), unde

${\displaystyle O(g)=\{f:}$ există constante pozitive c și ${\displaystyle n_{0}}$ astfel încât ${\displaystyle 0\leq f(n)\leq cg(n)}$ pentru toți ${\displaystyle n\geq n_{0}\}}$ .^[24]

Autorii afirmă că folosirea operatorului de egalitate (=) pentru a nota apartenența la mulțime, în locul operatorului de apartenență încetățenit (∈), este un abuz de notație, dar acest lucru are avantaje.^[25] Într-o ecuație sau inegalitate, folosirea unei notații asimptotice reprezintă o funcție anonimă din mulțimea O(g), care elimină termenii de ordin inferior și ajută la reducerea aglomerării inutile în ecuații, de exemplu: ^[26]

${\displaystyle 2n^{2}+3n+1=2n^{2}+O(n).}$

Extensii la notațiile Bachmann-Landau

O altă notație folosită uneori în domeniul informaticii este Õ (citiți soft-O): f(n) = Õ(g(n)) este o prescurtare pentru f(n) = O(g(n) log k g(n)) pentru un anume k. În esență, este o notație Big O, ignorând factorii logaritmici, deoarece efectele ratei de creștere a unei alte funcții superlogaritmice indică o explozie a ratei de creștere pentru parametrii de intrare de dimensiuni mari, care este mai importantă pentru a prezice relele performanțe efectele mai fine cu care contribuie de factorul (factorii) de creștere logaritmică. Această notație este adesea folosită pentru a evita „pierderea în amănunte” în cadrul vitezelor de creștere care sunt declarate ca fiind prea strâns mărginite pentru chestiunea relevantă (întrucât log^k n este întotdeauna o(n^ε) pentru orice constantă k și orice ε > 0).

De asemenea, notația L^⁠(d), definită ca

${\displaystyle L_{n}[\alpha ,c]=e^{(c+o(1))(\ln n)^{\alpha }(\ln \ln n)^{1-\alpha }}}$

este convenabilă pentru funcțiile care sunt între polinomială și exponențială în raport cu ${\displaystyle \ln n}$ .

Generalizarea funcțiilor care iau valori în orice spațiu vectorial normat este simplă (înlocuind valoarea absolută cu norma), unde f și g nu este nevoie săi aibă valori în același spațiu. O generalizare a funcțiilor g cu valori în orice grup topologic^⁠(d) este de asemenea posibilă. „Procesul de limitare” x→x₀ poate fi și el generalizat prin introducerea unei baze de filtrare^⁠(d) arbitrare, adică a rețelelor^⁠(d) direcționate f și g. Notația o poate fi folosită pentru a defini derivate și diferențiabilitatea în spații destul de generale, precum și echivalența (asimptotică) a funcțiilor,

${\displaystyle f\sim g\iff (f-g)\in o(g)}$

care este o relație de echivalență și o noțiune mai restrictivă decât relația „f este Θ(g)” de mai sus. (Se reduce la lim f/g = 1 dacă f și g sunt funcții cu valoare reală pozitivă.) De exemplu, 2x este Θ(x), dar 2x - x nu este o(x).

Simbolul O a fost introdus pentru prima dată de teoreticianul numerelor Paul Bachmann în 1894, în al doilea volum al cărții sale Analytische Zahlentheorie („Teoria analitică a numerelor^⁠(d)”), al cărei prim volum (care nu conținea încă notația Big O) a fost publicat în 1892.^[1] Teoreticianul numerelor Edmund Landau^⁠(d) a adoptat-o și, astfel, a fost inspirat să introducă în 1909 notația o; ^[2] aici ambele sunt numite acum simboluri Landau. Aceste notații au fost folosite în matematica aplicată în anii 1950 pentru analiza asimptotică.^[27] Simbolul ${\displaystyle \Omega }$ (în sensul „nu este o de”) a fost introdus în 1914 de Hardy și Littlewood.^[13] Hardy și Littlewood au introdus, de asemenea, în 1918 simbolurile ${\displaystyle \Omega _{R}}$ („dreapta”) și ${\displaystyle \Omega _{L}}$ („stânga”), ^[14] precursori ai simbolurilor moderne ${\displaystyle \Omega _{+}}$ („nu este mai mică decât small o de”) și ${\displaystyle \Omega _{-}}$ („nu este mai mare decât small o de”). Astfel, simbolurile Omega (cu semnificațiile lor originale) sunt uneori denumite și „simboluri Landau”. Această notație ${\displaystyle \Omega }$ a devenit frecvent folosită în teoria numerelor cel puțin din anii 1950.^[28] În anii 1970, Big O a fost popularizată în domeniul informaticii de către Donald Knuth, care a introdus notația aferentă Theta și a propus o altă definiție pentru notația Omega.^[18]

Landau nu a folosit niciodată Theta mare și simboluri omega-mic.

Simbolurile lui Hardy erau (din punct de vedere al notației O moderne)

${\displaystyle f\preccurlyeq g\iff f\in O(g)}$   and   ${\displaystyle f\prec g\iff f\in o(g);}$

(Hardy însă nu a definit niciodată și nu a folosit notația ${\displaystyle \prec \!\!\prec }$ , nici ${\displaystyle \ll }$ , așa cum s-a afirmat uneori). De asemenea, Hardy a introdus simbolurile ${\displaystyle \preccurlyeq }$ și ${\displaystyle \prec }$ (precum și alte simboluri) în tratatul său din 1910, „Orders of Infinity”, și îl folosește doar în trei lucrări (1910-1913). În restul de aproape 400 de lucrări și cărți, el folosește consistent simbolurile Landau O și o.

Notația lui Hardy nu mai este folosită. Pe de altă parte, în 1930,^[29] teoreticianului rus al numerelor Ivan Matveievici Vinogradov^⁠(d) a introdus notația lui, ${\displaystyle \ll }$ , care este folosită din ce în ce mai mult în teoria numerelor în locul notației ${\displaystyle O}$ . Avem

${\displaystyle f\ll g\iff f\in O(g),}$

și în mod obișnuit ambele notații sunt utilizate în aceeași lucrare.

Big O reprezenta inițial „de ordinul lui” ("Ordnung", Bachmann 1894) și este așadar o literă latină. Nici Bachmann, nici Landau nu o numesc vreodată „Omicron”. Simbolul a fost considerat mult mai târziu (1976) de către Knuth drept omicron mare^[18] probabil în legătură cu definiția sa a simbolului Omega. Nu se folosește cifra zero.

• Hardy, G. H. (1910). Orders of Infinity: The 'Infinitärcalcül' of Paul du Bois-Reymond. Cambridge University Press. 
• Knuth, Donald (1997). „1.2.11: Asymptotic Representations”. Fundamental Algorithms. The Art of Computer Programming. 1 (ed. 3rd). Addison–Wesley. ISBN 978-0-201-89683-1. 
• Cormen, Thomas H.; Leiserson, Charles E.; Rivest, Ronald L.; Stein, Clifford (2001). „3.1: Asymptotic notation”. Introduction to Algorithms (ed. 2nd). MIT Press and McGraw–Hill. ISBN 978-0-262-03293-3. 
• Sipser, Michael (1997). Introduction to the Theory of Computation. PWS Publishing. pp. 226–228. ISBN 978-0-534-94728-6. 
• Avigad, Jeremy; Donnelly, Kevin (2004). Formalizing O notation in Isabelle/HOL (PDF). International Joint Conference on Automated Reasoning. doi:10.1007/978-3-540-25984-8_27. 
• Black, Paul E. (11 martie 2005). Black, Paul E., ed. „big-O notation”. Dictionary of Algorithms and Data Structures. U.S. National Institute of Standards and Technology. Accesat în 16 decembrie 2006. 
• Black, Paul E. (17 decembrie 2004). Black, Paul E., ed. „little-o notation”. Dictionary of Algorithms and Data Structures. U.S. National Institute of Standards and Technology. Accesat în 16 decembrie 2006. 
• Black, Paul E. (17 decembrie 2004). Black, Paul E., ed. „Ω”. Dictionary of Algorithms and Data Structures. U.S. National Institute of Standards and Technology. Accesat în 16 decembrie 2006. 
• Black, Paul E. (17 decembrie 2004). Black, Paul E., ed. „ω”. Dictionary of Algorithms and Data Structures. U.S. National Institute of Standards and Technology. Accesat în 16 decembrie 2006. 
• Black, Paul E. (17 decembrie 2004). Black, Paul E., ed. „Θ”. Dictionary of Algorithms and Data Structures. U.S. National Institute of Standards and Technology. Accesat în 16 decembrie 2006. 

• Creșterea șirurilor - OEIS (Online Encyclopedia of Integer Sequences) Wiki
• Introducere în notații asimptotice^{[nefuncțională]}
• Simboluri Landau
• Notația Big-O - la ce servește
• Big O Notation explicată în engleză simplă