Kolmogorovkomplexitet

Säg att vi har objektet τ, en beskrivning av denna kan då sägas vara något ω om,

${\displaystyle f(\omega )=\tau }$ .

Den formella versionen av Kolmogorovkomplexitet är

${\displaystyle C(x)={\begin{cases}min_{p}{|p|:U(p)=x},&{\mbox{om }}x\in {\mbox{ran }}f\\\infty &{\mbox{annars}}\end{cases}}}$

där U är en Universell Turingmaskin, d.v.s. en maskin som kan simulera en godtycklig maskin för godtycklig indata.

1. ${\displaystyle C(x)\leq |x|+c}$ , c är konstant.
2. ${\displaystyle C(xx)\leq C(x)+c}$
3. För alla delvis beräknebara h är ${\displaystyle C(h(x))\leq C(x)+c_{h}}$ , där c_h är längden av en beskrivning av h.
4. ${\displaystyle C(x|y)\leq C(x)+c}$

Sats: För alla n finns det något x med |x| = n så att ${\displaystyle C(x)\leq n}$ . Detta x kallar vi för kolmogorovslump.

Bevis: Antag motsatsen. Då är ${\displaystyle C(x)<n}$ för alla x. Alltså måste det existera ett program p_x, ${\displaystyle g(p_{x})=x}$ och ${\displaystyle |p_{x}|<n}$ . Om ${\displaystyle x\neq y}$ är ej heller ${\displaystyle p_{x}\neq p_{y}}$ . Men det finns ${\displaystyle 2^{n}-1}$ program med kortare längd än n, och ${\displaystyle 2^{n}}$ strängar av längden n. Om alla strängar av längd n har ett program som är kortare än n, måste det finnas ett program som producerar två strängar. Uppenbarligen är det omöjligt och därav måste det finnas minst en sträng av längd n som har ett program av minst längden n.

Kolmogorovkomplexitet kan tillämpas i ett stort antal områden, bland annat har det tillämpats i

• Per Martin-Löfs test för slumpmässighet, informationsteori för individuella objekt
• allmän sannolikhet, induktivt resonemang och interferens, förutsägbarhet
• kombinatorik, okompressibilitetsmetoden, grafteori
• logiskt djup, universell optimal sökning, beräkningstermodynamik, statistisk termodynamik och Boltzmann-entropi

Till exempel kan Kolmogorovkomplexitet tillämpas för att bevisa ett antal klassiska satser, som i följande exempel där teorin används för att bevisa att det finns oändligt många primtal.

Bevis för att det finns oändligt antal primtal: Antag först motsatsen, att det finns ett ändligt antal primtal. I så fall kan vi säga att det finns det k stycken primtal, p₁, p₂,...,p_k för k ${\displaystyle \in \mathbb {N} }$ . Vi kan då välja ett tal m${\displaystyle \in \mathbb {N} }$ och skriva det som en produkt av primtalen ${\displaystyle m={p_{1}}^{e_{1}}*...*{p_{k}}^{e_{k}}}$ .

Låt m vara Kolmogorovslumpen av längden n. Vi kan påstå att det ger en kort beskrivning av m. Först för att ${\displaystyle e_{i}\leq \log {m}}$ . Då är ${\displaystyle |e_{i}|\leq \log {m}}$ . Vilket ger ${\displaystyle |\langle e_{1},...,e_{k}\rangle |\leq 2k\log {\log {m}}}$ . Därav då ${\displaystyle m\leq 2^{n+1}}$ och ${\displaystyle |\langle e_{1},...,e_{k}\rangle |\leq 2k\log {n+1}}$ blir ${\displaystyle C(m)=2k\log {n+1}+c}$ . Då m är slumpmässigt valt blir ${\displaystyle C(m)\geq n}$ falskt för stora n.

Kolmogorovkomplexitet gjordes känd av matematikern Andrej Kolmogorov, men definierades tidigare av Raymond J. Solomonoff som en del i hans arbete kring algoritmisk informationsteori ^[2] och matematisk induktion och även senare av Gregory J. Chaitin, som formulerade en rigorös definition i den artikel han publicerade 1969.^[3] Motivationen till Kolmogorovs arbete var informationsteoretisk och inriktad på slump/kaos medan Solomonoffs var motiverat av matematisk induktion.

I somliga fall kallas teorin för algoritmisk entropi. Detta härrör från att entropi i ett system är ett mått på systemets kaos. Inom informationsteori refererar entropi vanligast till Shannons entropi som delar flertalet egenskaper med Kolmogorovkomplexitet.

Noter

Källor

• http://people.cs.uchicago.edu/~fortnow/papers/kaikoura.pdf
• http://homepages.cwi.nl/~paulv/kolmogorov.html
• http://harnold.org/downloads/publications/kcim.pdf - Okompressibilitetsmetoden
• http://www.scholarpedia.org/article/Algorithmic_complexity
• http://www.cwi.nl/~paulv/papers/solomonoff.ps