Entropia termodinâmica no SDCTI GRACELI -CADEIAS DE INTERAÇÕES E DIMENS. FENOM.

Em estatística matemática, a divergência de Kullback-Leibler (também chamada de entropia relativa) é uma medida de, como uma distribuição de probabilidades diverge de uma segunda distribuição de probabilidades esperada distribuição. ^[1]^[2] As aplicações incluem a caracterização da entropia ('teoria da informação') em sistemas de informação, a aleatoriedade, em séries temporais, ganho de informação ao comparar com modelos estatísticos de inferência. Em contraste com a variação de informação, é uma medida 'assimétria' da distribuição e, portanto, não se qualifica como uma métrica estatística. No caso mais simples, se a divergência de Kullback-Leibler for igual a 0, esta indica que podemos esperar um comportamento semelhante, se não o mesmo, entre duas distribuições diferentes, enquanto uma divergência de Kullback-Leibler de 1 indica que as duas distribuições se comportam de maneira diferente. Em termos simplificados, é uma medida com diversas aplicações nas áreas de estatística aplicada, mecânica dos fluidos, neurociência e aprendizado de máquina.

Etimologia[editar | editar código-fonte]

A divergência de Kullback-Leibler foi introduzida por Solomon Kullback e Richard Leibler em 1951 como a divergência, distância entre duas distribuições; Kullback preferiu o termo 'informação de discriminação' . ^[3]

Interpretações[editar | editar código-fonte]

A divergência de Kullback-Leibler de Q para P é frequentemente denotada com D_KL(P‖Q ).

No contexto do aprendizado de máquina, D_KL( P‖Q ) é frequentemente chamado de ganho de informação alcançado se Q for usado ao invés de P. Por analogia com a teoria da informação, também é chamada de entropia relativa de Pem relação a Q. No contexto da teoria de codificação, D _KL(P‖Q) pode ser interpretado como medida do número esperado de bits extras bits necessários para código amostras de P usando um código optimizado para Q ao invés do código optimizado para P.

Na visão de [Inferência Bayesiana]], D_KL (P‖Q) é uma medida da informação obtida quando alguém revê suas crenças da distribuição de probabilidade inicial Q para distribuição de probabilidade final P. Em outras palavras, é a quantidade de informação perdida quando Q é usado para aproximar P. ^[4] Em aplicações, P tipicamente representa a distribuição "verdadeira" de dados, observações, ou uma distribuição teórica precisamente calculada, enquanto Q tipicamente representa uma teoria, modelo , descrição ou aproximação de P. Para encontrar uma distribuição Q mais próxima de P, podemos minimizar a divergência de KL e computar uma projeção de informação.

A divergência de Kullback-Leibler é um caso especial de uma classe mais ampla de divergências chamada divergênciasf assim como a classe de divergência de Bregman. É a única divergência sobre probabilidades que é um membro de ambas as classes. Muitas vezes é intuído pensar como uma forma de medir a distância entre distribuições de probabilidade, a divergência de Kullback-Leibler não é uma verdadeiramente métrica. Ela não obedece à desigualdade triangular e, em geral, D_KL( P‖Q ) não é igual a D_KL( Q‖P ). No entanto, sua forma infinitesimal, especificamente sua Hessiana, fornece um tensor métrico conhecido como informação de Fisher.

Definição[editar | editar código-fonte]

Para uma distribuição discreta de probabilidade P e Q, a divergência de Kullback-Leibler de Q para P 'é definida.^[5] como,

D_{\mathrm {KL} }(P\|Q)=-\sum _{i}P(i)\,\log {\frac {Q(i)}{P(i)}},

x

\left(\alpha _{0}mc^{2}+\sum _{{j=1}}^{3}\alpha _{j}p_{j}\,c\right)\psi ({\mathbf {x}},t)=i\hbar {\frac {\partial \psi }{\partial t}}({\mathbf {x}},t)

o que é equivalente a

D_{\mathrm {KL} }(P\|Q)=\sum _{i}P(i)\,\log {\frac {P(i)}{Q(i)}}.

x

\left(\alpha _{0}mc^{2}+\sum _{{j=1}}^{3}\alpha _{j}p_{j}\,c\right)\psi ({\mathbf {x}},t)=i\hbar {\frac {\partial \psi }{\partial t}}({\mathbf {x}},t)

Em outras palavras, é a expectativa da diferença logarítmica entre as probabilidades P e Q, onde a expectativa é obtida usando as probabilidades P. A divergência de Kullback-Leibler é definida apenas se para todo i, Q(i) =0 implica P(i)=0 (continuidade absoluta). Sempre que P(i) é zero, a contribuição do i-ésimo termo é interpretado como zero pois

\lim _{x\to 0}x\log(x)=0

Para as distribuições P e Q de uma variável aleatória contínua, a divergência de Kullback-Leibler é definida como sendo a integral:^[6]

D_{\mathrm {KL} }(P\|Q)=\int _{-\infty }^{\infty }p(x)\,\log {\frac {p(x)}{q(x)}}\,dx,

x

\left(\alpha _{0}mc^{2}+\sum _{{j=1}}^{3}\alpha _{j}p_{j}\,c\right)\psi ({\mathbf {x}},t)=i\hbar {\frac {\partial \psi }{\partial t}}({\mathbf {x}},t)

onde p e q denotam as densidades de P e Q.

De mode geral, se P e Q são probabilidade medida sobre um conjunto X, e P é absolutamente contínua em relação a Q, então o Kullback-Leibler divergência de Q para P é definida como

D_{\mathrm {KL} }(P\|Q)=\int _{X}\log {\frac {dP}{dQ}}\,dP,

x

\left(\alpha _{0}mc^{2}+\sum _{{j=1}}^{3}\alpha _{j}p_{j}\,c\right)\psi ({\mathbf {x}},t)=i\hbar {\frac {\partial \psi }{\partial t}}({\mathbf {x}},t)

Onde

{\frac {dP}{dQ}}

é a derivada de Radon-Nikodym de P em relação a Q, garantindo dado que a expressão do lado direito exista. Equivalente, isso pode ser escrito como

D_{\mathrm {KL} }(P\|Q)=\int _{X}\log \!\left({\frac {dP}{dQ}}\right){\frac {dP}{dQ}}\,dQ,

x

\left(\alpha _{0}mc^{2}+\sum _{{j=1}}^{3}\alpha _{j}p_{j}\,c\right)\psi ({\mathbf {x}},t)=i\hbar {\frac {\partial \psi }{\partial t}}({\mathbf {x}},t)

que é a entropia de P em relação a Q. Continuando neste caso, se

\mu

é uma medida em X para o qual

p={\frac {dP}{d\mu }}

q={\frac {dQ}{d\mu }}

existita (o que significa que p e q são absolutamente contínuas em relação a

\mu

), então a divergência Kullback–Leibler de Q a P é dada como

D_{\mathrm {KL} }(P\|Q)=\int _{X}p\,\log {\frac {p}{q}}\,d\mu .\!

x

\left(\alpha _{0}mc^{2}+\sum _{{j=1}}^{3}\alpha _{j}p_{j}\,c\right)\psi ({\mathbf {x}},t)=i\hbar {\frac {\partial \psi }{\partial t}}({\mathbf {x}},t)

Os logaritmos destas fórmulas são tomados na base 2 se a informação é medida em unidades de bits ou na base e se a informação é medida em nat s. A maioria das fórmulas envolvendo a divergência de Kullback-Leibler são verdadeiras independente da base do logaritmo.

Existem várias convenções para se referir a D_KL(P‖Q) em palavras. Muitas vezes é referida como a divergência entre P e Q; no entanto, isso não consegue transmitir a assimetria fundamental na relação. Às vezes, como neste artigo, pode ser encontrada descrita como a divergência de P a partir de, ou em relação a Q. Isso reflete a assimetria na inferência bayesiana, que inicia de um Q anterior e atualiza para o P posterior.

Etimologia[editar | editar código-fonte]

Interpretações[editar | editar código-fonte]

A divergência de Kullback-Leibler de Q para P é frequentemente denotada com D_KL(P‖Q ).

Definição[editar | editar código-fonte]

Para uma distribuição discreta de probabilidade P e Q, a divergência de Kullback-Leibler de Q para P 'é definida.^[5] como,

D_{\mathrm {KL} }(P\|Q)=-\sum _{i}P(i)\,\log {\frac {Q(i)}{P(i)}},

x

\left(\alpha _{0}mc^{2}+\sum _{{j=1}}^{3}\alpha _{j}p_{j}\,c\right)\psi ({\mathbf {x}},t)=i\hbar {\frac {\partial \psi }{\partial t}}({\mathbf {x}},t)

o que é equivalente a

D_{\mathrm {KL} }(P\|Q)=\sum _{i}P(i)\,\log {\frac {P(i)}{Q(i)}}.

x

\left(\alpha _{0}mc^{2}+\sum _{{j=1}}^{3}\alpha _{j}p_{j}\,c\right)\psi ({\mathbf {x}},t)=i\hbar {\frac {\partial \psi }{\partial t}}({\mathbf {x}},t)

\lim _{x\to 0}x\log(x)=0

Para as distribuições P e Q de uma variável aleatória contínua, a divergência de Kullback-Leibler é definida como sendo a integral:^[6]

D_{\mathrm {KL} }(P\|Q)=\int _{-\infty }^{\infty }p(x)\,\log {\frac {p(x)}{q(x)}}\,dx,

x

\left(\alpha _{0}mc^{2}+\sum _{{j=1}}^{3}\alpha _{j}p_{j}\,c\right)\psi ({\mathbf {x}},t)=i\hbar {\frac {\partial \psi }{\partial t}}({\mathbf {x}},t)

onde p e q denotam as densidades de P e Q.

De mode geral, se P e Q são probabilidade medida sobre um conjunto X, e P é absolutamente contínua em relação a Q, então o Kullback-Leibler divergência de Q para P é definida como

D_{\mathrm {KL} }(P\|Q)=\int _{X}\log {\frac {dP}{dQ}}\,dP,

x

\left(\alpha _{0}mc^{2}+\sum _{{j=1}}^{3}\alpha _{j}p_{j}\,c\right)\psi ({\mathbf {x}},t)=i\hbar {\frac {\partial \psi }{\partial t}}({\mathbf {x}},t)

Onde

{\frac {dP}{dQ}}

é a derivada de Radon-Nikodym de P em relação a Q, garantindo dado que a expressão do lado direito exista. Equivalente, isso pode ser escrito como

D_{\mathrm {KL} }(P\|Q)=\int _{X}\log \!\left({\frac {dP}{dQ}}\right){\frac {dP}{dQ}}\,dQ,

x

\left(\alpha _{0}mc^{2}+\sum _{{j=1}}^{3}\alpha _{j}p_{j}\,c\right)\psi ({\mathbf {x}},t)=i\hbar {\frac {\partial \psi }{\partial t}}({\mathbf {x}},t)

que é a entropia de P em relação a Q. Continuando neste caso, se

\mu

é uma medida em X para o qual

p={\frac {dP}{d\mu }}

q={\frac {dQ}{d\mu }}

existita (o que significa que p e q são absolutamente contínuas em relação a

\mu

), então a divergência Kullback–Leibler de Q a P é dada como

D_{\mathrm {KL} }(P\|Q)=\int _{X}p\,\log {\frac {p}{q}}\,d\mu .\!

x

\left(\alpha _{0}mc^{2}+\sum _{{j=1}}^{3}\alpha _{j}p_{j}\,c\right)\psi ({\mathbf {x}},t)=i\hbar {\frac {\partial \psi }{\partial t}}({\mathbf {x}},t)

x
TRANSFORMAÇÕES ⇔ INTERAÇÕES ⇔ TUNELAMENTO ⇔ EMARANHAMENTO ⇔ CONDUTIVIDADE ⇔ DIFRAÇÕES ⇔ radioatividade, ABSORÇÕES E EMISSÕES INTERNA ⇔ Δ de temperatura e dinâmicas, transições de estados quântico Δ ENERGIAS, ⇔ Δ MASSA , ⇔ Δ CAMADAS ORBITAIS , ⇔ Δ FENÔMENOS , ⇔ Δ DINÂMICAS, ⇔ Δ VALÊNCIAS, ⇔ Δ BANDAS, Δ entropia e de entalpia, E OUTROS.

\left(\alpha _{0}mc^{2}+\sum _{{j=1}}^{3}\alpha _{j}p_{j}\,c\right)\psi ({\mathbf {x}},t)=i\hbar {\frac {\partial \psi }{\partial t}}({\mathbf {x}},t)

[EQUAÇÃO DE DIRAC].

\Delta U={\frac {3}{2}}nR(T_{f}-T_{i})

N=N_{{o}}.e^{{-\lambda .t}}

T=e^{-2bL}

b={\sqrt {\frac {8\pi ^{2}m(Ub-E)}{h^{2}}}}

\Delta S=S_{2}-S_{1}=\int _{1}^{2}{\frac {\delta Q}{T}}

\sigma =q(n\mu _{n}+p\mu _{p})[\Omega .cm]^{{-1}}

E_{p}={\sqrt {{\frac {\hbar c^{5}}{G}}}}\approx

$V [R] [MA] = Δ e, M, Δ f, Δ E, Δ t, Δ i, Δ T, Δ C, Δ E, Δ A, Δ D, Δ M...... X =$

ΤDCG

X

Δe, ΔM, Δf, ΔE, Δt, Δi, ΔT, ΔC, ΔE,ΔA, ΔD, ΔM...... =
x
sistema de dez dimensões de Graceli +
DIMENSÕES EXTRAS DO SISTEMA DECADIMENSIONAL E CATEGORIAL GRACELI.
DIMENSÕES DE FASES DE ESTADOS DE TRANSIÇÕES DE GRACELI.
x

sistema de transições de estados, e estados de Graceli, fluxos aleatórios quântico, potencial entrópico e de entalpia.

x
TEMPO ESPECÍFICO E FENOMÊNICO DE GRACELI
X
T l   T l    E l      Fl        dfG l

N l   El             tf l

P l   Ml           tfefel

Ta l   Rl

         Ll

D

sábado, 31 de agosto de 2019

Etimologia[editar | editar código-fonte]

Interpretações[editar | editar código-fonte]

Definição[editar | editar código-fonte]

Etimologia[editar | editar código-fonte]

Interpretações[editar | editar código-fonte]

Definição[editar | editar código-fonte]