Квантовая относительная энтропия

В теории информации квантовой квантовая относительная энтропия является мерой различимости двух квантовых состояний . Это квантовомеханический аналог относительной энтропии .

Мотивация

Для простоты будем считать, что все объекты в статье конечномерны.

Сначала мы обсудим классический случай. Предположим, что вероятности конечной последовательности событий заданы распределением вероятностей P = { p ₁ ... p _n }, но почему-то мы ошибочно предположили, что оно равно Q = { q ₁ ... q _n }. Например, мы можем принять нечестную монету за честную. Согласно этому ошибочному предположению, наша неопределенность относительно j -го события или, что то же самое, количества информации, предоставляемой после наблюдения j -го события, равна

\;-\log q_{j}.

Тогда (предполагаемая) средняя неопределенность всех возможных событий равна

\;-\sum _{j}p_{j}\log q_{j}.

С другой стороны, энтропия Шеннона распределения вероятностей p , определяемая формулой

\;-\sum _{j}p_{j}\log p_{j},

— это реальная величина неопределенности до наблюдения. Следовательно, разница между этими двумя величинами

\;-\sum _{j}p_{j}\log q_{j}-\left(-\sum _{j}p_{j}\log p_{j}\right)=\sum _{j}p_{j}\log p_{j}-\sum _{j}p_{j}\log q_{j}

является мерой различимости двух распределений вероятностей p и q . Это и есть классическая относительная энтропия, или дивергенция Кульбака – Лейблера :

D_{\mathrm {KL} }(P\|Q)=\sum _{j}p_{j}\log {\frac {p_{j}}{q_{j}}}\!.

Примечание

В приведенных выше определениях предполагается, что 0 · log 0 = 0, поскольку $\lim _{x\searrow 0}x\log(x)=0$ . Интуитивно можно было бы ожидать, что событие с нулевой вероятностью не внесет никакого вклада в энтропию.
Относительная энтропия не является показателем . Например, он не симметричен. Несоответствие неопределенности, связанное с принятием честной монеты за нечестную, — это не то же самое, что противоположная ситуация.

Определение

Как и многие другие объекты квантовой теории информации, квантовая относительная энтропия определяется путем расширения классического определения от распределений вероятностей до матриц плотности . Пусть ρ — матрица плотности. Энтропия фон Неймана ρ , которая является квантовомеханическим аналогом энтропии Шеннона, определяется выражением

S(\rho )=-\operatorname {Tr} \rho \log \rho .

Для двух матриц плотности ρ и σ квантовая относительная энтропия ρ относительно σ определяется выражением

S(\rho \|\sigma )=-\operatorname {Tr} \rho \log \sigma -S(\rho )=\operatorname {Tr} \rho \log \rho -\operatorname {Tr} \rho \log \sigma =\operatorname {Tr} \rho (\log \rho -\log \sigma ).

Мы видим, что когда состояния классически связаны, т. е. ρσ = σρ , определение совпадает с классическим случаем в том смысле, что если $\rho =SD_{1}S^{\mathsf {T}}$ и $\sigma =SD_{2}S^{\mathsf {T}}$ с $D_{1}={\text{diag}}(\lambda _{1},\ldots ,\lambda _{n})$ и $D_{2}={\text{diag}}(\mu _{1},\ldots ,\mu _{n})$ (потому что $\rho$ и $\sigma$ коммутируют , они одновременно диагонализуемы ), то $S(\rho \|\sigma )=\sum _{j=1}^{n}\lambda _{j}\ln \left({\frac {\lambda _{j}}{\mu _{j}}}\right)$ это просто обычное расхождение Кульбака-Лейблера вектора вероятности $(\lambda _{1},\ldots ,\lambda _{n})$ относительно вектора вероятности $(\mu _{1},\ldots ,\mu _{n})$ .

Неконечная (расходящаяся) относительная энтропия

В общем случае носителем матрицы M является ортогональное дополнение ее ядра , т.е. ${\text{supp}}(M)={\text{ker}}(M)^{\perp }$ . При рассмотрении квантовой относительной энтропии мы предполагаем, что − s · log 0 = ∞ для любого s > 0. Это приводит к определению, что

S(\rho \|\sigma )=\infty

когда

{\text{supp}}(\rho )\cap {\text{ker}}(\sigma )\neq \{0\}.

Это можно интерпретировать следующим образом. Неформально, квантовая относительная энтропия — это мера нашей способности различать два квантовых состояния, где большие значения указывают на более разные состояния. Ортогональность представляет собой самые разные квантовые состояния, которые только могут быть. Это отражается в бесконечной квантовой относительной энтропии для ортогональных квантовых состояний. Следуя аргументам, приведенным в разделе «Мотивация», если мы ошибочно предположим, что состояние $\rho$ имеет поддержку в ${\text{ker}}(\sigma )$ , это ошибка, которую невозможно исправить.

Однако следует быть осторожным и не заключить, что расходимость квантовой относительной энтропии $S(\rho \|\sigma )$ подразумевает, что государства $\rho$ и $\sigma$ ортогональны или даже сильно различаются по другим меркам. Конкретно, $S(\rho \|\sigma )$ может расходиться, когда $\rho$ и $\sigma$ различаются на исчезающе малую величину, если судить по некоторой норме. Например, пусть $\sigma$ иметь диагональное представление

$\sigma =\sum _{n}\lambda _{n}|f_{n}\rangle \langle f_{n}|$

с $\lambda _{n}>0$ для $n=0,1,2,\ldots$ и $\lambda _{n}=0$ для $n=-1,-2,\ldots$ где $\{|f_{n}\rangle ,n\in \mathbb {Z} \}$ является ортонормированным множеством. Ядро $\sigma$ - это пространство, охватываемое множеством $\{|f_{n}\rangle ,n=-1,-2,\ldots \}$ . Далее пусть

$\rho =\sigma +\epsilon |f_{-1}\rangle \langle f_{-1}|-\epsilon |f_{1}\rangle \langle f_{1}|$

для небольшого положительного числа $\epsilon$ . Как $\rho$ имеет поддержку (а именно государство $|f_{-1}\rangle$ ) в ядре $\sigma$ , $S(\rho \|\sigma )$ расходится, хотя следовая норма разности $(\rho -\sigma )$ является $2\epsilon$ . Это означает, что разница между $\rho$ и $\sigma$ измеренная по норме следа, исчезающе мала, поскольку $\epsilon \to 0$ Несмотря на то $S(\rho \|\sigma )$ расходится (т.е. бесконечен). Это свойство квантовой относительной энтропии представляет собой серьезный недостаток, если к нему не относиться с осторожностью.

Неотрицательность относительной энтропии

Соответствующее классическое утверждение

Для классической расходимости Кульбака – Лейблера можно показать, что

D_{\mathrm {KL} }(P\|Q)=\sum _{j}p_{j}\log {\frac {p_{j}}{q_{j}}}\geq 0,

и равенство выполняется тогда и только тогда, когда P = Q . В просторечии это означает, что неопределенность, рассчитанная с использованием ошибочных предположений, всегда превышает реальную величину неопределенности.

Чтобы показать неравенство, перепишем

D_{\mathrm {KL} }(P\|Q)=\sum _{j}p_{j}\log {\frac {p_{j}}{q_{j}}}=\sum _{j}(-\log {\frac {q_{j}}{p_{j}}})(p_{j}).

Обратите внимание, что log — вогнутая функция . Следовательно, -log выпуклый . Применяя неравенство Йенсена , получаем

D_{\mathrm {KL} }(P\|Q)=\sum _{j}(-\log {\frac {q_{j}}{p_{j}}})(p_{j})\geq -\log(\sum _{j}{\frac {q_{j}}{p_{j}}}p_{j})=0.

Неравенство Йенсена также утверждает, что равенство имеет место тогда и только тогда, когда для всех q i i ₌ (Σ q _j ) p _i , т. е. p = q .

Результат

Неравенство Клейна утверждает, что квантовая относительная энтропия

S(\rho \|\sigma )=\operatorname {Tr} \rho (\log \rho -\log \sigma ).

вообще неотрицательна. Оно равно нулю тогда и только тогда, когда ρ = σ .

Доказательство

Пусть ρ и σ имеют спектральные разложения

\rho =\sum _{i}p_{i}v_{i}v_{i}^{*}\;,\;\sigma =\sum _{i}q_{i}w_{i}w_{i}^{*}.

Так

\log \rho =\sum _{i}(\log p_{i})v_{i}v_{i}^{*}\;,\;\log \sigma =\sum _{i}(\log q_{i})w_{i}w_{i}^{*}.

Прямой расчет дает

S(\rho \|\sigma )=\sum _{k}p_{k}\log p_{k}-\sum _{i,j}(p_{i}\log q_{j})|v_{i}^{*}w_{j}|^{2}

\qquad \quad \;=\sum _{i}p_{i}(\log p_{i}-\sum _{j}\log q_{j}|v_{i}^{*}w_{j}|^{2})

\qquad \quad \;=\sum _{i}p_{i}(\log p_{i}-\sum _{j}(\log q_{j})P_{ij}),

где п _{я j} знак равно | v _я * ш _j | ².

Поскольку матрица ( P _{i j} ) _ij является дважды стохастической матрицей , а -log является выпуклой функцией, приведенное выше выражение имеет вид

\geq \sum _{i}p_{i}(\log p_{i}-\log(\sum _{j}q_{j}P_{ij})).

Определить р _{я знак} равно Σ _j q _j п я _j . Тогда { r _i } — распределение вероятностей. Из неотрицательности классической относительной энтропии мы имеем

S(\rho \|\sigma )\geq \sum _{i}p_{i}\log {\frac {p_{i}}{r_{i}}}\geq 0.

Вторая часть утверждения следует из того, что, поскольку -log строго выпукла, равенство достигается при

\sum _{i}p_{i}(\log p_{i}-\sum _{j}(\log q_{j})P_{ij})\geq \sum _{i}p_{i}(\log p_{i}-\log(\sum _{j}q_{j}P_{ij}))

тогда и только тогда, когда ( P _{i j} ) является матрицей перестановок , из чего следует ρ = σ , после подходящей маркировки собственных векторов { v _i } и { w _i }.

Совместная выпуклость относительной энтропии

Относительная энтропия совместно выпукла . Для $0\leq \lambda \leq 1$ и государства $\rho _{1(2)},\sigma _{1(2)}$ у нас есть

$D(\lambda \rho _{1}+(1-\lambda )\rho _{2}\|\lambda \sigma _{1}+(1-\lambda )\sigma _{2})\leq \lambda D(\rho _{1}\|\sigma _{1})+(1-\lambda )D(\rho _{2}\|\sigma _{2})$

Монотонность относительной энтропии

Относительная энтропия монотонно уменьшается при операциях полностью положительного сохранения следа (CPTP). ${\mathcal {N}}$ на матрицах плотности,

$S({\mathcal {N}}(\rho )\|{\mathcal {N}}(\sigma ))\leq S(\rho \|\sigma )$ .

Это неравенство называется монотонностью квантовой относительной энтропии и было впервые доказано Линдбладом .

Мера запутанности

Пусть составная квантовая система имеет пространство состояний

H=\otimes _{k}H_{k}

— ρ матрица плотности, действующая на H .

Относительная запутанности ρ энтропия определяется выражением

\;D_{\mathrm {REE} }(\rho )=\min _{\sigma }S(\rho \|\sigma )

где минимум берется по семейству сепарабельных состояний . Физическая интерпретация величины — оптимальная отличимость состояния ρ от сепарабельных состояний.

Очевидно, что когда ρ не запутано

\;D_{\mathrm {REE} }(\rho )=0

по неравенству Клейна.

Связь с другими квантовыми информационными величинами

Одна из причин полезности квантовой относительной энтропии заключается в том, что некоторые другие важные квантовые информационные величины являются ее частными случаями. Часто теоремы формулируются в терминах квантовой относительной энтропии, что приводит к немедленным следствиям, касающимся других величин. Ниже мы перечислим некоторые из этих отношений.

Пусть ρ _AB — совместное состояние двудольной системы с подсистемой A размерности n _A и B размерности n _B . Пусть ρ _A , ρ _B — соответствующие приведенные состояния, а I _A , I _B — соответствующие тождества. Максимально состояниями являются I _A / n _A и I _B / n _B. смешанными Тогда непосредственным вычислением можно показать, что