在拓扑动力系统中，拓扑熵^[1]是一个拓扑共轭不变量，可用来刻画系统的复杂程度。非紧集的拓扑熵^[2-3]与测度熵、Lyapunov指数等密切相关^[4-11]，可用来研究系统中的重分形谱^[12]、饱和集^[6]和非正则集等^{[5, 7]}。

学者们从多个角度对拓扑熵进行了深入研究，发现系统中满足一定条件的零测集具有与整个系统相同的拓扑熵或Hausdorff维数。如：BARREIRA和SCHMELING^[4]证明了针对拓扑混合的有限型子转移，如果Hölder连续函数g对0是非上同调的，那么g的Birkhoff平均不规则集上的拓扑熵等于这个有限型子转移的拓扑熵; PESIN^[5]证明了针对符号系统，非generic点集上的拓扑熵等于整个系统的拓扑熵; CHEN等^[6]证明了满足specification性质的非正则集上的拓扑熵等于整个系统的拓扑熵; TIAN^[7]证明了系统中若干周期类点集的差集上的拓扑熵等于整个系统的拓扑熵; ZHU和MA^[8]将文献[6-7]的结论推广到了自由半群作用的系统中。

在迭代函数系统(IFS)中，ELTON^[13]得到了一个遍历定理(Elton定理)：对任意连续函数，符号空间中几乎所有的点，IFS的时间平均等于空间平均。受文献[4-8]的启发，本文探讨符号空间中Elton定理不成立的点构成的集合的性质及其拓扑熵、Hausdorff维数与整个系统的拓扑熵、Hausdorff维数的关系。

1.   主要结果

设(X, d)是紧致度量空间。映射T: X→X称为一个压缩映射，如果$d(T(x), T(y)) \leqslant \theta d(x, y)$, $\forall x, y \in X$，其中θ(0 < θ < 1)是一个常数。如果{T₀, T₁, …, T_m-1}是X上的压缩映射族，那么称(X, T₀, T₁, …, T_m-1)为迭代函数系统(IFS)。由文献[14]可知，对于迭代函数系统(X, T₀, T₁, …, T_m-1)，如果存在唯一的非空子集$E \subset X$，使得$E=\bigcup\limits_{j=0}^{m-1} T_j(E)$，则E被称为$\left(X, T_0, T_1, \cdots, T_{m-1}\right)$的吸引子。

设(X, T₀, T₁, …, T_m-1)是一个迭代函数系统，(p₀, p₁, …, p_m-1)是一个概率向量，即$p_i>0(0 \leqslant i \leqslant m-1), \sum_{i=0}^{m-1} p_i=1$。HUTCHINSON^[14]证明了存在唯一的Borel概率测度ν，使得对所有的Borel集$Z \subset X$，有

且supp ν是(X, T₀, T₁, …, T_m-1)的吸引子E, 这个概率测度ν称为是(X, T₀, T₁, …, T_m-1)的关于概率向量(p₀, p₁, …, p_m-1)的不变测度。

设$\varSigma=\prod\limits_{n=1}^{\infty}\{0, 1, \cdots, m-1\}$为符号空间，(p₀, p₁, …, p_m-1)是一个概率向量，P为由每一个因子的测度p({i})=p_i诱导的乘积测度。

1987年，ELTON^[13]得到了迭代函数系统(X, T₀, T₁, …, T_m-1)中的一个遍历定理：

定理A^[13]   (Elton定理)对于X上的任意连续函数f和任意$x \in X$, 有

相对于乘积测度P而言，对几乎所有的(j₀, j₁, …)$\in$Σ成立。

对任意f$\in$C(X)和任意$x \in X$，记f的Elton定理不成立的点构成的集合为

根据定理A，对Σ上的每一个乘积测度P，均有P(B₁(f, x))=0，B₁(f, x)是σ-不变的，其中σ是Σ上的推移映射。

本文研究集合B₁(f, x)的拓扑熵、Hausdorff维数与整个系统的拓扑熵、Hausdorff维数的关系。

设A为m×m阶矩阵，A的每个元素a_ij取值为0或1。设$\varSigma_A \subset \varSigma$是紧致的σ-不变子集，使得任意(i₀, i₁, …)$\in$Σ_A，满足a_in i_n+1 =1，n≥0，映射σ|_ΣA称为由矩阵A决定的有限型子转移。称σ|_ΣA拓扑混合当且仅当存在一个正整数k，使得A^k的所有元素的值都是正的。σ|_ΣA的拓扑熵为h(σ|_ΣA)=log ρ(A)^[15]，其中ρ(A)表示A的谱半径。

如果存在连续函数$\psi: \varSigma_A \rightarrow \mathbb{R}$，存在$c \in \mathbb{R}$，使得$g_1-g_2=\psi-\psi \circ \sigma+c$，则称2个函数$g_1, g_2: \varSigma_A \rightarrow \mathbb{R}$ 是上同调的。对于每一个连续函数$g: \varSigma_A \rightarrow \mathbb{R}$，定义g的Birkhoff平均的不规则集为

注意，集合B(g)是σ-不变的。根据Birkhoff遍历定理^[15]，对于Σ_A上每一个σ-不变测度μ，有μ(B(g))=0。1997年，BARREIRA和SCHMELING^[4]证明了满足一定条件的Birkhoff平均不规则集上的拓扑熵等于这个有限型子转移的拓扑熵。

定理B^[4]   对于拓扑混合的有限型子转移，如果Hölder连续函数g对0是非上同调的，那么

其中，h(σ|B(g))、h(σ|Σ_A)分别表示B(g)、Σ_A上的σ拓扑熵，B(g)表示g的Birkhoff平均不规则集，Σ_A表示由矩阵A确定的符号空间Σ的σ-不变子集。

下面给出本文定理证明需要用到的一个结论：

定理C^[12]   对符号系统(Σ, σ)，对任意$Z \subset \Sigma$，有

其中，Σ由m个符号生成，h(σ|Z)表示Z上的拓扑熵，HD(Z)表示Z上的Hausdorff维数。

本文主要结论如下：

定理1   设(X, T₀, T₁, …, T_m-1)是一个迭代函数系统，对任意g$\in$C₁(X)和任意$x \in X$，这里$C_1(X)=\{g \in \left.C(X) \mid \int_X g \mathrm{~d} \nu_1 \neq \int_X g \mathrm{~d} \nu_2, \forall \nu_1, \nu_2 \in M(X), \nu_1 \neq \nu_2\right\}$, $M(X)$表示(X, T₀, T₁, …, T_m-1)中关于所有概率向量的不变测度的集合，有

即B₁(g, x)是满熵的，且具有满Hausdorff维数。

证明   仿照定理B的证明方法，设(p₀, p₁, …, p_m-1)和(q₀, q₁, …, q_m-1)是任何概率向量，且

设P₁、P₂分别表示由(p₀, p₁, …, p_m-1)、(q₀, q₁, …, q_m-1)诱导的乘积测度，ν₁、ν₂分别表示(X, T₀, T₁, …, T_m-1)关于(p₀, p₁, …, p_m-1)、(q₀, q₁, …, q_m-1)的不变测度，则有P₁≠P₂, ν₁≠ν₂。给定ε>0，存在概率向量(p₀, p₁, …, p_m-1)和(q₀, q₁, …, q_m-1)，使得(p₀, p₁, …, p_m-1)≠(q₀, q₁, …, q_m-1)，h_Pi(σ)>h(σ)-ε(i=1, 2)。其中h_Pi(σ)表示关于P_i的σ测度论熵。因为ν₁≠ν₂，所以$\int_X g \mathrm{~d} \nu_1 \neq \int_X g \mathrm{~d} \nu_2, g \in C_1(X)$。选择δ$\in$(0, ε), 使得$\left|\int_X g \mathrm{~d} \nu_1-\int_X g \mathrm{~d} \nu_2\right|>4 \delta$。固定$x \in X$, 设Γ_i^l(i=1, 2;l≥1)表示Σ中满足下面不等式的点(j₀, j₁, …)构成的集合：对任意n≥l，满足

令$p_s=s(\bmod 2), l_s$是正整数的递增序列，使得对每一个整数$s \geqslant 1$, 有$P_{p_s}\left(\Gamma_{P_s}^{l_s}\right)>1-\varepsilon / 2^s$。令$m_1= n_1=l_1, m_s=\left(n_{s-1}+1+l_{s+1}\right)!, n_s=n_{s-1}+1+m_s$。构造如下柱集族：$\mathscr{C}_s=\left\{C_{m_s}\left(j_0, j_1, \cdots\right) \mid\left(j_0, j_1, \cdots\right) \in \Gamma_{p_s}^{l_s}\right\}, \mathscr{D}_1= \mathscr{C}_1$和$\mathscr{D}_s=\left\{\underline{C} C \bar{C} \mid \underline{C} \in \mathscr{D}_{s-1}, \bar{C} \in \mathscr{C}_s\right.$, 柱集的长度|C|=1}。

令$\varLambda=\bigcap\limits_{s \geqslant 1} \cup C$，定义Λ上的测度μ如下:

对于每个可测集$A \subset \varSigma$，令$\mu(A)=\mu(A \cap \varLambda)$，则μ扩展到了Σ上。

如果$s>1, \underline{C} \in \mathscr{D}_{s-1}$，那么

如果ε < 2，那么

设$\left(j_0, j_1, \cdots\right) \in C \in \mathscr{D}_s$，由于$\left(j_{|C|-m_s}, j_{|C|-m_s+1}, \cdots\right) \in \Gamma_{p_s}^{l_s}$，当$s \rightarrow \infty$ 时，有$\frac{|C|}{m_s} \rightarrow 1$足够大，那么

由于$\delta \in(0, \varepsilon)$，可知$\varLambda \subset B_1(g, x)$。现在设$\left(j_0\right., \left.j_1, \cdots\right) \in \varLambda$，如果q足够大，那么

对某$\eta \in(0, 2 \varepsilon)$成立。这意味着

由于ε是任意的，则$h\left(\sigma \mid B_1(g, x)\right)=h(\sigma)$。

此外，由定理C可得

证毕。

2.   例子

例1   设$X=[0, 1], T_0: x \mapsto \frac{1}{3} x, T_1: x \mapsto \frac{1}{3} x+$ $\frac{2}{3} \circ\left(X, T_0, T_1\right)$的吸引子是Cantor集E：

取g$\in$C(X), 使得g(x)=a, x$\in$[0, 1/3], g(x)=b, x$\in$[2/3, 1], 这里a≠b。对于任意$x \in X$，令E(g, x)={x_i0 i₁… |(i₀, i₁, …)$\in$B₁(g, x)} E。那么以下结论成立：

(1) 对于任意的$x \in X$，有

这里$\varSigma=\prod\limits_{n=1}^{\infty}\{0, 1\}$。

(2) 对于任意$x \in X$，有

例1中的结论(1)可由定理1直接得出。结论(2)中集合E(g, x)是Cantor集E的一个子集，由于系统$\left(\prod\limits_{n=1}^{\infty}\{0, 1\}, \sigma\right)$与(E, ψ)是拓扑共轭的，E中任一集合与其在$\prod\limits_{n=1}^{\infty}\{0, 1\}$中的象集有相同的拓扑熵。针对系统(E, ψ)，集合E(g, x)上的Hausdorff维数与其拓扑熵有关系，因此，下面给出结论(2)证明中需用到的一个定理：

定理D^[11]   对紧致系统(X, f)，若存在α>1，对任意充分小的正数ε，当$d(x, y) < \varepsilon$时，有$d(f(x)$, $f(y))=\alpha d(x, y)$，则对任意$Z \subset X$，有

例1的证明   (1)设(p₀, p₁)和(q₀, q₁)为任意概率向量，且(p₀, p₁)≠(q₀, q₁)。那么p₀≠q₀, p₁≠q₁。设ν₁、ν₂分别表示(X, T₀, T₁)关于(p₀, p₁)、(q₀, q₁)的不变测度, 则ν₁≠ν₂，且

因此

从而有$\int_X g \mathrm{~d} \nu_1 \neq \int_X g \mathrm{~d} \nu_2$。根据定理1，对任意$x \in X$，有

(2) 对于迭代函数系统(X, T₀, T₁)，可以定义一个连续的自映射

那么(E, ψ)是一个离散动力系统。定义$\varphi: \prod\limits_{n=0}^{\infty}\{0, 1\} \rightarrow E, \varphi\left(i_0, i_1, \cdots\right)=\bigcap\limits_{n=0}^{\infty} T_{i_0} \circ T_{i_1} \circ \cdots \circ T_{i_n}(E): =x_{i_0 i_1 \cdots}, \forall\left(i_0, \right. \left.i_1, \cdots\right) \in \prod\limits_{n=0}^{\infty}\{0, 1\}$，则φ是E到$\prod\limits_{n=0}^{\infty}\{0, 1\}$的同胚，有$\varphi \circ \sigma=\psi \circ \varphi$, 也就是说，φ是拓扑共轭，σ是$\prod\limits_{n=0}^{\infty}\{0, 1\}$上的推移映射。易见E(g, x)=φ(B₁(g, x))。由定理C、定理D和(1)，可得