たとえば、次のことを考える。

$(\sharp_{11})$ $x_{111}, x_{112}, x_{113},..., x_{11n}$ は正規分布$N(\mu_{11}, \sigma)$から得られたデータ
$(\sharp_{21})$ $x_{211}, x_{212}, x_{213},..., x_{21n}$ は正規分布$N(\mu_{21}, \sigma)$から得られたデータ
$(\sharp_{31})$ $x_{311}, x_{312}, x_{313},..., x_{31n}$ は正規分布$N(\mu_{31}, \sigma)$から得られたデータ
$(\sharp_{12})$ $x_{121}, x_{122}, x_{123},..., x_{12n}$ は正規分布$N(\mu_{12}, \sigma)$から得られたデータ
$(\sharp_{22})$ $x_{221}, x_{222}, x_{223},..., x_{22n}$ は正規分布$N(\mu_{22}, \sigma)$から得られたデータ
$(\sharp_{32})$ $x_{321}, x_{322}, x_{323},..., x_{32n}$ は正規分布$N(\mu_{32}, \sigma)$から得られたデータ
と仮定しよう。 このとき、
  • データ$(\sharp_{11})-(\sharp_{32})$ から、
    「$ \frac{\mu_{11}+\mu_{12}}{2} = \frac{\mu_{21}+\mu_{22}}{2} = \frac{\mu_{31}+\mu_{32}}{2} $」 の可能性は少ない
    と結論するには、 如何なる議論が可能か？
を考えたい。 これが、 二元配置分散分析(I) で以下に説明する。

$\S$7.3.1: 準備

前節の一元配置分散分析の拡張として, もうすこし一般的な並行同時正則観測量 ${\mathsf O}_G^{{{abn}}} = (X(\equiv {\mathbb R}^{{{abn}}}),$ $ {\mathcal B}_{\mathbb R}^{{{abn}}}, {{{G}}^{{{abn}}}} )$ ( in $L^\infty (\Omega ( \equiv ({\mathbb R}^{ab} \times {\mathbb R}_+))$ ) を以下のように考えよう.

\begin{align} & [{{{G}}}^{abn} (\widehat{\Xi})] (\omega) \nonumber \\ = & \frac{1} {({ {\sqrt{2 \pi } \sigma} })^{abn}} \underset{ \widehat{\Xi} } {\int \cdots \int} \exp[- \frac{ \sum_{i=1}^a \sum_{j=1}^b \sum_{k=1}^n (x_{ijk} - \mu_{ij} )^2 }{2 \sigma^2} ] \times_{k=1}^n \times_{j=1}^b \times_{i=1}^a d{x_{ijk} } \nonumber \\ & \qquad ( \forall \omega =((\mu_{ij})_{i=1,2, \ldots, a,j=1,2, \ldots, b}, \sigma) \in \Omega = {\mathbb R}^{ab} \times {\mathbb R}_+ , \widehat{\Xi} \in {\mathcal B}_{\mathbb R}^{abn} ) \tag{7.31} \end{align}

したがって,次のような並行同時正規測定:

\begin{align} {\mathsf M}_{L^\infty ({\mathbb R}^{ab} \times {\mathbb R}_+ )} ( {\mathsf O}_G^{{{abn}}} = (X(\equiv {\mathbb R}^{{{abn}}}), {\mathcal B}_{\mathbb R}^{{{abn}}}, {{{G}}^{{{abn}}}} ), S_{[(\mu=(\mu_{ij}\;|\; i=1,2,\cdots, a, j=1,2,\cdots,b ), \sigma )]} ) \end{align}

ここに, \begin{align} \mu_{ij} & = \overline{\mu} (= \mu_{\bullet \bullet } = \frac{\sum_{i=1}^a \sum_{j=1}^b \mu_{ij} }{ab}) \nonumber \\ & \quad + \alpha_i (= \mu_{i \bullet} - \mu_{\bullet \bullet } = \frac{\sum_{j=1}^b \mu_{ij} }{b} - \frac{\sum_{i=1}^a \sum_{j=1}^b \mu_{ij} }{ab} ) \nonumber \\ & \quad + \beta_j (=\mu_{\bullet j } - \mu_{\bullet \bullet } = \frac{\sum_{i=1}^a \mu_{ij} }{a} - \frac{\sum_{i=1}^a \sum_{j=1}^b \mu_{ij} }{ab} ) \nonumber \\ & \quad + {(\alpha \beta)}_{ij} (=\mu_{ij} -\mu_{i \bullet}-\mu_{ \bullet j}+ \mu_{\bullet \bullet } ) \tag{7.32} \end{align}

として,

\begin{align} &X={\mathbb R}^{abn} \ni x = (x_{ijk})_{i=1,2,\ldots,a,\; j=1,2,\ldots,b, \; k=1,2, \ldots, n} \nonumber \\ & x_{ij\bullet}= \frac{\sum_{k=1}^{n}x_{ijk}}{n}, \quad x_{i \bullet \bullet} =\frac{\sum_{j=1}^b \sum_{k=1}^n x_{ijk}}{bn}, \quad x_{ \bullet j \bullet} =\frac{\sum_{i=1}^a \sum_{k=1}^n x_{ijk}}{an}, \quad \nonumber \\ & x_{ \bullet \bullet \bullet} =\frac{\sum_{i=1}^a \sum_{j=1}^b \sum_{k=1}^n x_{ijk}}{abn} \quad \tag{7.33} \end{align}

$\S$7.3.2: 帰無仮説:$\quad \mu_{1 \bullet}=\mu_{2 \bullet}=\cdots =\mu_{a \bullet}=\mu_{\bullet \bullet }$

さて, \begin{align} \Theta = {\mathbb R}^a \tag{7.34} \end{align}

と置いて, システム量$\pi : \Omega (= {\mathbb R}^{ab} \times {\mathbb R}_+ ) \to \Theta (= {\mathbb R}^a)$ を次のように定める.

\begin{align} & \small{ \Omega = {\mathbb R}^{ab } \times {\mathbb R}_+ \ni \omega =((\mu_{ij})_{i=1,2, \ldots, a,j=1,2, \ldots, b}, \sigma) \mapsto \pi_1(\omega) = (\alpha_i)_{i=1}^a (= ( \mu_{i \bullet} - \mu_{\bullet \bullet})_{i=1}^a ) \in \Theta = {\mathbb R}^a } \\ & \tag{7.35} \end{align}

帰無仮説 $H_N ( \subseteq \Theta = {\mathbb R}^a)$ を次のように定める.

\begin{align} H_N & = \{ (\alpha_1, \alpha_2, \ldots, \alpha_a) \in \Theta = {\mathbb R}^a \;:\; \alpha_1=\alpha_2= \ldots= \alpha_a= \alpha \} \tag{7.36} \\ & = \{ ( \overbrace{0, 0, \ldots, 0}^{a} ) \} \tag{7.37} \end{align}

"(7.36})$\Leftrightarrow$(7.37)"の理由は,

\begin{align} a \alpha=\sum_{i=1}^a \alpha_i =\sum_{i=1}^a (\mu_{i \bullet} - \mu_{\bullet \bullet }) = \frac{\sum_{i=1}^a\sum_{j=1}^b \mu_{ij} }{b} - \sum_{i=1}^a \frac{\sum_{i=1}^a \sum_{j=1}^b \mu_{ij} }{ab} =0 \tag{7.38} \end{align}

だからである.
推定量 $E: X(={\mathbb R}^{abn}) \to \Theta(={\mathbb R}^{a} )$ を次のように定める.

\begin{align} E(x) = \Big(\frac{\sum_{j=1}^b\sum_{k=1}^n x_{ijk}}{bn} - \frac{\sum_{i=1}^a \sum_{j=1}^b \sum_{k=1}^n x_{ijk}}{abn} \Big)_{i=1,2,\ldots,} = \Big( x_{i \bullet \bullet } - x_{\bullet \bullet \bullet } \Big)_{i=1,2,\ldots,} \tag{7.39} \end{align}

我々の問題は,以下の通りである.

問題7.3 [二元配置分散分析].並行同時正規測定: \begin{align} {\mathsf M}_{L^\infty ({\mathbb R}^{ab} \times {\mathbb R}_+ )} ( {\mathsf O}_G^{{{abn}}} = (X(\equiv {\mathbb R}^{{{abn}}}), {\mathcal B}_{\mathbb R}^{{{abn}}}, {{{G}}^{{{abn}}}} ), S_{[(\mu=(\mu_{ij}\;|\; i=1,2,\cdots, a, j=1,2,\cdots,b ), \sigma )]} ) \end{align}

を考えよう.ここで,

\begin{align} \mu_{1 \bullet} = \mu_{2 \bullet} = \cdots=\mu_{a \bullet} = \mu_{\bullet \bullet } \end{align} すなわち, \begin{align} \pi_1 (\mu_1, \mu_2, \cdots, \mu_a )=(0,0, \cdots, 0) \end{align}

を仮定する.　つまり 帰無仮説を$H_N=\{ (0,0, \cdots, 0) \}$ $(\subseteq \Theta= {\mathbb R}^a ) )$ と仮定する.$0 < \alpha \ll 1$とする. このとき,次を満たす${\widehat R}_{{H_N}}^{\alpha; \Theta}( \subseteq \Theta)$で,「出来るだけ大きいもの(しかも,$\sigma$に依存しないもの)」を見つけよ

$(C_1):$ $ {\mathsf M}_{L^\infty ({\mathbb R}^{ab} \times {\mathbb R}_+ )} ( {\mathsf O}_G^{{{abn}}} = (X(\equiv {\mathbb R}^{{{abn}}}), {\mathcal B}_{\mathbb R}^{{{abn}}}, {{{G}}^{{{abn}}}} ), S_{[(\mu=(\mu_{ij}\;|\; i=1,2,\cdots, a, j=1,2,\cdots,b ), \sigma )]} ) $ の測定値$x(\in{\mathbb R}^{abn} )$が, \begin{align*} E(x) \in {\widehat R}_{{H_N}}^{\alpha; \Theta} \end{align*} を満たす確率は,$\alpha$以下である.
解答.

さらに,

\begin{align} & \| \theta^{(1)}- \theta^{(2)} \|_\Theta = \sqrt{ \sum_{i=1}^a \Big(\theta_{i}^{(1)} - \theta_{i}^{(2)} \Big)^2 } \nonumber \\ & \qquad (\forall \theta^{(\ell)} =( \theta_1^{(i)}, \theta_2^{(\ell)}, \ldots, \theta_a^{(\ell)} ) \in {\mathbb R}^{a}, \; \ell=1,2 ) \nonumber \end{align}

フィッシャーの最尤法に動機付けられて,標準偏差 $\overline{\sigma}(x) \Big(= \sqrt{{\overline{SS}}(x)/(abn)} \Big)$を次のように定めて,計算する.

\begin{align} & {\overline{SS}}(x)= {\overline{SS}}((x_{ijk})_{i=1,2, \ldots, a,\;\; j=1,2, \ldots, b,k=1,2, \ldots, n }) \nonumber \\ := & { \sum_{i=1}^a \sum_{j=1}^b \sum_{k=1}^n (x_{ijk} - x_{ij \bullet})^2 } = { \sum_{i=1}^a \sum_{j=1}^b \sum_{k=1}^n (x_{ijk} - \frac{\sum_{k=1}^n x_{ij k}}{n})^2 } \nonumber \\ = & { \sum_{i=1}^a \sum_{j=1}^b \sum_{k=1}^n ((x_{ijk}-\mu_{ij}) - \frac{\sum_{k=1}^n ( x_{i jk}-\mu_{ij})}{n})^2 } \nonumber \\ = & {\overline{SS}}(((x_{ijk}- \mu_{ij})_{i=1,2, \ldots, a,\;\; j=1,2, \ldots, b })_{k=1,2, \cdots, n}) \tag{7.40} \end{align}

半距離 $d_\Theta^x$ ( in $\Theta = {\mathbb R}^a$) を次のように定める.

\begin{align} & d_\Theta^x (\theta^{(1)}, \theta^{(2)}) = \frac{\|\theta^{(1)}- \theta^{(2)} \|_\Theta}{ \sqrt{{\overline{SS}}(x)} } \qquad (\forall \theta^{(1)}, \theta^{(2)} \in \Theta={\mathbb R}^{a}, \forall x \in X={\mathbb R}^{abn} ) \tag{7.41} \end{align}


推定量 $E: X(={\mathbb R}^{abn}) \to \Theta(={\mathbb R}^{a} )$ を次のように定めたことを思い出そう.

\begin{align} E(x) = \Big(\frac{\sum_{j=1}^b\sum_{k=1}^n x_{ijk}}{bn} - \frac{\sum_{i=1}^a \sum_{j=1}^b \sum_{k=1}^n x_{ijk}}{abn} \Big)_{i=1,2,\ldots,} = \Big( x_{i \bullet \bullet } - x_{\bullet \bullet \bullet } \Big)_{i=1,2,\ldots,} \nonumber \end{align}

したがって, \begin{align} & \| E(x) - \pi (\omega )\|^2_\Theta \nonumber \\ = & || \Big(\frac{\sum_{j=1}^b\sum_{k=1}^n x_{ijk}}{bn} - \frac{\sum_{i=1}^a \sum_{j=1}^b \sum_{k=1}^n x_{ijk}}{abn} \Big)_{i=1,2,\ldots,} - \Big( \alpha_i \Big)_{i=1,2, \ldots,} ||_\Theta^2 \nonumber \\ = & \small{ || \Big(\frac{\sum_{j=1}^b\sum_{k=1}^n x_{ijk}}{bn} - \frac{\sum_{i=1}^a \sum_{j=1}^b \sum_{k=1}^n x_{ijk}}{abn} \Big)_{i=1,2,\ldots,} - \Big( \frac{\sum_{j=1}^b \mu_{ij} }{b} - \frac{\sum_{i=1}^a \sum_{j=1}^b \mu_{ij} }{ab} \Big)_{i=1,2, \ldots,} ||_\Theta^2 } \\ = & || \Big( \frac{\sum_{k=1}^n \sum_{j=1}^b(x_{ijk}-\mu_{ij})}{bn} - \frac{\sum_{i=1}^a \sum_{j=1}^b \sum_{k=1}^n (x_{ijk}-\mu_{ij})}{abn} \Big)_{i=1,2, \ldots,} ||_\Theta^2 \nonumber \end{align}

ここで,帰無仮説$H_N$ (i.e., $\mu_{i \bullet} -\mu_{\bullet \bullet} =\alpha_i=0$ $(\forall i=1,2,\ldots, a )$ ) を確認して

\begin{align} = & || \Big( \frac{\sum_{k=1}^n \sum_{j=1}^bx_{ijk}}{bn} - \frac{\sum_{i=1}^a \sum_{j=1}^b \sum_{k=1}^n x_{ijk}}{abn} \Big)_{i=1,2, \ldots,} ||_\Theta^2 = \sum_{i=1}^a(x_{ij \bullet} - x_{\bullet \bullet \bullet})^2 \tag{7.42} \end{align}

したがって, 任意の $ \omega=(\mu_1, \mu_2 ) ({}\in \Omega= {\mathbb R} \times {\mathbb R} )$に対して, 正数 $\eta^\alpha_{\omega}$ $({}> 0)$ を次のように定める.

\begin{align} \eta^\alpha_{\omega} = \inf \{ \eta > 0: [G(E^{-1} ( {{ Ball}^C_{d_\Theta^{x}}}(\pi(\omega) ; \eta))](\omega ) \ge \alpha \} \tag{7.43} \end{align}

帰無仮説$H_N$を思い出して, $\eta^\alpha_{\omega}$を以下のように計算する.

\begin{align} & E^{-1}({{ Ball}^C_{d_\Theta^{x} }}(\pi(\omega) ; \eta )) =\{ x \in X = {\mathbb R}^{abn} \;:\; d_\Theta^x (E(x), \pi(\omega )) > \eta \} \nonumber \\ = & \{ x \in X = {\mathbb R}^{abn} \;:\; \frac{ abn \sum_{i=1}^a \sum_{j=1}^b( x_{ij \bullet} - x_{\bullet \bullet \bullet} )^2}{ \sum_{i=1}^a \sum_{j=1}^b\sum_{k=1}^n (x_{ijk} - x_{ij \bullet})^2 } > \eta \} \tag{7.44} \end{align}


更に, 帰無仮説 $\pi( \omega ) (= (\alpha_1, \alpha_2, \ldots, \alpha_a) )\in H_N (=\{0,0, \ldots, 0)\})$を満たす 任意の $\omega =$ $((\mu_{ij})_{i=1,2,\ldots,a, \;j=1,2,\ldots,b},\;, \sigma)$ $ \in \Omega$に対して,



\begin{align} & [{{{G}}}^{abn} ( E^{-1}({{ Ball}^C_{d_\Theta^{x} }}(\pi(\omega) ; \eta )) ) (\omega) \nonumber \\ = & \frac{1} {({ {\sqrt{2 \pi } \sigma} })^{abn}} \underset{ E^{-1}({{ Ball}^C_{d_\Theta^{x} }}(\pi(\omega) ; \eta )) } {\int \cdots \int} \exp[- \frac{ \sum_{i=1}^a \sum_{j=1}^b \sum_{k=1}^n (x_{ijk} - \mu_{ij} )^2 }{2 \sigma^2} ] \times_{k=1}^n \times_{j=1}^b \times_{i=1}^a d{x_{ijk} } \nonumber \\ = & \frac{1} {({ {\sqrt{2 \pi } \sigma} })^{abn}} \underset{ \frac{ abn \sum_{i=1}^a \sum_{j=1}^b( x_{ij \bullet} - x_{\bullet \bullet \bullet} )^2}{ \sum_{i=1}^a \sum_{j=1}^b\sum_{k=1}^n (x_{ijk} - x_{ij \bullet})^2 } > \eta^2} {\int \cdots \int} \exp[- \frac{ \sum_{i=1}^a \sum_{j=1}^b \sum_{k=1}^n (x_{ijk} - \mu_{ij} )^2 }{2 \sigma^2} ] \times_{k=1}^n \times_{j=1}^b \times_{i=1}^a d{x_{ijk} } \nonumber \\ = & \frac{1} {({ {\sqrt{2 \pi }} })^{abn}} \underset{ \frac{ \frac{ \sum_{i=1}^a \sum_{j=1}^b( x_{ij \bullet} - x_{\bullet \bullet \bullet} )^2)}{(a-1)} }{ \frac{ \sum_{i=1}^a \sum_{j=1}^b\sum_{k=1}^n (x_{ijk} - x_{ij \bullet})^2 }{ab(n-1)} } > \frac{\eta^2 (ab(n-1))}{abn(a-1)} } {\int \cdots \int} \exp[- \frac{ \sum_{i=1}^a \sum_{j=1}^b \sum_{k=1}^n (x_{ijk} )^2 }{2 } ] \times_{k=1}^n \times_{j=1}^b \times_{i=1}^a d{x_{ijk} } \\ & \tag{7.45} \end{align}
$(C_2):$ ここで, ガウス積分の公式7.8(C)($\S$7.4)によって,次を得る,
\begin{align} = & \int^{\infty}_{\frac{\eta^2 (n-1)}{n (a-1)}} p_{(a-1,ab(n-1)) }^F(t) dt = \alpha \quad (\mbox{e.g., } \alpha=0.05) \tag{7.46} \end{align}

ここに, $p_{(a-1,ab(n-1)) }^F$ は自由度$(a-1,ab(n-1))$の$F$-分布の確率密度関数である. 式 (7.31)で見たように, $F$-分布 $F_{ab(n-1), \alpha}^{a-1}$の$\alpha$-点 を計算すれば

\begin{align} (\eta^\alpha_{\omega})^2 = F_{ab(n-1), \alpha}^{a-1} \cdot n(a-1)/(n-1) \tag{7.47} \end{align}



したがって, 棄却域${\widehat R}_{\widehat{x}}^{\alpha; \Theta}$ (or, ${\widehat R}_{\widehat{x}}^{\alpha; X}$ ) --- 帰無仮説$H_N =\{(0.0. \ldots, 0)\}( \subseteq \Theta= {\mathbb R}^a)$ の $({}\alpha{})$-棄却域 --- を,次のように得る.

\begin{align} {\widehat R}_{{H_N}}^{\alpha; \Theta} & \small{ = \bigcap_{\omega =((\mu_i)_{i=1}^a, \sigma ) \in \Omega (={\mathbb R}^a \times {\mathbb R}_+ ) \mbox{ such that } \pi(\omega)= (\alpha_i)_{i=1}^a \in {H_N}=\{(0,0,\ldots,0)\}} \{ E({x}) (\in \Theta) : d_\Theta^{x} (E({x}), \pi(\omega)) \ge \eta^\alpha_{\omega } \} } \\ & = \{ E({x}) (\in \Theta) : \frac{ (\sum_{i=1}^a \sum_{j=1}^b( x_{ij \cdot} - x_{\cdot \cdot \cdot} )^2)/(a-1)}{ (\sum_{i=1}^a \sum_{j=1}^b\sum_{k=1}^n (x_{ijk} - x_{ij \cdot})^2) /(ab(n-1)) } \ge F_{ab(n-1), \alpha}^{a-1} \} \tag{7.48} \end{align}

よって,

\begin{align} {\widehat R}_{{H_N}}^{\alpha; X}= E^{-1}({\widehat R}_{{H_N}}^{\alpha; \Theta}) = \{ x (\in X) : \frac{ (\sum_{i=1}^a \sum_{j=1}^b( x_{ij \cdot} - x_{\cdot \cdot \cdot} )^2)/(a-1)}{ (\sum_{i=1}^a \sum_{j=1}^b\sum_{k=1}^n (x_{ijk} - x_{ij \cdot})^2) /(ab(n-1)) } \ge F_{ab(n-1), \alpha}^{a-1} \} \\ & \tag{7.49} \end{align}
$\square \quad$


$\fbox{注釈7.4}$ 上の議論で,多少なりとも数学を使った部分(計算した部分)があるとしたら, (C$_2$)のガウス積分の公式だけであることに注意しよう.



$\S$7.3.3: 帰無仮説:$\quad \mu_{ \Large\mbox{${\cdot}$} 1}=\mu_{ \bullet 2 }=\cdots =\mu_{ \bullet b}=\mu_{\bullet \bullet }$

我々の問題は,以下の通りである.

問題7.4 [two-way ANOVA]. 並行同時正規測定 \begin{align*} {\mathsf M}_{L^\infty ({\mathbb R}^{ab} \times {\mathbb R}_+ )} ( {\mathsf O}_G^{{{abn}}} = (X(\equiv {\mathbb R}^{{{abn}}}), {\mathcal B}_{\mathbb R}^{{{abn}}}, {{{G}}^{{{abn}}}} ), S_{[(\mu=(\mu_{ij}\;|\; i=1,2,\cdots, a, j=1,2,\cdots,b ), \sigma )]} ) \end{align*} を考えよう.ここで,帰無仮説を \begin{align*} \mu_{\bullet 1} = \mu_{ \bullet 2} = \cdots=\mu_{ \bullet b} = \mu_{\bullet \bullet } \end{align*} と仮定しよう. $0 < \alpha \ll 1$とする. このとき,次を満たす${\widehat R}_{{H_N}}^{\alpha; \Theta}( \subseteq \Theta)$で,「出来るだけ大きいもの(しかも,$\sigma$に依存しないもの)」を見つけよ!
$(C_1)':$ $ {\mathsf M}_{L^\infty ({\mathbb R}^{ab} \times {\mathbb R}_+ )} ( {\mathsf O}_G^{{{abn}}} = (X(\equiv {\mathbb R}^{{{abn}}}), {\mathcal B}_{\mathbb R}^{{{abn}}}, {{{G}}^{{{abn}}}} ), S_{[(\mu=(\mu_{ij}\;|\; i=1,2,\cdots, a, j=1,2,\cdots,b ), \sigma )]} ) $ の測定値$x(\in{\mathbb R}^{abn} )$が, \begin{align*} E(x) \in {\widehat R}_{{H_N}}^{\alpha; \Theta} \end{align*} を満たす確率は,$\alpha$以下である.

$a$と$b$は,同等の役割をしているので,$\S$7.3.2と同じ議論をすればよい.