Регрессия (в эвентологии)

Helgus ~ µастер ~ Kласс: Это незавершённая статья по ивентологии и её применениям

Определение[]

Регрессия (лат. regressio — обратное движение, переход от более сложных форм развития к менее сложным) — одно из основных понятий в теории вероятности и математической статистике, выражающее зависимость среднего значения случайной величины от значений другой случайной величины или нескольких случайных величин. Это понятие введено Фрэнсисом Гальтоном в 1886.

Регрессия в статистике[]

$y=f(x)$ — уравнение регрессии — это формула статистической связи между переменными. Формула статистической связи двух переменных называется парной регрессией, зависимость от нескольких переменных — множественной регрессией. Например, Кейнсом была предложена линейная формула зависимости частного потребления $C$ от располагаемого личного дохода: $Y_{d}:C=C_{0}+bY_d$ , где $C_0>0$ - величина автономного потребления, $1>b>0$ — предельная склонность к потреблению.

В отличие от функциональной зависимости $y=f(x)$ , которая каждому значению независимой переменной $x$ ставит в соответствие одно определенное значение $y$ , при регрессионной зависимости одному и тому же значению $x$ могут соответствовать различные значения величины $y$ . Если при каждом значении $x=x_i$ наблюдается $n_i$ значений $y_{i_1} \ldots y_{i_{n_i}}$ величины $y$ , то зависимость среднего арифметического

Невозможно разобрать выражение (неизвестная функция «\Large»): {\displaystyle {\Large \overline{y}=\frac{y_{i_1}+\ldots+y_{i_{n_i}}}{n_i}}\quad}

от Невозможно разобрать выражение (SVG (MathML можно включить с помощью плагина для браузера): Недопустимый ответ («Math extension cannot connect to Restbase.») от сервера «http://mathoid-facade/v1/»:): {\displaystyle x_i, \emph{i=1,\ldots,N}} является средней регрессией.

Классическим примером средней регрессии служит зависимость среднего роста детей от роста родителей (Фрэнсис Гальтон, 1886г.), а также зависимость средних диаметров сосен от их высот, зависимость среднего роста человека от его веса и т. п.

Регрессия в теории вероятностей[]

Регрессия случайной величины $\eta$ по случайной величине $\xi$ определяется условным математическим ожиданием $\eta$ , вычисленным при условии, что $\xi = x$ :

\mathbf{E}( \eta \mid \xi=x) = r(x).

Уравнение $y = r(x)$ , в котором x играет роль «независимой» переменной, называется уравнением регрессии, а соответствующий график - линией регрессии $\eta$ по $\xi$ . Точность, с которой уравнение регрессии $\eta$ по $\xi$ отражает изменение $\eta$ в среднем при изменении Невозможно разобрать выражение (SVG (MathML можно включить с помощью плагина для браузера): Недопустимый ответ («Math extension cannot connect to Restbase.») от сервера «http://mathoid-facade/v1/»:): {\displaystyle \emph{x}} , измеряется условной дисперсией величины $\eta$ , вычисленной для каждого значения $\xi = x$ .

\mathbf{D}( \eta \mid \xi =x) = \sigma^2(x).

Если $\sigma^2(x)=0$ при всех значениях Невозможно разобрать выражение (SVG (MathML можно включить с помощью плагина для браузера): Недопустимый ответ («Math extension cannot connect to Restbase.») от сервера «http://mathoid-facade/v1/»:): {\displaystyle \emph{x}} , то можно с достоверностью утверждать, что $\eta$ и $\xi$ связаны строгой функциональной зависимостью $\eta = r(\xi)$ . Если $\sigma^2(x)=0$ при всех значениях Невозможно разобрать выражение (SVG (MathML можно включить с помощью плагина для браузера): Недопустимый ответ («Math extension cannot connect to Restbase.») от сервера «http://mathoid-facade/v1/»:): {\displaystyle \emph{x}} и Невозможно разобрать выражение (SVG (MathML можно включить с помощью плагина для браузера): Недопустимый ответ («Math extension cannot connect to Restbase.») от сервера «http://mathoid-facade/v1/»:): {\displaystyle \emph{r(x)}} не зависит от Невозможно разобрать выражение (SVG (MathML можно включить с помощью плагина для браузера): Недопустимый ответ («Math extension cannot connect to Restbase.») от сервера «http://mathoid-facade/v1/»:): {\displaystyle \emph{x}} , то говорят, что регрессия $\eta$ по $\xi$ отсутствует. Аналогичным образом определяется регрессия $\xi$ по $\eta$ и в частности, уравнение регрессии $x=\overline{r}(y)=\mathbf{E}( \xi \mid \eta=y).$ Функции $y = r(x)$ и $x=\overline{r}(y)$ , вообще говоря, не являются взаимно обратными.

Линии регрессии обладают следующим замечательным свойством: среди всех действительных функций $f(x)$ минимум математического ожидания $\mathbf{E}[\eta - f(\xi)]^2$ достигается для функции $f(x) = r(x)$ , т. е. регрессия $\eta$ по $\xi$ дает наилучшее, в указанном смысле, представление величины $\eta$ по величине $\xi$ . Это свойство используется для прогноза $\eta$ по $\xi$ : если значение $\eta$ непосредственно не наблюдается и эксперимент позволяет регистрировать лишь компоненту $\xi$ вектора $(\xi, \eta)$ , то в качестве прогнозируемого значения $\eta$ используют величину $r(\xi)$ .

Наиболее простым является случай, когда регрессия $\eta$ по $\xi$ линейна. Уравнение регрессии при этом выражается формулой

y = \mathbf{E}\eta - \rho_{\xi,\eta}\frac{\sigma_\eta}{\sigma_\xi}(x - \mathbf{E}\xi ),

где $\mathbf{E}\xi$ и $\mathbf{E}\eta$ - математические ожидания $\xi$ и $\eta<math>, <math>\sigma^2_\xi$ и $\sigma^2_\eta$ - дисперсии, а $\rho_{\xi,\eta}$ — коэффициент корееляции между $\xi$ и $\eta$ .

Эвентологический подход[]

Эвентологическая регрессия одного множества титульных событий $\mathfrak{X}$ на другое множество титульных событий $\mathcal Y$ - это зависимость $\varphi$ , связывающая безымянные события-терраски $\mathrm{ter}(X),$ $X \subseteq \mathfrak{X}$ , с безымянными событиями-террасками $ter(Y), Y \subseteq \mathcal{Y}:$

ter(Y)=\varphi(ter(X)),\qquad X \subseteq \mathfrak{X}.

Поскольку собственных имен у событий-терарасок нет, и разумный субъект имеет к ним лишь косвенный «доступ» через логические комбинации собственных имен титульных событий, которые их порождают, то роль собственных имен для событий-террасок $ter(X)$ исполняют подмножества $X \subseteq \mathfrak{X}$ титульных событий, которыми события-терраски занумерованы. Таким образом, для разумного субъекта безымянное событие-терраска $ter(X)$ «скрывается» за подмножеством титульных событий $X \subseteq \mathfrak{X},$ а зависимость $\varphi$ между безымянными событиями-террасками $ter(Y)=\varphi(ter(X))$ «скрывается» за зависимостью между соответствующими подмножествами титульных событий $Y=\varphi(X).$

При фиксированной метрике $\rho$ на $2^{\mathfrak{X}}\times 2^{\mathfrak{X}}$ функция теоретической эвентологической регрессии определяется способом, аналогичным классическому:

\mathbf{E}\rho(Y, \varphi(X))\rightarrow \min_\varphi.

Если

\rho(Y, \varphi(X))=\rho_{\alpha}(Y, \varphi(X)),

то функция теоретической эвентологической регрессии имеет вид

\varphi(X)=Q_{\alpha}(Y\mid ter(X))

- условного эвентологического сет-квантиля порядка $\alpha$ , где

Q_{\alpha}(Y|ter(X))=\{y: \mathbf{P}(y|ter(X))\geq\alpha\}

- подмножества титульных событий $y\in\mathcal{Y},$ условные вероятности которых не меньше $\alpha$ . В этих обозначениях

ter(Q_{\alpha}(Y|ter(X)))=\varphi(ter(X)).

Аналогично определяется функция теоретической эвентологической регрессии, описывающая зависимость $\psi$ между безымянными событиями-террасками вида $\psi(ter(Y))=ter(X),$ а также зависимость между подмножествами титульных событий: $\psi(Y)=X.$

Эвентологическое регрессионное отношение[]

Пусть

p(X, Y)=\mathbf{P} ter(X)\cap ter(Y)),\qquad X\subseteq \mathfrak{X},\quad Y \subseteq \mathcal{Y},

- совместное Э-распределение двух множеств титульных событий $\mathfrak{X}$ и $\mathcal Y$ .
Эвентологическим регрессионным отношением порядка $\alpha\in[0,1]$ двух множеств титульных событий $\mathfrak{X}$ и $\mathcal Y$ называется безымянное событие

\mathfrak{R}_{\alpha}(\mathfrak{X},\mathcal{Y})=\bigcup_{X,Y:p(X,Y)\geq\alpha}(ter(X)\cap ter(Y))\subseteq\Omega,

составленное из пересечений безымянных событий-террасок, порожденных множествами $\mathfrak{X}$ и $\mathcal Y$ соответственно, с вероятностями пересечений, не меньшими $\alpha.$

Эвентологическое регрессиооное отношение определяет два класса своих проекций - на подмножества $X \subseteq \mathfrak{X}$ и на $Y\subseteq\mathcal{Y}$ соответственно: