\chapter{نتایج عددی}
در این بخش به بیان نتایج عددی و برخی نتایج خواهیم پرداخت. 

\section{ آزمایشات عددی} 
برای درک بهتر اجرای الگوریتم، روش نقطه درونی مرتبه اول \eqref{shesh} و \eqref{haft} با $ \alpha^k$ انتخاب شده توسط قاعده آرمیژو یا رابطه \eqref{noh} در برنامه متلب برای حل \eqref{yek} با محدودیت‌های سیمپلکس ($b =1$ و $ A=e^T$) و $n$ بزرگ پیاده‌سازی شده است. در این بخش نحوه اجرا و گزارش آزمایشات عددی روی مساله آزمایشی با توابع هدف $f$ از منبع  \cite{Moré1981Testing unconstrained optimization software } برای مینیمم‌سازی توصیف می‌شود. 
\\
 در روند اجرا از شش مقدار مختلف $ \gamma $  ($ \gamma  = 0.5,0.8,0.9,1,1.1,1.2 $) استفاده شده، همچنین در قاعده آرمیژو از مقادیر استاندارد $ \sigma = 0.1$ و $ \beta = 0.5$ استفاده می‌شود. مقادیر مورد نیاز در روش به صورت زیر انتخاب می‌شود:
\begin{equation*}
 \alpha_{0}^{k} = \min \left\{ \alpha_{feas}^{k} , \max \left\{ 10^{-5} , \frac{\alpha^{k-1}}{\beta^2} \right\} \right\}, \quad \alpha_{feas}^{k} = \frac{0.95}{-\min_{j} d_{j}^{k}/ x_{j}^{k}}, 
\end{equation*}
\\
که $ \alpha^{-1} = \infty$. به دلیل اینکه $ e^T d^k =0$، هنگامیکه $ d^k \neq 0$  داریم $ \alpha_{feas}^{k} > 0 $. بنابراین $ \{ \alpha_{0}^{k} \}$ رابطه \eqref{dah}  را برقرار می‌کند و داریم $ \inf _{k} \alpha_{0}^{k} > 0$. 
\\
اگر $ \alpha^{k-1}$ کوچک باشد  در حقیقت همان $ \alpha_{0}^{k} $ است.  این موضوع می‌تواند در ارزیابی تابع استفاده شود زیرا اغلب اوقات $ \alpha^k \approx \alpha^{k-1}$. در آزمایش‌ها این انتخاب $ \alpha_{0}^{k}$ نسبت به انتخاب $ \alpha_{0}^{k} = 0.99 / \parallel X^k r( \mathbf{x}^k ) \parallel$ اجرای بهتری دارد که از این موضوع در منبع \cite{Bonnans1997A trust region interior point algorithm} استفاده شده است. 


\newpage
\cleardoublepage
\begin{table}[h!b!p!]
\caption{رفتار روش نقطه درونی مرتبه اول با جست‌و‌جوی خطی نادقیق روی 9 تابع آزمایشی از منبع \cite{Moré1981Testing unconstrained optimization software} با $n=1000$ و $\mathbf{x}^0=e/n$}
\begin{latin} 
\begin{center}
\scalebox{0.75}{
\begin{tabular}{|l|l|l|l|l|l|l|l|l|p{5cm}|}
\hline 
$\text{Problem} \;  $ & $ \gamma \; $ & $\text{iter} \;  $ & $\text{nf} \;  $ &  $\text{cpu} \;  $ & $\text{obj} \;  $ & $\text{resid} \;  $ &  $\text{step} \;  $ & $\text{sc} \;  $ & \\ 
\hline 
$\text{ER(21)}$ &  $0.5$ &  $6$ &  $7$    & $0.03$  &  $498.002$  &    $3.4 \times 10^{-7}$   &  $0.47$   &  $0.001$  \\ 
$\qquad$ &  $0.8$ &  $5$ &  $6$  & $0.01$  &  $498.002$ & $5.2 \times 10^{-7}$ &  $7.9 \times 10^3$   &  $0.001$  \\ 
$\qquad$ &  $0.9$ &  $5$ &  $6$  & $0.01$  &  $498.002$ & $6.8 \times 10^{-7}$ &  $4.4 \times 10^4$   &  $0.001$  \\ 
$\qquad$ &  $1$    &  $7$ &  $8$  & $0.03$  &  $498.002$ & $2.6 \times 10^{-7}$ &  $3.5 \times 10^6$   &  $0.001$  \\ 
$\qquad$ &  $1.1$ &  $8$ &  $9$  & $0.02$  &  $498.002$ & $8.4 \times 10^{-7}$ &  $5.6 \times 10^7$   &  $0.001$  \\ 
$\qquad$ &  $1.2$ &  $10$ & $11$  & $0.03$  &  $498.002$ & $3.7 \times 10^{-7}$ &  $3.5 \times 10^9$   &  $0.001$  \\ 
$\text{DBV(28)}$ & $0.5$ & $117$ & $352$ & $0.4$ & $4.5 \times 10^{-8}$  &  $9.8 \times 10^{-5}$ & $59.3$ &  $0.0003$  \\ 
$\qquad$ & $0.8$ & $99$ & $299$ & $0.42$ & $4.9 \times 10^{-8}$  &  $9.8 \times 10^{-5}$ & $1.8 \times 10^3$ &  $0.0003$  \\ 
$\qquad$ & $0.9$ & $107$ & $323$ & $0.45$ & $4.7 \times 10^{-8}$  &  $9.7 \times 10^{-5}$ & $7.4 \times 10^3$ &  $0.0003$  \\ 
$\qquad$ & $1$ & $146$ & $440$ & $0.52$ & $4.5 \times 10^{-8}$  &  $9.8 \times 10^{-5}$ & $2.9 \times 10^4$ &  $0.0003$  \\ 
$\qquad$ & $1.1$ & $191$ & $575$ & $0.82$ & $4.3 \times 10^{-8}$  &  $9.9 \times 10^{-5}$ & $1.1 \times 10^5$ &  $0.0003$  \\ 
$\qquad$ & $1.2$ & $240$ & $722$ & $1.02$ & $4.0 \times 10^{-8}$  &  $9.9 \times 10^{-5}$ & $4.7 \times 10^5$ &  $0.0003$  \\ 
$\text{BT(30)}$ & $0.5$ & $3,893$ & $3,894$ & $4.25$ & $999.030$  &  $9.9 \times 10^{-4}$ & $0.15$ &  $0.007$  \\ 
$\qquad$ & $0.8$ & $9,146$ & $27,409$ & $20.68$ & $999.031$  &  $9.9 \times 10^{-4}$ & $0.50$ &  $0.006$  \\ 
$\qquad$ & $0.9$ & $38,124$ & $114,346$ & $87.05$ & $999.033$  &  $9.9 \times 10^{-4}$ & $0.69$ &  $0.006$  \\ 
$\qquad$ & $1   $ & $17,559$ & $52,665$ & $23.31$ & $999.055$  &  $9.9 \times 10^{-4}$ & $0.45$ &  $0.01$  \\ 
$\qquad$ & $1.1 $ & $83,209$ & $249,222$ & $191.06$ & $999.077$  &  $9.9 \times 10^{-4}$ & $0.65$ &  $0.01$  \\ 
$\qquad$ & $1.2 $ & $527,757$ & $1.58 \times 10^6$ & $1,192.55$ & $999.081$  &  $9.9 \times 10^{-4}$ & $1.14$ &  $0.01$  \\ 
$\text{TRIG(26)}$ & $0.5$ & $41$ & $121$ & $0.11$ & $1.1 \times 10^{-6}$  &  $9.0 \times 10^{-7}$ & $623.6$ &  $0.0006$  \\ 
$\qquad$ & $0.8$ & $39$ & $115$ & $0.14$ & $9.5 \times 10^{-7}$  &  $9.9 \times 10^{-7}$ & $3.6 \times 10^4$ &  $0.0006$  \\ 
$\qquad$ & $0.9$ & $73$ & $214$ & $0.24$ & $9.0 \times 10^{-7}$  &  $9.8 \times 10^{-7}$ & $8.6 \times 10^4$ &  $0.0006$  \\ 
$\qquad$ & $1$ & $95$ & $271$ & $0.22$ & $9.7 \times 10^{-7}$  &  $8.3 \times 10^{-7}$ & $5.3 \times 10^5$ &  $0.0006$  \\ 
$\qquad$ & $1.1$ & $52$ & $143$ & $0.17$ & $8.8 \times 10^{-7}$  &  $8.1 \times 10^{-7}$ & $2.3 \times 10^6$ &  $0.0006$  \\ 
$\qquad$ & $1.2$ & $86$ & $223$ & $0.27$ & $1.1 \times 10^{-6}$  &  $9.9 \times 10^{-7}$ & $6.4 \times 10^6$ &  $0.0006$  \\ 
$\text{BAL(27)}$ & $0.5$ & $6^\text{a}$ & $63$ & $0.02$ & $9.98998 \times 10^{8}$  &  $1.9 \times 10^{-5}$ & $6.5 \times 10^{-21}$ &  $0.001$  \\ 
$\qquad$ & $0.8$ & $8^\text{a}$ & $8^4$ & $0.02$ & $9.98998 \times 10^{8}$  &  $1.4 \times 10^{-6}$ & $6.0 \times 10^{-21}$ &  $0.001$  \\ 
$\qquad$ & $0.9$ & $6$ & $7$ & $0.01$ & $9.98998 \times 10^{8}$  &  $6.1 \times 10^{-7}$ & $113.648$ &  $0.001$  \\ 
$\qquad$ & $1$ & $7$ & $8$ & $0.03$ & $9.98998 \times 10^{8}$  &  $3.6 \times 10^{-8}$ & $1947.55$ &  $0.001$  \\ 
$\qquad$ & $1.1$ & $9^\text{a}$ & $9^4$ & $0.03$ & $9.98998 \times 10^{8}$  &  $1.0 \times 10^{-6}$ & $6.4 \times 10^{-21}$ &  $0.001$  \\ 
$\qquad$ & $1.2$ & $8$ & $9$ & $0.02$ & $9.98998 \times 10^{8}$  &  $3.7 \times 10^{-7}$ & $123,466$ &  $0.001$  \\ 
$\text{EPS(22)}$ & $0.5$ & $120$ & $313$ & $0.43$ & $1.3 \times 10^{-6}$  &  $9.9 \times 10^{-4}$ & $39.23$ &  $0.0001$  \\ 
$\qquad$ & $0.8$ & $424$ & $1,269$ & $1.89$ & $1.3 \times 10^{-6}$ & $9.9 \times 10^{-4}$ & $1503.22$ & $0.0002$  \\
$\qquad$ & $0.9$ & $644$ & $1,929$ & $2.85$ & $2.4 \times 10^{-6}$ & $9.9 \times 10^{-4}$ & $5984.43$ & $0.0002$ \\ 
$\qquad$ & $1$ & $987$ & $2,958$ & $3.52$ & $3.9 \times 10^{-6}$ & $9.9 \times 10^{-4}$ & $23824.5$ & $0.0003$  \\ 
$\qquad$ & $1.1$ & $870$ & $2,608$ & $3.81$ & $5.9 \times 10^{-6}$ & $9.9 \times 10^{-4}$ & $47423.4$ & $0.0003$  \\ 
$\qquad$ & $1.2$ & $1,963$ & $5,887$ & $8.76$ & $8.0 \times 10^{-6}$ & $9.4 \times 10^{-4}$ & $188.796$ & $0.0004$  \\
$\text{VD(25)}$ & $0.5$ & $503^{\text{a}}$ & $17,505$ & $18.78$ & $6.22504 \times 10^{22}$  &  $2.9 \times 10^{10}$ & $9.5 \times 10^{-22}$ &  $-2 \times 10^{10}$  \\ 
$\qquad$ & $0.8$ & $22$ & $74$ & $0.04$ & $6.22504 \times 10^{22}$  &  $2.4 \times 10^{-9}$ & $9.5 \times 10^{-14}$ &  $1$  \\ 
$\qquad$ & $0.8$ & $22$ & $74$ & $0.04$ & $6.22504 \times 10^{22}$  &  $2.4 \times 10^{-9}$ & $9.5 \times 10^{-14}$ &  $1$  \\ 
$\qquad$ & $0.9$ & $19$ & $43$ & $0.03$ & $6.22504 \times 10^{22}$  &  $1.6 \times 10^{-8}$ & $3.7 \times 10^{-19}$ &  $1$  \\ 
$\qquad$ & $1$ & $19$ & $46$ & $0.04$ & $6.22504 \times 10^{22}$  &  $2.6 \times 10^{-8}$ & $6.3 \times 10^{-19}$ &  $1$  \\ 
$\qquad$ & $1.1$ & $20$ & $86$ & $0.04$ & $6.22504 \times 10^{22}$  &  $8.8 \times 10^{-8}$ & $2.1 \times 10^{-20}$ &  $1$  \\ 
$\qquad$ & $1.2$ & $18$ & $50$ & $0.05$ & $6.22504 \times 10^{22}$  &  $5.7 \times 10^{-9}$ & $6.5 \times 10^{-19}$ &  $0.9$  \\ 
$\text{LR1(33)}$ & $0.5$ & $30,595^{\text{a}}$ & $30,624$ & $50.12$ & $3.32834 \times 10^{8}$  &  $1.5 \times 10^{-4}$ & $1.4 \times 10^{-12}$ &  $0.9$  \\ 
$\qquad$ & $0.8$ & $20$ & $21$ & $0.04$ & $3.32834 \times 10^{8}$  &  $9.5 \times 10^{-7}$ & $2.0 \times 10^{-4}$ &  $0.9$  \\ 
$\qquad$ & $0.9$ & $19$ & $20$ & $0.04$ & $3.32834 \times 10^{8}$  &  $9.5 \times 10^{-7}$ & $2.3 \times 10^{-3}$ &  $0.9$  \\ 
$\qquad$ & $1$ & $19$ & $20$ & $0.03$ & $3.32839 \times 10^{8}$  &  $3.5 \times 10^{-7}$ & $0.031$ &  $1$  \\ 
$\qquad$ & $1.1$ & $19$ & $20$ & $0.03$ & $3.32911 \times 10^{8}$  &  $5.9 \times 10^{-7}$ & $0.16$ &  $0.9$  \\
$\qquad$ & $1.2$ & $20$ & $21$ & $0.03$ & $3.33481 \times 10^{8}$  &  $9.9 \times 10^{-7}$ & $0.77$ &  $0.9$  \\ 
$\text{LR1Z(34)}$ & $0.5$ & $3,454^{\text{a}}$ & $3,538$ & $3.96$ & $251.125 $  &  $145.94 $ & $8.8 \times 10^{-21}$ &  $-7.9$  \\ 
$\qquad$ & $0.8$ & $21^{\text{a}}$ & $88$  & $0.05 $   &  $251.125 $ & $ 119.46$ & $9.9 \times 10^{-21}$ &  $-6.5$  \\
$\qquad$ & $0.9$ & $34^{\text{a}}$ & $129$ & $0.07$   &  $251.125 $ & $ 3.7 \times 10^{-6}$  & $8.8 \times 10^{-21}$ &  $0.01$  \\ 
$\qquad$ & $1$    & $25^{\text{a}}$ & $102$ & $0.05$   &  $251.125 $ & $170.84$  &   $8.8 \times 10^{-21} $ &  $-9.3$  \\ 
$\qquad$ & $1.1$ & $30^{\text{a}}$ & $119$ & $0.06$   &  $251.125 $ &  $ 5.8 \times 10^{-7}$  & $7.35$ &  $0.008$  \\ 
$\qquad$ & $1.2$ & $65^{\text{a}}$ & $224$ & $0.13$   &  $251.125 $ &   $ 3.7 \times 10^{-7}$  &$41.94$ &  $0.01$  \\ 

\hline 
\end{tabular} 
}
\end{center}
\end{latin}

\label{tbl: table1}
\end{table}

برای تابع$f$، 9 تابع آزمایشی با $ n = 1000$ از مجموعه توابع کمترین مربعات غیرخطی که در منبع \cite{Moré1981Testing unconstrained optimization software } آمده، استفاده شده است. این توابع در جدول \eqref{tbl: table1} و از صفحات 26 تا 28 منبع فوق آورده شده که با توجه به خواص گوناگونشان مشخص شده‌اند: محدب یا غیرمحدب، هسیان متراکم یا تنک، هسیان خوش‌حالت یا بدحالت و … .
\\
  سه تابع اول \lr{ER}، \lr{BT} و \lr{DBV}  غیرمحدب با هسیان تنک، دو تابع بعدی \lr{BAL} و \lr{TRIG}  غیرمحدب با هسیان متراکم،  تابع \lr{EPS} محدب با هسیان تنک،  تابع \lr{VD} اکیدا محدب با هسیان متراکم و دو تابع نهایی \lr{LR1Z} و \lr{LR1} محدب درجه دوم با هسیان متراکم از درجه یک هستند. توابع \lr{EPS} و \lr{ER} هسیان قطری بلوکی و توابع \lr{VD}، \lr{LR1} و \lr{LR1Z}  هسیان بدحالت دارند. باید توجه داشت که توابع و گرادیان آنها با عملیات برداری درمتلب کدگذاری شده است. به دلیل اینکه نقطه شروع در منبع  \cite{Moré1981Testing unconstrained optimization software } ممکن است محدودیت سیمپلکس را برقرار نکند از نقطه شروع $ \mathbf{x}^{0} = e/n$ برای روش نقطه داخلی مرتبه اول استفاده می‌کنیم. 

هنگامیکه $ \parallel \min \{ \mathbf{x}^k , - r^k \} \parallel $  زیر خطای مجاز $ (tol > 0)$  باشد، روش به پایان می‌رسد. باید توجه کرد که $ r^ k $ به $ \gamma $ وابسته است. برای تمام مسایل بجز \lr{DBV}، \lr{BT}، \lr{EPS} و \lr{LR1Z}$ tol = 10^{-6} $ در نظر گرفته می‌شود. برای مسایل \lr{EPS}، \lr{BT} و \lr{DBV}  این خطای مجاز بسیار کوچک است و به جای آن به ترتیب از $ tol = 10^{-4}$ ، $ tol = 10^{-3}$ و $ tol = 10^{-3}$  استفاده می‌شود. برای \lr{LR1Z} از $ tol = 10^{-7}$ استفاده می‌شود.
\\
 خطای گردکردن \LTRfootnote{Roundoff} در متلب گاهی باعث می‌شود که مساله پایان مناسبی نداشته باشد که در این حالت مساله را رها می‌کنیم. در تکرار $ k $ اگر شرط صعودی آرمیژو، رابطه \eqref{noh}، هنگامیکه $ \alpha $  زیر $ 10^{-20}$ است هنوز برقرار نشده باشد مساله را به پایان می‌بریم. 

در جدول \eqref{tbl: table1} تعداد تکرارها (\lr{iter})، تعداد سنجش‌های $f$ (\lr{nf})، زمان \lr{cpu} (در ثانیه)، مقادیر هدف (برای مسایل مینیمم‌سازی)، باقیمانده اصلی (\lr{resid})، طول گام نهایی (\lr{step}) و اندازه مکملی اکید  (\lr{sc})   گزارش می‌شود.  از جدول \eqref{tbl: table1} دیده می‌شود که \lr{iter} و  \lr{nf}   با $ \gamma $ تغییر می‌کنند اما بهترین اجرا در $ \gamma = 0.8 $، \lr{nf} کمتر و \lr{iter}  روی میانگین بدست می‌آید و معمولا نسبت \lr{iter/nf}  زیر 4 است.
\\
 پیشنهاد قاعده آرمیژو باعث می‌شود که قبل از پذیرفتن طول گام، ارزیابی کمتری از $f$ انجام شود. برای روش مرتبه اول ساده، تعداد تکرارها روی همه مسایل به جز \lr{BT}  (هسیان سه قطری است) منطقی است و$ \gamma = 0.5 $   بهترین اجرا را نتیجه می‌دهد. به نظر می‌رسد که این روش هنگامیکه $ \gamma = 0.5 $ است،  مستعد خطای گرد کردن می‌باشد. 
\\
طول گام نهایی با افزایش $ \gamma $ افزایش می‌یابد و این موضوع سازگار با کران پایین رابطه \eqref{hefdah} است که با افزایش $ \gamma $ افزایش می‌یابد (زیرا $ \max_{j} x_{j}^{k} < 1$).    


\newpage
\begin{table}[h!b!p!] 
\caption{رفتار ماینس روی 9 تابع آزمایشی از منبع \cite{Moré1981Testing unconstrained optimization software} و تنظیمات ابتدایی روش و $n=1000$}
\begin{latin} 
\begin{center}
\begin{tabular}{|l|l|l|l|l|}
\hline 
$ \text{Problem} \; $ & $\text{iter} \;$ & $ \text{nf} \;$ & $\text{cpu} \;$ & $\text{obj} \;$ \\
\hline 
$ \text{ER(21)}$ & $1,049$ & $ 2,105$ & $2.49$ & $498.00$ \\
$ \text{DBV(28)}$ & $10$ & $ 48$ & $0.01$ & $5.96 \times 10^{-2}$ \\
$ \text{BT(30)}$ & $11$ & $ 24$ & $0.00$ & $999.03$ \\
$ \text{TRIG(26)}$ & $2,023$ & $ 4,051$ & $27.23$ & $1.3 \times 10^{-6}$ \\
$ \text{BAL(27)}$ & $2$ & $ 32$ & $1.9$ & $9.9899 \times 10^8$ \\
$ \text{EPS(22)}$ & $3,199$ & $ 6,534$ & $10.08$ & $3.0 \times 10^{-7}$ \\
$ \text{VD(25)}$ & $0^{\text{a}}$ & $ 6$ & $0.01$ & $6.2749 \times 10^{22}$ \\
$ \text{LR1(33)}$ & $0$ & $ 5$ & $0.00$ & $3.3283 \times 10^8$ \\
$ \text{LR1Z(34)}$ & $2$ & $ 8$ & $0.00$ & $251.12$ \\
\hline
\end{tabular} 
\end{center}
\end{latin}

\label{tbl: table2}
\end{table}

برای مقایسه، نتایج روی ماینس\LTRfootnote{MINOS} (\lr{Version 5.5.1})  اجرا شد و یک پیاده‌سازی روی فرتن\LTRfootnote{Fortan} از روش مجموعه فعال برای بهینه‌سازی هموار مقید منبع \cite{Murtagh1998MINOS 5.5 user’s guide} برای حل همان مسایل آزمایشی ماینس  از کامپایلر \lr{Gnu F-77} و تنظیمات قراردادی و مقداردهی اولیه استفاده کرده است. 

 جدول \eqref{tbl: table2} تعداد تکرارها (\lr{iter})، تعداد سنجش‌های $f$ (\lr{nf})، زمان \lr{cpu} (در ثانیه) و مقدار نهایی هدف را برای ماینس گزارش می‌کند. 

در مقایسه جدول \eqref{tbl: table1} و \eqref{tbl: table2} دیده می‌شود که روش نقطه داخلی مرتبه اول با $ \gamma = 0.9 $ اجرای بهتری (\lr{cpu}، \lr{nf} و هدف پایین‌تر) روی چهار مساله \lr{VD}، \lr{BAL}، \lr{ER} و \lr{TRIG} دارد در حالیکه ماینس اجرای بهتری روی سه مساله \lr{BT}، \lr{LR1} و \lr{LR1Z} دارد. در مساله \lr{DBV} روش نقطه داخلی مرتبه اول \lr{nf} و \lr{cpu} بیشتری دارد اما هدف خیلی پایین‌تری نسبت به ماینس دارد و به همین جهت ممکن است حداقل محلی چندگانه پیشنهاد شود. در تابع \lr{EPS} معکوس درست است و \lr{obj} نزدیک صفر است بنابراین ممکن است روش‌های خروجی (\lr{exiting})  کارآمدی بیشتری  در حل دسته این دسته خاص از مسایل داشته باشند.


مقادیر \lr{cs} در جدول \eqref{tbl: table1} پیشنهاد می‌کند که برای همه مسایل، شرط مکملی اکید برقرار باشد. برای دیدن اینکه چگونه این روش روی مسایل تباهیده اجرا می‌شود، آزمایشی روی مساله $ f ( \mathbf{x} ) = - (e^T \mathbf{x}) - \sum_{ j=1}^ { n-1} x_{j}^{2}$ که \eqref{yek} نقطه سکون یکتای $ \overline{\mathbf{x}} = (0,...,0,1)^T$  دارد و مکملی اکید را در همه جا به جز یک مولفه نقض می‌کند، انجام گرفت. روی این مساله $ \gamma = 0.5$ بهترین اجرا را با $ tol=10^{-6}$ نتیجه می‌دهد و این روش با $ sc = 2 \times 10^{-8}$، $ cpu = 0.01 $ ، $ nf = 8$ و $ iter = 7$ به پایان می‌رسد. 

\section{  روش‌های تبدیل شده یکنوا } 
در منبع \cite{Bomze2005Portfolio selection via replicator dynamics and projection,Pelillo1999Replicator equations-  Pelillo1999Matching hierarchical structures using association graphs} یک نوع نمایی از رابطه \eqref{char} برای حل حالت خاص معادله \eqref{yek} با $ f$ درجه دوم همگن و محدودیت‌های ساده مطالعه شده است. این روش برای $ f$ کلی و تبدیلات یکنوای عمومی که به صورت زیر هستند، گسترش داده می‌شود.

فرض کنید $ \Lambda $ ساده و واحد است. رابطه \eqref{shesh} را بررسی می‌کنیم اما به­ جای رابطه \eqref{haft} از رابطه زیر استفاده می‌کنیم:
\begin{equation} \label{bistohasht}
r ( \mathbf{x} ) = \psi ( \bigtriangledown f( \mathbf{x} )) - \frac{e^T X^{2 \gamma} ( \psi ( \bigtriangledown f ( \mathbf{x} )) }{e^T X^{2 \gamma} e} e \quad با \quad X=Diag(\mathbf{x}),
\end{equation} 
که $ \psi : R \rightarrow R $ هر تابع صعودی اکید است. $ \psi ( y)$ به معنی به کار بردن $ \psi $  برای $ y \in R^n $  می‌باشد.  
در نظر گرفتن $ \psi ( \tau ) = e^{\tau }$  با $ \gamma = \frac{1}{2} $  نوعی از تابع نمایی را نتیجه می‌دهد. همچنین در نظرگرفتن $ \psi (\tau ) = \tau $  با $ \gamma = 1/2$ روش \eqref{char} و $ \gamma = 1$ روش \lr{AS} مرتبه اول، \eqref{panj}، را نتیجه می‌دهد. 
\\
برای اجتناب از سرریز عددی، می‌توان تابع نمایی را با چندجمله‌ای که $ k$ از بعضی کرانه‌ها تجاوز می‌کند، جایگزین کنیم. این تبدیل یکنوا که با بازده یکنوا پویای بازی \LTRfootnote{payoff monotonic game dynamic} مرتبط شده است، برای حالت محدودیت‌های ساده نیز می‌تواند بکار برده شود. برای اطلاعات بیشتر  به منبع \cite{Pelillo2002Matching free trees } مراجعه شود.
\begin{lemma} \label{lem3}
فرض کنید $ \Lambda $ ساده و واحد، $b=1$، $ A= e^T $   و  برای هر $ \mathbf{x} \in \Lambda $ ، $X$  و $ r (\mathbf{x})$ داده شده‌اند. با استفاده از رابطه \eqref{bistohasht} و  هر تابع صعودی اکید $ \psi $ نتایج زیر برقرار است:
\begin{enumerate}
\item
داریم $X r(\mathbf{x}) = 0$ اگر‌و‌تنها‌اگر $ X ( \bigtriangledown f (\mathbf{x}) - p(\mathbf{x}) e)=0$ و $ r(\mathbf{x}) \leq 0 $ اگر‌و‌تنها‌اگر $ \bigtriangledown f (\mathbf{x}) - p(\mathbf{x}) e \leq 0 $ که
\begin{equation*} 
 p( \mathbf{x} ) = \psi ^{-1} \left( \frac{e^T X^{2 \gamma} \psi ( \bigtriangledown f ( \mathbf{x} ) )}{e^T X^{2 \gamma} e} \right) . 
\end{equation*}
\item
از رابطه $ d = X^{2 \gamma} r(\mathbf{x})$ داریم $ e^T d = 0$ و $ \bigtriangledown f(\mathbf{x})^T d \geq 0$. بنابراین $ \bigtriangledown f (\mathbf{x})^T d = 0$ اگر‌‌و‌‌تنها‌‌اگر $ X r(\mathbf{x}) = 0$.
\end{enumerate}
\begin{proof}
\begin{enumerate}
\item
این قسمت، با خاصیت صعودی اکید $ \psi$ و با استفاده از رابطه \eqref{bistohasht} به راحتی اثبات می‌شود. 
\item
برای هر $ \mathbf{x} \in \Lambda$، از جهت جست‌و‌جو،  $ d = X^{2 \gamma} r (\mathbf{x})$ داریم $ e^T d = 0$ و
\begin{align*}
g^T d &= g^T X^{2 \gamma} \left( \psi (g) - \frac{e^T X^{2 \gamma} \psi (g)}{e^T X^{2 \gamma} e}e \right) \\
             &= (g - \rho e)^T X^{2 \gamma} \psi (g) \\
             &= (g - \rho e)^T X^{2 \gamma} ( \psi (g) - \psi (\rho) e ) \\
             & \geq 0,
\end{align*}
قرار می‌دهیم $ g = \bigtriangledown f (\mathbf{x})$ و $ \rho = \frac{g^T X^{2 \gamma} e}{e^T X^{2 \gamma} e}$. با استفاده از اکید بودن $ \psi$ برای هر $ y,z \in R $ داریم $ ( y - z ) ( \psi(y) - \psi(z)) \geq 0 $. نامساوی اکید است مگر اینکه برای هر $ j$ که $ x_{j} \neq 0$ داشته باشیم $ g_{j} = \rho $. در این حالت $ X \psi(g) = \psi (\rho) \mathbf{x}$ و $ X^{2 \gamma} \psi(g) = \psi(\rho) X^{2 \gamma} e$ بنابراین 
\begin{equation*}
X r(\mathbf{x}) = X \left( \psi(g) - \psi(\rho) \frac{e^T X^{2 \gamma} e}{e^T X^{2 \gamma} e} e \right) = \psi(\rho) \mathbf{x} - \psi(\rho) \mathbf{x} = 0.
\end{equation*} 
با ذکر این مورد نتیجه می‌گیریم که $X r(\mathbf{x}) = 0  $ $\Leftarrow $    $ g^T d=0 $.
\end{enumerate}
\end{proof}


\begin{remark} \label{remark1}
در حالت $ \psi (\tau) = exp ( \theta \tau ) $ با $ \theta > 0 $ داریم
\begin{equation*}
\bigtriangledown f (\mathbf{x})^T d \geq 4 \parallel X^{\gamma} \left( \exp ( \frac{\theta}{2}g ) - \exp ( \frac{\theta}{2}\rho ) e \right) \parallel^2.
\end{equation*}
این رابطه با استفاده از نامساوی $ (y-z) ( \exp(y) - \exp(z)) \geq 4 \left( \exp( \frac{y}{2}) - \exp ( \frac{z}{2}) \right)^2$ بدست می‌آید و برای هر $ y,z \in R$ برقرار است. 
\begin{lemma} \label{lem4}
فرض کنید $ \Lambda $ حاصلضرب دکارتی از $ m $ سیمپلکس از  ابعاد $ n_{1} ,..., n_{m}$ (یعنی $ \sum_{i=1}^{m} n_{i} = n$ ) مطابق با $ b \in R^m $ که یک بردار از آنهاست می‌باشد، $ A \in \{ 0,1 \} ^{ m \times n}$ بیان می‌کند $ A^T b = e$  و $ Ae = ( n_{1} , ... , n_{m} )^T$. برای هر $ \mathbf{x} \in \Lambda$ قرار دهید $ g = \bigtriangledown f (\mathbf{x}) $ و 
\begin{equation} \label{bistonoh}
r (\mathbf{x} ) = [ I - A^T (A X^{2 \gamma} A^T)^{-1} A X^{2 \gamma} ] \psi (g) \quad با \quad X=Diag(\mathbf{x}),
\end{equation}
که $ \psi : R \rightarrow R$ هر تابع صودی اکید است. آنگاه نتایج زیر برقرار است: 
\begin{enumerate}
\item
داریم $ X r (\mathbf{x}) = 0$ اگر‌و‌تنها‌اگر $ X (g - A^T p(\mathbf{x}) ) = 0$ و $ r(\mathbf{x}) \leq 0$ اگر‌و‌تنها‌اگر $ g - A^T p(\mathbf{x}) \leq 0$ که
\begin{equation} \label{si}
p(\mathbf{x}) = \psi^{-1} \left( (A X^{2 \gamma} A^T )^{-1} A X^{2 \gamma} \psi(g) \right) .
\end{equation}
\item
از $ d = X^{2 \gamma} r(\mathbf{x})$ داریم $Ad = 0$ و $ g^T d \geq 0$. بنابراین $ g^T d =0$ اگر‌و‌تنها‌اگر $ X r(\mathbf{x}) = 0$.
\end{enumerate}
\begin{proof}
\begin{enumerate}
\item
اثبات قسمت 1 مانند لم \eqref{lem3} می‌باشد. 
\item
برای اثبات قسمت 2 مانند اثبات‌های قبلی قرار می‌دهیم $ s= \left( A X^{2 \gamma} A^T \right)^{-1} A X^{2 \gamma} g$. بنابراین داریم $ A^T \psi(s) = \psi ( A^T s) $ ، با استفاده از خواص $A$ نتیجه می‌شود
\begin{align*}\\
g^T d &= g^T X^{2 \gamma} ( \psi(g) - A^T \left( A X^{2 \gamma} A^T \right)^{-1} A X^{2 \gamma} \psi(g)) \right) \\
             &= \left( g - A^T s \right)^T X^{2 \gamma} \psi(g) \\
             &=  \left( g - A^T s \right)^T X^{2 \gamma} \left( \psi(g) - A^T \psi(s) \right) \\
             &=  \left( g - A^T s \right)^T X^{2 \gamma} \left( \psi(g) - \psi(A^T s) \right) \\
             & \geq 0, 
\end{align*}
که این نامساوی به عنوان اثباتی از لم \eqref{lem3} نیز بیان می‌شود. نامساوی اکید است اگر‌‌و‌‌تنها‌اگر $ X ( \psi(g)  - A^T \psi(s)) = 0 $ . همچنین می‌تواند برای نشان دادن $ X r(\mathbf{x}) = 0$ استفاده شود اگر‌و‌تنها‌اگر $ g^T d = 0$. 
\end{enumerate}      
\end{proof}

لم  \eqref{lem4}   برقرار است اگر توابع مختلف $ \psi $  برای سیمپلکس‌های گوناگون استفاده شود. لم \eqref{lem3} و لم \eqref{lem4} برای حالت‌های خاص  $ \gamma = \frac{1}{2} $ و $ \psi(\tau) = \exp ( \theta \tau )$ با $ \theta > 0$ گسترش می‌یابد.
در قسمت 2 لم \eqref{lem4}، $ d = X^{2 \gamma}  r( \mathbf{x}) $  جهت صعودی شدنی در هر$ \mathbf{x} \in \Lambda $    است. 
\\
با استفاده از لم \eqref{lem4}، می‌توان قضیه \eqref{theo1} قسمت 1 تا 3 و نتیجه \eqref{coro} را برای روش تبدیل یکنوا با فرض $ \psi $  پیوسته گسترش دهیم.  
\begin{theorem} \label{theo3}
فرض کنید $ \Lambda $ ضرب دکارتی از  $ m$  سیمپلکس با  $A$  و $b$ داده شده در لم \eqref{lem4} باشد. بنابراین قسمت 1 و 2 قضیه \eqref{theo1} ،  همچنین قسمت 3 قضیه \eqref{theo1} تحت شرایط (\lr{ii}) و (\lr{iii}) و اگر $r$ توسط رابطه \eqref{bistonoh} با $ \psi $ هر تابع صعودی اکید پیوسته داده شده باشد، برقرار است. این رابطه تا زمانیکه طول گام با طول گام قاعده آرمیژو جایگزین شود برقرار است که نتیجه این کار صعودی بیشتر، که در تبصره \eqref{coro} توصیف شده، می‌باشد. 
\\
\begin{proof}
\\
به آسانی تحقیق می‌شود که گزاره \eqref{farz} برقرار است. بنابراین با استفاده از لم \eqref{lem2} و پیوستگی $ \psi $  نتیجه می‌شود که تابع $r$ که با رابطه  \eqref{bistonoh} داده شده، روی $ \Lambda $  پیوسته است. همچنین به راحتی دیده می‌شود که اثبات قسمت 1 قضیه \eqref{theo1}  برقرار است.
\\
اثبات قسمت 2 قضیه \eqref{theo1} نتیجه می‌دهد $ \{ (g^k)^T d^k \} _{k \in \kappa} \rightarrow 0 $  که  دنباله $ \{ \mathbf{x}^k \} _{k \in \kappa}$ ($ \kappa \subseteq \{ 0,1,... \}$) یک زیر دنباله از $ \{ \mathbf{x}^k \} $  است که این دنباله به برخی $ \overline{\mathbf{x}}$ها همگراست.
\\
چون $r$   روی $\Lambda$ پیوسته است، در حد داریم $ \overline{g}^T \overline{X}^{2 \gamma} r(\overline{\mathbf{x}}) = 0$ که $ \overline{g} = \bigtriangledown f (\overline{\mathbf{x}})$ و $ \overline{X} = Diag( \overline{\mathbf{x}})$.
\\
با استفاده از قسمت 2 لم \eqref{lem4} داریم $ \overline{X} r(\overline{\mathbf{x}}) =0$. با در نظر گرفتن فرض $ \sup_{k} \alpha_{0}^{k} < \infty$، ثابت می‌کنیم $ \{ \mathbf{x}^{k+1} - \mathbf{x}^k \} \rightarrow 0$.
\\
چون $ \{  \mathbf{x}^k \} $ کراندار است و برای هر نقطه انباشتگی $ \overline{\mathbf{x}}$ داریم  $ \overline{X}^{\gamma} r(\overline{\mathbf{x}}) = 0 $، پیوستگی $r$ نشان می‌دهد $ \{ d^k \} = \{ (X^k)^{2 \gamma} r(\mathbf{x}^k) \} \rightarrow 0$. حال به دلیل اینکه $ \sup_{k} \alpha_{0}^{k} < \infty $  بنابراین $ \sup_{k} \alpha^{k} < \infty $  و نتیجه می‌گیریم $ \{ \mathbf{x}^{k+1} - \mathbf{x}^k \} \rightarrow 0$.

اثبات قسمت 3 قضیه \eqref{theo1} با داشتن فرض‌های (\lr{ii}) و (\lr{iii}) هنوز برقرار است. این اثبات نشان می‌دهد که $  \overline{\mathbf{x}} $  یعنی هر نقطه انباشتگی دنباله $\{ \mathbf{x}^k \}$  بیان می‌کند $ r( \overline{\mathbf{x}}) \leq 0$ و این یعنی $ \overline{X} r(\overline{\mathbf{x}}) = 0$. با استفاده از قسمت 1  لم \eqref{lem4} داریم $ \overline{X} ( \overline{g} - A^T g(\overline{\mathbf{x}}))=0$ و $ \overline{g} - A^T p(\overline{\mathbf{x}}) \leq 0$ که $p$ همان $p$  موجود در رابطه \eqref{si} می‌باشد، بنابراین $ \overline{\mathbf{x}}$ یک نقطه سکون از \eqref{yek}  است.
\end{proof}
\\
این مساله که قسمت 3 قضیه \eqref{theo1}  با داشتن فرض‌های (\lr{i}) یا قضیه \eqref{theo2} به روش‌های تبدیل شده یکنوا گسترش داده شوند، به عنوان یک مساله باز باقی مانده است.



















