\documentclass[11pt]{article}
%\usepackage[pagebackref=false]{hyperref}
\usepackage{subfig,graphicx}
\makeatletter
\def\@myharfi#1{\ifcase#1\or الف\or ب\or پ\or ت\or ث\or
ج\or چ\or ح\or خ\or د\or ذ\or ر\or ز\or س\or ش\or ص\or ض\or ع\or غ\or
ف\or ق\or ک\or گ\or ل\or م\or ن\or و\or ه\or ی\else\@ctrerr\fi}
\def\myharfi#1{\expandafter\@myharfi\csname c@#1\endcsname}
\makeatother
\renewcommand{\thesubfigure}{\myharfi{subfigure}}
\renewcommand*{\thesubfigure}{(\myharfi{subfigure})}
\captionsetup[subfloat]{labelformat=simple,listofformat=subsimple}
\usepackage{xepersian}
\settextfont{Yas}
\begin{document}
\begin{figure}[ht]
\begin{minipage}[t]{.5\linewidth}         
\centering\includegraphics[scale=0.35]{Chapter2/pic3.jpg}\subfloat[جواب کارای حائل اکسترمال]{\label{p11}}
\end{minipage}
\hspace{0.02cm}
\begin{minipage}[t]{.5\linewidth}   
\centering\includegraphics[scale=0.35]{Chapter2/pic4.jpg}\subfloat[جواب کارای حائل غیراکسترمال]{\label{p4-2}}
\end{minipage}
\caption{جواب‌های کارای حائل جدید}\label{p1}
\end{figure}
\end{document}