PowerCMS Xでは、PHPの mail関数または mb_send_mail関数によりメール送信を行っています。したがって、 php.ini（メール関連）やphp.iniのsendmail_pathで指定されているsendmailプログラムで設定を行ってください。（SMTPサーバーを指定するような設定画面はありません。）
参考情報ですが、Amazon SESやSendGridをリレーホストとして送信するようにサーバーを構成することも多いようです。
補足
mail関数・mb_send_mail関数はsendmailプログラムで
メールが受け入れられれば成功とみなされます。よって、テストメールの送信で「テストメールを送信しました。」と表示されても実際に届いているかは保障されません。メールが届かない場合は/var/log/maillogを確認する必要があります。
以下はメールのFromがPHPの実行ユーザー名@ドメインになっているため、メールのリレーが拒否された例です。このケースでは環境変数fix_email_fromにメールアドレスかTrue（＝システムのメールアドレスが使われる）を指定することでメールのFromを指定のアドレスに固定できます。
Nov 11 09:52:59 ip-172-26-8-35 postfix/qmgr[16419]: 6711D2461991: from=<nginx@example.com>, size=604, nrcpt=1 (queue active)
Nov 11 09:52:59 ip-172-26-8-35 postfix/smtp[16552]: 6711D2461991: to=<webmaster@example.com>, relay=www3065.example.com[IPアドレス]:587, delay=0.16, delays=0.04/0.02/0.09/0.01, dsn=5.7.1, status=bounced (host www3065.example.com[IPアドレス] said: 550 5.7.1 <webmaster@example.com>... Command rejected (in reply to MAIL FROM command))