XMODEM は、8 bit コード ($00-$FF の文字すべて)を完全に通す回線を用いないと使用できません。
Dataが 7 bit だったり、フロー制御が Xon/Xoff だったりすると、XMODEM が使えません。[Setup] Serial port で Data を 8 bit にし、Flow control を hard (CTS/RTS) か none にしてください。モデム(ホスト)側の設定も同じにしてください。
もし正しく転送できない場合はバイナリオプションで telnet 接続してみてください。
バイナリオプションで接続するには、
どうしても正常に転送できない場合は、ホスト側の XMODEM コマンドを正しく設定および使用していることを確認した上で、XMODEM のログを取り、作者に送ってください。
参考: 中間ホストを経由してホストに接続した場合のファイル転送
XMODEM はファイルを 128または1024 byteのブロックに分けて扱い、ファイル長をやり取りすることができません。 受信したデータ長は128または1024byteの倍数になります。
最後のブロックの送信ファイル長よりも長い部分には詰め物が入れられます。 詰め物は仕様上は$1Aとされています。XMODEMの送信プログラムによっては他の値になっているかもしれません。