Synology NASをUniFi UNAS Pro 8へ移行:Robocopy、SMB Multichannel、そして驚きのパフォーマンスの落とし穴
Migrating a Synology NAS to a UniFi UNAS Pro 8 with Robocopy, SMB Multichannel (hanselman.com)
要約
著者はSynology NASからUbiquiti UniFi UNAS Pro 8へのデータ移行中に、ファイルシステム制限やパフォーマンスの低下といった予期せぬ問題に直面しました。特に、Alternate Data Streams (ADS) が原因で特定のファイルがコピーできず、Robocopyの/COPY:DATXオプションで解決しました。また、SMB Multichannel環境下でのパフォーマンスは、Robocopyの/Zオプション(再開可能モード)が無効にすることで大幅に改善されることを発見しました。
全文翻訳
Synology NASからUniFi UNAS Pro 8への移行:Robocopy、SMBマルチチャネル、そして意外なパフォーマンスの落とし穴
長年Synology NASを使用してきましたが、最近そのコンテンツを新しいUbiquiti UniFi UNAS Pro 8に移行し始めました。これは比較的退屈な作業になるはずでした。両方のデバイスはSMBを使用し、私のネットワークは高速(最近内部で10ギガビットにアップグレード済み)で、Windowsには何十年も前から信頼性の高いファイルコピーツールが存在していました。しかし、自然なことながら、これは私がすでに知っていると思っていたことを学ぶ一晩となり、だからこそ私はブログを始めたのです(笑)。
私にとって、これは興味深い歴史的背景がありました。2007年(なんてこった!)に、私は「XCopyは有害 - Robocopy、XXCopy、またはSyncBackについて」という投稿を書きました。当時の私の主張は、基本的に、十分な数のファイルを移動するようになると、エクスプローラーは役立たなくなり、Robocopyが優位に見え始めるということでした。私は、部分的に転送されたファイルを再開できることが不安定な接続で役立つため、Robocopyの再開可能モードである/Zさえ使用していました。
ほぼ20年後、/Zは私が削除する必要があった最も重要なことの1つであることが判明しました。なぜなら、それがすべてを非常に遅くしたからです。
移行
基本的な作業は単純でした。Synologyには次のような共有がありました。
\\server\music
そしてUNASには対応する共有がありました。
\\UNAS-Pro-8\music
私は当初、主にそれがそこにあったから、そして時には簡単なことが本当に簡単なことだから、エクスプローラーを使用しました。エクスプローラーが個々のファイルでエラーを生成し始めるまで、それは続きました。
ファイルシステム制限のため、要求された操作を完了できませんでした
私の最初の考えはファイル名でした。NASの移行は、あるファイルシステムが別のファイルシステムよりも許容度が高いことを発見する機会に満ちています。ファイル名には括弧やその他の句読点が含まれていました。
次にこれが失敗しました。
\\server\music\Athlete\Tourist\05 Wires.m4p
05 Wires.m4pに特に変わったところはありません。そこで、もう少し情報を得るためにRobocopyに切り替えました。それは一貫して92%に達し、Windowsエラー665を返しました。
92% New File 4.3 m 05 Wires.m4p
ERROR 665 (0x00000299) Copying File
ファイルシステム制限のため、要求された操作を完了できませんでした
この時点で、有用な質問は「そのファイル名に何が問題なのか?」ではなく、「パスのどの部分がこのファイルを拒否しているのか?」となりました。
私はそのファイルをSynologyからローカルのWindowsデスクトップにコピーしました。それはうまくいきました。次に、ローカルファイルをWindowsからUNASにコピーしましたが、同じファイルシステム制限で失敗しました。
これにより問題が特定され、Synologyはファイルを読み取ることができ、Windowsはそれを保存でき、そしてこの特定のファイルをUNASに書き込むことの何かが問題を引き起こしていました。
代替データストリーム、再び
NTFSファイルは、通常ファイルの内容として考える通常の名前のないストリームに加えて、名前付きの代替データストリームを含めることができます。これは古いWindowsファイルシステム機能であり、私が2007年にこれについて書いたことがあります。Windowsはダウンロードされたファイルの出所を記録するためにこれを使用できます。私は2003年にも代替データストリームについてブログを書きました!!! WindowsはDIR /Rでこれらのストリームを公開できます。
そこで実行しました。
dir /r "%USERPROFILE%\Desktop\05 Wires.m4p"
そして得られたのは。
11/30/2011 02:17 PM 4,576,368 05 Wires.m4p
360,456 05 Wires.m4p:01APIC_03.jpg:$DATA
ありました。通常の4.5MBの音楽ファイルとは別に、01APIC_03.jpgという名前の約360KBのデータストリームがありました。
これも奇妙な92%の失敗を説明していました。Robocopyはファイルの主要なコンテンツを正常に処理し、追加のストリームに遭遇していました。通常の.m4pファイルの中間あたりで発生したように見えた失敗は、実際にはWindowsが追加のファイルシステムデータを処理しようとしたときに発生していました。
Robocopyには、まさにこの状況を処理するサポートがあります。Microsoftは、/COPYフラグの1つとしてXを文書化しており、「代替データストリームをスキップする」ことを意味します。したがって:
/COPY:DATX
これは、ファイルのデータ、属性、タイムスタンプをコピーしますが、代替ストリームはコピーしないことを意味します。/DCOPY:DATXは、対応する動作をディレクトリに適用します。同じファイルを再試行しました。
robocopy "\\server\music\Athlete\Tourist" "\\UNAS-Pro-8\music\Athlete\Tourist" "05 Wires.m4p" /R:0 /W:0 /COPY:DATX /DCOPY:DATX /V
そしてそれは正常に完了しました。ここで重要な区別は、DATXがMP3、M4A、M4P、JPEG、またはその他のファイル形式の内部に保存されているメタデータを削除しないことです。それはRobocopyに、ファイルに関連付けられた個別のファイルシステムストリームを複製しないように指示します。私の場合は、これらの追加ストリームは新しいNASに保持する必要のあるものではありませんでした。
コピーは成功したが、遅かった
ADSの問題が理解された後、私は比較的標準的なRobocopyコマンドで大規模な移行を開始しました。
robocopy "\\server\music" "\\UNAS-Pro-8\music" /E /Z /MT:16 /R:2 /W:2 /COPY:DATX /DCOPY:DATX /XJ /TEE /LOG:"%USERPROFILE%\Desktop\synology-to-unas.log"
実行されましたが、パフォーマンスはバラバラでした。時には毎秒数百メガビットが見られ、その後劇的に低下しました。小さなファイルが長時間そこに留まっているように見えることがありました。バッファリング、遅いディスク、パリティ計算、UNASでのSMBの動作、あるいは私のSynologyがついに限界に達したのではないかと疑問に思い始めました。
そこで、「ランダムなものを試す(二分探索)」時間になりました。スレッド数を減らしました。シングルスレッドを試しました。どれも助けになりませんでした。次に/Zを削除しました。
MicrosoftのRobocopyドキュメントでは、/Zを再開可能モードとして説明しており、中断されたファイルが最初からではなく再開できるようにします。私が忘れていたのは、Microsoftの現在の移行ガイダンスが、再開可能性に必要な追加のログ記録がコピーパフォーマンスを大幅に低下させる可能性があるため、/Zは慎重に使用する必要があると特に警告していることです。
私の音楽の成功した実行は、次のような結果になりました。
robocopy "\\server\music" "\\UNAS-Pro-8\music" /E /MT:4 /R:2 /W:2 /COPY:DATX /DCOPY:DATX /XJ /TEE /LOG:"%USERPROFILE%\Desktop\synology-to-unas-DATX.log"
その実行からの要約は次のとおりでした。
Total Copied Skipped Mismatch FAILED
Files : 15940 6991 8949 0 0
Bytes : 70.907 g 47.917 g 22.989 g 0 0
Speed : 187,185,171 Bytes/sec.
したがって、残りの約48GBのデータをコピーした実行は、平均して約187MB/秒で、失敗したファイルはありませんでした。
これは、他のすべてを同一に保ちながら正確に1つの変数を変更した制御されたベンチマークではありません。そのため、/Zが以前の遅延のすべてのビットを説明したと主張するつもりはありません。しかし、実用上の違いは十分に大きかったため、再開可能性が望ましいように聞こえるという理由だけで、LAN移行コマンドに/Zを自動的に含めることはなくなりました。安定したローカルネットワークでは、それなしで開始し、実際にそのセマンティクスが必要になった場合にのみ追加します。
/MTは有用だが、特定の種類の問題に役立つ
Robocopyの/MT:nオプションは、複数のスレッドを使用してコピーを実行します。1から128までの値をサポートし、/MTが数値なしで指定された場合のデフォルトは8スレッドです。Microsoft自身の移行ガイダンスは、より多くのスレッドが自動的に高速な移行に変換されるわけではないと指摘しており、スレッド数を実際のワークロードに対して測定することを推奨しています。
これは、/MT:4を「1つのファイルを4倍速くする」と考えるのをやめたときに、より理解しやすくなりました。
数千のファイル(出所が疑わしいもの)を含む音楽コレクションを想像してみてください(私がリッピングしました、冗談です)。ファイルを開く、宛先ファイルを作成する、コンテンツを読み書きする、メタデータを処理する、そしてそれを閉じるという作業があります。シングルスレッドコピーでは、これらの操作のいずれかが完了するのを待っている間に、ネットワークまたはストレージが待機している期間があります。同時に複数のファイルが進行中であると、Robocopyはそれらの作業をオーバーラップさせる機会を得ます。
この特定のコレクションでは、4つのスレッドが適していました。16は明らかにそれ以上の助けにはならず、1つのスレッドは改善ではありませんでした。私は/MTを、すべてのコマンドラインに含めるべき魔法の値にすることを控えます。なぜなら、50,000枚の写真を含むディレクトリは、4つの900GBのディスクイメージとは異なるワークロードを提供するからです。
考慮すべきログ記録のコストもあります。Microsoftは、マルチスレッドコピーを使用する際にRobocopyの出力をログにリダイレクトすることを推奨しており、その移行ガイダンスでは、ファイル名が次々と流れるのをすべて監視するよりもスループットを重視する場合に、/NP、/NFL、/NDLなどのスイッチを使用しています。
積極的に監視していない移行の場合、次のようなものを使用するでしょう。
robocopy "\\server\share" "\\UNAS-Pro-8\share" /E /MT:4 /R:2 /W:2 /COPY:DATX /DCOPY:DATX /XJ /NP /NFL /NDL /LOG:"%USERPROFILE%\Desktop\nas-migration.log"
その後、大きなファイルが登場
その後、数百ギガバイトのファイルコピーを開始しました。Microsoftは/JをバッファなしI/Oとして説明しており、大きなファイルに推奨しているため、試すのに明白なオプションのように思えました。しかし、/Jを有効にすると、NASからNASへの転送は劇的に遅くなりました。Windowsマシンが中間にあることの利点は、移動の各半分を個別にテストできたことです。私はまったく同じ大きなファイルの1つを取り、Synologyからローカルマシンに直接コピーしました。これは約250MB/秒で実行されたため、Synologyはファイルを高速で読み取る能力がありました。
次に、SynologyからUNASへの直接のRobocopyコマンドから/Jを削除しました。
robocopy "\\server\share" "\\UNAS-Pro-8\share" "huge-file.ext" /R:0 /W:0 /COPY:DATX /NP
そして速度が戻りました。
/Jが悪いという有用な結論ではないと思います。Microsoftが理由があって大きなファイルのコピーにそれを推奨しているのは事実であり、ローカルディスクからローカルディスクへのコピーや他のネットワーク構成ではまさにそれが望ましい場合があることは十分に考えられます。ここで重要だったのは、Windowsが同時に1つのSMBサーバーから読み取り、別のSMBサーバーに書き込んでいたことであり、この特定のパスではバッファ付きI/Oの方がはるかに優れたパフォーマンスを発揮したことです。
これは、コマンドラインスイッチがパフォーマンスの保証された改善ではなく、動作を記述していることを思い出させてくれます。/JはI/Oモデルを変更します。/MTは並行処理を変更します。/Zは再開可能性を追加します。これらの変更が移行を改善するかどうかは、システムの他の部分に依存します。
Synologyは私が思っていたよりも速かった
いくつかの時点で、私は古いSynologyを責めました。それは古いマシンで回転するディスクを備えていたため、毎秒数百メガビットがそれが残っているすべてであると仮定するのは簡単でした。それから、Synologyには4つの1GbEインターフェースがあり、SMB 3はマルチチャネルをサポートしていることを思い出しました。これがこれほどうまく機能したことに、私はまだ驚いています。
SMBマルチチャネルにより、SMBセッションは複数のネットワークパスを同時に使用できます。Microsoftはこれをネットワーク帯域幅をアグリゲートする手段として具体的に文書化しており、Synologyも同様の理由でSMB3マルチチャネルをサポートしています。
Windowsでは、アクティブなチャネルを簡単に確認できます。
Get-SmbMultichannelConnection -ServerName server |
Format-Table ServerName,Selected,ClientIpAddress,ServerIpAddress,ClientLinkSpeed,ServerLinkSpeed,CurrentChannels
私のマシンは次のように報告しました。
ServerName Selected ClientIpAddress ServerIpAddress ClientLinkSpeed ServerLinkSpeed
---------- -------- --------------- --------------- --------------- ---------------
server True 192.168.1.45 192.168.1.210 1000000000 1000000000
server True 192.168.1.45 192.168.1.198 1000000000 1000000000
server True 192.168.1.45 192.168.1.197 1000000000 1000000000
server True 192.168.1.45 192.168.1.26 1000000000 1000000000
Synologyの4つの1GbEインターフェースすべてがSMB接続に参加していました。
私のWindowsマシンには現在2.5GbEアダプター(10GbEはもうすぐ)がありますが、高速コピー中にSynologyから約250MB/秒が到着していました。これにより、システムの動作ははるかに謎ではなくなりました。SMBマルチチャネルにより、Windowsは4つの利用可能なサーバー側のパスを使用できたため、Synologyは1つのギガビットイーサネット接続のスループットに限定されず、PCの2.5GbEリンクがより小さなネットワークパイプになっていました。
Synologyのドキュメントでは、SMBマルチチャネルと通常のリンクアグリゲーションの間に重要な区別が設けられています。マルチチャネルは、複数のネットワーク接続を使用して1つのクライアントのSMBパフォーマンスを向上させることができますが、従来のリンクアグリゲーションは一般的に複数のクライアントとサービスにわたるアグリゲートスループットに関するものです。
前述したように、Windowsマシン用に10GbEアダプターが到着する予定なので、移行後に別の実験が可能です。Synologyにはまだ4つの1GbEインターフェースしかなく、合計で4Gb/秒のネットワークリンクがありますが、現在の2.5GbEクライアントのボトルネックを解消すると、ディスクとSynology自体がどこまで到達できるかがわかるはずです。私がすでに「低速バックアップNAS」に格下げしていた古いNASとしては、驚くほどよくパフォーマンスを発揮しました。
rsyncも試しました
はい、わかっています、rsyncはどうでしょうか?Windowsを中間媒体として使用する必要はないと言っています。Synologyはrsyncを提供でき、UniFi Driveはデーモンモードを使用してrsyncサーバーからプルできます。Ubiquitiは、Driveのバックアップタスクの下にrsyncパスを文書化しており、このタイプのソースにはデーモンモードが必要です。
他の実験が行われている間に、別の映画共有でrsyncを試しました。それは機能し、約67MB/秒を確認しました。また、後でクリーンアップする必要のある追加のディレクトリネストを持つ宛先レイアウトも提供されました。
これはrsyncが一般的に遅いということでも、そのディレクトリの動作が正しく設定できないということでもありません。それは、この特定のSynologyからUNASへのテストで起こったことです。Robocopyパスが約187MB/秒に達し、私が望むUNC共有レイアウトを正確に維持した後、rsyncをプライマリ移行メカニズムにするインセンティブはあまりありませんでした。
わずかに面白い結果は、明らかに間接的なパス:
Synology -> SMB -> Windows -> SMB -> UNAS
が、私の環境では、2つのNASデバイスにrsyncを使用してテスト共有を直接転送するように依頼するよりも、かなり高速だったということです。私の推測では、rsyncが4つの1ギガビット接続をリンクしていなかったためです。コメントであなたの意見を聞かせてください。
最終的に使用したRobocopyコマンド
多数のファイルを含む通常の共有については、今から始めるバージョンは次のとおりです。
robocopy "\\server\share" "\\UNAS-Pro-8\share" /E /MT:4 /R:2 /W:2 /COPY:DATX /DCOPY:DATX /XJ /NP /NFL /NDL /LOG:"%USERPROFILE%\Desktop\nas-migration.log"
スイッチにはかなり具体的なジョブがあります。
/E サブディレクトリをコピーします(空のものも含む)
/MT:4 4つのファイルコピーを許可します
/R:2 失敗したコピーを2回リトライします
/W:2 リトライ間に2秒待機します
/COPY:DATX データ、属性、タイムスタンプをコピーしますが、ADSはスキップします
/DCOPY:DATX 対応するディレクトリコピーフラグを適用します
/XJ ジャンクションポイントを除外します
/NP パーセンテージの進行状況を表示しません
/NFL すべてのファイル名をログに記録しません
/NDL すべてのディレクトリをログに記録しません
/LOG 有用な出力をファイルに書き込みます
私は意図的に/Zを含んでいません。また、/Jを自動的に追加することもありません。非常に大きなファイルが支配的なワークロードの場合は、マルチテラバイトの実行をコミットする前に、それがある場合とない場合の両方で同じ転送をテストします。
/MTの値も同様に経験的です。このSynologyとこのファイルの組み合わせには4が非常にうまく機能しましたが、利用可能な最大のスレッド数が最良であると仮定するのではなく、実際のデータの代表的なスライスに対して1、4、8、またはその他の合理的な数をテストします。
結果の確認
宛先にソースとまったく同じバイトが含まれていることを証明するのに十分なほど気にかけているファイルについては、PowerShellのGet-FileHashが便利な最終チェックです。
Get-FileHash "\\server\share\huge-file.ext" -Algorithm SHA256
Get-FileHash "\\UNAS-Pro-8\share\huge-file.ext" -Algorithm SHA256
Get-FileHashはデフォルトでSHA-256を使用し、SHA-256値が一致すれば、2つの入力は同じダイジェストを生成しました。巨大なファイルの場合、これは両端でファイル全体を再度読み取る必要があるため、音楽コレクションのすべての曲をハッシュする可能性は低いですが、移行後に特に価値のある数百ギガバイトのファイルを検証する簡単な方法です。
NASを責める前に確認するいくつかのこと
この移行を興味深いものにしたのは、症状がいくつかのもっともらしい説明を裏付けることができたことです。UNASには新しいRAIDアレイがあり、Synologyは古く、Windowsは両方向でSMBクライアントとして機能しており、ファイルは何年もの異なるアプリケーションから来ており、Robocopyにはほぼすべてのコマンドラインを権威的に見せるのに十分なスイッチがあります。
ファイルが失敗したとき、私はそれをSynologyからローカルへ、次にローカルからUNASへコピーしました。これにより、宛先側のADSの問題が明らかになりました。大きなファイルが遅かったとき、私は同じファイルをSynologyからローカルへコピーしました。これにより、古いNASがまだ約250MB/秒を提供できることが証明されました。ネットワークが突然はるかに高速になったとき、Get-SmbMultichannelConnectionは、Synologyの4つのイーサネットインターフェースすべてが参加していることを示しました。/Jが遅く見えたとき、その動作だけを削除すると期待していたスループットが回復しました。
最終的なパフォーマンスは、フォーラムから秘密の「高速Robocopy」コマンドを見つけた結果ではありませんでした。それは、この移行で実際に必要だった機能を考え、他の状況では有用だが私の状況ではコストのかかるいくつかの機能を削除した結果でした。
これはおそらく、次回これを行うときに覚えておきたい部分でしょう。/Z、/J、/MTはパフォーマンススライダーのレベルではありません。それらは再開可能性、バッファリング、並行処理を変更します。代替データストリームは、エクスプローラーが通常それらを隠していても、実際のデータです。SMBマルチチャネルは、単一のイーサネットポートを見ることから想定されるよりもはるかに有能な、複数のギガビットインターフェースを持つ古いNASをことができます。
Robocopyは最終的に私が試した中で最も速いものでした。すべての一般的なアドバイスと同様に、これは私にはうまくいきました。理想的には、Hacker Newsの読者やWindowsのエキスパートがより良いツールや戦略を提供してくれるので、コメントからさらに価値を見つけることができるでしょう。ネットワークを飽和させる方法は複数あることを覚えておいてください。私はこのネットワークを完全に飽和させたので、移行の結果には非常に満足しています。
Scottについて
Scott Hanselmanは、元教授、元金融業界のチーフアーキテクトであり、現在はスピーカー、コンサルタント、父親、糖尿病患者、そしてMicrosoftの従業員です。彼はスタンドアップコメディアンとしては失敗し、コーンロウ愛好家であり、作家でもあります。
[画像: facebook] [画像: bluesky] [画像: subscribe]
About Newsletter
Hosting By
[画像: Hosted on Linux using .NET in an Azure App Service]