s5cmd pro velmi rychlé přenosy

Pokud disponujete připojením rychlejším než 1-2Gbps a chcete přenos optimalizovat pro dosažení maximální rychlosti, použijte nástroj s5cmd. Nástroj je dostupný ve formě předkompilovaných binárek pro Windows, Linux a macOS. Dále je dostupný ve formě kódu nebo docker image. Výběr záleží na vašem systému a požadovaném použiti. Kompletní přehled najdete na githubu projektu.

Do .aws/credentials přidejte následující řádky.

[default]
aws_access_key_id = xxxxxxxxxxxxxxxxxxxxxx
aws_secret_access_key = xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx
max_concurrent_requests = 200
max_queue_size = 20000
multipart_threshold = 128MB
multipart_chunksize = 32MB

Access Key a Secret Key jste obdrželi během tvorby vašeho S3 účtu.

Pro vypsání všech dostupných bucketu použijeme:

s5cmd --endpoint-url=https://s3.clX.du.cesnet.cz ls

Jednoduché nahrání souboru:

s5cmd --endpoint-url=https://s3.clX.du.cesnet.cz cp myfile s3://bucket

Pro dosažení výšších rychlostí u větších datových objemů souborů je třeba upravit parametry, konkrétně zapojit více CPU jader a workerů, například:

s5cmd  --endpoint-url=https://s3.clX.du.cesnet.cz cp -c=8 -p=5000 /adresar/velky_soubor s3://bucket