cs:navody:object_storage:s5cmd:start

s5cmd pro velmi rychlé přenosy

Pokud disponujete připojením rychlejším než 1-2Gbps a chcete přenos optimalizovat pro dosažení maximální rychlosti, použijte nástroj s5cmd. Nástroj je dostupný ve formě předkompilovaných binárek pro Windows, Linux a macOS. Dále je dostupný ve formě kódu nebo docker image. Výběr záleží na vašem systému a požadovaném použiti. Kompletní přehled najdete na githubu projektu.

Do .aws/credentials přidejte následující řádky.

[default]
aws_access_key_id = xxxxxxxxxxxxxxxxxxxxxx
aws_secret_access_key = xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx
max_concurrent_requests = 200
max_queue_size = 20000
multipart_threshold = 128MB
multipart_chunksize = 32MB

Access Key a Secret Key jste obdrželi během tvorby vašeho S3 účtu.

Pro vypsání všech dostupných bucketu použijeme:

s5cmd --endpoint-url=https://s3.clX.du.cesnet.cz ls

Jednoduché nahrání souboru:

s5cmd --endpoint-url=https://s3.clX.du.cesnet.cz cp myfile s3://bucket

Pro dosažení výšších rychlostí u větších datových objemů souborů je třeba upravit parametry pro větší paralelizaci. Následdující příklad bude dobře fungovat v případě potřeby saturovat 10 Gbps linku:

s5cmd  --endpoint-url=https://s3.clX.du.cesnet.cz cp -c=32 /adresar/velky_soubor s3://bucket
Poslední úprava:: 24.11.2024 09:32