Pokud disponujete připojením rychlejším než 1-2Gbps a chcete přenos optimalizovat pro dosažení maximální rychlosti, použijte nástroj s5cmd. Nástroj je dostupný ve formě předkompilovaných binárek pro Windows, Linux a macOS. Dále je dostupný ve formě kódu nebo docker image. Výběr záleží na vašem systému a požadovaném použiti. Kompletní přehled najdete na githubu projektu.
Do .aws/credentials přidejte následující řádky.
[default] aws_access_key_id = xxxxxxxxxxxxxxxxxxxxxx aws_secret_access_key = xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx max_concurrent_requests = 200 max_queue_size = 20000 multipart_threshold = 128MB multipart_chunksize = 32MB
Access Key a Secret Key jste obdrželi během tvorby vašeho S3 účtu.
Pro vypsání všech dostupných bucketu použijeme:
s5cmd --endpoint-url=https://s3.clX.du.cesnet.cz ls
Jednoduché nahrání souboru:
s5cmd --endpoint-url=https://s3.clX.du.cesnet.cz cp myfile s3://bucket
Pro dosažení výšších rychlostí u větších datových objemů souborů je třeba upravit parametry pro větší paralelizaci. Následdující příklad bude dobře fungovat v případě potřeby saturovat 10 Gbps linku:
s5cmd --endpoint-url=https://s3.clX.du.cesnet.cz cp -c=32 /adresar/velky_soubor s3://bucket
CESNET, z. s. p. o.
Generála Píky 26
160 00 Praha 6
Tel: +420 234 680 222
Fax: +420 224 320 269
info@cesnet.cz
Tel: +420 234 680 222
GSM: +420 602 252 531
Fax: +420 224 313 211
support@cesnet.cz