Amazon Simple Storage Service (S3)

Destination only

Ce connecteur ne peut être utilisé que comme destination pour l'écriture des données générées.

Types de fichiers pris en charge : Parquet
partitionnement pris en charge : Partitionnement horizontal basé sur la taille du lot d'écriture (c'est-à-dire que chaque lot sera écrit dans un fichier séparé). Veuillez également donner un exemple de structure de sortie de fichier

Avant de commencer

Avant de commencer, rassemblez ces informations de connexion :

Obtenez les détails de connexion pour vous connecter à votre S3 bucket

Formats de fichiers

Les formats de fichiers pris en charge sont les suivants :

Parquet
ORC

Format de sortie

Le connecteur de sortie S3 de Syntho écrira toutes les données générées dans des fichiers comme suit :

Chaque table générée sera écrite dans un fichier Parquet au format suivant:\N-{nom-du-schéma}-{nom-de-la-table}partie{nom-de-la-partie}.parquet. {nom du schéma}-{nom de la table}partie{nom de la partie}.parquet`
Le nombre de lignes dans un seul fichier Parquet (partie) est défini par la taille de batch_generate. Toutes les parties Parquet d'une table unique seront stockées dans leur propre répertoire, qui est dédié à cette table particulière.
Chaque nom de répertoire utilisera le format suivant :
{nom_du_schema}.{nom_de_la_table}

Connexion et configuration de l'espace de travail

Lancer Syntho et sélectionner Connect to a databaseou sous Create workspace > Destination Database, sélectionner S3. Pour obtenir une liste complète des connexions de données, sélectionnez More sous From database. Procédez ensuite comme suit :

Saisissez le nom du seau.
Saisissez le nom de la région.
Saisissez le numéro de port.
Saisissez l'identifiant de la clé d'accès AWS.
Saisissez la clé d'accès secrète AWS.
Saisir le préfixe. Si Syntho n'arrive pas à se connecter, vérifier que les informations d'identification sont correctes. Si vous n'arrivez toujours pas à vous connecter, votre ordinateur a du mal à localiser le serveur. Contacter l'administrateur réseau ou l'administrateur de la base de données.

Limites et considérations

Contacter la personne de contact Syntho pour discuter des limitations éventuelles de ce connecteur.

Pour les fichiers ORC, les colonnes remplies de valeurs None qui sont de type Char, String ou Varchar seront écrites comme "None" (c'est-à-dire une valeur de chaîne) dans la base de données de destination au lieu de None.
Des erreurs peuvent se produire pendant la conversion des données lors de l'écriture dans des fichiers ORC si des types de données non pris en charge sont impliqués. Supported Data Types: Les types de données pris en charge pour les fichiers ORC sont spécifiés dans la documentation Apache Arrow.

Contactez votre interlocuteur Syntho pour discuter des limitations éventuelles concernant ce connecteur.

PreviousAzure Data Lake Storage (ADLS)NextEdit a workspace

Last updated 3 months ago

Format de sortie

Le connecteur de sortie S3 de Syntho écrira toutes les données générées dans des fichiers comme suit :

Chaque table générée sera écrite dans un fichier Parquet au format suivant:\N-{nom-du-schéma}-{nom-de-la-table}partie{nom-de-la-partie}.parquet. {nom du schéma}-{nom de la table}partie{nom de la partie}.parquet`

Le nombre de lignes dans un seul fichier Parquet (partie) est défini par la taille de batch_generate. Toutes les parties Parquet d'une table unique seront stockées dans leur propre répertoire, qui est dédié à cette table particulière.

Chaque nom de répertoire utilisera le format suivant :

{nom_du_schema}.{nom_de_la_table}

Connexion et configuration de l'espace de travail

Saisissez le nom du seau.

Saisissez le nom de la région.

Saisissez le numéro de port.

Saisissez l'identifiant de la clé d'accès AWS.

Saisissez la clé d'accès secrète AWS.

Saisir le préfixe. Si Syntho n'arrive pas à se connecter, vérifier que les informations d'identification sont correctes. Si vous n'arrivez toujours pas à vous connecter, votre ordinateur a du mal à localiser le serveur. Contacter l'administrateur réseau ou l'administrateur de la base de données.

Limites et considérations

Contacter la personne de contact Syntho pour discuter des limitations éventuelles de ce connecteur.

Pour les fichiers ORC, les colonnes remplies de valeurs None qui sont de type Char, String ou Varchar seront écrites comme "None" (c'est-à-dire une valeur de chaîne) dans la base de données de destination au lieu de None.

Des erreurs peuvent se produire pendant la conversion des données lors de l'écriture dans des fichiers ORC si des types de données non pris en charge sont impliqués. Supported Data Types: Les types de données pris en charge pour les fichiers ORC sont spécifiés dans la documentation Apache Arrow.

Type logique

Type de flèche mappée

Contactez votre interlocuteur Syntho pour discuter des limitations éventuelles concernant ce connecteur.