将 Dataframe 保存到 csv 直接保存到 s3 Python

小编典典

将 Dataframe 保存到 csv 直接保存到 s3 Python

all

我有一个要上传到新 CSV 文件的 pandas DataFrame。问题是我不想在将文件传输到 s3 之前将其保存在本地。有没有像 to_csv
这样的方法直接将数据帧写入 s3？我正在使用boto3。
这是我到目前为止所拥有的：

import boto3
s3 = boto3.client('s3', aws_access_key_id='key', aws_secret_access_key='secret_key')
read_file = s3.get_object(Bucket, Key)
df = pd.read_csv(read_file['Body'])

# Make alterations to DataFrame

# Then export DataFrame to CSV through direct transfer to s3

阅读 56

2022-08-07

共1个答案

小编典典

您可以使用：

from io import StringIO # python3; python2: BytesIO 
import boto3

bucket = 'my_bucket_name' # already created on S3
csv_buffer = StringIO()
df.to_csv(csv_buffer)
s3_resource = boto3.resource('s3')
s3_resource.Object(bucket, 'df.csv').put(Body=csv_buffer.getvalue())

2022-08-07