Skip to content
项目
群组
代码片段
帮助
当前项目
正在载入...
登录 / 注册
切换导航面板
S
seatunnel-web
项目
项目
详情
活动
周期分析
仓库
仓库
文件
提交
分支
标签
贡献者
图表
比较
统计图
议题
0
议题
0
列表
看板
标记
里程碑
合并请求
0
合并请求
0
CI / CD
CI / CD
流水线
作业
日程
统计图
Wiki
Wiki
代码片段
代码片段
成员
成员
折叠边栏
关闭边栏
活动
图像
聊天
创建新问题
作业
提交
问题看板
Open sidebar
宋勇
seatunnel-web
Commits
248dd73b
提交
248dd73b
authored
12月 08, 2023
作者:
李纤
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
修改minio连接
上级
d161fb17
隐藏空白字符变更
内嵌
并排
正在显示
1 个修改的文件
包含
41 行增加
和
3 行删除
+41
-3
S3DatasourceChannel.java
...e/seatunnel/datasource/plugin/s3/S3DatasourceChannel.java
+41
-3
没有找到文件。
seatunnel-datasource/seatunnel-datasource-plugins/datasource-s3/src/main/java/org/apache/seatunnel/datasource/plugin/s3/S3DatasourceChannel.java
浏览文件 @
248dd73b
...
@@ -19,6 +19,7 @@ package org.apache.seatunnel.datasource.plugin.s3;
...
@@ -19,6 +19,7 @@ package org.apache.seatunnel.datasource.plugin.s3;
import
com.amazonaws.services.dynamodbv2.xspec.S
;
import
com.amazonaws.services.dynamodbv2.xspec.S
;
import
io.minio.ListBucketsArgs
;
import
io.minio.ListBucketsArgs
;
import
org.apache.commons.lang3.StringUtils
;
import
org.apache.seatunnel.api.configuration.util.OptionRule
;
import
org.apache.seatunnel.api.configuration.util.OptionRule
;
import
org.apache.seatunnel.common.utils.SeaTunnelException
;
import
org.apache.seatunnel.common.utils.SeaTunnelException
;
import
org.apache.seatunnel.datasource.plugin.api.DataSourceChannel
;
import
org.apache.seatunnel.datasource.plugin.api.DataSourceChannel
;
...
@@ -85,16 +86,18 @@ public class S3DatasourceChannel implements DataSourceChannel {
...
@@ -85,16 +86,18 @@ public class S3DatasourceChannel implements DataSourceChannel {
return
tab
;
return
tab
;
// throw new MinioException("桶不存在");
// throw new MinioException("桶不存在");
}
}
Iterable
<
Result
<
Item
>>
results
=
Iterable
<
Result
<
Item
>>
results
=
getFileByDir
(
minioClient
,
database
,
null
);
minioClient
.
listObjects
(
ListObjectsArgs
.
builder
().
bucket
(
database
).
build
());
results
.
forEach
(
results
.
forEach
(
x
->
{
x
->
{
try
{
try
{
boolean
dir
=
x
.
get
().
isDir
();
boolean
dir
=
x
.
get
().
isDir
();
String
s
=
x
.
get
().
objectName
();
if
(!
dir
)
{
if
(!
dir
)
{
String
s
=
x
.
get
().
objectName
();
tab
.
add
(
s
);
tab
.
add
(
s
);
}
}
// else{
// getAllFile(tab, getFileByDir(minioClient, database,s), minioClient, database);
// }
}
catch
(
ErrorResponseException
}
catch
(
ErrorResponseException
|
InsufficientDataException
|
InsufficientDataException
|
InternalException
|
InternalException
...
@@ -117,7 +120,42 @@ public class S3DatasourceChannel implements DataSourceChannel {
...
@@ -117,7 +120,42 @@ public class S3DatasourceChannel implements DataSourceChannel {
// datasource");
// datasource");
}
}
private
void
getAllFile
(
List
<
String
>
tab
,
Iterable
<
Result
<
Item
>>
results
,
MinioClient
minioClient
,
String
database
)
{
results
.
forEach
(
x
->
{
try
{
boolean
dir
=
x
.
get
().
isDir
();
String
s
=
x
.
get
().
objectName
();
if
(!
dir
)
{
tab
.
add
(
s
);
}
else
{
this
.
getAllFile
(
tab
,
getFileByDir
(
minioClient
,
database
,
s
),
minioClient
,
database
);
}
}
catch
(
ErrorResponseException
|
InsufficientDataException
|
InternalException
|
InvalidKeyException
|
InvalidResponseException
|
IOException
|
NoSuchAlgorithmException
|
ServerException
|
XmlParserException
e
)
{
throw
new
RuntimeException
(
e
);
}});
}
private
Iterable
<
Result
<
Item
>>
getFileByDir
(
@NonNull
MinioClient
minioClient
,
@NonNull
String
bucket
,
String
dir
)
{
Iterable
<
Result
<
Item
>>
results
;
if
(
StringUtils
.
isNotEmpty
(
dir
))
{
results
=
minioClient
.
listObjects
(
ListObjectsArgs
.
builder
().
bucket
(
bucket
).
build
());
}
else
{
results
=
minioClient
.
listObjects
(
ListObjectsArgs
.
builder
().
bucket
(
bucket
).
prefix
(
dir
).
build
());
}
return
results
;
}
@Override
@Override
public
List
<
String
>
getDatabases
(
public
List
<
String
>
getDatabases
(
...
...
编写
预览
Markdown
格式
0%
重试
或
添加新文件
添加附件
取消
您添加了
0
人
到此讨论。请谨慎行事。
请先完成此评论的编辑!
取消
请
注册
或者
登录
后发表评论