使用Spring Boot的Spring Batch

2023/05/11

1. 概述

Spring Batch是一个强大的框架,用于开发健壮的批处理应用程序。在我们之前的教程中,我们介绍了Spring Batch

在本教程中,我们将在上一个教程的基础上学习如何使用Spring Boot设置和创建一个基本的批处理驱动应用程序。

2. Maven依赖

首先,让我们将spring-boot-starter-batch添加到我们的pom.xml中:

<dependency>
    <groupId>org.springframework.boot</groupId>
    <artifactId>spring-boot-starter-batch</artifactId>
    <version>2.7.2</version>
</dependency>

我们还将添加org.hsqldb依赖项,它也可以从Maven Central 获得:

<dependency>
    <groupId>org.hsqldb</groupId>
    <artifactId>hsqldb</artifactId>
    <version>2.5.1</version>
    <scope>runtime</scope>
</dependency>

3. 定义一个简单的Spring Batch作业

我们将构建一个从CSV文件导入咖啡列表的作业,使用自定义处理器对其进行转换,并将最终结果存储在内存数据库中

3.1 入门

让我们从定义应用程序入口点开始:

@SpringBootApplication
public class SpringBootBatchProcessingApplication {

    public static void main(String[] args) {
        SpringApplication.run(SpringBootBatchProcessingApplication.class, args);
    }
}

正如我们所见,这是一个标准的Spring Boot应用程序。由于我们希望尽可能使用默认配置值,因此我们将使用一组非常简单的应用程序配置属性。

我们将在src/main/resources/application.properties文件中定义这些属性:

file.input=coffee-list.csv

此属性包含我们输入的咖啡列表的位置。每行都包含我们咖啡的品牌、产地和一些特征:

Blue Mountain,Jamaica,Fruity
Lavazza,Colombia,Strong
Folgers,America,Smokey

正如我们将要看到的,这是一个平面CSV文件,这意味着Spring可以在没有任何特殊自定义的情况下处理它。

接下来,我们将添加一个SQL脚本schema-all.sql来创建我们的coffee表来存储数据:

DROP TABLE coffee IF EXISTS;

CREATE TABLE coffee  (
    coffee_id BIGINT IDENTITY NOT NULL PRIMARY KEY,
    brand VARCHAR(20),
    origin VARCHAR(20),
    characteristics VARCHAR(30)
);

方便的是,Spring Boot会在启动时自动运行这个脚本

3.2 Coffee域类

随后,我们需要一个简单的域类来保存我们的咖啡项:

public class Coffee {

    private String brand;
    private String origin;
    private String characteristics;

    public Coffee(String brand, String origin, String characteristics) {
        this.brand = brand;
        this.origin = origin;
        this.characteristics = characteristics;
    }

    // getters and setters
}

如前所述,我们的Coffee对象包含三个属性:

  • 一个品牌
  • 一个产地
  • 一些附加特征

4. 作业配置

现在,进入关键组件,即我们的作业配置。我们将逐步构建我们的配置,并在此过程中解释每个部分:

@Configuration
@EnableBatchProcessing
public class BatchConfiguration {

    @Autowired
    public JobBuilderFactory jobBuilderFactory;

    @Autowired
    public StepBuilderFactory stepBuilderFactory;

    @Value("${file.input}")
    private String fileInput;

    // ...
}

首先,我们从一个标准的Spring @Configuration类开始。接下来,我们向该类添加一个@EnableBatchProcessing注解。值得注意的是,这使我们能够访问许多支持作业的有用bean,并将节省我们大量的手动工作

此外,使用此注解还使我们能够访问两个有用的工厂,稍后我们将在构建作业配置和作业步骤时使用它们。

对于我们初始配置的最后一部分,我们包括对我们之前声明的file.input属性的引用。

4.1 我们作业的Reader和Writer

现在,我们可以继续在我们的配置中定义一个Reader bean:

@Bean
public FlatFileItemReader reader() {
    return new FlatFileItemReaderBuilder().name("coffeeItemReader")
        .resource(new ClassPathResource(fileInput))
        .delimited()
        .names(new String[] { "brand", "origin", "characteristics" })
        .fieldSetMapper(new BeanWrapperFieldSetMapper() )
        .build();
}

简而言之,我们上面定义的Reader bean查找一个名为coffee-list.csv的文件,并将每个行项解析为一个Coffee对象

同样,我们定义一个Writer bean:

@Bean
public JdbcBatchItemWriter writer(DataSource dataSource) {
    return new JdbcBatchItemWriterBuilder()
        .itemSqlParameterSourceProvider(new BeanPropertyItemSqlParameterSourceProvider<>())
        .sql("INSERT INTO coffee (brand, origin, characteristics) VALUES (:brand, :origin, :characteristics)")
        .dataSource(dataSource)
        .build();
}

这一次,我们包含了将单个咖啡项目插入数据库所需的SQL语句,由Coffee对象的Java bean属性驱动。方便的是,数据源是由@EnableBatchProcessing注解自动创建的

4.2 把我们的作业放在一起

最后,我们需要添加实际的作业步骤和配置:

@Bean
public Job importUserJob(JobCompletionNotificationListener listener, Step step1) {
    return jobBuilderFactory.get("importUserJob")
        .incrementer(new RunIdIncrementer())
        .listener(listener)
        .flow(step1)
        .end()
        .build();
}

@Bean
public Step step1(JdbcBatchItemWriter writer) {
    return stepBuilderFactory.get("step1")
        .<Coffee, Coffee> chunk(10)
        .reader(reader())
        .processor(processor())
        .writer(writer)
        .build();
}

@Bean
public CoffeeItemProcessor processor() {
    return new CoffeeItemProcessor();
}

如我们所见,我们的作业相对简单,由在step1方法中定义的一个步骤组成。

我们来看看这一步做了什么:

  • 首先,我们配置我们的步骤,使其使用chunk(10)声明一次最多写入十条记录
  • 然后,我们使用reader bean读取咖啡数据,我们使用reader方法设置它
  • 接下来,我们将每个咖啡项传递给自定义处理器,我们在其中应用一些自定义业务逻辑
  • 最后,我们使用之前看到的writer将每个咖啡项写入数据库

另一方面,我们的importUserJob包含我们的作业定义,其中包含一个使用内置RunIdIncrementer类的id。我们还设置了一个JobCompletionNotificationListener,我们将使用它在作业完成时收到通知

为了完成我们的作业配置,我们列出了每个步骤(尽管这个作业只有一个步骤)。我们现在有一个完美配置的作业!

5. 自定义处理器

现在,让我们详细了解一下之前在作业配置中定义的自定义处理器:

public class CoffeeItemProcessor implements ItemProcessor<Coffee, Coffee> {

    private static final Logger LOGGER = LoggerFactory.getLogger(CoffeeItemProcessor.class);

    @Override
    public Coffee process(final Coffee coffee) throws Exception {
        String brand = coffee.getBrand().toUpperCase();
        String origin = coffee.getOrigin().toUpperCase();
        String chracteristics = coffee.getCharacteristics().toUpperCase();

        Coffee transformedCoffee = new Coffee(brand, origin, chracteristics);
        LOGGER.info("Converting ( {} ) into ( {} )", coffee, transformedCoffee);

        return transformedCoffee;
    }
}

特别有趣的是,ItemProcessor接口为我们提供了一种在作业执行期间应用某些特定业务逻辑的机制。

为了简单起见,我们定义了CoffeeItemProcessor,它接收一个输入Coffee对象并将每个属性转换为大写

6. 作业完成

此外,我们还将编写一个JobCompletionNotificationListener以在我们的作业完成时提供一些反馈:

@Override
public void afterJob(JobExecution jobExecution) {
    if (jobExecution.getStatus() == BatchStatus.COMPLETED) {
        LOGGER.info("!!! JOB FINISHED! Time to verify the results");

        String query = "SELECT brand, origin, characteristics FROM coffee";
        jdbcTemplate.query(query, (rs, row) -> new Coffee(rs.getString(1), rs.getString(2), rs.getString(3)))
            .forEach(coffee -> LOGGER.info("Found < {} > in the database.", coffee));
    }
}

在上面的示例中,我们重写了afterJob方法并检查作业是否成功完成。此外,我们运行一个简单的查询来检查每个咖啡项是否已成功存储在数据库中

7. 运行我们的作业

现在我们已经准备好运行我们的作业,接下来是有趣的部分。让我们继续运行我们的作业:

...
17:41:16.336 [main] INFO  c.t.t.b.JobCompletionNotificationListener - !!! JOB FINISHED! Time to verify the results
17:41:16.336 [main] INFO  c.t.t.b.JobCompletionNotificationListener - Found < Coffee [brand=BLUE MOUNTAIN, origin=JAMAICA, characteristics=FRUITY] > in the database.
17:41:16.337 [main] INFO  c.t.t.b.JobCompletionNotificationListener - Found < Coffee [brand=LAVAZZA, origin=COLOMBIA, characteristics=STRONG] > in the database.
17:41:16.337 [main] INFO  c.t.t.b.JobCompletionNotificationListener - Found < Coffee [brand=FOLGERS, origin=AMERICA, characteristics=SMOKEY] > in the database.
...

如我们所见,我们的作业成功运行,并且每个咖啡项都按预期存储在数据库中

8. 总结

在本文中,我们学习了如何使用Spring Boot创建一个简单的Spring Batch作业。

首先,我们从定义一些基本配置开始。然后,我们看到了如何添加文件读取器和数据库写入器。最后,我们了解了如何应用一些自定义处理并检查我们的作业是否已成功执行。

与往常一样,本教程的完整源代码可在GitHub上获得。

Show Disqus Comments

Post Directory

扫码关注公众号:Taketoday
发送 290992
即可立即永久解锁本站全部文章