一、提出问题
- 计算学生成绩平均分
- java成绩
1 张益达 85
2 李炫迈 91
3 王绿箭 79
4 甄子丹 90
5 李连杰 93
6 关云长 91
7 赵子龙 87
8 李哪吒 81
- Django成绩
1 张益达 87
2 李炫迈 90
3 王绿箭 89
4 甄子丹 88
5 李连杰 90
6 关云长 79
7 赵子龙 92
8 李哪吒 89
- Spark成绩
1 张益达 78
2 李炫迈 95
3 王绿箭 79
4 甄子丹 89
5 李连杰 91
6 关云长 90
7 赵子龙 95
8 李哪吒 79
-
启动HDFS集群与Spark
-
在HDFS上新建
/score
目录
-
在
/home
目录下新建三个文本文件:java.txt
django.txt
spark.txt
- 将三个文件上传到HDFS的
/score
目录下
- 分别查看三个文件内容
二、解决问题
(一)新建Maven项目
(二)添加依赖
- 修改pom.xml文件
<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0"
xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
xsi:schemaLocation="http://maven.apache.org/POM/4.0.0
http://maven.apache.org/xsd/maven-4.0.0.xsd">
<modelVersion>4.0.0</modelVersion>
<groupId>net.xjx.sql</groupId>
<artifactId>GradeTopNBySQL</artifactId>
<version>1.0-SNAPSHOT</version>
<dependencies>
<dependency>
<groupId>org.scala-lang</groupId>
<artifactId>scala-library</artifactId>
<version>2.11.12</version>
</dependency>
<dependency>
<groupId>org.apache.spark</groupId>
<artifactId>spark-core_2.11</artifactId>
<version>2.1.1</version>
</dependency>
<dependency>
<groupId>org.apache.spark</groupId>
<artifactId>spark-sql_2.11</artifactId>
<version>2.1.1</version>
</dependency>
</dependencies>
<build>
<sourceDirectory>src/main/scala</sourceDirectory>
<plugins>
<plugin>
<groupId>org.apache.maven.plugins</groupId>
<artifactId>maven-assembly-plugin</artifactId>
<version>3.3.0</version>
<configuration>
<descriptorRefs>
<descriptorRef>jar-with-dependencies</descriptorRef>
</descriptorRefs>
</configuration>
<executions>
<execution>
<id>make-assembly</id>
<phase>package</phase>
<goals>
<goal>single</goal>
</goals>
</execution>
</executions>
</plugin>
<plugin>
<groupId>net.alchim31.maven</groupId>
<artifactId>scala-maven-plugin</artifactId>
<version>3.3.2</version>
<executions>
<execution>
<id>scala-compile-first</id>
<phase>process-resources</phase>
<goals>
<goal>add-source</goal>
<goal>compile</goal>
</goals>
</execution>
<execution>
<id>scala-test-compile</id>
<phase>process-test-resources</phase>
<goals>
<goal>testCompile</goal>
</goals>
</execution>
</executions>
</plugin>
</plugins>
</build>
</project>
(三)新建日志属性文件
- 在
resources
目录下创建日志属性文件log4j
log4j.rootLogger=ERROR, stdout, logfile
log4j.appender.stdout=org.apache.log4j.ConsoleAppender
log4j.appender.stdout.layout=org.apache.log4j.PatternLayout
log4j.appender.stdout.layout.ConversionPattern=%d %p [%c] - %m%n
log4j.appender.logfile=org.apache.log4j.FileAppender
log4j.appender.logfile.File=target/spark.log
log4j.appender.logfile.layout=org.apache.log4j.PatternLayout
log4j.appender.logfile.layout.ConversionPattern=%d %p [%c] - %m%n
- 将
java
目录改为scala
- 创建
net.xjx.sql
(四)创建计算平均分单例对象
- 在
net.xjx.sql
包里创建CalculateAverageBySQL
package net.xjx.sql
import org.apache.spark.sql.{
Dataset, SparkSession}
/**
* 功能:利用Spark SQL计算平均分
* 日期:2022年06月16日
*/
object CalculateAverageBySQL {
def main(args: Array[String]): Unit = {
// 创建或得到Spark会话对象
val spark = SparkSession.builder()
.appName("CalculateAverageBySQL")
.master("local[*]")
.getOrCreate()
// 读取HDFS上“/score”目录里的成绩文件
val lines: Dataset[String] = spark.read.textFile("hdfs://master:9000/score")
// 导入隐式转换
import spark.implicits._
// 创建成绩数据集
val gradeDS: Dataset[Grade] = lines.map(
line => {
val fields = line.split(" ")
val name = fields(1)
val score = fields(2).toInt
Grade(name, score)
})
// 将数据集转换成数据帧
val df = gradeDS.toDF();
// 基于数据帧创建临时表
df.createOrReplaceTempView("t_grade")
// 查询临时表,计算平均分
val avg = spark.sql(
"""
|select name, cast(avg(score) as decimal(5, 2)) as average
| from t_grade
| group by name
|""".stripMargin
)
// 按照指定格式输出平均成绩
println()
avg.foreach(row => println(row(0) + ": " + row(1)))
// 关闭Spark会话
spark.close()
}
// 定义成绩样例类
case class Grade(name: String, score: Int)
}