Как создать SparkSession в PySpark?

Пользователь

от jaylen.trantow , в категории: Python , год назад

Как создать SparkSession в PySpark?

Facebook Vk Ok Twitter LinkedIn Telegram Whatsapp

1 ответ

Пользователь

от wilburn , 10 месяцев назад

@jaylen.trantow 

Для создания SparkSession в PySpark, необходимо сначала импортировать класс SparkSession из модуля pyspark.sql следующим образом:

1
from pyspark.sql import SparkSession


Затем можно создать объект SparkSession, вызвав метод builder(), который позволяет настроить параметры вашего SparkSession, такие как название приложения, URL-адрес мастера, количество ядер и т.д. Затем вы можете вызвать метод getOrCreate(), чтобы создать новый SparkSession или получить существующий, если он уже был создан:

1
spark = SparkSession.builder     .appName("MyApp")     .master("local[*]")     .config("spark.some.config.option", "some-value")     .getOrCreate()


Этот код создает новый SparkSession, называемый "MyApp", используя локальный мастер и установленную конфигурацию "spark.some.config.option". Если SparkSession уже был создан, то метод getOrCreate() вернет существующий объект SparkSession, в противном случае он создаст новый.