Чтобы установить Apache Spark на macOS, вы можете воспользоваться несколькими способами. Вот несколько вариантов вместе с примерами кода:
Метод 1: использование доморощенного
- Откройте окно терминала.
- Установите Homebrew, выполнив следующую команду:
/bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)" - Установите Apache Spark, выполнив следующую команду:
brew install apache-spark - После завершения установки вы можете проверить ее, выполнив:
spark-shell
Способ 2: установка вручную
- Перейдите на страницу загрузок Apache Spark ( https://spark.apache.org/downloads.html ) и выберите последнюю версию Spark.
- Выберите готовый пакет для Apache Spark как «Предварительно созданный для Apache Hadoop».
- Загрузите пакет и распакуйте его в нужное место.
- Откройте терминал и перейдите в каталог Spark.
- Задайте переменную среды
SPARK_HOME, выполнив:export SPARK_HOME=/path/to/sparkЗамените
/path/to/sparkфактическим путем, по которому вы извлекли Spark. - Добавьте двоичный путь Spark в переменную среды
PATH, выполнив:export PATH=$SPARK_HOME/bin:$PATH - Вы можете проверить установку, запустив:
spark-shell
Метод 3. Использование Apache Spark с Apache Hadoop
- Установите Apache Hadoop с помощью Homebrew:
brew install hadoop - Установите Apache Spark с помощью Homebrew:
brew install apache-spark - Задайте для переменной среды
HADOOP_HOMEкаталог установки Hadoop:export HADOOP_HOME=/usr/local/Cellar/hadoop/<version>Замените
на установленную версию Hadoop. - Задайте для переменной среды
SPARK_HOMEкаталог установки Spark:export SPARK_HOME=/usr/local/Cellar/apache-spark/<version>Замените
установленной версией Spark. - Добавьте двоичный путь Spark в переменную среды
PATH:export PATH=$SPARK_HOME/bin:$PATH - Проверьте установку, выполнив:
spark-shell