Несколько способов установки Apache Spark на macOS

Чтобы установить Apache Spark на macOS, вы можете воспользоваться несколькими способами. Вот несколько вариантов вместе с примерами кода:

Метод 1: использование доморощенного

  1. Откройте окно терминала.
  2. Установите Homebrew, выполнив следующую команду:
    /bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)"
  3. Установите Apache Spark, выполнив следующую команду:
    brew install apache-spark
  4. После завершения установки вы можете проверить ее, выполнив:
    spark-shell

Способ 2: установка вручную

  1. Перейдите на страницу загрузок Apache Spark ( https://spark.apache.org/downloads.html ) и выберите последнюю версию Spark.
  2. Выберите готовый пакет для Apache Spark как «Предварительно созданный для Apache Hadoop».
  3. Загрузите пакет и распакуйте его в нужное место.
  4. Откройте терминал и перейдите в каталог Spark.
  5. Задайте переменную среды SPARK_HOME, выполнив:
    export SPARK_HOME=/path/to/spark

    Замените /path/to/sparkфактическим путем, по которому вы извлекли Spark.

  6. Добавьте двоичный путь Spark в переменную среды PATH, выполнив:
    export PATH=$SPARK_HOME/bin:$PATH
  7. Вы можете проверить установку, запустив:
    spark-shell

Метод 3. Использование Apache Spark с Apache Hadoop

  1. Установите Apache Hadoop с помощью Homebrew:
    brew install hadoop
  2. Установите Apache Spark с помощью Homebrew:
    brew install apache-spark
  3. Задайте для переменной среды HADOOP_HOMEкаталог установки Hadoop:
    export HADOOP_HOME=/usr/local/Cellar/hadoop/<version>

    Замените на установленную версию Hadoop.

  4. Задайте для переменной среды SPARK_HOMEкаталог установки Spark:
    export SPARK_HOME=/usr/local/Cellar/apache-spark/<version>

    Замените установленной версией Spark.

  5. Добавьте двоичный путь Spark в переменную среды PATH:
    export PATH=$SPARK_HOME/bin:$PATH
  6. Проверьте установку, выполнив:
    spark-shell