Параллельные и распределенные вычисления весна 2026 — различия между версиями

Материал из Public ATP Wiki
Перейти к: навигация, поиск
 
(не показана 1 промежуточная версия этого же участника)
Строка 6: Строка 6:
 
* [https://docs.google.com/spreadsheets/d/e/2PACX-1vQEQcwHzAVnVfqwwIeJcnRK1_kmhUjvHAtDz9b9GK8rjIgaDjMvH4pXGHFtlJh32WYZJAlRyP-fjxDC/pubhtml?gid=633420430&single=true Статус проверки домашних заданий]
 
* [https://docs.google.com/spreadsheets/d/e/2PACX-1vQEQcwHzAVnVfqwwIeJcnRK1_kmhUjvHAtDz9b9GK8rjIgaDjMvH4pXGHFtlJh32WYZJAlRyP-fjxDC/pubhtml?gid=633420430&single=true Статус проверки домашних заданий]
 
* [https://docs.google.com/forms/d/e/1FAIpQLSdI3KAkUb6y-MLV3mH55kaoNoBUah7TL2tqyQu6FTHjDaLr9A/viewform?usp=preview Продление дедлайнов и дописывание КР]
 
* [https://docs.google.com/forms/d/e/1FAIpQLSdI3KAkUb6y-MLV3mH55kaoNoBUah7TL2tqyQu6FTHjDaLr9A/viewform?usp=preview Продление дедлайнов и дописывание КР]
 +
* [https://studoko.atp-fivt.org/course/profile/pd-2026s Ссылка на Studoko курс]
 
* [https://t.me/+KHIM4QIa930yNGMy Телеграм-чат курса]
 
* [https://t.me/+KHIM4QIa930yNGMy Телеграм-чат курса]
  
Строка 41: Строка 42:
  
 
==== Сервера ====
 
==== Сервера ====
−
* MPI & OpenMP: <pre>ssh <user>@185.81.248.52 -p 2222</pre>
+
* MPI & OpenMP: <pre>ssh <user>@185.81.248.52 -p 2236</pre>
 
* CUDA: <pre>ssh <user>@lorien.atp-fivt.org</pre>
 
* CUDA: <pre>ssh <user>@lorien.atp-fivt.org</pre>
 +
* HDSF & AirFlow:  <pre>ssh <user>@93.175.29.120 -p 10205</pre>
 +
 +
Сервисы Hadoop (доступны с территории кампуса. В иных случаях требуется пробрасывать порт):
 +
 +
{|  class="wikitable"
 +
|-
 +
! Название
 +
! Ссылка
 +
! Проброс порта
 +
|-
 +
| MapReduce History Server  || m-master.atp-fivt.org:19888/jobhistory || -L 19888:m-master.atp-fivt.org:19888
 +
|-
 +
| YARN ResourceManager || m-master.atp-fivt.org:8088/cluster/cluster || -L 8088:m-master.atp-fivt.org:8088
 +
|-
 +
| YARN Timeline Server || m-master.atp-fivt.org:8188/applicationhistory || -L 8188:m-master.atp-fivt.org:8188
 +
|-
 +
| HUE || m-client.atp-fivt.org:8000 || -L 8000:m-client.atp-fivt.org:8000
 +
|-
 +
| Hive || m-client.atp-fivt.org:8089 || -L 8089:m-client.atp-fivt.org:8089
 +
|-
 +
| HDFS NameNode || m-master.atp-fivt.org:9870 || -L 9870:m-master.atp-fivt.org:9870
 +
|}
 +
 +
После проброса портов сервисы доступны по адресу ''localhost:port''
  
  

Текущая версия на 15:09, 25 марта 2026

Общие сведения

Материалы занятий

Домашние задания

Планируется 7+1 домашних заданий. Проверка включает 2 этапа:

  1. прохождение автоматических тестов (начиная с ДЗ по CUDA).
  2. code review при условии выполненного п.1. Исправления по code review можно делать в течение 2 недель после 1-го комментария.
Название
MPI
CUDA
HDFS
Map-Reduce
Hive
Spark
  • Штраф за опоздание каждый день -5%, до достижения -75% (15 дней)

Сдавать и исправлять домашки можно до конца зачётной недели

В случае болезни, справка продлевает дедлайн определённого дз ровно на число дней, которые она перекрывает в периоде данного дз. Период дз - между двумя дедлайнами

Сервера

  • MPI & OpenMP: 
    ssh <user>@185.81.248.52 -p 2236
  • CUDA: 
    ssh <user>@lorien.atp-fivt.org
  • HDSF & AirFlow: 
    ssh <user>@93.175.29.120 -p 10205

Сервисы Hadoop (доступны с территории кампуса. В иных случаях требуется пробрасывать порт):

Название Ссылка Проброс порта
MapReduce History Server m-master.atp-fivt.org:19888/jobhistory -L 19888:m-master.atp-fivt.org:19888
YARN ResourceManager m-master.atp-fivt.org:8088/cluster/cluster -L 8088:m-master.atp-fivt.org:8088
YARN Timeline Server m-master.atp-fivt.org:8188/applicationhistory -L 8188:m-master.atp-fivt.org:8188
HUE m-client.atp-fivt.org:8000 -L 8000:m-client.atp-fivt.org:8000
Hive m-client.atp-fivt.org:8089 -L 8089:m-client.atp-fivt.org:8089
HDFS NameNode m-master.atp-fivt.org:9870 -L 9870:m-master.atp-fivt.org:9870

После проброса портов сервисы доступны по адресу localhost:port


  • В случае проблем с кластерами пишите на servers@atp-fivt.org

Преподаватели

  • Руководитель курса
    • Чернецкий Аркадий
  • Лекторы
    • Ивченко Олег
    • Долуденко Алексей
    • Ахтямов Павел
    • Изабелла Затикян
    • Леонид Меркин
    • Вадим Опольский
  • Семинаристы
    • Чернецкий Аркадий
    • Кочурова Ирина
    • Дмитрий Павлов
  • Учебные ассистенты
    • Ховар Абдухоликзода
    • Кочурова Ирина
    • Дмитрий Николотов
    • Лыгина Оксана
    • Хабибулло Боймуродов

Контакт для организационных вопросов

Куратор курса @atpfpmi_curators

Критерии получения оценки

Зачет выставляется по сумме баллов, полученных в течение семестра. Есть блокирующие группы домашек (хотя бы 0.5 по MPI+CUDA, и 2 по остальным. Дедлайны в этой сумме не учитываются)

Мини-контрольные

Состоятся 3 теста. На контрольных нельзя пользоваться ничем и никем, кроме разрешённых смотрящими вещей. Код писать не потребуется.

Название Дата Длительность
HDFS & MapReduce 20.04.2026 15 мин.
Hive 04.05.2026 15 мин.
Spark, Zookeeper, Kafka, Cassandra 18.05.2026 20 мин.

Литература

MPI & OpenMP

  1. Антонов А.С. Технологии параллельного программирования MPI и OpenMP: Учеб. пособие. Предисл.: В.А.Садовничий. - М.: Издательство Московского университета, 2012.

CUDA

  1. Дж. Сандерс, Э. Кэррот. Технология CUDA в примерах и задачах, 2013 (рус).
  2. Курс "GPU programming" в Caltech.
  3. Лекция по Scan курсе по комп. графике, Ben-Gurion university
  4. Parallel Prefix Sum (Scan) with CUDA, Mark Harris, NVidia
  5. Книги от Nvidia: GPU gems, GPU gems 2, GPU gems 3. Особенно интересна глава 39 из GPU Gems про Scan.

HDFS

  1. T. White. "Hadoop. The definitive guide", гл. 3 "Hadoop distributed filesystem". (есть русский перевод). 4е издание
  2. Статья про архитектуру HDFS от Константина Швачко (Yahoo!)
  3. Статья про архитектуру HDFS в блоге HortonWorks (Китайская копия :))
  4. Что в действительности делает SNN
  5. Выдержка из курсов Яндекс про HDFS
Источник — «http://wiki.atp-fivt.org/index.php?title=Параллельные_и_распределенные_вычисления_весна_2026&oldid=4620»