Текущая версия от 20:25, 6 декабря 2022

Общие сведения

Семестр: 5 (третий курс)
Форма контроля: Экзамен в форме диф. зачет
Форма регистрации на курс.
План лекций, семинаров, контрольных
Таблица с оценками
Телеграм-чат курса

Материалы занятий

Доступ открыт для всех аккаунтов @phystech.edu.

Лекции

Семинары

Технические ссылки

Форма для проблем с инфраструктурой АТП
В случае проблем с кластером MPI, пишите на parallel-cluster-atp@googlegroups.com.

Сервер Gitlab

На данный момент сервер находится по адресу https://gitlab.atp-fivt.org/.

Сервера

MPI & OpenMP:
```
ssh <user>@calc.cod.phystech.edu
```
CUDA:
```
ssh <user>@lorien.atp-fivt.org
```
Hadoop ecosystem:
```
ssh <user>@mipt-client.atp-fivt.org
```

Преподаватели

Лекторы
- Долуденко Алексей
- Ахтямов Павел
- Ивченко Олег
- Липовский Роман (?)

Семинаристы
- Ахтямов Павел Ибрагимович
- Бабин Олег Борисович
- Павлов Дмитрий Владимирович
- Чернецкий Аркадий

Учебные ассистенты

Критерии получения оценки

Формально по курсу экзамен. Он выставляется на основании баллов, полученных в течение семестра.

Домашние задания

Планируется 6 домашних заданий. Проверка включает 2 этапа:

прохождение автоматических тестов (Для ДЗ начиная с HDFS).
code review при условии выполненного п.1. Исправления по code review можно делать в течение 1 месяца после 1-го комментария.

Название	Мягкий дедлайн	Жёсткий дедлайн
PD-2022. MPI	20.10.2022	27.10.2022
PD-2022. CUDA	02.11.2022	09.11.2022
PD-2022. HDFS	19.11.2022 (продлён до 19.12.2022)	26.11.2022 (продлён до 26.12.2022)
PD-2022. Map-Reduce	02.12.2022 (продлён до 19.12.2022)	09.12.2022 (продлён до 26.12.2022)
PD-2022. Hive	11.12.2022 (продлён до 26.12.2022)	18.12.2022 (продлён до 01.01.2023, дай бог дожить)
PD-2022. Spark	30.12.2022	10.01.2023

Репозиторий с домашками

Штраф за опоздание по soft deadline: -50%
Штраф за опоздание по hard deadline: -75%

Мини-контрольные

Состоятся 3 теста. На контрольных нельзя пользоваться IDE и интернетом. Код писать не потребуется.

Название	Дата	Длительность
PD-2022. HDFS & MapReduce	?	15 мин.
PD-2022. Hive & Spark	?	15 мин.
PD-2022. Kafka, Zookeeper	?	15 мин.

В случае если вы не сможете написать КР в указанную дату по технической или другой уважительной причине, просьба заполнить форму на дописывание. Дописывание состоится в январе 2023:

PD-2022. Дописывание. HDFS & MAPREDUCE
PD-2022. Дописывание. Hive & Spark
PD-2022. Дописывание. Zookeeper, Kafka, Cassandra

Каждое дописывание длится 15 минут.

Литература

MPI & OpenMP

Антонов А.С. Технологии параллельного программирования MPI и OpenMP: Учеб. пособие. Предисл.: В.А.Садовничий. - М.: Издательство Московского университета, 2012.

CUDA

Дж. Сандерс, Э. Кэррот. Технология CUDA в примерах и задачах, 2013 (рус).
Курс "GPU programming" в Caltech.
Лекция по Scan курсе по комп. графике, Ben-Gurion university
Parallel Prefix Sum (Scan) with CUDA, Mark Harris, NVidia
Книги от Nvidia: GPU gems, GPU gems 2, GPU gems 3. Особенно интересна глава 39 из GPU Gems про Scan.

HDFS

T. White. "Hadoop. The definitive guide", гл. 3 "Hadoop distributed filesystem". (есть русский перевод). 4е издание
Статья про архитектуру HDFS от Константина Швачко (Yahoo!)
Статья про архитектуру HDFS в блоге HortonWorks (Китайская копия :))
Что в действительности делает SNN
Выдержка из курсов Яндекс про HDFS

@@ Строка 1: / Строка 1: @@
-Test
+= Общие сведения =
+* Семестр: 5 (третий курс)
+* Форма контроля: Экзамен в форме диф. зачет
+* '''[https://docs.google.com/forms/d/e/1FAIpQLScNYtfGstKgX3_OrR3Ysym-7wC9xSdR4ucOLKJky1i2ypYLPA/viewform?usp=sf_link Форма регистрации на курс].
+* [https://docs.google.com/spreadsheets/d/e/2PACX-1vQo2dBxiF80B19Mys-QGPcb8PdnJhjZekofpjG9Q5kr7NJ3UST_7-DzvhCwaRFCFWQcrZPK5qGgIfkC/pubhtml?gid=0&single=true План лекций, семинаров, контрольных]
+* [https://docs.google.com/spreadsheets/d/e/2PACX-1vRPoSdeLaSX2Tli_RgW91JkGqrsl7kCpvF7734u-l_ovXJFJvvmFdYnYowm1UPv50MLhVYxPlUZxokz/pubhtml?gid=1942469843&single=true Таблица с оценками]
+* [https://t.me/+lcRdIVyu8DJjZWVi Телеграм-чат курса]
+=== Материалы занятий ===
+Доступ открыт для всех аккаунтов @phystech.edu.
+===== Лекции =====
+* [https://disk.yandex.ru/d/yjhnWduu-kuf3A Видео лекций]
+* [https://drive.google.com/drive/folders/0B2n4K2J_6IZdfjVqTkdPT3ZvWU9FRXVscWY0VzlWazZYOG1lemh5dW96UG1OekRzcjVCVm8?resourcekey=0-_OvBdqyPGV816JLXCtIz1Q&usp=sharing Видео модуля Романа Липовского] (2021 г)
+* [https://drive.google.com/drive/folders/1XkAGnViPUf-t7M3zuw1E3z-sMf--87SY?usp=sharing Слайды презентаций]
+===== Семинары =====
+* [https://disk.yandex.ru/d/nUDdk1k5scK2vQ Видео семинаров]
+* [https://gitlab.com/fpmi-atp/pd2022a-supplementary Коды и презентации семинаров]
+*[https://gitlab.com/fpmi-atp/pd2022a-supplementary/global/-/tree/main/homeworks '''Домашние задания''']
+*[https://docs.google.com/spreadsheets/d/1rxr465J4VtRxXnRtID1aRy0RzhpBltpjJYKximAQMB8/edit#gid=0 Интересные ссылки]
+== Технические ссылки ==
+* [https://forms.gle/PWhsFdPR9iVrsXbs9 Форма для проблем с инфраструктурой АТП]
+* В случае проблем с кластером MPI, пишите на '''parallel-cluster-atp@googlegroups.com'''.
+==== Сервер Gitlab ====
+На данный момент сервер находится по адресу https://gitlab.atp-fivt.org/.
+==== Сервера ====
+* MPI & OpenMP: <pre>ssh <user>@calc.cod.phystech.edu</pre>
+* CUDA: <pre>ssh <user>@lorien.atp-fivt.org</pre>
+* Hadoop ecosystem: <pre>ssh <user>@mipt-client.atp-fivt.org</pre>
+= Преподаватели =
+* '''Лекторы'''
+** Долуденко Алексей
+** Ахтямов Павел
+** Ивченко Олег
+** Липовский Роман (?)
+* '''Семинаристы'''
+** Ахтямов Павел Ибрагимович
+** Бабин Олег Борисович
+** Павлов Дмитрий Владимирович
+** Чернецкий Аркадий
+* '''Учебные ассистенты'''
+= Критерии получения оценки =
+Формально по курсу экзамен. Он выставляется на основании баллов, полученных в течение семестра.
+== Домашние задания ==
+Планируется 6 домашних заданий. Проверка включает 2 этапа:
+# прохождение автоматических тестов (Для ДЗ начиная с HDFS).
+# code review при условии выполненного п.1. Исправления по code review можно делать в течение '''1 месяца''' после 1-го комментария.
+{|  class="wikitable"
+|-
+! Название
+! Мягкий дедлайн
+! Жёсткий дедлайн
+|-
+| PD-2022. MPI || 20.10.2022 || 27.10.2022
+|-
+| PD-2022. CUDA || 02.11.2022 || 09.11.2022
+|-
+| PD-2022. HDFS || 19.11.2022 (продлён до 19.12.2022) || 26.11.2022 (продлён до 26.12.2022)
+|-
+| PD-2022. Map-Reduce || 02.12.2022 (продлён до 19.12.2022) || 09.12.2022 (продлён до 26.12.2022)
+|-
+| PD-2022. Hive || 11.12.2022 (продлён до 26.12.2022)|| 18.12.2022 (продлён до 01.01.2023, дай бог дожить)
+|-
+| PD-2022. Spark || 30.12.2022 || 10.01.2023
+|}
+[https://gitlab.com/fpmi-atp/pd2022a-supplementary/global/-/tree/main/homeworks Репозиторий с домашками]
+* Штраф за опоздание по soft deadline: -50%
+* Штраф за опоздание по hard deadline: -75%
+== Мини-контрольные ==
+Состоятся 3 теста. На контрольных нельзя пользоваться IDE и интернетом. Код писать не потребуется.
+{|  class="wikitable"
+|-
+! Название
+! Дата
+! Длительность
+|-
+| PD-2022. HDFS & MapReduce || ? || 15 мин.
+|-
+| PD-2022. Hive & Spark || ? || 15 мин.
+|-
+| PD-2022. Kafka, Zookeeper || ? || 15 мин.
+|}
+В случае если вы не сможете написать КР в указанную дату по технической или другой уважительной причине, просьба заполнить [https://docs.google.com/forms/d/17zHStcrQQ5z3byn4kKj3gyI8nFXhUzbNbspoyBCKQF8/edit?usp=sharing '''форму на дописывание''']. Дописывание состоится в январе 2023:
+* PD-2022. Дописывание. HDFS & MAPREDUCE
+* PD-2022. Дописывание. Hive & Spark
+* PD-2022. Дописывание. Zookeeper, Kafka, Cassandra
+Каждое дописывание длится 15 минут.
+= Литература =
+=== MPI & OpenMP ===
+# Антонов А.С. Технологии параллельного программирования MPI и OpenMP: Учеб. пособие. Предисл.: В.А.Садовничий. - М.: Издательство Московского университета, 2012.
+=== CUDA ===
+# Дж. Сандерс, Э. Кэррот. Технология CUDA в примерах и задачах, 2013 (рус).
+# [http://courses.cms.caltech.edu/cs179/ Курс "GPU programming" в Caltech].
+# [https://www.cs.bgu.ac.il/~graph161/wiki.files/09f-GPU%20-%20Scans.pdf Лекция по Scan курсе по комп. графике, Ben-Gurion university]
+# [http://developer.download.nvidia.com/compute/cuda/1.1-Beta/x86_website/projects/scan/doc/scan.pdf Parallel Prefix Sum (Scan) with CUDA, Mark Harris, NVidia]
+# Книги от Nvidia: [https://developer.nvidia.com/gpugems/gpugems/contributors GPU gems], [https://developer.nvidia.com/gpugems/gpugems2/inside-front-cover GPU gems 2], [https://developer.nvidia.com/gpugems/gpugems3/foreword GPU gems 3]. Особенно интересна глава 39 из [https://developer.nvidia.com/gpugems/gpugems3/part-vi-gpu-computing/chapter-39-parallel-prefix-sum-scan-cuda GPU Gems] про Scan.
+=== HDFS ===
+# [https://www.oreilly.com/library/view/hadoop-the-definitive/9781491901687/ T. White. "Hadoop. The definitive guide"], гл. 3 "Hadoop distributed filesystem". (есть русский перевод). 4е издание
+# [https://storageconference.us/2010/Papers/MSST/Shvachko.pdf Статья про архитектуру HDFS от Константина Швачко (Yahoo!)]
+# [http://www.blogjava.net/DLevin/archive/2015/01/25/422428.html Статья про архитектуру HDFS в блоге HortonWorks (Китайская копия :))]
+# [http://blog.madhukaraphatak.com/secondary-namenode---what-it-really-do/ Что в действительности делает SNN]
+# [https://nancyyanyu.github.io/posts/49a14c15/ Выдержка из курсов Яндекс про HDFS]

Параллельные и распределенные вычисления 2022 осень: различия между версиями

Текущая версия от 20:25, 6 декабря 2022

Содержание

Общие сведения

Материалы занятий

Лекции

Семинары

Технические ссылки

Сервер Gitlab

Сервера

Преподаватели

Критерии получения оценки

Домашние задания

Мини-контрольные

Литература

MPI & OpenMP

CUDA

HDFS

Навигация

Параллельные и распределенные вычисления 2022 осень: различия между версиями

Текущая версия от 20:25, 6 декабря 2022

Общие сведения

Материалы занятий

Лекции

Семинары

Технические ссылки

Сервер Gitlab

Сервера

Преподаватели

Критерии получения оценки

Домашние задания

Мини-контрольные

Литература

MPI & OpenMP

CUDA

HDFS

Навигация

Поиск