Параллельные и распределенные вычисления 2022s: различия между версиями

Материал из Public ATP Wiki
Перейти к навигации Перейти к поиску
Следующая правка →
Новая страница: «PD»
 
Нет описания правки
Строка 1: Строка 1:
PD
= Общие сведения =
* Семестр: 6 (третий курс)
* Форма контроля: диф. зачет
* '''[http://gg.gg/pd22s-apply Форма регистрации на курс].
* [http://gg.gg/pd22s-plan План лекций, семинаров, контрольных]
* [ Таблица с оценками]
* [http://gg.gg/pd22s-join Телеграм-чат курса]
 
=== Материалы занятий ===
Доступ открыт для всех аккаунтов @phystech.edu.
 
===== Лекции =====
* [https://drive.google.com/drive/folders/11U_3grzJTdIH30GWLMW33MpxYc8JB13b?usp=sharing Видео лекций]. Доступ через почту @phystech.edu
* [https://drive.google.com/drive/folders/1HCJLJBEH1eZgDOu104-OIF4cXPC--hgF?usp=sharing Слайды презентаций]
 
===== Семинары =====
* [https://drive.google.com/drive/folders/1ire-Ojewis5HQxzrpOVXlRmHr97w2k2I?usp=sharing Видео семинаров]
* [https://gitlab.com/fpmi-atp/pd2022s-supplementary Коды и презентации семинаров]
 
*[ '''Домашние задания''']
*[https://docs.google.com/spreadsheets/d/1rxr465J4VtRxXnRtID1aRy0RzhpBltpjJYKximAQMB8/edit#gid=0 Интересные ссылки]
 
== Технические ссылки ==
* [https://forms.gle/PWhsFdPR9iVrsXbs9 Форма для проблем с инфраструктурой АТП]
* В случае проблем с кластером MPI, пишите на '''parallel-cluster-atp@googlegroups.com'''.
==== Сервер Gitlab ====
На данный момент сервер находится по адресу https://gitlab2.atp-fivt.org/, на котором наблюдаются проблемы с сертификатом SSL.
 
Если вы наблюдаете проблему <pre> fatal: unable to access 'https://gitlab2.atp-fivt.org/...': server certificate verification failed. CAfile: /etc/ssl/certs/ca-certificates.crt CRLfile: none </pre>, временно отключите проверку сертификата <pre>git config --global http.sslVerify "false"</pre>.
 
==== Сервера ====
* MPI & OpenMP: <pre>ssh <user>@calc.cod.phystech.edu</pre>
* CUDA: <pre>ssh <user>@lorien.atp-fivt.org</pre>
* Hadoop ecosystem: <pre>ssh <user>@mipt-client.atp-fivt.org</pre>
 
= Преподаватели =
* '''Лекторы'''
** Долуденко Алексей
** Ахтямов Павел
** Ивченко Олег
** Липовский Роман
 
* '''Семинаристы'''
** Иванова Юлия Александровна
** Госткин Евгений
** Чернецкий Аркадий
 
* '''Учебные ассистенты'''
** Копец Максим
** Павлов Дмитрий
 
= Критерии получения оценки =
Зачет выставляется на основании баллов, полученных в течение семестра.
 
== Домашние задания ==
Планируется 6 домашних заданий. Проверка включает 2 этапа:
# прохождение автоматических тестов (начиная с ДЗ по HDFS).
# code review при условии выполненного п.1. Исправления по code review можно делать в течение '''1 месяца''' после 1-го комментария.
 
[https://gitlab.com/fpmi-atp/pd2022s-supplementary/global/-/tree/master/homeworks Репозиторий с домашками]
 
* Штраф за опоздание по soft deadline: -50%
* Штраф за опоздание по hard deadline: -75%
 
Сдавать и исправлять домашки можно до начала сессии.
 
== Мини-контрольные ==
Состоятся 3 теста. На контрольных нельзя пользоваться IDE и интернетом. Код писать не потребуется.
 
{|  class="wikitable"
|-
! Название
! Дата
! Длительность
|-
| PD-2021. HDFS & MapReduce || 1.12 || 15 мин.
|-
| PD-2021. Hive & Spark || 8.12 || 15 мин.
|-
| PD-2021. Kafka, Zookeeper || 15.12 || 15 мин.
|}
 
В случае если вы не сможете написать КР в указанную дату по технической или другой уважительной причине, просьба заполнить [https://forms.gle/uupcgKqiMvbjBvYt8 '''форму на дописывание''']. Дописывание состоится в январе 2022:
* PD-2020. Дописывание. HDFS & MAPREDUCE
* PD-2020. Дописывание. Hive & Spark
* PD-2020. Дописывание. Zookeeper, Kafka, Cassandra
 
Каждое дописывание длится 15 минут.
 
= Литература =
=== MPI & OpenMP ===
# Антонов А.С. Технологии параллельного программирования MPI и OpenMP: Учеб. пособие. Предисл.: В.А.Садовничий. - М.: Издательство Московского университета, 2012.
 
=== CUDA ===
# Дж. Сандерс, Э. Кэррот. Технология CUDA в примерах и задачах, 2013 (рус).
# [http://courses.cms.caltech.edu/cs179/ Курс "GPU programming" в Caltech].
# [https://www.cs.bgu.ac.il/~graph161/wiki.files/09f-GPU%20-%20Scans.pdf Лекция по Scan курсе по комп. графике, Ben-Gurion university]
# [http://developer.download.nvidia.com/compute/cuda/1.1-Beta/x86_website/projects/scan/doc/scan.pdf Parallel Prefix Sum (Scan) with CUDA, Mark Harris, NVidia]
# Книги от Nvidia: [https://developer.nvidia.com/gpugems/gpugems/contributors GPU gems], [https://developer.nvidia.com/gpugems/gpugems2/inside-front-cover GPU gems 2], [https://developer.nvidia.com/gpugems/gpugems3/foreword GPU gems 3]. Особенно интересна глава 39 из [https://developer.nvidia.com/gpugems/gpugems3/part-vi-gpu-computing/chapter-39-parallel-prefix-sum-scan-cuda GPU Gems] про Scan.
 
=== HDFS ===
# [https://www.oreilly.com/library/view/hadoop-the-definitive/9781491901687/ T. White. "Hadoop. The definitive guide"], гл. 3 "Hadoop distributed filesystem". (есть русский перевод). 4е издание
# [https://storageconference.us/2010/Papers/MSST/Shvachko.pdf Статья про архитектуру HDFS от Константина Швачко (Yahoo!)]
# [http://www.blogjava.net/DLevin/archive/2015/01/25/422428.html Статья про архитектуру HDFS в блоге HortonWorks (Китайская копия :))]
# [http://blog.madhukaraphatak.com/secondary-namenode---what-it-really-do/ Что в действительности делает SNN]
# [https://nancyyanyu.github.io/posts/49a14c15/ Выдержка из курсов Яндекс про HDFS]

Версия от 22:01, 1 февраля 2022

Общие сведения

Материалы занятий

Доступ открыт для всех аккаунтов @phystech.edu.

Лекции
Семинары

Технические ссылки

Сервер Gitlab

На данный момент сервер находится по адресу https://gitlab2.atp-fivt.org/, на котором наблюдаются проблемы с сертификатом SSL.

Если вы наблюдаете проблему 

 fatal: unable to access 'https://gitlab2.atp-fivt.org/...': server certificate verification failed. CAfile: /etc/ssl/certs/ca-certificates.crt CRLfile: none

, временно отключите проверку сертификата 

git config --global http.sslVerify "false"

.

Сервера

  • MPI & OpenMP: 
    ssh <user>@calc.cod.phystech.edu
  • CUDA: 
    ssh <user>@lorien.atp-fivt.org
  • Hadoop ecosystem: 
    ssh <user>@mipt-client.atp-fivt.org

Преподаватели

  • Лекторы
    • Долуденко Алексей
    • Ахтямов Павел
    • Ивченко Олег
    • Липовский Роман
  • Семинаристы
    • Иванова Юлия Александровна
    • Госткин Евгений
    • Чернецкий Аркадий
  • Учебные ассистенты
    • Копец Максим
    • Павлов Дмитрий

Критерии получения оценки

Зачет выставляется на основании баллов, полученных в течение семестра.

Домашние задания

Планируется 6 домашних заданий. Проверка включает 2 этапа:

  1. прохождение автоматических тестов (начиная с ДЗ по HDFS).
  2. code review при условии выполненного п.1. Исправления по code review можно делать в течение 1 месяца после 1-го комментария.

Репозиторий с домашками

  • Штраф за опоздание по soft deadline: -50%
  • Штраф за опоздание по hard deadline: -75%

Сдавать и исправлять домашки можно до начала сессии.

Мини-контрольные

Состоятся 3 теста. На контрольных нельзя пользоваться IDE и интернетом. Код писать не потребуется.

Название Дата Длительность
PD-2021. HDFS & MapReduce 1.12 15 мин.
PD-2021. Hive & Spark 8.12 15 мин.
PD-2021. Kafka, Zookeeper 15.12 15 мин.

В случае если вы не сможете написать КР в указанную дату по технической или другой уважительной причине, просьба заполнить форму на дописывание. Дописывание состоится в январе 2022:

  • PD-2020. Дописывание. HDFS & MAPREDUCE
  • PD-2020. Дописывание. Hive & Spark
  • PD-2020. Дописывание. Zookeeper, Kafka, Cassandra

Каждое дописывание длится 15 минут.

Литература

MPI & OpenMP

  1. Антонов А.С. Технологии параллельного программирования MPI и OpenMP: Учеб. пособие. Предисл.: В.А.Садовничий. - М.: Издательство Московского университета, 2012.

CUDA

  1. Дж. Сандерс, Э. Кэррот. Технология CUDA в примерах и задачах, 2013 (рус).
  2. Курс "GPU programming" в Caltech.
  3. Лекция по Scan курсе по комп. графике, Ben-Gurion university
  4. Parallel Prefix Sum (Scan) with CUDA, Mark Harris, NVidia
  5. Книги от Nvidia: GPU gems, GPU gems 2, GPU gems 3. Особенно интересна глава 39 из GPU Gems про Scan.

HDFS

  1. T. White. "Hadoop. The definitive guide", гл. 3 "Hadoop distributed filesystem". (есть русский перевод). 4е издание
  2. Статья про архитектуру HDFS от Константина Швачко (Yahoo!)
  3. Статья про архитектуру HDFS в блоге HortonWorks (Китайская копия :))
  4. Что в действительности делает SNN
  5. Выдержка из курсов Яндекс про HDFS
Источник — https://wiki.atp-fivt.org/index.php?title=Параллельные_и_распределенные_вычисления_2022s&oldid=993