Библиотеки и системы программирования дляязыков высокого уровня (Parix, mpi,OpenMp)
В 1994 г. был принят стандарт механизма передачи сообщений MPI (Message Passing Interface). Основная цель, которую ставили перед собой разработчики MPI – это обеспечение полной независимости приложений, написанных с использованием MPI, от архитектуры многопроцессорной системы, без какой-либо существенной потери производительности. MPI – это библиотека функций, обеспечивающая взаимодействие параллельных процессов с помощью механизма передачи сообщений. Библиотека включает в себя множество функций передачи сообщений типа точка-точка, развитый набор функций для выполнения коллективных операций и управления процессами параллельного приложения. Альтернативный подход предоставляет парадигма параллельной обработки данных, которая реализована в языке высокого уровня HPF.
Под параллельной программой в рамках MPI понимается множество одновременно выполняемых процессов. Процессы могут выполняться на разных процессорах, но на одном процессоре могут располагаться и несколько процессов (в этом случае их исполнение осуществляется в режиме разделения времени). В предельном случае для выполнения параллельной программы может использоваться один процессор – как правило, такой способ применяется для начальной проверки правильности параллельной программы. Каждый процесс параллельной программы порождается на основе копии одного и того же программного кода. Данный программный код, представленный в виде исполняемой программы, должен быть доступен в момент запуска параллельной программы на всех используемых процессорах. Исходный программный код для исполняемой программы разрабатывается на алгоритмических языках C или Fortran с применением той или иной реализации библиотеки MPI. Количество процессов и число используемых процессоров определяется в момент запуска параллельной программы средствами среды исполнения MPI программ и в ходе вычислений не может меняться без применения специальных, но редко задействуемых средств динамического порождения процессов и управления ими, появившихся в стандарте MPI версии2.0.
Все процессы программы последовательно перенумерованы от 0 до p1, где p есть общее количество процессов. Номер процесса именуется рангом процесса. Основу MPI составляют операции передачи сообщений. Среди предусмотренных в составе MPI функций различаются парные (pointtopoint) операции между двумя процессами и коллективные (collective) коммуникационные действия для одновременного взаимодействия нескольких процессов.
Для выполнения парных операций могут использоваться разные режимы передачи, среди которых синхронный, блокирующий и др. Процессы параллельной программы объединяются в группы. Другим важным понятием MPI, описывающим набор процессов, является понятие коммуникатора. Под коммуникатором в MPI понимается специально создаваемый служебный объект, который объединяет в своем составе группу процессов и ряд дополнительных параметров (контекст), используемых при выполнении операций передачи данных. Парные операции передачи данных выполняются только для процессов, принадлежащих одному и тому же коммуникатору. Коллективные операции применяются одновременно для всех процессов одного коммуникатора. Как результат, указание используемого коммуникатора является обязательным для операций передачи данных в MPI. В ходе вычислений могут создаваться новые и удаляться существующие группы процессов и коммуникаторы. Один и тот же процесс может принадлежать разным группам и коммуникаторам. Все имеющиеся в параллельной программе процессы входят в состав конструируемого по умолчанию коммуникатора с идентификатором MPI_COMM_WORLD
Это библиотека, состоящая примерно из 130 функций, в число которых входят:
- Функции инициализации и закрытияMPI-процессов;
- Функции, реализующие парныеоперации;
- Функции, реализующие коллективныеоперации;
- Функции для работы с группами процессов икоммуникаторами;
- Функции для работы со структурамиданных;
- Функции формирования топологиипроцессов.
Технология OpenMP является одним из наиболее популярных средств программирования для компьютерных систем с общей памятью, базирующихся на традиционных языках программирования. OpenMP состоит из набора директив для компиляторов и библиотек специальных функций
До появления OpenMP не было подходящего стандарта для эффективного программирования на SMP-системах. Наиболее гибким, переносимым и общепринятым интерфейсом параллельного программирования является MPI (интерфейс передачи сообщений). Однако модель передачи сообщений
1) недостаточно эффективна на SMP системах; 2) относительно сложна в освоении, так как требует мышления в «невычислительных» терминах.
В настоящее время OpenMP поддерживается большинством разработчиков параллельных вычислительных систем: компаниями Intel, Hewlett-Packard, Silicon Graphics, Sun, IBM, Fujitsu, Hitachi, Siemens, Bull и другими. Многие известные компании в области разработки системного программного обеспечения такие, как Intel, KAI, PGI, PSR, APR, Absoft, также уделяют значительное внимание разработке системного программного обеспечения с OpenMP.
Одним из важных достоинств технологии OpenMP является реализация идеи
«инкрементального программирования», когда разработчик постепенно находит участки в программе, содержащие ресурс параллелизма, с помощью предоставляемых механизмов делает их параллельными и затем переходит к анализу следующих участков. Таким образом, данный подход упрощает процесс адаптации последовательных программ к параллельным ЭВМ. OpenMP может использоваться совместно с другими технологиями параллельного программирования, например, с MPI. Обычно в этом случае MPI используется для распределения работы между несколькими вычислительными узлами, а OpenMP затем используется для распараллеливания на одномузле.
В OpenMP распараллеливание выполняется при помощи вставки в текст программы специальных директив, вызова вспомогательных функций и использования переменных окружения. При использовании OpenMP предполагается
SPMD-модель (Single ProgramMultiple Data) параллельного программирования, в рамках которой для всех параллельных нитей используется один и тот же код.
При выполнении параллельной программы работа начинается с инициализации и выполнения главного потока (процесса), который по мере необходимости создает и выполняет параллельные потоки, передавая им необходимые данные. Параллельные потоки из одной параллельной области программы могут выполняться как независимо друг от друга, так и с пересылкой и получением сообщений от других параллельных потоков. Последнее обстоятельство усложняет разработку программы, поскольку в этом случае программисту приходится заниматься планированием, организацией и синхронизацией посылки сообщений между параллельными потоками. Таким образом, при разработке 47 параллельной программы желательно выделять такие области распараллеливания, в которых можно организовать выполнение независимых параллельных потоков. Для обмена данными между параллельными процессами (потоками) в OpenMP используются общие переменные. При обращении к общим переменным в различных параллельных потоках возможно возникновение конфликтных ситуаций при доступе к данным. Для предотвращения конфликтов можно воспользоваться процедурой синхронизации. При этом надо иметь в виду, что процедура синхронизации — очень дорогая операция по временным затратам и желательно по возможности избегать ее или применять как можно реже. Выполнение параллельных потоков в параллельной области программы начинается с их инициализации. Она заключается в создании дескрипторов порождаемых потоков и копировании всех данных из области данных главного потока в области данных создаваемых параллельных потоков. После порождения потоки нумеруются последовательными натуральными числами, причем главный поток имеет номер 0. После завершения выполнения параллельных потоков управление программой вновь передается главному потоку. При этом возникает проблема корректной передачи данных от параллельных потоков главному. Здесь важную роль играет синхронизация завершения работы параллельных потоков, поскольку в силу целого ряда обстоятельств время выполнения даже одинаковых потрудоемкости
параллельных потоков непредсказуемо (оно определяется как историей конкуренции параллельных процессов, так и текущим состоянием вычислительной системы). При выполнении операции синхронизации параллельные потоки, уже завершившие свое выполнение, простаивают и ожидают завершения работы самого последнего потока. Естественно, при этом неизбежна потеря эффективности работы параллельной программы. Для того чтобы получить параллельную версию, сначала необходимо определить ресурс параллелизма программы, то есть, найти в ней участки, которые могут выполняться независимо разными нитями. Если таких участков относительно немного, то для распараллеливания чаще всего используются конструкции, задающие конечный (неитеративный)параллелизм
Операционная система PARIX — многопользовательская, многозадачная операционная система, управляющая большим числом процессоров. ОС PARIX является расширением операционной системы UNIX, предназначенным для выполнения функций параллельной обработки.
Вопрос № 112268 — Информатика
Даны три сообщения:
1. Монета упала «решкой» вверх.
2. Игральная кость упала гранью с тремя очками вверх.
3. На светофоре горит красный свет.
Согласно теории информации наибольшее количество информации содержится в сообщении под номером …
Вопрос № 112438
Допустим, что Вы устраиваетесь на работу в рекламное агентство. Среди требований к претенденту одним из главных является его ИКТ-компетентность (а именно, умение работать в текстовых процессорах, графических редакторах, быть грамотным пользователем Интернета).
Речь идет о Web-сайте, основным содержимым которого являются регулярно добавляемые записи, изображения или мультимедиа. Для него характерны недлинные записи временной значимости, отсортированные в обратном хронологическом порядке (последняя запись сверху). Такой Web-сайт обычно публичен и предполагает сторонних читателей, которые могут вступить в полемику с автором. Синонимы – сетевой журнал, ЖЖ, дневник событий. Название описанного Web-сайта – …
Вопрос № 112490
Студенты выполняют 5 тестов по информатике. За каждый тест можно получить от 0 до 10 баллов. Если за тест № 3 получено не менее 6 баллов, то этот результат увеличивается на 20 %. Если суммарное количество полученных при тестировании баллов меньше 20, то это соответствует оценке «2»; оценке «3» соответствует количество баллов от 20 до 29; оценке «4» – от 30 до 39; оценке «5» – 40 баллов и выше.
Введите в электронную таблицу исходные данные (слова можно сокращать).
Введите в электронную таблицу формулы для расчета:
– значений в столбцах G и H (используйте логическую функцию «ЕСЛИ»);
– среднего значения в ячейке G15.
По полученным расчетам установите соответствие между следующими участниками олимпиады и количеством набранных ими баллов:
Бондаренко Д. А. –
Голубев В. В. –
Игнатьев С. А. –