Hyper-Threading: зачем она нужна

Компания Intel, если внимательно посмотреть, никогда не отличалась абсолютным совершенством своих продуктов, более того — вариации на те же темы от других производителей подчас получались гораздо более интересными и концептуально стройными. Однако, как оказалось, абсолютно все делать совершенным и не нужно — главное чтобы чип олицетворял собой какую-то идею, и идея эта приходилась очень вовремя и к месту. И еще — чтобы ее просто не было у других.

Так было с Pentium, когда Intel противопоставила весьма производительному в целочисленных операциях AMD Am5x86 мощный FPU. Так было с Pentium II, который получил широкую шину и быстрый кэш второго уровня, благодаря чему за ним так и не смогли угнаться все процессоры Socket 7. Так было и с Pentium 4, который противопоставил всем остальным наличие поддержки SSE2 и быстрый рост частоты — и тоже де-факто выиграл. Сейчас Intel предлагает Hyper-Threading.

Я думаю, что стоит задуматься — почему производитель, известный грамотностью своих инженеров (ни слова про маркетологов) и громадными суммами, которые он тратит на исследования, предлагает эту технологию.

Объявить Hyper-Threading “очередной маркетинговой штучкой”, конечно, проще простого. Однако не стоит забывать, что это технология, она требует исследований, денег на разработку, времени, сил. Не проще ли было нанять за меньшую сумму еще одну сотню PR-менеджеров или сделать еще десяток красивых рекламных роликов? Видимо, не проще. А значит, “что-то в этом есть”. Следует попытаться понять даже не то, что получилось в результате, а то, чем руководствовались разработчики IAG (Intel Architecture Group), когда принимали решение — разрабатывать “эту интересную мысль” дальше, или отложить на потом.

Как ни странно, для того чтобы понять как функционирует Hyper-Threading, вполне достаточно понимать как работает любая многозадачная операционная система. И действительно — ведь исполняет же каким-то образом один процессор сразу десятки задач? Этот “секрет” всем уже давно известен — на самом деле, конечно одновременно все равно выполняется только одна (на однопроцессорной системе) задача, просто переключение между кусками кода разных задач выполняется настолько быстро, что создается иллюзия одновременной работы большого количества приложений.

По сути, Hyper-Threading предлагает то же самое, но реализована аппаратно, внутри самого CPU. Есть некоторое количество различных исполняющих блоков (ALU, MMU, FPU, SIMD), и есть два “одновременно” исполняемых фрагмента кода. Специальный блок отслеживает, какие команды из каждого фрагмента необходимо выполнить в данный момент, после чего проверяет, загружены ли работой все исполняющие блоки процессора. Если один из них простаивает, и именно он может исполнить эту команду — ему она и передается. Естественно, существует и механизм принудительного посыла команды на выполнение — в противном случае один процесс мог бы захватить весь процессор (все исполняющие блоки) и исполнение второго участка кода (исполняемого на втором “виртуальном CPU”) было бы прервано. Данный механизм (пока) не является интеллектуальным т. е. не способен оперировать различными приоритетами, а просто чередует команды из двух разных цепочек в порядке живой очереди. Если, конечно, не возникает ситуации, когда команды одной цепочки по исполняющим блокам нигде не конкурируют с командами другой. В этом случае получается действительно на 100% параллельное исполнение двух фрагментов кода.

Самое очевидное следствие применения технологии Hyper-Threading — повышение коэффициента полезного действия процессора. Действительно — если одна из программ использует в основном целочисленную арифметику, а вторая — выполняет вычисления с плавающей точкой, то во время исполнения первой FPU просто ничего не делает, а во время исполнения второй — наоборот, ничего не делает ALU. Казалось бы, на этом можно закончить.

Однако это идеальный (с точки зрения применения Hyper-Threading) вариант. Следует рассмотреть и другой: обе программы задействуют одни и те же блоки процессора. Понятно, что ускорить выполнение в данном случае довольно сложно — ибо физическое количество исполняющих блоков от “виртуализации” не изменилось. А вот не замедлится ли оно?

В случае с процессором без Hyper-Threading имеется просто “честное” поочередное выполнение двух программ на одном ядре с арбитром в виде операционной системы, и общее время их работы определяется:

временем выполнения кода программы №1

временем выполнения кода программы №2

временными издержками на переключение между фрагментами кода программ №1 и №2

В случае с Hyper-Threading схема становится немного другой:

время выполнения программы №1 на процессоре №1 (виртуальном)

время выполнения программы №2 на процессоре №2 (виртуальном)

время на переключение одного физического ядра (как набора требуемых обеим программам исполняющих блоков) между двумя эмулируемыми “виртуальными CPU”

Остается признать, что и тут Intel поступает вполне логично: конкурируют между собой по быстродействию только пункты за номером три, и если в первом случае действие выполняется программно-аппаратно (ОС управляет переключением между потоками, задействуя для этого функции процессора), то во втором случае имеется полностью аппаратное решение — процессор все делает сам. Теоретически, аппаратное решение всегда оказывается быстрее программного.

Также одним из серьезнейших неприятных моментов является то, что Pentium 4 приходится иметь дело с классическим x86-кодом, в котором активно используется прямое адресование ячеек и даже целых массивов, находящихся за пределами процессора — в ОЗУ. Да и вообще большинство обрабатываемых данных чаще всего находится там . Поэтому делить между собой виртуальные CPU будут не только регистры, но и общую для обоих процессорную шину, минуя которую данные в CPU попасть просто не могут.

Однако тут есть один тонкий момент: на сегодняшний день “честные” двухпроцессорные системы на Pentium III и Xeon находятся в точно такой же ситуации! Потому что шина AGTL+, доставшаяся в наследство всем сегодняшним процессорам Intel от знаменитого Pentium Pro (в дальнейшем ее лишь подвергали модификациям, но идеологию практически не трогали) — всего одна, сколько бы CPU ни было установлено в системе.

Отойти от этой схемы на x86 попробовала только AMD со своим Athlon MP — у AMD 760MP/760MPX от каждого процессора к северному мосту чипсета идет отдельная шина. Впрочем, даже в таком варианте проблема отодвигается не очень далеко — так как шина памяти точно одна — причем вот в этом случае уже везде.

Но и даже из этого в общем-то не очень приятного момента Hyper-Threading может помочь извлечь какую-то пользу. Дело в том, что по идее должен будет наблюдаться существенный прирост производительности не только в случае с несколькими задачами, использующими разные функциональные блоки процессора, но и в том случае, если задачи по-разному работают с данными, находящимися в ОЗУ. Если одно приложение что-то усиленно считает “внутри себя”, другое же — постоянно подкачивает данные из ОЗУ, то общее время выполнения их в случае использования Hyper-Threading по идее должно уменьшиться даже если они используют одинаковые блоки исполнения инструкций — хотя бы потому, что команды на чтение данных из памяти смогут обрабатываться в то время, пока наше первое приложение будет что-то считать.

Заключение

В очередной раз, к радости всего прогрессивного человечества, Intel выпустила новый Pentium 4, производительность которого еще выше чем у предыдущего Pentium 4, и дело тут не только в лишних двухстах мегагерцах, а и в новой технологии под названием – Hyper-Threading

Технология Hyper-Threading с теоретической точки зрения выглядит весьма неплохо и соответствует реалиям сегодняшнего дня. Уже довольно редко можно застать пользователя с одним сиротливо открытым окном на экране — всем хочется одновременно и музыку слушать, и по Internet бродить, и диски с любимыми MP3 записывать, а может даже, и поиграть на этом фоне в какую-нибудь компьютерную игру.

Hyper-Threading позволяет увеличить коэффициент полезного действия процессора в определенных ситуациях. В частности — в ситуациях, когда одновременно исполняются разнородные по характеру приложения. Это конечно плюс, но он не является всеобъемлющим и глобальным. Потому что эффект от Hyper-Threading наблюдается исключительно в некоторых случаях. Понятно, что появление CPU, способного в два раза быстрее делать все то, что делалось ранее — это громадный прорыв. Однако Intel не стал инициировать начало новой эпохи перемен, просто добавив своему процессору возможность кое-что делать быстрее.

Однако Hyper-Threading нельзя назвать “бумажной” технологией, так как при определенных комбинациях она дает вполне ощутимый эффект. Даже намного больший эффект, чем иногда наблюдается при сравнении, к примеру, двух платформ с одним процессором на разных чипсетах. Хотя эффект этот наблюдается не всегда, и существенно зависит от стиля работы пользователя с компьютером. Причем именно здесь проявляется то что: Hyper-Threading — это не SMP. “Классический SMP-стиль”, где пользователь рассчитывает на реакцию столь же классической “честной” многопроцессорной системы, здесь не даст желаемого результата.

“Стиль Hyper-Threading” — это сочетание процессов “развлекательных” или “служебных” с процессами “рабочими”. Пользователь не получит существенного ускорения от CPU с поддержкой этой технологии в большинстве классических многопроцессорных задач, или если по привычке будет запускать только одно приложение в один момент времени. Но он скорее всего получит уменьшение времени исполнения многих фоновых задач, исполняемых в качестве “довеска” к обычной работе. Фактически, Intel просто еще раз напомнила всем нам, что операционные системы, в которых мы работаем — многозадачные. И предложила способ ускорения — но не столько одного какого-то процесса самого по себе, сколько комплекса выполняемых одновременно приложений. Это интересный и достаточно востребованный подход.