Конвейерната обработка на инструкциите

Предимства и недостатъци на конвейерната обработка

Предимства на Pipelining:

1. Времето на цикъла на процесора се намалява, което увеличава производителността на инструкциите. Конвейерното свързване не намалява времето, необходимо за изпълнение на една инструкция; вместо това то увеличава броя на инструкциите, които могат да бъдат обработени едновременно ("наведнъж"), и намалява забавянето между завършените инструкции (наричано "пропускателна способност").
   Колкото повече етапи на конвейера има един процесор, толкова повече инструкции може да обработва "едновременно" и толкова по-малко е забавянето между завършените инструкции. Всеки преобладаващ микропроцесор с общо предназначение, произвеждан днес, използва най-малко 2 етапа на конвейера до 30 или 40 етапа.
2. Ако се използва конвейерно свързване, аритметичният логически блок на процесора може да се проектира по-бързо, но ще бъде по-сложен.
3. Теоретично конвейерното свързване увеличава производителността в сравнение с неконвейерно ядро с коефициент на броя на етапите (ако приемем, че тактовата честота също се увеличава със същия коефициент) и кодът е идеален за конвейерно изпълнение.
4. Процесорите с конвейерно свързване обикновено работят с по-висока тактова честота от тактовата честота на оперативната памет (от 2008 г. насам оперативната памет работи с по-ниска честота в сравнение с честотата на процесорите), което увеличава общата производителност на компютрите.

Недостатъци на Pipelining:

Конвейерната подредба има много недостатъци, въпреки че има много техники, използвани от процесорите и компилаторите за преодоляване на повечето от тях; по-долу е даден списък на често срещаните недостатъци:

1. Конструкцията на непипелиран процесор е по-проста и по-евтина за производство, като непипелираният процесор изпълнява само една инструкция в даден момент. Това предотвратява забавянето на разклоненията (при Pipelining всяко разклонение се забавя), както и проблеми при едновременно изпълнение на серийни инструкции.
2. В конвейерния процесор вмъкването на флип флопове между модулите увеличава латентността на инструкциите в сравнение с неконвейерния процесор.
3. Един непипелиран процесор има определена производителност на инструкциите. Производителността на един конвейерен процесор е много по-трудна за прогнозиране и може да варира в широки граници за различни програми.
4. Много проекти включват конвейери с дължина 7, 10, 20, 31 и дори повече етапа; недостатък на дългия конвейер е, че когато програмата се разклонява, целият конвейер трябва да се промие (изчисти). По-голямата производителност на конвейерите е недостатъчна, когато изпълняваният код съдържа много разклонения: процесорът не може да знае предварително къде да прочете следващата инструкция и трябва да изчака завършването на инструкцията за разклонение, оставяйки конвейера зад нея празен. Този недостатък може да бъде намален, като се предвиди дали условната инструкция за разклоняване ще се разклони въз основа на предишна дейност. След като разклонението бъде разрешено, следващата инструкция трябва да измине целия път през конвейера, преди резултатът от нея да стане достъпен и процесорът да продължи отново да "работи". В такива екстремни случаи производителността на конвейерния процесор може да бъде по-лоша от тази на неконвейерния процесор.
5. За съжаление не всички инструкции са независими. В един прост конвейер завършването на една инструкция може да изисква 5 етапа. За да работи с пълна производителност, този конвейер ще трябва да изпълни 4 последователни независими инструкции, докато първата се завършва. Всяка от тези 4 инструкции може да зависи от изхода на първата инструкция, което ще накара логиката за управление на конвейера да изчака и да вкара в конвейера прекъсване или загубен тактов цикъл, докато зависимостта бъде разрешена. За щастие, техники като препращане могат значително да намалят случаите, в които се налага прекъсване.
6. Самомодифициращите се програми може да не успеят да се изпълнят правилно на конвейерна архитектура, когато модифицираните инструкции са близо до изпълняваните инструкции. Това може да се дължи на факта, че инструкциите вече са в опашката за предварително извличане на данни (Prefetch Input Queue), така че модификацията може да не влезе в сила за предстоящото изпълнение на инструкциите. Кешовете за инструкции влошават още повече проблема.
7. Опасности: Когато програмистът (или компилаторът) пише код на асемблер, той обикновено приема, че всяка инструкция се изпълнява преди изпълнението на следващата. Когато това предположение не е потвърдено чрез конвейер, то води до неправилно поведение на програмата, като ситуацията е известна като опасност. Съществуват
   различни техники за разрешаване на опасностите или заобикаляне, като например пренасочване и забавяне (чрез вмъкване на прекъсване или загуба на тактов цикъл).

Примери

Общ тръбопровод

Вдясно е показан общ тръбопровод с четири етапа:

1. Извлечете
2. Декодиране на
3. Изпълнение на
4. Записване обратно

В горната сива кутия е списъкът с инструкции, които чакат да бъдат изпълнени; в долната сива кутия е списъкът с инструкции, които са завършени; а в средната бяла кутия е конвейерът.

Изпълнението е следното:

Време	Изпълнение
0	Четири инструкции очакват да бъдат изпълнени
1	зелената инструкция се извлича от паметта
2	зелената инструкция се декодира. лилавата инструкция се извлича от паметта
3	изпълнява се зелената инструкция (извършва се действителна операция). лилавата инструкция се декодира извлича се синята инструкция
4	резултатите от зелената инструкция се записват обратно във файла с регистри или в паметта изпълнява се лилавата инструкция синята инструкция се декодира червената инструкция се извлича
5	зелената инструкция е изпълнена лилавата инструкция се записва обратно изпълнява се синята инструкция червената инструкция се декодира
6	Лилавата инструкция е завършена синята инструкция се записва обратно изпълнява се червената инструкция
7	синята инструкция е изпълнена червената инструкция се записва обратно
8	червената инструкция е изпълнена
9	Изпълняват се всички инструкции

Bubble

Когато възникне "хълцане" (прекъсване) в изпълнението, в конвейера се създава "балон", в който не се случва нищо полезно. В цикъл 2 извличането на лилавата инструкция се забавя и етапът на декодиране в цикъл 3 вече съдържа "балон". Всичко зад лилавата инструкция също се забавя, но всичко пред лилавата инструкция продължава да се изпълнява.

Ясно е, че в сравнение с изпълнението по-горе, балонът дава общо време за изпълнение от 8 тактови часа вместо 7.

Бабълите са нещо като застой (забавяне), при който не се случва нищо полезно за извличането, декодирането, изпълнението и обратния запис. Това е като код NOP (съкращение от No OPeration).

Пример 1

Типична инструкция за събиране на две числа може да бъде ADD A, B, C, която събира стойностите, намиращи се в местата в паметта A и B, и след това поставя резултата в място в паметта C. В конвейерен процесор конвейерният контролер ще разбие това на поредица от задачи, подобни на:

LOAD A, R1 LOAD B, R2 ADD R1, R2, R3 STORE R3, C LOAD следваща инструкция

Местата 'R1' и 'R2' са регистри в процесора. Стойностите, съхранени в местата в паметта, обозначени като "A" и "B", се зареждат (копират) в тези регистри, след което се сумират и резултатът се съхранява в място в паметта, обозначено като "C".

В този пример конвейерът се състои от три етапа - зареждане, изпълнение и съхранение. Всеки от етапите се нарича етап на конвейера.

В непипелиран процесор може да работи само един етап в даден момент, така че цялата инструкция трябва да приключи, преди да започне следващата инструкция. При конвейерния процесор всички етапи могат да работят едновременно върху различни инструкции. Така че, когато тази инструкция е на етап изпълнение, втора инструкция ще бъде на етап декодиране, а трета инструкция ще бъде на етап извличане.

Пример 2

За да разберем по-добре концепцията, можем да разгледаме един теоретичен триетапен тръбопровод:

Етап	Описание
Зареждане	Инструкция за четене от паметта
Изпълнение на	Изпълнение на инструкция
Магазин	Съхраняване на резултата в паметта и/или регистрите

и псевдокод на асемблито, който трябва да бъде изпълнен:

Това е начинът, по който ще бъде изпълнена:

Часовник 1
Зареждане	Изпълнение на	Магазин
ЗАРЕЖДАНЕ

Инструкцията LOAD се извлича от паметта.

Часовник 2
Зареждане	Изпълнение на	Магазин
MOVE	ЗАРЕЖДАНЕ

Изпълнява се инструкцията LOAD, а инструкцията MOVE се извлича от паметта.

Часовник 3
Зареждане	Изпълнение на	Магазин
ADD	MOVE	ЗАРЕЖДАНЕ

Инструкцията LOAD е в етап Store, където резултатът от нея (числото 40) ще бъде съхранен в регистър A. Междувременно се изпълнява инструкцията MOVE. Тъй като тя трябва да премести съдържанието на A в B, тя трябва да изчака края на инструкцията LOAD.

Часовник 4
Зареждане	Изпълнение на	Магазин
МАГАЗИН	ADD	MOVE

Инструкцията STORE се зарежда, докато инструкцията MOVE приключва, а инструкцията ADD се изчислява.

И така нататък. Обърнете внимание, че понякога дадена инструкция зависи от резултата на друга инструкция (като примера с MOVE). Когато повече от една инструкция се позовава на определено място за операнд, като го чете (като вход) или записва (като изход), изпълнението на тези инструкции в ред, различен от първоначалния ред на програмата, може да доведе до ситуация на опасност (спомената по-горе).

Общ 4-етапен конвейер; цветните квадратчета представляват независими една от друга инструкции


Балон в цикъл 3 забавя изпълнението

Свързани страници

• Тръбопровод (изчислителна техника)
• Паралелни изчисления
• Паралелизъм на ниво инструкция