Telum II и Spyre: Новите оръжия на IBM в битката за изкуствения интелект
IBM разгласи ново потомство изчислителни системи за изкуствен интелект – процесора Telum II и ускорителя IBM Spyre. Двата продукта са предопределени за ускорение на изкуствения разсъдък и възстановяване продуктивността на корпоративните приложения. Telum II предлага обилни усъвършенствания с увеличена кеш памет и високопроизводителни ядра. Ускорителят Spyre го добавя, като обезпечава още по-добра продуктивност за приложенията, основани на ИИ.
Според блога на компанията новият процесор IBM Telum II, създаден по 5-нанометровата технология на Samsung, ще разполага с осем високопроизводителни ядра, работещи с тактова периодичност 5,5 GHz. Кеш паметта на чипа е увеличена с 40%, като виртуалната L3 кеш памет е повишена до 360 Мбайта, а L4 кеш паметта – до 2,88 Гбайта. Допълнителните нововъведения включват интегриран модул за обработка на данни (DPU) за по-бързи входно-изходни интервенции и идващото потомство на вградения в чипа ускорител за изкуствен интелект.
Telum II предлага обилни усъвършенствания на продуктивността спрямо предходните генерации. Вграденият ускорител на изкуствен интелект обезпечава четири пъти по-голяма изчислителна мощност, достигайки 24 трилиона интервенции в секунда (TOPS). Архитектурата на ускорителя е усъвършенствана за огромните езикови модели и поддържа необятен набор от AI модели за сложен разбор на структурирани и текстови данни. Освен това новият процесор поддържа вида данни INT8 за по-добра изчислителна успеваемост. Същевременно на редовно равнище Telum II дава опция на всяко процесорно ядро да получи достъп до всеки от осемте AI ускорителя в границите на един модул, което разрешава по-ефективно балансиране на натоварването и реализиране на обща продуктивност от 192 TOPS.
IBM показа и ускорителя Spyre, създаден взаимно с IBM Research и IBM Infrastructure development. Spyre разполага с 32 AI ускорителни ядра с архитектура, сходна на тази на ускорителя, интегриран в чипа Telum II. Възможността за свързване на голям брой ускорители Spyre към I/O подсистемата на IBM Z посредством PCIe доста усилва наличните запаси за ускорение на AI задания.
Telum II и Spyre са проектирани да поддържат необятен набор от сюжети за ИИ, в това число метода ensemble AI. Този способ се възползва от едновременното потребление на голям брой ИИ модели, с цел да усъвършенства общата продуктивност и точността на прогнозиране. Пример за това е откриването на измами при застрахователни искове, при което обичайните невронни мрежи се комбинират сполучливо с огромните езикови модели, с цел да се усъвършенства успеваемостта на разбора.
Двата продукта бяха показани на 26-ти август на конференцията Hot Chips 2024 в Пало Алто, Калифорния, Съединени американски щати. Предвижда се те да бъдат пуснати на пазара през 2025 година Новите чипове на IBM сигурно ще ускорят развиването на изкуствения разсъдък.
