Groq називає свою архітектуру Tensor Streaming Processor (TSP). Два роки тому вона заявила, що найняла вісім із десяти людей, які розробляли Google Tensor Processing Unit (TPU).
Компанія залучила 62,3 мільйона доларів США.
Архітектура Groq еквівалентна. до одного квадрильйона операцій на секунду, або 1e15 ops/s і здатний виконувати до 250 трильйонів операцій з плаваючою комою на секунду (FLOPS).
«Провідні компанії GPU розповідали клієнтам, що вони сподівалися забезпечити продуктивність PetaOp/s протягом наступних кількох років; Groq оголошує про це сьогодні, — каже генеральний директор Groq Джонатан Росс, — архітектура Groq у багато разів швидша, ніж будь-що інше, доступне для висновків, з точки зору як низької затримки, так і висновків за секунду. У нас був перший кремній, увімкнення в перший день, програми, запущені протягом першого тижня, зразки для партнерів і клієнтів менш ніж за шість тижнів, з кремнієм A0, який почав виробництво»
Архітектура Groq TSP, орієнтована на програмне забезпечення, стверджує, що забезпечує гнучкість обчислень і масовий паралелізм без накладних витрат на синхронізацію традиційних архітектур GPU та CPU.
Архітектура Groq може підтримувати як традиційні, так і нові моделі машинного навчання, а також зараз працює на сайтах клієнтів як у системах x86, так і в системах, що не є x86.
Архітектура розроблена спеціально для вимог до продуктивності комп’ютерного зору, машинного навчання та інших робочих навантажень, пов’язаних зі ШІ.
< p>Планування виконання відбувається в програмному забезпеченні, звільняючи кремнієву нерухомість, яка в іншому випадку призначена для динамічного виконання інструкцій.
Жорсткий контроль, який забезпечує ця архітектура, забезпечує детерміновану обробку, яка особливо цінна для додатків, де безпека та точність є найважливішими.
Порівняно зі складними традиційними архітектурами на основі центральних процесорів, графічних процесорів і FPGA, мікросхема Groq також оптимізує кваліфікацію та розгортання, дозволяючи клієнтам спростити легко та швидко впроваджувати масштабовані системи з високою продуктивністю на ват.
Источник: electronicsweekly.com
