Како се перформансе вештачке интелигенције могу унапредити уз помоћ програмских језика, компајлера и напредних техника оптимизације?
Ово предавање представља савремене приступе оптимизацији AI система, са посебним фокусом на фузију оператора — технику која омогућава да се више операција машинског учења комбинује у једну ефикаснију целину. На тај начин побољшава се поновна употреба података и смањује потреба за преносом података из глобалне меморије, што је од изузетног значаја за рад на графичким процесорима.
У фокусу предавања биће Neptune, тензорски компајлер развијен за напредну фузију оператора у сложеним секвенцама редукција, као што су механизми пажње који се користе у савременим моделима вештачке интелигенције. За разлику од постојећих приступа, Neptune уводи нов начин оптимизације који омогућава ефикасније израчунавање и боље перформансе на различитим GPU архитектурама.
Биће приказано како Neptune, полазећи од обичног кода за варијанте механизама пажње, може да генерише операторе еквивалентне ручно писаним FlashAttention и FlashDecoding операторима. Резултати показују да Neptune надмашује постојеће компајлере и имплементације, укључујући Triton, TVM, FlexAttention и FlashAttention имплементације засноване на Triton-у. На различитим NVIDIA и AMD GPU архитектурама остварена су значајна убрзања, што показује потенцијал овог приступа за захтевна радна оптерећења у дубоком учењу.
Neptune је представљен на конференцији PLDI’26 и доступан је путем DOI линка
На крају предавања биће представљене и могућности за сарадњу кроз UIUC летње праксе и израду докторских дисертација.
Предавање ће одржати др Саша Мисаиловић, ванредни професор на Универзитету Илиноис Урбана-Шемпејн (University of Illinois Urbana-Champaign – UIUC), где ради након докторских студија на МИТ-у.
Његов рад обухвата програмске језике, компајлере и софтверско инжењерство, са фокусом на програмске системе за апликације у којима су шум у подацима, непоуздана комуникација, апроксимативно рачунање и неизвесност саставни део израчунавања. Такве апликације присутне су у бројним областима, укључујући вештачку интелигенцију, аналитику података, обраду мултимедије и роботику.
У последње време, главни фокус његове истраживачке групе је развој иновативних програмских система који AI апликације чине тачнијим, поузданијим, робуснијим и ресурсно ефикаснијим. Његов рад повезује компајлерску инфраструктуру за сложене AI системе, поуздано ограничено генерисање за велике језичке моделе, анализу робусности AI програма, као и синтезу и анализу софтвера који функционише у условима неизвесности.
Улаз је слободан.