Amazon yeni TorchNeuron inkişaf aləti ilə Nvidia-da indiyədək ən böyük vuruşunu edir

Amazon yeni TorchNeuron tərtibat aləti Julie Bort ilə Nvidia-da indiyədək ən böyük zərbəni vurur. Bununla da Amazon, Nvidia-nın süni intellekt tətbiqləri üçün standart avadanlıq seçimi olmasına kömək edən və onun seçilən AI aparat təminatçısı kimi yüksəlişinə təkan verən proqram üstünlüyünə birbaşa zərbə vurur.

TorchNeuron, tərtibatçıların AI modellərini qurmaq, öyrətmək və idarə etmək üçün istifadə etdiyi pulsuz, açıq mənbə alət dəsti olan PyTorch ilə işləyir. O, PyTorch ilə yazılmış süni intellekt proqramlarına Amazon-a görə yalnız bir konfiqurasiya xəttini dəyişdirərək Trainium-da işləməyə imkan verir – kodun yenidən yazılması tələb olunmur.

Amazon deyir ki, AI proqramlarının təxminən 85%-i PyTorch ilə yazılır. Facebook əvvəlcə onu inkişaf etdirdi, lakin 2022-ci ildən bəri açıq mənbəli layihələri saxlayan Linux Fondunun bir hissəsidir. Nvidia, CUDA proqramını təmin etmək üçün illər sərf etdi - tətbiqlərin Nvidia GPU-larında və onun digər avadanlıqlarında işləməyə imkan verən proqram infrastrukturu - PyTorch ilə yazılmış süni intellekt proqramlarını qüsursuz şəkildə dəstəkləyir. Nəticə etibarı ilə Nvidia-nın aparatı indi alətlər dəstinə, mahiyyət etibarilə, dərindən daxil edilmişdir.

TorchNeuron PyTorch-dan uyğunlaşdırılıb, ona görə də PyTorch-u bilən tərtibatçılar ondan necə istifadə edəcəyini artıq bilirlər. Amazon, çiplərini platformaya asanlıqla gətirməyə çalışan ilk şirkət deyil. PyTorch istifadəçiləri həmçinin sadə konfiqurasiya dəyişikliyi ilə proqramlarını AMD GPU-larına və ya hətta Apple-ın çiplərinə köçürə bilərlər.

Bununla belə, Amazon iddia edir ki, Trainium-a keçid təkcə asan deyil, həm də AI startaplarına Amazon-un bütün buluduna giriş imkanı verir. Təəccüblü deyil ki, AWS bunun bir çox Nvidia və CoreWeave, Nebius və Firmus kimi aparatlarına bağlı olan neokloudlardan istifadə etməkdənsə startaplar üçün daha yaxşı seçim olduğunu iddia edir.

"Siz AWS üzərində qurursunuz. Siz tək məqsədli hesablama provayderinə mərc etmirsiniz və onun ətrafında hər şeyi qurmaq üçün səy göstərmirsiniz" deyə AWS Annapurna Labs (Amazon-un fərdi çiplərini hazırlayan bölmə) texnologiya proqram təminatı üzrə vitse-prezidenti Colin Brace e-poçt vasitəsilə TechCrunch-a bildirib. "AWS-də," o, davam etdi, "prototipdən istehsala keçmək üçün infrastruktur artıq mövcuddur və təsisçiyə lazım olduqda sürətlə hərəkət etməyə və miqyas almağa imkan verir."

AWS deyir ki, eyni çip həm təlim (süni intellekt modelini öyrətmək), həm də nəticə çıxarmaq (istifadəçinin sualına cavab verən zaman hazır modeli işə salmaq) və startapların ehtiyac duyduğu bulud infrastrukturu ilə sıx inteqrasiya olunduğu üçün, AWS hər nişanə görə ən ucuz qiymət təklif etməsə belə, onun buludları onlara pula qənaət edəcək.

"Trainiumun dəyəri qiymət-performansdır və həm təlim, həm də nəticə çıxarmaq üçün bir platformadır ki, bu da tam iş yükü ilə iqtisadiyyatı yaxşılaşdırır" dedi Brace. "Deepgram-a baxın - onlar yerli PyTorch dəstəyindən istifadə edərək Trainium-a keçdilər və istehsal səviyyəsində dəqiqliklə hər dollar üçün 70% daha çox audio emal edirlər." Deepgram, ElevenLabs-a rəqib olan süni intellektlə səsli proqram təminatçısıdır.

Lakin Amazon sadəcə PyTorch proqram tərtibatçılarına buluduna keçmək üçün asan seçim verməklə kifayətlənmir.

Amazon həmçinin deyir ki, PyTorch-u Nvidia-da daha az avtomatik mərkəzləşdirməyə sövq edir və o, əsas PyTorch layihəsinə bunu etmək üçün kodu kömək edəcək. Yeni aləti elan edən blog yazısında şirkət yazıb:

Amazonun yanaşması öz avadanlıqlarından kənara çıxır. Şirkət PyTorch-un özündə dəyişikliklərə töhfə verir, PyTorch icması ilə çərçivəni xüsusi çiplərə bağlayan kodu aradan qaldırmaq üçün işləyir. Məqsəd PyTorch-u təkcə Trainium istifadəçiləri deyil, bütün tərtibatçılar icması üçün daha hardware-aqnostik etməkdir.

Belə bir taktika, şübhəsiz ki, Nvidia ilə rəqabət aparan aparat və bulud xidmətləri satanlar üçün yaxşı olsa da, PyTorch-un məqamlarından biri AI kodunun aparatda işləməsi üçün bütün sinir bozucu çətinlikləri gizlətməkdir. Gözləyib görməliyik ki, Nvidia-nı bu qədər uzağa itələmək, Amazonun vəd etdiyi kimi tərtibatçılara daha çox seçim və daha sərfəli seçimlər verəcək, yoxsa daha çox konfiqurasiya baş ağrısı verəcək.

İstənilən halda, Amazon PyTorch-u Nvidia-dan dərindən ayırmağı bacararsa, bunun GPU nəhəngi üçün sadəcə çip rəqibləri ilə məşğul olmaqdan daha böyük nəticələri ola bilər. Brace dediyi kimi: "Əsl hekayə, tərtibatçıların əldə etməsinə mane olan kilidi aradan qaldırmaqdır