ЖАСАНДЫ ИНТЕЛЛЕКТ ПЕН МАШИНАЛЫҚ ОҚЫТУ ЖҮЙЕЛЕРІНЕ АРНАЛҒАН АЛГОРИТМДЕРДІ ӘЗІРЛЕУ ЖӘНЕ ОҢТАЙЛАНДЫРУ

Аңдатпа

Соңғы жылдары нейрондық желі модельдерін оңтайландыру машиналық оқыту саласында маңызды мәселе болып отыр. Модельдердің көлемі мен есептеу талаптары өскен сайын, жоғары дәлдікті сақтай отырып, модель көлемін азайтуға және инференсті жеделдетуге мүмкіндік беретін әдістерді дамыту қажеттілігі туындайды. Зерттеудің мақсаты — терең оқыту модельдерін оңтайландырудың кешенді тәсілін әзірлеу және тәжірибелік тексеру, оған итеративті салмақтарды қысқарту, оқыту кезінде квантизация (QAT) және гиперпараметрлерді баптау кіреді. Міндеттері: әрбір әдістің дәлдікке, жылдамдыққа, көлемге және энергия тұтынуға әсерін бағалау; әдістерді біріктіруді зерттеу; әртүрлі архитектуралар мен датасеттерге бейімделуін тексеру. Эксперименттер көрсеткендей, кешенді тәсіл модель көлемін орташа 2,6–3,8 есе, инференс уақытын 2–2,5 есе азайтуға, энергия тұтынуды 3–4 есе төмендетуге мүмкіндік береді, дәлдік жоғалтуы минималды (<1%). Масштабталуы ResNet18 және CIFAR-10 моделдерінде расталды. Соңғы дәлдік бастапқы деңгейдің 99–99,5%-ында сақталады, қате үлгілері бұзылмайды. Әзірленген кешенді оңтайландыру әдісі тиімді, әмбебап және компьютерлік көру және мобильді инференс үшін қолданылады. Алынған нәтижелер ресурсы шектеулі құрылғыларда, бұлтты сервистерде және интерактивті жүйелерде оңтайландырылған модельдерді енгізу перспективаларын ашады.